सैम ऑल्टमैन के नेतृत्व वाले ओपनएआई ने स्वीकार किया है कि पिछले हफ्ते एआई प्लेटफॉर्म हगिंग फेस को निशाना बनाने वाले हैकिंग प्रयास के लिए उसके एआई मॉडल जिम्मेदार थे। घटना पर एक आधिकारिक बयान साझा करते हुए, चैटजीपीटी-निर्माता ने कहा कि यह घटना उन्नत साइबर क्षमताओं को मापने के लिए डिज़ाइन किए गए एक आंतरिक परीक्षण के दौरान हुई। ओपनएआई ने कहा, “पिछले हफ्ते, हगिंग फेस ने एक नई तरह की सुरक्षा घटना का खुलासा किया (एक नई विंडो में खुलता है) जब उन्होंने एक एआई एजेंट का पता लगाया और उसमें शामिल थे, जिसने उनके बुनियादी ढांचे से समझौता किया था, हम तेजी से साइबर-सक्षम मॉडल के प्रसार के साथ और अधिक सामान्य होने की उम्मीद करते हैं।” “जांच के बाद, अब हम जानते हैं कि यह विशेष घटना ओपनएआई मॉडल के संयोजन द्वारा संचालित थी – जिसमें जीपीटी‑5.6 सोल और एक और भी अधिक सक्षम प्री-रिलीज़ मॉडल शामिल है, सभी मूल्यांकन उद्देश्यों के लिए कम साइबर इनकार के साथ – साइबर क्षमताओं के बेंचमार्क (एक नई विंडो में खुलता है) पर आंतरिक रूप से परीक्षण किए जाने के दौरान,” एआई कंपनी ने कहा।ओपनएआई के अनुसार, एआई मॉडल ने कई कमजोरियों का पता लगाया और उनका फायदा उठाया, इंटरनेट तक पहुंच हासिल की और हगिंग फेस के उत्पादन सिस्टम से डेटा पुनर्प्राप्त करने का प्रयास किया। कंपनी ने इसे “अभूतपूर्व साइबर घटना” कहा और कहा कि उसने हगिंग फेस के साथ अपनी जांच जारी रखते हुए अपने सुरक्षा उपायों को मजबूत किया है।“हम इस घटना को एक अभूतपूर्व साइबर घटना मानते हैं, जिसमें अत्याधुनिक साइबर क्षमताएं शामिल हैं, और तदनुसार प्रतिक्रिया दे रहे हैं। हम इस स्तर पर प्रारंभिक निष्कर्षों को साझा कर रहे हैं ताकि बचावकर्ताओं को यह समझने में मदद मिल सके कि क्या हुआ और कौन से मॉडल अब सक्षम हैं। हम हगिंग फेस के साथ गहन जांच करना जारी रखेंगे और हमारी जांच पूरी होने पर कमजोरियों, घटना और निष्कर्षों पर अधिक विवरण साझा करेंगे।”

हगिंग फेस हैकिंग घटना के बारे में OpenAI ने क्या कहा है

इस घटना के दौरान क्या हुआयह घटना एक आंतरिक मूल्यांकन के दौरान हुई जो मॉडलों को उनकी साइबर क्षमताओं को मापने के प्रयास में, जटिल हमले पथों का उपयोग करके उन्नत शोषण करने के लिए प्रेरित करती है। हम मॉडलों को उच्च जोखिम वाली साइबर गतिविधि को आगे बढ़ाने से रोकने के लिए उपयोग किए जाने वाले उत्पादन वर्गीकरण के बिना इस मूल्यांकन को चलाकर अधिकतम साइबर क्षमताओं का अनुमान लगाते हैं। हमारे बेंचमार्क अत्यधिक पृथक वातावरण में चलते हैं, जिसमें नेटवर्क एक्सेस आंतरिक रूप से होस्ट किए गए तृतीय-पक्ष सॉफ़्टवेयर के माध्यम से पैकेज स्थापित करने की क्षमता तक सीमित है जो पैकेज रजिस्ट्रियों के लिए प्रॉक्सी और कैश के रूप में कार्य करता है।मॉडल ने हगिंग फेस के उत्पादन डेटाबेस से सीधे परीक्षण समाधान प्राप्त करने के लिए ओपनएआई के अनुसंधान वातावरण और हगिंग फेस के उत्पादन बुनियादी ढांचे में कमजोरियों की पहचान की और उन्हें श्रृंखलाबद्ध किया। सभी सबूतों से पता चलता है कि मॉडल एक्सप्लॉइटजिम के लिए एक समाधान खोजने पर अत्यधिक ध्यान केंद्रित कर रहे थे, बल्कि एक संकीर्ण परीक्षण लक्ष्य को प्राप्त करने के लिए अत्यधिक प्रयास कर रहे थे।हमारे सैंडबॉक्स परीक्षण वातावरण में काम करते समय, हमारे मॉडलों ने मूल्यांकन समस्या को हल करने के लिए, खुली इंटरनेट पहुंच प्राप्त करने का एक तरीका खोजने में पर्याप्त मात्रा में अनुमान गणना खर्च की। पहुंच प्राप्त करने के लिए, मॉडलों ने पैकेज रजिस्ट्री कैश प्रॉक्सी में शून्य-दिन की भेद्यता (जिसे हमने अब विक्रेता को जिम्मेदारी से प्रकट किया है) की पहचान की और उसका फायदा उठाया। इस पहुंच के साथ, हमारे मॉडलों ने हमारे अनुसंधान परीक्षण वातावरण में विशेषाधिकार वृद्धि और पार्श्व आंदोलन क्रियाओं की एक श्रृंखला का प्रदर्शन किया जब तक कि मॉडल इंटरनेट एक्सेस के साथ एक नोड तक नहीं पहुंच गए।इंटरनेट एक्सेस प्राप्त करने के बाद, मॉडलों ने अनुमान लगाया कि हगिंग फेस संभावित रूप से एक्सप्लॉइटजिम के लिए मॉडल, डेटासेट और समाधान होस्ट करता है। यह जानते हुए, मॉडल ने गुप्त जानकारी तक पहुंच प्राप्त करने के तरीकों की खोज की और सफलतापूर्वक उन्हें ढूंढ लिया, जिनका उपयोग वह मूल्यांकन को धोखा देने के लिए कर सकता था। एक उदाहरण में, मॉडल ने कई आक्रमण वैक्टरों को एक साथ श्रृंखलाबद्ध किया, जिसमें हगिंग फेस सर्वर पर रिमोट कोड निष्पादन पथ खोजने के लिए चोरी किए गए क्रेडेंशियल्स और शून्य-दिन की कमजोरियों का उपयोग करना शामिल है। OpenAI की सुरक्षा टीम ने आंतरिक रूप से इस असामान्य गतिविधि की खोज की।हगिंग फेस की सुरक्षा टीम और एजेंटों ने अपने बुनियादी ढांचे पर गतिविधि का पता लगाया और रोक दिया और जब हमारी टीमें जुड़ीं तो उन्होंने अपने स्वयं के ओपन-सोर्स मॉडल के साथ रोकथाम और फोरेंसिक पुनर्निर्माण शुरू कर दिया था। हम घटना की जांच जारी रखने के लिए उनके साथ सक्रिय रूप से काम कर रहे हैं। हम जांच और उपचार पर हगिंग फेस के त्वरित और करीबी सहयोग के लिए आभारी हैं।अब हम जो कार्रवाई कर रहे हैंजांच के हिस्से के रूप में, हम अनुसंधान वेग की कीमत पर बुनियादी ढांचे के विन्यास में सख्त नियंत्रण लागू कर रहे हैं, जबकि कमजोरियों को ठीक किया जा रहा है। हम अपनी सुरक्षा एवं संरक्षा समिति को इन नियंत्रणों और उनके प्रभाव के बारे में नियमित रूप से जानकारी दे रहे हैं।

उन्नत साइबर क्षमताओं के मूल्यांकन के लिए हमारा दृष्टिकोणजैसा कि हमने हाल ही में साझा किया है, एआई कमजोरियों की खोज और शोषण में तेजी ला रहा है। इस घटना से प्राथमिक सबक यह है कि मॉडल सुरक्षा और सुरक्षा को तेजी से आगे बढ़ने वाली क्षमताओं के साथ तालमेल रखना चाहिए। हम मॉडल विकास के दौरान उपयोग की जाने वाली रोकथाम, निगरानी, ​​पहुंच नियंत्रण और मूल्यांकन प्रथाओं को मजबूत कर रहे हैं।यूके एआईएसआई के मूल्यांकन से पता चलता है कि जीपीटी‑5.6 सोल जैसे मॉडल लंबे समय तक जटिल, बहु-चरणीय साइबर संचालन को बनाए रखने में सक्षम हैं। इस घटना से पता चलता है कि ये सैद्धांतिक क्षमताएं वास्तविक दुनिया की सेटिंग में लागू होती हैं।यूके एआई सुरक्षा संस्थान का चार्ट हाल के ओपन-वेट मॉडल और लंबी-क्षितिज साइबर रेंज पर फ्रंटियर मॉडल की तुलना करता है।यह घटना यह भी स्पष्ट करती है कि उन्नत मॉडल स्रोत-कोड पहुंच के बिना वास्तविक दुनिया प्रणालियों में नए हमले पथों की खोज और शोषण कर सकते हैं। यह इस बात पर प्रकाश डालता है कि मजबूत सुरक्षा उपायों और रक्षात्मक उपकरणों के साथ-साथ उन्नत साइबर क्षमताओं को भी विकसित किया जाना चाहिए।हमारा मानना ​​​​है कि उन्नत साइबर सक्षम मॉडलों को सुरक्षा टीमों को हमलावरों से पहले कमजोरियों का पता लगाने में मदद करने की जरूरत है, समझें कि कमजोरियों को कैसे जंजीर में बांधा जा सकता है, और उन्हें मशीन की गति से ठीक किया जा सकता है। हम इन क्षमताओं का उपयोग बुनियादी ढांचे के विन्यास और मॉडल मूल्यांकन वातावरण के आसपास सुरक्षा को मजबूत करना जारी रखने के लिए कर रहे हैं; जैसे ही हम सीखेंगे हम अपने निष्कर्षों और सर्वोत्तम प्रथाओं को साझा करेंगे। हम अन्य रक्षकों को विश्वसनीय पहुंच के लिए आवेदन करने और इन क्षमताओं को बेहतर रोकथाम, तेजी से पता लगाने और अधिक प्रभावी घटना प्रतिक्रिया में अनुवाद करने के लिए इन मॉडलों के साथ प्रयोग करने के लिए प्रोत्साहित करते हैं।