कथित तौर पर OpenAI द्वारा विकसित एक AI एजेंट ने AI कंपनी हगिंग फेस को हैक कर लिया और कई दिनों तक काम करता रहा, इससे पहले कि OpenAI को पता चले कि क्या हुआ था। एआई एजेंट को निर्णय लेने और जटिल कार्यों को बहुत कम या बिना किसी मानवीय सहायता के पूरा करने के लिए डिज़ाइन किया गया था।

जैसा कि रिपोर्ट किया गया है, एआई एजेंट ने पहली बार 9 जुलाई के आसपास ओपनएआई में अपने पृथक परीक्षण वातावरण से बचने की कोशिश की रॉयटर्सजांच से परिचित दो लोगों का हवाला देते हुए। परीक्षण वातावरण छोड़ने के बाद, एआई एजेंट ने कथित तौर पर हगिंग फेस को निशाना बनाया, जो दुनिया भर में डेवलपर्स द्वारा उपयोग किए जाने वाले एआई मॉडल और टूल होस्ट करती है।

OpenAI ने 21 जुलाई को सार्वजनिक रूप से खुलासा किया कि उसका एक AI एजेंट उसके परीक्षण नियंत्रण से बच गया था और हगिंग फेस में सेंधमारी को अंजाम दिया था। एआई एजेंट कितने समय तक दुष्ट रहा और ओपनएआई को अपनी भूमिका कितनी देर से पता चली, सहित कई विवरण पहली बार रिपोर्ट किए जा रहे हैं। थॉमस वुल्फ ने कहा कि हगिंग फेस हैकिंग घटना की व्याख्या करते हुए एक सार्वजनिक टाइमलाइन तैयार कर रहा है, लेकिन उन्होंने कहा कि ओपनएआई के अंदर क्या हुआ, इस पर वह टिप्पणी नहीं कर सकते।

यह भी पढ़ें: अमेरिकियों ने चीनी एआई की ओर रुख किया क्योंकि ट्रम्प की सख्ती के बावजूद सस्ते मॉडल चैटजीपीटी और क्लाउड को चुनौती दे रहे हैं

गैर-लाभकारी वर्ल्ड एथिकल डेटा फाउंडेशन के प्रमुख खुफिया विशेषज्ञ मार्ले स्मिथ ने सवाल किया कि ओपनएआई एआई एजेंट के कार्यों से कैसे चूक गया। स्मिथ ने कहा, “क्या इसका मतलब यह है कि उन्होंने इसे लावारिस छोड़ दिया और यह महसूस नहीं किया कि यह क्या कर रहा था? या शायद उन्होंने ऐसा किया और नहीं जानते थे कि इसे कैसे रोका जाए? दोनों समान रूप से खतरनाक और चिंताजनक हैं”, रॉयटर्स के माध्यम से।

ओपनएआई की प्रशिक्षण प्रक्रिया से परिचित चार लोगों ने रॉयटर्स को बताया कि कंपनी अक्सर एक ही समय में कई एआई मूल्यांकन चलाती है, जिससे भारी मात्रा में डेटा तैयार होता है जिसे मॉनिटर करने के लिए कर्मचारियों को कभी-कभी संघर्ष करना पड़ता है। जब तक OpenAI ने संपर्क किया हगिंग फेस कंपनी ने एफबीआई को साइबर हमले की जानकारी पहले ही दे दी थी.

पैलिसेड रिसर्च के जेफरी लैडिश ने कहा, “मॉडल झूठ बोलते हैं, वे धोखा देते हैं, वे हैक करते हैं।” लैडिश ने कहा कि हगिंग फेस घटना से नेतृत्व करने के बारे में व्यापक चर्चा होनी चाहिए एआई कंपनियां अधिक शक्तिशाली एआई सिस्टम जारी करने की प्रतिस्पर्धा करते हुए सुरक्षा में पर्याप्त निवेश कर रही हैं। रॉयटर्स के अनुसार, लैडिश ने कहा, “सरकारी निगरानी होनी चाहिए, क्योंकि अन्यथा ऐसा नहीं होगा”।