ओपन-वेट एआई मॉडल पर बढ़ती उद्योग बहस के बीच एंथ्रोपिक सीईओ डारियो अमोदेई ने अपनी कंपनी के रुख को स्पष्ट करने की मांग की है। एक ब्लॉग पोस्ट में, अमोदेई ने कहा कि एंथ्रोपिक ने “ओपन-वेट मॉडल पर प्रतिबंध की कभी वकालत नहीं की है,” इस आलोचना का जवाब देते हुए कि कंपनी कृत्रिम बुद्धिमत्ता के भविष्य पर अत्यधिक नियंत्रण स्थापित करने की कोशिश कर रही है। उनकी टिप्पणियाँ एनवीडिया, माइक्रोसॉफ्ट, मेटा, पलान्टिर और अन्य द्वारा पिछले सप्ताह हस्ताक्षरित एक गठबंधन पत्र का अनुसरण करती हैं, जिसमें नीति निर्माताओं से ओपन-वेट मॉडल पर “समयपूर्व प्रतिबंध” से बचने का आग्रह किया गया है। ये मॉडल, जिन्हें उपयोगकर्ता डाउनलोड कर सकते हैं, संशोधित कर सकते हैं और स्वतंत्र रूप से चला सकते हैं, एक फ्लैशप्वाइंट बन गए हैं क्योंकि चीनी स्टार्टअप इस क्षेत्र पर हावी हैं और अमेरिकी अधिकारी संभावित प्रतिबंधों पर विचार कर रहे हैं।

एंथ्रोपिक की स्थिति: प्रतिबंध के लिए नहीं, बल्कि…

पोस्ट में, अमोदेई ने कहा कि वास्तविक ध्यान इस पर होना चाहिए:

एंथ्रोपिक ने पहले अमेरिकी सीनेट को चेतावनी दी थी कि उसने इसे चीन के अलीबाबा द्वारा अपने क्लाउड मॉडल के खिलाफ किए गए “सबसे बड़े ज्ञात आसवन हमले” के रूप में वर्णित किया है।अमोदेई ने आगे कहा कि वह गठबंधन पत्र के कुछ हिस्सों से सहमत हैं, जिसमें ओपन0वेट मॉडल पहुंच का विस्तार करना, प्रतिस्पर्धा को मजबूत करना और ग्राहकों को अधिक नियंत्रण प्रदान करना भी शामिल है। लेकिन वह इस दावे से असहमत थे कि ओपन-0राइट मॉडल स्वाभाविक रूप से हमलावरों के मुकाबले साइबर रक्षकों का पक्ष लेते हैं या सुरक्षा उपायों को विकसित करना आसान बनाते हैं। “संरक्षणवादी प्रतिबंध मेरी सबसे गंभीर राष्ट्रीय सुरक्षा चिंताओं को संबोधित नहीं करेंगे,” अमोदेई ने लिखा, यह स्पष्ट करते हुए कि एंथ्रोपिक व्यापक प्रतिबंधों के बजाय लक्षित कानूनी ढांचे का समर्थन करता है। उनकी टिप्पणियाँ एआई उद्योग में खुलेपन, नवाचार और सुरक्षा को संतुलित करने के तरीके पर बढ़ते विभाजन को उजागर करती हैं।

एंथ्रोपिक सीईओ डारियो अमोदेई की पूरी पोस्ट यहां पढ़ें

एंथ्रोपिक सीईओ डारियो अमोदेई की एक पोस्टपिछले कुछ दिनों से ओपन-वेट मॉडलों, खासकर चीन के मॉडलों के बारे में काफी चर्चा हो रही है। रिपोर्टों से पता चलता है कि कुछ अमेरिकी अधिकारी अमेरिकी कंपनियों द्वारा चीनी ओपन-वेट मॉडल के उपयोग पर प्रतिबंध लगाने पर विचार कर रहे हैं। जवाब में, कई तकनीकी कंपनियों ने ओपन-वेट मॉडल का समर्थन करते हुए एक पत्र पर हस्ताक्षर किए हैं, और कुछ लोगों ने एंथ्रोपिक पर हमारे व्यवसाय की सुरक्षा के साधन के रूप में ओपन-वेट मॉडल पर प्रतिबंध लगाने की इच्छा रखने का भी आरोप लगाया है। जिस किसी ने भी मेरा पिछला लेखन पढ़ा है, उसे पता होना चाहिए कि मैं ऐसे प्रतिबंधों को उपयोगी उपाय नहीं मानता, लेकिन मैं इसे स्पष्ट रूप से बता दूं ताकि कोई संदेह न रहे: एंथ्रोपिक ने कभी भी ओपन-वेट मॉडल पर प्रतिबंध की वकालत नहीं की है।ओपन-वेट मॉडल जिनमें खतरनाक क्षमताएं नहीं होती हैं, वे एक सार्वजनिक वस्तु हैं: उन्हें चलाने के लिए आवश्यक गणना के अलावा कुछ भी खर्च नहीं होता है, और वे व्यवसायों, डेवलपर्स और शोधकर्ताओं को मूल्य प्रदान करते हैं।संरक्षणवादी प्रतिबंध मेरी सबसे गंभीर राष्ट्रीय सुरक्षा चिंताओं का समाधान नहीं करेंगे। विशेष रूप से, मैं दो दुःस्वप्न परिदृश्यों के बारे में चिंतित हूँ। मैंने इन्हें छह महीने पहले अपने निबंध प्रौद्योगिकी की किशोरावस्था में रखा था, और कई वर्षों से लगातार इन पदों पर बना हुआ हूं:मेरी प्राथमिक चिंता यह जोखिम है कि सत्तावादी सरकारें – न केवल चीनी कम्युनिस्ट पार्टी (सीसीपी), हालांकि सीसीपी स्पष्ट रूप से सबसे सक्षम खतरा है – ऐसे एआई मॉडल का निर्माण करें जो अमेरिका द्वारा बनाए गए मॉडल से अधिक शक्तिशाली हों, और उनका उपयोग स्थायी सैन्य श्रेष्ठता हासिल करने या अपने ही लोगों का अविश्वसनीय रूप से गहरा दमन करने के लिए करें। यह चिंता अमेरिकी सरकार के भीतर व्यापक रूप से साझा की जाती है: उपराष्ट्रपति वेंस पिछले साल पेरिस में चेतावनी दी गई थी कि “सत्तावादी शासन ने अपनी सैन्य, खुफिया और निगरानी क्षमताओं को मजबूत करने के लिए एआई की चोरी की है और इसका इस्तेमाल किया है,” और इंटेलिजेंस कम्युनिटी के 2026 वार्षिक खतरे के आकलन में पाया गया कि “एआई में अन्य वैश्विक शक्तियों की मजबूत प्रगति अमेरिकी आर्थिक प्रतिस्पर्धा और राष्ट्रीय सुरक्षा लाभों को चुनौती दे रही है।” यह अप्रासंगिक है कि क्या ये मॉडल खुले वजन के साथ जारी किए जाते हैं, और निश्चित रूप से अप्रासंगिक है कि क्या इनका उपयोग अमेरिकी व्यवसायों द्वारा किया जाता है। वास्तव में, सबसे खतरनाक मॉडल वह हो सकता है जिसे गुप्त रूप से प्रशिक्षित किया जाता है और ड्रोन में उपयोग के लिए केवल पीपुल्स लिबरेशन आर्मी और निगरानी और दमन के लिए राज्य सुरक्षा मंत्रालय को सौंपा जाता है।मेरी दूसरी चिंता यह जोखिम है कि साइबर हमलों या जैविक हमलों को अंजाम देने के लिए शक्तिशाली एआई मॉडल का दुरुपयोग किया जा सकता है, और गंभीर संरेखण समस्याएं हो सकती हैं। ओपन-वेट मॉडल – इससे कोई फर्क नहीं पड़ता कि वे चीन से आते हैं या कहीं और – संभावित रूप से बंद मॉडल की तुलना में अधिक जोखिम पेश करते हैं, क्योंकि उन पर रेलिंग लगाना या उनके उपयोग की निगरानी करना बहुत मुश्किल है, और एक बार वजन जारी होने के बाद उन्हें वापस नहीं लिया जा सकता है2। लेकिन अमेरिकी व्यवसायों द्वारा इन मॉडलों के उपयोग पर प्रतिबंध लगाने से इस जोखिम का समाधान नहीं होता है, क्योंकि बुरे अभिनेताओं के वैध अमेरिकी व्यवसाय होने की संभावना नहीं है। यह अमेरिकी एआई कंपनियों को प्रतिस्पर्धा से बचाएगा, लेकिन यह मेरा लक्ष्य कभी नहीं रहा।इन चिंताओं को दूर करने के लिए, मैं निम्नलिखित तीन उपायों का समर्थन करता हूं, जिनकी मैंने और एंथ्रोपिक ने लगातार वकालत की है:हमें चीन को शक्तिशाली चिप्स या चिप बनाने के उपकरण नहीं बेचने चाहिए, और हमें ऐसे चिप्स तक पहुंच प्राप्त करने के लिए बड़े पैमाने पर होने वाली तस्करी और समाधानों पर नकेल कसनी चाहिए। चीन की घरेलू उत्पादन क्षमता सीमित है, और इसलिए, स्केलिंग कानूनों के कारण, वह यूएस चिप्स के बिना अमेरिका से अधिक शक्तिशाली मॉडल नहीं बना सकता है। यह खतरे #1 को रोकने का सबसे कुशल और सीधा तरीका है, और अमेरिकी कानून की पहुंच से बाहर मॉडलों के प्रशिक्षण में बाधा डालकर, यह अप्रत्यक्ष रूप से खतरे में मदद भी करता है।हमें औद्योगिक पैमाने पर आसवन कार्यों पर रोक लगानी चाहिए। शुरुआत से मॉडलों को प्रशिक्षित करने की तुलना में आसवन एक अधिक गणना-कुशल प्रक्रिया है। यह चीन को उसके चिप्स की सामान्य संख्या से कहीं बेहतर मॉडल बनाने की अनुमति देता है, और इस प्रकार आंशिक रूप से चिप प्रतिबंध से बच जाता है। आसवन सीसीपी को अमेरिका के समकक्ष या बेहतर एआई क्षमताएं प्राप्त करने की अनुमति नहीं देता है, लेकिन यह चीनी सीमा को अमेरिकी सीमा के कुछ महीनों के भीतर ला सकता है। यह सच है कि इन ऑपरेशनों को अंजाम देने वाली कई कंपनियां ओपन-वेट मॉडल जारी करती हैं – लेकिन ओपन वेट इस तथ्य से बहुत कम प्रासंगिक हैं कि ऑपरेशन को एक सत्तावादी राज्य का समर्थन प्राप्त है जो सीमा पर अमेरिका से आगे निकलने की कोशिश कर रहा है। इस व्यवहार को रोकने के लिए हमें नीतिगत हस्तक्षेप करना चाहिए। ओपन-वेट मॉडलों पर पूर्ण प्रतिबंध न तो सही उपाय है और न ही हमने इसकी मांग की है।सभी पर्याप्त रूप से सक्षम मॉडल, खुले और बंद, को अनिवार्य सुरक्षा परीक्षण से गुजरना चाहिए। खतरे #2 से निपटने का सबसे अच्छा तरीका है कि रिलीज़ से पहले सीधे साइबर, जैविक और संरेखण जोखिमों के लिए मॉडल का परीक्षण किया जाए। मुझे लगता है कि यह विचार वास्तव में आम सहमति के करीब है: मुझे इस बात से खुशी हुई है तुस्र्प प्रशासन हाल के महीनों में इस दिशा में आगे बढ़ा है, और हाल के उद्योग प्रस्तावों द्वारा इस तरह के परीक्षण को सबसे सक्षम मॉडलों पर लागू किया जाएगा, भले ही उनका मूल देश कुछ भी हो या वे खुले हों या बंद हों (कम सक्षम मॉडलों को छूट देते हुए, जैसे कि स्टार्टअप और शिक्षाविदों से, पूरी तरह से)। खुले मॉडल बढ़ते जोखिम पैदा करते हैं या नहीं, और क्या उस जोखिम को कम किया जा सकता है, यह कुछ ऐसा है जो परीक्षण से सामने आना चाहिए, न कि पहले से तय किया जाना चाहिए – और ओपन-वेट मॉडल की सुरक्षा में सुधार के लिए आशाजनक तरीके हो सकते हैं, जिसमें मॉड्यूलर प्रशिक्षण रणनीतियों पर एंथ्रोपिक का हालिया शोध भी शामिल है। ध्यान दें कि प्रभावी होने के लिए, परीक्षण को वैश्विक होना होगा, जिसका अर्थ है कि सीसीपी को भी इसमें शामिल होना होगा। मुझे लगता है कि यह वास्तव में संभव हो सकता है: जैसा कि मैंने द एडोलसेंस ऑफ टेक्नोलॉजी में लिखा था, एआई जैविक हथियारों को रोकने के लिए सीमित सहयोग संभव हो सकता है क्योंकि यह चीन के भी हित में है।यह मुझे खुले पत्र की ओर ले जाता है। मैं इसमें से अधिकांश से सहमत हूं: ओपन वेट एआई अर्थव्यवस्था तक पहुंच का विस्तार करते हैं, वे कम से कम कुछ उपयोग के मामलों में प्रतिस्पर्धा को मजबूत करते हैं, और वे ग्राहकों को अधिक नियंत्रण देते हैं। आसवन के बारे में चिंताओं को लक्षित कानूनी और वाणिज्यिक ढांचे के माध्यम से संबोधित किया जाना चाहिए – वही उपाय जो मैंने ऊपर वर्णित किया है। लेकिन मैं पत्र के इस दावे से सहमत नहीं हूं कि ओपन-वेट मॉडल आवश्यक रूप से सुरक्षा उपाय विकसित करना आसान बनाते हैं या क्षमताओं तक व्यापक पहुंच आवश्यक रूप से हमलावरों की तुलना में रक्षकों को अधिक मदद करती है। कम से कम मुझे तो यही लगता है कि विपरीत सत्य होगा। उदाहरण के लिए, मुझे चिंता है कि जीव विज्ञान में एक मजबूत हमलावर-रक्षक विषमता होगी, जहां पर्याप्त रूप से सक्षम मॉडल व्यापक रूप से उपलब्ध सामग्रियों के साथ महामारी-स्तर के वायरस को जल्दी से हथियार बनाने में सक्षम हो सकते हैं, जबकि इन एजेंटों के खिलाफ बचाव सबसे अच्छे मामले में एक बहु-वर्षीय परिचालन कार्य है (जैसा कि हमने ऑपरेशन वार्प स्पीड के साथ देखा)5। इस तरह के प्रश्नों का उत्तर अनुभवजन्य रूप से कठोर प्री-रिलीज़ परीक्षण द्वारा दिया जाना चाहिए, न कि पहले से अनुमान लगाया जाना चाहिए।मेरी और एंथ्रोपिक की स्थिति को सारांशित करने के लिए, हमने एक श्रेणी के रूप में ओपन-वेट मॉडल पर प्रतिबंध की वकालत नहीं की है और न ही कर रहे हैं। इसके बजाय हमें शक्तिशाली चिप्स को सत्तावादी हाथों से दूर रखने, औद्योगिक पैमाने पर आसवन को रोकने और खुले और बंद सभी पर्याप्त रूप से सक्षम मॉडलों के सुरक्षा परीक्षण की आवश्यकता पर ध्यान केंद्रित करना चाहिए।