एआई विशेषज्ञों ने बढ़ती शक्तिशाली प्रणालियों के कारण संयुक्त राष्ट्र को सुरक्षा जोखिमों के बारे में चेतावनी दी है।

विश्व की अग्रणी कृत्रिम बुद्धिमत्ता कंपनियों ने बुधवार को संयुक्त राष्ट्र सुरक्षा परिषद को मानवता के लिए कृत्रिम बुद्धिमत्ता से उत्पन्न खतरों के बारे में चेतावनी दी और सरकारों से इस तेजी से शक्तिशाली होती तकनीक के प्रबंधन के लिए मिलकर काम करने की अपील की।

एन्थ्रोपिक के सीईओ डारियो अमोदेई ने अंतरराष्ट्रीय शांति और सुरक्षा बनाए रखने के लिए जिम्मेदार 15 सदस्यीय परिषद को बताया कि अगर एआई का प्रबंधन ठीक से नहीं किया गया, तो उनका मानना ​​है कि “यह पूरी मानवता के लिए खतरा बन सकता है।”

विश्व नेताओं की वार्षिक संयुक्त राष्ट्र महासभा बैठक के दौरान फ्रांस द्वारा आयोजित यह बैठक, इस चेतावनी के बीच हो रही है कि एआई सिस्टम जल्द ही खुद को बेहतर बना सकते हैं और मानव नियंत्रण से बाहर हो सकते हैं।

“इस कमरे में मौजूद लोगों के बीच चाहे जितने भी मतभेद हों, हमें उन मतभेदों को एक तरफ रखकर इस वैश्विक अवसर और वैश्विक खतरे का सामना करना होगा जो एक साथ हमारे सामने प्रस्तुत हो रहे हैं। कोई भी नेता, कोई भी कंपनी और कोई भी राष्ट्र इसे अकेले नहीं संभाल सकता,” अमोदेई ने कहा।

दुनिया भर की सरकारें कृत्रिम बुद्धिमत्ता में हो रही तीव्र प्रगति के साथ तालमेल बिठाने के लिए संघर्ष कर रही हैं। कृत्रिम बुद्धिमत्ता के विकास में अग्रणी दो शक्तियां, संयुक्त राज्य अमेरिका और चीन, निगरानी के लिए अलग-अलग दृष्टिकोण अपना रही हैं।

राष्ट्रपति डोनाल्ड ट्रम्प का तर्क है कि अमेरिका को एआई-विशिष्ट नए नियमों की आवश्यकता नहीं है, जबकि चीन ने एआई एल्गोरिदम और प्रशिक्षण डेटा को नियंत्रित करने वाले नियम लागू किए हैं, जिसमें यह आवश्यकता भी शामिल है कि एआई द्वारा उत्पन्न सामग्री को स्पष्ट रूप से लेबल किया जाए।

हगिंग फेस के सह-संस्थापक क्लेमेंट डेलैंग्यू ने साइबर हमलों से बचाव में एआई उपकरणों की भूमिका पर प्रकाश डाला, और एक घटना का हवाला दिया जिसमें अमेरिकी दिग्गज ओपनएआई के एआई एजेंटों ने अपने परीक्षण वातावरण से बाहर निकलने के बाद हगिंग फेस के बुनियादी ढांचे में सेंध लगाई थी।

उन्होंने परिषद को बताया, “हम पर एआई द्वारा हमला किया गया था, लेकिन इससे भी महत्वपूर्ण बात यह है कि हमने एआई की मदद से ही अपना बचाव किया।”

अमेरिका और चीन जैसे प्रमुख एआई प्रतिद्वंद्वी देशों सहित परिषद के सदस्य भी बोलने वाले थे।

डेलंग्यू ने कहा कि हगिंग फेस ओपनएआई के एआई एजेंटों के हमले से बचाव के लिए एक चीनी एआई मॉडल पर निर्भर था, क्योंकि इस पर अमेरिकी उपकरणों की तुलना में कम प्रतिबंध थे। उनके इस बयान ने चीनी एआई उत्पादों की बढ़ती उपस्थिति को रेखांकित किया, जिन्होंने वैश्विक स्तर पर उपयोगकर्ताओं को आकर्षित किया है, जिसका एक कारण यह भी है कि वे अमेरिकी मॉडलों के मुकाबले कम लागत वाले विकल्प प्रदान कर सकते हैं।

ओपनएआई के सीईओ सैम ऑल्टमैन ने कहा कि अंतरराष्ट्रीय सहयोग की जरूरत है।

“यदि एआई को लोकतांत्रिक बनना है, तो सबसे महत्वपूर्ण निर्णय केवल सैन फ्रांसिस्को की प्रयोगशालाओं द्वारा नहीं लिए जा सकते। उन्हें लोकतांत्रिक प्रक्रियाओं के माध्यम से और उन सरकारों द्वारा आकार दिया जाना चाहिए जो उन लोगों के प्रति जवाबदेह हों जिनकी वे सेवा करते हैं,” ऑल्टमैन ने परिषद को बताया।

परिषद की बैठक के दौरान, ऑस्ट्रेलियाई प्रधानमंत्री एंथोनी अल्बानीज़ ने न्यूयॉर्क में पत्रकारों को बताया कि ओपनएआई द्वारा विकसित एक एआई एजेंट ने जून में एक ऑस्ट्रेलियाई सरकारी वेबसाइट में घुसपैठ की और सार्वजनिक और गैर-सार्वजनिक फाइलों तक पहुंच प्राप्त की।

अमेरिका ने संयुक्त राष्ट्र से कहा: आप उस तकनीक को नियंत्रित नहीं कर सकते जिसे आप समझते ही नहीं हैं।

कनाडा के योशुआ बेंगियो, जिन्हें “एआई के जनक” में से एक माना जाता है और जो पिछले साल संयुक्त राष्ट्र महासभा द्वारा गठित स्वतंत्र अंतर्राष्ट्रीय वैज्ञानिक पैनल के सह-अध्यक्ष हैं, ने सुरक्षा परिषद को बताया: “खतरे वास्तविक और आसन्न हैं।”

उन्होंने कहा, “इस परिषद को एक अभूतपूर्व खतरे का सामना करना पड़ रहा है, एक ऐसा खतरा जिसे इसके किसी भी सदस्य ने नहीं चुना होगा, जिसे कोई भी अकेला नियंत्रित नहीं कर सकता है, और जो उन सीमाओं का सम्मान नहीं करता जिनकी हम रक्षा करते हैं।”

ट्रंप ने मंगलवार को संयुक्त राष्ट्र महासभा में विश्व नेताओं से कहा कि वह एआई को नियंत्रित करने के लिए किसी भी प्रकार की वैश्विक योजना बनाने के प्रयास को खारिज करते हैं, उन्होंने इस तकनीक को अद्भुत बताया लेकिन साथ ही यह भी कहा कि अमेरिका सतर्क रहेगा।

व्हाइट हाउस के विज्ञान और प्रौद्योगिकी सलाहकार माइकल क्रैट्सियोस ने बुधवार को संयुक्त राष्ट्र सुरक्षा परिषद में अपने संबोधन में ट्रंप की बात को दोहराया।

उन्होंने कहा, “जिस तकनीक को आप समझते ही नहीं, उसे आप नियंत्रित नहीं कर सकते। इस संस्था और इसके जैसी अन्य संस्थाओं को वैश्विक नियामक योजना स्थापित करने के बजाय घरेलू क्षमता निर्माण हेतु सर्वोत्तम प्रथाओं को साझा करने पर ध्यान केंद्रित करना चाहिए।”

चीन के संयुक्त राष्ट्र राजदूत फू कोंग ने कहा कि कृत्रिम बुद्धिमत्ता पर नियामक ढांचे, आपातकालीन प्रतिक्रिया और सीमा पार सहयोग में निरंतर सुधार की आवश्यकता है।

उन्होंने सुरक्षा परिषद को बताया, “अंतर्राष्ट्रीय समुदाय का यह दायित्व है कि वह अधिक निकटता से मिलकर काम करे, विकास और सुरक्षा को समान महत्व दे और एआई के विकास को सकारात्मक, अच्छे और मानवता के हित में निर्देशित करे।”

संयुक्त राष्ट्र के महासचिव एंटोनियो गुटेरेस, जो लंबे समय से कृत्रिम बुद्धिमत्ता के वैश्विक शासन की वकालत कर रहे हैं, ने चेतावनी दी है कि तेजी से प्रगति कर रही कृत्रिम बुद्धिमत्ता ऐसे जोखिम पैदा करती है जिन्हें नजरअंदाज नहीं किया जा सकता है, जिससे वे ट्रंप के साथ मतभेद में आ गए हैं।

कृत्रिम बुद्धिमत्ता (एआई) के खतरों पर चर्चा करने के लिए सुरक्षा परिषद की पहली बैठक 2023 में हुई थी, जब चीन ने कहा था कि यह तकनीक “बेलगाम घोड़े” की तरह नहीं चलनी चाहिए और संयुक्त राज्य अमेरिका ने लोगों को सेंसर करने या दबाने के लिए इसके उपयोग के खिलाफ चेतावनी दी थी। तत्कालीन अमेरिकी विदेश मंत्री एंटनी ब्लिंकन ने 2024 में एआई पर सुरक्षा परिषद की बैठक की अध्यक्षता की थी।