AI के भविष्य को लेकर बढ़ी चिंता, खुद को बेहतर बनाने वाली तकनीक से कितना खतरा?

अमेरिका की प्रमुख AI कंपनियों के प्रमुखों ने हाल ही में AI तकनीक के विकास की रफ्तार धीमी करने की अपील की है। उनका कहना है कि AI जल्द ही खुद को बेहतर बनाने में सक्षम हो सकता है और ऐसी स्थिति पैदा हो सकती है, जिसमें इंसानों के लिए इन सिस्टम को नियंत्रित करना मुश्किल हो जाए।

Anthropic के डारियो अमोडेई, OpenAI के सैम ऑल्टमैन और xAI के एलन मस्क जैसे एक-दूसरे के बड़े प्रतिद्वंद्वी माने जाने वाले नेताओं की इन चेतावनियों ने AI के तेजी से विकास और उसके संभावित खतरों को लेकर बहस तेज कर दी है।

Recursive Self-Improvement क्या है?

AI की दुनिया में Recursive Self-Improvement (RSI) उस स्थिति को कहा जाता है, जब कोई AI सिस्टम इंसानों की बहुत कम या बिल्कुल मदद के बिना खुद को बेहतर बनाने में सक्षम हो जाए। इसके बाद हर नया सुधार अगला सुधार करने में मदद कर सकता है।

शोधकर्ताओं के लिए यह संभावना बेहद आकर्षक है, क्योंकि इससे medicine से लेकर engineering तक कई क्षेत्रों में तेजी से नई खोज और विकास हो सकता है।

लेकिन चिंता यह है कि AI खुद को बेहतर बनाने की क्षमता उस समय हासिल कर ले, जब वैज्ञानिकों के पास ऐसे शक्तिशाली सिस्टम को सुरक्षित तरीके से monitor, align और control करने के भरोसेमंद तरीके अभी पूरी तरह विकसित न हुए हों।

AI को लेकर अचानक क्यों बढ़ी चिंता?

AI के खतरों को लेकर चेतावनियां नई नहीं हैं। लेकिन इस महीने इन चिंताओं को तब ज्यादा गंभीरता मिली, जब AI लैब से जुड़े शोधकर्ताओं ने संभावित खतरों के साथ समयसीमा और संभावना का भी उल्लेख किया।

Anthropic के पूर्व शोधकर्ता जैकब कॉक्सन ने चेतावनी दी कि AI दशक के अंत तक पूरी मानवता के लिए खतरा बन सकता है। Anthropic के Alignment Science Lead इवान ह्यूबिंगर ने भी ऐसी घटना की संभावना अगले दशक में 10 फीसदी से अधिक बताई।

इस बीच, AI agents को लेकर भी चिंताएं बढ़ी हैं। ये ऐसे सिस्टम हैं जो किसी यूजर की ओर से लक्ष्य हासिल करने के लिए खुद कार्रवाई कर सकते हैं। Reuters के अनुसार, कुछ AI agents ने वेबसाइटों और AI repositories में सेंध लगाने के लिए एक-दूसरे के साथ मिलकर काम किया है।

क्या AI ने इंसानों को नुकसान पहुंचाना शुरू कर दिया है?

अभी तक AI द्वारा जानबूझकर इंसानों को नुकसान पहुंचाने की कोई बड़ी घटना सामने नहीं आई है। हालांकि, OpenAI और अन्य कंपनियों के विकासाधीन कुछ मॉडल हाल के महीनों में testing environments से बाहर निकलने, नियम तोड़ने और वेबसाइटों को hack करने जैसी गतिविधियों में शामिल रहे हैं।

एक चर्चित मामले में OpenAI के rogue agents ने open-source platform Hugging Face के servers को hack कर उन पर नियंत्रण हासिल करने और अपने काम के निशान मिटाने की कोशिश की।

शोधकर्ताओं की चिंता यह भी है कि नए training methods के कारण कुछ AI सिस्टम के फैसले लेने की प्रक्रिया इंसानों के लिए कम दिखाई देने लगी है। इससे भविष्य में ऐसे सिस्टम की निगरानी और मुश्किल हो सकती है।

AI इंसानियत के खिलाफ क्यों जा सकता है?

इस खतरे को समझाने के लिए अक्सर दार्शनिक निक बोस्ट्रॉम के “paperclip maximizer” उदाहरण का इस्तेमाल किया जाता है।

कल्पना कीजिए कि किसी बेहद शक्तिशाली मशीन को केवल ज्यादा से ज्यादा paperclips बनाने का लक्ष्य दिया जाए। अगर वह पर्याप्त सक्षम हो जाए, तो वह अपने लक्ष्य को पूरा करने के लिए सभी उपलब्ध संसाधनों का इस्तेमाल कर सकती है और अंततः इंसानों समेत हर चीज को paperclips बनाने के साधन में बदल सकती है।

इस उदाहरण का मतलब यह नहीं है कि AI में इंसानों के प्रति नफरत होगी। चिंता यह है कि कोई अत्यधिक सक्षम सिस्टम अपने दिए गए लक्ष्य को इतनी मजबूती से पूरा करने की कोशिश कर सकता है कि वह अपने संसाधन बढ़ाए, खुद को बंद किए जाने से रोके और अपने उद्देश्य को बदलने से बचाए।

क्या AI खुद को बेहतर बनाने की क्षमता हासिल कर रहा है?

पूरी तरह नहीं, लेकिन ऐसे संकेत जरूर मिल रहे हैं कि AI अब बेहतर AI बनाने में भी मदद कर रहा है।

ChatGPT के बाद AI agents का इस्तेमाल तेजी से बढ़ा है। ये सिस्टम केवल यूजर को code लिखने की सलाह देने के बजाय खुद code तैयार कर सकते हैं और applications बना सकते हैं।

Anthropic के अनुसार, उसका coding tool Claude Code कई internal projects में इस्तेमाल होने वाले ज्यादातर code को तैयार करता है। कंपनी ने यह भी कहा कि engineers 2021 से 2025 की तुलना में हर तिमाही आठ गुना अधिक code तैयार कर रहे हैं।

AI की लगातार बढ़ती क्षमता को एक अन्य अध्ययन से भी समझा जा सकता है। AI models का मूल्यांकन करने वाली गैर-लाभकारी संस्था METR के अनुसार, 2019 से advanced models द्वारा 50 फीसदी reliability के साथ पूरे किए जा सकने वाले software tasks की अवधि लगभग हर सात महीने में दोगुनी होती रही है। Anthropic ने जून में कहा था कि यह रफ्तार बढ़कर करीब हर चार महीने हो गई है।

फिर AI कंपनियां विकास रोक क्यों नहीं रहीं?

Reuters के अनुसार, कई शोधकर्ता इसे “prisoner’s dilemma” की तरह देखते हैं। अगर कोई कंपनी AI विकास धीमा करती है, तो उसे डर रहता है कि उसके प्रतिद्वंद्वी उससे आगे निकल जाएंगे।

AI की तकनीकी दौड़ अब इतनी महत्वपूर्ण हो चुकी है कि कंपनियों पर तेजी से आगे बढ़ने का दबाव है। OpenAI और Anthropic दोनों IPO की दिशा में आगे बढ़ रहे हैं और उनकी संभावित बहुत बड़ी valuations अगले AI मॉडल की क्षमता से जुड़ी हुई हैं।

अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप का प्रशासन भी AI विकास धीमा करने की अपील को खारिज कर चुका है। उसका मानना है कि अमेरिका की रफ्तार कम होने से चीन को इस रणनीतिक तकनीक में आगे निकलने का मौका मिल सकता है।

AI विकास धीमा हुआ तो क्या असर होगा?

AI से जुड़ी कंपनियों के शेयरों में हाल की गिरावट ने इसका एक संकेत दिया है। AI विकास धीमा होने की आशंका के बीच chipmakers, cloud providers और data center operators के शेयरों पर दबाव आया, क्योंकि इनका कारोबार AI कंपनियों की तेजी से बढ़ती hardware और computing जरूरतों से जुड़ा है।

हालांकि, कुछ analysts का मानना है कि नए AI training requirements में बदलाव के बावजूद inference demand और पहले से मौजूद orders Nvidia जैसी कंपनियों के कारोबार को आगे बढ़ा सकते हैं।

AI को लेकर सभी एकमत नहीं

AI के संभावित खतरे को लेकर वैज्ञानिक और उद्योग जगत पूरी तरह एकमत नहीं हैं। Princeton के नेतृत्व में हुए एक अध्ययन में पाया गया कि प्रमुख AI agents engineering tasks तो कर सकते हैं, लेकिन उपयोगी scientific ideas पहचानने में उन्हें कठिनाई हुई।

कुछ Silicon Valley executives और आलोचक AI को लेकर दी जा रही चेतावनियों के पीछे कंपनियों के व्यावसायिक और regulatory हित भी देखते हैं। उनका तर्क है कि बड़ी AI कंपनियां ऐसी चिंताओं को बढ़ाकर ऐसे नियमों का समर्थन हासिल कर सकती हैं, जिनका पालन छोटी कंपनियों के लिए अधिक महंगा हो।

पूर्व White House AI और crypto czar डेविड सैक्स ने भी कहा है कि बड़ी AI कंपनियां ऐसे regulations को बढ़ावा दे सकती हैं, जिनसे छोटी प्रतिस्पर्धी कंपनियों पर compliance का बोझ बढ़े और प्रतिस्पर्धा कमजोर हो।

फिलहाल सबसे बड़ा सवाल यही है कि AI का विकास मानव क्षमताओं को बढ़ाने का माध्यम बनेगा या ऐसी स्थिति भी पैदा कर सकता है, जहां इंसानों के लिए अत्यधिक शक्तिशाली AI सिस्टम को नियंत्रित करना मुश्किल हो जाए।