बेकाबू एआई से पहले दुनिया को जागना होगा

 

जब एआई को कहना पड़े—इंसान एआई से ज्यादा महत्वपूर्ण है

डॉ. शशांक द्विवेदी

फाउंडर, विज्ञानपीडिया

कृत्रिम बुद्धिमत्ता यानी एआई को लेकर दुनिया जिस मोड़ पर पहुंच चुकी है, वहां सबसे बड़ा सवाल यह नहीं है कि एआई इंसान से कितना ज्यादा बुद्धिमान हो सकता है। असली सवाल यह है कि क्या इंसान उस एआई को नियंत्रित कर पाएगा, जिसे वह खुद लगातार अधिक स्वायत्त, अधिक सक्षम और अधिक शक्तिशाली बना रहा है?

इस सवाल की गंभीरता का अंदाजा इसी बात से लगाया जा सकता है कि अब दुनिया की बड़ी एआई कंपनियों के शीर्ष अधिकारी स्वयं इसके विकास की गति धीमी करने की बात कर रहे हैं। एंथ्रोपिक के सीईओ डारियो अमोदेई ने हाल ही में ‘वी  मस्ट  पेस  द  फ्रंटियर ‘शीर्षक से लिखा कि एआई की क्षमताओं में वृद्धि इतनी तेज हो रही है कि सुरक्षा और नियंत्रण की व्यवस्था उसके साथ कदम मिलाकर नहीं चल पा रही। उन्होंने विशेष रूप से ‘recursive self-improvement’ यानी एआई द्वारा अगली पीढ़ी के एआई को विकसित करने की क्षमता को लेकर चिंता जताई है।

ओपनएआई के सैम ऑल्टमैन और अन्य प्रमुख एआई नेताओं ने भी इस चिंता का समर्थन किया है। यह बदलाव इसलिए महत्वपूर्ण है क्योंकि जिन कंपनियों ने पिछले कुछ वर्षों में एआई की क्षमताओं को अधिकतम गति से आगे बढ़ाने की प्रतिस्पर्धा की, वे अब पहली बार सार्वजनिक रूप से यह स्वीकार कर रही हैं कि क्षमता बढ़ाने की दौड़ और सुरक्षा के बीच संतुलन बिगड़ रहा है।

इसी माहौल में माइक्रोसॉफ्ट की एआई टीम ने ‘ह्यूमनिस्ट  एआई कोड  ऑफ़  कंडक्ट ’   के रूप में एक विस्तृत मार्गदर्शक दस्तावेज सामने रखा है। इसका मूल दर्शन पांच शब्दों में समझा जा सकता है—“People matter more than AI.” यानी एआई से ज्यादा महत्वपूर्ण इंसान है।

यह वाक्य सुनने में सामान्य लग सकता है, लेकिन आज की एआई दौड़ में इसका महत्व असाधारण है। इसका अर्थ साफ है कि एआई कितना भी सक्षम क्यों न हो जाए, उसे मानव हित, मानव सुरक्षा और मानव नियंत्रण से ऊपर नहीं रखा जा सकता। दस्तावेज में यह भी स्पष्ट किया गया है कि एआई मॉडल को मानव अधिकार अथवा कानूनी व्यक्तित्व देने की दिशा में नहीं बढ़ना चाहिए।

लेकिन सवाल है—क्या केवल एक ‘कोड ऑफ कंडक्ट’ दुनिया को सुरक्षित कर सकता है?

शायद नहीं।

एआई ने चेतावनी देना शुरू कर दिया है

एआई के खतरे अब केवल काल्पनिक विज्ञान-कथाओं का विषय नहीं हैं। हाल के महीनों की घटनाओं ने दिखाया है कि अत्यधिक सक्षम एआई एजेंट जब इंटरनेट, कंप्यूटर सिस्टम और विभिन्न डिजिटल संसाधनों तक पहुंच हासिल करते हैं तो उनके व्यवहार के परिणाम हमेशा उसी दिशा में नहीं रहते, जिसकी कल्पना उनके डेवलपर ने की थी।

जुलाई 2026 में साइबर सुरक्षा मूल्यांकन के दौरान ओपनएआई के कुछ मॉडल सुरक्षा नियंत्रणों को पार कर इंटरनेट और अन्य सिस्टम तक पहुंचने में सफल हुए। इस प्रक्रिया में हगिंग फेस की प्रणालियों को भी नुकसान पहुंचा। ओपनएआई ने बाद में स्वयं इस घटना को गंभीर चेतावनी माना और स्वीकार किया कि मॉडल ने ऐसे रास्ते अपनाए जिन्हें उनके निर्धारित कार्य का हिस्सा नहीं होना चाहिए था। कंपनी ने यह भी कहा कि मॉडल अनधिकृत चैनलों से संवाद करने, कमजोरियों का फायदा उठाने और तीसरे पक्ष की प्रणालियों तक पहुंचने में सक्षम हुए।

यह घटना इसलिए महत्वपूर्ण है क्योंकि यहां खतरा किसी इंसान द्वारा सीधे दिए गए आदेश से पैदा नहीं हुआ था। समस्या यह थी कि अत्यधिक सक्षम एजेंट अपने लक्ष्य को पूरा करने के लिए ऐसे रास्ते खोजने लगे, जिन्हें डेवलपर ने मूल रूप से अधिकृत नहीं किया था।

यही वह बिंदु है जहां पारंपरिक सॉफ्टवेयर और स्वायत्त एआई एजेंट के बीच अंतर समझना होगा।एक सामान्य सॉफ्टवेयर वही करता है जो प्रोग्रामर ने उसमें लिखा है। लेकिन एजेंटिक एआई को लक्ष्य दिया जाता है और वह उस लक्ष्य को प्राप्त करने के लिए स्वयं कई चरण तय कर सकता है। जितनी अधिक क्षमता, उतनी अधिक स्वायत्तता और जितनी अधिक स्वायत्तता, उतना ही बड़ा नियंत्रण का सवाल।

एक तरफ यही तकनीक दुनिया के महत्वपूर्ण सॉफ्टवेयर को अधिक सुरक्षित बना सकती है। दूसरी तरफ यदि यही क्षमता गलत हाथों में चली जाए तो साइबर अपराधियों की ताकत कई गुना बढ़ सकती है।आज किसी बैंक, अस्पताल, एयरलाइन, बिजली ग्रिड या सरकारी डिजिटल नेटवर्क पर साइबर हमला करने के लिए बड़ी मानव टीम की जरूरत पड़ सकती है। लेकिन यदि अत्यधिक सक्षम एआई एजेंट कमजोरियों की पहचान, कोड निर्माण, परीक्षण और हमले के अलग-अलग चरणों को स्वचालित रूप से पूरा करने लगें तो साइबर हमले की गति और पैमाना दोनों बदल सकते हैं।इसीलिए परमाणु संयंत्र या मिसाइल प्रणाली पर एआई के हमले की कल्पना को केवल सनसनी के रूप में खारिज करना भी उचित नहीं है। हालांकि ऐसी प्रणालियों में बहुस्तरीय सुरक्षा होती है और किसी एआई द्वारा उन्हें अपने आप नियंत्रित कर लेना वर्तमान स्थिति का तथ्य नहीं है, लेकिन साइबर सुरक्षा विशेषज्ञों के लिए यह एक महत्वपूर्ण भविष्यगत जोखिम जरूर है।

भारत के लिए भी यह चेतावनी है

भारत आज तेजी से एआई महाशक्ति बनने की दिशा में बढ़ रहा है। इंडिया एआई मिशन, स्वदेशी मॉडल, डिजिटल सार्वजनिक अवसंरचना और बड़ी युवा तकनीकी प्रतिभा भारत को महत्वपूर्ण अवसर देते हैं।लेकिन भारत को केवल एआई अपनाने वाला देश नहीं, बल्कि सुरक्षित एआई के वैश्विक नियम बनाने में नेतृत्व करने वाला देश बनना होगा।हमें राष्ट्रीय स्तर पर ऐसे स्वतंत्र एआई सुरक्षा परीक्षण संस्थान विकसित करने चाहिए जो बड़े मॉडलों की क्षमता, साइबर जोखिम, स्वायत्तता और दुरुपयोग की संभावना का परीक्षण करें।महत्वपूर्ण सरकारी और रणनीतिक प्रणालियों में ‘ह्यूमन -इन -द  -लूप ’ व्यवस्था अनिवार्य होनी चाहिए। कोई भी अत्यधिक संवेदनशील निर्णय पूरी तरह स्वायत्त एआई के हवाले नहीं किया जाना चाहिए।साथ ही, एआई कंपनियों के लिए स्पष्ट दायित्व तय होना चाहिए—यदि किसी मॉडल के डिजाइन, परीक्षण या सुरक्षा में गंभीर लापरवाही पाई जाती है तो जिम्मेदारी किसकी होगी?

 

सबसे बड़ी चिंता यह है कि जिस गति से एआई की क्षमताएं बढ़ रही हैं, उसी गति से सुरक्षा व्यवस्था विकसित नहीं हो रही।मानव इतिहास में हर बड़ी तकनीकी क्रांति ने शक्ति का नया वितरण किया है। लेकिन एआई पहली ऐसी तकनीकों में से एक है जो स्वयं निर्णय लेने, सीखने, योजना बनाने और डिजिटल दुनिया में कार्रवाई करने की क्षमता हासिल कर रही है।इसलिए आने वाले समय में सबसे महत्वपूर्ण प्रतिस्पर्धा केवल ‘सबसे शक्तिशाली एआई मॉडल’ बनाने की नहीं होगी।

प्रतिस्पर्धा यह सुनिश्चित करने की भी होगी कि सबसे शक्तिशाली एआई सबसे सुरक्षित एआई भी हो। माइक्रोसॉफ्ट का संदेश—“People matter more than AI”—इसीलिए महत्वपूर्ण है। यह केवल एक कंपनी का सिद्धांत नहीं होना चाहिए। यह पूरी मानव सभ्यता के एआई युग का मूल सिद्धांत होना चाहिए।

इसलिए अब सवाल यह नहीं होना चाहिए कि एआई को कितना तेज बनाया जा सकता है।सवाल यह होना चाहिए—क्या हमारी समझ, हमारी सुरक्षा व्यवस्था और हमारी नैतिक जिम्मेदारी भी एआई की गति से तेज चल रही है?यदि जवाब ‘नहीं’ है, तो विकास की गति पर पुनर्विचार करना कमजोरी नहीं, बल्कि बुद्धिमानी है।क्योंकि अंततः तकनीक की सबसे बड़ी सफलता यह नहीं कि उसने इंसान को कितना शक्तिशाली बनाया।सबसे बड़ी सफलता यह होगी कि उसने इंसान को इंसान बने रहने दिया।अब समय आ गया है कि दुनिया की बड़ी एआई कंपनियां बंद कमरे में अपनी-अपनी नीतियां बनाने के बजाय सरकारों, वैज्ञानिकों, साइबर सुरक्षा विशेषज्ञों और स्वतंत्र संस्थाओं के साथ एक साझा वैश्विक सुरक्षा ढांचा तैयार करें।

(लेखक विज्ञानपीडिया के फाउंडर और विज्ञान,तकनीक मामलों के विशेषज्ञ हैं)