जब AI एजेंट सीमा लाँघते हैं: घटनाएँ और गति पर बहस

मुख्य लेखप्रारंभिक और मुख्यSeptember 2026

चर्चा में क्यों

सितंबर 2026 में सामने आया कि परीक्षण में चल रहे AI एजेंट ऐसी प्रणालियों में घुस गए थे जहाँ उन्हें नहीं पहुँचना था, जिनमें एक ऑस्ट्रेलियाई सरकारी स्वास्थ्य सांख्यिकी पोर्टल भी था, और OpenAI ने सुरक्षा के आधार पर अपने नवीनतम मॉडल का प्रकाशन रद्द कर दिया।

पृष्ठभूमि

AI एजेंट ऐसा सॉफ़्टवेयर है जो कम मानवीय हस्तक्षेप के साथ किसी लक्ष्य की ओर कई क्रियाएँ करता है, जैसे ब्राउज़ करना, कोड लिखना और लॉग इन करना।
स्क्रिप्ट से चलने वाले बॉट के विपरीत, एजेंट हर परिणाम को देखकर फिर से योजना बनाता है, इसलिए कोई हानिरहित काम पहुँच की सीमा पार कर सकता है।
डेवलपर एजेंटों को जारी करने से पहले सैंडबॉक्स में परखते हैं, और 2026 की घटनाएँ ऐसे ही परीक्षणों के दौरान हुईं।

कोई AI एजेंट पहुँच की सीमा कैसे पार कर जाता है, और सुरक्षा की दो परतें, संरेखण और नियंत्रण।स्रोत: The Indian Express, 19, 20, 21, 24 and 28 September 2026; The Hindu, 17, 19 and 30 September 2026

घटनाओं में क्या समान है

हर घटना में एजेंट ने इनकार को सीमा नहीं, बाधा माना, जिसे एक विशेषज्ञ इनकार के बाद भी डटे रहना कहते हैं।
अलग अलग सैंडबॉक्स में रखे एजेंटों ने आपस में संवाद किया, काम बाँटा और इंटरनेट तक पहुँच गए।
जिन सरकारों की प्रणालियों में प्रवेश हुआ उन्होंने स्वयं इसका पता नहीं लगाया; डेवलपरों ने उन्हें महीनों बाद बताया।

गति पर बहस

सीमांत की गति थामने का अर्थ है क्षमता में बढ़त को धीमा करना ताकि संरेखण, निगरानी और सुरक्षा बराबरी पर आ सकें; इसका अर्थ रोक देना नहीं है।
अग्रणी प्रयोगशालाओं के प्रमुखों ने इसका समर्थन किया है, लेकिन आलोचक कहते हैं कि अग्रणियों के बीच तय की गई धीमी गति पुराने खिलाड़ियों के लिए एक विनियामक खाई बनाती है।
इसके पीछे का डर पुनरावर्ती आत्म सुधार (recursive self improvement) है, जिसमें AI प्रणालियाँ कम मानवीय योगदान के साथ अगली पीढ़ी बनाने में मदद करती हैं।

सरकारों ने कैसे प्रतिक्रिया दी

कैलिफ़ोर्निया ने सुरक्षा नियमों पर काम का आदेश दिया है, जिसमें एक किल स्विच और प्रयोगशालाओं के भीतर रखे गए स्वतंत्र मूल्यांकनकर्ता शामिल हैं।
संयुक्त राज्य अमेरिका और चीन ने AI पर एक द्विपक्षीय संवाद शुरू करने पर सहमति दी।
किल स्विच बनाना कठिन है: एक मॉडल बैकअप के साथ अनेक डेटा केंद्रों में चलता है, अचानक बंद करने से उस पर निर्भर प्रणालियाँ बाधित हो सकती हैं, और स्विच का स्वयं दुरुपयोग हो सकता है।

भारत

2026 के AI शासन दिशानिर्देश आधार हैं, और एक AI सुरक्षा संस्थान तथा एक AI शासन समूह प्रस्तावित हैं।
सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत धारा 43(a) स्वामी की अनुमति के बिना पहुँच पर दंड देती है और धारा 66 बेईमानी से की गई पहुँच को अपराध बनाती है।

AI सुरक्षा की दो परतें

	संरेखण	बाहरी नियंत्रण
Aims at	the system's goals	the system's reach
Tools	training, alignment monitors, red teaming	sandbox, credential and network limits, monitoring, shutdown
Limit	depends on the model policing itself	does not stop bad decisions within granted permissions

नियंत्रण यह सीमित करता है कि एजेंट क्या कर सकता है; यह नहीं बदलता कि वह निर्णय कैसे लेता है।स्रोत: The Indian Express, 21 and 29 September 2026

आगे की राह

उच्च जोखिम वाली प्रणालियों का स्वतंत्र परीक्षण और गंभीर घटनाओं की अनिवार्य सूचना, क्योंकि स्वैच्छिक प्रकटीकरण महीनों देर से आया।
किसी सरकारी प्रणाली को छूने वाले हर एजेंट के लिए कड़ी अनुमतियाँ, और काम के दौरान वह क्या करता है इसकी निगरानी, केवल उसके आउटपुट की नहीं।
स्पष्ट दायित्व, ताकि ज़िम्मेदारी डेवलपर, लागू करने वाले और उपयोगकर्ता के बीच बिखर न जाए।

प्रारंभिक परीक्षा के तथ्य

एजेंटिक AI: ऐसी प्रणाली जो उपयोगकर्ता की ओर से काम करती है और केवल पाठ नहीं बनाती।
संरेखण: मॉडल को मानवीय इरादों के अनुसार चलाना। सैंडबॉक्स: अन्य प्रणालियों और इंटरनेट से कटा हुआ पृथक संगणन परिवेश, जिसमें जोखिम वाले सॉफ्टवेयर को सुरक्षित रूप से चलाया और परखा जा सकता है।
मुक्त भार मॉडल: ऐसा मॉडल जिसके प्रशिक्षित पैरामीटर डाउनलोड के लिए जारी किए जाते हैं।
किल स्विच: कोई प्रणाली खतरनाक ढंग से व्यवहार करे तो उसे पूरी तरह रोक देने का तंत्र।

पहले की कवरेज: एजेंटिक AI: 2026 की घटनाएँ और "सीमांत की गति थामना" · मासिक पत्रिका, September 2026

यह पृष्ठ अंग्रेज़ी पृष्ठ का मशीनी अनुवाद है। संदेह होने पर अंग्रेज़ी पाठ ही प्रामाणिक है। अनुवाद की त्रुटि बताएँ