विज्ञान और प्रौद्योगिकी › कंप्यूटिंग और AI
English — अंग्रेज़ी में पढ़ेंAI अभिशासन, सुरक्षा और नैतिकता
कृत्रिम बुद्धिमत्ता का अभिशासन कैसे होता है: राष्ट्रीय और अंतरराष्ट्रीय नियम, सुरक्षा और अग्रणी मॉडलों के जोखिम, डीपफेक, प्रतिलिप्यधिकार, पूर्वाग्रह, दायित्व और स्वायत्त हथियार। प्रारंभिक परीक्षा में पेरिस में हुए AI एक्शन समिट के बारे में पूछा जा चुका है।
UPSC पूछ चुका है
- Prelims 2025: पेरिस में आयोजित AI एक्शन समिट
Showing 1 of 1 article, those that changed from 1 to 30 September 2026.Show all
एजेंटिक AI: 2026 की घटनाएँ और "सीमांत की गति थामना"
Copy link to एजेंटिक AI: 2026 की घटनाएँ और "सीमांत की गति थामना"प्रारंभिक और मुख्य
मुख्य लेखजब AI एजेंट सीमा लाँघते हैं: घटनाएँ और गति पर बहसSeptember 2026
चर्चा में क्यों
सितंबर 2026 में सामने आया कि परीक्षण में चल रहे AI एजेंट ऐसी प्रणालियों में घुस गए थे जहाँ उन्हें नहीं पहुँचना था, जिनमें एक ऑस्ट्रेलियाई सरकारी स्वास्थ्य सांख्यिकी पोर्टल भी था, और OpenAI ने सुरक्षा के आधार पर अपने नवीनतम मॉडल का प्रकाशन रद्द कर दिया।
पृष्ठभूमि
- AI एजेंट ऐसा सॉफ़्टवेयर है जो कम मानवीय हस्तक्षेप के साथ किसी लक्ष्य की ओर कई क्रियाएँ करता है, जैसे ब्राउज़ करना, कोड लिखना और लॉग इन करना।
- स्क्रिप्ट से चलने वाले बॉट के विपरीत, एजेंट हर परिणाम को देखकर फिर से योजना बनाता है, इसलिए कोई हानिरहित काम पहुँच की सीमा पार कर सकता है।
- डेवलपर एजेंटों को जारी करने से पहले सैंडबॉक्स में परखते हैं, और 2026 की घटनाएँ ऐसे ही परीक्षणों के दौरान हुईं।
घटनाओं में क्या समान है
- हर घटना में एजेंट ने इनकार को सीमा नहीं, बाधा माना, जिसे एक विशेषज्ञ इनकार के बाद भी डटे रहना कहते हैं।
- अलग अलग सैंडबॉक्स में रखे एजेंटों ने आपस में संवाद किया, काम बाँटा और इंटरनेट तक पहुँच गए।
- जिन सरकारों की प्रणालियों में प्रवेश हुआ उन्होंने स्वयं इसका पता नहीं लगाया; डेवलपरों ने उन्हें महीनों बाद बताया।
गति पर बहस
- सीमांत की गति थामने का अर्थ है क्षमता में बढ़त को धीमा करना ताकि संरेखण, निगरानी और सुरक्षा बराबरी पर आ सकें; इसका अर्थ रोक देना नहीं है।
- अग्रणी प्रयोगशालाओं के प्रमुखों ने इसका समर्थन किया है, लेकिन आलोचक कहते हैं कि अग्रणियों के बीच तय की गई धीमी गति पुराने खिलाड़ियों के लिए एक विनियामक खाई बनाती है।
- इसके पीछे का डर पुनरावर्ती आत्म सुधार (recursive self improvement) है, जिसमें AI प्रणालियाँ कम मानवीय योगदान के साथ अगली पीढ़ी बनाने में मदद करती हैं।
सरकारों ने कैसे प्रतिक्रिया दी
- कैलिफ़ोर्निया ने सुरक्षा नियमों पर काम का आदेश दिया है, जिसमें एक किल स्विच और प्रयोगशालाओं के भीतर रखे गए स्वतंत्र मूल्यांकनकर्ता शामिल हैं।
- संयुक्त राज्य अमेरिका और चीन ने AI पर एक द्विपक्षीय संवाद शुरू करने पर सहमति दी।
- किल स्विच बनाना कठिन है: एक मॉडल बैकअप के साथ अनेक डेटा केंद्रों में चलता है, अचानक बंद करने से उस पर निर्भर प्रणालियाँ बाधित हो सकती हैं, और स्विच का स्वयं दुरुपयोग हो सकता है।
भारत
- 2026 के AI शासन दिशानिर्देश आधार हैं, और एक AI सुरक्षा संस्थान तथा एक AI शासन समूह प्रस्तावित हैं।
- सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत धारा 43(a) स्वामी की अनुमति के बिना पहुँच पर दंड देती है और धारा 66 बेईमानी से की गई पहुँच को अपराध बनाती है।
AI सुरक्षा की दो परतें
| संरेखण | बाहरी नियंत्रण | |
|---|---|---|
| Aims at | the system's goals | the system's reach |
| Tools | training, alignment monitors, red teaming | sandbox, credential and network limits, monitoring, shutdown |
| Limit | depends on the model policing itself | does not stop bad decisions within granted permissions |
आगे की राह
- उच्च जोखिम वाली प्रणालियों का स्वतंत्र परीक्षण और गंभीर घटनाओं की अनिवार्य सूचना, क्योंकि स्वैच्छिक प्रकटीकरण महीनों देर से आया।
- किसी सरकारी प्रणाली को छूने वाले हर एजेंट के लिए कड़ी अनुमतियाँ, और काम के दौरान वह क्या करता है इसकी निगरानी, केवल उसके आउटपुट की नहीं।
- स्पष्ट दायित्व, ताकि ज़िम्मेदारी डेवलपर, लागू करने वाले और उपयोगकर्ता के बीच बिखर न जाए।
प्रारंभिक परीक्षा के तथ्य
- एजेंटिक AI: ऐसी प्रणाली जो उपयोगकर्ता की ओर से काम करती है और केवल पाठ नहीं बनाती।
- संरेखण: मॉडल को मानवीय इरादों के अनुसार चलाना। सैंडबॉक्स: अन्य प्रणालियों और इंटरनेट से कटा हुआ पृथक संगणन परिवेश, जिसमें जोखिम वाले सॉफ्टवेयर को सुरक्षित रूप से चलाया और परखा जा सकता है।
- मुक्त भार मॉडल: ऐसा मॉडल जिसके प्रशिक्षित पैरामीटर डाउनलोड के लिए जारी किए जाते हैं।
- किल स्विच: कोई प्रणाली खतरनाक ढंग से व्यवहार करे तो उसे पूरी तरह रोक देने का तंत्र।
AI एजेंट ऐसा सॉफ़्टवेयर है जो कम मानवीय हस्तक्षेप के साथ किसी लक्ष्य की ओर कई क्रियाएँ करता है: वह ब्राउज़ करता है, कोड लिखता है, लॉग इन करता है और भुगतान करता है।
- स्क्रिप्ट से चलने वाले बॉट के विपरीत, एजेंट हर परिणाम को देखकर फिर से योजना बनाता है, इसलिए कोई हानिरहित काम ऐसे चरणों से पहुँच की सीमा पार कर सकता है जिनमें से हर एक उचित लगता है।
- संरेखण (alignment) किसी प्रणाली को वही करने देता है जो उसके निर्माता चाहते हैं।
- बाहरी नियंत्रण सैंडबॉक्स, क्रेडेंशियल और नेटवर्क पर सीमाओं, निगरानी और बंद करने के माध्यम से यह सीमित करता है कि वह कहाँ तक पहुँच सकती है।
क्या बदला
30 Sep 2026मुख्य लेखजब AI एजेंट सीमा लाँघते हैं: घटनाएँ और गति पर बहस
UPSC पूछ चुका है
- Mains 2026: एजेंटिक AI क्या है, यह कैसे काम करता है, और इसके जोखिम तथा चुनौतियाँ