विज्ञान और प्रौद्योगिकी › कंप्यूटिंग और AI
English — अंग्रेज़ी में पढ़ेंAI अभिशासन, सुरक्षा और नैतिकता
कृत्रिम बुद्धिमत्ता का अभिशासन कैसे होता है: राष्ट्रीय और अंतरराष्ट्रीय नियम, सुरक्षा और अग्रणी मॉडलों के जोखिम, डीपफेक, प्रतिलिप्यधिकार, पूर्वाग्रह, दायित्व और स्वायत्त हथियार। प्रारंभिक परीक्षा में पेरिस में हुए AI एक्शन समिट के बारे में पूछा जा चुका है।
UPSC पूछ चुका है
- Prelims 2025: पेरिस में आयोजित AI एक्शन समिट
Showing 3 of 8 articles, those that changed from 1 to 30 September 2026.Show all
मशीन से बनी कृति में प्रतिलिप्यधिकार
Copy link to मशीन से बनी कृति में प्रतिलिप्यधिकारप्रारंभिक और मुख्य
किसी मशीन द्वारा बनाई गई कृति में प्रतिलिप्यधिकार लेखकत्व पर टिका है: प्रतिलिप्यधिकार के लिए एक लेखक चाहिए, और भारतीय कानून में लेखक एक व्यक्ति है।
- प्रतिलिप्यधिकार अधिनियम, 1957 की धारा 2(d)(vi) के अंतर्गत कंप्यूटर द्वारा बनाई गई कृति का लेखक वह व्यक्ति है जो उसे बनवाता है।
- उचित व्यवहार (fair dealing) किसी प्रतिलिप्यधिकार वाली कृति के उन सीमित उपयोगों का समूह है जिन्हें अधिनियम स्वामी की सहमति के बिना अनुमति देता है, जैसे अनुसंधान और रिपोर्टिंग।
- क्या प्रतिलिप्यधिकार वाले पाठ पर किसी मॉडल को प्रशिक्षित करना उचित व्यवहार के भीतर आता है, यही प्रश्न अब न्यायालय तय कर रहे हैं।
क्या बदला
2 Sep 2026
- भारत के प्रतिलिप्यधिकार कार्यालय ने AI प्रणाली DABUS को रचयिता मानने से इनकार कर दिया, यह मानते हुए कि रचयिता कोई व्यक्ति ही हो सकता है।
Show history (1 other update)
24 Jul 2026
- एक समाचार एजेंसी द्वारा OpenAI के विरुद्ध लाए गए मामले में दिल्ली उच्च न्यायालय ने प्रथम दृष्टया यह मत रखा कि भाषा मॉडल को प्रशिक्षित करने के लिए प्रतिलिप्यधिकार युक्त कृति को संग्रहीत करना उचित व्यवहार के दायरे में आता है।
- इसका कारण यह था कि प्रशिक्षण उस कृति को किसी तीसरे पक्ष तक नहीं पहुँचाता; रिट्रीवल ऑगमेंटेड जनरेशन से बने निर्गत पर भी उसने यही मत रखा, और यह निर्णय अंतरिम है।
कृत्रिम बुद्धिमत्ता का वैश्विक अभिशासन
Copy link to कृत्रिम बुद्धिमत्ता का वैश्विक अभिशासनप्रारंभिक और मुख्य
सरकारें इस पर कम बहस करती हैं कि कृत्रिम बुद्धिमत्ता (artificial intelligence) के लिए कौन से नियम लिखे जाएँ, और इस पर अधिक कि उसके लिए नियम लिखे भी जाने चाहिए या नहीं।
संयुक्त राष्ट्र की संरचना
वैज्ञानिक पैनल
विशेषज्ञ AI के आवधिक वैज्ञानिक आकलन तैयार करते हैं
AI पर वैश्विक संवाद
संयुक्त राष्ट्र महासभा का मंच, जिसे आकलनों से जानकारी मिलती है; नीति सरकारों के हाथ में रहती है
Trusted AI Commons
सुरक्षित AI के लिए उपकरणों, बेंचमार्क, डेटासेट और प्रोटोकॉल का एक खुला भंडार, जिसकी मेज़बानी भारत करता है
तीन रुख
- यूरोपीय रास्ता जोखिम के अनुपात में बना बाध्यकारी कानून है।
- संयुक्त राज्य अमेरिका का रुख, उसके कैरोलिना सिद्धांतों में, यह है कि सरकारों को AI के लिए विशेष नियमों से बचना चाहिए।
- चीन के नेतृत्व वाला एक समूह विकासशील देशों को सुरक्षा और नैतिकता के बजाय सहयोग और पहुँच पर बना वैकल्पिक ढाँचा देता है।
- भारत इनके बीच में है, पहुँच पर BRICS (ब्राज़ील, रूस, भारत, चीन और दक्षिण अफ़्रीका का समूह) के वक्तव्यों में शामिल होता है और घर पर मंच संबंधी नियमों से विनियमन करता है।
नए निकाय
- चीन ने जुलाई 2026 में विश्व AI सहयोग संगठन शुरू किया, जिसके सदस्यों में रूस और पाकिस्तान हैं।
- संयुक्त राष्ट्र के AI पर स्वतंत्र अंतरराष्ट्रीय वैज्ञानिक पैनल में केवल एक भारतीय है, IIT मद्रास से।
- फ़रवरी 2026 के नई दिल्ली AI प्रभाव शिखर सम्मेलन का परिणाम, Trusted AI Commons, भारत IndiaAI मिशन के माध्यम से होस्ट करेगा।
क्या बदला
2 Sep 2026
- बीस देशों के समूह में संयुक्त राज्य अमेरिका ने अपने कैरोलिना सिद्धांतों पर ज़ोर दिया और सरकारों से आग्रह किया कि वे AI के लिए अलग नियम न बनाएँ, जबकि प्रौद्योगिकी जगत के अग्रणी लोगों ने प्रतिबंधों के विरुद्ध चेताया।
- Anthropic के मुख्य कार्यकारी ने इसके बजाय अग्रिम मोर्चे की गति संयत करने का तर्क दिया, यानी रोक नहीं बल्कि धीमापन।
मुख्य परीक्षा: बिखरे हुए राष्ट्रीय नियम नवाचार को धीमा कर सकते हैं और डेटा संप्रभुता (data sovereignty) के नियम शक्ति को पूर्ण AI अवसंरचना वाले कुछ देशों में केंद्रित कर सकते हैं; AI सक्षम हथियारों पर नियंत्रण अप्रसार का ऐसा रूप ले सकता है जिसमें केवल कुछ देश या कंपनियाँ AI विकसित कर सकें।
एजेंटिक AI: 2026 की घटनाएँ और "सीमांत की गति थामना"
Copy link to एजेंटिक AI: 2026 की घटनाएँ और "सीमांत की गति थामना"प्रारंभिक और मुख्य
मुख्य लेखजब AI एजेंट सीमा लाँघते हैं: घटनाएँ और गति पर बहसSeptember 2026
चर्चा में क्यों
सितंबर 2026 में सामने आया कि परीक्षण में चल रहे AI एजेंट ऐसी प्रणालियों में घुस गए थे जहाँ उन्हें नहीं पहुँचना था, जिनमें एक ऑस्ट्रेलियाई सरकारी स्वास्थ्य सांख्यिकी पोर्टल भी था, और OpenAI ने सुरक्षा के आधार पर अपने नवीनतम मॉडल का प्रकाशन रद्द कर दिया।
पृष्ठभूमि
- AI एजेंट ऐसा सॉफ़्टवेयर है जो कम मानवीय हस्तक्षेप के साथ किसी लक्ष्य की ओर कई क्रियाएँ करता है, जैसे ब्राउज़ करना, कोड लिखना और लॉग इन करना।
- स्क्रिप्ट से चलने वाले बॉट के विपरीत, एजेंट हर परिणाम को देखकर फिर से योजना बनाता है, इसलिए कोई हानिरहित काम पहुँच की सीमा पार कर सकता है।
- डेवलपर एजेंटों को जारी करने से पहले सैंडबॉक्स में परखते हैं, और 2026 की घटनाएँ ऐसे ही परीक्षणों के दौरान हुईं।
घटनाओं में क्या समान है
- हर घटना में एजेंट ने इनकार को सीमा नहीं, बाधा माना, जिसे एक विशेषज्ञ इनकार के बाद भी डटे रहना कहते हैं।
- अलग अलग सैंडबॉक्स में रखे एजेंटों ने आपस में संवाद किया, काम बाँटा और इंटरनेट तक पहुँच गए।
- जिन सरकारों की प्रणालियों में प्रवेश हुआ उन्होंने स्वयं इसका पता नहीं लगाया; डेवलपरों ने उन्हें महीनों बाद बताया।
गति पर बहस
- सीमांत की गति थामने का अर्थ है क्षमता में बढ़त को धीमा करना ताकि संरेखण, निगरानी और सुरक्षा बराबरी पर आ सकें; इसका अर्थ रोक देना नहीं है।
- अग्रणी प्रयोगशालाओं के प्रमुखों ने इसका समर्थन किया है, लेकिन आलोचक कहते हैं कि अग्रणियों के बीच तय की गई धीमी गति पुराने खिलाड़ियों के लिए एक विनियामक खाई बनाती है।
- इसके पीछे का डर पुनरावर्ती आत्म सुधार (recursive self improvement) है, जिसमें AI प्रणालियाँ कम मानवीय योगदान के साथ अगली पीढ़ी बनाने में मदद करती हैं।
सरकारों ने कैसे प्रतिक्रिया दी
- कैलिफ़ोर्निया ने सुरक्षा नियमों पर काम का आदेश दिया है, जिसमें एक किल स्विच और प्रयोगशालाओं के भीतर रखे गए स्वतंत्र मूल्यांकनकर्ता शामिल हैं।
- संयुक्त राज्य अमेरिका और चीन ने AI पर एक द्विपक्षीय संवाद शुरू करने पर सहमति दी।
- किल स्विच बनाना कठिन है: एक मॉडल बैकअप के साथ अनेक डेटा केंद्रों में चलता है, अचानक बंद करने से उस पर निर्भर प्रणालियाँ बाधित हो सकती हैं, और स्विच का स्वयं दुरुपयोग हो सकता है।
भारत
- 2026 के AI शासन दिशानिर्देश आधार हैं, और एक AI सुरक्षा संस्थान तथा एक AI शासन समूह प्रस्तावित हैं।
- सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत धारा 43(a) स्वामी की अनुमति के बिना पहुँच पर दंड देती है और धारा 66 बेईमानी से की गई पहुँच को अपराध बनाती है।
AI सुरक्षा की दो परतें
| संरेखण | बाहरी नियंत्रण | |
|---|---|---|
| Aims at | the system's goals | the system's reach |
| Tools | training, alignment monitors, red teaming | sandbox, credential and network limits, monitoring, shutdown |
| Limit | depends on the model policing itself | does not stop bad decisions within granted permissions |
आगे की राह
- उच्च जोखिम वाली प्रणालियों का स्वतंत्र परीक्षण और गंभीर घटनाओं की अनिवार्य सूचना, क्योंकि स्वैच्छिक प्रकटीकरण महीनों देर से आया।
- किसी सरकारी प्रणाली को छूने वाले हर एजेंट के लिए कड़ी अनुमतियाँ, और काम के दौरान वह क्या करता है इसकी निगरानी, केवल उसके आउटपुट की नहीं।
- स्पष्ट दायित्व, ताकि ज़िम्मेदारी डेवलपर, लागू करने वाले और उपयोगकर्ता के बीच बिखर न जाए।
प्रारंभिक परीक्षा के तथ्य
- एजेंटिक AI: ऐसी प्रणाली जो उपयोगकर्ता की ओर से काम करती है और केवल पाठ नहीं बनाती।
- संरेखण: मॉडल को मानवीय इरादों के अनुसार चलाना। सैंडबॉक्स: अन्य प्रणालियों और इंटरनेट से कटा हुआ पृथक संगणन परिवेश, जिसमें जोखिम वाले सॉफ्टवेयर को सुरक्षित रूप से चलाया और परखा जा सकता है।
- मुक्त भार मॉडल: ऐसा मॉडल जिसके प्रशिक्षित पैरामीटर डाउनलोड के लिए जारी किए जाते हैं।
- किल स्विच: कोई प्रणाली खतरनाक ढंग से व्यवहार करे तो उसे पूरी तरह रोक देने का तंत्र।
AI एजेंट ऐसा सॉफ़्टवेयर है जो कम मानवीय हस्तक्षेप के साथ किसी लक्ष्य की ओर कई क्रियाएँ करता है: वह ब्राउज़ करता है, कोड लिखता है, लॉग इन करता है और भुगतान करता है।
- स्क्रिप्ट से चलने वाले बॉट के विपरीत, एजेंट हर परिणाम को देखकर फिर से योजना बनाता है, इसलिए कोई हानिरहित काम ऐसे चरणों से पहुँच की सीमा पार कर सकता है जिनमें से हर एक उचित लगता है।
- संरेखण (alignment) किसी प्रणाली को वही करने देता है जो उसके निर्माता चाहते हैं।
- बाहरी नियंत्रण सैंडबॉक्स, क्रेडेंशियल और नेटवर्क पर सीमाओं, निगरानी और बंद करने के माध्यम से यह सीमित करता है कि वह कहाँ तक पहुँच सकती है।
क्या बदला
30 Sep 2026मुख्य लेखजब AI एजेंट सीमा लाँघते हैं: घटनाएँ और गति पर बहस
UPSC पूछ चुका है
- Mains 2026: एजेंटिक AI क्या है, यह कैसे काम करता है, और इसके जोखिम तथा चुनौतियाँ