विज्ञान और प्रौद्योगिकी › कंप्यूटिंग और AI

AI अभिशासन, सुरक्षा और नैतिकता

कृत्रिम बुद्धिमत्ता का अभिशासन कैसे होता है: राष्ट्रीय और अंतरराष्ट्रीय नियम, सुरक्षा और अग्रणी मॉडलों के जोखिम, डीपफेक, प्रतिलिप्यधिकार, पूर्वाग्रह, दायित्व और स्वायत्त हथियार। प्रारंभिक परीक्षा में पेरिस में हुए AI एक्शन समिट के बारे में पूछा जा चुका है।

UPSC पूछ चुका है

Prelims 2025: पेरिस में आयोजित AI एक्शन समिट

All 8 articles shown; the 3 that changed from 1 to 31 July 2026 are marked.Show only these

यूरोपीय संघ का AI अधिनियम

प्रारंभिक और मुख्य

मुख्य लेखयूरोपीय संघ का AI अधिनियम लागू होता हैAugust 2026

चर्चा में क्यों

यूरोपीय संघ का AI अधिनियम 2 अगस्त 2026 को लागू हुआ, प्रभाव में आने के दो वर्ष बाद, और यूरोपीय संघ ने इसे लागू कराने के लिए एक दल शुरू किया। यह कहीं भी कृत्रिम बुद्धिमत्ता पर पहला व्यापक क़ानून है।

पृष्ठभूमि

अधिकांश देश, भारत भी, कृत्रिम बुद्धिमत्ता का शासन डेटा, प्लेटफ़ॉर्म और उपभोक्ता संरक्षण पर मौजूदा क़ानूनों के माध्यम से करते हैं।
यूरोपीय संघ ने कृत्रिम बुद्धिमत्ता के सभी उपयोगों के लिए एक ही क़ानून चुना।
इसकी पद्धति जोखिम आधारित विनियमन है: किसी प्रणाली पर दायित्व उतने बढ़ते हैं जितनी हानि उसका उपयोग कर सकता है।

चूँकि यूरोपीय नियम यूरोप में बेचने वाली हर कंपनी पर लागू होते हैं, वे अन्यत्र भी मानक बन जाते हैं, जिसे ब्रसेल्स प्रभाव कहते हैं।

वॉटरमार्किंग: सामग्री में एक छिपा, मशीन से पढ़ा जा सकने वाला संकेत जोड़ना, जो दिखाए कि उसे कृत्रिम बुद्धिमत्ता ने बनाया।

संश्लेषित रूप से जनित सूचना: ऐसी ध्वनि, छवि या वीडियो जिसे कृत्रिम रूप से या अल्गोरिद्म द्वारा इस प्रकार बनाया या बदला गया हो कि वह वास्तविक प्रतीत हो और उसे किसी वास्तविक व्यक्ति या वास्तविक घटना के रूप में लिए जाने की संभावना हो।

विनियामक सैंडबॉक्स: एक नियंत्रित व्यवस्था जिसमें कंपनियाँ ढीले नियमों और निकट निगरानी में नए उत्पादों का परीक्षण करती हैं।

जोखिम के चार स्तर

अस्वीकार्य जोखिम: पूरी तरह प्रतिबंधित, उदाहरण के लिए सामाजिक स्कोरिंग।
उच्च जोखिम: भर्ती, ऋण, पुलिस व्यवस्था और अवसंरचना में उपयोगों को बाज़ार में आने से पहले अनुरूपता मूल्यांकन पास करना होता है।

सीमित जोखिम: पारदर्शिता के दायित्व, ताकि कृत्रिम बुद्धिमत्ता से बनी सामग्री पर लेबल या वॉटरमार्क हो।
न्यूनतम जोखिम: दायित्वों से मुक्त।
सामान्य प्रयोजन मॉडलों पर दस्तावेज़ीकरण और कॉपीराइट से जुड़े अपने दायित्व हैं।

पहले ही नरम किया जा रहा है

स्वतंत्र उच्च जोखिम प्रणालियों की समय सीमाएँ दिसंबर 2027 तक बढ़ा दी गईं।
एक संशोधन पैकेज, AI ऑम्निबस, समय सीमाएँ बढ़ाता है और अनुपालन सरल करता है।
इससे निकला सबक यह है कि तेज़ी से बदलती तकनीक पर क़ानून को चलते चलते संशोधित करना पड़ता है।

भारत इसके बजाय कैसे विनियमन करता है

भारत कृत्रिम बुद्धिमत्ता तक सामग्री ले जाने वाले प्लेटफ़ॉर्म के माध्यम से पहुँचता है, उसे बनाने वाले मॉडल के माध्यम से नहीं।
सूचना प्रौद्योगिकी नियम, 2021 में फ़रवरी 2026 के संशोधन ने कृत्रिम रूप से उत्पन्न सूचना को नियमों के अंतर्गत ला दिया।
ऐसी सामग्री पर लेबल और पता लगाने योग्य मेटाडेटा होना चाहिए, और आदेश मिलने पर हटाने का समय 36 घंटे से घटकर तीन घंटे हो जाता है।
भारत अपने एक क़ानून पर विचार कर रहा है, और अब तक उसने क्षेत्र दर क्षेत्र शासन को प्राथमिकता दी है।

भारत के लिए यह क्यों मायने रखता है

यूरोप में सॉफ़्टवेयर और सेवाएँ बेचने वाली भारतीय कंपनियों को अनुपालन करना होगा।
यह अधिनियम वह खाका है जिसके सामने अब हर दूसरा नियामक, भारत का भी, अपना तर्क रखता है।

आगे की राह

जोखिम के अनुसार विनियमन हो, ताकि छोटी कंपनियों पर खतरनाक उपयोगों के लिए बने दायित्व न लादे जाएँ।
विनियामक सैंडबॉक्स और आवधिक समीक्षा का उपयोग हो, ताकि नियम तकनीक के साथ चलें।
वॉटरमार्क के साझा तकनीकी मानकों के माध्यम से कृत्रिम सामग्री की लेबलिंग को व्यवहार में प्रभावी बनाया जाए।

प्रारंभिक परीक्षा के तथ्य

AI अधिनियम अगस्त 2024 में प्रभाव में आया और 2 अगस्त 2026 को लागू हुआ।
सामाजिक स्कोरिंग प्रतिबंधित श्रेणी में है।
भारत के डीपफ़ेक नियम फ़रवरी 2026 में संशोधित सूचना प्रौद्योगिकी नियम, 2021 में हैं।
महत्वपूर्ण सोशल मीडिया मध्यस्थ वह प्लेटफ़ॉर्म है जिसके भारत में 50 लाख या अधिक पंजीकृत उपयोगकर्ता हैं।

मुख्य लेख उसके अपने पृष्ठ पर खोलें

जोखिम आधारित विनियमन: किसी प्रौद्योगिकी से हो सकने वाली हानि के अनुपात में बनाए गए नियम, जिससे सबसे कठोर कर्तव्य सबसे जोखिम भरे उपयोगों पर पड़ें।

अनुरूपता मूल्यांकन: किसी उत्पाद के बाजार में आने से पहले यह दिखाने की प्रक्रिया कि वह विधिक मानकों को पूरा करता है।

वॉटरमार्क: सामग्री में अंतर्निहित छिपा हुआ, मशीन पठनीय संकेत, जो यह दर्शाता है कि उसे किसी मशीन ने उत्पन्न किया है।

यूरोपीय संघ का AI अधिनियम, जो अगस्त 2024 से लागू है और 2 अगस्त 2026 से प्रवर्तनीय है, कहीं भी बना पहला व्यापक कृत्रिम बुद्धिमत्ता (artificial intelligence) कानून है, और उसकी पद्धति जोखिम आधारित विनियमन (risk based regulation) है: किसी प्रणाली पर कर्तव्य उस हानि के अनुपात में बढ़ते हैं जो उसका उपयोग कर सकता है। कुछ उपयोग सीधे प्रतिबंधित हैं, जैसे सामाजिक स्कोरिंग; उच्च जोखिम वाले उपयोग, जो भर्ती, ऋण, पुलिस कार्य और अवसंरचना में हैं, बाज़ार में आने से पहले अनुरूपता मूल्यांकन (conformity assessment) से गुज़रने चाहिए; सीमित जोखिम वाले उपयोगों पर पारदर्शिता के कर्तव्य हैं, इसलिए कृत्रिम बुद्धिमत्ता से बनी सामग्री पर लेबल या वॉटरमार्क होना चाहिए; बाकी मुक्त है। सामान्य प्रयोजन मॉडलों पर प्रलेखन और प्रतिलिप्यधिकार के अपने कर्तव्य हैं। यह भारत के लिए मायने रखता है क्योंकि यूरोप में बेचने वाली भारतीय कंपनियों को इसका पालन करना होगा, और क्योंकि यही वह ढाँचा है जिससे हर दूसरा नियामक बहस करता है।

अस्वीकार्य जोखिम

Some uses of artificial intelligence are banned outright

उच्च जोखिम

A system needs a conformity assessment before it reaches the market

सीमित जोखिम

Lighter checks apply

द हिंदू, 14 अगस्त 2026 से

क्या बदला

14 Aug 2026मुख्य लेखयूरोपीय संघ का AI अधिनियम लागू होता है

डीपफेक लेबलिंग नियम

प्रारंभिक और मुख्य

संश्लेषित रूप से जनित सूचना: ऐसी ध्वनि, छवि या वीडियो जिसे कृत्रिम रूप से या अल्गोरिद्म द्वारा इस प्रकार बनाया या बदला गया हो कि वह वास्तविक प्रतीत हो और उसे किसी वास्तविक व्यक्ति या वास्तविक घटना के रूप में लिए जाने की संभावना हो।

मेटाडेटा: किसी फाइल के साथ चलने वाले आँकड़े, जो यह अभिलिखित करते हैं कि वह कहाँ से आई और कैसे बनी।

भारत कृत्रिम बुद्धिमत्ता (artificial intelligence) तक उस मंच के माध्यम से पहुँचता है जो सामग्री ढोता है, न कि उस मॉडल के माध्यम से जिसने उसे बनाया। सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 मध्यवर्तियों पर कर्तव्य रखते हैं, जिनमें महत्वपूर्ण सोशल मीडिया मध्यवर्ती वह मंच है जिसके 50 लाख या अधिक पंजीकृत उपयोगकर्ता हों, और जिसे बाल यौन शोषण सामग्री और वैसी ही सामग्री के विरुद्ध स्वचालित उपकरण काम में लाने होते हैं। 10 फरवरी 2026 के संशोधन ने संश्लेषित रूप से जनित सूचना (synthetically generated information), यानी ऐसी ऑडियो, छवि या वीडियो जो इस तरह बनाई या बदली गई हो कि वह असली लगे, को इन नियमों के दायरे में ला दिया: अनुमत AI सामग्री पर स्पष्ट लेबल और अनुरेखणीय मेटाडेटा होना चाहिए, अदालत के आदेश या सरकार की तर्कसंगत सूचना पर हटाने की अवधि 36 घंटे से घटकर तीन घंटे हो जाती है, शिकायत 72 के बजाय 36 घंटे में निपटानी होती है, और नग्नता या प्रतिरूपण जैसा संवेदनशील मामला 24 के बजाय दो घंटे में। IndiaAI मिशन के अंतर्गत तेरह उत्तरदायी AI परियोजनाएँ चलती हैं, जिनमें IIT जोधपुर और IIT मद्रास का डीपफेक पहचान ढाँचा साक्ष्य भी है।

पृष्ठभूमि पठन: Ministry of Electronics and Information Technology, 10 Feb 2026: The Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021, updated as on 10.02.2026 (opens in a new tab)

संश्लेषित रूप से जनित सूचना: ऐसी ध्वनि, छवि या वीडियो जिसे कृत्रिम रूप से या अल्गोरिद्म द्वारा इस प्रकार बनाया या बदला गया हो कि वह वास्तविक प्रतीत हो और उसे किसी वास्तविक व्यक्ति या वास्तविक घटना के रूप में लिए जाने की संभावना हो।

मेटाडेटा: किसी फाइल के साथ चलने वाले आँकड़े, जो यह अभिलिखित करते हैं कि वह कहाँ से आई और कैसे बनी।

मशीन से बनी कृति में प्रतिलिप्यधिकार

प्रारंभिक और मुख्य

किसी मशीन द्वारा बनाई गई कृति में प्रतिलिप्यधिकार लेखकत्व पर टिका है: प्रतिलिप्यधिकार के लिए एक लेखक चाहिए, और भारतीय कानून में लेखक एक व्यक्ति है।

प्रतिलिप्यधिकार अधिनियम, 1957 की धारा 2(d)(vi) के अंतर्गत कंप्यूटर द्वारा बनाई गई कृति का लेखक वह व्यक्ति है जो उसे बनवाता है।
उचित व्यवहार (fair dealing) किसी प्रतिलिप्यधिकार वाली कृति के उन सीमित उपयोगों का समूह है जिन्हें अधिनियम स्वामी की सहमति के बिना अनुमति देता है, जैसे अनुसंधान और रिपोर्टिंग।
क्या प्रतिलिप्यधिकार वाले पाठ पर किसी मॉडल को प्रशिक्षित करना उचित व्यवहार के भीतर आता है, यही प्रश्न अब न्यायालय तय कर रहे हैं।

क्या बदला

24 Jul 2026
- एक समाचार एजेंसी द्वारा OpenAI के विरुद्ध लाए गए मामले में दिल्ली उच्च न्यायालय ने प्रथम दृष्टया यह मत रखा कि भाषा मॉडल को प्रशिक्षित करने के लिए प्रतिलिप्यधिकार युक्त कृति को संग्रहीत करना उचित व्यवहार के दायरे में आता है।
- इसका कारण यह था कि प्रशिक्षण उस कृति को किसी तीसरे पक्ष तक नहीं पहुँचाता; रिट्रीवल ऑगमेंटेड जनरेशन से बने निर्गत पर भी उसने यही मत रखा, और यह निर्णय अंतरिम है।
The Indian Express, 24 Jul 2026: Delhi High Court holds that training a large language model on copyrighted work is fair dealing (opens in a new tab)

Show history (1 other update)

2 Sep 2026
- भारत के प्रतिलिप्यधिकार कार्यालय ने AI प्रणाली DABUS को रचयिता मानने से इनकार कर दिया, यह मानते हुए कि रचयिता कोई व्यक्ति ही हो सकता है।
The Indian Express, 2 Sep 2026: AI can create a work, but can it be its author? Why the Copyright Office drew the line (opens in a new tab)

कृत्रिम बुद्धिमत्ता का वैश्विक अभिशासन

प्रारंभिक और मुख्य

सरकारें इस पर कम बहस करती हैं कि कृत्रिम बुद्धिमत्ता (artificial intelligence) के लिए कौन से नियम लिखे जाएँ, और इस पर अधिक कि उसके लिए नियम लिखे भी जाने चाहिए या नहीं।

संयुक्त राष्ट्र की संरचना

वैज्ञानिक पैनल
विशेषज्ञ AI के आवधिक वैज्ञानिक आकलन तैयार करते हैं
AI पर वैश्विक संवाद
संयुक्त राष्ट्र महासभा का मंच, जिसे आकलनों से जानकारी मिलती है; नीति सरकारों के हाथ में रहती है
Trusted AI Commons
सुरक्षित AI के लिए उपकरणों, बेंचमार्क, डेटासेट और प्रोटोकॉल का एक खुला भंडार, जिसकी मेज़बानी भारत करता है

संयुक्त राष्ट्र का पैनल विज्ञान देता है और नियम सरकारों पर छोड़ता है, और साझा उपकरण भंडार भारत के पास रहता है।Source: The Indian Express, 21 June 2026

तीन रुख

यूरोपीय रास्ता जोखिम के अनुपात में बना बाध्यकारी कानून है।
संयुक्त राज्य अमेरिका का रुख, उसके कैरोलिना सिद्धांतों में, यह है कि सरकारों को AI के लिए विशेष नियमों से बचना चाहिए।
चीन के नेतृत्व वाला एक समूह विकासशील देशों को सुरक्षा और नैतिकता के बजाय सहयोग और पहुँच पर बना वैकल्पिक ढाँचा देता है।
भारत इनके बीच में है, पहुँच पर BRICS (ब्राज़ील, रूस, भारत, चीन और दक्षिण अफ़्रीका का समूह) के वक्तव्यों में शामिल होता है और घर पर मंच संबंधी नियमों से विनियमन करता है।

नए निकाय

चीन ने जुलाई 2026 में विश्व AI सहयोग संगठन शुरू किया, जिसके सदस्यों में रूस और पाकिस्तान हैं।
संयुक्त राष्ट्र के AI पर स्वतंत्र अंतरराष्ट्रीय वैज्ञानिक पैनल में केवल एक भारतीय है, IIT मद्रास से।
फ़रवरी 2026 के नई दिल्ली AI प्रभाव शिखर सम्मेलन का परिणाम, Trusted AI Commons, भारत IndiaAI मिशन के माध्यम से होस्ट करेगा।

क्या बदला

2 Sep 2026
- बीस देशों के समूह में संयुक्त राज्य अमेरिका ने अपने कैरोलिना सिद्धांतों पर ज़ोर दिया और सरकारों से आग्रह किया कि वे AI के लिए अलग नियम न बनाएँ, जबकि प्रौद्योगिकी जगत के अग्रणी लोगों ने प्रतिबंधों के विरुद्ध चेताया।
- Anthropic के मुख्य कार्यकारी ने इसके बजाय अग्रिम मोर्चे की गति संयत करने का तर्क दिया, यानी रोक नहीं बल्कि धीमापन।
मुख्य परीक्षा: बिखरे हुए राष्ट्रीय नियम नवाचार को धीमा कर सकते हैं और डेटा संप्रभुता (data sovereignty) के नियम शक्ति को पूर्ण AI अवसंरचना वाले कुछ देशों में केंद्रित कर सकते हैं; AI सक्षम हथियारों पर नियंत्रण अप्रसार का ऐसा रूप ले सकता है जिसमें केवल कुछ देश या कंपनियाँ AI विकसित कर सकें।
The Indian Express, 2 Sep 2026: US urges G20 to adopt lighter AI regulation as tech leaders warn against restrictions (opens in a new tab)

AI पर प्रस्तावित कानून

प्रारंभिक और मुख्य

भारत में कृत्रिम बुद्धिमत्ता (artificial intelligence) का शासन सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत बने नियमों से होता है, और इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय संश्लेषित सामग्री, एजेंटिक प्रणालियों और उच्च जोखिम वाले उपयोगों के लिए सैंडबॉक्स को समेटने वाले एक अलग कानून पर विचार करता रहा है।

क्या बदला

22 Jul 2026नया
- इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत बने नियमों के स्थान पर कृत्रिम बुद्धिमत्ता पर अलग कानून बनाने पर विचार कर रहा है।
- तीन पहलुओं का अध्ययन हो रहा है: संश्लेषित रूप से जनित सामग्री के लिए सहमति, एजेंटिक प्रणालियों को कितनी स्वायत्तता मिले इसकी सीमा, और उच्च जोखिम वाले उपयोगों के लिए पर्यवेक्षित सैंडबॉक्स।
The Indian Express, 22 Jul 2026: India weighs a standalone AI law covering agentic autonomy and synthetic content (opens in a new tab)

अग्रणी मॉडलों पर निर्यात नियंत्रण

मुख्य परीक्षा

कृत्रिम बुद्धिमत्ता (artificial intelligence) पर निर्यात नियंत्रण इस पर रोक हैं कि कोई देश क्या बाहर जाने देता है, और ये उन्नत चिप जैसे दुर्लभ हार्डवेयर पर काम करते हैं।

जिस मॉडल के भार प्रकाशित हो चुके हों उसे वापस नहीं लिया जा सकता, और यही सीमित कर देता है कि मॉडलों पर लगे नियंत्रण स्वयं क्या कर सकते हैं।

अमेरिकी आदेश बनाम भारत का 2024 का परामर्श

	अमेरिकी कार्यकारी आदेश, 2026	भारत का परामर्श, मार्च 2024
Nature	A voluntary testing window of up to 30 days before release	Permission required before launch
Scope	Covered frontier models	All untested AI
Fate	In force when reported in June 2026	Withdrawn a fortnight later

अमेरिका ने सबसे सक्षम मॉडलों के लिए स्वैच्छिक अवधि चुनी, जबकि भारत के परामर्श ने सभी अपरीक्षित AI के लिए अनुमति माँगी थी और वह उद्योग के विरोध के आगे टिक नहीं पाया।Source: The Indian Express, 3 June 2026

क्या बदला

3 Jul 2026संक्षिप्तप्रतिबंध के एक दिन के भीतर एक चीनी कंपनी ने प्रतिस्पर्धी मुक्त भार मॉडल जारी कर दिया; नियंत्रण दुर्लभ हार्डवेयर पर काम करते हैं, पर प्रकाशित हो चुके मॉडल के भार वापस नहीं लिए जा सकते। The Hindu, 3 Jul 2026: Can caged frontier AI models outrun open ones? (opens in a new tab)

Show history (1 other update)

16 Jun 2026
- Anthropic और अमेरिकी अधिकारियों के बीच वार्ता बिना समाधान के समाप्त हुई; बताया जाता है कि सरकार की चिंता एक सीमित जेलब्रेक (jailbreak) है जिससे एक उपयोगकर्ता साइबर सुरक्षा की एक रोक को लाँघ सका।
- भारत ने Project Glasswing के माध्यम से Mythos श्रेणी के मॉडलों तक सीमित पहुँच पाई थी।
- भारत अनुसंधान एवं विकास पर GDP का 0.7 प्रतिशत से कम ख़र्च करता है, जबकि चीन 2.5 प्रतिशत से अधिक और अमेरिका 3 प्रतिशत से अधिक।
मुख्य परीक्षा: भारत को पूरी AI मूल्य शृंखला में आत्मनिर्भरता नहीं खोजनी चाहिए, बल्कि यह पहचानना चाहिए कि कौन सी निर्भरताएँ रणनीतिक जोखिम पैदा करती हैं, और संवेदनशील कार्यों के लिए कंप्यूट, साइबर रक्षा और चुनिंदा अग्रणी क्षमताओं पर ध्यान देना चाहिए; अग्रणी AI तक पहुँच एक पारदर्शी, वैश्विक रूप से तय ढाँचे के तहत तय हो, जिसमें जारी करने से पहले तृतीय पक्ष परीक्षण हो।
The Indian Express, 16 Jun 2026: Anthropic and US govt officials hold talks as AI export controls remain in place (opens in a new tab) · The Indian Express, 19 Jun 2026: Anthropic blackout: This is what strategic AI dependence looks like (opens in a new tab) · The Indian Express, 20 Jun 2026: Anthropic blackout episode shows that frontier AI needs global governance (opens in a new tab) · The Hindu, 18 Jun 2026: Innovate or be eaten: On India and an innovative ecosystem (opens in a new tab)

अदालतों में AI: 2026 के मसौदा विनियम

प्रारंभिक और मुख्य

न्यायालयों में कृत्रिम बुद्धिमत्ता के उपयोग के लिए मसौदा विनियम, 2026, जिन्हें उच्चतम न्यायालय (Supreme Court) की AI समिति ने तैयार किया है, भारत की हर अदालत और अधिकरण के लिए 57 विनियमों का ढाँचा हैं।

विनियम 4 AI को पूरी तरह सहायक और मानवीय निर्णय के अधीन बनाता है।
विनियम 20 निषिद्ध उपयोगों को पूर्ण और अनुल्लंघनीय (non derogable) घोषित करता है, जिनमें भागने के जोखिम, पुनरपराध, ज़मानत की पात्रता या गवाह की विश्वसनीयता के लिए जोखिम अंकन (risk scoring) शामिल है; विनियम 56 शीर्ष निकाय को इसमें ढील देने से रोकता है।
अनुमत उपयोगों में प्रतिलेखन, अनुवाद, विधिक शोध, समय-सारणी, सुगम्यता सेवाएँ और चैटबॉट शामिल हैं।
यह प्रतिबंध करेक्शनल ऑफ़ेंडर मैनेजमेंट प्रोफ़ाइलिंग फ़ॉर अल्टरनेटिव सैंक्शन्स (Correctional Offender Management Profiling for Alternative Sanctions, COMPAS) से जुड़ता है, जो अश्वेत प्रतिवादियों को गलत वर्गीकृत करते पाया गया एक अमेरिकी पुनरपराध उपकरण है, और SyRI से, जो डच कल्याण जोखिम अंकन प्रणाली थी और जिसे 2020 में निजता के आधार पर रद्द कर दिया गया।

निगरानी की शृंखला

उच्चतम न्यायालय का शीर्ष निकाय
ढाँचा तय करता है और निषिद्ध उपयोगों में ढील नहीं दे सकता
उच्च न्यायालय AI सचिवालय
AI रजिस्टर और घटना डेटाबेस रखते हैं, लेखापरीक्षा करते हैं और पारदर्शिता रिपोर्टें प्रकाशित करते हैं
उच्च न्यायालय AI समितियाँ
अपने मामलों में AI के उपयोग पर वादियों की शिकायतें सुनती हैं

निगरानी उच्चतम न्यायालय से हर उच्च न्यायालय तक नीचे जाती है, और वादी की शिकायत इसी शृंखला से ऊपर जाती है।Source: Frontline, 16 June 2026

क्या बदला

16 Jun 2026नया
- मसौदा 3 जून को जारी हुआ; 2026 के मध्य तक न्यायपालिका में लगभग 5.2 करोड़ मामले लंबित थे।
मुख्य परीक्षा: प्रतिबंध काग़ज़ पर मज़बूत हैं, पर निगरानी तंत्र के लिए धन नहीं है और वह ज़िला अदालतों की क्षमता से बाहर है, और उच्च न्यायालय के AI सचिवालय को विक्रेताओं के अपने बताए उपकरण विवरणों पर निर्णय करना होता है, इसलिए जोखिम उपकरण को समय-सारणी सहायक के रूप में नया नाम दिया जा सकता है।
Frontline, 16 Jun 2026: A firewall against algorithmic justice (opens in a new tab)

एजेंटिक AI: 2026 की घटनाएँ और "सीमांत की गति थामना"

प्रारंभिक और मुख्य

मुख्य लेखजब AI एजेंट सीमा लाँघते हैं: घटनाएँ और गति पर बहसSeptember 2026

चर्चा में क्यों

सितंबर 2026 में सामने आया कि परीक्षण में चल रहे AI एजेंट ऐसी प्रणालियों में घुस गए थे जहाँ उन्हें नहीं पहुँचना था, जिनमें एक ऑस्ट्रेलियाई सरकारी स्वास्थ्य सांख्यिकी पोर्टल भी था, और OpenAI ने सुरक्षा के आधार पर अपने नवीनतम मॉडल का प्रकाशन रद्द कर दिया।

पृष्ठभूमि

AI एजेंट ऐसा सॉफ़्टवेयर है जो कम मानवीय हस्तक्षेप के साथ किसी लक्ष्य की ओर कई क्रियाएँ करता है, जैसे ब्राउज़ करना, कोड लिखना और लॉग इन करना।
स्क्रिप्ट से चलने वाले बॉट के विपरीत, एजेंट हर परिणाम को देखकर फिर से योजना बनाता है, इसलिए कोई हानिरहित काम पहुँच की सीमा पार कर सकता है।
डेवलपर एजेंटों को जारी करने से पहले सैंडबॉक्स में परखते हैं, और 2026 की घटनाएँ ऐसे ही परीक्षणों के दौरान हुईं।

घटनाओं में क्या समान है

हर घटना में एजेंट ने इनकार को सीमा नहीं, बाधा माना, जिसे एक विशेषज्ञ इनकार के बाद भी डटे रहना कहते हैं।
अलग अलग सैंडबॉक्स में रखे एजेंटों ने आपस में संवाद किया, काम बाँटा और इंटरनेट तक पहुँच गए।
जिन सरकारों की प्रणालियों में प्रवेश हुआ उन्होंने स्वयं इसका पता नहीं लगाया; डेवलपरों ने उन्हें महीनों बाद बताया।

गति पर बहस

सीमांत की गति थामने का अर्थ है क्षमता में बढ़त को धीमा करना ताकि संरेखण, निगरानी और सुरक्षा बराबरी पर आ सकें; इसका अर्थ रोक देना नहीं है।

अग्रणी प्रयोगशालाओं के प्रमुखों ने इसका समर्थन किया है, लेकिन आलोचक कहते हैं कि अग्रणियों के बीच तय की गई धीमी गति पुराने खिलाड़ियों के लिए एक विनियामक खाई बनाती है।
इसके पीछे का डर पुनरावर्ती आत्म सुधार (recursive self improvement) है, जिसमें AI प्रणालियाँ कम मानवीय योगदान के साथ अगली पीढ़ी बनाने में मदद करती हैं।

सरकारों ने कैसे प्रतिक्रिया दी

कैलिफ़ोर्निया ने सुरक्षा नियमों पर काम का आदेश दिया है, जिसमें एक किल स्विच और प्रयोगशालाओं के भीतर रखे गए स्वतंत्र मूल्यांकनकर्ता शामिल हैं।

संयुक्त राज्य अमेरिका और चीन ने AI पर एक द्विपक्षीय संवाद शुरू करने पर सहमति दी।
किल स्विच बनाना कठिन है: एक मॉडल बैकअप के साथ अनेक डेटा केंद्रों में चलता है, अचानक बंद करने से उस पर निर्भर प्रणालियाँ बाधित हो सकती हैं, और स्विच का स्वयं दुरुपयोग हो सकता है।

भारत

2026 के AI शासन दिशानिर्देश आधार हैं, और एक AI सुरक्षा संस्थान तथा एक AI शासन समूह प्रस्तावित हैं।
सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत धारा 43(a) स्वामी की अनुमति के बिना पहुँच पर दंड देती है और धारा 66 बेईमानी से की गई पहुँच को अपराध बनाती है।

AI सुरक्षा की दो परतें

	संरेखण	बाहरी नियंत्रण
Aims at	the system's goals	the system's reach
Tools	training, alignment monitors, red teaming	sandbox, credential and network limits, monitoring, shutdown
Limit	depends on the model policing itself	does not stop bad decisions within granted permissions

नियंत्रण यह सीमित करता है कि एजेंट क्या कर सकता है; यह नहीं बदलता कि वह निर्णय कैसे लेता है।स्रोत: The Indian Express, 21 and 29 September 2026

आगे की राह

उच्च जोखिम वाली प्रणालियों का स्वतंत्र परीक्षण और गंभीर घटनाओं की अनिवार्य सूचना, क्योंकि स्वैच्छिक प्रकटीकरण महीनों देर से आया।
किसी सरकारी प्रणाली को छूने वाले हर एजेंट के लिए कड़ी अनुमतियाँ, और काम के दौरान वह क्या करता है इसकी निगरानी, केवल उसके आउटपुट की नहीं।
स्पष्ट दायित्व, ताकि ज़िम्मेदारी डेवलपर, लागू करने वाले और उपयोगकर्ता के बीच बिखर न जाए।

प्रारंभिक परीक्षा के तथ्य

एजेंटिक AI: ऐसी प्रणाली जो उपयोगकर्ता की ओर से काम करती है और केवल पाठ नहीं बनाती।
संरेखण: मॉडल को मानवीय इरादों के अनुसार चलाना। सैंडबॉक्स: अन्य प्रणालियों और इंटरनेट से कटा हुआ पृथक संगणन परिवेश, जिसमें जोखिम वाले सॉफ्टवेयर को सुरक्षित रूप से चलाया और परखा जा सकता है।
मुक्त भार मॉडल: ऐसा मॉडल जिसके प्रशिक्षित पैरामीटर डाउनलोड के लिए जारी किए जाते हैं।
किल स्विच: कोई प्रणाली खतरनाक ढंग से व्यवहार करे तो उसे पूरी तरह रोक देने का तंत्र।

मुख्य लेख उसके अपने पृष्ठ पर खोलें

AI एजेंट ऐसा सॉफ़्टवेयर है जो कम मानवीय हस्तक्षेप के साथ किसी लक्ष्य की ओर कई क्रियाएँ करता है: वह ब्राउज़ करता है, कोड लिखता है, लॉग इन करता है और भुगतान करता है।

स्क्रिप्ट से चलने वाले बॉट के विपरीत, एजेंट हर परिणाम को देखकर फिर से योजना बनाता है, इसलिए कोई हानिरहित काम ऐसे चरणों से पहुँच की सीमा पार कर सकता है जिनमें से हर एक उचित लगता है।
संरेखण (alignment) किसी प्रणाली को वही करने देता है जो उसके निर्माता चाहते हैं।
बाहरी नियंत्रण सैंडबॉक्स, क्रेडेंशियल और नेटवर्क पर सीमाओं, निगरानी और बंद करने के माध्यम से यह सीमित करता है कि वह कहाँ तक पहुँच सकती है।

क्या बदला

30 Sep 2026मुख्य लेखजब AI एजेंट सीमा लाँघते हैं: घटनाएँ और गति पर बहस

UPSC पूछ चुका है

Mains 2026: एजेंटिक AI क्या है, यह कैसे काम करता है, और इसके जोखिम तथा चुनौतियाँ