Science and Technology › Computing and AI

AI अभिशासन, सुरक्षा और नैतिकता

कृत्रिम बुद्धिमत्ता का अभिशासन कैसे होता है: राष्ट्रीय और अंतरराष्ट्रीय नियम, सुरक्षा और अग्रणी मॉडलों के जोखिम, डीपफेक, प्रतिलिप्यधिकार, पूर्वाग्रह, दायित्व और स्वायत्त हथियार। प्रारंभिक परीक्षा में पेरिस में हुए AI एक्शन समिट के बारे में पूछा जा चुका है।

UPSC पूछ चुका है

Prelims 2025: पेरिस में आयोजित AI एक्शन समिट

यूरोपीय संघ का AI अधिनियम

Prelims and Mains

जोखिम आधारित विनियमन: किसी प्रौद्योगिकी से हो सकने वाली हानि के अनुपात में बनाए गए नियम, जिससे सबसे कठोर कर्तव्य सबसे जोखिम भरे उपयोगों पर पड़ें।

अनुरूपता मूल्यांकन: किसी उत्पाद के बाजार में आने से पहले यह दिखाने की प्रक्रिया कि वह विधिक मानकों को पूरा करता है।

वॉटरमार्क: सामग्री में अंतर्निहित छिपा हुआ, मशीन पठनीय संकेत, जो यह दर्शाता है कि उसे किसी मशीन ने उत्पन्न किया है।

जोखिम आधारित विनियमन: किसी प्रौद्योगिकी से हो सकने वाली हानि के अनुपात में बनाए गए नियम, जिससे सबसे कठोर कर्तव्य सबसे जोखिम भरे उपयोगों पर पड़ें।

अनुरूपता मूल्यांकन: किसी उत्पाद के बाजार में आने से पहले यह दिखाने की प्रक्रिया कि वह विधिक मानकों को पूरा करता है।

वॉटरमार्क: सामग्री में अंतर्निहित छिपा हुआ, मशीन पठनीय संकेत, जो यह दर्शाता है कि उसे किसी मशीन ने उत्पन्न किया है।

यूरोपीय संघ का AI अधिनियम, जो अगस्त 2024 से लागू है और 2 अगस्त 2026 से प्रवर्तनीय है, कहीं भी बना पहला व्यापक कृत्रिम बुद्धिमत्ता (artificial intelligence) कानून है, और उसकी पद्धति जोखिम आधारित विनियमन (risk based regulation) है: किसी प्रणाली पर कर्तव्य उस हानि के अनुपात में बढ़ते हैं जो उसका उपयोग कर सकता है। कुछ उपयोग सीधे प्रतिबंधित हैं, जैसे सामाजिक स्कोरिंग; उच्च जोखिम वाले उपयोग, जो भर्ती, ऋण, पुलिस कार्य और अवसंरचना में हैं, बाज़ार में आने से पहले अनुरूपता मूल्यांकन (conformity assessment) से गुज़रने चाहिए; सीमित जोखिम वाले उपयोगों पर पारदर्शिता के कर्तव्य हैं, इसलिए कृत्रिम बुद्धिमत्ता से बनी सामग्री पर लेबल या वॉटरमार्क होना चाहिए; बाकी मुक्त है। सामान्य प्रयोजन मॉडलों पर प्रलेखन और प्रतिलिप्यधिकार के अपने कर्तव्य हैं। यह भारत के लिए मायने रखता है क्योंकि यूरोप में बेचने वाली भारतीय कंपनियों को इसका पालन करना होगा, और क्योंकि यही वह ढाँचा है जिससे हर दूसरा नियामक बहस करता है।

अस्वीकार्य जोखिम

Some uses of artificial intelligence are banned outright

उच्च जोखिम

A system needs a conformity assessment before it reaches the market

सीमित जोखिम

Lighter checks apply

द हिंदू, 14 अगस्त 2026 से

क्या बदला

17 Aug 2026
- Anthropic ने कहा कि वह अधिनियम की पारदर्शिता बाध्यता पूरी करने के लिए Claude के पाठ और फ़ाइलों में मशीन पठनीय वॉटरमार्क जोड़ेगा।
The Hindu, 17 Aug 2026: Anthropic watermarking of Claude AI content, explained (opens in a new tab)
14 Aug 2026
- एक विचार लेख में तर्क दिया गया कि यूरोप के नियम भारत का अवसर बन सकते हैं, क्योंकि कंपनियाँ हल्के अनुपालन वाला क्षेत्राधिकार खोजती हैं।
The Hindu, 14 Aug 2026: Europe's AI rules may become India's opportunity (opens in a new tab)
1 Aug 2026
- अधिनियम 2 अगस्त 2026 को लागू हुआ, और उसी दिन एक प्रवर्तन दल भी शुरू किया गया।
- स्वतंत्र रूप से काम करने वाली उच्च जोखिम प्रणालियों के लिए अनुपालन की समय सीमा दिसंबर 2027 तक बढ़ा दी गई।
The Hindu, 1 Aug 2026: EU AI Act becomes applicable (opens in a new tab)

डीपफेक लेबलिंग नियम

Prelims and Mains

संश्लेषित रूप से जनित सूचना: ऐसी ध्वनि, छवि या वीडियो जिसे कृत्रिम रूप से या अल्गोरिद्म द्वारा इस प्रकार बनाया या बदला गया हो कि वह वास्तविक प्रतीत हो और उसे किसी वास्तविक व्यक्ति या वास्तविक घटना के रूप में लिए जाने की संभावना हो।

मेटाडेटा: किसी फाइल के साथ चलने वाले आँकड़े, जो यह अभिलिखित करते हैं कि वह कहाँ से आई और कैसे बनी।

संश्लेषित रूप से जनित सूचना: ऐसी ध्वनि, छवि या वीडियो जिसे कृत्रिम रूप से या अल्गोरिद्म द्वारा इस प्रकार बनाया या बदला गया हो कि वह वास्तविक प्रतीत हो और उसे किसी वास्तविक व्यक्ति या वास्तविक घटना के रूप में लिए जाने की संभावना हो।

मेटाडेटा: किसी फाइल के साथ चलने वाले आँकड़े, जो यह अभिलिखित करते हैं कि वह कहाँ से आई और कैसे बनी।

भारत कृत्रिम बुद्धिमत्ता (artificial intelligence) तक उस मंच के माध्यम से पहुँचता है जो सामग्री ढोता है, न कि उस मॉडल के माध्यम से जिसने उसे बनाया। सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 मध्यवर्तियों पर कर्तव्य रखते हैं, जिनमें महत्वपूर्ण सोशल मीडिया मध्यवर्ती वह मंच है जिसके 50 लाख या अधिक पंजीकृत उपयोगकर्ता हों, और जिसे बाल यौन शोषण सामग्री और वैसी ही सामग्री के विरुद्ध स्वचालित उपकरण काम में लाने होते हैं। 10 फरवरी 2026 के संशोधन ने संश्लेषित रूप से जनित सूचना (synthetically generated information), यानी ऐसी ऑडियो, छवि या वीडियो जो इस तरह बनाई या बदली गई हो कि वह असली लगे, को इन नियमों के दायरे में ला दिया: अनुमत AI सामग्री पर स्पष्ट लेबल और अनुरेखणीय मेटाडेटा होना चाहिए, अदालत के आदेश या सरकार की तर्कसंगत सूचना पर हटाने की अवधि 36 घंटे से घटकर तीन घंटे हो जाती है, शिकायत 72 के बजाय 36 घंटे में निपटानी होती है, और नग्नता या प्रतिरूपण जैसा संवेदनशील मामला 24 के बजाय दो घंटे में।

क्या बदला

6 Aug 2026
- लेबलिंग की बाध्यता और तीन घंटे में हटाने का नियम, जैसे नियम इस समय हैं, स्पष्ट रूप से रखे गए।
PIB, 6 Aug 2026: Deepfakes: labelling rules and three-hour takedown (opens in a new tab)
30 Jul 2026Updatealso in news
- IndiaAI मिशन के अंतर्गत तेरह उत्तरदायी AI परियोजनाएँ चल रही हैं, जिनमें IIT जोधपुर और IIT मद्रास का डीपफेक पहचान ढाँचा साक्ष्य भी है।
PIB, 30 Jul 2026: Government Enhances User Safety with Faster Removal of Unlawful AI-Generated Content and Strengthened Grievance Redressal Framework (opens in a new tab)

पृष्ठभूमि पठन: Ministry of Electronics and Information Technology, 10 Feb 2026: The Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021, updated as on 10.02.2026 (opens in a new tab)

मशीन से बनी कृति में प्रतिलिप्यधिकार

Prelims and Mains

प्रतिलिप्यधिकार के लिए एक रचयिता चाहिए, और भारतीय कानून में रचयिता एक व्यक्ति होता है: प्रतिलिप्यधिकार अधिनियम, 1957 की धारा 2(d)(vi) के अंतर्गत कंप्यूटर से बनी कृति का रचयिता वह व्यक्ति है जो उसे बनवाता है। उचित व्यवहार (fair dealing) किसी प्रतिलिप्यधिकार युक्त कृति के उन सीमित उपयोगों का समूह है जिनकी अनुमति अधिनियम स्वामी की सहमति के बिना देता है, जैसे अनुसंधान और समाचार देना, और प्रतिलिप्यधिकार युक्त पाठ पर किसी मॉडल को प्रशिक्षित करना उसमें आता है या नहीं, यही वह प्रश्न है जिसका उत्तर अदालतें अब दे रही हैं।

क्या बदला

2 Sep 2026
- भारत के प्रतिलिप्यधिकार कार्यालय ने AI प्रणाली DABUS को रचयिता मानने से इनकार कर दिया, यह मानते हुए कि रचयिता कोई व्यक्ति ही हो सकता है।
The Indian Express, 2 Sep 2026: AI can create a work, but can it be its author? Why the Copyright Office drew the line (opens in a new tab)
24 Jul 2026Update
- एक समाचार एजेंसी द्वारा OpenAI के विरुद्ध लाए गए मामले में दिल्ली उच्च न्यायालय ने प्रथम दृष्टया यह मत रखा कि भाषा मॉडल को प्रशिक्षित करने के लिए प्रतिलिप्यधिकार युक्त कृति को संग्रहीत करना उचित व्यवहार के दायरे में आता है।
- इसका कारण यह था कि प्रशिक्षण उस कृति को किसी तीसरे पक्ष तक नहीं पहुँचाता; रिट्रीवल ऑगमेंटेड जनरेशन से बने निर्गत पर भी उसने यही मत रखा, और यह निर्णय अंतरिम है।
The Indian Express, 24 Jul 2026: Delhi High Court holds that training a large language model on copyrighted work is fair dealing (opens in a new tab)

कृत्रिम बुद्धिमत्ता का वैश्विक अभिशासन

Prelims and Mains

सरकारें इस पर कम बहस करती हैं कि कृत्रिम बुद्धिमत्ता (artificial intelligence) के लिए कौन से नियम लिखे जाएँ, और इस पर अधिक कि उसके लिए नियम लिखे भी जाने चाहिए या नहीं। तीन रुख बने हैं: जोखिम के अनुपात में बने बाध्यकारी कानून का यूरोपीय रास्ता; संयुक्त राज्य अमेरिका का रुख, उसके कैरोलिना सिद्धांतों में, कि सरकारों को AI के लिए विशेष नियमों से बचना चाहिए; और चीन के नेतृत्व वाला एक समूह जो विकासशील देशों को सुरक्षा और नैतिकता के बजाय सहयोग और पहुँच पर बना वैकल्पिक ढाँचा दे रहा है। भारत इनके बीच में है, पहुँच पर BRICS (ब्राज़ील, रूस, भारत, चीन और दक्षिण अफ़्रीका का समूह) के वक्तव्यों में शामिल होता है और घर पर मंच संबंधी नियमों से विनियमन करता है।

क्या बदला

12 Sep 2026
- भारत कृत्रिम बुद्धिमत्ता के वैश्विक अभिशासन पर BRICS (ब्राज़ील, रूस, भारत, चीन और दक्षिण अफ़्रीका का समूह) नेताओं के वक्तव्य में शामिल हुआ, जिसमें मज़बूत अंतरराष्ट्रीय सहयोग और AI संसाधनों तक व्यापक पहुँच की माँग की गई।
The Hindu, 12 Sep 2026: BRICS leaders call for stronger international cooperation, wider access to AI resources (opens in a new tab)
2 Sep 2026
- बीस देशों के समूह में संयुक्त राज्य अमेरिका ने अपने कैरोलिना सिद्धांतों पर ज़ोर दिया और सरकारों से आग्रह किया कि वे AI के लिए अलग नियम न बनाएँ, जबकि प्रौद्योगिकी जगत के अग्रणी लोगों ने प्रतिबंधों के विरुद्ध चेताया।
- Anthropic के मुख्य कार्यकारी ने इसके बजाय अग्रिम मोर्चे की गति संयत करने का तर्क दिया, यानी रोक नहीं बल्कि धीमापन।
The Indian Express, 2 Sep 2026: US urges G20 to adopt lighter AI regulation as tech leaders warn against restrictions (opens in a new tab)
20 Jul 2026Update
- चीन ने रूस और पाकिस्तान सहित 29 अन्य देशों के साथ विश्व AI सहयोग संगठन शुरू किया, जो सुरक्षा और नैतिकता पर केंद्रित पश्चिमी ढाँचों के मुकाबले विकासशील देशों के लिए एक विकल्प है।
The Indian Express, 20 Jul 2026: China launches the World AI Cooperation Organisation as an alternative to Western AI governance (opens in a new tab)

AI पर प्रस्तावित कानून

Prelims and Mains

भारत में कृत्रिम बुद्धिमत्ता (artificial intelligence) का शासन सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत बने नियमों से होता है, और इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय संश्लेषित सामग्री, एजेंटिक प्रणालियों और उच्च जोखिम वाले उपयोगों के लिए सैंडबॉक्स को समेटने वाले एक अलग कानून पर विचार करता रहा है।

क्या बदला

22 Jul 2026New subject
- इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत बने नियमों के स्थान पर कृत्रिम बुद्धिमत्ता पर अलग कानून बनाने पर विचार कर रहा है।
- तीन पहलुओं का अध्ययन हो रहा है: संश्लेषित रूप से जनित सामग्री के लिए सहमति, एजेंटिक प्रणालियों को कितनी स्वायत्तता मिले इसकी सीमा, और उच्च जोखिम वाले उपयोगों के लिए पर्यवेक्षित सैंडबॉक्स।
The Indian Express, 22 Jul 2026: India weighs a standalone AI law covering agentic autonomy and synthetic content (opens in a new tab)

रोम घोषणापत्र

Prelims and Mains

रोम घोषणापत्र नोबेल पुरस्कार विजेताओं, AI वैज्ञानिकों और धार्मिक नेताओं का वह आह्वान है कि एक संधि बने जो स्वायत्त प्रणालियों को परमाणु प्रक्षेपण के निर्णयों से बाहर रखे, इस सिद्धांत पर कि घातक बल के उपयोग पर सार्थक मानवीय नियंत्रण रहे।

क्या बदला

23 Jul 2026New subjectalso in news
- नोबेल पुरस्कार विजेताओं, AI वैज्ञानिकों और धर्मगुरुओं ने ऐसी संधि की माँग की जो स्वायत्त प्रणालियों को परमाणु प्रक्षेपण के निर्णयों से बाहर रखे।
The Hindu, 23 Jul 2026: Convergent perils: luminaries against human ethics being outsourced to AI (opens in a new tab)

अग्रणी मॉडलों पर निर्यात नियंत्रण

Mains

कृत्रिम बुद्धिमत्ता (artificial intelligence) पर निर्यात नियंत्रण दुर्लभ हार्डवेयर पर काम करते हैं, जैसे उन्नत चिप; जिस मॉडल के भार प्रकाशित हो चुके हों उसे वापस नहीं लिया जा सकता, और यही सीमित कर देता है कि मॉडलों पर लगे नियंत्रण स्वयं क्या कर सकते हैं।

क्या बदला

3 Jul 2026New subjectalso in news
- संयुक्त राज्य अमेरिका ने एक कंपनी के सबसे उन्नत मॉडलों को दोहरे उपयोग वाले साइबर उपकरण की श्रेणी में रखकर विदेशी पहुँच सीमित कर दी, और एक चीनी कंपनी ने एक ही दिन में प्रतिस्पर्धी मुक्त भार मॉडल जारी कर दिया।
- नियंत्रण दुर्लभ हार्डवेयर पर काम करते हैं, पर प्रकाशित हो चुके मॉडल के भार वापस नहीं लिए जा सकते।
The Hindu, 3 Jul 2026: Can caged frontier AI models outrun open ones? (opens in a new tab)