विज्ञान और प्रौद्योगिकी › कंप्यूटिंग और AI
English — अंग्रेज़ी में पढ़ेंAI अभिशासन, सुरक्षा और नैतिकता
कृत्रिम बुद्धिमत्ता का अभिशासन कैसे होता है: राष्ट्रीय और अंतरराष्ट्रीय नियम, सुरक्षा और अग्रणी मॉडलों के जोखिम, डीपफेक, प्रतिलिप्यधिकार, पूर्वाग्रह, दायित्व और स्वायत्त हथियार। प्रारंभिक परीक्षा में पेरिस में हुए AI एक्शन समिट के बारे में पूछा जा चुका है।
UPSC पूछ चुका है
- Prelims 2025: पेरिस में आयोजित AI एक्शन समिट
Showing 3 of 8 articles, those that changed from 1 to 31 July 2026.Show all
मशीन से बनी कृति में प्रतिलिप्यधिकार
Copy link to मशीन से बनी कृति में प्रतिलिप्यधिकारप्रारंभिक और मुख्य
किसी मशीन द्वारा बनाई गई कृति में प्रतिलिप्यधिकार लेखकत्व पर टिका है: प्रतिलिप्यधिकार के लिए एक लेखक चाहिए, और भारतीय कानून में लेखक एक व्यक्ति है।
- प्रतिलिप्यधिकार अधिनियम, 1957 की धारा 2(d)(vi) के अंतर्गत कंप्यूटर द्वारा बनाई गई कृति का लेखक वह व्यक्ति है जो उसे बनवाता है।
- उचित व्यवहार (fair dealing) किसी प्रतिलिप्यधिकार वाली कृति के उन सीमित उपयोगों का समूह है जिन्हें अधिनियम स्वामी की सहमति के बिना अनुमति देता है, जैसे अनुसंधान और रिपोर्टिंग।
- क्या प्रतिलिप्यधिकार वाले पाठ पर किसी मॉडल को प्रशिक्षित करना उचित व्यवहार के भीतर आता है, यही प्रश्न अब न्यायालय तय कर रहे हैं।
क्या बदला
24 Jul 2026
- एक समाचार एजेंसी द्वारा OpenAI के विरुद्ध लाए गए मामले में दिल्ली उच्च न्यायालय ने प्रथम दृष्टया यह मत रखा कि भाषा मॉडल को प्रशिक्षित करने के लिए प्रतिलिप्यधिकार युक्त कृति को संग्रहीत करना उचित व्यवहार के दायरे में आता है।
- इसका कारण यह था कि प्रशिक्षण उस कृति को किसी तीसरे पक्ष तक नहीं पहुँचाता; रिट्रीवल ऑगमेंटेड जनरेशन से बने निर्गत पर भी उसने यही मत रखा, और यह निर्णय अंतरिम है।
Show history (1 other update)
2 Sep 2026
- भारत के प्रतिलिप्यधिकार कार्यालय ने AI प्रणाली DABUS को रचयिता मानने से इनकार कर दिया, यह मानते हुए कि रचयिता कोई व्यक्ति ही हो सकता है।
AI पर प्रस्तावित कानून
Copy link to AI पर प्रस्तावित कानूनप्रारंभिक और मुख्य
भारत में कृत्रिम बुद्धिमत्ता (artificial intelligence) का शासन सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत बने नियमों से होता है, और इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय संश्लेषित सामग्री, एजेंटिक प्रणालियों और उच्च जोखिम वाले उपयोगों के लिए सैंडबॉक्स को समेटने वाले एक अलग कानून पर विचार करता रहा है।
क्या बदला
22 Jul 2026नया
- इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय सूचना प्रौद्योगिकी अधिनियम, 2000 के अंतर्गत बने नियमों के स्थान पर कृत्रिम बुद्धिमत्ता पर अलग कानून बनाने पर विचार कर रहा है।
- तीन पहलुओं का अध्ययन हो रहा है: संश्लेषित रूप से जनित सामग्री के लिए सहमति, एजेंटिक प्रणालियों को कितनी स्वायत्तता मिले इसकी सीमा, और उच्च जोखिम वाले उपयोगों के लिए पर्यवेक्षित सैंडबॉक्स।
अग्रणी मॉडलों पर निर्यात नियंत्रण
Copy link to अग्रणी मॉडलों पर निर्यात नियंत्रणमुख्य परीक्षा
- जेलब्रेक
- किसी AI मॉडल के सुरक्षा उपायों को दरकिनार करने का तरीका।
कृत्रिम बुद्धिमत्ता (artificial intelligence) पर निर्यात नियंत्रण इस पर रोक हैं कि कोई देश क्या बाहर जाने देता है, और ये उन्नत चिप जैसे दुर्लभ हार्डवेयर पर काम करते हैं।
- जिस मॉडल के भार प्रकाशित हो चुके हों उसे वापस नहीं लिया जा सकता, और यही सीमित कर देता है कि मॉडलों पर लगे नियंत्रण स्वयं क्या कर सकते हैं।
अमेरिकी आदेश बनाम भारत का 2024 का परामर्श
| अमेरिकी कार्यकारी आदेश, 2026 | भारत का परामर्श, मार्च 2024 | |
|---|---|---|
| Nature | A voluntary testing window of up to 30 days before release | Permission required before launch |
| Scope | Covered frontier models | All untested AI |
| Fate | In force when reported in June 2026 | Withdrawn a fortnight later |
क्या बदला
3 Jul 2026संक्षिप्तप्रतिबंध के एक दिन के भीतर एक चीनी कंपनी ने प्रतिस्पर्धी मुक्त भार मॉडल जारी कर दिया; नियंत्रण दुर्लभ हार्डवेयर पर काम करते हैं, पर प्रकाशित हो चुके मॉडल के भार वापस नहीं लिए जा सकते। The Hindu, 3 Jul 2026: Can caged frontier AI models outrun open ones? (opens in a new tab)
Show history (1 other update)
16 Jun 2026
- Anthropic और अमेरिकी अधिकारियों के बीच वार्ता बिना समाधान के समाप्त हुई; बताया जाता है कि सरकार की चिंता एक सीमित जेलब्रेक (jailbreak) है जिससे एक उपयोगकर्ता साइबर सुरक्षा की एक रोक को लाँघ सका।
- भारत ने Project Glasswing के माध्यम से Mythos श्रेणी के मॉडलों तक सीमित पहुँच पाई थी।
- भारत अनुसंधान एवं विकास पर GDP का 0.7 प्रतिशत से कम ख़र्च करता है, जबकि चीन 2.5 प्रतिशत से अधिक और अमेरिका 3 प्रतिशत से अधिक।
मुख्य परीक्षा: भारत को पूरी AI मूल्य शृंखला में आत्मनिर्भरता नहीं खोजनी चाहिए, बल्कि यह पहचानना चाहिए कि कौन सी निर्भरताएँ रणनीतिक जोखिम पैदा करती हैं, और संवेदनशील कार्यों के लिए कंप्यूट, साइबर रक्षा और चुनिंदा अग्रणी क्षमताओं पर ध्यान देना चाहिए; अग्रणी AI तक पहुँच एक पारदर्शी, वैश्विक रूप से तय ढाँचे के तहत तय हो, जिसमें जारी करने से पहले तृतीय पक्ष परीक्षण हो।
The Indian Express, 16 Jun 2026: Anthropic and US govt officials hold talks as AI export controls remain in place (opens in a new tab) · The Indian Express, 19 Jun 2026: Anthropic blackout: This is what strategic AI dependence looks like (opens in a new tab) · The Indian Express, 20 Jun 2026: Anthropic blackout episode shows that frontier AI needs global governance (opens in a new tab) · The Hindu, 18 Jun 2026: Innovate or be eaten: On India and an innovative ecosystem (opens in a new tab)
- जोखिम आधारित विनियमन
- किसी प्रौद्योगिकी से हो सकने वाली हानि के अनुपात में बनाए गए नियम, जिससे सबसे कठोर कर्तव्य सबसे जोखिम भरे उपयोगों पर पड़ें।
- अनुरूपता मूल्यांकन
- किसी उत्पाद के बाजार में आने से पहले यह दिखाने की प्रक्रिया कि वह विधिक मानकों को पूरा करता है।
- वॉटरमार्क
- सामग्री में अंतर्निहित छिपा हुआ, मशीन पठनीय संकेत, जो यह दर्शाता है कि उसे किसी मशीन ने उत्पन्न किया है।
- संश्लेषित रूप से जनित सूचना
- ऐसी ध्वनि, छवि या वीडियो जिसे कृत्रिम रूप से या अल्गोरिद्म द्वारा इस प्रकार बनाया या बदला गया हो कि वह वास्तविक प्रतीत हो और उसे किसी वास्तविक व्यक्ति या वास्तविक घटना के रूप में लिए जाने की संभावना हो।
- मेटाडेटा
- किसी फाइल के साथ चलने वाले आँकड़े, जो यह अभिलिखित करते हैं कि वह कहाँ से आई और कैसे बनी।
- आच्छादित अग्रणी मॉडल
- अमेरिकी आदेश के तहत ऐसा उन्नत मॉडल जो जारी होने से पहले स्वैच्छिक सरकारी परीक्षण के योग्य है।
- जोखिम अंकन (Risk scoring)
- AI से ऐसा अंक देना जो अनुमान लगाए कि कोई व्यक्ति अपराध करेगा, दोबारा अपराध करेगा या अदालत में उपस्थित नहीं होगा।
- अनुल्लंघनीय (Non derogable)
- भारतीय संवैधानिक प्रयोग में, उन अधिकारों के लिए आरक्षित शब्द जिन्हें आपातकाल में भी निलंबित नहीं किया जा सकता।
- डेटा संप्रभुता (Data sovereignty)
- किसी देश का अपनी सीमाओं के भीतर उत्पन्न डेटा पर नियंत्रण चाहना।