विज्ञान और प्रौद्योगिकी › कंप्यूटिंग और AI

AI अभिशासन, सुरक्षा और नैतिकता

कृत्रिम बुद्धिमत्ता का अभिशासन कैसे होता है: राष्ट्रीय और अंतरराष्ट्रीय नियम, सुरक्षा और अग्रणी मॉडलों के जोखिम, डीपफेक, प्रतिलिप्यधिकार, पूर्वाग्रह, दायित्व और स्वायत्त हथियार। प्रारंभिक परीक्षा में पेरिस में हुए AI एक्शन समिट के बारे में पूछा जा चुका है।

UPSC पूछ चुका है

Prelims 2025: पेरिस में आयोजित AI एक्शन समिट

सैंडबॉक्स: अन्य प्रणालियों और इंटरनेट से कटा हुआ पृथक संगणन परिवेश, जिसमें जोखिम वाले सॉफ्टवेयर को सुरक्षित रूप से चलाया और परखा जा सकता है।

जोखिम आधारित विनियमन: किसी प्रौद्योगिकी से हो सकने वाली हानि के अनुपात में बनाए गए नियम, जिससे सबसे कठोर कर्तव्य सबसे जोखिम भरे उपयोगों पर पड़ें।

अनुरूपता मूल्यांकन: किसी उत्पाद के बाजार में आने से पहले यह दिखाने की प्रक्रिया कि वह विधिक मानकों को पूरा करता है।

वॉटरमार्क: सामग्री में अंतर्निहित छिपा हुआ, मशीन पठनीय संकेत, जो यह दर्शाता है कि उसे किसी मशीन ने उत्पन्न किया है।

संश्लेषित रूप से जनित सूचना: ऐसी ध्वनि, छवि या वीडियो जिसे कृत्रिम रूप से या अल्गोरिद्म द्वारा इस प्रकार बनाया या बदला गया हो कि वह वास्तविक प्रतीत हो और उसे किसी वास्तविक व्यक्ति या वास्तविक घटना के रूप में लिए जाने की संभावना हो।

मेटाडेटा: किसी फाइल के साथ चलने वाले आँकड़े, जो यह अभिलिखित करते हैं कि वह कहाँ से आई और कैसे बनी।

जेलब्रेक: किसी AI मॉडल के सुरक्षा उपायों को दरकिनार करने का तरीका।

आच्छादित अग्रणी मॉडल: अमेरिकी आदेश के तहत ऐसा उन्नत मॉडल जो जारी होने से पहले स्वैच्छिक सरकारी परीक्षण के योग्य है।

जोखिम अंकन (Risk scoring): AI से ऐसा अंक देना जो अनुमान लगाए कि कोई व्यक्ति अपराध करेगा, दोबारा अपराध करेगा या अदालत में उपस्थित नहीं होगा।

अनुल्लंघनीय (Non derogable): भारतीय संवैधानिक प्रयोग में, उन अधिकारों के लिए आरक्षित शब्द जिन्हें आपातकाल में भी निलंबित नहीं किया जा सकता।

डेटा संप्रभुता (Data sovereignty): किसी देश का अपनी सीमाओं के भीतर उत्पन्न डेटा पर नियंत्रण चाहना।