कई शिक्षाविदों और नीति विशेषज्ञों ने यह प्रस्ताव रखा है कि अंतर्राष्ट्रीय विज्ञान परिषद - सामाजिक और प्राकृतिक विज्ञानों से अपनी बहुलवादी सदस्यता के साथ - तेजी से आगे बढ़ रही डिजिटल प्रौद्योगिकियों से जुड़े जोखिमों, लाभों, खतरों और अवसरों की एक एनोटेटेड रूपरेखा/चेकलिस्ट तैयार करने और बनाए रखने के लिए एक प्रक्रिया स्थापित करे, जिसमें एआई भी शामिल है - लेकिन केवल एआई तक ही सीमित नहीं है। चेकलिस्ट का उद्देश्य सभी हितधारकों - सरकारों, व्यापार वार्ताकारों, नियामकों, नागरिक समाज और उद्योग सहित - को संभावित भविष्य के परिदृश्यों के बारे में सूचित करना होगा, और यह तय करना होगा कि वे अवसरों, लाभों, जोखिमों और अन्य मुद्दों पर कैसे विचार कर सकते हैं।
आईएससी तेजी से विकसित हो रही डिजिटल और संबंधित प्रौद्योगिकी के मूल्यांकन पर यह चर्चा पत्र प्रस्तुत करते हुए प्रसन्न है। कृत्रिम बुद्धिमत्ता, सिंथेटिक जीव विज्ञान और क्वांटम प्रौद्योगिकियां विज्ञान द्वारा सूचित नवाचार के प्रमुख उदाहरण हैं, जो अभूतपूर्व गति से उभर रहे हैं। न केवल उनके अनुप्रयोगों, बल्कि उनके निहितार्थों का भी व्यवस्थित रूप से अनुमान लगाना चुनौतीपूर्ण हो सकता है।
जनरेटिव एआई के सामाजिक पहलुओं का मूल्यांकन जैसे कि बड़े भाषा मॉडल, जो कि इस चर्चा पत्र के बड़े हिस्से का प्रतिनिधित्व करते हैं, वर्तमान चर्चा के भीतर एक आवश्यक पुल है - कभी-कभी घबराहट से प्रेरित, कभी-कभी विचार में पर्याप्त रूप से गहन नहीं - और आवश्यक कार्रवाई के तरीके जो हम कर सकते हैं। आईएससी का मानना है कि इस तरह की नई प्रौद्योगिकियों की सामाजिक स्वीकृति और उनके संभावित विनियमन के बीच एक विश्लेषणात्मक रूपरेखा की आवश्यकता है ताकि बहु-हितधारक चर्चाओं को सुविधाजनक बनाया जा सके जो इस तेजी से उभरती हुई प्रौद्योगिकी के सामाजिक लाभों को अनुकूलित करने के तरीके पर सूचित और जिम्मेदार निर्णय लेने के लिए आवश्यक हैं।
आईएससी इस चर्चा पत्र के माध्यम से हमारे समुदाय की प्रतिक्रियाओं के लिए खुला है, ताकि यह आकलन किया जा सके कि प्रौद्योगिकी के इर्द-गिर्द चल रही बहस में किस प्रकार सर्वोत्तम तरीके से भाग लिया जा सकता है और योगदान दिया जा सकता है।
साल्वातोरे एरिको, सीईओ
आईएससी परिचर्चा पत्र
तेजी से विकसित हो रहे डिजिटल और संबंधित प्रौद्योगिकियों के मूल्यांकन के लिए एक रूपरेखा: एआई, बड़े भाषा मॉडल और उससे आगे
यह चर्चा पत्र एआई से संबंधित हो रही विभिन्न वैश्विक और राष्ट्रीय चर्चाओं को सूचित करने के लिए एक प्रारंभिक रूपरेखा प्रदान करता है।
रिपोर्ट डाउनलोड करेंनया! अपने संगठन के लिए डाउनलोड करने योग्य रूपरेखा के साथ नीति-निर्माताओं के लिए 2024 संस्करण पढ़ें।
नीति-निर्माताओं के लिए मार्गदर्शिका: एआई, बड़े भाषा मॉडल और उससे आगे की तेजी से विकसित हो रही प्रौद्योगिकियों का मूल्यांकन
यह चर्चा पत्र एआई से संबंधित हो रही विभिन्न वैश्विक और राष्ट्रीय चर्चाओं को सूचित करने के लिए एक प्रारंभिक रूपरेखा प्रदान करता है।
विषय-सूची
परिचय
तेजी से उभरती हुई प्रौद्योगिकियां उनके शासन और संभावित विनियमन के मामले में चुनौतीपूर्ण मुद्दे पेश करती हैं। कृत्रिम बुद्धिमत्ता (एआई) और इसके उपयोग पर नीति और सार्वजनिक बहस ने इन मुद्दों को तीव्र ध्यान में ला दिया है। जबकि यूनेस्को, ओईसीडी और अन्य द्वारा एआई के लिए व्यापक सिद्धांतों को प्रख्यापित किया गया है, और प्रौद्योगिकी के वैश्विक या क्षेत्राधिकार संबंधी विनियमन के बारे में नवजात चर्चाएं हैं, उच्च-स्तरीय सिद्धांतों के विकास और विनियामक, नीति, शासन और प्रबंधन दृष्टिकोणों में उनके समावेश के बीच एक ऑन्टोलॉजिकल अंतर है। यह वह जगह है जहाँ गैर-सरकारी वैज्ञानिक समुदाय की एक विशेष भूमिका हो सकती है।
कई शिक्षाविदों और नीति विशेषज्ञों ने यह प्रस्ताव रखा है कि अंतर्राष्ट्रीय विज्ञान परिषद (ISC) - सामाजिक और प्राकृतिक विज्ञानों से अपनी बहुलवादी सदस्यता के साथ - तेजी से आगे बढ़ रही डिजिटल प्रौद्योगिकियों से जुड़े जोखिमों, लाभों, खतरों और अवसरों की एक एनोटेटेड रूपरेखा/चेकलिस्ट बनाने और बनाए रखने के लिए एक प्रक्रिया स्थापित करे, जिसमें AI भी शामिल है - लेकिन केवल यहीं तक सीमित नहीं है। चेकलिस्ट का उद्देश्य सभी हितधारकों - सरकारों, व्यापार वार्ताकारों, नियामकों, नागरिक समाज और उद्योग सहित - को संभावित भविष्य के परिदृश्यों के बारे में सूचित करना होगा, और यह तय करना होगा कि वे अवसरों, लाभों, जोखिमों और अन्य मुद्दों पर कैसे विचार कर सकते हैं।
आउटपुट मूल्यांकन निकाय के रूप में कार्य नहीं करेंगे, बल्कि एक अनुकूली और विकसित विश्लेषणात्मक ढांचे के रूप में कार्य करेंगे जो सरकारों और बहुपक्षीय प्रणाली सहित हितधारकों द्वारा विकसित किए जा सकने वाले किसी भी मूल्यांकन और विनियामक प्रक्रियाओं को आधार प्रदान कर सकते हैं। किसी भी विश्लेषणात्मक ढांचे को आदर्श रूप से सरकारी और उद्योग के दावों से स्वतंत्र रूप से विकसित किया जाना चाहिए, उनके समझने योग्य हितों को देखते हुए। यह अपने दृष्टिकोण में अधिकतम बहुलवादी भी होना चाहिए, इस प्रकार प्रौद्योगिकी और इसके निहितार्थों के सभी पहलुओं को शामिल करना चाहिए।
यह चर्चा पत्र एआई से संबंधित हो रही विभिन्न वैश्विक और राष्ट्रीय चर्चाओं को सूचित करने के लिए एक प्रारंभिक रूपरेखा प्रदान करता है।
पृष्ठभूमि: विश्लेषणात्मक ढांचा क्यों?
एआई की जटिलता और निहितार्थ वाली तकनीक का तेजी से उभरना कई लोगों को बहुत लाभ पहुँचा रहा है। हालाँकि, यह व्यक्तिगत से लेकर भू-रणनीतिक स्तर तक महत्वपूर्ण जोखिमों की आशंकाओं को भी जन्म देता है। अधिकांश चर्चाएँ विचारों के स्पेक्ट्रम के चरम छोर पर होती हैं, और अधिक व्यावहारिक दृष्टिकोण की आवश्यकता है। एआई तकनीक का विकास जारी रहेगा और इतिहास से पता चलता है कि लगभग हर तकनीक के लाभकारी और हानिकारक दोनों उपयोग हैं। इसलिए, सवाल यह है: हम इस तकनीक से लाभकारी परिणाम कैसे प्राप्त कर सकते हैं, जबकि हानिकारक परिणामों के जोखिम को कम कर सकते हैं, जिनमें से कुछ परिमाण में अस्तित्वगत हो सकते हैं?
भविष्य हमेशा अनिश्चित रहता है, लेकिन एआई और जनरेटिव एआई के बारे में पर्याप्त विश्वसनीय और विशेषज्ञ आवाज़ें हैं जो अपेक्षाकृत एहतियाती दृष्टिकोण को प्रोत्साहित करती हैं। इसके अलावा, एक सिस्टम दृष्टिकोण की आवश्यकता है, क्योंकि एआई कई प्रकार के उपयोगकर्ताओं द्वारा व्यापक उपयोग और अनुप्रयोग वाली प्रौद्योगिकियों का एक वर्ग है। इसका मतलब यह है कि व्यक्तियों, सामाजिक जीवन, नागरिक जीवन, सामाजिक जीवन और वैश्विक संदर्भ में एआई के निहितार्थों पर विचार करते समय पूरे संदर्भ को ध्यान में रखा जाना चाहिए।
पिछली अधिकांश तकनीकों के विपरीत, डिजिटल और संबंधित तकनीकों के विकास से लेकर रिलीज़ तक का समय बहुत कम होता है, जो मुख्य रूप से उत्पादन कंपनियों या एजेंसियों के हितों से प्रेरित होता है। एआई तेज़ी से व्यापक हो रहा है; कुछ गुण रिलीज़ के बाद ही स्पष्ट हो सकते हैं, और तकनीक में दुर्भावनापूर्ण और परोपकारी दोनों तरह के अनुप्रयोग हो सकते हैं। महत्वपूर्ण मूल्य आयाम इस बात को प्रभावित करेंगे कि किसी भी उपयोग को कैसे माना जाता है। इसके अलावा, भू-रणनीतिक हित भी इसमें शामिल हो सकते हैं।
आज तक, वर्चुअल तकनीक के विनियमन को बड़े पैमाने पर "सिद्धांतों" और स्वैच्छिक अनुपालन के लेंस के माध्यम से देखा गया है। हालाँकि, हाल ही में, चर्चा राष्ट्रीय और बहुपक्षीय शासन के मुद्दों पर बदल गई है, जिसमें विनियामक और अन्य नीतिगत उपकरणों का उपयोग शामिल है। एआई के पक्ष में या उसके खिलाफ किए गए दावे अक्सर अतिशयोक्तिपूर्ण होते हैं और - तकनीक की प्रकृति को देखते हुए - उनका आकलन करना मुश्किल होता है। एक प्रभावी वैश्विक या राष्ट्रीय प्रौद्योगिकी विनियमन प्रणाली स्थापित करना चुनौतीपूर्ण होगा, और आविष्कारक से लेकर निर्माता, उपयोगकर्ता, सरकार और बहुपक्षीय प्रणाली तक श्रृंखला के साथ जोखिम-सूचित निर्णय लेने की कई परतों की आवश्यकता होगी।
जबकि यूनेस्को, ओईसीडी और यूरोपीय आयोग द्वारा उच्च-स्तरीय सिद्धांतों को प्रख्यापित किया गया है, और संभावित विनियमन के मुद्दों के बारे में विभिन्न उच्च-स्तरीय चर्चाएँ चल रही हैं, ऐसे सिद्धांतों और शासन या नियामक ढांचे के बीच एक बड़ा ऑन्टोलॉजिकल अंतर है। उन विचारों का वर्गीकरण क्या है जिन पर एक नियामक को विचार करने की आवश्यकता हो सकती है? इन प्रौद्योगिकियों के व्यापक निहितार्थों को देखते हुए, एक संकीर्ण रूप से केंद्रित रूपरेखा नासमझी होगी। यह क्षमता सकारात्मक और नकारात्मक दोनों तरह की बहुत सारी टिप्पणियों का विषय रही है।
विश्लेषणात्मक ढांचे का विकास
आईएससी प्राकृतिक और सामाजिक विज्ञानों को एकीकृत करने वाला प्राथमिक वैश्विक एनजीओ है। इसकी वैश्विक और अनुशासनात्मक पहुंच का मतलब है कि यह आगे आने वाले जटिल विकल्पों को सूचित करने के लिए स्वतंत्र और वैश्विक रूप से प्रासंगिक सलाह देने में सक्षम है, खासकर तब जब इस क्षेत्र में मौजूदा आवाज़ें मुख्य रूप से उद्योग या प्रमुख तकनीकी शक्तियों से हैं। हाल के महीनों में व्यापक चर्चा के बाद, जिसमें एक गैर-सरकारी मूल्यांकन प्रक्रिया पर विचार करना शामिल है, आईएससी ने निष्कर्ष निकाला कि इसका सबसे उपयोगी योगदान एक अनुकूली विश्लेषणात्मक ढांचा तैयार करना और बनाए रखना होगा जिसका उपयोग सभी हितधारकों द्वारा चर्चा और निर्णय लेने के आधार के रूप में किया जा सकता है, जिसमें किसी भी औपचारिक मूल्यांकन प्रक्रिया के दौरान भी शामिल है।
यह ढांचा एक व्यापक चेकलिस्ट का रूप लेगा जिसका उपयोग सरकारी और गैर-सरकारी दोनों संस्थान कर सकते हैं। यह ढांचा मानव और सामाजिक कल्याण के साथ-साथ अर्थशास्त्र, राजनीति, पर्यावरण और सुरक्षा जैसे बाहरी कारकों को शामिल करते हुए एक व्यापक दृष्टिकोण के माध्यम से एआई और उसके व्युत्पन्न जैसी तकनीक की क्षमता की पहचान करता है और उसका पता लगाता है। संदर्भ के आधार पर चेकलिस्ट के कुछ पहलू दूसरों की तुलना में अधिक प्रासंगिक हो सकते हैं, लेकिन यदि सभी डोमेन पर विचार किया जाए तो बेहतर निर्णय लेने की संभावना अधिक होती है। यह चेकलिस्ट दृष्टिकोण का अंतर्निहित मूल्य है।
प्रस्तावित रूपरेखा पिछले कार्य और सोच से ली गई है, जिसमें इंटरनेशनल नेटवर्क फॉर गवर्नमेंटल साइंस एडवाइस (INGSA) की डिजिटल वेलबीइंग रिपोर्ट भी शामिल है1 और ओईसीडी एआई वर्गीकरण ढांचा2 एआई के संभावित अवसरों, जोखिमों और प्रभावों की समग्रता को प्रस्तुत करना। ये पिछले उत्पाद अपने समय और संदर्भ को देखते हुए अपने उद्देश्य में अधिक सीमित थे, ऐसे में एक व्यापक ढांचे की आवश्यकता है जो अल्पावधि और दीर्घावधि दोनों में मुद्दों की पूरी श्रृंखला प्रस्तुत करे।
एआई के विचार के लिए विकसित किए गए इस विश्लेषणात्मक ढांचे को किसी भी तेज़ी से उभरती हुई तकनीक पर लागू किया जा सकता है। आगे की जांच के लिए मुद्दों को मोटे तौर पर निम्नलिखित श्रेणियों में बांटा गया है:
उपरोक्त श्रेणियों में से प्रत्येक के लिए विचारों की एक सूची उनके संबंधित अवसरों और परिणामों के साथ शामिल की गई है। कुछ एआई के विशिष्ट उदाहरणों या अनुप्रयोगों के लिए प्रासंगिक हैं जबकि अन्य सामान्य हैं और प्लेटफ़ॉर्म या उपयोग से अज्ञेय हैं। यहाँ शामिल किसी भी एक विचार को प्राथमिकता के रूप में नहीं माना जाना चाहिए और, इस तरह, सभी की जाँच की जानी चाहिए।
इस ढांचे का उपयोग कैसे किया जा सकता है?
इस ढांचे का उपयोग निम्नलिखित तरीकों से किया जा सकता है, लेकिन यह इन तक ही सीमित नहीं है:
निम्न तालिका एक विश्लेषणात्मक ढांचे के आयामों का प्रारंभिक स्वरूप है। प्रौद्योगिकी और उसके उपयोग के आधार पर, कुछ घटक दूसरों की तुलना में अधिक प्रासंगिक होंगे। उदाहरण यह दर्शाने के लिए दिए गए हैं कि प्रत्येक डोमेन क्यों महत्वपूर्ण हो सकता है; संदर्भ में, ढांचे को प्रासंगिक रूप से प्रासंगिक विस्तार की आवश्यकता होगी। प्लेटफ़ॉर्म विकास और विशिष्ट अनुप्रयोगों के दौरान उभरने वाले सामान्य मुद्दों के बीच अंतर करना भी महत्वपूर्ण है।
नई तकनीक का मूल्यांकन करते समय विचारणीय आयाम
| किसी नई तकनीक का मूल्यांकन करते समय जिन आयामों पर विचार करने की आवश्यकता हो सकती है, उनका प्रारंभिक प्रारूप | ||
| प्रभाव के आयाम | मापदंड | विश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण |
| व्यक्तिगत/स्वयं | उपयोगकर्ताओं की AI योग्यता | सिस्टम के साथ बातचीत करने वाले संभावित उपयोगकर्ता सिस्टम की विशेषताओं के बारे में कितने सक्षम और जागरूक हैं? उन्हें प्रासंगिक उपयोगकर्ता जानकारी और सावधानियाँ कैसे प्रदान की जाएँगी? |
| प्रभावित हितधारक | वे प्राथमिक हितधारक कौन हैं जो इस प्रणाली से प्रभावित होंगे (अर्थात् व्यक्ति, समुदाय, कमजोर, क्षेत्रीय श्रमिक, बच्चे, नीति-निर्माता, पेशेवर)? | |
| वैकल्पिकता | क्या उपयोगकर्ताओं को सिस्टम से बाहर निकलने का विकल्प दिया गया है; क्या उन्हें आउटपुट को चुनौती देने या सुधारने का अवसर दिया जाना चाहिए? | |
| मानव अधिकारों और लोकतांत्रिक मूल्यों के लिए जोखिम | क्या यह प्रणाली मानव अधिकारों पर प्रभाव डाल सकती है (और किस दिशा में), जिसमें गोपनीयता, अभिव्यक्ति की स्वतंत्रता, निष्पक्षता, भेदभाव का जोखिम आदि शामिल हैं, लेकिन इन्हीं तक सीमित नहीं हैं? | |
| लोगों की भलाई पर संभावित प्रभाव | क्या यह प्रणाली व्यक्तिगत उपयोगकर्ता के कल्याण (अर्थात नौकरी की गुणवत्ता, शिक्षा, सामाजिक संपर्क, मानसिक स्वास्थ्य, पहचान, पर्यावरण) को प्रभावित कर सकती है (और किस दिशा में)? | |
| मानव श्रम विस्थापन की संभावना | क्या इस प्रणाली में मनुष्यों द्वारा निष्पादित किए जा रहे कार्यों या कार्यों को स्वचालित करने की क्षमता है? यदि हाँ, तो इसके क्या परिणाम होंगे? | |
| पहचान, मूल्यों या ज्ञान में हेरफेर की संभावना | क्या सिस्टम उपयोगकर्ता की पहचान या मूल्यों को प्रभावित करने या गलत सूचना फैलाने के लिए डिज़ाइन किया गया है या संभावित रूप से ऐसा करने में सक्षम है? क्या विशेषज्ञता के झूठे या अपुष्ट दावों की संभावना है? | |
| आत्म-मूल्य के उपाय | क्या खुद को आदर्श रूप में पेश करने का दबाव है? क्या स्वचालन व्यक्तिगत संतुष्टि की भावना की जगह ले सकता है? क्या कार्यस्थल में सिस्टम के साथ प्रतिस्पर्धा करने का दबाव है? क्या व्यक्तिगत प्रतिष्ठा को गलत सूचना से बचाना कठिन हो गया है? | |
| निजता | क्या गोपनीयता की सुरक्षा के लिए जिम्मेदारियां विभाजित हैं और क्या इस बात पर कोई धारणा बनाई जा रही है कि व्यक्तिगत डेटा का उपयोग किस प्रकार किया जाएगा? | |
| स्वायत्तता | क्या यह प्रणाली अंतिम उपयोगकर्ताओं में प्रौद्योगिकी पर अत्यधिक निर्भरता उत्पन्न करके मानव स्वायत्तता को प्रभावित कर सकती है? | |
| मानव विकास | क्या मानव विकास के लिए महत्वपूर्ण कौशलों के अधिग्रहण पर कोई प्रभाव पड़ता है, जैसे कार्यकारी कार्य, पारस्परिक कौशल, ध्यान समय में परिवर्तन से सीखने पर प्रभाव, व्यक्तित्व विकास, मानसिक स्वास्थ्य संबंधी चिंताएं आदि? | |
| व्यक्तिगत स्वास्थ्य देखभाल | क्या व्यक्तिगत स्वास्थ्य देखभाल समाधानों के दावे किए गए हैं? यदि हां, तो क्या वे विनियामक मानकों के अनुसार मान्य हैं? | |
| मानसिक स्वास्थ्य | क्या इससे चिंता, अकेलेपन या अन्य मानसिक स्वास्थ्य समस्याओं के बढ़ने का खतरा है, या क्या प्रौद्योगिकी ऐसे प्रभावों को कम कर सकती है? | |
| मानव विकास | क्या यह प्रौद्योगिकी मानव विकास में परिवर्तन ला सकती है? | |
| प्रभाव के आयाम | मापदंड | विवरण |
| समाज/सामाजिक जीवन | सामाजिक मूल्य | क्या यह प्रणाली समाज की प्रकृति को मौलिक रूप से बदल देती है या उन विचारों को सामान्य बना देती है जिन्हें पहले असामाजिक माना जाता था, या क्या यह उस संस्कृति के सामाजिक मूल्यों का उल्लंघन करती है जिसमें इसे लागू किया जा रहा है? |
| सामाजिक संपर्क | क्या भावनात्मक रिश्तों सहित सार्थक मानवीय संपर्क पर इसका कोई प्रभाव पड़ता है? | |
| इक्विटी | क्या अनुप्रयोग/प्रौद्योगिकी से असमानताएं (अर्थात आर्थिक, सामाजिक, शैक्षिक, भौगोलिक) कम होंगी या बढ़ेंगी? | |
| जनसंख्या स्वास्थ्य | क्या इस प्रणाली में जनसंख्या स्वास्थ्य संबंधी उद्देश्यों को आगे बढ़ाने या कमजोर करने की क्षमता है? | |
| सांस्कृतिक अभिव्यक्ति | क्या सांस्कृतिक विनियोग या भेदभाव में वृद्धि की संभावना है या इसे संबोधित करना अधिक कठिन है? क्या निर्णय लेने के लिए सिस्टम पर निर्भरता संभावित रूप से समाज के वर्गों को बहिष्कृत या हाशिए पर डाल सकती है? | |
| लोक शिक्षा | क्या इसका शिक्षकों की भूमिका या शिक्षा संस्थानों पर कोई प्रभाव पड़ता है? क्या व्यवस्था छात्रों के बीच असमानता और डिजिटल विभाजन पर जोर देती है या उसे कम करती है? क्या ज्ञान या आलोचनात्मक समझ का आंतरिक मूल्य उन्नत होता है या कम होता है? | |
| विकृत वास्तविकताएं | क्या सत्य को जानने के लिए हम जो तरीके अपनाते हैं, वे अभी भी लागू हैं? क्या वास्तविकता की धारणा से समझौता किया गया है? | |
| आर्थिक संदर्भ (व्यापार) | औद्योगिक क्षेत्र | यह प्रणाली किस औद्योगिक क्षेत्र में लागू है (अर्थात वित्त, कृषि, स्वास्थ्य देखभाल, शिक्षा, रक्षा)? |
| व्यापार मॉडल | इस प्रणाली का उपयोग किस व्यावसायिक कार्य में किया जाता है, और किस क्षमता में? इस प्रणाली का उपयोग कहां किया जाता है (निजी, सार्वजनिक, गैर-लाभकारी)? | |
| महत्वपूर्ण गतिविधियों पर प्रभाव | क्या प्रणाली के कार्य या गतिविधि में व्यवधान से आवश्यक सेवाएं या महत्वपूर्ण अवसंरचनाएं प्रभावित होंगी? | |
| तैनाती की सांस | प्रणाली को किस प्रकार क्रियान्वित किया जाता है (किसी संगठन के भीतर सीमित रूप से बनाम राष्ट्रीय/अंतरराष्ट्रीय स्तर पर व्यापक रूप से)? | |
| तकनीकी परिपक्वता (टीआरएल) | यह प्रणाली तकनीकी रूप से कितनी परिपक्व है? | |
| तकनीकी संप्रभुता | क्या प्रौद्योगिकी तकनीकी संप्रभुता के अधिक संकेन्द्रण को बढ़ावा देती है? | |
| आय पुनर्वितरण और राष्ट्रीय राजकोषीय उत्तोलक | क्या संप्रभु राज्य की मुख्य भूमिकाओं (यानी रिजर्व बैंक) से समझौता किया जा सकता है? क्या नागरिकों की अपेक्षाओं और निहितार्थों (यानी सामाजिक, आर्थिक, राजनीतिक) को पूरा करने की राज्य की क्षमता को बढ़ाया जाएगा या कम किया जाएगा? | |
| प्रभाव के आयाम | मापदंड | विवरण |
| नागरिक जीवन | शासन और सार्वजनिक सेवा | क्या शासन तंत्र और वैश्विक शासन प्रणालियां सकारात्मक या नकारात्मक रूप से प्रभावित हो सकती हैं? |
| खबर मीडिया | क्या सार्वजनिक चर्चा जनसंख्या स्तर पर कमोबेश ध्रुवीकृत और जड़ हो जाने की संभावना है? क्या मीडिया में विश्वास के स्तर पर कोई प्रभाव पड़ेगा? क्या पारंपरिक पत्रकारिता नैतिकता और निष्ठा मानकों पर और अधिक प्रभाव पड़ेगा? | |
| कानून के नियम | क्या व्यक्तियों या संगठनों को उत्तरदायी ठहराने की पहचान करने की क्षमता पर कोई प्रभाव पड़ेगा (अर्थात, प्रतिकूल परिणामों के लिए एल्गोरिदम को किस प्रकार की जवाबदेही सौंपी जाए)? क्या इससे संप्रभुता (अर्थात, पर्यावरणीय, वित्तीय, सामाजिक नीति, नैतिकता) का नुकसान होता है? | |
| राजनीति और सामाजिक सामंजस्य | क्या राजनीतिक विचारों में और अधिक दृढ़ता और आम सहमति बनाने के कम अवसर की संभावना है? क्या समूहों को और अधिक हाशिए पर धकेले जाने की संभावना है? क्या राजनीति की प्रतिकूल शैली की संभावना कम या अधिक है? | |
| भू-रणनीतिक/भू-राजनीतिक संदर्भ | सटीक निगरानी | क्या प्रणालियाँ व्यक्तिगत व्यवहार और जैविक डेटा पर प्रशिक्षित हैं, और यदि हां, तो क्या उनका उपयोग व्यक्तियों या समूहों का शोषण करने के लिए किया जा सकता है? |
| डिजिटल उपनिवेशीकरण | क्या राज्य या गैर-राज्यीय अभिनेता अन्य देशों की जनसंख्या और पारिस्थितिकी तंत्र को समझने और नियंत्रित करने, या क्षेत्राधिकार नियंत्रण को कमजोर करने के लिए प्रणालियों और आंकड़ों का उपयोग करने में सक्षम हैं? | |
| भू-राजनीतिक प्रतिस्पर्धा | क्या यह प्रणाली आर्थिक या रणनीतिक उद्देश्यों के लिए व्यक्तिगत और सामूहिक डेटा तक पहुंच के लिए राष्ट्रों और प्रौद्योगिकी प्लेटफार्मों के बीच प्रतिस्पर्धा को प्रभावित करती है? | |
| व्यापार और व्यापार समझौते | क्या इस प्रणाली का अंतर्राष्ट्रीय व्यापार समझौतों पर प्रभाव पड़ेगा? | |
| वैश्विक शक्तियों में बदलाव | क्या विश्व के प्राथमिक भू-राजनीतिक अभिनेताओं के रूप में राष्ट्र-राज्यों की स्थिति खतरे में है? क्या प्रौद्योगिकी कंपनियाँ राष्ट्र-राज्यों के लिए आरक्षित शक्ति का उपयोग करेंगी और क्या वे स्वतंत्र संप्रभु अभिनेता बन रहे हैं? | |
| दुष्प्रचार | क्या राज्य और गैर-राज्य अभिनेताओं के लिए गलत सूचना का उत्पादन और प्रसार करना आसान है, जो सामाजिक सामंजस्य, विश्वास और लोकतंत्र को प्रभावित करता है? | |
| पर्यावरण | ऊर्जा और संसाधन खपत (कार्बन पदचिह्न) | क्या प्रणाली और आवश्यकताएं अनुप्रयोग के माध्यम से प्राप्त दक्षता लाभ के अतिरिक्त ऊर्जा और संसाधन की खपत को बढ़ाती हैं? |
| प्रभाव के आयाम | मापदंड | विवरण |
| डेटा और इनपुट | पता लगाना और संग्रहण | क्या डेटा और इनपुट मानव द्वारा, स्वचालित सेंसर द्वारा या दोनों द्वारा एकत्रित किये जाते हैं? |
| डेटा का स्रोत | डेटा के संबंध में क्या ये उपलब्ध कराए गए हैं, देखे गए हैं, कृत्रिम हैं या व्युत्पन्न हैं? क्या प्रमाण की पुष्टि के लिए वॉटरमार्क सुरक्षा है? | |
| डेटा की गतिशील प्रकृति | क्या डेटा गतिशील, स्थिर, समय-समय पर अद्यतन या वास्तविक समय में अद्यतन होता है? | |
| अधिकार | क्या डेटा स्वामित्वपूर्ण, सार्वजनिक या व्यक्तिगत (अर्थात पहचान योग्य व्यक्तियों से संबंधित) है? | |
| व्यक्तिगत डेटा की पहचान | यदि व्यक्तिगत डेटा है, तो क्या उसे गुमनाम या छद्म नाम दिया गया है? | |
| डेटा की संरचना | क्या डेटा संरचित, अर्ध-संरचित, जटिल संरचित या असंरचित है? | |
| डेटा का प्रारूप | क्या डेटा और मेटाडेटा का प्रारूप मानकीकृत है या गैर-मानकीकृत है? | |
| डेटा का पैमाना | डेटासेट का पैमाना क्या है? | |
| डेटा की उपयुक्तता और गुणवत्ता | क्या डेटासेट उद्देश्य के लिए उपयुक्त है? क्या नमूना आकार पर्याप्त है? क्या यह पर्याप्त रूप से प्रतिनिधि और पूर्ण है? डेटा कितना शोरगुल वाला है? क्या इसमें त्रुटि होने की संभावना है? | |
| आदर्श | सूचना उपलब्धता | क्या सिस्टम के मॉडल के बारे में जानकारी उपलब्ध है? |
| एआई मॉडल का प्रकार | क्या मॉडल प्रतीकात्मक (मानव-जनित नियम), सांख्यिकीय (डेटा का उपयोग करता है) या संकर है? | |
| मॉडल से जुड़े अधिकार | क्या मॉडल ओपन सोर्स है, या स्वामित्व वाला, स्वयं- या तीसरे पक्ष द्वारा प्रबंधित है? | |
| एकल या एकाधिक मॉडल | क्या प्रणाली एक मॉडल या कई परस्पर जुड़े मॉडलों से बनी है? | |
| उत्पादक या विभेदकारी | क्या मॉडल उत्पादक है, विभेदक है या दोनों? | |
| प्रतिरूप निर्माण | क्या प्रणाली मानव-लिखित नियमों के आधार पर, डेटा से, पर्यवेक्षित शिक्षण के माध्यम से या सुदृढ़ीकरण शिक्षण के माध्यम से सीखती है? | |
| मॉडल विकास (एआई बहाव) | क्या मॉडल क्षेत्र में डेटा के साथ अंतःक्रिया करके विकसित होता है और/या क्षमताएं प्राप्त करता है? | |
| संघीय या केंद्रीय शिक्षा | क्या मॉडल को केंद्रीय रूप से प्रशिक्षित किया जाता है या कई स्थानीय सर्वरों या "एज" डिवाइसों में? | |
| विकास और रखरखाव | क्या मॉडल सार्वभौमिक, अनुकूलन योग्य या AI अभिनेता के डेटा के अनुरूप है? | |
| नियतात्मक या संभाव्यतावादी | क्या मॉडल का प्रयोग नियतात्मक या संभाव्यतावादी तरीके से किया जाता है? | |
| मॉडल पारदर्शिता | क्या उपयोगकर्ताओं के लिए ऐसी जानकारी उपलब्ध है जिससे वे मॉडल आउटपुट और सीमाओं या उपयोग प्रतिबंधों को समझ सकें? | |
| कम्प्यूटेशनल सीमा | क्या सिस्टम में कम्प्यूटेशनल सीमाएँ हैं? क्या हम क्षमता में उछाल या स्केलिंग नियमों का पूर्वानुमान लगा सकते हैं? | |
| प्रभाव के आयाम | मापदंड | विवरण |
| कार्य और आउटपुट | सिस्टम द्वारा निष्पादित कार्य | सिस्टम कौन से कार्य करता है (अर्थात, पहचान, घटना का पता लगाना, पूर्वानुमान लगाना)? |
| कार्यों और क्रियाओं का संयोजन | क्या प्रणाली कई कार्यों और क्रियाओं (अर्थात, सामग्री निर्माण प्रणालियां, स्वायत्त प्रणालियां, नियंत्रण प्रणालियां) को संयोजित करती है? | |
| सिस्टम की स्वायत्तता का स्तर | प्रणाली की गतिविधियां कितनी स्वायत्त हैं और मनुष्य इसमें क्या भूमिका निभाते हैं? | |
| मानवीय सहभागिता की डिग्री | क्या एआई प्रणाली की समग्र गतिविधि की देखरेख करने और किसी भी स्थिति में सिस्टम का उपयोग कब और कैसे किया जाए, यह निर्णय लेने की क्षमता के लिए कुछ मानवीय भागीदारी है? | |
| मुख्य अनुप्रयोग | क्या यह प्रणाली किसी मुख्य अनुप्रयोग क्षेत्र जैसे मानव भाषा प्रौद्योगिकी, कंप्यूटर विज़न, स्वचालन और/या अनुकूलन, या रोबोटिक्स से संबंधित है? | |
| मूल्यांकन | क्या सिस्टम आउटपुट का मूल्यांकन करने या अप्रत्याशित आकस्मिक गुणों से निपटने के लिए मानक या विधियां उपलब्ध हैं? | |
इसकी कुंजी विवरणकर्ताओं के स्रोत
सादे पाठ:
ग्लुकमैन, पी. और एलन, के. 2018. तीव्र डिजिटल और संबद्ध परिवर्तनों के संदर्भ में कल्याण को समझना। आईएनजीएसए. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
बोल्ड अक्षर:
ओईसीडी. 2022. एआई प्रणालियों के वर्गीकरण के लिए ओईसीडी फ्रेमवर्कओईसीडी डिजिटल इकोनॉमी पेपर्स, नंबर 323, ओईसीडी पब्लिशिंग, पेरिस। https://oecd.ai/en/classification
इटैलिक पाठ:
नये विवरणक (अनेक स्रोतों से)
आगे का रास्ता
इस चर्चा पत्र पर प्रतिक्रिया के आधार पर, आईएससी द्वारा एक विशेषज्ञ कार्य समूह का गठन किया जाएगा जो उपरोक्त विश्लेषणात्मक ढांचे को और विकसित या संशोधित करेगा जिसके द्वारा हितधारक प्लेटफ़ॉर्म या उपयोग आयामों के किसी भी महत्वपूर्ण विकास को व्यापक रूप से देख सकते हैं। कार्य समूह अनुशासनात्मक, भौगोलिक और जनसांख्यिकीय रूप से विविध होगा, जिसमें प्रौद्योगिकी मूल्यांकन से लेकर सार्वजनिक नीति, मानव विकास से लेकर समाजशास्त्र और भविष्य और प्रौद्योगिकी अध्ययन तक की विशेषज्ञता होगी।
इस चर्चा पत्र से जुड़ने के लिए कृपया यहां जाएं council.science/publications/framework-digital-technologies
आभार
इस पेपर को तैयार करने में कई लोगों से परामर्श लिया गया है, जिसका मसौदा तैयार किया गया है Sir Peter Gluckman, अध्यक्ष, आईएससी और हेमा श्रीधर, पूर्व मुख्य वैज्ञानिक, रक्षा मंत्रालय, और अब वरिष्ठ अनुसंधान फेलो, ऑकलैंड विश्वविद्यालय, न्यूजीलैंड।
विशेष रूप से हम रॉयल सोसाइटी के पूर्व अध्यक्ष और कैम्ब्रिज विश्वविद्यालय, अस्तित्वगत जोखिमों के अध्ययन केंद्र के सह-संस्थापक लॉर्ड मार्टिन रीस, ऑक्सफोर्ड विश्वविद्यालय में भौतिकी के प्रोफेसर शिवाजी सोंधी, भारत सरकार के पूर्व प्रमुख वैज्ञानिक सलाहकार प्रोफेसर के विजय राघवन, संयुक्त राष्ट्र महासचिव के प्रौद्योगिकी दूत अमनदीप सिंह गिल, कैम्ब्रिज विश्वविद्यालय, अस्तित्वगत जोखिमों के अध्ययन केंद्र के कार्यकारी निदेशक डॉ सीन ओह एगेर्टेघ, रॉयल सोसाइटी यूके में वरिष्ठ नीति सलाहकार और इयान विगिन्स, अंतरराष्ट्रीय मामलों के निदेशक, रॉयल सोसाइटी के अध्यक्ष डॉ जेरोम डुबेरी, डॉ मैरी-लॉर सेलेस, जिनेवा ग्रेजुएट इंस्टीट्यूट के निदेशक श्री चोर फ़ार्न ली, सामरिक वायदा केंद्र, प्रधान मंत्री कार्यालय, सिंगापुर डॉ. क्लेयर क्रेग, यूनिवर्सिटी ऑफ ऑक्सफोर्ड और पूर्व प्रमुख, सरकारी विज्ञान कार्यालय; और प्रोफेसर योशुआ बेंगियो, संयुक्त राष्ट्र महासचिव के वैज्ञानिक सलाहकार बोर्ड और यूनिवर्सिटी डी मॉन्ट्रियल में। चेकलिस्ट दृष्टिकोण का आम तौर पर समर्थन किया गया और आईएससी द्वारा किसी भी कार्रवाई की समयबद्धता पर जोर दिया गया।
छवि: iStock पर adamichi
विज्ञान से कार्रवाई तक: टिकाऊ और लचीले विकास को आगे बढ़ाने के लिए वैज्ञानिक ज्ञान और समाधान का लाभ उठाना 
अधिक पढ़ें: संदर्भ की कमी: बहुपक्षीय नीति के लिए विज्ञान में विश्वास को पुनः परिभाषित करना 2023 उच्च-स्तरीय राजनीतिक फोरम के लिए स्थिति पत्र के बारे में अधिक पढ़ें 