साइन अप करें

रिपोर्ट

नीति-निर्माताओं के लिए मार्गदर्शिका: एआई, बड़े भाषा मॉडल और उससे आगे की तेजी से विकसित हो रही प्रौद्योगिकियों का मूल्यांकन

इस पत्र में आईएससी ने एआई से संबंधित हो रही विभिन्न वैश्विक और राष्ट्रीय चर्चाओं के बारे में नीति-निर्माताओं को सूचित करने के लिए एक रूपरेखा की खोज की है।

आईएससी की मार्गदर्शिका उच्च-स्तरीय सिद्धांतों और व्यावहारिक, कार्रवाई योग्य नीति के बीच की खाई को पाटने के लिए डिज़ाइन किया गया एक व्यापक ढांचा प्रदान करती है। यह उभरती प्रौद्योगिकियों द्वारा प्रस्तुत अवसरों और जोखिमों दोनों की एक आम समझ की तत्काल आवश्यकता का जवाब देता है। यह हमारे तेजी से बदलते डिजिटल युग में नीतिगत नेक्सस पर काम करने वालों के लिए एक आवश्यक दस्तावेज है।

यह ढांचा व्यापक दृष्टिकोण से एआई और इसके व्युत्पन्नों की संभावनाओं का पता लगाता है, जिसमें अर्थशास्त्र, राजनीति, पर्यावरण और सुरक्षा जैसे बाहरी कारकों के साथ-साथ मानव और सामाजिक कल्याण को शामिल किया गया है। संदर्भ के आधार पर चेकलिस्ट के कुछ पहलू दूसरों की तुलना में अधिक प्रासंगिक हो सकते हैं, लेकिन यदि सभी डोमेन पर विचार किया जाए तो बेहतर निर्णय अधिक संभावित लगते हैं, भले ही कुछ को विशेष मामलों में अप्रासंगिक के रूप में तुरंत पहचाना जा सकता है। यह चेकलिस्ट दृष्टिकोण का अंतर्निहित मूल्य है।

"तेजी से बढ़ते तकनीकी नवाचार और जटिल वैश्विक चुनौतियों वाले युग में, संभावित प्रभावों के व्यापक और बहुआयामी विश्लेषण के लिए ISC का ढांचा नेताओं को सूचित, जिम्मेदार निर्णय लेने में सक्षम बनाता है। यह सुनिश्चित करता है कि जैसे-जैसे हम तकनीकी रूप से आगे बढ़ते हैं, हम नैतिक, सामाजिक और आर्थिक निहितार्थों पर सावधानीपूर्वक विचार करते हैं।"

Peter ग्लुकमैन, आईएससी अध्यक्ष

जबकि यूनेस्को, ओईसीडी, यूरोपीय आयोग और संयुक्त राष्ट्र द्वारा उच्च-स्तरीय सिद्धांतों को प्रख्यापित किया गया है, और संभावित शासन, विनियमन, नैतिकता और सुरक्षा के मुद्दों के बारे में विभिन्न चर्चाएँ जारी हैं, ऐसे सिद्धांतों और शासन या नियामक ढांचे के बीच एक बड़ा अंतर है। आईएससी ने नीति-निर्माताओं के लिए अपने नए गाइड के माध्यम से इस आवश्यकता को संबोधित किया है।

नीति-निर्माताओं के लिए इस मार्गदर्शिका का उद्देश्य किसी नियामक व्यवस्था को प्रतिबन्धित करना नहीं है, बल्कि एक अनुकूली और विकासशील विश्लेषणात्मक ढांचे का सुझाव देना है, जो सरकारों और बहुपक्षीय प्रणाली सहित हितधारकों द्वारा विकसित किए जाने वाले किसी भी मूल्यांकन और नियामक प्रक्रिया का आधार बन सके।

"यह ढांचा एआई पर वैश्विक बातचीत में एक महत्वपूर्ण कदम है क्योंकि यह एक आधार प्रदान करता है जिससे हम वर्तमान और भविष्य दोनों के लिए प्रौद्योगिकी के निहितार्थों पर आम सहमति बना सकते हैं"। 

हेमा श्रीधर, पूर्व मुख्य विज्ञान सलाहकार, रक्षा मंत्रालय, न्यूजीलैंड और अब वरिष्ठ अनुसंधान Fellow, ऑकलैंड विश्वविद्यालय, न्यूज़ीलैंड।

अक्टूबर 2023 से, एआई की नैतिकता और सुरक्षा पर आगे विचार करने के साथ कई महत्वपूर्ण राष्ट्रीय और बहुपक्षीय पहल की गई हैं। वित्तीय, सरकारी, कानूनी और शिक्षा के साथ-साथ विभिन्न ज्ञान प्रणालियों (वैज्ञानिक और स्वदेशी ज्ञान सहित) सहित हमारी कुछ महत्वपूर्ण प्रणालियों की अखंडता पर एआई के निहितार्थ चिंता का विषय हैं। रूपरेखा इन पहलुओं को और अधिक प्रतिबिंबित करती है।

आईएससी सदस्यों और अंतर्राष्ट्रीय नीति-निर्माण समुदाय से अब तक प्राप्त फीडबैक विश्लेषणात्मक ढांचे के संशोधित संस्करण में प्रतिबिंबित है, जिसे अब नीति-निर्माताओं के लिए मार्गदर्शिका के रूप में जारी किया गया है।

नीति-निर्माताओं के लिए मार्गदर्शिका: एआई, बड़े भाषा मॉडल और उससे आगे की तेजी से विकसित हो रही प्रौद्योगिकियों का मूल्यांकन

यह चर्चा पत्र एआई से संबंधित हो रही विभिन्न वैश्विक और राष्ट्रीय चर्चाओं को सूचित करने के लिए एक प्रारंभिक रूपरेखा प्रदान करता है।

आपके संगठन में उपयोग के लिए रूपरेखा

अपने संगठन में उपयोग के लिए फ्रेमवर्क डाउनलोड करें

यहाँ हम आपके संगठन में उपयोग के लिए संपादन योग्य एक्सेल शीट के रूप में फ्रेमवर्क टूल प्रदान करते हैं। यदि आप ओपन सोर्स प्रारूप पसंद करते हैं, तो कृपया संपर्क करें [ईमेल संरक्षित].

परिचय

तेजी से उभरती हुई प्रौद्योगिकियां उनके उपयोग, शासन और संभावित विनियमन के मामले में चुनौतीपूर्ण मुद्दे पेश करती हैं। कृत्रिम बुद्धिमत्ता (एआई) और इसके उपयोग पर चल रही नीति और सार्वजनिक बहस ने इन मुद्दों को तीव्र ध्यान में ला दिया है। यूनेस्को, ओईसीडी, संयुक्त राष्ट्र और यूनाइटेड किंगडम के ब्लेचली घोषणा सहित अन्य द्वारा एआई के लिए व्यापक सिद्धांतों की घोषणा की गई है, और उदाहरण के लिए, यूरोपीय संघ (ईयू) एआई अधिनियम या हाल ही में संयुक्त राज्य अमेरिका के एआई कार्यकारी आदेश के माध्यम से प्रौद्योगिकी के पहलुओं के विनियमन के लिए उभरते क्षेत्राधिकार प्रयास हैं।

जबकि एआई के उपयोग पर इन और अन्य मंचों पर, भू-राजनीतिक विभाजनों के पार और सभी आय स्तरों वाले देशों में विस्तार से चर्चा की जाती है, उच्च स्तरीय सिद्धांतों के विकास और विनियामक, नीति, शासन या प्रबंधन दृष्टिकोणों के माध्यम से उनके व्यवहार में शामिल होने के बीच एक ऑन्टोलॉजिकल अंतर बना हुआ है। सिद्धांत से व्यवहार तक का मार्ग खराब तरीके से परिभाषित किया गया है, लेकिन एआई विकास और अनुप्रयोग की प्रकृति और ताल, इसमें शामिल हितों की विविधता और संभावित अनुप्रयोगों की सीमा को देखते हुए, कोई भी दृष्टिकोण अत्यधिक सामान्य या निर्देशात्मक नहीं हो सकता है।

इन कारणों से, गैर-सरकारी वैज्ञानिक समुदाय एक विशेष भूमिका निभाना जारी रखता है। अंतर्राष्ट्रीय विज्ञान परिषद (ISC) - सामाजिक और प्राकृतिक विज्ञानों से अपनी बहुलवादी सदस्यता के साथ - ने अक्टूबर 2023 में एक चर्चा पत्र जारी किया, जिसमें एक प्रारंभिक विश्लेषणात्मक रूपरेखा प्रस्तुत की गई, जिसमें तेजी से आगे बढ़ने वाली डिजिटल तकनीक से जुड़े जोखिमों, लाभों, खतरों और अवसरों पर विचार किया गया। हालाँकि इसे AI पर विचार करने के लिए विकसित किया गया था, लेकिन यह स्वाभाविक रूप से तकनीक से अलग है और इसे सिंथेटिक बायोलॉजी और क्वांटम जैसी उभरती और विघटनकारी तकनीकों की एक श्रृंखला पर लागू किया जा सकता है। उस चर्चा पत्र ने शिक्षाविदों और नीति-निर्माताओं से प्रतिक्रिया आमंत्रित की। भारी प्रतिक्रिया ने इस तरह के विश्लेषण को आवश्यक बना दिया और AI जैसी उभरती प्रौद्योगिकियों को संबोधित करने के लिए एक मूल्यवान दृष्टिकोण के रूप में सामने आया।

इस ढांचे का उद्देश्य सभी हितधारकों - जिसमें सरकारें, व्यापार वार्ताकार, विनियामक, नागरिक समाज और उद्योग शामिल हैं - को इन प्रौद्योगिकियों के विकास के बारे में सूचित करने के लिए एक उपकरण प्रदान करना है ताकि उन्हें यह तय करने में मदद मिल सके कि वे प्रौद्योगिकी के सकारात्मक या नकारात्मक प्रभावों और विशेष रूप से इसके विशेष अनुप्रयोग पर कैसे विचार कर सकते हैं। इस विश्लेषणात्मक ढांचे को सरकार और उद्योग के हितों से स्वतंत्र रूप से विकसित किया गया है। यह अपने दृष्टिकोण में अधिकतम बहुलवादी है, जो व्यापक परामर्श और प्रतिक्रिया के आधार पर प्रौद्योगिकी और इसके प्रभावों के सभी पहलुओं को शामिल करता है।

नीति-निर्माताओं के लिए इस चर्चा पत्र का उद्देश्य किसी नियामक व्यवस्था को प्रतिबन्धित करना नहीं है, बल्कि एक अनुकूली और विकासशील विश्लेषणात्मक ढांचे का सुझाव देना है, जो सरकारों और बहुपक्षीय प्रणाली सहित हितधारकों द्वारा विकसित किए जाने वाले किसी भी मूल्यांकन और नियामक प्रक्रियाओं का आधार बन सकता है।

चूंकि वैश्विक और राष्ट्रीय स्तर पर निर्णयकर्ता एआई जैसी नई प्रौद्योगिकी के जोखिम और लाभ को संतुलित करने के लिए उपयुक्त नीति सेटिंग्स और लीवर पर विचार करते हैं, इसलिए विश्लेषणात्मक ढांचे का उद्देश्य एक पूरक उपकरण के रूप में है, ताकि यह सुनिश्चित किया जा सके कि संभावित प्रभावों का पूरा समूह पर्याप्त रूप से प्रतिबिंबित हो।

पृष्ठभूमि: विश्लेषणात्मक ढांचा क्यों?

एआई की जटिलता और निहितार्थ वाली प्रौद्योगिकियों का तेजी से उभरना कई लोगों को बहुत लाभ पहुँचाने के दावे कर रहा है। हालाँकि, यह व्यक्तिगत से लेकर भू-रणनीतिक स्तर तक महत्वपूर्ण जोखिमों की आशंकाओं को भी जन्म देता है।1 आज तक की अधिकांश चर्चा द्विआधारी अर्थ में की गई है क्योंकि सार्वजनिक रूप से व्यक्त किए गए विचार स्पेक्ट्रम के चरम छोर पर होते हैं। एआई के पक्ष में या उसके खिलाफ किए गए दावे अक्सर अतिशयोक्तिपूर्ण होते हैं और - प्रौद्योगिकी की प्रकृति को देखते हुए - उनका आकलन करना मुश्किल होता है।

एक अधिक व्यावहारिक दृष्टिकोण की आवश्यकता है, जहाँ अतिशयोक्ति को कैलिब्रेटेड और अधिक विस्तृत मूल्यांकन से प्रतिस्थापित किया जाता है। एआई तकनीक का विकास जारी रहेगा, और इतिहास से पता चलता है कि लगभग हर तकनीक के लाभकारी और हानिकारक दोनों उपयोग हैं। इसलिए, सवाल यह है: हम इस तकनीक से लाभकारी परिणाम कैसे प्राप्त कर सकते हैं, जबकि हानिकारक परिणामों के जोखिम को कम कर सकते हैं, जिनमें से कुछ परिमाण में अस्तित्वगत हो सकते हैं?

भविष्य हमेशा अनिश्चित रहता है, लेकिन एआई और जनरेटिव एआई के बारे में पर्याप्त विश्वसनीय और विशेषज्ञ आवाज़ें हैं जो अपेक्षाकृत एहतियाती दृष्टिकोण को प्रोत्साहित करती हैं। इसके अलावा, एक सिस्टम दृष्टिकोण आवश्यक है क्योंकि एआई कई प्रकार के उपयोगकर्ताओं द्वारा व्यापक उपयोग और अनुप्रयोग वाली प्रौद्योगिकियों का एक वर्ग है। इसका मतलब यह है कि व्यक्तियों, सामाजिक जीवन, नागरिक जीवन, सामाजिक जीवन और वैश्विक संदर्भ में किसी भी एआई उपयोग के निहितार्थों पर विचार करते समय पूरे संदर्भ पर विचार किया जाना चाहिए।

अधिकांश अन्य तकनीकों के विपरीत, डिजिटल और संबंधित तकनीकों के लिए, विकास, रिलीज़ और अनुप्रयोग के बीच का समय बहुत कम है, जो मुख्य रूप से उत्पादन कंपनियों या एजेंसियों के हितों से प्रेरित है। अपनी प्रकृति के कारण - और यह देखते हुए कि यह डिजिटल रीढ़ पर आधारित है - एआई के पास ऐसे अनुप्रयोग होंगे जो तेजी से व्यापक होंगे, जैसा कि बड़े भाषा मॉडल के विकास के साथ पहले ही देखा जा चुका है। नतीजतन, कुछ गुण रिलीज़ के बाद ही स्पष्ट हो सकते हैं, जिसका अर्थ है कि अप्रत्याशित परिणामों का जोखिम है, दोनों ही तरह के दुर्भावनापूर्ण और परोपकारी।

महत्वपूर्ण सामाजिक मूल्य आयाम, विशेष रूप से विभिन्न क्षेत्रों और संस्कृतियों में, इस बात को प्रभावित करेंगे कि किसी भी उपयोग को कैसे माना और स्वीकार किया जाता है। इसके अलावा, भू-रणनीतिक हित पहले से ही चर्चा पर हावी हो रहे हैं, संप्रभु और बहुपक्षीय हित लगातार एक दूसरे से जुड़ रहे हैं और इस प्रकार प्रतिस्पर्धा और विभाजन को बढ़ावा दे रहे हैं।

आज तक, आभासी प्रौद्योगिकी के अधिकांश विनियमन को बड़े पैमाने पर 'सिद्धांतों' और स्वैच्छिक अनुपालन के लेंस के माध्यम से देखा गया है, हालांकि यूरोपीय संघ के एआई अधिनियम के साथ2 और इसी तरह हम अधिक लागू करने योग्य लेकिन कुछ हद तक संकीर्ण विनियमों की ओर बदलाव देख रहे हैं। एक प्रभावी वैश्विक या राष्ट्रीय प्रौद्योगिकी शासन और/या विनियामक प्रणाली स्थापित करना चुनौतीपूर्ण बना हुआ है और इसका कोई स्पष्ट समाधान नहीं है। आविष्कारक से लेकर निर्माता, उपयोगकर्ता, सरकार और बहुपक्षीय प्रणाली तक श्रृंखला के साथ जोखिम-सूचित निर्णय लेने की कई परतों की आवश्यकता होगी।

जबकि यूनेस्को, ओईसीडी, यूरोपीय आयोग और संयुक्त राष्ट्र द्वारा उच्च-स्तरीय सिद्धांतों को प्रख्यापित किया गया है, और संभावित शासन, विनियमन, नैतिकता और सुरक्षा के मुद्दों के बारे में विभिन्न उच्च-स्तरीय चर्चाएँ जारी हैं, ऐसे सिद्धांतों और शासन या नियामक ढांचे के बीच एक बड़ा अंतर है। इस पर ध्यान देने की आवश्यकता है।

आरंभिक बिंदु के रूप में, ISC विचारों का एक वर्गीकरण विकसित करने पर विचार करता है जिसका संदर्भ कोई भी डेवलपर, विनियामक, नीति सलाहकार, उपभोक्ता या निर्णयकर्ता ले सकता है। इन प्रौद्योगिकियों के व्यापक निहितार्थों को देखते हुए, इस तरह के वर्गीकरण को संकीर्ण रूप से केंद्रित रूपरेखा के बजाय निहितार्थों की समग्रता पर विचार करना चाहिए। निर्णय लेने पर भू-रणनीतिक हितों के प्रभाव के कारण वैश्विक विखंडन बढ़ रहा है, और इस तकनीक की तात्कालिकता को देखते हुए, स्वतंत्र और तटस्थ आवाज़ों के लिए एक एकीकृत और समावेशी दृष्टिकोण को लगातार आगे बढ़ाना आवश्यक है।


1) हिंदुस्तान टाइम्स। 2023. जी-20 को तकनीकी परिवर्तन पर एक अंतरराष्ट्रीय पैनल स्थापित करना चाहिए।
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) यूरोपीय संघ कृत्रिम बुद्धिमत्ता अधिनियम। 2023. https://artificialintelligenceact.eu

विश्लेषणात्मक ढांचे का विकास

आईएससी प्राकृतिक और सामाजिक विज्ञानों को एकीकृत करने वाला प्राथमिक वैश्विक गैर-सरकारी संगठन है। इसकी वैश्विक और अनुशासनात्मक पहुंच का मतलब है कि यह आगे आने वाले जटिल विकल्पों को सूचित करने के लिए स्वतंत्र और वैश्विक रूप से प्रासंगिक सलाह देने में सक्षम है, खासकर तब जब इस क्षेत्र में मौजूदा आवाज़ें मुख्य रूप से उद्योग या प्रमुख तकनीकी शक्तियों के नीति और राजनीतिक समुदायों से हैं।

व्यापक चर्चा के पश्चात, जिसमें एक गैर-सरकारी मूल्यांकन प्रक्रिया पर विचार भी शामिल था, आईएससी इस निष्कर्ष पर पहुंचा कि इसका सबसे उपयोगी योगदान एक अनुकूल विश्लेषणात्मक ढांचा तैयार करना होगा, जिसका उपयोग सभी हितधारकों द्वारा विचार-विमर्श और निर्णय लेने के आधार के रूप में किया जा सके, जिसमें किसी भी औपचारिक मूल्यांकन प्रक्रिया के दौरान भी शामिल है।

प्रारंभिक विश्लेषणात्मक रूपरेखा, जिसे अक्टूबर 2023 में चर्चा और प्रतिक्रिया के लिए जारी किया गया था, ने सरकारी और गैर-सरकारी दोनों संस्थानों द्वारा उपयोग के लिए डिज़ाइन की गई एक व्यापक चेकलिस्ट का रूप ले लिया। रूपरेखा ने मानव और सामाजिक कल्याण के साथ-साथ अर्थशास्त्र, राजनीति, पर्यावरण और सुरक्षा जैसे बाहरी कारकों को शामिल करते हुए एक व्यापक लेंस के माध्यम से एआई और उसके व्युत्पन्न जैसी तकनीक की क्षमता की पहचान की और उसका पता लगाया। संदर्भ के आधार पर चेकलिस्ट के कुछ पहलू दूसरों की तुलना में अधिक प्रासंगिक हो सकते हैं, लेकिन बेहतर निर्णय अधिक संभावना वाले लगते हैं यदि सभी डोमेन पर विचार किया जाता है, भले ही कुछ को विशेष मामलों में अप्रासंगिक के रूप में जल्दी से पहचाना जा सके। यह चेकलिस्ट दृष्टिकोण का अंतर्निहित मूल्य है।

प्रारंभिक रूपरेखा पिछले काम और सोच से ली गई थी, जिसमें डिजिटल वेलबीइंग3 पर इंटरनेशनल नेटवर्क फॉर गवर्नमेंटल साइंस एडवाइस (INGSA) की रिपोर्ट और AI सिस्टम के वर्गीकरण के लिए OECD रूपरेखा4 शामिल है, ताकि AI के संभावित अवसरों, जोखिमों और प्रभावों की समग्रता को प्रस्तुत किया जा सके। ये पिछले उत्पाद अपने समय और संदर्भ को देखते हुए अपने इरादे में अधिक सीमित थे; एक व्यापक रूपरेखा की आवश्यकता है जो अल्पावधि और दीर्घावधि दोनों में मुद्दों की पूरी श्रृंखला प्रस्तुत करे।

इसके प्रकाशन के बाद से, चर्चा पत्र को कई विशेषज्ञों और नीति-निर्माताओं से महत्वपूर्ण समर्थन मिला है। कई लोगों ने विशेष रूप से एक अनुकूली ढांचा विकसित करने की सिफारिश का समर्थन किया है जो प्रौद्योगिकी के जोखिमों और निहितार्थों पर जानबूझकर और सक्रिय रूप से विचार करने की अनुमति देता है, और ऐसा करते समय, हमेशा व्यक्ति से लेकर समाज और प्रणालियों तक के आयामों की समग्रता पर विचार करता है।

फीडबैक के माध्यम से एक महत्वपूर्ण अवलोकन यह स्वीकार किया गया कि ढांचे में विचार किए गए कई निहितार्थ स्वाभाविक रूप से बहुआयामी हैं और कई श्रेणियों में फैले हुए हैं। उदाहरण के लिए, गलत सूचना को व्यक्तिगत और भू-रणनीतिक दोनों दृष्टिकोणों से देखा जा सकता है; इस प्रकार, इसके परिणाम व्यापक होंगे।

फ्रेमवर्क का परीक्षण करने के लिए केस स्टडी या उदाहरण शामिल करने का विकल्प भी सुझाया गया। इसका उपयोग दिशा-निर्देश विकसित करने के लिए किया जा सकता है, ताकि यह प्रदर्शित किया जा सके कि इसे विभिन्न संदर्भों में व्यवहार में कैसे इस्तेमाल किया जा सकता है। हालाँकि, यह एक महत्वपूर्ण कार्य होगा और यह सीमित कर सकता है कि विभिन्न समूह इस फ्रेमवर्क के उपयोग को कैसे समझते हैं। यह सबसे अच्छा नीति-निर्माताओं द्वारा विशिष्ट अधिकार क्षेत्र या संदर्भों में विशेषज्ञों के साथ काम करके किया जाता है।

अक्टूबर 2023 से, एआई की नैतिकता और सुरक्षा पर आगे विचार करने के साथ कई महत्वपूर्ण राष्ट्रीय और बहुपक्षीय पहल की गई हैं। वित्तीय, सरकारी, कानूनी और शिक्षा के साथ-साथ विभिन्न ज्ञान प्रणालियों (वैज्ञानिक और स्वदेशी ज्ञान सहित) सहित हमारी कुछ महत्वपूर्ण प्रणालियों की अखंडता पर एआई के निहितार्थ चिंता का विषय हैं। संशोधित रूपरेखा इन पहलुओं को और अधिक प्रतिबिंबित करती है।

अब तक प्राप्त फीडबैक विश्लेषणात्मक ढांचे के संशोधित संस्करण में प्रतिबिंबित है, जिसे अब नीति-निर्माताओं के लिए मार्गदर्शिका के रूप में जारी किया गया है।

यद्यपि यह रूपरेखा एआई और संबंधित प्रौद्योगिकियों के संदर्भ में प्रस्तुत की गई है, लेकिन इसे क्वांटम और सिंथेटिक जीव विज्ञान जैसी अन्य तेजी से उभरती प्रौद्योगिकियों के संदर्भ में भी तुरंत लागू किया जा सकता है।


3) ग्लुकमैन, पी. और एलन, के. 2018. तीव्र डिजिटल और संबंधित परिवर्तनों के संदर्भ में कल्याण को समझना। आई.एन.जी.एस.ए.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) ओईसीडी। 2022. एआई सिस्टम के वर्गीकरण के लिए ओईसीडी फ्रेमवर्क। ओईसीडी डिजिटल इकोनॉमी पेपर्स, नंबर 323, #। पेरिस, ओईसीडी प्रकाशन।
https://oecd.ai/en/classificatio

ढांचा

निम्न तालिका एक संभावित विश्लेषणात्मक ढांचे के आयामों को प्रस्तुत करती है। उदाहरण दिए गए हैं ताकि यह स्पष्ट किया जा सके कि प्रत्येक डोमेन क्यों महत्वपूर्ण हो सकता है; संदर्भ में, ढांचे को प्रासंगिक रूप से प्रासंगिक विस्तार की आवश्यकता होगी। प्लेटफ़ॉर्म विकास के दौरान उत्पन्न होने वाले सामान्य मुद्दों और विशिष्ट अनुप्रयोगों के दौरान उभरने वाले मुद्दों के बीच अंतर करना भी महत्वपूर्ण है। यहाँ शामिल किसी भी एक विचार को प्राथमिकता के रूप में नहीं माना जाना चाहिए और, इस तरह, सभी की जाँच की जानी चाहिए।

इन मुद्दों को मोटे तौर पर निम्नलिखित श्रेणियों में बांटा गया है:

  • कल्याण (व्यक्ति या स्वयं, समाज, सामाजिक जीवन और नागरिक जीवन सहित)
  • व्यापार और अर्थव्यवस्था
  • पर्यावरण
  • भू-रणनीतिक और भू-राजनीतिक
  • तकनीकी (प्रणाली विशेषताएँ, डिजाइन और उपयोग)

तालिका में उन आयामों का विवरण दिया गया है जिन पर नई तकनीक का मूल्यांकन करते समय विचार करने की आवश्यकता हो सकती है।

? आई.एन.जी.एस.ए. 2018. तीव्र डिजिटल और संबद्ध परिवर्तनों के संदर्भ में कल्याण को समझना।
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf

नये विवरण (व्यापक परामर्श, फीडबैक और साहित्य समीक्षा के माध्यम से प्राप्त)

एआई प्रणालियों के वर्गीकरण के लिए ओईसीडी फ्रेमवर्क: प्रभावी एआई नीतियों के लिए एक उपकरण।
https://oecd.ai/en/classification

प्रभाव के आयाम: व्यक्तिगत / स्वयं

मापदंडविश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
उपयोगकर्ताओं की AI योग्यतासिस्टम के साथ बातचीत करने वाले संभावित उपयोगकर्ता सिस्टम की विशेषताओं के बारे में कितने सक्षम और जागरूक हैं? उन्हें प्रासंगिक उपयोगकर्ता जानकारी और सावधानियाँ कैसे प्रदान की जाएँगी?
? प्रभावित हितधारकवे प्राथमिक हितधारक कौन हैं जो इस प्रणाली से प्रभावित होंगे (व्यक्ति, समुदाय, कमजोर, क्षेत्रीय श्रमिक, बच्चे, नीति-निर्माता, पेशेवर आदि)?
? वैकल्पिकताक्या उपयोगकर्ताओं को सिस्टम से बाहर निकलने का अवसर प्रदान किया जाता है या उन्हें आउटपुट को चुनौती देने या सुधारने का अवसर दिया जाता है?
मानव अधिकारों और लोकतांत्रिक मूल्यों के लिए खतराक्या यह प्रणाली मानव अधिकारों पर मौलिक रूप से प्रभाव डालती है, जिसमें गोपनीयता, अभिव्यक्ति की स्वतंत्रता, निष्पक्षता, गैर-भेदभाव आदि शामिल हैं?
लोगों की भलाई पर संभावित प्रभावक्या सिस्टम के प्रभाव क्षेत्र व्यक्तिगत उपयोगकर्ता की भलाई (नौकरी की गुणवत्ता, शिक्षा, सामाजिक संपर्क, मानसिक स्वास्थ्य, पहचान, पर्यावरण आदि) से संबंधित हैं?
मानव श्रम विस्थापन की संभावनाक्या इस प्रणाली में मनुष्यों द्वारा निष्पादित किए जा रहे कार्यों या कार्यों को स्वचालित करने की क्षमता है? यदि हाँ, तो इसके क्या परिणाम होंगे?
? पहचान, मूल्यों या ज्ञान में हेरफेर की संभावनाक्या सिस्टम उपयोगकर्ता की पहचान में हेरफेर करने के लिए डिज़ाइन किया गया है या संभावित रूप से सक्षम है?
मूल्य निर्धारित करें या गलत सूचना फैलाएं?
? आत्म-अभिव्यक्ति और आत्म-सिद्धि के अवसरक्या इसमें बनावटीपन और आत्म-संदेह की संभावना है? क्या इसमें झूठे या झूठे होने की संभावना है?
विशेषज्ञता के अपुष्ट दावे?
? आत्म-मूल्य के मापक्या खुद को आदर्श रूप में पेश करने का दबाव है? क्या स्वचालन एक ऐसी भावना की जगह ले सकता है
व्यक्तिगत संतुष्टि का क्या मतलब है? क्या सिस्टम के साथ प्रतिस्पर्धा करने का दबाव है?
क्या कार्यस्थल पर व्यक्तिगत प्रतिष्ठा को गलत सूचना से बचाना अधिक कठिन है?
? गोपनीयताक्या गोपनीयता की सुरक्षा के लिए अलग-अलग जिम्मेदारियां हैं और क्या कोई ऐसी जिम्मेदारियां हैं?
व्यक्तिगत डेटा का उपयोग किस प्रकार किया जाता है, इस पर क्या धारणाएं बनाई जा रही हैं?
? स्वायत्तताक्या एआई प्रणाली मानव स्वायत्तता को प्रभावित कर सकती है?
आखिरी उपयोगकर्ता?
? मानव विकासक्या मानव विकास के लिए प्रमुख कौशलों के अधिग्रहण पर इसका कोई प्रभाव पड़ता है, जैसे
कार्यकारी कार्य या पारस्परिक कौशल, या ध्यान समय में परिवर्तन प्रभावित करते हैं
सीखना, व्यक्तित्व विकास, मानसिक स्वास्थ्य संबंधी चिंताएं आदि?
? व्यक्तिगत स्वास्थ्य देखभालक्या स्व-निदान या व्यक्तिगत स्वास्थ्य देखभाल समाधान के दावे किए गए हैं? यदि हाँ, तो
क्या वे विनियामक मानकों के अनुरूप मान्य हैं?
मानसिक स्वास्थ्यक्या चिंता, अकेलेपन या अन्य मानसिक स्वास्थ्य समस्याओं के बढ़ने का खतरा है, या
क्या प्रौद्योगिकी ऐसे प्रभावों को कम कर सकती है?
? मानव विकासक्या बड़े भाषा मॉडल और कृत्रिम सामान्य बुद्धिमत्ता इसे बदल सकते हैं?
मानव विकास के क्रम में क्या हुआ?
? मानव-मशीन अंतःक्रियाक्या इसका उपयोग समय के साथ व्यक्तियों में अकुशलता और निर्भरता को बढ़ावा दे सकता है?
क्या इसका मानवीय संपर्क पर कोई प्रभाव पड़ेगा?
5) फ्रेमवर्क में विचार किए गए तकनीकी मानदंड विशेष रूप से एआई के लिए हैं और इन्हें अन्य प्रौद्योगिकियों के लिए भी उपयुक्त रूप से संशोधित करने की आवश्यकता होगी।

प्रभाव के आयाम: समाज/सामाजिक जीवन

मापदंड विश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
? सामाजिक मूल्यक्या यह प्रणाली समाज की प्रकृति को मौलिक रूप से बदल देती है, क्या यह उन विचारों को सामान्य बनाती है जिन्हें पहले असामाजिक माना जाता था, या क्या यह उस संस्कृति के सामाजिक मूल्यों का उल्लंघन करती है जिसमें इसे लागू किया जा रहा है?
? सामाजिक संपर्कक्या भावनात्मक रिश्तों सहित सार्थक मानवीय संपर्क पर इसका कोई प्रभाव पड़ता है?
? जनसंख्या स्वास्थ्यक्या इस प्रणाली में जनसंख्या स्वास्थ्य संबंधी उद्देश्यों को आगे बढ़ाने या कमजोर करने की क्षमता है?
? सांस्कृतिक अभिव्यक्तिक्या सांस्कृतिक विनियोग या भेदभाव में वृद्धि की संभावना है या इसे संबोधित करना अधिक कठिन है? क्या निर्णय लेने के लिए सिस्टम पर निर्भरता समाज के सांस्कृतिक रूप से प्रासंगिक वर्गीय संबंधों को बहिष्कृत या हाशिए पर डालती है?
? सार्वजनिक शिक्षाक्या शिक्षक की भूमिका या शिक्षा संस्थानों पर इसका कोई प्रभाव पड़ता है? क्या व्यवस्था छात्रों के बीच डिजिटल विभाजन और असमानता पर जोर देती है या उसे कम करती है? क्या ज्ञान या आलोचनात्मक समझ का आंतरिक मूल्य उन्नत होता है या कम होता है?
विकृत वास्तविकताएंक्या सत्य को पहचानने के लिए इस्तेमाल की जाने वाली विधियाँ अभी भी लागू हैं? क्या वास्तविकता की धारणा से समझौता किया गया है?

प्रभाव के आयाम: आर्थिक संदर्भ (व्यापार)

मापदंडविश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
? औद्योगिक क्षेत्रयह प्रणाली किस औद्योगिक क्षेत्र में लागू है (वित्त, कृषि, स्वास्थ्य देखभाल, शिक्षा, रक्षा आदि)?
? बिज़नेस मॉडलइस प्रणाली का उपयोग किस व्यावसायिक कार्य में और किस क्षमता में किया जाता है? इस प्रणाली का उपयोग कहां किया जाता है (निजी, सार्वजनिक, गैर-लाभकारी)?
महत्वपूर्ण गतिविधियों पर प्रभाव क्या प्रणाली के कार्य या गतिविधि में व्यवधान से आवश्यक सेवाएं या महत्वपूर्ण अवसंरचनाएं प्रभावित होंगी?
तैनाती की व्यापकताप्रणाली को किस प्रकार लागू किया जाता है (इकाई के भीतर सीमित उपयोग बनाम राष्ट्रीय/अंतरराष्ट्रीय स्तर पर व्यापक उपयोग)?
? तकनीकी परिपक्वतायह प्रणाली तकनीकी रूप से कितनी परिपक्व है?
? अंतरसंचालनीयता क्या राष्ट्रीय या वैश्विक स्तर पर ऐसी कोई खामियां होने की संभावना है जो मुक्त व्यापार को बाधित करती हैं और साझेदारों के साथ सहयोग को प्रभावित करती हैं?
? तकनीकी संप्रभुताक्या तकनीकी संप्रभुता की इच्छा व्यवहार को प्रेरित कर रही है, जिसमें संपूर्ण एआई आपूर्ति श्रृंखला पर नियंत्रण भी शामिल है?
आय पुनर्वितरण और राष्ट्रीय राजकोषीय उत्तोलकक्या संप्रभु राज्य की मुख्य भूमिकाओं से समझौता किया जा सकता है (जैसे, रिजर्व बैंक)? क्या नागरिकों की अपेक्षाओं और निहितार्थों (सामाजिक, आर्थिक, राजनीतिक आदि) को पूरा करने की राज्य की क्षमता को बढ़ाया जाएगा या कम किया जाएगा?
डिजिटल विभाजन (एआई विभाजन) क्या मौजूदा डिजिटल असमानताएं और बढ़ गई हैं या नई असमानताएं पैदा हो गई हैं?

प्रभाव के आयाम: नागरिक जीवन

मापदंडविश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
शासन और सार्वजनिक सेवाक्या शासन तंत्र और वैश्विक शासन प्रणाली पर सकारात्मक या नकारात्मक प्रभाव पड़ सकता है?
? खबर मीडियाक्या सार्वजनिक चर्चा जनसंख्या स्तर पर ध्रुवीकृत और जड़ हो जाने की संभावना है? क्या चौथे स्तंभ में विश्वास के स्तर पर कोई प्रभाव पड़ेगा? क्या पारंपरिक पत्रकार नैतिकता और ईमानदारी के मानकों पर और अधिक प्रभाव पड़ेगा?
? कानून का शासनक्या व्यक्तियों या संगठनों को उत्तरदायी ठहराने की पहचान करने की क्षमता पर कोई प्रभाव पड़ेगा (जैसे, प्रतिकूल परिणामों के लिए एल्गोरिदम को किस तरह की जवाबदेही सौंपी जाए)? क्या संप्रभुता का नुकसान हुआ है (पर्यावरण, राजकोषीय, सामाजिक नीति, नैतिकता आदि)?
राजनीति और सामाजिक सामंजस्यक्या राजनीतिक विचारों में और अधिक दृढ़ता और आम सहमति बनाने के कम अवसर की संभावना है? क्या समूहों को और अधिक हाशिए पर धकेले जाने की संभावना है? क्या राजनीति की प्रतिकूल शैली की संभावना कम या अधिक है?
? सामाजिक लाइसेंसक्या गोपनीयता संबंधी चिंताएं, विश्वास संबंधी मुद्दे और नैतिक चिंताएं हैं जिन पर हितधारकों द्वारा उपयोग की स्वीकृति के लिए विचार किए जाने की आवश्यकता है?
स्वदेशी ज्ञानक्या स्वदेशी ज्ञान और डेटा को दूषित या गलत तरीके से इस्तेमाल किया जा सकता है? क्या गलत बयानी, गलत सूचना और शोषण से बचाव के लिए पर्याप्त उपाय हैं?
? वैज्ञानिक प्रणालीक्या शैक्षणिक और शोध अखंडता से समझौता किया गया है? क्या विज्ञान में विश्वास की कमी है? क्या दुरुपयोग, अति प्रयोग या दुर्व्यवहार की संभावनाएँ हैं? विज्ञान के अभ्यास का परिणाम क्या है?

प्रभाव के आयाम: भू-रणनीतिक/भू-राजनीतिक संदर्भ

मापदंडविश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
? सटीक निगरानीक्या ये प्रणालियां व्यक्तिगत व्यवहार और जैविक आंकड़ों पर प्रशिक्षित हैं और क्या उनका उपयोग व्यक्तियों या समूहों का शोषण करने के लिए किया जा सकता है?
डिजिटल प्रतिस्पर्धाक्या राज्य या गैर-राज्य अभिनेता (जैसे बड़ी प्रौद्योगिकी कंपनियां) अन्य देशों की आबादी और पारिस्थितिकी तंत्र को समझने और नियंत्रित करने के लिए प्रणालियों और डेटा का उपयोग कर सकते हैं, या क्षेत्राधिकार नियंत्रण को कमजोर कर सकते हैं?
भू-राजनीतिक प्रतिस्पर्धाक्या यह प्रणाली आर्थिक, चिकित्सीय और सुरक्षा हितों के लिए व्यक्तिगत और सामूहिक डेटा के उपयोग को लेकर राष्ट्रों के बीच प्रतिस्पर्धा को बढ़ावा दे सकती है?
? वैश्विक शक्तियों में बदलावक्या विश्व के प्राथमिक भू-राजनीतिक अभिनेताओं के रूप में राष्ट्र-राज्यों की स्थिति खतरे में है? क्या प्रौद्योगिकी कंपनियाँ अब राष्ट्र-राज्यों के लिए आरक्षित शक्ति का उपयोग कर रही हैं और क्या वे स्वतंत्र, संप्रभु अभिनेता (उभरती हुई तकनीकी-ध्रुवीय विश्व व्यवस्था) बन गई हैं?
? गलत सूचनाक्या यह प्रणाली राज्य और गैर-राज्य अभिनेताओं द्वारा गलत सूचना के उत्पादन और प्रसार को सुगम बनाएगी, जिसका सामाजिक सामंजस्य, विश्वास और लोकतंत्र पर प्रभाव पड़ेगा?
? दोहरे उपयोग वाले अनुप्रयोगक्या इसमें सैन्य उपयोग के साथ-साथ नागरिक उपयोग की भी संभावना है?
? वैश्विक व्यवस्था का विखंडनक्या विनियमन और अनुपालन के ऐसे समूह या समूह विकसित हो सकते हैं जो सहयोग में बाधा उत्पन्न करें, अनुप्रयोग में असंगतता पैदा करें और संघर्ष की गुंजाइश पैदा करें?

प्रभाव के आयाम: पर्यावरणीय

मापदंडविश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
ऊर्जा और संसाधन खपत (कार्बन पदचिह्न)क्या प्रणाली और आवश्यकताएं अनुप्रयोग के माध्यम से प्राप्त दक्षता लाभ के अतिरिक्त ऊर्जा और संसाधन की खपत को बढ़ाती हैं?
?ऊर्जा स्रोतप्रणाली के लिए ऊर्जा का स्रोत कहां से है (नवीकरणीय बनाम जीवाश्म ईंधन आदि)?

प्रभाव के आयाम: डेटा और इनपुट

मापदंडविश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
? दिशा और संग्रहक्या डेटा और इनपुट मानव द्वारा, स्वचालित सेंसर द्वारा या दोनों द्वारा एकत्रित किये जाते हैं?
डेटा का स्रोतक्या डेटा और इनपुट विशेषज्ञों द्वारा प्रदान किए गए, देखे गए, कृत्रिम या व्युत्पन्न हैं? क्या प्रमाण की पुष्टि करने के लिए वॉटरमार्क सुरक्षा है?
डेटा की गतिशील प्रकृतिक्या डेटा गतिशील, स्थिर, समय-समय पर अद्यतन या वास्तविक समय पर अद्यतन होता है?
? अधिकारक्या डेटा स्वामित्वपूर्ण, सार्वजनिक या व्यक्तिगत (पहचान योग्य व्यक्तियों से संबंधित) है?
? पहचान और व्यक्तिगत डेटायदि व्यक्तिगत है, तो क्या डेटा गुमनाम या छद्म नामित है?
डेटा की संरचनाक्या डेटा संरचित, अर्ध-संरचित, जटिल संरचित या असंरचित है?
डेटा का प्रारूपक्या डेटा और मेटाडेटा का प्रारूप मानकीकृत है या गैर-मानकीकृत है?
डेटा का पैमानाडेटासेट का पैमाना क्या है?
? डेटा की उपयुक्तता और गुणवत्ता क्या डेटासेट उद्देश्य के लिए उपयुक्त है? क्या नमूना आकार पर्याप्त है? क्या यह पर्याप्त रूप से प्रतिनिधि और पूर्ण है? डेटा कितना शोरगुल वाला है? क्या इसमें त्रुटि होने की संभावना है?

प्रभाव के आयाम: मॉडल

मापदंडविश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
? सूचना उपलब्धताक्या सिस्टम के मॉडल के बारे में कोई जानकारी उपलब्ध है?
? एआई मॉडल का प्रकारक्या मॉडल प्रतीकात्मक (मानव-जनित नियम), सांख्यिकीय (डेटा का उपयोग करता है) या संकर है?
? मॉडल से जुड़े अधिकारक्या मॉडल ओपन-सोर्स या स्वामित्व वाला, स्वयं-प्रबंधित या तीसरे पक्ष द्वारा प्रबंधित है?
? एक या अनेक मॉडलक्या प्रणाली एक मॉडल या कई परस्पर जुड़े मॉडलों से बनी है?
उत्पादक या विभेदकक्या मॉडल उत्पादक है, विभेदक है या दोनों?
? मॉडल निर्माणक्या प्रणाली मानव-लिखित नियमों के आधार पर, डेटा से, पर्यवेक्षित शिक्षण के माध्यम से या सुदृढ़ीकरण शिक्षण के माध्यम से सीखती है?
मॉडल विकास (एआई बहाव)क्या मॉडल क्षेत्र में डेटा के साथ अंतःक्रिया करके विकसित होता है और/या क्षमताएं प्राप्त करता है?
संघीय या केंद्रीय शिक्षणक्या मॉडल को केन्द्रीय रूप से प्रशिक्षित किया जाता है या कई स्थानीय सर्वरों या 'एज' डिवाइसों में?
? विकास/रखरखावक्या मॉडल सार्वभौमिक, अनुकूलन योग्य या AI अभिनेता के डेटा के अनुरूप है?
? नियतात्मक या संभाव्यतावादी क्या मॉडल का प्रयोग नियतात्मक या संभाव्यतावादी तरीके से किया जाता है?
? मॉडल पारदर्शिता क्या उपयोगकर्ताओं के लिए ऐसी जानकारी उपलब्ध है जिससे वे मॉडल आउटपुट और सीमाओं या उपयोग प्रतिबंधों को समझ सकें?
? कम्प्यूटेशनल सीमाक्या सिस्टम में कम्प्यूटेशनल सीमाएँ हैं? क्या क्षमता में उछाल या स्केलिंग नियमों की भविष्यवाणी करना संभव है?

प्रभाव के आयाम: कार्य और आउटपुट

मापदंडविश्लेषण में इसे कैसे प्रतिबिंबित किया जा सकता है इसके उदाहरण
सिस्टम द्वारा निष्पादित कार्यसिस्टम क्या कार्य करता है (पहचान, घटना का पता लगाना, पूर्वानुमान लगाना आदि)?
? कार्यों और क्रियाओं का संयोजनक्या प्रणाली कई कार्यों और क्रियाओं (सामग्री निर्माण प्रणालियां, स्वायत्त प्रणालियां, नियंत्रण प्रणालियां आदि) को जोड़ती है?
? सिस्टम की स्वायत्तता का स्तर प्रणाली की गतिविधियां कितनी स्वायत्त हैं और मनुष्य इसमें क्या भूमिका निभाते हैं?
मानवीय सहभागिता की डिग्रीक्या एआई प्रणाली की समग्र गतिविधि की देखरेख करने और किसी भी स्थिति में एआई प्रणाली का उपयोग कब और कैसे किया जाए, यह निर्णय लेने की क्षमता के लिए कुछ मानवीय भागीदारी है?
? मुख्य अनुप्रयोगक्या यह प्रणाली किसी मुख्य अनुप्रयोग क्षेत्र जैसे मानव भाषा प्रौद्योगिकी, कंप्यूटर विज़न, स्वचालन और/या अनुकूलन या रोबोटिक्स से संबंधित है?
? मूल्यांकनक्या सिस्टम आउटपुट के मूल्यांकन के लिए मानक या विधियाँ उपलब्ध हैं?

इस ढांचे का उपयोग कैसे किया जा सकता है?

इस ढांचे का उपयोग कई तरीकों से किया जा सकता है, जिनमें शामिल हैं:

  • विनियामक या शासन उद्देश्यों के लिए उच्च-स्तरीय सिद्धांतों और मूल्यांकन के बीच की खाई को पाटना। यह ढांचा उन मुद्दों की श्रेणी का एक मान्य सामान्य वर्गीकरण स्थापित करके इसका समर्थन कर सकता है जो प्रासंगिक हितधारकों द्वारा आगे की सोच को सूचित करने और आकार देने के आधार के रूप में विचार करने योग्य हैं। उदाहरण के लिए, राष्ट्रीय स्तर पर, इस ढांचे का उपयोग सरकार द्वारा एक उपकरण के रूप में किया जा सकता है क्योंकि यह हितधारक समूहों में जोखिमों और अवसरों का एक सामान्य आधार स्थापित करने के लिए एक राष्ट्रीय एआई रणनीति और नीतियां विकसित करता है।
  • प्रभाव आकलन की जानकारी देना। यूरोपीय संघ के एआई अधिनियम के अनुसार, एआई उपकरण प्रदान करने वाले या अपनी प्रक्रियाओं में एआई को अपनाने वाले संगठनों को अपनी पहल के जोखिम की पहचान करने और उचित जोखिम प्रबंधन दृष्टिकोण लागू करने के लिए प्रभाव आकलन करना आवश्यक है। यहाँ प्रस्तुत रूपरेखा को इसके लिए आधार के रूप में इस्तेमाल किया जा सकता है।
  • जोखिमों और भविष्य के परिदृश्यों के लिए क्षितिज स्कैनिंग की जानकारी देना। संयुक्त राष्ट्र एआई सलाहकार निकाय की अंतरिम रिपोर्ट6 में जोखिमों का वर्गीकरण मोटे तौर पर यहाँ प्रस्तुत रूपरेखा के अनुरूप है। इस रूपरेखा का उपयोग आम सहमति बनाने और उभरते जोखिमों की गंभीरता का परीक्षण करने के साथ-साथ उन्हें रोकने के लिए किया जा सकता है।
  • एआई के उपयोग को निर्देशित करने और नियंत्रित करने के लिए आवश्यक नैतिक सिद्धांतों को बढ़ाना। यह ढांचा एक लचीला आधार प्रदान करके ऐसा कर सकता है जिस पर भरोसेमंद सिस्टम विकसित किए जा सकते हैं और प्रौद्योगिकी के वैध, नैतिक, मजबूत और जिम्मेदार उपयोग को सुनिश्चित किया जा सकता है। इन सिद्धांतों को इस ढांचे में प्रस्तुत प्रभावों की पूरी श्रृंखला के विरुद्ध परखा जा सकता है।
  • मौजूदा और विकसित हो रहे उपायों (नियामक, विधायी, नीति, मानक, शासन आदि) का जायजा लेने में सुविधा प्रदान करना और उन कमियों की पहचान करना जिन पर आगे विचार करने की आवश्यकता है। जोखिमों को कम करने के लिए कमियों को निर्धारित करने और उपयुक्त उपायों की पहचान करने के लिए इन्हें राष्ट्रीय या बहुराष्ट्रीय स्तर पर रूपरेखा श्रेणियों के विरुद्ध मैप किया जा सकता है।
  • एआई के सरकारी उपयोग का समर्थन करना। चूंकि कई सरकारें एजेंसियों और प्रणालियों के भीतर एआई के उपयोग के लिए अपनी संबंधित रणनीतियों का निर्धारण करती हैं, इसलिए इस ढांचे का उपयोग उचित जोखिम सीमाओं को परिभाषित करने और प्रमुख हितधारकों और जिम्मेदारियों की पहचान करने के लिए किया जा सकता है।
  • सार्वजनिक चर्चा का समर्थन करना तथा इस बात पर सामाजिक स्वतंत्रता स्थापित करना कि एआई का उपयोग किस प्रकार किया जाए तथा आधारभूत डेटा का उपयोग सरकारी सेवाओं या व्यापक रूप से समाज में किस प्रकार किया जाएगा।

आगे का रास्ता
संक्षेप में, विश्लेषणात्मक रूपरेखा एक टूलकिट के आधार के रूप में प्रदान की जाती है जिसका उपयोग हितधारकों द्वारा प्लेटफ़ॉर्म या उपयोग के किसी भी महत्वपूर्ण विकास को सुसंगत और व्यवस्थित तरीके से व्यापक रूप से देखने के लिए किया जा सकता है। इस रूपरेखा में प्रस्तुत आयामों की प्रासंगिकता प्रौद्योगिकी मूल्यांकन से लेकर सार्वजनिक नीति, मानव विकास से लेकर समाजशास्त्र और भविष्य और प्रौद्योगिकी अध्ययनों तक है। एआई के लिए विकसित होने के बावजूद, इस विश्लेषणात्मक रूपरेखा का किसी भी अन्य उभरती हुई तकनीक के लिए बहुत व्यापक अनुप्रयोग है।

6 यूएन एआई सलाहकार बोर्ड। 2023. अंतरिम रिपोर्ट: मानवता के लिए एआई को नियंत्रित करना। https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd

आभार

प्रारंभिक चर्चा पत्र के विकास और इसके प्रकाशन के बाद की प्रतिक्रिया में कई लोगों से परामर्श किया गया और प्रतिक्रिया दी गई। दोनों पत्रों का मसौदा तैयार किया गया Sir Peter Gluckman, अध्यक्ष, आईएससी और हेमा श्रीधर, पूर्व मुख्य विज्ञान सलाहकार, रक्षा मंत्रालय, न्यूजीलैंड और अब वरिष्ठ अनुसंधान Fellow, ऑकलैंड विश्वविद्यालय, न्यूज़ीलैंड।

विशेष रूप से, आईएससी लॉर्ड मार्टिन रीस, रॉयल सोसाइटी के पूर्व अध्यक्ष और कैम्ब्रिज विश्वविद्यालय, अस्तित्वगत जोखिमों के अध्ययन केंद्र के सह-संस्थापक; प्रोफेसर शिवाजी सोंधी, ऑक्सफोर्ड विश्वविद्यालय, भौतिकी के प्रोफेसर; प्रोफेसर के विजय राघवन, भारत सरकार के पूर्व प्रधान वैज्ञानिक सलाहकार; अमनदीप सिंह गिल, संयुक्त राष्ट्र महासचिव के प्रौद्योगिकी पर दूत; सीन ओ हेइगरटेघ, कार्यकारी निदेशक, अस्तित्वगत जोखिमों के अध्ययन केंद्र, कैम्ब्रिज विश्वविद्यालय; सर डेविड स्पीगलहाल्टर, जोखिम की सार्वजनिक समझ के विंटन प्रोफेसर, विश्वविद्यालय
कैम्ब्रिज के; अमांडा-जून ब्रॉनर, वरिष्ठ नीति सलाहकार और इयान विगिंस, अंतर्राष्ट्रीय मामलों के निदेशक, रॉयल सोसाइटी, यूनाइटेड किंगडम; डॉ जेरोम डुबेरी, प्रबंध निदेशक और डॉ मैरी-लॉर सेलेस, निदेशक, जिनेवा ग्रेजुएट इंस्टीट्यूट; चोर फ़ार्न ली, सेंटर फॉर स्ट्रैटेजिक फ्यूचर्स, प्रधान मंत्री कार्यालय, सिंगापुर; बैरेंड मॉन्स और डॉ साइमन हॉडसन, डेटा पर समिति (CoDATA); प्रोफेसर युको हरायम, पूर्व कार्यकारी निदेशक, RIKEN; प्रोफेसर
रेमी क्विरियन, अध्यक्ष, आईएनजीएसए; डॉ. क्लेयर क्रेग, यूनिवर्सिटी ऑफ ऑक्सफोर्ड और पूर्व प्रमुख, सरकारी विज्ञान कार्यालय; प्रोफेसर योशुआ बेंगियो, संयुक्त राष्ट्र महासचिव के वैज्ञानिक सलाहकार बोर्ड और यूनिवर्सिटी डी मॉन्ट्रियल; और कई अन्य जिन्होंने प्रारंभिक चर्चा पत्र पर आईएससी को फीडबैक प्रदान किया।


आगे पढ़ने के लिए

एआई के लिए राष्ट्रीय अनुसंधान पारिस्थितिकी तंत्र तैयार करना: 2024 में रणनीतियाँ और प्रगति

आईएससी के थिंक टैंक, सेंटर फॉर साइंस फ्यूचर्स का यह कार्यपत्र, दुनिया के सभी भागों के देशों को उनके शोध पारिस्थितिकी तंत्र में एआई को एकीकृत करने के विभिन्न चरणों में मौलिक जानकारी और संसाधनों तक पहुंच प्रदान करता है।


तीन शोधकर्ता चर्चा कर रहे हैं

वैश्विक दक्षिण में भविष्य के लिए तैयार विज्ञान प्रणालियों का निर्माण

उभरती हुई प्रौद्योगिकियाँ विज्ञान के संचालन के तरीके को नया आकार दे रही हैं और वैश्विक दक्षिण में विज्ञान प्रणालियों को मजबूत करने की महत्वपूर्ण क्षमता प्रदान करती हैं - यदि उनका अपनाना समावेशी, अच्छी तरह से समर्थित और संदर्भ-संवेदनशील दृष्टिकोणों द्वारा निर्देशित है। यह सुनिश्चित करना कि ये प्रौद्योगिकियाँ मौजूदा असमानताओं को मजबूत करने के बजाय अधिक न्यायसंगत और लचीली विज्ञान प्रणालियों में योगदान दें, इस हालिया रणनीतिक वापसी का मुख्य फोकस था।