पेरिस में हाल ही में संपन्न आर्टिफिशियल इंटेलिजेंस (एआई) शिखर सम्मेलन ने सुरक्षित और भरोसेमंद एआई सिस्टम बनाने की आवश्यकता को दोहराया। भरोसेमंद एआई का विषय वास्तव में वित्तीय क्षेत्र सहित क्षेत्रों में सबसे अधिक दबाव वाली नीतिगत चिंता है।
हाल ही में, रिजर्व बैंक ऑफ इंडिया (आरबीआई) ने विशेषज्ञों के एक समूह को यह सुनिश्चित करने के लिए जिम्मेदार एआई को अपनाने के लिए नियुक्त किया कि यह सुनिश्चित करने के उद्देश्य से कि वित्तीय क्षेत्र को चलाने वाले एआई सिस्टम सुरक्षित और भरोसेमंद हैं। समिति को कृत्रिम बुद्धिमत्ता (मुक्त एआई समिति) के जिम्मेदार और नैतिक सक्षमता के लिए एक रूपरेखा विकसित करने का काम सौंपा गया है।
आरबीआई को परिचारक जोखिमों को संबोधित करते हुए स्वचालन, दक्षता और लागत-बचत जैसे एआई परिनियोजन से प्राप्त होने वाले लाभ को आगे बढ़ाने के लिए प्रेरित किया जाता है। यह टुकड़ा तीन नीतिगत विचारों पर चर्चा करता है जो वित्तीय क्षेत्र में एक आत्मविश्वास और भरोसेमंद एआई पारिस्थितिकी तंत्र को आकार देने में मदद कर सकता है।
Ai ‘एक पूरे के रूप में’
सबसे पहले, एक नियामक और पर्यवेक्षी दृष्टिकोण को तैयार करते समय ‘एआई को एक पूरे के रूप में’ देखने में योग्यता है।
विनियमन के लिए एक ‘संपूर्ण एआई’ दृष्टिकोण का मतलब होगा कि आरबीआई में सभी अभिनेताओं का पूरा दृश्य है – कई अनियमित – और एआई सिस्टम के जीवनचक्र में उनकी भूमिकाएं। बैंक और NBFCs अनियमित अभिनेताओं जैसे कि डेटा विक्रेताओं के साथ बाहरी डेटा और तृतीय-पक्ष मॉडल डेवलपर्स के लिए मालिकाना एल्गोरिदम के निर्माण के लिए या AI मॉडल को अनुकूलित करने के लिए बातचीत करते हैं। अनियमित अभिनेता तकनीकी विशेषज्ञता प्रदान करते हैं जो एक वित्तीय कार्य के रूप में अर्हता प्राप्त नहीं करता है, फिर भी कोर वित्तीय-निर्णय लेने के लिए गंभीर निहितार्थ हैं।
उदाहरण के लिए, एक क्रेडिट स्कोरिंग एल्गोरिथ्म लगातार समान क्रेडिट जोखिम वाले व्यक्तियों का इलाज कर सकता है। इस जोखिम और अपवित्र दायित्व का प्रबंधन करने के लिए, मॉडल के परिणाम में त्रुटि के लिए जिम्मेदार अभिनेता की पहचान करना अनिवार्य है।
उदाहरण के लिए, यह या तो ऐसा हो सकता है कि फाउंडेशनल मॉडल में इनबिल्ट बायस था या यह कि मॉडल ने पूर्वाग्रह को उठाया था जब इसे वापस ले लिया जा रहा था। पूर्व मामले में, मॉडल को डिजाइन करने वाले तृतीय-पक्ष विक्रेता को उत्तरार्द्ध में उत्तरदायी होगा, वित्तीय संस्थान जो तैनात और इसे वापस ले लिया, वह जिम्मेदार होगा।
एआई मूल्य श्रृंखला के घटकों को समझना नियामकों को आनुपातिक और प्रभावी माइटिगेंट्स को विकसित करने में मदद कर सकता है।
ऊपर दिए गए उदाहरण में, नियामक सुरक्षा उपायों वाले मॉडल अनुबंधों को साझा कर सकते हैं, जिन्हें विनियमित संस्थाओं को अपने अनुबंधों में तीसरे पक्ष के साथ जोर देना चाहिए। ये मॉडल अनुबंध तृतीय-पक्ष को भी लाभान्वित करते हैं जो स्पष्ट रूप से अपनी भूमिकाओं और जिम्मेदारियों को समझते हैं, अंततः उद्योग में नवाचार को बढ़ावा देते हैं।
इसके अलावा, इस तरह की स्पष्टता, संविदात्मक सुरक्षा उपायों से प्रभावित, ग्राहक के नुकसान और कानूनी उल्लंघनों की घटना की संभावना को भी कम कर देती है।
दूसरा, एआई विक्रेताओं जैसे गैर-वित्तीय संस्थाओं पर वित्तीय संस्थानों की बढ़ती निर्भरता से उत्पन्न होने वाली चिंताओं को संबोधित करना अनिवार्य है।
डिजिटल वित्तीय सेवाओं के उदय ने गैर-वित्तीय संस्थाओं के प्रबंधन का सवाल उठाया है। आरबीआई के डिजिटल उधार दिशानिर्देशों ने इस चिंता को काफी हद तक पूरा कर लिया है। ऐसा प्रतीत होता है कि उधार सेवा प्रदाताओं (एलएसपी) की वर्तमान परिभाषा तृतीय-पक्ष एआई प्रदाताओं को समायोजित कर सकती है। इसके अलावा, एलएसपी के लिए चिंतन किए गए उपकरण भी इन प्रदाताओं के लिए उत्तरदायी हैं।
उदाहरण के लिए, एआई विक्रेताओं की एक सार्वजनिक रजिस्ट्री की आवश्यकता एकाग्रता जोखिमों के खिलाफ रख सकती है जो कि बहुत से वित्तीय संस्थानों से उत्पन्न होती है जो उनके अंतर्निहित मॉडल के लिए एक ही विक्रेता पर भरोसा करते हैं।
इसके बाद, एआई विक्रेताओं की एक ब्लैकलिस्ट को बनाए रखना जो उद्योग से प्रतिक्रिया के आधार पर नियमित रूप से अपडेट किया जाता है, एक मान्यता उपकरण के रूप में काम कर सकता है। हम समझते हैं कि बड़े वित्तीय संस्थानों को भी विश्वसनीय एआई विक्रेताओं की पहचान करने में चुनौतियों का सामना करना पड़ता है।
अंत में, एआई विक्रेताओं को भी ऋण देने वाले एसआरओ में शामिल होने के लिए प्रोत्साहित किया जा सकता है। यह कदम एआई विक्रेताओं की विश्वसनीयता और गुणवत्ता के बारे में चिंताओं को कम करने में मदद करेगा। इसके अलावा, SRO नियामक और विक्रेताओं के बीच में जा सकता है, जो प्रतिनिधि विनियमन को प्रोत्साहित करता है।
अंत में, डिजिटल लेंडिंग वैल्यू चेन में सभी अभिनेताओं के लिए ‘जिम्मेदार और भरोसेमंद एआई’ का संचालन करने का एक उपयुक्त समय है।
जबकि “जिम्मेदार और भरोसेमंद एआई” की अवधारणा के लिए महत्वपूर्ण काम किया गया है, अधिकांश प्रवचन भारत में डिजिटल उधारदाताओं के अनूठे संदर्भ में इसका मतलब यह बताए बिना व्यापक, सेक्टर-अज्ञेय, नियामक सिद्धांतों की ओर झुक गए हैं।
आरबीआई नियमित रूप से डिजिटल उधारदाताओं को निष्पक्षता पर विचार करने, पूर्वाग्रहों को रोकने, गोपनीयता की सुरक्षा और एल्गोरिथ्म-आधारित निर्णय लेने में डेटा मजबूती सुनिश्चित करने के लिए याद दिलाता है।
मार्गदर्शन की जरूरत है
फिर भी, एक वैक्यूम रहता है जब यह उन कार्यों पर मार्गदर्शन की बात आती है जो उधारदाताओं को उस दिशा में स्थानांतरित करने में मदद कर सकते हैं।
डिजिटल लेंडिंग में एआई विनियमन के लिए एक शुरुआती बिंदु के रूप में फ्री-एआई समिति के काम के साथ, जिम्मेदार एआई के परिचालन पर सिद्धांत-स्तरीय मार्गदर्शन की स्थापना एक आगामी और अभी तक परिपक्व उद्योग में स्पष्टता और आत्मविश्वास को प्रेरित करेगा। यह लेंडर्स और एआई विक्रेताओं को एआई को डिजाइन, विकास और तैनाती करते समय ध्यान देने के लिए ध्यान देने वाले विचार पर अधिक स्पष्टता प्रदान करेगा।
एक कदम आगे जाने पर, ये संस्थाएं अपनी वर्तमान प्रथाओं का जायजा लेना चाहती हैं और यह आकलन करेगी कि वे व्यापक रूप से स्वीकृत जिम्मेदार एआई मानकों से कितनी दूर हैं। अपनी एआई यात्रा शुरू करने वालों के लिए, कई लोग अपने संचालन में जिम्मेदार एआई को एकीकृत करने में मार्गदर्शन करने के लिए सर्वोत्तम प्रथाओं के लिए बाड़ पर इंतजार कर रहे होंगे। इस प्रकार, सिद्धांत-स्तरीय मार्गदर्शन को मूल्यांकन उपकरण और प्रथाओं में अनुवाद करना जो उद्योग अपने एआई-आधारित समाधानों का मूल्यांकन करने के लिए अपना सकता है, समिति से समय पर योगदान होगा।
वित्त में जिम्मेदार एआई की यात्रा केवल शुरू हुई है। उद्योग को चेकलिस्ट जैसे उपकरणों का उपयोग करने में आसान से लैस करना जो पहले उन्हें अपनी परिपक्वता का जायजा लेने की अनुमति देते हैं। इसके अलावा, अपने एआई सिस्टम को मजबूत करने के लिए परिचालन मार्गदर्शन के साथ इसे पूरक करना उद्योग और ग्राहकों को समान रूप से बहुत आवश्यक स्पष्टता और विश्वास प्रदान करेगा।
चुग डिजिटल वित्तीय समावेशन और डिजिटल सामाजिक सुरक्षा के विषयों पर काम करने वाले DVARA अनुसंधान के साथ एक स्वतंत्र सलाहकार है। खन्ना डवारा रिसर्च के साथ एक शोध सहयोगी है। यह लेख DVARA रिसर्च और PWC के संयुक्त कार्य से लाभान्वित हुआ