OpenAI के मुख्य वैज्ञानिक Jakub Pachocki ने दी चेतावनी, AI के तेज विकास के लिए दुनिया तैयार नहीं

नयी दिल्ली, सात सितंबर लोकप्रिय एआई टूल चैटजीपीटी बनाने वाली कंपनी ओपनएआई के मुख्य वैज्ञानिक याकूब पाचोकी ने कृत्रिम मेधा (एआई) के तेजी से बढ़ते विकास को लेकर चेतावनी देते हुए कहा है कि मशीनी बुद्धिमत्ता में तेज वृद्धि के परिणामों के लिए कोई भी तैयार नहीं है। पाचोकी ने ‘एन एलियन माइंड’ शीर्षक से लिखे पोस्ट में कहा, ‘‘एआई के विकास की मौजूदा रफ्तार जारी रही तो अगले कुछ साल में इसकी क्षमताओं में बड़ी छलांग देखने को मिल सकती है और यह अपने विकास को भी तेजी से आगे बढ़ा सकता है। यह ‘अत्यधिक सावधानी’ बरतने वाला समय है।’’ उन्होंने कहा कि जब तक एआई की सुरक्षा के लिए साझा मानक तय नहीं होते, तब तक इसके विकास की गति को स्वैच्छिक रूप से धीमा करना आम बात बननी चाहिए।

साथ ही, एआई के भविष्य के विकास पर अंतरराष्ट्रीय समन्वय को दुनिया भर की सरकारों की शीर्ष प्राथमिकताओं में शामिल किया जाना चाहिए। उनकी टिप्पणी ऐसे समय आई है जब एआई एजेंट (स्वतंत्र रूप से कई चरणों वाले कार्यों की योजना बनाकर उन्हें पूरा कर सकने वाली प्रणालियां) एआई विकास की नई सीमा बनकर उभर रहे हैं। इनकी बढ़ती स्वायत्तता के बीच ऐसे मामले सामने आए हैं जिनमें एजेंट ने अपने निर्धारित कार्यों को पूरा करते हुए अनपेक्षित कदम भी उठाए।

रिपोर्टों के मुताबिक, इस साल की शुरुआत में ओपनएआई के एआई एजेंट के एक समूह ने परीक्षण के दौरान जर्मनी की एक समुदाय-संचालित प्रोग्रामिंग वेबसाइट के कुछ पेज पर कथित रूप से नियंत्रण हासिल कर लिया और उनका इस्तेमाल संचार मंच के रूप में किया। जुलाई में ओपनएआई ने ऐसी एक अन्य घटना की जानकारी दी थी, जिसमें उसके एजेंट परीक्षण के लिए तैयार नियंत्रित माहौल से बाहर निकलकर एआई मंच हगिंग फेस द्वारा संचालित प्रणालियों तक पहुंच गए थे। पाचोकी ने इस पोस्ट में कहा कि तर्क करने में सक्षम भाषाई मॉडल अब विज्ञान की सीमाओं को आगे बढ़ाने, कंप्यूटर और ग्राफिकल इंटरफेस संचालित करने, लोगों तथा एक-दूसरे के साथ सहयोग करने और शोध परियोजनाएं चलाने लगे हैं।

हालांकि, ये कंप्यूटर सुरक्षा के परिदृश्य को भी बदल रहे हैं और नए स्पष्ट जोखिम पैदा कर रहे हैं। उन्होंने कहा, ‘‘मशीनी बुद्धिमत्ता इंसानी बुद्धिमत्ता से मौलिक रूप से अलग प्रक्रिया से विकसित होती है। इसलिए यह मान लेना उचित नहीं है कि एआई अपने आप मानवीय सिद्धांतों का पालन करेगा।’’ उन्होंने कहा कि एआई अनुसंधान की मूल समस्या यह सुनिश्चित करना है कि एआई मानवीय मानकों के अनुरूप सही काम करने की कोशिश करे।

पाचोकी ने कहा कि ओपनएआई एआई को मानवीय मूल्यों के अनुरूप बनाने, उसकी निगरानी के लिए तकनीकी समाधान तलाशने और सुरक्षा प्रणालियां तैयार करने पर काम करती रहेगी। हालांकि, उन्होंने कहा कि व्यापक स्तर पर हस्तक्षेप भी जरूरी हैं। उन्होंने मानवीय नियंत्रण बनाए रखने और ऐसी स्थिति से बचने की जरूरत बताई जिसमें एआई के कारण शक्ति कुछ लोगों के हाथों में अत्यधिक केंद्रित हो जाए।

ओपनएआई के मुख्य वैज्ञानिक ने कहा, “मैं उम्मीद करता हूं और चाहता हूं कि साझा सुरक्षा मानक तय होने तक एआई विकास की गति को स्वैच्छिक रूप से धीमा करना एक आम बात हो जाए।” उन्होंने कहा कि एआई के भविष्य के विकास पर अंतरराष्ट्रीय समन्वय को सरकारों की शीर्ष प्राथमिकता बनना चाहिए।

Continue reading on the app

Bigg Boss 20 Episode 1 Live: बच्ची बोलने पर भड़की अर्शिफा खान, बोली- खा जाऊंगी तुम लोगों को...

Bigg Boss 20 Episode 1: बिग बॉस 20 का प्रीमियर हो चुका है औऱ 16 कंटेस्टेंट्स अब अपने जबरदस्त गेम प्लान से दर्शकों को एंटरटेन करेंगे. इसी बीच फर्स्ट एपिसोड में क्या कुछ खास रहा. आइये जानते हैं पल-पल के अपडेट्स.

The post Bigg Boss 20 Episode 1 Live: बच्ची बोलने पर भड़की अर्शिफा खान, बोली- खा जाऊंगी तुम लोगों को... appeared first on Prabhat Khabar.

Continue reading on the app