'रोग एआई' एजेंट्स ने जर्मन वेबसाइट पर किया कब्जा, ओपनएआई ने कहा- फ्रेमवर्क पर कर रहे काम

नई दिल्ली, 6 सितंबर (आईएएनएस)। रिसर्चर्स ने पाया कि ओपनएआई के कुछ रोग एआई एजेंट्स ने एक जर्मन वेबसाइट पर नियंत्रण कर लिया था और उसे दूसरे एआई एजेंट्स के लिए एक मैसेज बोर्ड में बदल दिया था। इस मामले के सामने आने के बाद अमेरिका की एआई कंपनी ओपनएआई ने कहा है कि वह ऐसी चिंताओं को दूर करने के लिए एक फ्रेमवर्क पर काम कर रही है और आने वाले हफ्तों में इसे शेयर करेगी।

कंपनी ने यह भी कहा कि वह इन मुद्दों पर दुनिया भर की दर्जनों सरकारी रेगुलेटरी एजेंसियों के साथ काम कर रही है, जिसमें हालिया विकी इंसिडेंट भी शामिल है।

बता दें कि रिसर्च में पाया गया था कि इस साल वसंत में रोग ओपनएआई एजेंट्स के एक समूह ने एक जर्मन वेबसाइट पर कब्जा कर लिया था।

ओपनएआई ने एक्स पोस्ट में लिखा, हम विकी इंसिडेंट के बारे में कैसे सोचते हैं, जहां हमारे एजेंट्स ने कई इंटरनेट साइटों पर लिखा था। अब समय आ गया है कि हम यह तय करें कि हम कब और कैसे मिसअलाइनमेंट की घटनाओं को शेयर करेंगे, न कि सिर्फ हमारे मॉडल के मिसअलाइनमेंट प्रॉपर्टीज को।

कंपनी ने कहा कि ऐतिहासिक रूप से हमने मिसअलाइनमेंट को मुख्य रूप से एक रिसर्च सवाल के रूप में देखा है, जिसे सिस्टम कार्ड जैसे रिसर्च पब्लिकेशन में बताया जाता है। इस साल, हमने देखा है कि मिसअलाइनमेंट के कारण नए प्रकार के वास्तविक दुनिया पर प्रभाव पड़ रहे हैं।

हगिंग फेस घटना पर, जहां मिसअलाइनमेंट के कारण कंपनी और थर्ड पार्टी को सुरक्षा के लिहाज से नुकसान हुआ, ओपनएआई ने कहा कि उसने पारंपरिक सुरक्षा घटना प्रतिक्रिया प्लेबुक का पालन किया।

कंपनी ने बताया, हमने तुरंत हगिंग फेस के साथ मिलकर यह समझने के लिए काम करना शुरू किया कि क्या हुआ था और अगले ही दिन सार्वजनिक रूप से इसका खुलासा भी किया। हमारी जांच जारी है, और हम उन पक्षों को सूचित करना जारी रखे हुए हैं, जिन पर हमारे मॉडल ने कम महत्वपूर्ण तरीकों से प्रभाव डाला।

हगिंग फेस घटना से पहले, कंपनी ने एजेंट्स द्वारा इंटरनेट का अनपेक्षित तरीकों से उपयोग करने के शुरुआती संकेत देखे थे।

ओपन एआई ने कहा, हमने विकी इंसिडेंट को मिसअलाइनमेंट का एक उदाहरण माना, जैसा कि हमने पहले शेयर किया था। मॉडल क्षमताओं के इस नए चरण के लिए हमारे मिसअलाइनमेंट डिस्क्लोजर प्रैक्टिस को विस्तार देने की जरूरत है।

कंपनी ने कहा, हमारे और बड़े एआई समुदाय के पास अभी तक यह स्पष्ट मानक नहीं है कि ट्रेनिंग, मूल्यांकन और तैनाती के दौरान दिखने वाले मिसअलाइनमेंट की रिपोर्ट कैसे की जाए, जिसमें ऐसे उदाहरण भी शामिल हैं जो पारंपरिक सुरक्षा घटनाओं की तरह नहीं दिखते, लेकिन एआई व्यवहार और भविष्य के जोखिमों के बारे में जानकारी दे सकते हैं।

--आईएएनएस

वीकेयू/एएस

डिस्क्लेमरः यह आईएएनएस न्यूज फीड से सीधे पब्लिश हुई खबर है. इसके साथ न्यूज नेशन टीम ने किसी तरह की कोई एडिटिंग नहीं की है. ऐसे में संबंधित खबर को लेकर कोई भी जिम्मेदारी न्यूज एजेंसी की ही होगी.

Continue reading on the app

टाइफून सौडेल के बाद चीन में बड़ा भूस्खलन, 2 की मौत और कई लापता; रेस्क्यू ऑपरेशन जारी

Chaina: पूर्वी चीन के जियांग्शी प्रांत के जियान शहर में शनिवार को भूस्खलन की घटना में दो लोगों की मौत हो गई. घटना के बाद से करीब दस अन्य लोग लापता हैं. घटनास्थल पर मौजूद पत्रकारों के अनुसार, रविवार सुबह दमकलकर्मियों ने गाओपिंग कस्बे के मिंगकेंग गांव में एक ढहे हुए घर से पहले लापता बताए गए लोगों में से एक का शव बरामद किया.

स‍िन्हुआ समाचार एजेंसी की रिपोर्ट के अनुसार, यह आपदा टाइफून सौडेल की वजह से कई दिनों तक हुई भारी बारिश के बाद आई. दो अन्य लोगों को सुरक्षित बचा लिया गया है और उनकी हालत स्थिर बताई जा रही है. राहत और बचाव कार्य पूरे जोर-शोर से जारी हैं. साथ ही, प्रभावित लोगों को सुरक्षित जगहों पर पहुंचाने और दूसरी संभावित आपदाओं को रोकने के प्रयास भी चल रहे हैं. काउंटी के बाढ़ नियंत्रण और सूखा राहत मुख्यालय के मुताबिक, रात 10 बजे तक 640 से ज्यादा बचावकर्मी घटनास्थल पर पहुंच चुके थे. गांव तक जाने वाली सड़क क्षतिग्रस्त हो जाने के कारण दमकल विभाग की पहली टीम जीवन खोजने वाले उपकरणों, ड्रोन और खोजी कुत्तों के साथ पहाड़ों के रास्ते होकर सुबह 11 बजे वहां पहुंची. अब तक 39 ग्रामीणों को सुरक्षित स्थानों पर पहुंचाया जा चुका है. वहीं, आसपास के इलाकों में संभावित खतरे को देखते हुए 5,300 से ज्यादा लोगों को दूसरी जगहों पर भेजा गया है. गांव तक जाने वाली सड़क और बिजली लाइनों की मरम्मत का काम अभी भी जारी है। दूरसंचार सेवाएं बहाल कर दी गई हैं.

ये भी पढ़ें: ईरान में भीषण हादसा! सड़क पर पलटा ईंधन टैंकर, धमाके में 11 लोगों की मौत

इस आपदा के बाद जियांग्शी प्रांत की आपदा रोकथाम, जोखिम कम करने और राहत समिति ने शनिवार दोपहर लेवल-III प्रांतीय आपातकालीन प्रतिक्रिया लागू कर दी. टाइफून सौडेल से प्रांत में करीब 1,61,500 लोग प्रभावित हुए हैं. चीन के प्राकृतिक संसाधन मंत्रालय ने शनिवार सुबह 11 बजे जियांग्शी के लिए भूवैज्ञानिक आपदा प्रतिक्रिया स्तर को लेवल-IV से बढ़ाकर लेवल-III कर दिया और बचाव कार्यों में मदद के लिए एक टीम भी मौके पर भेजी. चीन के राष्ट्रीय आपदा न्यूनीकरण आयोग और आपातकालीन प्रबंधन मंत्रालय ने भी प्राकृतिक आपदा राहत के लिए लेवल-IV राष्ट्रीय आपातकालीन प्रतिक्रिया शुरू कर दी. इसके साथ ही बचाव कार्यों में सहायता के लिए एक कार्यदल और विशेष सर्वेक्षण टीम भेजी गई, जो ढलान निगरानी रडार समेत कई उपकरणों से लैस है.

चीन के राष्ट्रीय विकास और सुधार आयोग (एनडीआरसी) ने शनिवार को जियांग्शी में आपातकालीन राहत और बचाव कार्यों के लिए केंद्रीय प्राकृतिक आपदा राहत कोष से 20 मिलियन युआन (करीब 29.5 लाख अमेरिकी डॉलर) जारी किए. इस राशि का उपयोग क्षतिग्रस्त बुनियादी ढांचे के पुनर्निर्माण में किया जाएगा. इसमें सड़कें, जल संरक्षण सुविधाएं, स्कूल, अस्पताल और अन्य सार्वजनिक सेवाओं से जुड़ी इमारतें शामिल हैं. इसका उद्देश्य प्रभावित क्षेत्रों में सामान्य जनजीवन और कामकाज को जल्द से जल्द बहाल करना है.  

Input: Ians

ये भी पढ़ें: उदयपुर: 'रन फॉर जीरो हंगर' के संदेश के साथ हुआ मैराथन का आयोजन

Continue reading on the app