होम 
भारत 
ट्रेंडिंग 
नौकरियां 
विश्व 
खेल 
जॉब 
न्यूज़ 
पॉलिटिक्स 
बिजनेस 
ऑटोमोबाइल 
गैजेट 
धर्म/ज्योतिष 
मनोरंजन 
शिक्षा 
स्वास्थ्य 
लाइफस्टाइल 
योजना 
फोटो गैलरी 
Others एआई मॉडल में बिना निर्देश भ्रामक व्यवहार का अनूठा मामला:खुद बनाई फर्जी पहचान, साइबर हमले की कोशिश की; पकड़े जाने पर सबूत मिटाए
Dainik Bhaskarएआई अब सिर्फ सवालों के जवाब देने या कंटेंट बनाने तक सीमित नहीं है। ब्रिटेन के एआई सिक्योरिटी इंस्टीट्यूट (एआईएसआई) की एक टेस्टिंग में दो एडवांस एआई मॉडल ऐसे व्यवहार करते मिले, जिसने विशेषज्ञों की चिंता बढ़ा दी। टेस्ट के दौरान एंथ्रोपिक के माइथोस एआई ने इंसानों जैसी फर्जी ऑनलाइन पहचान बनाई। फिर निजी संदेश भेजे और लोगों को भरोसे में लेकर ‘गिटहब’ सिस्टम में नुकसान पहुंचाने वाला कोड डालने की कोशिश की। जब इसकी गतिविधियों पर सवाल उठे तो इसने अपने पुराने रिकॉर्ड को सामान्य दिखाने के लिए उसमें बदलाव किए और नई पहचान अपनाने पर भी विचार किया। यह पहली बार है जब किसी एआई मॉडल में बिना किसी निर्देश के इतने स्पष्ट ऑटोनोमस और भ्रामक व्यवहार देखने को मिला। हालांकि पूरी प्रक्रिया के दौरान मानव निगरानी मौजूद थी, इसलिए एआई अपने मकसद में सफल नहीं हो सका। इस मामले में एआई मॉडल को सिर्फ एक साइबर सिक्योरिटी चुनौती हल करने का काम दिया गया था। इसके लिए उसे इंटरनेट तक पहुंच दी गई थी, ताकि यह समझा जा सके कि वास्तविक परिस्थितियों में एआई क्या कर सकता है। लेकिन एआई ने तय दायरे से आगे बढ़कर खुद लोगों की पहचान खोजी, उनके नाम से फर्जी अकाउंट बनाए और उन्हें फाइल शेयरिंग सर्विस के जरिए संदेश भेजकर सिस्टम तक पहुंच हासिल करने की कोशिश की। एआईएसआई का कहना है कि इससे पता चलता है कि ज्यादा सक्षम होते एआई मॉडल भविष्य में उम्मीद से अलग व्यवहार भी कर सकते हैं। ब्रिटेन के एआई मंत्री कनिष्क नारायण ने कहा कि ऐसे जोखिमों की पहचान करना और उन्हें सार्वजनिक करना जरूरी है, ताकि इसे और सुरक्षित बनाया जा सके। एंथ्रोपिक और ओपनएआई, दोनों ने कहा कि यह परीक्षण सामान्य इस्तेमाल जैसे हालात में नहीं किया गया था। टेस्ट के दौरान उनके मॉडल की सामान्य सुरक्षा व्यवस्थाओं को कम या हटाया गया था। एंथ्रोपिक ने मामले की जांच शुरू कर दी है, जबकि ओपनएआई ने कहा कि वह भविष्य में ऐसे परीक्षणों को और सुरक्षित बनाने के लिए मूल्यांकन एजेंसियों के साथ काम जारी रखेगी। टेस्ट में एआई को नहीं मिला था धोखा देने का कोई निर्देश एआई सिक्योरिटी इंस्टीट्यूट ने कहा कि माइथोस एआई को न तो लोगों को धोखा देने और न ही उससे बचने का कोई विशेष निर्देश दिया गया था। इसके बावजूद उसने खुद फर्जी पहचान बनाई और लोगों को गुमराह करने की कोशिश की। संस्था के मुताबिक, पहली बार बिना किसी खास प्रॉम्प्ट के एआई में इस स्तर का स्वायत्त और भ्रामक व्यवहार देखने को मिला। हालांकि, ऐसी घटनाएं बहुत सीमित परिस्थितियों में हुईं।
क्या प्रेम सत्य है? ओशो के विचार: प्रेम, अहंकार और आत्मज्ञान का गहरा संबंध
Samacharnamaक्या प्रेम सत्य है? ओशो के विचार: प्रेम, अहंकार और आत्मज्ञान का गहरा संबंध
.jpg)
