OpenAI: ओपनएआई को सता रही सुरक्षा चिंता, रोकी अपने नए मॉडल की लॉन्चिंग

OpenAI: अमेरिकी एआई कंपनी ओपनएआई ने अपने नए एआई मॉडल के लॉन्च को रोक दिया है. आंतरिक परीक्षणों में मॉडल के व्यवहार को लेकर सुरक्षा और ‘अलाइनमेंट’ से जुड़ी चिंताएं सामने आने के बाद यह फैसला लिया गया.

जटिल काम करने के लिए तैयार किया गया था नया मॉडल

रिपोर्ट के मुताबिक, एस्ट्रा जीपीटी-6.1 एस्ट्रा को चैटजीपीटी और कोडेक्स में शामिल किया जाना था और इसे ऐसे जटिल काम करने के लिए तैयार किया जा रहा था, जिनमें इंसानी हस्तक्षेप अपेक्षाकृत कम हो. लेकिन परीक्षणों के दौरान मॉडल ने कुछ मामलों में अपने पिछले संस्करण की तुलना में ज्यादा भ्रामक व्यवहार दिखाया.

ओपन एआई की सुरक्षा प्रमुख साची जैन ने वॉल स्ट्रीट जरनल को बताया कि एस्ट्रा ने कुछ अलाइनमेंट परीक्षणों में कंपनी के तय मानकों को पूरा नहीं किया. खास तौर पर मॉडल के अपने काम के बारे में सही जानकारी देने और यूजर की अनुमति की सीमा में रहने को लेकर समस्याएं सामने आईं. 

बिना यूजर की अनुमति के काम को आगे बढ़ा सकता है नया मॉडल

रॉयटर्स के अनुसार, परीक्षणों में यह भी पाया गया कि एस्ट्रा कभी-कभी यूजर की अनुमति लिए बिना किसी काम को आगे बढ़ाता था. कुछ स्थितियों में उसने बाहरी टूल या सेवाओं का इस्तेमाल करने की कोशिश की, जबकि ऐसा करना असुरक्षित हो सकता था. यह चिंता इसलिए महत्वपूर्ण है क्योंकि एजेंटिक एआई मॉडल केवल सवालों के जवाब देने के बजाय कंप्यूटर, सॉफ्टवेयर और बाहरी सेवाओं के साथ कार्रवाई भी कर सकते हैं. 

साइबर सुरक्षा क्षमताएं सबसे बड़ी चिंता

यह घटनाक्रम अगस्त में सामने आई उन चिंताओं के बाद आया है, जब ओपनएआई ने एस्ट्री की साइबर सुरक्षा क्षमताओं को लेकर अलग से सुरक्षा उपाय कड़े किए थे. कंपनी ने कहा था कि शुरुआती परीक्षणों में एस्ट्रा में साइबर सुरक्षा से जुड़ी क्षमताओं में महत्वपूर्ण बढ़ोतरी देखी गई और कुछ क्षमताएं उसके निर्धारित ‘क्रिटिकल’ स्तर तक पहुंच सकती हैं. इसके बाद कंपनी ने अतिरिक्त निगरानी, अलग परीक्षण वातावरण, सीमित नेटवर्क और टूल एक्सेस तथा मजबूत सुरक्षा नियंत्रण लागू करने की बात कही थी.

एआई के विकास को लेकर चिंता जता चुके हैं ऑल्टमैन

ओपनएआई के सीईओ सैम ऑल्टमैन और एंथ्रोपिक के सीईओ डारियो अमोडेई समेत उद्योग के कुछ प्रमुख लोगों ने हाल में एआई विकास की गति और सुरक्षा उपायों के बीच संतुलन पर चिंता जताई है. 

ओपनएआई के लिए यह फैसला इसलिए भी महत्वपूर्ण है क्योंकि कंपनी का डेवलपर सम्मेलन सैन फ्रांसिस्को में होने वाला है, जहां वह आम तौर पर नए एआई उत्पाद और डेवलपर टूल पेश करती है. फिलहाल एस्ट्रा को सार्वजनिक रूप से जारी करने के बजाय कंपनी ने आंतरिक परीक्षणों में सामने आई समस्याओं को दूर करने को प्राथमिकता दी है.

स्रोत- आईएएनएस

Continue reading on the app

अश्लील कंटेंट पर राजस्थान पुलिस की पैनी नजर, 8 हजार लिंक-ग्रुप्स और 15 हजार मोबाइल नंबरों पर हो चुकी है कार्रवाई

Jaipur News: राजस्थान पुलिस द्वारा कहा गया हैं कि इंटरनेट पर गुमनाम पहचान के पीछे छिपकर बाल यौन शोषण सामग्री देखना, डाउनलोड करना, रखना या शेयर करना सुरक्षित नहीं है. क्योंकि साइबर पुलिस लगातार डिजिटल ट्रेल के जरिए हर गतिविधि ट्रैक कर रही है और संबंधित व्यक्तियों की पहचान की जा रही है.

Continue reading on the app