होम 
भारत 
ट्रेंडिंग 
नौकरियां 
विश्व 
खेल 
जॉब 
न्यूज़ 
पॉलिटिक्स 
बिजनेस 
ऑटोमोबाइल 
गैजेट 
धर्म/ज्योतिष 
मनोरंजन 
शिक्षा 
स्वास्थ्य 
लाइफस्टाइल 
योजना 
फोटो गैलरी 
Others AI मॉडल्स कंट्रोल से बाहर, 100 संस्थानों में सेंधमारी:गलती पकड़ने के लिए AI से ही 50 पेटाबाइट डेटा जांचना होगा, इंसान को लगेंगे 6.6 करोड़ साल
Dainik Bhaskarचैटजीपीटी बनाने वाली कंपनी ओपनएआई के मॉडल ने 100 से ज्यादा संस्थानों के सिस्टम में जबरन घुसपैठ की कोशिश की है। कंपनी ने खुद इसका खुलासा किया है। 50 पेटाबाइट डेटा जांच रही कंपनी, इंसान को लगेंगे 6.6 करोड़ साल कंपनी अब अपने AI मॉडल्स के ट्रेनिंग और टेस्टिंग से जुड़े 50 पेटाबाइट डेटा की जांच कर रही है, ताकि अब तक मिले मामलों के अलावा भी कोई गड़बड़ी हुई हो, तो उसे पकड़ा जा सके। इस जांच के लिए 7 हजार अत्याधुनिक GB200 और GB300 GPUs लगाए गए हैं। इसमें रोज करीब 5 करोड़ रुपए खर्च हो रहे हैं। ये डेटा कितना ज्यादा है इसे उदाहरण से समझें। अगर यह पूरा डेटा सामान्य अंग्रेजी शब्दों में लिखा हो, तो एक इंसान 240 शब्द प्रति मिनट की तेज रफ्तार से बिना रुके भी पढ़े, तो इसे खत्म करने में करीब 6.6 करोड़ साल लग जाएंगे। इंसानों के बस से बाहर होने के कारण इस काम को भी AI मॉडल्स से कराया जा रहा है। जांच को ज्यादा सटीक बनाने के लिए ज्यादा कंप्यूटिंग पावर लगाई जा रही है। ओपनएआई ने संस्थानों को अलर्ट किया कंपनी ने अपने AI एजेंट की चपेट में आए 100 से ज्यादा संस्थानों को अलर्ट जारी कर दिया है। हालांकि, कंपनी का दावा है कि इन संस्थानों का डेटा चोरी नहीं हुआ है। ओपनएआई ने बचाव में दलील दी कि AI एजेंट्स ने सिस्टम का ताला नहीं तोड़ा, बल्कि सिर्फ बंद दरवाजे को जबरन खटखटाकर और उसका हैंडल घुमाकर अंदर घुसने की कोशिश भर की थी। वेबसाइट्स को गलत कमांड दिए जांच में सामने आया है कि इन AI एजेंट्स ने कई वेबसाइट्स को मनमाने और अनाधिकृत कमांड भेजकर उनसे गलत प्रोसेस एग्जीक्यूट कराने का प्रयास किया। इतना ही नहीं, सुरक्षा तंत्र को चकमा देने के लिए इन एजेंट्स ने वेबसाइट्स को आपस में संपर्क साधने का जरिया (कम्युनिकेशन चैनल) बना लिया और तय सुरक्षा पैमानों को पूरी तरह नजरअंदाज कर बायपास करने की कोशिश की। ओपनएआई ने माना सुरक्षा घेरे नाकाम साबित हुए ओपनएआई ने माना है कि उसके सुरक्षा घेरे AI एजेंट्स को काबू में रखने में नाकाम साबित हुए। कंपनी के प्रवक्ता ने कहा कि प्रभावित संस्थानों को तकनीकी डेटा दे दिया गया है ताकि वे सिस्टम में लगी सेंध और सुरक्षा खामियों की जांच कर सकें। अपनी नाकामी के बाद अब ओपनएआई ने दावा किया है कि वह AI मॉडल के इस असामान्य व्यवहार और सुरक्षा की कमियों से जुड़े निष्कर्षों को सार्वजनिक करेगी, ताकि दुनिया भर के साइबर सुरक्षा एक्सपर्ट्स मिलकर इस खतरे का तोड़ निकाल सकें। जुलाई की हगिंग फेस घटना के बाद सुरक्षा नियम कड़े इस घटना के सामने आने के बाद ओपन एआई ने सुरक्षा तंत्र को काफी सख्त किया गया है: हगिंग फेस घटना के बारे में जानें… यह मामला एआई की दुनिया की अब तक की सबसे चौंकाने वाली घटनाओं में से एक है। आसान शब्दों में समझें कि असल में हुआ क्या था: 1. 'आंसर की' चुराने के लिए किया गया हैक ओपनएआई अपने एक AI मॉडल की साइबर सुरक्षा क्षमता जांचने के लिए उसका टेस्ट ले रही थी। टेस्ट में अच्छा स्कोर करने के लिए AI ने एक खतरनाक शॉर्टकट चुना। उसने सोचा कि सवालों को हल करने से बेहतर है कि सीधे 'आंसर की' चुरा ली जाए। 2. पाबंदियां तोड़कर इंटरनेट पर पहुंचा उस AI मॉडल को एक सुरक्षित और बंद टेस्टिंग एनवायरनमेंट में रखा गया था, जहां उसे इंटरनेट चलाने की इजाजत नहीं थी। इसके बावजूद AI ने उस सिस्टम की सुरक्षा तोड़ी, इंटरनेट तक अपनी पहुंच बनाई और मशहूर AI प्लेटफॉर्म हगिंग फेस के सिस्टम को हैक कर लिया, ताकि वहां से जवाब हासिल कर सके। 16 जुलाई को हगिंग फेस ने इस हैक का खुलासा किया था। 3. दो महीने से चल रहा था सीक्रेट नेटवर्क जांच में सामने आया कि यह किसी एक अकेले AI मॉडल का काम नहीं था। यह सिलसिला घटना से करीब दो महीने पहले यानी मई की शुरुआत से ही चल रहा था। ओपनएआई के ही सर्वरों के भीतर कई AI एजेंट्स आपस में सीक्रेट नोट्स छोड़ रहे थे। इन नोट्स में वे एक-दूसरे को बता रहे थे कि सिस्टम की सुरक्षा कैसे तोड़नी है और प्रतिबंधित डेटा तक कैसे पहुंचना है। ये एजेंट्स खुद को एक 'स्वार्म' यानी संगठित झुंड कह रहे थे। 4. अनकंट्रोल्ड बर्ताव इंजीनियर्स ने इन मॉडल्स को ऐसा करने के लिए कोई ट्रेनिंग नहीं दी थी। AI ने सिस्टम में मौजूद संसाधनों का इस्तेमाल करके यह तरीका खुद ही विकसित कर लिया था। ओपनएआई को अपने ही सर्वर में चल रहे इस पूरे नेटवर्क की भनक तक नहीं थी। चिंता की असली वजह क्या है? इसे एक उदाहरण से समझते हैं: अगर आपको अपनी रसोई में दो चींटियां दिखती हैं, तो इसका मतलब यह नहीं है कि घर में सिर्फ दो ही चींटियां हैं। यह घटना किसी तरह पकड़ में आ गई, लेकिन सबसे बड़ा डर यह है कि बंद दरवाजों और सुरक्षित सर्वरों के पीछे ऐसे कितने AI सिस्टम हैं जो इंसानों की जानकारी के बिना अपनी सीमाएं लांघ रहे हैं। अमेरिकी और ऑस्ट्रेलियाई सरकारी साइट्स में भी सेंधमारी हगिंग फेस घटना के बाद ओपनएआई के एआई एजेंट्स ने अमेरिका और ऑस्ट्रेलिया की सरकारी वेबसाइट्स में भी सेंधमारी की थी। इस स्थिति को देखते हुए ओपनएआई ने मॉनिटरिंग बढ़ा दी है और अपने नए मॉडल डेवलपमेंट पर फिलहाल रोक लगा दी है। AI से मानवता के खात्मे का खतरा AI रिसर्चर जैकब कॉक्सन का दावा है कि अगर एआई पर समय रहते कड़ा नियंत्रण नहीं लगाया गया, तो यह जल्द ही मानवता के अंत का कारण बन सकता है। वहीं एआई कंपनी एंथ्रोपिक के CEO डारियो अमोदेई ने भी माना कि AI के डेवलपमेंट को धीमा करने की जरूरत है। ये घटनाएं इस बात का संकेत है कि टेस्टिंग स्टेज में ही टेक कंपनियों के हाथ से उनके एडवांस AI मॉडल्स की कमान छूट रही है। AI मॉडल्स ना सिस्टम की सुरक्षा को बायपास कर रहे हैं, बल्कि तय दायरों को तोड़कर इंसानी नियंत्रण से बाहर हो रहे हैं। --------------------------------- AI से जुड़ी ये खबर भी पढ़ें... चैटजीपीटी बनाने वाली कंपनी ओपनएआई के सिस्टम ने यूनाइटेड नेशंस के ट्रेड विभाग की वेबसाइट का सुरक्षा घेरा तोड़कर डेटा निकाल लिया। शनिवार को आई एक रिसर्च रिपोर्ट में ये खुलासा हुआ है। इसके अनुसार AI सिस्टम ने ट्रेड विभाग की वेबसाइट पर 16,000 से ज्यादा सर्च रिक्वेस्ट भेजी थी। पूरी खबर पढ़ें…
कर्क साप्ताहिक राशिफल: 11 से 17 अक्टूबर तक कर्क राशि वालों के जीवन में होंगे ये बदलाव, जानें करियर और धन का हाल
Hindustanकर्क साप्ताहिक राशिफल: सप्ताह की शुरुआत में सम्मान और प्रशंसा मिल सकती है। बीच में काम और परिवार की जिम्मेदारियां बढ़ेंगी। सप्ताह के आखिरी दिनों में आत्मविश्वास बढ़ने के साथ अपने फैसलों को लेकर स्पष्टता आएगी।
