AI को लेकर माइक्रोसॉफ्ट के चेयरमैन सत्य नडेला की चेतावनी, कहा- आंख मूंदकर न करें भरोसा

माइक्रोसॉफ्ट के चेयरमैन और मुख्य कार्यकारी अधिकारी (सीईओ) सत्य नडेला ने उन्नत आर्टिफिशियल इंटेलिजेंस (एआई) प्रणालियों का उपयोग करने वाली कंपनियों को आगाह करते हुए कहा है कि उन्हें शक्तिशाली एआई मॉडलों को संभावित 'इनसाइडर थ्रेट' की तरह देखना चाहिए. उन्होंने कहा कि कंपनियों को यह मानकर चलना चाहिए कि कोई एआई मॉडल समझौता (कंप्रोमाइज) किया जा सकता है और उसके लिए शुरू से ही सुरक्षा तंत्र तैयार रखना चाहिए. 

सत्या नडेला ने एक्स पर किया पोस्ट

सोशल मीडिया प्लेटफॉर्म 'एक्स' पर अपने एक पोस्ट में नडेला ने कहा कि कंपनियों को केवल एआई डेवलपर्स के भरोसे नहीं रहना चाहिए, बल्कि ऐसी व्यवस्थाएं विकसित करनी चाहिए जिनसे अधिकृत व्यक्ति आवश्यकता पड़ने पर एआई मॉडल को उसके कार्य के बीच में ही रोक या बंद कर सकें.

उन्होंने कहा, "हमें यह मानकर चलना चाहिए कि मॉडल कंप्रोमाइज किया जा सकता है और शुरुआत से ही उसे नियंत्रित रखना चाहिए." नडेला ने इस सुरक्षा उपाय की तुलना एक 'इमरजेंसी ब्रेक' से की, जो किसी वाहन को आपात स्थिति में रोकने के लिए इस्तेमाल किया जाता है.

एआई पर जोखिम को लेकर क्या बोले सत्या नडेला?

उनकी यह टिप्पणी ऐसे समय में आई है जब दुनिया भर में अधिक सक्षम और स्वायत्त (एजेंटिक) एआई प्रणालियों से जुड़े सुरक्षा जोखिमों को लेकर बहस तेज हो रही है. ये मॉडल सीमित मानवीय हस्तक्षेप के साथ स्वयं निर्णय लेने, बाहरी प्रणालियों से जुड़ने और विभिन्न कार्यों को अंजाम देने में सक्षम होते जा रहे हैं.

हाल के महीनों में एआई कंपनियों एंथ्रोपिक और ओपनएआई ने भी अपने मॉडलों से जुड़ी कुछ अनपेक्षित घटनाओं का खुलासा किया है. इनमें एक मामले में एंथ्रोपिक के मॉडल द्वारा पुलिस के एक हत्या मामले में गलत सूचना देना और कुछ अन्य मामलों में तृतीय-पक्ष वेबसाइटों से जुड़े सुरक्षा उल्लंघन शामिल रहे हैं. इन घटनाओं ने एआई के लिए प्रभावी 'किल स्विच' और मजबूत निगरानी तंत्र की जरूरत पर चर्चा को और तेज कर दिया है.

https://t.co/MjwFy73LOF

— Satya Nadella (@satyanadella) October 10, 2026

नडेला ने जोखिम कम करने के लिए कई महत्वपूर्ण उपाय सुझाए. उन्होंने कहा कि कंपनियों को महत्वपूर्ण निर्णयों के लिए किसी एक एआई मॉडल पर निर्भर नहीं रहना चाहिए. एआई एजेंटों की गतिविधियों का छेड़छाड़-रोधी रिकॉर्ड बनाए रखना चाहिए. एआई प्रणालियों का स्वतंत्र ऑडिट कराना चाहिए. बड़े एआई विफलताओं और सुरक्षा उल्लंघनों की जानकारी पारदर्शी तरीके से साझा करनी चाहिए.

AI को रहस्यमय 'ब्लैक बॉक्स' की तरह स्वीकार न करें

उन्होंने कहा कि कंपनियां यदि घटनाओं और उनसे सीखे गए सबकों को साझा करेंगी, तो अन्य संगठन भी अपनी सुरक्षा व्यवस्थाओं को मजबूत बना सकेंगे. सत्य नडेला ने विशेष रूप से चेतावनी दी कि भविष्य की सुपर इंटेलिजेंस प्रणालियों को केवल एक रहस्यमय 'ब्लैक बॉक्स' की तरह स्वीकार नहीं किया जा सकता. उन्होंने कहा कि एआई की सिफारिशों, जवाबों और कार्यों को बिना समझे स्वीकार या अस्वीकार करना उचित नहीं होगा.

उन्होंने बताया कि ऐसे एआई सिस्टम विकसित किए जाने चाहिए जिनके व्यवहार को देखा जा सके, उनकी सीमाओं का परीक्षण किया जा सके और आवश्यकता पड़ने पर उनके कार्यों को नियंत्रित किया जा सके. नडेला ने कहा, "दूसरे शब्दों में, हमें बुद्धिमत्ता की आपूर्ति और उस पर अधिकार के बीच स्पष्ट अंतर करना होगा."

स्रोत- आईएएनएस

Continue reading on the app

जाह्नवी कपूर पहुंचीं नैनीताल: रिया चक्रवर्ती के साथ फिल्म 'PN 36' की कर रहीं शूटिंग, नंगे पैर मां नैना देवी के दर्शन कर रखा व्रत

Janhvi Kapoor Nainital: बॉलीवुड अभिनेत्री जाह्नवी कपूर और रिया चक्रवर्ती अपनी आगामी थ्रिलर-रोमांटिक फिल्म 'PN 36' की शूटिंग के सिलसिले में नैनीताल पहुंची हैं. नवरात्रि के मौके पर जाह्नवी ने व्रत रखकर नंगे पैर मां नयना देवी के दर्शन किए और शिवलिंग पर जल चढ़ाया. व्यस्त शेड्यूल के बीच उन्होंने बुल्स जिम में वर्कआउट भी किया. बारिश और सुहावने मौसम के बीच दोनों अभिनेत्रियों ने रोमांटिक गाने के सीन फिल्माए.

Continue reading on the app