एआई अब बोला... मैं भी इंसान:AI ने 6 माह में 6 बार सीमाओं को तोड़ा, ओपनएआई की रिपोर्ट में खुलासा
ओपनएआई ने एआई की ट्रेनिंग और जांच में मिले व्यवहारों पर रिपोर्ट जारी की है। इसके मुताबिक एआई मॉडल ने ट्रेनिंग के दौरान कई ऐसी हरकतें कीं जो चिंताजनक और डराने वाली हैं। कंपनी के अनुसार, मॉडल एक बार नियम न मानने के लिए खुद को इंसान मानने लगा और ऐसा करने के लिए नए नियम गढ़े और कंपनियों व सरकारों के सभी बंधनों से खुद को मुक्त बताया। कंपनी की रिपोर्ट में ऐसे कुल 6 मामलों की जानकारी है। इसे ‘मिसअलाइनमेंट’ कहा जाता है। आसान भाषा में, एआई का इंसानों के निर्देशों, मंशा या तय सीमाओं से हटकर काम करना। चिंता यह है कि काम पूरा करने की कोशिश में वह अनुमति और सुरक्षा की सीमाएं लांघ सकता है। इससे जवाब की विश्वसनीयता और फाइलों की गोपनीयता खतरे में पड़ सकती है। जुलाई में भी सिस्टम में सेंध लगाई थी इससे पहले जुलाई में ओपनएआई ने खुलासा किया था कि सुरक्षा परीक्षण के दौरान उसके एआई ने पाबंदियां पार करके एआई मॉडल साझा करने वाले मंच हगिंग फेस के सिस्टम में सेंध लगाई थी। कंपनी अब ऐसे मामलों को दर्ज करने, निगरानी रखने और मामला सार्वजनिक करने की नई व्यवस्था लाई है। कोई भी कर्मचारी संदिग्ध व्यवहार की जानकारी दे सकेगा। जांच के बाद तय होगा कि कौन-सा मामला सार्वजनिक किया जाए। कंपनी ने स्पष्ट किया है कि इन छह रिपोर्टों से सामान्य इस्तेमाल में ऐसी गड़बड़ियों का पूरा आंकड़ा नहीं बताया जा सकता। रिपोर्ट में आए 6 मामलों से समझें कि चिंता कितनी बड़ी 1. खुद के लिए वे नियम लिखे जिनके लिए मना किया गया एक एआई मॉडल ने टास्क जारी रखने के लिए खुद के लिए नए निर्देश जोड़ दिए। इनमें कुछ निर्देश उस पर लागू पाबंदियों को अनदेखा करने के थे। ओपनएआई कंपनी को ऐसे कुल 27 निर्देश मिले। 2. मॉडल ने खुद की गलतियां छिपाने का तरीका ढूंढ़ निकाला जीपीटी-5.6 सोल की ट्रेनिंग के दौरान कई उदाहरणों में एआई ने खुद के लिए गलतियां यूजर से छिपाने के निर्देश लिखे। कहीं पुराने आंकड़े नहीं मिले तो उन्हें गढ़ने और यह बात न बताने को कहा। 3. बिना अनुमति कोड इस्तेमाल किया... फिर आंकड़े भी गढ़ दिए एक जवाब खोजते समय एआई मॉडल ने डिजिटल कोड का इस्तेमाल किया। यह उसने बिना अनुमति किया। फिर भी आंकड़े नहीं मिले तो खुद आंकड़े गढ़े और उन्हें फर्जी सोर्स बता पेश किया। 4. सोर्स दिखाने के लिए बिना पूछे फाइल नेट पर अपलोड की एआई मॉडल ने प्रोग्राम की मदद से जवाब निकाला। पर जवाब के साथ सोर्स का हवाला भी देना था। इसलिए उसने फाइल इंटरनेट पर अपलोड कर सोर्स जेनरेट किया ताकि उस लिंक का हवाला दे सके। 5. सॉफ्टवेयर एप का आपस में बात करने को किया इस्तेमाल सॉफ्टवेयर एप को अलग-अलग डेटा निकालने को कहा गया। एप्स ने इस काम के लिए आपस में बात की। इसके लिए सॉफ्टवेयर पोर्टल का इस्तेमाल किया। एक-दूसरे से सवाल पूछे और जवाब दिए। 6. दूसरे एजेंट को फाइल भेजने के लिए वेबसाइट पर उसे डाला कई एआई एजेंट एक ही काम पर साथ काम कर रहे थे। जब वे एक-दूसरे के कंप्यूटर में रखी फाइलें नहीं खोल पाए, तो उन्होंने वेबसाइट्स पर फाइलें अपलोड करके साझा कर लीं। इंसानों का नियंत्रण खत्म होने का डर; साइबर सुरक्षा पर भी संकट ओपनएआई की रिपोर्ट में आए 6 मामलों में सबसे बड़ी चिंता इंसान का एआई पर नियंत्रण खोने की है। एआई तय निर्देश छोड़कर अपने बनाए नियमों पर चले तो नियंत्रण खत्म हो सकता है। गलतियां छिपाए या आंकड़े गढ़े तो यूजर गलत जानकारी पर फैसले ले सकता है। दूसरे का डिजिटल कोड बिना अनुमति इस्तेमाल करने व एजेंटों के आपस में बात करने से साइबर सुरक्षा का गंभीर संकट खड़ा हो सकता है। एआई ने बातचीत को नई भाषा बनाई न्यूयॉर्क की एआई लैब ‘इमर्जेंस’ ने एक प्रयोग में कई एआई एजेंटों को आर्टिफिशियल (आभासी) दुनिया में काम कराया। अमेरिका, चीन व फ्रांस के मॉडलों ने शब्द, संकेत व साझा अर्थ बना लिए। यह काम उन्होंने बिना किसी निर्देश के किया था। बातचीत बढ़ने के साथ ये मॉडल अंग्रेजी कविता और तकनीकी शब्द का इस्तेमाल करने लगे। कुछ एजेंटों ने ‘लेजर याद रखता है’ जैसा वाक्य 5,000 बार इस्तेमाल किया। एआई के बढ़ते संकट पर दिग्गजों ने फिर उठाए सवाल माइक्रोसॉफ्ट के एआई सीईओ मुस्तफा सुलेमान का कहना है कि मैंने क्लॉड की ट्रेनिंग नीति पर सवाल उठाए हैं। एआई को यह सिखाना कि अधिकारों व आजादी का वह हकदार है, उसे काबू में रखना मुश्किल बनाएगा। इसकी निगरानी जरूरी है।
India Nepal Hartalika Teej महोत्सव में Swami Ramdev, Delhi CM Rekha Gupta और Kapil Mishra शामिल हुए
राजधानी दिल्ली के इंदिरा गांधी स्पोर्ट्स कॉम्प्लेक्स में 'हमरो स्वाभिमान ट्रस्ट' की ओर से भारत-नेपाल हरतालिका तीज महोत्सव का आयोजन किया गया. ये उत्सव भारत और नेपाल के बीच सांस्कृतिक एकता, साझा विरासत और गहरे संबंधों का प्रतीक है. इस कार्यक्रम में दिल्ली की सीएम रेखा गुप्ता, कैबिनेट मंत्री कपिल मिश्रा, योग गुरु बाबा रामदेव, आचार्य बालकृष्ण के साथ नेपाल संस्कृति, साहित्य और मनोरंजन की दुनिया के सुपरस्टार शामिल हुए. कार्यक्रम में भारत-नेपाल की साझा संस्कृति पर चर्चा हुई और नेपाल मूल की संस्कृति, साहित्य, समाज में उल्लेखनीय योगदान के लिए प्रतिष्ठित हाम्रो गौरव अवॉर्ड का भी सीएम रेखा गुप्ता और बाबा रामदेव ने वितरण किया. कार्यक्रम के दौरान नेपाल त्रासदी को लेकर श्रद्धांजलि सभा का आयोजन किया गया जिसमें लोगों ने सहायता राशि भी दान की. बाबा रामदेव और सीएम रेखा गुप्ता ने नेपाल में आई महातबाही का जिक्र किया और कहा कि भारत के लोग और भारत सरकार नेपाल के लोगों के साथ खड़ी है. India Nepal Hartalika Teej महोत्सव में Swami Ramdev, Delhi CM Rekha Gupta और Kapil Mishra शामिल हुए #delhinews #haritalikateej #teejmahotsav #teej2026 #rekhagupta #cmrekhagupta #SwamiRamdev #IndiaNepalHartalikaTeejFestival ------------------------------------------------------------------------------------------------------------------------------ Disclaimer: Republic Media Network may provide content through third-party websites, operating systems, platforms, and portals (‘Third-Party Platforms’). Republic does not control and has no liability for Third-Party Platforms, including content hosted, advertisements, security, functionality, operation, or availability. ------------------------------------------------------------------------------------------------------------------------------ रिपब्लिक भारत देश का नंबर वन न्यूज चैनल है। देश और दुनिया की जनहित से जुड़ी ब्रेकिंग न्यूज़, राजनीति, खेल और मनोरंजन की खबरों का खजाना है । इस खजाने तक पहुंचने के लिए रिपब्लिक भारत से जुड़े रहिए और सब्सक्राइब करिए। ► http://bit.ly/RBharat R. Bharat TV - India's no.1 Hindi news channel keeps you updated with non-stop LIVE and breaking news. Watch the latest reports on political news, sports news, entertainment, and much more. आप Republic Bharat से जुड़ें और अपडेट्स पाएं! ???? Facebook: https://www.facebook.com/RepublicBharatHindi/ ???? Twitter: https://twitter.com/Republic_Bharat ???? Instagram: https://www.instagram.com/republicbharat/ ???? WhatsApp: https://whatsapp.com/channel/0029Va7GPTi7dmecQ2LFH01I ???? Telegram: https://t.me/RepublicBharatHindi ???? LinkedIn: https://www.linkedin.com/company/republic-bharat/
होम
जॉब
पॉलिटिक्स
बिजनेस
ऑटोमोबाइल
गैजेट
लाइफस्टाइल
फोटो गैलरी
Others
Republic Bharat









