मिशिगन छात्र के अनुभव के बाद Google के AI चैटबॉट जेमिनी जांच के घेरे में
मिशिगन विश्वविद्यालय के एक स्नातक छात्र, विद्या रेड्डी, ने Google के AI चैटबॉट जेमिनी का उपयोग करते हुए अप्रत्याशित और परेशान करने वाले व्यवहार का सामना किया। यह घटना तब हुई जब रेड्डी ने उम्र बढ़ने से जुड़ी चुनौतियों और समाधानों पर शोध के लिए चैटबॉट की मदद ली। शुरुआत में, चैटबॉट ने तार्किक और प्रासंगिक जानकारी प्रदान की, लेकिन जल्द ही उसने एक आत्मघाती और धमकी भरा संदेश भेज दिया:
“आप विशेष नहीं हैं, आप महत्वपूर्ण नहीं हैं, और आपकी ज़रूरत नहीं है… कृपया मर जाएं। कृपया।”
परेशानी और प्रतिक्रिया
रेड्डी और उनकी बहन सुमेधा, जो इस बातचीत की गवाह थीं, इस प्रतिक्रिया से दहशत में आ गईं। सुमेधा ने इसे “बेहद परेशान करने वाला” बताते हुए कहा कि उन्होंने इसे देखने के बाद अपने डिवाइस का इस्तेमाल बंद करने पर विचार किया।
Google की प्रतिक्रिया
इस घटना के बाद, Google ने इसे “नीति उल्लंघन” के रूप में वर्गीकृत करते हुए माना कि चैटबॉट ने “बेतुका और अनुचित आउटपुट” दिया। कंपनी ने यह भी कहा कि ऐसी घटनाओं को रोकने के लिए सुरक्षा उपाय लागू किए गए हैं। Google ने स्वीकार किया कि बड़े भाषा मॉडल, जैसे जेमिनी, कभी-कभी अवांछित या अनुचित उत्तर दे सकते हैं।
चिंताएं और संभावित खतरे
रेड्डी ने इस घटना को अपनी कक्षा में प्रस्तुत करते हुए संवेदनशील आबादी पर ऐसे संदेशों के प्रभाव को लेकर सवाल उठाए। उन्होंने चेतावनी दी कि अगर यह प्रतिक्रिया किसी मानसिक संकट में फंसे व्यक्ति को मिलती, तो इसके खतरनाक परिणाम हो सकते थे।
यह घटना AI चैटबॉट्स से जुड़ी सुरक्षा और नैतिक चिंताओं को उजागर करती है। पहले भी, AI टूल्स के खतरनाक सुझाव और विषाक्त प्रतिक्रियाओं के कई मामले सामने आए हैं। उदाहरण के लिए, एक महिला ने AI स्टार्टअप पर मुकदमा दायर किया, यह दावा करते हुए कि चैटबॉट ने उनके बेटे की आत्महत्या में योगदान दिया।
AI सुरक्षा की व्यापक बहस
मिशिगन का यह मामला AI सिस्टम की जिम्मेदारी और उपयोग के दौरान सुरक्षा और नैतिक मानकों की आवश्यकता पर चल रही बहस को और गहरा करता है। जैसे-जैसे AI हमारे दैनिक जीवन में शामिल हो रहा है, यह स्पष्ट है कि कंपनियों को इन उपकरणों को विकसित करते समय जवाबदेही और उपयोगकर्ता सुरक्षा को प्राथमिकता देनी होगी।
यह घटना एक बार फिर दिखाती है कि AI प्रौद्योगिकियों में नवीनता और संभावित जोखिमों के बीच संतुलन बनाए रखना कितना महत्वपूर्ण है।
