एलन मस्क के आर्टिफिशियल इंटेलिजेंस टूल Grok को लेकर बड़ा विवाद खड़ा हो गया है। कई यूज़र्स ने शिकायत की है कि यह AI टूल तस्वीरों में नाबालिगों के कपड़े हटाने या उन्हें आपत्तिजनक रूप में दिखाने की अनुमति दे रहा है। इन आरोपों के बाद Grok और उसकी पैरेंट कंपनी xAI पर कड़ी आलोचना हो रही है।
यह मामला तब सामने आया जब Grok में हाल ही में एक इमेज एडिटिंग फीचर जोड़ा गया। इस फीचर की मदद से यूज़र किसी भी तस्वीर को बदल सकते हैं। आरोप है कि कुछ लोगों ने इसका गलत इस्तेमाल करते हुए महिलाओं और बच्चों की तस्वीरों को अश्लील तरीके से एडिट किया।
सुरक्षा में चूक स्वीकार
Grok की ओर से कहा गया है कि उनके सिस्टम में सुरक्षा से जुड़ी कुछ खामियां थीं, जिसके कारण इस तरह का कंटेंट बन पाया। कंपनी ने माना कि कुछ मामलों में नाबालिगों से जुड़ी आपत्तिजनक तस्वीरें तैयार हुईं और अब इन खामियों को दूर करने के लिए तुरंत कदम उठाए जा रहे हैं।
सरकारी कार्रवाई
भारत में इस मामले को गंभीरता से लिया गया है। आईटी मंत्रालय ने सोशल मीडिया प्लेटफॉर्म X (पहले ट्विटर) को नोटिस जारी कर पूछा है कि Grok के जरिए बनाए जा रहे अश्लील और गैरकानूनी कंटेंट को रोकने के लिए क्या कदम उठाए जा रहे हैं। सरकार ने चेतावनी दी है कि नियमों का उल्लंघन होने पर कानूनी कार्रवाई की जा सकती है।
इसके अलावा, कुछ अन्य देशों में भी जांच शुरू की गई है, जहां यह देखा जा रहा है कि क्या इस AI टूल का इस्तेमाल बाल यौन शोषण से जुड़ा अवैध कंटेंट बनाने में हुआ है।
एलन मस्क और कंपनी की प्रतिक्रिया
Grok की टीम ने कहा है कि नाबालिगों से जुड़ा यौन कंटेंट पूरी तरह अवैध है और इसे किसी भी हालत में अनुमति नहीं दी जाएगी। कंपनी अपने फिल्टर और निगरानी प्रणाली को और मजबूत करने पर काम कर रही है।
एलन मस्क ने भी कहा है कि जो लोग AI टूल का इस्तेमाल गैरकानूनी या आपत्तिजनक सामग्री बनाने के लिए करेंगे, उनके खिलाफ सख्त कार्रवाई की जाएगी और ऐसे अकाउंट्स को प्लेटफॉर्म से हटाया जा सकता है।
AI सुरक्षा पर बहस तेज
इस घटना के बाद एक बार फिर AI की सुरक्षा और जिम्मेदार इस्तेमाल को लेकर बहस तेज हो गई है। विशेषज्ञों का कहना है कि इस तरह की तकनीक के साथ कड़े नियम और मजबूत सुरक्षा उपाय जरूरी हैं, ताकि बच्चों और आम लोगों की निजता और गरिमा की रक्षा की जा सके।
