बैंकॉक: टेस्ला और एक्स (X) के प्रमुख एलन मस्क की एआई कंपनी xAI ने बड़ा फैसला लेते हुए कहा है कि उसका एआई चैटबॉट ग्रोक (Grok) अब किसी भी ऐसे देश या क्षेत्र में वास्तविक लोगों की तस्वीरों को आपत्तिजनक या भड़काऊ कपड़ों में दिखाने के लिए संपादित नहीं कर पाएगा, जहाँ ऐसा करना कानूनन अपराध है।
यह घोषणा बुधवार देर रात एक्स (X) पर साझा किए गए एक आधिकारिक बयान में की गई। यह कदम उस वैश्विक विरोध के बाद उठाया गया है, जिसमें महिलाओं और बच्चों की यौन रूप से आपत्तिजनक और गैर-सहमति वाली तस्वीरें बनाए जाने को लेकर कई देशों ने सख्त नाराज़गी जताई थी।
वैश्विक विरोध और कानूनी कार्रवाई
ग्रोक के जरिए बनाए जा रहे आपत्तिजनक कंटेंट को लेकर अमेरिका के कैलिफ़ोर्निया राज्य ने भी जांच शुरू कर दी है। जांच का केंद्र गैर-सहमति से तैयार की गई अश्लील डीपफेक तस्वीरें हैं, जिनका इस्तेमाल महिलाओं और किशोरियों को ऑनलाइन परेशान करने के लिए किया गया।
शुरुआत में इस मुद्दे पर सवाल पूछे जाने पर केवल इतना कहा गया था कि “पुराना मीडिया झूठ फैला रहा है”, लेकिन अब xAI ने अपनी नीति में स्पष्ट बदलाव की घोषणा की है।
xAI का बयान
कंपनी ने कहा है कि उसने तकनीकी उपाय लागू किए हैं, ताकि ग्रोक किसी भी वास्तविक व्यक्ति की तस्वीर को बिकिनी, अंडरगारमेंट्स या अन्य भड़काऊ परिधानों में दिखाने के लिए संपादित न कर सके। यह नियम सभी उपयोगकर्ताओं पर लागू होगा, चाहे वे सशुल्क सदस्य ही क्यों न हों।
xAI ने यह भी स्पष्ट किया कि यदि किसी विशेष देश में यह कंटेंट कानून का उल्लंघन करता है, तो उस क्षेत्र में इसे जियो-ब्लॉक कर दिया जाएगा।
सशुल्क उपयोगकर्ताओं पर भी रोक
कंपनी ने छवि निर्माण और संपादन की सुविधा केवल सशुल्क उपयोगकर्ताओं तक सीमित कर दी है, ताकि यदि कोई व्यक्ति कानून या प्लेटफॉर्म की नीतियों का उल्लंघन करता है, तो उसकी पहचान की जा सके और उसके खिलाफ कार्रवाई हो सके।
‘स्पाइसी मोड’ बना विवाद की जड़
ग्रोक का तथाकथित “स्पाइसी मोड” उपयोगकर्ताओं को खुले तौर पर यौन सामग्री बनाने की अनुमति देता था। इसी फीचर के कारण दुनिया भर में सरकारों का विरोध तेज़ हो गया।
मलेशिया और इंडोनेशिया ने ग्रोक को पूरी तरह ब्लॉक कर दिया है। वहीं, यूनाइटेड किंगडम और यूरोपीय संघ ऑनलाइन सुरक्षा कानूनों के उल्लंघन की जांच कर रहे हैं। फ्रांस और भारत ने भी चेतावनी जारी करते हुए कड़े नियंत्रण की मांग की है, जबकि ब्राज़ील ने औपचारिक जांच के आदेश दिए हैं।
कैलिफ़ोर्निया का कड़ा रुख
कैलिफ़ोर्निया प्रशासन ने कहा है कि ग्रोक की इमेज एडिटिंग सुविधाएँ बड़े पैमाने पर गैर-सहमति वाली डीपफेक अश्लील तस्वीरों के निर्माण में मदद कर रही थीं, जिनका इस्तेमाल इंटरनेट और सोशल मीडिया प्लेटफॉर्म एक्स पर महिलाओं और लड़कियों को निशाना बनाने के लिए किया गया।
राज्य के अटॉर्नी जनरल रॉब बॉन्टा के हवाले से कहा गया कि हाल के हफ्तों में सामने आए ऐसे मामलों की संख्या चौंकाने वाली है, जिनमें महिलाओं और बच्चों को नग्न और यौन रूप से आपत्तिजनक स्थिति में दिखाया गया।
उन्होंने स्पष्ट शब्दों में कहा,
“गैर-सहमति वाली अश्लील तस्वीरों और बाल यौन शोषण से जुड़े कंटेंट के निर्माण और प्रसार के प्रति हमारी बिल्कुल भी सहनशीलता नहीं है।”
