Grok: ग्रोक गुडघ्यावर! चूक मान्य करत 600 हून अधिक खाती डिलिट; अश्लील पोस्ट ब्लॉक

Grok deleted Obscene Accounts: सोशल मीडिया प्लॅटफॉर्म X ने Grok AI च्या माध्यमातून प्रसारित आणि प्रसिद्ध होणाऱ्या अश्लील कंटेंटबाबत अखेर नांग्या टाकल्या. अगोदर नाटकं करणारा हा प्लॅटफॉर्म कायद्याचा बडगा उगारताच आता वठणीवर आला आहे. कंपनीने केंद्र सरकारला विश्वास दिला आहे की, कंपनी ही भारतीय कायद्यानुसारच काम करेल. याशिवाय कंपनीने ग्रोक प्लॅटफॉर्मवरील जवळपास 3,500 पोस्ट ब्लॉक केल्या आहेत. तर 600 हून अधिक अकाऊंट डिलिट केली आहेत. सरकारच्या कडक भूमिकेनंतर X ने कंटेंट मॉडरेशन अधिक कठोर केले आहे. ऑनलाईन अश्लीलता आणि महिलांना लक्ष्य करण्याविरोधात सरकारने मोठी भूमिका घेतली होती.

Grok चा वाद काय?

केंद्र सरकारने X च्या AI टूल Grok मार्फत अश्लील आणि विचित्र कंटेंट प्रसारित होत असल्याबाबत चिंता व्यक्त केली होती. सरकारी यंत्रणांनुसार, Grok चा वापर केवळ फेक प्रोफाईल तयार करण्यासाठीच नाही तर महिलांना त्रास देण्यासाठी आणि ऑलनाईन त्यांना लक्ष्य करण्यासाठी करण्यात येत होता. यामध्ये इमेज एडिटिंग, सिथेंटिक कंटेंट, तर चुकीचा प्रॉम्प्ट्स वापरुन महिलांची छायाचित्र आणि व्हिडिओचा दुरुपयोग करण्यात येत होता. त्यानंतर सरकारने हा कंटेंट हटवण्यास सांगितले होते. एक्सला याविषयीचा अहवाल सादर करण्याचे निर्देश दिले होते.

अनेक आक्षेपार्ह पोस्ट डिलिट

सरकारी सूत्रांनी दिलेल्या माहितीनुसार, X ने जवळपास 3,500 आक्षेपार्ह पोस्ट ब्लॉक केल्या. यासह 600 हून अधिक खाती या प्लॅटफॉर्मवरून हटवली आहेत. या खात्यावरून अश्लील, असभ्य आणि गैरकायदेशीर कंटेंट प्रसारित आणि प्रसिद्ध करण्यात येत होता. सरकारने त्यावर चिंता व्यक्त केल्यानंतर एक्सने तातडीने पावलं टाकली. आता असा कंटेंट रोखण्यासाठी सिस्टम आणि मॉनिटरिंग अधिक कडक करण्यात आली आहे.

सरकारच्या माहिती आणि प्रसारण खात्याने या कंटेंटवर अगोदर कंपनीला सूचीत केल्यावर कंपनीने नाटकं केली होती. पण सरकारने कडक भूमिका घेतल्यानंतर एक्स गुडघ्यावर आले आहे.  सरकारी सूत्रांनुसार, X ने विश्वास दिला आहे की, कंपनी भारतीय नियम आणि कायद्यानुसार, कंटेंट मॉडरेशन सिस्टीम अधिक कठोर आणि कडक करेल. कंपनीनुसार आक्षेपार्ह कंटेंट, युझर्स आणि खात्यांवर यापुढे लागलीच कारवाई करण्यात येईल. तर अशा खात्यांवर लक्ष ठेवण्यात येईल. असा कंटेंट आढळला तर त्या खात्यांवर थेट कारवाई करण्यात येईल. महिलांच्या सुरक्षिततेसाठी हे चांगलं पाऊल मानलं जात आहे.