इलेक्ट्रॉनिक्स व माहिती तंत्रज्ञान मंत्रालयाचे ‘एक्स’ला पत्र, AI च्या गैरवापराबाबत व्यक्त केली चिंता

Letter to X

भारत सरकारच्या इलेक्ट्रॉनिक्स व माहिती तंत्रज्ञान मंत्रालयाचे सायबर लॉ विभागाचे संयुक्त सचिव अजित कुमार यांनी एक्सचे भारतातील मुख्य अनुपालन अधिकारी यांनी पत्र लिहिले आहे. माहिती तंत्रज्ञान अधिनियम, 2000 तसेच माहिती तंत्रज्ञान (मध्यस्थ मार्गदर्शक तत्त्वे आणि डिजिटल मीडिया आचारसंहिता) नियम, 2021 अंतर्गत वैधानिक दक्षता (Due Diligence) जबाबदाऱ्या न पाळल्याबाबत, तसेच ‘Grok’ व xAI च्या इतर सेवांसारख्या AI-आधारित सेवांच्या गैरवापरातून अश्लील, नग्न, अशोभनीय व लैंगिक स्वरूपाच्या मजकुराचे होस्टिंग, निर्मिती, प्रकाशन, प्रसारण, शेअरिंग किंवा अपलोडिंग रोखण्यासाठी तात्काळ अनुपालन करण्याबाबत Action Taken Report (ATR) सादर करण्याबाबत हे पत्र लिहिण्यात आले आहे. या पत्रात नेमकं काय म्हटले आहे ते जाणून घेऊयात.

अजित कुमार यांचे ‘एक्स’ला पत्र

संयुक्त सचिव अजित कुमार आपल्या निदर्शनास वेळोवेळी, सार्वजनिक चर्चांद्वारे तसेच विविध संसदीय भागधारकांकडून करण्यात आलेल्या निवेदनांद्वारे, हे आणले गेले आहे की आपल्या व्यासपीठावर प्रसारित होणाऱ्या काही प्रकारच्या मजकुरामध्ये सभ्यता व अश्लीलतेसंदर्भातील लागू कायद्यांचे पालन होत नाही.

विशेषतः, आपल्या द्वारे विकसित करण्यात आलेली व एक्स (X) व्यासपीठावर एकत्रित केलेली “Grok AI” ही सेवा वापरकर्त्यांकडून गैरवापरली जात असल्याचे आढळून आले आहे. यामध्ये बनावट खाती तयार करून महिलांचे अश्लील प्रतिमा किंवा व्हिडिओ तयार करणे, होस्ट करणे, प्रकाशित करणे किंवा शेअर करणे, त्यांना अपमानास्पद व अशोभनीय पद्धतीने बदनाम करण्याचे प्रकार समाविष्ट आहेत. हे केवळ बनावट खाती तयार करण्यापुरते मर्यादित नसून, स्वतःच्या प्रतिमा किंवा व्हिडिओ प्रकाशित करणाऱ्या महिलांनाही लक्ष्य केले जात आहे, ज्यामध्ये प्रॉम्प्ट्स, प्रतिमा बदल (image manipulation) आणि कृत्रिम (synthetic) आउटपुट्सचा वापर केला जातो.

अशा प्रकारचे वर्तन हे प्लॅटफॉर्म स्तरावरील सुरक्षात्मक उपाययोजना व अंमलबजावणी यंत्रणांतील गंभीर अपयश दर्शवते आणि लागू कायद्यांचे उल्लंघन करून कृत्रिम बुद्धिमत्ता तंत्रज्ञानाचा घोर गैरवापर ठरतो. या संदर्भात, लागू कायद्यांनुसार अधिकृत यंत्रणांकडून करण्यात आलेल्या किंवा करण्यात येणाऱ्या कारवाईस बाधा न आणता, इलेक्ट्रॉनिक्स व माहिती तंत्रज्ञान मंत्रालय (“मंत्रालय” / “MeitY”) असे मत व्यक्त करते की माहिती तंत्रज्ञान अधिनियम, 2000 (“IT Act”) तसेच माहिती तंत्रज्ञान (मध्यस्थ मार्गदर्शक तत्त्वे आणि डिजिटल मीडिया आचारसंहिता) नियम, 2021 (“IT Rules, 2021”) अंतर्गत असलेल्या नियामक तरतुदींचे आपल्या व्यासपीठाद्वारे पुरेसे पालन होत नाही, विशेषतः अश्लील, अशोभनीय, अशिष्ट, अश्लील चित्रण करणारा, बाललैंगिक (paedophilic) किंवा अन्यथा बेकायदेशीर व हानिकारक मजकुराच्या संदर्भात, जो विद्यमान कायद्यांचे उल्लंघन करणारा ठरू शकतो.

वरील कृत्ये व त्रुटी अत्यंत गंभीर बाब म्हणून पाहिल्या जात आहेत, कारण यामुळे महिला व मुलांच्या सन्मान, गोपनीयता व सुरक्षिततेचा भंग होतो, डिजिटल माध्यमांमध्ये लैंगिक छळ व शोषण सामान्य केले जाते, तसेच भारतात कार्यरत असलेल्या मध्यस्थांवर लागू असलेल्या वैधानिक दक्षता चौकटीस बाधा पोहोचते.

दिनांक 29.12.2025 रोजी MeitY कडून जारी करण्यात आलेल्या सल्लागार सूचनेकडे (Advisory) आपले लक्ष वेधण्यात येत आहे, विशेषतः त्यातील परिच्छेद 9 कडे, ज्यामध्ये सर्व मध्यस्थांना त्यांच्या अंतर्गत अनुपालन संरचना, मजकूर नियंत्रण (content moderation) पद्धती आणि वापरकर्ता अंमलबजावणी यंत्रणांचे तात्काळ पुनरावलोकन करण्याचा, तसेच IT Act आणि IT Rules, 2021 च्या तरतुदींचे काटेकोर व सातत्यपूर्ण पालन सुनिश्चित करण्याचा स्पष्ट सल्ला देण्यात आला आहे.

एक्स (X), एक महत्त्वपूर्ण सोशल मीडिया मध्यस्थ असल्याने, IT Act आणि IT Rules, 2021 चे पालन ऐच्छिक नसून बंधनकारक आहे, याची आठवण करून देण्यात येत आहे. IT Act च्या कलम 79 अंतर्गत देण्यात आलेली जबाबदारीपासूनची सूट (exemption) ही खालीलप्रमाणे नमूद केलेल्या, परंतु त्यापुरतीच मर्यादित नसलेल्या, दक्षता जबाबदाऱ्यांचे काटेकोर पालन केल्यावरच लागू होते:

नियम 4(9): मंत्रालयाकडून मागविण्यात येणारी अतिरिक्त माहिती, स्पष्टीकरणे किंवा Action Taken Report (ATR) सादर करण्याची जबाबदारी.

नियम 4(1)(a): मुख्य अनुपालन अधिकारी (Chief Compliance Officer) यांची नियुक्ती व प्रभावी कार्यप्रणाली, जे अधिनियम व नियमांचे पालन सुनिश्चित करण्यास जबाबदार व उत्तरदायी असतील.

नियम 3(1)(b) व 3(1)(d): अश्लील, अशिष्ट, अश्लील चित्रण करणारा, बाललैंगिक, महिला व मुलांसाठी हानिकारक किंवा अन्यथा बेकायदेशीर मजकूर होस्ट होऊ नये यासाठी वाजवी प्रयत्न करणे, तसेच न्यायालयीन आदेश किंवा सक्षम सरकारी प्राधिकरणाकडून मिळालेल्या सूचनेनंतर निर्धारित कालमर्यादेत असा मजकूर तात्काळ काढून टाकणे किंवा प्रवेश बंद करणे.

नियम 3(1)(i): ओळख पडताळणीसाठी किंवा कोणत्याही गुन्ह्याच्या प्रतिबंध, शोध, तपास किंवा खटल्यासाठी सरकार किंवा त्याच्या अधिकृत संस्थांनी कायदेशीररीत्या मागितलेली माहिती ठरलेल्या कालमर्यादेत पुरविणे.

नियम 3(2) व नियम 4(4): सुलभ तक्रार निवारण यंत्रणा उपलब्ध करून देणे, तसेच स्वयंचलित साधने (automated tools) किंवा अन्य तंत्रज्ञानाधारित उपाययोजना वापरून अशा अश्लील, अशोभनीय व अशिष्ट मजकुराचा प्रसार रोखणे.

नियम 3(2)(f): कोणत्याही व्यक्तीचे लैंगिक कृत्य किंवा त्याचे अनुकरण दर्शविणारा मजकूर असल्यास, संबंधित व्यक्तीकडून किंवा तिच्या वतीने प्राप्त झालेल्या तक्रारीनंतर 24 तासांच्या आत तो मजकूर काढून टाकणे किंवा प्रवेश बंद करणे.

हे पुन्हा स्पष्ट करण्यात येते की अश्लील, नग्न, अशोभनीय, लैंगिक स्वरूपाचा, अशिष्ट, बाललैंगिक किंवा दुसऱ्याच्या गोपनीयतेत (विशेषतः शारीरिक गोपनीयता) हस्तक्षेप करणारा किंवा अन्यथा बेकायदेशीर मजकूर, AI-आधारित प्रणाली व साधनांच्या माध्यमातूनसुद्धा, होस्ट करणे, तयार करणे, प्रकाशित करणे, प्रसारित करणे, शेअर करणे किंवा अपलोड करणे, हे खालीलसह अनेक कायद्यांखाली गंभीर दंडात्मक परिणामांना कारणीभूत ठरते:

IT Act मधील कलमे 66E, 67, 67A व 67B;

भारतीय न्याय संहिता, 2023 (BNS) मधील संबंधित तरतुदी;

महिलांचे अशोभनीय प्रतिनिधित्व (प्रतिबंध) अधिनियम, 1986;

लैंगिक गुन्ह्यांपासून बालकांचे संरक्षण अधिनियम, 2012;

तरुण व्यक्ती (हानिकारक प्रकाशने) अधिनियम, 1956;

IT Act चे कलम 85 – कंपन्यांकडून केलेले गुन्हे;

तसेच सध्या लागू असलेले इतर सर्व कायदे.

याव्यतिरिक्त, भारतीय नागरिक सुरक्षा संहिता, 2023 (BNSS) च्या कलम 33 कडे विशेष लक्ष वेधण्यात येते, ज्यामध्ये काही गुन्ह्यांची माहिती संबंधित प्राधिकरणांना देणे ही अनिवार्य वैधानिक जबाबदारी आहे. यामध्ये सायबर गुन्ह्यांचा समावेश असलेल्या संघटित गुन्ह्यांचाही (BNS च्या कलम 111 नुसार) समावेश होतो. अशा गुन्ह्यांची माहिती असूनही किंवा वाजवी संशय असूनही अहवाल न दिल्यास, BNSS अंतर्गत स्वतंत्र दंडात्मक कारवाई होऊ शकते.

त्यामुळे, आपण आपल्या व्यासपीठावर कोणत्याही प्रकारे अश्लील, अशिष्ट, अशोभनीय, लैंगिक स्वरूपाचा, बाललैंगिक किंवा कायद्याने प्रतिबंधित मजकूर होस्ट करणे, प्रदर्शित करणे, अपलोड करणे, प्रकाशित करणे, प्रसारित करणे, साठवणे किंवा शेअर करणे यापासून तात्काळ व काटेकोरपणे दूर राहावे, असा सल्ला देण्यात येतो. या दक्षता जबाबदाऱ्यांचे पालन न केल्यास IT Act च्या कलम 79 अंतर्गत मिळणारी सूट रद्द होईल आणि IT Act, BNS तसेच इतर लागू कायद्यांनुसार कारवाईस आपण पात्र ठराल.

म्हणून, IT Act व IT Rules, 2021 अंतर्गत केंद्र सरकारला असलेल्या अधिकारांचा वापर करून, एक्स (X) ला पुढीलप्रमाणे निर्देश देण्यात येतात:

(a) “Grok” या AI-आधारित अनुप्रयोगाचे तांत्रिक, प्रक्रियात्मक व प्रशासन स्तरावरील सर्वांगीण पुनरावलोकन तात्काळ करणे, ज्यामध्ये प्रॉम्प्ट प्रक्रिया, LLM द्वारे तयार होणारे प्रतिसाद, प्रतिमा हाताळणी व सुरक्षितता संरक्षक उपाय (safety guardrails) यांचा समावेश असेल, जेणेकरून कोणत्याही स्वरूपात नग्नता, लैंगिकीकरण, लैंगिक स्वरूपाचा किंवा अन्यथा बेकायदेशीर मजकूर निर्माण, प्रोत्साहित किंवा सुलभ होणार नाही;

(b) वापर अटी, स्वीकारार्ह वापर धोरणे व AI वापर निर्बंधांची तात्काळ अंमलबजावणी करणे, तसेच उल्लंघन करणाऱ्या वापरकर्ते व खात्यांविरुद्ध निलंबन, समाप्ती आदी कडक कारवाई करणे;

(c) लागू कायद्यांचे उल्लंघन करणारा आधीच निर्माण किंवा प्रसारित झालेला सर्व मजकूर IT Rules, 2021 मधील कालमर्यादांनुसार तात्काळ काढून टाकणे किंवा प्रवेश बंद करणे, आणि पुराव्याची हानी न करता;

(d) या पत्राच्या जारी दिनांकापासून जास्तीत जास्त 72 तासांच्या आत मंत्रालयास सविस्तर Action Taken Report (ATR) सादर करणे, ज्यामध्ये खालील बाबींचा समावेश असेल:

Grok अनुप्रयोगासंदर्भातील स्वीकारलेली किंवा प्रस्तावित तांत्रिक व संघटनात्मक उपाययोजना;

मुख्य अनुपालन अधिकाऱ्याची भूमिका व देखरेख;

आक्षेपार्ह मजकूर, वापरकर्ते व खात्यांविरुद्ध केलेली कारवाई;

BNSS च्या कलम 33 अंतर्गत अनिवार्य अहवाल देण्याची यंत्रणा;

(e) IT Act व IT Rules, 2021 अंतर्गत सर्व दक्षता जबाबदाऱ्यांचे सातत्यपूर्ण, प्रदर्शनीय व लेखापरीक्षणयोग्य पालन सुनिश्चित करणे; अन्यथा कलम 79 अंतर्गत सूट रद्द करण्यासह कायदेशीर कारवाई केली जाईल.

वरील निर्देशांचे पालन न केल्यास, कोणतीही पुढील सूचना न देता, IT Act, IT Rules, BNSS, BNS व इतर लागू कायद्यांनुसार आपल्या व्यासपीठाविरुद्ध, जबाबदार अधिकाऱ्यांविरुद्ध तसेच कायद्याचे उल्लंघन करणाऱ्या वापरकर्त्यांविरुद्ध कठोर कारवाई केली जाईल, हे पुन्हा स्पष्ट करण्यात येते.

सक्षम प्राधिकरणाच्या मंजुरीनंतर हे पत्र जारी करण्यात येत असून, सध्या लागू असलेल्या कोणत्याही कायद्यांतर्गत सरकार किंवा कायदा अंमलबजावणी यंत्रणांकडून होऊ शकणाऱ्या इतर कारवाईस हे बाधा आणणार नाही.

आपला विश्वासू,

(अजित कुमार)
संयुक्त सचिव, सायबर कायदे
इलेक्ट्रॉनिक्स व माहिती तंत्रज्ञान मंत्रालय (MeitY)