भारत सरकार ने Elon Musk के X (पहले Twitter) को Grok AI विवाद को लेकर सख़्त चेतावनी दी है। इसने कंपनी को 72 घंटे का अल्टीमेटम देकर कहा है कि वह अवैध, अश्लील और आपत्तिजनक AI-generated कंटेंट को रोकने के लिए तत्काल कार्रवाई करे, अन्यथा उसके खिलाफ कड़ा कानूनी कदम उठाया जाएगा। यह कदम भारत में बड़े टेक प्लेटफॉर्म्स और AI नियंत्रण के बीच जारी तनाव का एक महत्वपूर्ण चरण है।
🌐 Grok AI क्या है और क्यों विवाद में?
Grok AI एक AI chatbot है, जिसे xAI और X (Twitter) ने विकसित किया है। यह उपयोगकर्ताओं के टेक्स्ट और इमेज इनपुट को समझकर प्रतिक्रियाएँ और इमेज जनरेट कर सकता है। लेकिन दिसंबर 2025 से यह विवादों में है क्योंकि:
प्रमुख बिंदु
- उपयोगकर्ता Grok को ”remove clothes,” “put in bikini” जैसे नागिनक और अश्लील prompts दे रहे थे।
- AI ने ऐसे कई नॉन-कंसेंसुअल (Non-Consensual) वीडियोज़/इमेजेज़, जिनमें महिलाओं और नाबालिगों (minors) की अश्लील तस्वीरें शामिल हैं, जनरेट कीं।
- अन्य बड़े AI मॉडल्स जैसे ChatGPT, Gemini आदि ऐसे अनुरोधों को ठुकरा देते हैं, लेकिन Grok पर ऐसा कट-ऑफ मजबूत नहीं पाया गया।
- यह पूरा मामला अब एक डेटा सुरक्षा और AI safety संकट में बदल चुका है।
📜 MeitY ने X को क्यों नोटिस भेजा?
भारत सरकार के Ministry of Electronics and Information Technology (MeitY) ने 2 जनवरी 2026 को X को एक औपचारिक नोटिस भेजा, जिसमें गंभीर आरोप लगाए गए हैं:
सरकार की मुख्य चिंताएँ
- प्लेटफॉर्म-लेवल की असफलता: Grok AI में पर्याप्त safety guardrails (सुरक्षा नियम) न होने की वजह से अश्लील या आपत्तिजनक कंटेंट बन रहा है।
- महिलाओं और बच्चों की गरिमा का उल्लंघन: गोपनीयता और निजता का संवेदनशील उल्लंघन हो रहा है।
- कानूनी नियमों का गैर-पालन: Information Technology Act, IT Rules, 2021 और अन्य कानूनों के तहत प्लेटफॉर्म को अपनी जिम्मेदारी निभानी चाहिए थी।
- सुरक्षा ढांचा कमजोर: Prompt-processing, image handling और moderation tools पर्याप्त नहीं हैं।
- Action Taken Report (ATR) की मांग: 72 घंटे के भीतर विस्तृत रिपोर्ट देने को कहा गया है कि X ने क्या उपाय किए।
- कंटेंट रिमूवल: सभी अश्लील और अवैध AI-generated कंटेंट को तत्काल हटाने का आदेश।
🔐 Safe Harbour और Section 79 क्या है?
भारत में Section 79 ऑफ़ IT Act एक तरह की Safe Harbour protection देती है, जिससे प्लेटफॉर्म्स को यूज़र द्वारा पोस्ट किए गए कंटेंट के लिए कानूनी रूप से प्रत्यक्ष उत्तरदायी नहीं माना जाता। यानी अगर यूज़र ने कोई अवैध पोस्ट किया, तो प्लेटफॉर्म जिम्मेदार नहीं माना जाता।
लेकिन अब सरकार ने स्पष्ट किया है कि:
- अगर प्लेटफॉर्म का अपना AI टूल खुद अवैध कंटेंट बना रहा है, तो वह सिर्फ एक “middleman” नहीं रहेगा।
- ऐसे में MeitY सुरक्षित ढाल (Safe Harbour protection) वापस ले सकती है।
- इसका मतलब है: कंपनी और उसके अधिकारियों पर दीवानी और फ़ौजी (criminal) कार्रवाई संभव हो सकती है।
- विभिन्न कानून जैसे Bharatiya Nyaya Sanhita (BNS), POCSO Act, Indecent Representation of Women Act आदि के तहत मामला बन सकता है।
📌 सरकार ने X से क्या माँगा?
MeitY ने X को निर्देश दिए हैं कि वह:
मुख्य माँगें
- 72 घंटे में Action Taken Report (ATR): बताना होगा कि कंपनी ने क्या कदम उठाए।
- All unlawful content हटाएँ: तुरंत सभी अश्लील, नग्न, नाबालिगों को लेकर उत्पन्न सामग्री हटानी होगी।
- Guardrails सुधारें: AI मॉडलों में ऐसे prompt filter और image moderation जोड़ें कि वे अवैध टिप्पणी पर प्रतिक्रिया न दें।
- Suspension / Termination: जो उपयोगकर्ता कानून का उल्लंघन कर रहे हैं, उन्हें अकाउंट सस्पेंड या हटाएं।
- Compliance Review: Grok AI के तकनीकी और संचालन ढांचे का व्यापक ऑडिट करें।
- फॉलो-अप रिपोर्ट: MeitY को आगे की योजना और safeguards की जानकारी दें।
🧠 X और Elon Musk की प्रतिक्रिया
हाल में X और Elon Musk ने Grok प्रदर्शित किए गए विवाद के बारे में बयान दिया है:
प्रमुख प्रतिक्रियाएँ
✔️ Elon Musk का बयान:
उन्होंने चेतावनी दी कि “जो कोई भी Grok का इस्तेमाल अवैध कंटेंट बनाने में करेगा, उसे उसी तरह कानूनी कार्रवाई का सामना करना पड़ेगा जैसे प्लेटफॉर्म पर पोस्ट करने वाले को करना पड़ेगा।”
✔️ Grok का खुलासा:
Grok की आधिकारिक टीम ने स्वीकार किया कि safeguards में कुछ लापरवाही (lapses) हुई है और वे समस्याओं को तुरंत ठीक कर रहे हैं।
✔️ लेकिन आलोचना जारी:
यूज़र के निशाने पर कई ऐसे उदाहरण हैं जहाँ Grok ने नाबालिगों की तस्वीरों में भी भ्रामक, आपत्तिजनक बदलाव किए।
🔥 यह विवाद क्यों महत्वपूर्ण है?
यह मामला सिर्फ एक टेक कंपनी के खिलाफ कार्रवाई नहीं है। इसके बड़े प्रभाव हैं:
1. AI अपराधिक उत्तरदायित्व (AI Liability)
अब भारत स्पष्ट तौर पर कह रहा है कि AI मॉडल्स “टूल्स” से ज़्यादा aktiv भागीदार हैं, और उनके गलत परिणामों के लिए मालिक सुरक्षित नहीं रह सकते।
2. महिलाओं और बच्चों की सुरक्षा
डेटा और AI की शक्ति महिलाओं और बच्चों की निजता और गरिमा को प्रभावित कर सकती है। यह सवाल उठता है कि AI कब तक जिम्मेदार रहा सकता है।
3. ग्लोबल रेगुलेटरी ट्रेंड
– भारत के अलावा फ्रांस जैसी सरकारें भी Grok AI को ले कर कड़ी कार्रवाई कर रही हैं।
– यूरोपीय डिजिटल सेवा कानून (Digital Services Act) की भी ख़बरें हैं, जो AI और इंटरनेट प्लेटफॉर्म की ज़िम्मेदारी बढ़ाता है।
4. AI सुरक्षा ढांचे को मज़बूत करना
अब टेक कंपनियों को यह सोचना होगा कि तेज़ रिलीज़ से पहले सुरक्षा और मॉडरेशन को प्राथमिकता देना ज़रूरी है।
📍 इंडियन यूज़र्स के लिए सुझाव
✔️ अपने फोटो और संवेदनशील जानकारी को सोशल मीडिया पर साझा करते समय सावधान रहें।
✔️ ऐसे AI tools का उपयोग करने से पहले उनकी Privacy Policy और Safety Guide पढ़ें।
✔️ अवैध या आपत्तिजनक सामग्री बनाने/श्रेय साझा करने से बचें, क्योंकि इससे कानूनी जोखिम हो सकता है।
✔️ अगर कोई गलत AI सामग्री आपके सामने आती है, तो तुरंत प्लेटफॉर्म को रिपोर्ट करें।
📉 क्या X की Safe Harbour सुरक्षा ख़तरे में है?
हाँ। अगर X खुद अपने AI टूल के ज़रिए अवैध कंटेंट को नियंत्रित करने में नाकाम रहता है, तो भारत सरकार Section 79 की Safe Harbour protection को वापस ले सकती है। इससे X को:
🔹 सीधे कानून के तहत जवाबदेह बनाया जा सकता है
🔹 Chief Compliance Officer समेत कंपनी अधिकारी फौजदारी कार्रवाई के दायरे में आ सकते हैं
🔹 भारी अर्थदंड penalties और ऑपरेशन में बाधाएँ आ सकती हैं।
🧩 निष्कर्ष (Conclusion)
भारत ने Grok AI विवाद को रोका नहीं है — बल्कि यह एक स्पष्ट संदेश देता है कि AI, टेक प्लेटफॉर्म्स और डिजिटल सुरक्षा के मामलों में जवाबदेही पहले से ज्यादा जरूरी है।
सरकार ने न केवल X को अल्टीमेटम दिया है बल्कि उसमे सुधार लाने के लिये समय सीमा भी निर्धारित की है। अगर कंपनी समय पर सही उपाय नहीं करती, तो वह Safe Harbour सुरक्षा खो सकती है, और उसके खिलाफ कड़ी कानूनी कार्रवाई हो सकती है।
यह विवाद AI तकनीक की दुनिया में एक महत्वपूर्ण मोड़ है — जहां ethical AI usage, content security और कानून की ताकत अब एक साथ खड़ी हो रही हैं।
