मुंबई: कृत्रिम बुद्धिमत्ता (एआई) के बढ़ते दुरुपयोग पर महत्वपूर्ण टिप्पणी करते हुए बॉम्बे हाई कोर्ट ने अभिनेत्री प्रीति जिंटा को बड़ी राहत दी है। न्यायालय ने गूगल एलएलसी, मेटा प्लेटफॉर्म्स, एक्स, यूट्यूब और अन्य ऑनलाइन मध्यस्थों को निर्देश दिया है कि वे अभिनेत्री की अनुमति के बिना तैयार किए गए एआई डीपफेक वीडियो, मॉर्फ्ड तस्वीरें, फर्जी चैटबॉट, बदले हुए वीडियो, जीआईएफ और अन्य डिजिटल सामग्री को 72 घंटे के भीतर हटाएं या उनकी पहुंच रोकें।
न्यायमूर्ति माधव जे. जमदार की एकलपीठ ने माना कि प्रथम दृष्टया यह स्पष्ट है कि प्रीति जिंटा के व्यक्तित्व, प्रचार और नैतिक अधिकारों का उल्लंघन हुआ है। अदालत ने कहा कि एआई की मदद से तैयार किए गए डीपफेक, मॉर्फ्ड तस्वीरें, सुपरइम्पोज्ड वीडियो और अन्य छेड़छाड़ की गई सामग्री का प्रसार अभिनेत्री की पहचान का अवैध उपयोग है, जिससे उनकी प्रतिष्ठा और अधिकारों को गंभीर क्षति पहुंच सकती है। अंतरिम आदेश अगली सुनवाई तक प्रभावी रहेगा।
याचिका में प्रीति जिंटा ने कहा कि उनकी पहचान का व्यापक स्तर पर दुरुपयोग किया जा रहा है। उनके नाम, तस्वीर, आवाज, मुस्कान, हावभाव और सार्वजनिक छवि का उपयोग कर एआई आधारित डीपफेक वीडियो, फर्जी चैटबॉट, मॉर्फ्ड तस्वीरें, अनधिकृत उत्पाद और अन्य डिजिटल सामग्री तैयार की गई है, जिससे ऐसा प्रतीत होता है कि वह इन सेवाओं या उत्पादों का समर्थन कर रही हैं।
याचिका में यूट्यूब, फेसबुक, इंस्टाग्राम और एक्स सहित विभिन्न मंचों पर उपलब्ध 275 से अधिक आपत्तिजनक यूआरएल का उल्लेख किया गया है। अभिनेत्री का कहना था कि उनकी पहचान का व्यावसायिक लाभ के लिए अनधिकृत उपयोग किया जा रहा है, जिससे उनकी प्रतिष्ठा, साख और व्यावसायिक हितों को नुकसान पहुंच रहा है।
रिकॉर्ड पर उपलब्ध सामग्री का परीक्षण करने के बाद हाई कोर्ट ने पाया कि एआई डीपफेक, छेड़छाड़ की गई तस्वीरों, नकली वीडियो, एआई चैटबॉट और अभिनेत्री के नाम एवं तस्वीर वाले अनधिकृत उत्पादों के माध्यम से उनकी पहचान का बड़े पैमाने पर दुरुपयोग किया गया है। अदालत ने कहा कि इस प्रकार की सामग्री आम लोगों को भ्रमित कर सकती है और किसी व्यक्ति की सार्वजनिक छवि को अपूरणीय क्षति पहुंचा सकती है।
न्यायालय ने यह भी कहा कि एक बार एआई से तैयार डीपफेक सामग्री इंटरनेट पर अपलोड हो जाने के बाद उसे अनगिनत बार साझा और पुनः प्रकाशित किया जा सकता है। इसलिए ऐसी स्थिति में समय रहते न्यायिक हस्तक्षेप आवश्यक है ताकि व्यक्तित्व अधिकारों का लगातार हो रहा उल्लंघन रोका जा सके।
अदालत ने स्पष्ट किया कि व्यक्तित्व और प्रचार अधिकार संविधान के अनुच्छेद 19(1)(क) तथा अनुच्छेद 21 से संरक्षण प्राप्त करते हैं, जो अभिव्यक्ति की स्वतंत्रता, निजता, गरिमा और व्यक्तिगत स्वायत्तता की रक्षा करते हैं। साथ ही, अदालत ने माना कि अभिनेत्री की पहचान का अनधिकृत उपयोग कॉपीराइट अधिनियम, 1957 के तहत संरक्षित नैतिक अधिकारों का भी प्रथम दृष्टया उल्लंघन है।
हाई कोर्ट ने सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश एवं डिजिटल मीडिया आचार संहिता) नियम, 2021 के नियम 3 का उल्लेख करते हुए कहा कि ऑनलाइन मध्यस्थों का यह वैधानिक दायित्व है कि वे अपने मंचों पर उपलब्ध अवैध और अधिकारों का उल्लंघन करने वाली सामग्री के विरुद्ध आवश्यक कार्रवाई करें।
सुनवाई के दौरान अदालत ने प्रौद्योगिकी कंपनियों को मौखिक रूप से चेतावनी भी दी कि वैश्विक डिजिटल मंचों को यह सुनिश्चित करना चाहिए कि उनकी सेवाओं का उपयोग किसी व्यक्ति के मौलिक अधिकारों के उल्लंघन के लिए न हो। अदालत ने कहा कि यदि मंच समय पर कार्रवाई करेंगे तो ऐसे मामलों में कमी आएगी और नागरिकों के अधिकारों की बेहतर सुरक्षा होगी।
हाई कोर्ट ने गूगल, यूट्यूब, मेटा, एक्स और अन्य मंचों को 72 घंटे के भीतर चिन्हित सामग्री हटाने का निर्देश दिया। साथ ही यह भी आदेश दिया कि भविष्य में यदि प्रीति जिंटा किसी नए आपत्तिजनक यूआरएल की सूचना दें तो उस पर भी इसी अवधि में कार्रवाई की जाए। हालांकि, यदि किसी मंच को लगे कि संबंधित सामग्री वैध या अधिकारों का उल्लंघन नहीं करती है, तो वह उचित निर्देशों के लिए अदालत का रुख कर सकता है।
अदालत ने प्रतिवादियों और अज्ञात व्यक्तियों को भी बिना स्पष्ट अनुमति के प्रीति जिंटा के नाम, तस्वीर, आवाज, व्यक्तित्व या अन्य पहचान संबंधी विशेषताओं का उपयोग कर एआई चैटबॉट, डिजिटल अवतार, डीपफेक, फेस मॉर्फिंग, बदले हुए वीडियो या अन्य कृत्रिम बुद्धिमत्ता आधारित सामग्री तैयार करने, प्रकाशित करने, प्रसारित करने या व्यावसायिक रूप से उपयोग करने से रोक दिया है।
इसके अतिरिक्त, न्यायालय ने कुछ डिजिटल मंचों को अभिनेत्री की पहचान पर आधारित एआई पात्रों को निष्क्रिय करने, भविष्य में ऐसे नए एआई पात्र बनने से रोकने तथा आवश्यक होने पर कानून के अनुसार आपत्तिजनक वेबसाइटों का संचालन करने वाले व्यक्तियों का पंजीकरण विवरण उपलब्ध कराने का भी निर्देश दिया है।
मामले की अगली सुनवाई 3 सितंबर 2026 को होगी। तब तक हाई कोर्ट द्वारा दिया गया अंतरिम संरक्षण प्रभावी रहेगा।
