ओपनआर्ट द्वारा डाली-3 का उपयोग करके बनाई गई छवि।

आजकल, लगभग कोई भी सरल, व्यापक रूप से सुलभ कृत्रिम बुद्धिमत्ता (AI) सॉफ़्टवेयर का उपयोग करके मशहूर हस्तियों या नियमित लोगों के अभिनय और बातचीत की ऑडियो या वीडियो रिकॉर्डिंग बना सकता है, जैसा पहले कभी नहीं किया गया होगा। जिन लोगों की आवाज़ों और चित्रों को हथियाया जा रहा है, उनके अधिकारों को अधिक गंभीरता से संरक्षित करने की आवश्यकता है। दुनिया भर में आगामी चुनावों में AI के दुरुपयोग को रोकने के लिए बड़ी तकनीकी कंपनियों मिलकर एक ऐतिहासिक प्रयास कर रही हैं।

डीपफेक का विकास जारी है और हर बार बेहतर गुणवत्ता, अधिक ठोस और वास्तविकता के करीब होता है। 2024 के दौरान दुनिया भर में बड़ी संख्या में चुनाव होने से इन चुनावी प्रक्रियाओं में कृत्रिम बुद्धिमत्ता को शामिल करने की चिंता बढ़ गई है, जो चुनावों की अखंडता से समझौता कर सकती है। चुनाव की तैयारी कर रहे दुनिया के कई देशों में डीपफेक द्वारा मतदाता हेरफेर मुख्य चर्चाओं में से एक है। 50 से अधिक विभिन्न देशों में लगभग 4 अरब लोग मतपेटियों की ओर रुख करेंगे। राजनीतिक प्रभाव संचालन में AI-जनित सामग्री के उपयोग पर शिक्षाविदों, पत्रकारों और राजनेताओं द्वारा चिंता व्यक्त की गई है।

बहरहाल, AI-जनित सामग्री का हमारे सामाजिक जीवन पर भी अधिक प्रभाव पड़ेगा। हाल ही में, वायरल मामले मशहूर हस्तियों से संबंधित रहे हैं, लेकिन यह देखते हुए कि डीपफेक कितनी तेजी से विकसित हो रहा है, हमारे पास नियमित लोगों के डीपफेक वीडियो होंगे जो सेलिब्रिटी या राजनेता नहीं हैं और अपनी नौकरियों या गतिविधियों में सार्वजनिक रुचि नहीं जगाते हैं। यह समाज के लिए एक बहुत ही गंभीर खतरा होगा, और इसीलिए AI-जनित चालबाजियों के खिलाफ सामूहिक पहल करना बहुत महत्वपूर्ण है।

हालिया डीपफेक मामलों का अध्ययन

डीपफेक, या गैर-AI-आधारित हेरफेर जिन्हें “चीपफेक” कहा जाता है, नए नहीं हैं और कुछ समय से मौजूद हैं। हालाँकि, AI को व्यापक दर्शकों तक लाने में ChatGPT के प्रभाव के साथ, पिछले वर्ष में AI कंपनियों में अरबों डॉलर का निवेश किया गया है। ऐसे कार्यक्रमों का विकास जो उनके उत्पादन को सुविधाजनक बनाते हैं, विशेष रूप से डीपफेक, ने जनता को लक्षित करने वाले डीपफेक का उत्पादन करने के लिए कृत्रिम बुद्धिमत्ता के उपयोग को कई गुना बढ़ा दिया है। अब भी, वीडियो हेरफेर के अलावा, ऐसे मामले सामने आए हैं जहां एक ऑडियो डीपफेक तैयार किया जाता है, जिसे बनाना और भी आसान है।

अमेरिकी राष्ट्रपति जो बाईडेन के ऑडियो डीपफेक का मामला, जिसे न्यू हैम्पशायर में वितरित किया गया था, जिसमें लोगों से राज्य के प्राइमरी में वोट न देने का आग्रह किया गया था, 20,000 से अधिक लोगों तक पहुंच गया। स्टीव क्रेमर, जो इस हेरफेर के पीछे था और जिसे यह तैयार करने के लिए $150 का भुगतान किया था, ने दावा किया कि उसने राजनीति में कृत्रिम बुद्धिमत्ता से जुड़े जोखिमों की ओर ध्यान आकर्षित करने और AI की आवश्यकता पर ध्यान आकर्षित करने के लिए सविनय अवज्ञा के एक कार्य के रूप में ऐसा किया।

एक और बड़ा उदाहरण जिसने दिखाया कि डीपफेक लोकतंत्र के लिए कितना खतरनाक हो सकता है, वह है स्लोवाक राजनेता मिशाल सिमेका का ऑडियो डीपफेक। स्लोवाकिया के चुनाव से 48 घंटे पहले फेसबुक पर एक रिकॉर्डेड वॉयस संदेश अपलोड किया गया था, जिसमें सिमेका पत्रकार मोनिका टोडोवा के साथ चुनावी धोखाधड़ी पर चर्चा कर रही थीं। एक उदाहरण जिसके गंभीर राजनीतिक और सामाजिक निहितार्थ हो सकते हैं वह लंदन के मेयर सादिक खान का ऑडियो डीपफेक है। नवंबर 2023 की शुरुआत में, खान का एक ऑडियो डीपफेक वायरल हो गया जब वह युद्धविराम दिवस (प्रथम विश्व युद्ध समाप्त होने के क्षण को चिह्नित करने के लिए एक उत्सव) का अपमान करते हुए और फिलिस्तीन समर्थक मार्च को प्राथमिकता देने की मांग करते हुए दिखाई दिए।

राजनीतिक नायकों के साथ ऑडियो डीपफेक के अलावा, मशहूर हस्तियों के साथ वीडियो डीपफेक इंटरनेट पर प्रसारित होते रहते हैं। उदाहरण के लिए, प्रसिद्ध हॉलीवुड अभिनेता, टॉम हैंक्स के वीडियो डीपफेक हैं, जिसमें उनके AI संस्करण ने एक डेंटल योजना का प्रचार किया, या प्रसिद्ध अमेरिकी यूट्यूबर, मिस्टरबीस्ट, जो “दुनिया के सबसे बड़े आईफोन 15 उपहार” की मेजबानी करते दिखाई दिए।

गायक टेलर स्विफ्ट की छवि डीपफेक जो इस साल की शुरुआत में कई सोशल मीडिया प्लेटफॉर्म – एक्स (पूर्व में ट्विटर), इंस्टाग्राम, फेसबुक और रेडिट – पर प्रकाशित हुई थी, वह भी वायरल हो गई। एक्स से हटाए जाने से पहले, स्विफ्ट की एक छवि डीपफेक को प्लेटफ़ॉर्म पर लगभग 17 घंटों में 45 मिलियन से अधिक बार देखा गया था।

AI-जनित चालबाजी के खिलाफ एक सामूहिक पहल

म्यूनिख सुरक्षा सम्मेलन में घोषित “2024 चुनावों में AI के भ्रामक उपयोग से निपटने के लिए तकनीकी समझौते” में अडोबी, गूगल, माइक्रोसॉफ्ट, ओपनAI, स्नैप इंक और मेटा सहित 20 प्रमुख कंपनियों ने नवीनतम तकनीक का उपयोग कर हानिकारक AI-जनित सामग्री, जिसका उद्देश्य मतदाताओं को गुमराह करना है, का पता लगाने और उसका प्रतिकार करने के लिए प्रतिबद्धता जताई। साथ ही कहा कि सार्वजनिक जागरूकता और मीडिया साक्षरता को बढ़ावा देने के प्रयासों का वे समर्थन करेंगे। यह पहली बार है कि AI-जनित चालबाजी के खिलाफ 20 अलग-अलग कंपनियां एकजुट हो रही हैं।

भाग लेने वाली कंपनियां भ्रामक AI चुनाव सामग्री से संबंधित जोखिमों को कम करने के लिए आठ विशिष्ट प्रतिबद्धताओं पर सहमत हुईं। तकनीकी क्षेत्र और AI के बीच इस पहल का उद्देश्य AI द्वारा बनाए गए चित्रों, वीडियो और ऑडियो को लक्षित करना है जो मतदाताओं को उम्मीदवारों, चुनाव अधिकारियों और मतदान प्रक्रिया के बारे में गुमराह कर सकते हैं। हालाँकि, इसमें यह मांग नहीं की गई है कि ऐसी सामग्री पर पूरी तरह से प्रतिबंध लगाया जाए।