हैरी पॉटर श्रृंखला को दुनिया को अपने टॉकिंग चित्रों और चलती तस्वीरों के साथ जीवित चित्रों के विचार के लिए इस्तेमाल किया गया। लेकिन पिछले हफ्ते, जब लियोनार्डो दा विंची की मोना लिसा के एक एआई-जेनरेट किए गए "जीवित चित्र" ने वेब पर राउंड बनाना शुरू किया, तो कई लोगों ने चौंका दिया जब प्रसिद्ध चित्र ने उसके होंठों को घुमाया और चारों ओर देखा।
लिसा घेरार्दिनी का एनिमेटेड चित्र कई नए "टॉकिंग हेड मॉडल" में से एक था - जिसे आमतौर पर "डीपफेक" के रूप में जाना जाता है - जो कि मॉस्को में सैमसंग के एआई सेंटर और स्कोलोवो इंस्टीट्यूट ऑफ साइंस एंड टेक्नोलॉजी के शोधकर्ताओं द्वारा निर्मित है। संदर्भ के कुछ ही फ्रेम या यहां तक कि एक एकल छवि का उपयोग करते हुए, शोधकर्ताओं ने ओपरा जैसी मशहूर हस्तियों को भी गहरा बना दिया, जो मर्लिन मुनरो और अल्बर्ट आइंस्टीन के जीवन के एकल स्नैपशॉट में लाया, और पर्ल इयररिंग के साथ वर्मेयर की लड़की के लिए प्रसिद्ध छवियों के लिए नए भाव बनाए।
शोधकर्ताओं ने उनकी विधि को पोस्ट किया, जिसे वे YouTube पर "कुछ शॉट सीखने", और एक पेपर में कहते हैं, जो अभी तक प्रीपर रिपॉजिटरी arXiv.org पर सहकर्मी की समीक्षा करना है। हालांकि डिटेल्स में बहुत तकनीकी मिलती है, लाइवसाइंस रिपोर्ट में मिंडी वेसबर्गर ने कहा कि लिविंग पोर्ट्रेट्स का निर्माण करने के लिए एक प्रकार की आर्टिफिशियल इंटेलिजेंस का इस्तेमाल किया जाता है, जिसे रेफ़रेंशियल न्यूरल नेटवर्क ट्रेन कहा जाता है। यह तब मोना लिसा की तरह तख्ते की एक स्थिर छवि से चेहरे की गतिविधियों को लागू करता है। जितने अधिक कोण और संदर्भ चित्र होंगे, जीवित चित्र उतना ही बेहतर होगा। कागज के अनुसार, एआई केवल 32 संदर्भ चित्रों का उपयोग करके "सही यथार्थवाद" (जो तीन छवि सेटों में से कौन सा डीपफेक था इसकी व्याख्या करने के लिए मनुष्यों की क्षमता से मापा जाता है) का उत्पादन कर सकता है।
मोना लिसा, बेशक, केवल एक छवि है, इसलिए लियोनार्डो की उत्कृष्ट कृति के तीन "जीवित चित्र" थोड़े अस्थिर हैं। संक्षिप्त एनिमेशन के लिए, तंत्रिका नेटवर्क ने तीन अलग-अलग प्रशिक्षण वीडियो देखे, और मोना लिसा के तीन संस्करण उन फ़्रेमों पर आधारित हैं जिनमें से प्रत्येक में अलग-अलग व्यक्तित्व दिखाई देते हैं। यदि लियोनार्डो ने अपने प्रसिद्ध मॉडल को विभिन्न कोणों से चित्रित किया था, तो सिस्टम एक और अधिक यथार्थवादी जीवित चित्र का उत्पादन कर सकता था।
जबकि एनिमेटेड मोना लिसा मनोरंजक है, डीपफेक के उदय ने चिंता उत्पन्न की है कि कंप्यूटर द्वारा उत्पन्न समानताएं लोगों को बदनाम करने, नस्लीय या राजनीतिक तनावों को रोकने और ऑनलाइन मीडिया में विश्वास को खत्म करने के लिए इस्तेमाल की जा सकती हैं। ब्रुक इंस्टीट्यूशन में जॉन विसेनोर लिखते हैं, "टी [] हे, सभी वीडियो में हमारे विश्वास को कमज़ोर करते हैं, जो वास्तविक हैं। "सत्य स्वयं मायावी हो जाता है, क्योंकि हम अब निश्चित नहीं हो सकते हैं कि वास्तविक क्या है और क्या नहीं है।"
जबकि एआई का उपयोग डीपफेक बनाने के लिए किया जा रहा है, विलासेनोर का कहना है कि, कम से कम अभी के लिए, यह उन विसंगतियों की तलाश करके डीपफेक की पहचान करने के लिए भी इस्तेमाल किया जा सकता है जो मानव आंखों के लिए स्पष्ट नहीं हैं।
हार्वर्ड-एमआईटी एथिक्स एंड गवर्नेंस ऑफ एआई इनिशिएटिव के निदेशक टिम ह्वांग ने वायर्ड में ग्रेगरी बार्बर को बताया कि हम उस बिंदु पर नहीं हैं जहां बुरे अभिनेता अभी तक अपने व्यक्तिगत लैपटॉप पर परिष्कृत डीपफेक बना सकते हैं। "मेरे लिए कुछ भी नहीं बताता है कि आप घर पर डीपफेक बनाने के लिए इसका इस्तेमाल करेंगे।" "अल्पकालिक, मध्यम अवधि या दीर्घावधि में भी नहीं।"
ऐसा इसलिए है क्योंकि सैमसंग की नई प्रणाली का उपयोग करना महंगा है और इसके लिए विशेषज्ञता की आवश्यकता है। लेकिन बार्बर का लेख बताता है कि यह लोगों को बेवकूफ बनाने के लिए तंत्रिका नेटवर्क द्वारा बनाए गए सुपर-परिष्कृत फोटो-यथार्थवादी वीडियो नहीं लेता है। पिछले हफ्ते ही, एक छेड़छाड़ वाला वीडियो, जिसे यूएस हाउस स्पीकर नैन्सी पेलोसी ने नशे में सोशल नेटवर्क पर प्रसारित करने के लिए धीमा कर दिया था।
आखिरकार, हालांकि, प्रौद्योगिकी काफी अच्छी होगी कि बुरे अभिनेता डीपफेक का उत्पादन करने में सक्षम होंगे ताकि वे आश्वस्त हो सकें कि उनका पता नहीं लगाया जा सकता है। जब वह दिन आता है, ह्वांग वायर्ड को बताता है, लोगों को वास्तविक और क्या नकली है, यह पता लगाने के लिए तथ्य-जाँच और प्रासंगिक सुराग पर भरोसा करने की आवश्यकता होगी। उदाहरण के लिए, यदि मोना लिसा की नज़दीकी हँसी आधी मुस्कुराती है, तो वह दाँत की मुस्कराहट बन जाती है और वह आपको वाइटनिंग टूथपेस्ट बेचने की कोशिश करती है, यह निश्चित रूप से एक गहरी बात है।
