संगीत प्रदर्शन "दृष्टि मशीन" से पता चलता है कि हमारे बारे में कृत्रिम बुद्धि "सोच" क्या है | स्मिथसोनियन में | स्मिथसोनियन - लेख, कला और संस्कृति, कला और कलाकार, स्मिथसोनियन, प्रदर्शनियों, नवाचार, नवीन आविष्कारों पर

पिछले साल, फेसबुक ने दो चैटबॉट बनाए और उन्हें एक दूसरे से बात करने के लिए कहा, अपने बातचीत कौशल का अभ्यास किया। बॉट्स, यह पता चला है, बातचीत करने में बहुत अच्छे थे - लेकिन उन्होंने अपनी स्वयं की बनाई भाषा का उपयोग किया जो मनुष्यों के लिए समझ से बाहर था।

संबंधित सामग्री

यह कलाकार क्लासीस्टाइन वर्ल्ड ऑफ क्लासीफाइड सीक्रेट्स एंड सर्विलांस में काम करता है

यहीं पर संसार चल रहा है। कंप्यूटर एक दूसरे के लिए सामग्री बना रहे हैं, हम नहीं। चित्रों को कंप्यूटर द्वारा लिया जा रहा है, अन्य कंप्यूटरों को देखने और व्याख्या करने के लिए। यह सब चुपचाप हो रहा है, अक्सर हमारे ज्ञान या सहमति के बिना।

इसलिए कंप्यूटर की तरह देखना सीखना - इन मशीन-टू-मशीन संचार को दृश्यमान बनाना - 21 वीं सदी का सबसे महत्वपूर्ण कौशल हो सकता है।

25 अक्टूबर, 2018 को क्रोनोस चौकड़ी-डेविड हैरिंगटन, जॉन शेरबा, हैंक दत्त, और सनी यांग ने स्मिथसोनियन अमेरिकन आर्ट म्यूज़ियम में एक कॉन्सर्ट खेला। वे 400 मनुष्यों और एक दर्जन कृत्रिम बुद्धि एल्गोरिदम, ट्रेवर पैगलेन के बाद के सौजन्य से देखे गए थे, जो "साइट अनसीन" प्रदर्शनी के पीछे कलाकार हैं, वर्तमान में संग्रहालय में देखने के लिए।

जैसा कि संगीतकारों ने बजाया था, उनके ऊपर एक स्क्रीन ने हमें मनुष्यों को दिखाया जो कंप्यूटर देख रहे थे।

जैसा कि क्रोनोस ने एक शोकग्रस्त टुकड़े के माध्यम से अपना काम किया, मूल रूप से ओटोमन साम्राज्य से, स्क्रीन ओवरहेड एल्गोरिदम ने संगीतकारों के चेहरे, प्रत्येक व्यक्ति के लिए होंठ, आंखों और नाक को रेखांकित किया (और कभी-कभी "भूत" चेहरे देखा जहां कोई नहीं था - अक्सर क्रोनोस के संस्थापक हैरिंगटन के बालों की खाल)। जैसे-जैसे एल्गोरिदम अधिक उन्नत होता गया, तब तक वीडियो फीड फीकी पड़ती गई जब तक कि एक काले रंग की पृष्ठभूमि पर केवल नीयन रेखाएं नहीं रहीं। अंत में, चेहरे की रूपरेखा लाइनों की एक अमूर्त व्यवस्था तक दूर हो गई - संभवतः सभी कंप्यूटर को "चेहरे" को समझने की आवश्यकता थी, लेकिन पूरी तरह से मानव के लिए अनजाने में - वह सब छोड़ दिया गया था।

"साइट मशीन, " ट्रेवर पैग्लन, क्रोनोस चौकड़ी (ब्रूस गुथरी)

"साइट मशीन, " ट्रेवर पगलेन, क्रोनोस चौकड़ी

"साइट मशीन" के प्रदर्शन का ईस्ट कोस्ट डेब्यू पगलेन के अन्य काम की तरह, दर्शकों और श्रोताओं से यह जानने के लिए कहा कि कंप्यूटर को कैसे देखना है, और मानवीय संबंधों को प्रौद्योगिकी के रूप में देखना - हमारी जेबों में फोन, और आँखों में देखने के लिए। आकाश, और बीच में सब कुछ।

यह 2018 है, और यह विचार कि सेल फोन अब हमें नहीं देख रहे हैं, एक टिन-पन्नी-टोपी-पहने तहखाने ब्लॉगर द्वारा लगाए गए साजिश के सिद्धांत की तरह लगता है। Google को इस वर्ष की शुरुआत में एंड्रॉइड फोन उपयोगकर्ताओं के स्थानों पर नज़र रखने के लिए पकड़ा गया था, भले ही उपयोगकर्ताओं ने सुविधा को अक्षम कर दिया हो। कई लोग मान रहे हैं कि हमारे फोन विज्ञापनों को बेहतर ढंग से पूरा करने के लिए हमें सुन रहे हैं- फेसबुक और अन्य कंपनियां इन आरोपों से इनकार करती हैं, हालांकि ऐसा करना उनके लिए तकनीकी और कानूनी रूप से संभव है। टेक पत्रकारों एलेक्स गोल्डमैन और पीजे वोग्ट ने जांच की और एक ही बात पाई: ऐसा कोई कारण नहीं है कि हमारे फोन नहीं सुन रहे होंगे, लेकिन दूसरी तरफ, विज्ञापनदाता अन्य तरीकों के माध्यम से हमारे बारे में पर्याप्त जानकारी प्राप्त कर सकते हैं, जिनकी उन्हें आवश्यकता नहीं है ।

यह इस संदर्भ में है कि "साइट मशीन" का प्रदर्शन किया गया था। क्रोनोस चौकड़ी देखने वाले दर्जनों या तो कैमरों ने प्रदर्शन से लाइव वीडियो को कंप्यूटर के एक रैक में भेज दिया, जो कि ऑफ-द-शेल्फ आर्टिफिशियल इंटेलिजेंस एल्गोरिदम का उपयोग करता है जिससे भयानक दृश्य बनते हैं। एल्गोरिदम वही होते हैं जो हमारे फोन में उपयोग किए जाते हैं ताकि हमें बेहतर सेल्फी लेने में मदद मिल सके, स्व-ड्राइविंग कारों द्वारा उपयोग की जाने वाली बाधाएं, और कानून प्रवर्तन और हथियारों के मार्गदर्शन द्वारा उपयोग किए जाने वाले। इसलिए जब स्क्रीन पर परिणाम कभी-कभी सुंदर होते थे, या मजाकिया होते थे, तब भी डरावनी स्थिति होती थी।

संग्रहालय के क्यूरेटर जॉन जैकब कहते हैं, "मैं इस विशेष कार्य से चकित हूं, वह हमें कुछ ऐसा दिखा रहा है - और यह उसके सभी कार्यों का सत्य है- वह हमें कुछ ऐसा दिखा रहा है जो परेशान कर रहा है और वह इसका उपयोग कर रहा है।" फोटोग्राफी के लिए, जिसने "साइट अनसीन" का आयोजन किया।

"यह एक जानबूझकर चाल है, " वह कहते हैं, "और यह काम करता है।"

बाद में, परिष्कृत चेहरे की पहचान एल्गोरिदम ने क्रोनोस के सदस्यों के बारे में निर्णय लिया, और एक स्क्रीन पर उनके परिणाम प्रदर्शित किए। "यह जॉन [शेरबा] है। जॉन 24-40 वर्ष के बीच का है, " कंप्यूटर ने कहा। "सनी [यांग] 94.4% महिला है। सनी 80% गुस्सा है और 10% तटस्थ है।"

पैगलेन कहती हैं, "चीजों में से एक जो मुझे लगता है कि प्रदर्शन से पता चलता है, " कुछ ऐसे तरीके हैं, जिनमें कंप्यूटर की तरह-तरह की धारणाएं तटस्थ नहीं हैं। यह बहुत पक्षपाती है। सभी प्रकार की राजनीतिक और सांस्कृतिक मान्यताओं के साथ। तटस्थ नहीं। " यदि लिंग-वर्गीकरण प्रणाली कहती है कि सनी यांग 94.4 प्रतिशत महिला है, तो इसका मतलब है कि कोई 100 प्रतिशत महिला है। "और किसने तय किया कि 100 प्रतिशत महिला क्या है? क्या बार्बी 100 प्रतिशत महिला है? और लिंग द्विआधारी क्यों है?" पगलेन पूछता है। "यह देखते हुए कि एक पल में जहां संघीय सरकार सचमुच जेंडर-जेंडर लोगों को मिटाने की कोशिश कर रही है, यह एक तरफ हास्यास्पद है लेकिन मेरे लिए यह भी भयानक है।"

बाद में एल्गोरिथ्म प्रतिशत के साथ दूर चला गया और बस दृश्य में वस्तुओं की पहचान करने के लिए ले जाया गया। "माइक्रोफोन। वायलिन। व्यक्ति। जेलिफ़िश। विग।" (बाद के दो स्पष्ट रूप से गलतियाँ हैं; एल्गोरिथ्म एक जेलिफ़िश के लिए हंक दत्त को भ्रमित करने के लिए लगता है और टॉरपी के लिए हैरिंगटन के असली बाल।) तब वर्गीकरण अधिक जटिल हो गया। "सनी ने कैंची की एक जोड़ी पकड़ रखी है, " मशीन ने कहा कि प्रकाश उसके सेलो तार को बंद कर देता है। "जॉन ने चाकू पकड़ा हुआ है।" यदि क्लासिफायरियर ने यह दिया-कानून प्रवर्तन को गलत जानकारी दी, तो हम कभी नहीं जान पाएंगे।

एआई प्लेटफार्मों के अधिकांश अंतिम उपयोगकर्ता-जो कलाकार नहीं हैं - यह तर्क दे सकते हैं कि इन प्रणालियों के पास अपने स्वयं के पूर्वाग्रह हो सकते हैं, लेकिन हमेशा एक मानव द्वारा अंतिम साइन-ऑफ प्राप्त होता है। अमेज़ॅन-निर्मित एल्गोरिथ्म, रेकग्निशन, जिसे कंपनी कानून प्रवर्तन और संभवतः ICE को बेचती है, प्रसिद्ध रूप से कांग्रेस के 28 सदस्यों को गलत तरीके से बताती है, जिन लोगों पर एक सार्वजनिक रूप से उपलब्ध डेटाबेस में उनके चेहरे की तुलना मुगट से की गई थी। उस समय, अमेज़ॅन ने तर्क दिया कि ACLU, जिसने मैचों को बनाने के लिए सिस्टम का उपयोग किया था, ने Rekognition का गलत तरीके से उपयोग किया था। कंपनी ने कहा कि मैचों के लिए सिस्टम की डिफ़ॉल्ट सेटिंग, जिसे "आत्मविश्वास सीमा" कहा जाता है, सिर्फ 80 प्रतिशत है। (दूसरे शब्दों में, एल्गोरिथ्म केवल 80 प्रतिशत सुनिश्चित था कि रेप। जॉन लुईस एक अपराधी था।) अमेज़ॅन के एक प्रवक्ता ने कहा कि यह अनुशंसा करता है कि पुलिस विभाग 95 प्रतिशत आत्मविश्वास की सीमा का उपयोग करें, और यह कि "अमेज़ॅन रीकोग्निशन लगभग विशेष रूप से मदद करने के लिए उपयोग किया जाता है। क्षेत्र को संकीर्ण करें और मनुष्यों को अपने फैसले का उपयोग करने की समीक्षा करने और विकल्पों पर विचार करने की अनुमति दें। ”कंप्यूटर एक दूसरे के साथ संवाद कर सकते हैं, लेकिन अभी के लिए-वे अभी भी मनुष्यों को अंतिम कॉल करने के लिए कह रहे हैं।

क्रागोस के इनपुट के साथ पगलेन द्वारा चुना गया संगीत, प्रौद्योगिकी के बारे में भी कुछ कहना है। एक टुकड़ा, "पावरहाउस, " रेमंड स्कॉट द्वारा, "संभवतः कारखाने के दृश्यों में कार्टून में उपयोग किए जाने के लिए सबसे प्रसिद्ध है, " पेंसिलीन कहते हैं। "अगर आप कभी भी किसी तरह की ओवरड्रॉडिंग और पागल होने का कारखाना देखते हैं, तो यह अक्सर ऐसा संगीत होता है, जो बोलता है। मेरे लिए यह एक तरह से सोचने का तरीका है कि लगभग कार्टूनिस्ट औद्योगिकीकरण और एक प्रौद्योगिकी के संदर्भ में उन्हें स्वस्थ करना है।" स्टीव रीच द्वारा एक और टुकड़ा, "अलग गाड़ियों" ने सेट को बंद कर दिया। क्रोनोस केवल पहला आंदोलन करता है, जो 1930 और 40 के दशक में रीच के बचपन के बारे में है; पगलेन का कहना है कि वह इस बात का जश्न मनाते हैं कि "अतिउत्साह और प्रगति की भावना है कि रेलगाड़ियों की सुविधा है।"

यह इमेजनेट नामक एक सार्वजनिक रूप से उपलब्ध डेटाबेस से छवियों के साथ युग्मित किया गया था, जो कंप्यूटर को सिखाने के लिए उपयोग किया जाता है कि चीजें क्या हैं। (इसे "प्रशिक्षण डेटा" भी कहा जाता है, इसलिए हां, यह थोड़ा सा एक दंड है।) स्क्रीन ने छवियों को तेजी से प्रवाहित किया, जिसमें फल, फूल, पक्षी, टोपी, खड़े लोगों, चलने वाले लोग, कूदते हुए लोगों के उदाहरण दिखाए गए और अर्नोल्ड श्वार्ज़नेगर जैसे व्यक्ति। यदि आप कंप्यूटर सिखाना चाहते हैं कि किसी व्यक्ति को कैसे पहचानें, जैसे श्वार्जनेगर, या एक घर या "रात के खाने" की अवधारणा, तो आप कंप्यूटर को इन हजारों चित्रों को दिखाकर शुरू करेंगे।

लोगों के चुंबन, आलिंगन, हंसी और मुस्कुराते हुए वीडियो क्लिप भी थे। हो सकता है कि इन तस्वीरों पर प्रशिक्षित एआई एक दयालु, मिलनसार हो।

लेकिन "विभिन्न ट्रेनें" केवल आशावाद के बारे में नहीं हैं; बाद के आंदोलनों, जो क्रोनोस ने गुरुवार को नहीं खेला, लेकिन पहले से "निहित" हैं, प्रलय का साधन बनने के लिए ट्रेन यात्रा के वादे को कैसे लागू किया गया, इसके बारे में हैं। तकनीकी प्रगति की तरह लगने वाली गाड़ियाँ वे वाहन बन गईं जिनमें दसियों हज़ार यहूदियों को मौत के घाट उतार दिया गया था। क्या लग रहा था जैसे एक परोपकारी तकनीक बुराई के लिए विकृत हो गई थी।

"यह ऐसा है, 'क्या संभवतः गलत हो सकता है?" पगलेन कहती हैं। "हम दुनिया के सभी लोगों की सारी जानकारी एकत्र कर रहे हैं।"

और वास्तव में, "विभिन्न ट्रेनों" के समाप्त होने के बाद, ध्यान स्थानांतरित हो गया। स्क्रीन ने अब क्रोनोस या इमेजनेट से प्रशिक्षण डेटा की छवियां नहीं दिखाईं; इसके बजाय, इसने दर्शकों का लाइव वीडियो फ़ीड दिखाया, क्योंकि चेहरे की पहचान एल्गोरिदम ने प्रत्येक व्यक्ति की विशेषताओं को बाहर निकाल दिया। सचमुच, जब हम सोचते हैं कि हमें देखा नहीं जा रहा है, तो हम हैं।

दर्शकों के लाइव वीडियो फ़ीड में, चेहरे की पहचान एल्गोरिदम ने प्रत्येक व्यक्ति की विशेषताओं को बाहर निकाल दिया। (ब्रूस गुथरी)

इस कहानी को रिपोर्ट करने के लिए, मैंने अपना घर छोड़ दिया और मेट्रो स्टेशन चला गया, जहां मैंने टर्नस्टाइल से जाने के लिए अपने नाम से जुड़ा एक इलेक्ट्रॉनिक कार्ड स्कैन किया, और फिर जब मैंने मेट्रो शहर से बाहर निकल गया। डाउनटाउन, मैंने संग्रहालय में प्रवेश करने से पहले एक आधा दर्जन सुरक्षा कैमरे पारित किए, जहां मुझे कम से कम दो और स्पॉट किए गए (स्मिथसोनियन प्रवक्ता का कहना है कि स्मिथसोनियन चेहरे की पहचान तकनीक का उपयोग नहीं करते हैं; डीसी महानगर पुलिस विभाग अपने कैमरों के बारे में भी यही कहता है)।

मैंने अपने फोन का उपयोग करके साक्षात्कार रिकॉर्ड किया और ऑडियो को एक ट्रांसक्रिप्शन सेवा में अपलोड किया, जो एआई का उपयोग करता है कि मैं और मेरे विषय क्या कह रहे हैं, यह कह रहे हैं और साक्षात्कार की सामग्री के आधार पर मेरे लिए विज्ञापन को लक्षित नहीं कर सकते हैं या नहीं कर सकते हैं। मैंने जीमेल का उपयोग करके ईमेल भेजे, जो अभी भी मेरे द्वारा भेजे गए सब कुछ "पढ़ता है" (हालांकि अब मुझे विज्ञापन नहीं देना है)।

रिपोर्टिंग प्रक्रिया के दौरान, जैसा कि मैं शहर से गुजर रहा था, मैं भाग गया- मैं इसे नहीं बना रहा हूं - Google स्ट्रीट व्यू कार। दो बार। यह व्यामोह नहीं है अगर वे वास्तव में आपको देख रहे हैं, है ना?

तो क्या बचा है, इस दुनिया में जहाँ कंप्यूटर देख रहे हैं, और संभवतः हमारे बारे में निर्णय कर रहे हैं? "साइट मशीन" हमें एक कंप्यूटर की तरह सोचने के लिए सीखने का आग्रह करती है - लेकिन यह भी हमें याद दिलाता है कि हमारे कुछ हिस्से ऐसे हैं जो अभी के लिए, अभी भी पूरी तरह से मानव हैं।

संगीत, पगलेन का कहना है, "ऐसा कुछ है जो वास्तव में मात्रात्मक नहीं है। जब आप कंप्यूटर विज़न सिस्टम को अनिवार्य रूप से कलाकारों से पूछताछ करते हुए देखते हैं, तो यह वास्तव में मेरे लिए उस विशाल खाई को उस तरह से इंगित करता है जैसे हम संस्कृति और भावना और अर्थ को समझते हैं। और वे सभी तरीके जिनमें वे स्वायत्त प्रणालियों के लिए अदृश्य हैं। "

या जैसा कि हैरिंगटन इसे कहते हैं, आप लकड़ी से बने वायलिन के साथ संगीत बना सकते हैं या एक 3 डी प्रिंटर पर बना सकते हैं। आप कार्बन-फाइबर धनुष या पेरामनबुको लकड़ी से बने एक का उपयोग कर सकते हैं। लेकिन, वे कहते हैं, धनुष को अभी भी तार के पार खींचने की जरूरत है। संगीत "अधिक कीमती हो जाता है क्योंकि यह हस्तनिर्मित है।"

और अभी के लिए, यह अभी भी कुछ है जो हम कर सकते हैं। मशीनों को अब हमारी जरूरत नहीं हो सकती। लेकिन जब यह एक वायलिन स्ट्रिंग पर एक धनुष की गंभीर ध्वनि की बात आती है, और भावनात्मक तार जो नोटों पर टग देते हैं, हमें मशीनों की आवश्यकता नहीं है।

"ट्रेवर पगलेन: साइट अनसीन, " जॉन जैकब द्वारा क्यूरेट किया गया, 6 जनवरी, 2019 से वाशिंगटन, डीसी में स्मिथसोनियन अमेरिकन आर्ट म्यूजियम में जारी है। यह सैन डिएगो म्यूजियम ऑफ कंटेम्पररी आर्ट फरवरी -21-जून 2 की यात्रा के लिए निर्धारित है। 2019।

* संपादक का नोट, २ नवंबर २०१ November: इस कहानी को स्टीव रीच की "विभिन्न गाड़ियों" की रचना के इच्छित अर्थ और मूल कहानी को स्पष्ट करने के लिए संपादित किया गया है।