जब जॉन ब्रेनन, राष्ट्रपति ओबामा की सीआईए के अगले प्रमुख होने की पसंद, कल एक सीनेट समिति के सामने पेश हुए, तो एक सवाल ने उनकी पुष्टि की सुनवाई में अन्य सभी को दबा दिया:
संदिग्ध आतंकवादियों के बाद हत्यारे ड्रोन भेजने के निर्णय कैसे किए जाते हैं?
उस मामले के लिए कैसे और क्यों, विशिष्ट ड्रोन हमलों के आदेश देने का कारण काफी हद तक एक रहस्य बना हुआ है, लेकिन कम से कम एक बात स्पष्ट है - निर्णय मनुष्यों द्वारा किए जा रहे हैं, जो उम्मीद करेंगे, एक घातक मिसाइल भेजने के विचार के साथ कुश्ती। एक कब्जे वाली इमारत में।
लेकिन क्या होगा अगर मनुष्य शामिल नहीं थे? क्या होगा अगर एक दिन जीवन-या-मौत के फैसले को आंकड़ों के भार से लैस मशीनों पर छोड़ दिया गया, लेकिन सही और गलत की भावना भी?
नैतिक विचित्रता
यह अब तक नहीं आया है। यह जल्द ही किसी भी समय होने वाला नहीं है, लेकिन यह सवाल नहीं है कि जैसे-जैसे मशीनें अधिक बुद्धिमान और अधिक स्वायत्त हो जाती हैं, उनके परिवर्तन का एक महत्वपूर्ण हिस्सा नैतिकता सीखने की क्षमता होगी।
वास्तव में, यह इतनी दूर नहीं हो सकता है। गैरी माक्र्स ने हाल ही में द न्यू यॉर्कर में लिखते हुए, विभाजन के दूसरे निर्णय के लिए मजबूर होने से पहले Google की चालक रहित कारों में से एक का परिदृश्य प्रस्तुत किया: “आपकी कार 50 मील प्रति घंटे की रफ्तार से पुल पर गति कर रही है जब 40 स्कूली बच्चों को ले जा रही गलत स्कूल बस अपने रास्ते को पार करता है। क्या बच्चों को बचाने के लिए या सभी 40 बच्चों को जोखिम में डालते हुए, आपकी कार को अपने मालिक (आप) की जान जोखिम में डालनी चाहिए? यदि निर्णय मिलीसेकंड में किया जाना चाहिए, तो कंप्यूटर को कॉल करना होगा। "
और रोबोट हथियारों या सैनिकों के बारे में क्या? क्या एक ड्रोन एक घर में आग नहीं सीख सकता अगर यह जानता कि निर्दोष नागरिक भी अंदर थे? क्या मशीनों को युद्ध के अंतर्राष्ट्रीय नियमों का पालन करना सिखाया जा सकता है?
जॉर्जिया टेक के कंप्यूटर विज्ञान के प्रोफेसर और रोबोटिक्स विशेषज्ञ रोनाल्ड आर्किन निश्चित रूप से ऐसा सोचते हैं। वह सॉफ्टवेयर विकसित कर रहा है, जिसे "नैतिक राज्यपाल" के रूप में संदर्भित किया जाता है, जो मशीनों को यह तय करने में सक्षम बनाता है कि यह कब फायर करना उचित है और कब नहीं।
आर्किन स्वीकार करता है कि यह अभी भी दशकों दूर हो सकता है, लेकिन उसका मानना है कि रोबोट एक दिन दोनों शारीरिक और नैतिक रूप से मानव सैनिकों से बेहतर हो सकते हैं, न कि मुकाबला करने के लिए भावनात्मक आघात या बदला लेने की इच्छा से कमजोर। वह एक सर्व-रोबोट सेना की कल्पना नहीं करता है, लेकिन एक मशीन जिसमें मनुष्यों के साथ काम करते हैं, तनावपूर्ण स्नैप निर्णयों से भरे उच्च जोखिम वाले काम करते हैं, जैसे इमारतों को साफ करना।
हत्यारे रोबोट से सावधान रहें
लेकिन दूसरों को लगता है कि इस तरह की सोच को दूर करने से पहले बहुत समय लगता है। पिछले साल के अंत में, ह्यूमन राइट्स वॉच और हार्वर्ड लॉ स्कूल के ह्यूमन राइट्स क्लिनिक ने एक रिपोर्ट जारी की, "लूज़िंग ह्यूमैनिटी: द केस अगेंस्ट किलर रोबोट्स, ", जो अपने शीर्षक के लिए सही है, सरकारों से सभी स्वायत्त हथियारों पर प्रतिबंध लगाने का आह्वान किया क्योंकि वे "वृद्धि" सशस्त्र संघर्ष के दौरान नागरिकों को मौत या चोट का खतरा। "
लगभग उसी समय, कैम्ब्रिज यूनिवर्सिटी के प्रोफेसरों के एक समूह ने लॉन्च की योजना की घोषणा की जिसे वे सेंटर फॉर द स्टडी ऑफ एक्जिस्ट रिस्क कहते हैं। जब यह इस वर्ष के अंत में खुलता है, तो यह गंभीर वैज्ञानिक अनुसंधान के लिए धक्का देगा कि क्या हो सकता है और अगर मशीनें हमसे अधिक स्मार्ट हो जाएं।
केंद्र के सह-संस्थापकों में से एक, Huw Price, खतरा यह है कि एक दिन हम "उन मशीनों से निपट सकते हैं जो दुर्भावनापूर्ण नहीं हैं, लेकिन ऐसी मशीनें जिनके हित हमें शामिल नहीं हैं"।
धोखे की कला
शेड्स ऑफ स्काईनेट, द दुष्ट आर्टिफ़िशियल इंटेलिजेंस सिस्टम जिसने द टर्मिनेटर फिल्मों में साइबरबर्न अर्नोल्ड श्वार्ज़नेगर को जन्म दिया। शायद यह हमेशा विज्ञान कथा का सामान होगा।
लेकिन अन्य शोधों पर विचार करें कि रोनाल्ड आर्किन अब रक्षा विभाग द्वारा वित्त पोषित परियोजनाओं के हिस्से के रूप में कर रहे हैं। वह और सहकर्मी अध्ययन करते रहे हैं कि कैसे जानवर एक दूसरे को धोखा देते हैं, रोबोट को धोखे की कला सिखाने के लक्ष्य के साथ।
उदाहरण के लिए, वे प्रोग्रामिंग रोबोट पर काम कर रहे हैं ताकि वे, यदि आवश्यक हो, तो जानवरों के रूप में सामर्थ्य की ताकत बना सकें। और वे पूर्वी ग्रे गिलहरी जैसे जीवों के व्यवहार की नकल करने के लिए शिक्षण मशीनों को देख रहे हैं। गिलहरी अपने नट को अन्य जानवरों से छिपाती है, और जब अन्य गिलहरी या शिकारी दिखाई देते हैं, तो भूरे गिलहरी कभी-कभी उन जगहों पर जाएँगी जहाँ वे अपने प्रतिद्वंद्वियों को ट्रैक से फेंकने के लिए नट छिपाते थे। एक समान रणनीति का पालन करने के लिए प्रोग्राम किए गए रोबोट प्रतियोगियों को भ्रमित करने और धीमा करने में सक्षम हैं।
यह सभी के हित में है, विकासशील मशीनों के आर्किन कहते हैं, जो मनुष्यों के लिए खतरा नहीं होगा, बल्कि एक संपत्ति होगी, खासकर युद्ध के बदसूरत अराजकता में। कुंजी उपयुक्त रोबोट व्यवहार के लिए दिशानिर्देश स्थापित करने पर ध्यान केंद्रित करना शुरू करना है।
"जब आप उस भानुमती का पिटारा खोलना शुरू करते हैं, तो इस नई क्षमता के साथ क्या किया जाना चाहिए?, " उन्होंने एक हालिया साक्षात्कार में कहा। "मेरा मानना है कि इन बुद्धिमान रोबोटों द्वारा गैर-लड़ाकू हताहतों की संख्या कम होने की संभावना है, लेकिन हमें इस बारे में बहुत सावधान रहना होगा कि वे कैसे उपयोग किए जाते हैं और उचित चिंता के बिना उन्हें युद्ध के मैदान में छोड़ दें।"
न्यू यॉर्कर के लेखक गैरी मार्कस का मानना है कि नैतिक रूप से उन्नत मशीनें युद्ध के मैदान से परे काफी संभावनाएं पेश करती हैं।
जो विचार मुझे सबसे अधिक परेशान करता है, वह यह है कि मानव नैतिकता केवल एक कार्य-प्रगति है। हम अभी भी उन स्थितियों का सामना करते हैं जिनके लिए हमारे पास अच्छी तरह से विकसित कोड नहीं हैं (उदाहरण के लिए, आत्महत्या के मामले में) और अपने स्वयं के कोड संदिग्ध, या बदतर मामलों को खोजने के लिए अतीत में दूर तक देखने की जरूरत नहीं है (जैसे, कानून जो अनुमति गुलामी और अलगाव)।
हम वास्तव में ऐसी मशीनें चाहते हैं जो एक कदम आगे बढ़ सकती हैं, न केवल नैतिकता के सबसे अच्छे कोड के साथ संपन्न होती हैं, जो हमारे सर्वश्रेष्ठ समकालीन दार्शनिकों को समर्पित कर सकती हैं, बल्कि मशीनों की अपनी नैतिक प्रगति करने की संभावना के साथ, उन्हें हमारे स्वयं के अतीत को सीमित करके लाती हैं नैतिकता की पहली सदी के विचार
मशीनें मार्च करती हैं
यहाँ हाल के रोबोट विकास हैं:
- हम्मम, नैतिक और डरपोक: ऑस्ट्रेलिया में शोधकर्ताओं ने एक ऐसा रोबोट विकसित किया है जो अपनी ध्वनि को कवर करने के लिए पर्याप्त पृष्ठभूमि शोर होने पर ही घूम सकता है।
- उस गूंजने वाली आवाज़ क्या है ?: अफगानिस्तान में ब्रिटिश सैनिकों ने निगरानी ड्रोन का उपयोग करना शुरू कर दिया है जो उनके हाथों की हथेलियों में फिट हो सकते हैं। ब्लैक हॉर्नेट नैनो कहा जाता है, छोटा रोबोट केवल चार इंच लंबा है, लेकिन इसमें एक स्पाई कैमरा है और यह फुल चार्ज पर 30 मिनट तक उड़ान भर सकता है।
- सतह को खरोंचना : नासा RASSOR नामक एक रोबोट विकसित कर रहा है, जिसका वजन केवल 100 पाउंड है, लेकिन यह चंद्रमा और अन्य ग्रहों पर खनिजों का खनन करने में सक्षम होगा। यह अपनी भुजाओं में खुद को समेटकर मोटे इलाके पर और यहां तक कि बोल्डर्स पर भी घूम सकता है।
- आह, वासना: और यहाँ एक प्रारंभिक वेलेंटाइन डे कहानी है। टोक्यो विश्वविद्यालय के वैज्ञानिकों ने एक रोबोट को चलाने के लिए एक नर कीट का इस्तेमाल किया। वास्तव में, उन्होंने डिवाइस के निर्देशन के लिए अपने संभोग आंदोलनों का उपयोग महिला कीट फेरोमोन के साथ सुगंधित वस्तु की ओर किया।
वीडियो बोनस: तो आपको यकीन नहीं है कि आप 13 फुट लंबा रोबोट चला सकते हैं? कोई बात नहीं। यहाँ एक निफ्टी डेमो है जो आपको दिखाता है कि यह कितना आसान हो सकता है। एक खुश मॉडल आपको दिखाता है कि "स्माइल शॉट" फीचर को कैसे संचालित किया जाए। आप मुस्कुराते हैं, यह बीबी को आग लगा देता है। कितना कठिन है?
Smithsonian.com से अधिक
यह रोबोट आपके पिताजी की तुलना में बेहतर पिता है
रोबोट ह्यूमन टच पाएं
