Etika AI Menghadapi Apakah Manusia Kemarahan yang Menghancurkan Atau Menganiaya AI Sangat Tidak Bermoral, Seperti Orang-Orang yang Marah Yang Menyerang Sistem AI yang Sepenuhnya Otonom

Itu sebabnya kita tidak dapat memiliki hal-hal yang baik.

Anda mungkin pernah mendengar atau melihat ungkapan yang cukup populer itu dan langsung tahu apa yang disinggungnya. Percaya atau tidak, kebijaksanaan bijak yang cerdas tampaknya berasal dari setidaknya tahun 1905 ketika ungkapan serupa muncul di Tinjauan Kemanusiaan oleh Eliza Blven. Secara umum, inti dari pandangan terang adalah bahwa kadang-kadang kita akhirnya menghancurkan, memukul, menghancurkan, atau sama sekali merusak objek atau artefak yang tampaknya tidak pantas diperlakukan demikian.

Anda mungkin mengatakan bahwa kami kadang-kadang menganiaya benda dan artefak, bahkan yang seharusnya kita kagumi atau hargai.

Hal ini dapat terjadi secara tidak sengaja, seperti ceroboh dan menjatuhkan smartphone kesayangan Anda ke dalam toilet (sayangnya, ini adalah salah satu cara yang paling sering dikutip di mana smartphone menjadi tidak dapat digunakan). Di sisi lain, mungkin dalam keadaan marah, Anda memilih untuk melemparkan ponsel cerdas Anda ke seberang ruangan dan ponsel itu menabrak perabot besar atau menabrak langsung ke dinding. Kemungkinannya adalah layar akan retak dan nyali elektronik pasti tidak lagi berfungsi dengan baik.

Kemarahan itu tidak ada hubungannya sama sekali dengan smartphone itu sendiri. Mungkin Anda sedang berdebat dengan seseorang dan secara kebetulan melampiaskan kemarahan Anda pada hal yang mungkin ada di tangan Anda saat itu. Smartphone hanya berada di tempat yang salah pada waktu yang salah.

Meskipun ada saat-saat ketika objek itu entah bagaimana berhubungan dengan ledakan yang mengamuk. Misalnya, Anda mati-matian menunggu panggilan penting dan ponsel cerdas Anda secara mengejutkan berhenti bekerja. Apa frustrasi! Smartphone terkutuk ini dan itu sepertinya selalu memberikan pada saat-saat terburuk, Anda berpikir untuk diri sendiri. Nah, omong-omong, smartphone akan membayar pelanggaran terbaru ini dengan dilempar ke seberang ruangan. Ambil itu, Anda bukan smartphone yang bagus.

Apakah kemarahan selalu perlu menjadi komponen?

Mungkin Anda dengan tenang memutuskan bahwa ponsel cerdas Anda telah mencapai akhir kegunaannya. Anda akan mendapatkan yang baru. Dengan demikian, smartphone yang ada memiliki nilai yang berkurang. Anda tentu saja dapat mencoba melakukan pertukaran dari smartphone yang agak ketinggalan zaman, tetapi mungkin Anda malah membuat keputusan sadar bahwa Anda lebih suka bersenang-senang dan melihat berapa banyak pengurangan fisik yang dapat dilakukan. Jadi, setelah banyak pertimbangan, Anda dengan lantang melemparkan perangkat ke seberang ruangan dan mengamati apa yang terjadi. Ini hanyalah semacam eksperimen fisika, yang memungkinkan Anda mengukur seberapa bagus smartphone itu.

Saya ragu bahwa banyak dari kita menggunakan logika yang disetel dengan hati-hati seperti itu ketika kita melakukan agresi pada suatu objek atau artefak. Lebih sering, tindakan itu mungkin dilakukan dalam kerangka berpikir yang berbeda. Ini tampaknya menjadi salah satu jenis tindakan reaksioner yang mendadak. Setelah itu, Anda mungkin menyesali apa yang Anda lakukan dan merenungkan apa yang menyebabkan ledakan tersebut.

Apa yang berpotensi diberitahukan oleh tindakan ganas semacam ini terhadap benda mati kepada kita tentang orang yang melakukan tindakan yang kurang ajar dan tampaknya tidak diinginkan?

Objek itu sendiri mungkin tidak sengaja mencoba untuk mengotori Anda. Ketika pemanggang roti Anda tidak memanggang roti Anda dengan benar, sulit untuk membayangkan bahwa pemanggang roti bangun hari itu dengan pemikiran bahwa ia akan berusaha mengacaukan sarapan Anda dengan membakar roti panggang Anda. Ini agak tidak mungkin. Pemanggang roti hanyalah perangkat mekanis. Ini bekerja atau tidak bekerja. Tetapi gagasan bahwa pemanggang roti itu berencana untuk tidak bekerja atau mempercepat Anda dengan bekerja melawan keinginan Anda, yah, itu gagasan yang berlebihan.

Ada beberapa yang percaya semua benda memiliki kemiripan karma atau roh. Dalam teori itu, orang mengandaikan bahwa pemanggang roti bisa membalas dendam jika mungkin Anda sebelumnya tidak merawat pemanggang dengan benar. Meskipun itu ide filosofis yang menarik, saya akan melewati konseptualisasi metafisika itu dan tetap dengan asumsi yang lebih sehari-hari bahwa objek hanyalah objek (untuk klarifikasi, saya tidak mengajukan keputusan tentang kemungkinan lain, hanya menyisihkannya untuk saat ini).

Sisi yang bersinggungan dengan karma atau ruh ini layak karena memunculkan sisi yang berkaitan dengan perilaku manusia. Anda tahu, kita mungkin tergoda untuk menganggap suatu bentuk keaktifan pada objek yang lebih dekat dengan apa yang umumnya kita anggap sebagai makhluk hidup.

Pemanggang roti seharga sepuluh dolar yang merupakan alat tanpa tulang bukanlah sesuatu yang mungkin cenderung kita urapi dengan aura seperti makhluk hidup. Anda dapat melakukannya jika Anda mau, tetapi ini adalah peregangan. Anda mungkin juga mulai menetapkan perasaan ke segala macam objek, seperti kursi, tiang lampu, hidran, dll. Tampaknya objek tersebut harus memiliki lebih banyak kemampuan bawaan jika kita akan "secara wajar" menetapkan makhluk hidup -seperti cahaya untuk hal itu.

Saat Anda menggunakan Alexa atau Siri, perangkat itu sendiri hanyalah speaker dan mikrofon, namun kenyamanan modern ini tentu saja bisa menjadi kandidat yang lebih baik untuk menganggap kekuatan seperti makhluk hidup. Anda tampaknya dapat berinteraksi dengan perangkat dan melakukan percakapan, meskipun harus diakui terputus-putus dan kurang lancar dalam interaksi berorientasi manusia normal. Meskipun demikian, ada kemudahan khusus untuk memungkinkan Alexa atau Siri tergelincir ke arah penugasan seperti makhluk hidup (lihat indikasi saya tentang kasus Alexa baru-baru ini yang memberikan saran tentang memasukkan satu sen ke dalam soket listrik hidup, di tautan ini di sini).

Misalkan kita menghiasi pemanggang roti dengan seperti Natural Language Processing (NLP), mirip dengan Alexa atau Siri. Anda dapat berbicara dengan pemanggang roti Anda dan memberi tahu berapa jumlah pemanggangan yang Anda inginkan. Pemanggang roti akan merespon ucapan Anda dan kemudian memberi tahu Anda kapan roti panggang sudah siap. Ini tampaknya menyesuaikan kembali keyakinan kita bahwa pemanggang roti sebenarnya semakin mendekati kapasitas seperti makhluk hidup.

Semakin dekat kita tampaknya mendorong fitur perangkat ke arah karakteristik fasilitas manusia akan sama-sama membawa kita ke jalan menuju menganggap sifat seperti makhluk hidup ke perangkat. Yang paling jelas adalah robot. Setiap robot berjalan dan berbicara yang canggih pasti akan memunculkan kesan batin kita bahwa perangkat itu lebih dari sekadar alat mekanis atau elektronik.

Izinkan saya mengajukan pertanyaan dan tolong jawab dengan jujur.

Sebelum saya melakukannya, saya kira Anda entah bagaimana telah melihat video viral yang menampilkan robot yang agak mewah yang bisa berjalan, merangkak, melompat, atau berlari. Dalam beberapa video tersebut, seorang manusia berdiri di dekatnya dan pada awalnya, tampaknya siap untuk menangkap robot jika ia terputus-putus. Saya berani bertaruh bahwa sebagian besar dari kita menganggap itu sebagai tindakan yang baik, mirip dengan ketika seorang balita belajar berjalan dan berada di sana untuk menangkap anak itu sebelum mereka membenturkan kepalanya ke lantai.

Anda jarang melihat manusia menangkap robot, dan sebaliknya, Anda melihat manusia memukul robot untuk melihat apa yang akan dilakukan robot selanjutnya. Kadang-kadang tongkat panjang digunakan, mungkin tongkat hoki atau tongkat bisbol. Manusia dengan sengaja dan tanpa rasa malu akan menyerang robot. Robot menerima pukulan, orang mungkin akan berdebat, dan kita menunggu untuk melihat bagaimana robot akan bereaksi.

Berikut pertanyaan Anda.

Ketika Anda melihat robot ditabrak, apakah Anda merasa kasihan pada robot itu?

Banyak orang melakukannya. Ketika video semacam itu pertama kali diposkan, ribuan komentar menyatakan kemarahan atas perlakuan buruk terhadap robot. Apa yang dilakukan robot untuk mendapatkan perlakuan buruk semacam ini, orang-orang bertanya dengan sungguh-sungguh? Manusia-manusia itu harus dikeluarkan dan diberi beberapa tendangan sendiri, beberapa dengan marah menyatakan. Hentikan ini dan hapus semua video semacam itu dengan keras.

Anda dapat dengan mudah merasakan hal yang sama tentang pemanggang roti barebone sepuluh dolar, namun itu mungkin tidak akan menimbulkan kekhawatiran mendalam dan mengejutkan yang sama. Tampaknya menjadi kasus bahwa semakin dekat suatu objek dalam spektrum objek yang sama sekali tidak memiliki kemiripan dengan kapasitas manusia terhadap objek yang lebih mirip dengan perasaan manusia akan menggetarkan kepekaan kita yang ingin menganggap moralitas seperti kemanusiaan untuk objek tersebut. .

Mari kita lebih jauh membongkar itu.

Jika Anda memiliki telepon pintar dan ingin merusaknya, dan jika hal itu tidak merugikan orang lain, tampaknya kita secara moral tidak akan keberatan dengan tindakan semacam itu. Anda memilikinya, Anda dapat melakukannya dengan apa yang Anda inginkan (dengan asumsi bahwa tindakan tersebut tidak menimpa orang lain).

Tentu saja, kami mungkin menganggapnya bodoh di pihak Anda, dan ini mungkin berdampak buruk. Jika Anda ingin menghancurkan ponsel cerdas Anda, apa lagi yang bisa Anda lakukan? Mungkin tindakan destruktif dan tampaknya tidak masuk akal adalah peringatan dari sesuatu di dalam diri Anda tentang potensi yang jauh lebih buruk. Dengan cara berpikir seperti itu, kami tidak begitu peduli tentang ponsel cerdas seperti halnya kami tentang bagaimana tindakan Anda terhadap ponsel cerdas adalah cerminan dari Anda dan perilaku Anda.

Dalam kasus manusia yang menyodok dan mendorong robot berjalan atau merangkak, Anda mungkin merasa lega saat mengetahui bahwa manusia tersebut adalah peneliti yang dibayar atau secara profesional memukul robot untuk alasan yang umumnya valid. Mereka mencoba melihat seberapa baik robot dan AI yang mendasari robot dapat mengatasi kejadian yang mengganggu.

Bayangkan seseorang telah menulis program AI untuk membantu robot agar bisa berjalan atau merangkak. Mereka secara logis ingin tahu seberapa baik AI bekerja ketika robot tersesat dan tersandung sesuatu. Bisakah robot menyeimbangkan dirinya sendiri atau menyeimbangkan kembali sesuai kebutuhan? Dengan memiliki manusia di dekatnya, robot dapat diuji dengan ditusuk atau ditusuk. Itu semua atas nama sains, seperti yang mereka katakan.

Setelah Anda memahami peringatan tentang mengapa manusia "menganiaya" robot, Anda mungkin menarik kemarahan Anda. Anda mungkin masih memiliki keraguan yang tersisa, karena melihat konstruksi mirip manusia yang dipukul mengingatkan pada manusia atau hewan yang dipukul. Anda tahu bahwa robot tidak "merasakan" apa pun, namun tindakannya masih agak menyakitkan untuk ditonton (untuk wawasan lebih lanjut tentang rasa afinitas yang dimiliki manusia terhadap sistem AI seperti robot, termasuk fenomena yang dikenal sebagai uncanny lembah, lihat diskusi saya di tautan ini di sini).

Mereka yang berada di bidang etika AI sedang memeriksa teka-teki psikologis moral yang kita alami ketika sistem AI diperlakukan dengan kasar. Salah satu kekhawatiran paling utama adalah bahwa mereka yang melakukan "penganiayaan" semacam itu mungkin membuat kita semua menjadi kurang peka terhadap segala jenis perlakuan buruk, termasuk dan yang berbahaya adalah kemiringan licin dari kesediaan untuk menganiaya sesama manusia.

Dalam sebuah studi penelitian baru-baru ini yang diterbitkan di Jurnal AI Dan Etika berjudul “Bias Sosial-Kognitif Dalam Etika dan Wacana Risiko AI Folk,” para peneliti menggambarkan masalah serius ini dengan cara ini: “Fenomena yang sama dapat menjadi masalah psikologis moral selama era AI dan robot. Ketika realitas kita sehari-hari dipenuhi oleh berbagai sistem cerdas yang tidak memiliki status kesabaran moral, orang mungkin menjadi terbiasa dengan kekejaman dan ketidakpedulian. Karena kita terkadang menganggap robot seolah-olah mereka hidup dan sadar, kita mungkin secara implisit mengadopsi pola perilaku yang dapat berdampak negatif pada hubungan kita dengan orang lain” (artikel yang ditulis bersama oleh Michael Laakasuo, Volo Herzon, Silva Perander, Marianna Drosinou, Jukka Sundvall, Jussi Palomaki, dan Aku Visala).

Intinya adalah bahwa kita mungkin menemukan diri kita sendiri menerima bahwa penganiayaan cukup baik untuk dilakukan, terlepas dari apakah terhadap objek seperti robot berbasis AI atau manusia bernapas yang hidup. Anda dapat menambahkan ke daftar ini potensi peningkatan perlakuan buruk terhadap hewan juga. Secara keseluruhan, pintu air dari perlakuan buruk bisa menjadi tsunami dahsyat yang akan secara berbahaya membasahi semua yang kita lakukan.

Inci demi inci, kita akan terbiasa dengan perlakuan buruk terhadap sistem AI, dan ini pada gilirannya akan mengurangi penolakan kita terhadap perlakuan buruk secara bertahap.

Itu adalah teori AI Etis yang sedang diteliti dengan cermat. Ini terutama tepat waktu sekarang karena sistem AI yang sedang dibuat dan dikerahkan terlihat dan bertindak lebih mirip dengan kapasitas manusia daripada sebelumnya. AI mengarah ke dibuat agar terlihat seperti perasaan manusia, oleh karena itu kami berpotensi bergeser lebih jauh ke bawah spektrum perlakuan buruk yang mengerikan.

Seperti yang akan saya uraikan segera, ada kecenderungan bagi kita untuk mengantropomorfisasi sistem AI. Kami menafsirkan AI yang tampak seperti manusia disamakan dengan aspek manusia, terlepas dari kenyataan bahwa saat ini tidak ada AI yang hidup dan kami belum tahu apakah perasaan akan tercapai. Akankah orang jatuh ke dalam perangkap mental untuk menerima perlakuan buruk terhadap AI seolah-olah itu adalah lampu hijau untuk memungkinkan kelanjutan perlakuan buruk terhadap manusia dan hewan (makhluk hidup apa pun)?

Beberapa berpendapat bahwa kita perlu menghentikan ini sejak awal.

Beri tahu orang-orang bahwa seharusnya tidak menganiaya sistem AI. Bahkan para peneliti dengan robot berjalan dan merangkak itu melakukan tindakan merugikan dengan menampilkan video upaya mereka dengan gembira. Ini adalah batu bata lain di dinding meremehkan pandangan masyarakat tentang penganiayaan. Jangan biarkan bola salju mulai menggelinding menuruni bukit bersalju yang ganas.

Bersikeras bahwa kita memperlakukan segala sesuatu dengan hormat, termasuk benda dan artefak. Apalagi jika benda atau artefak tersebut memiliki kemiripan atau kemiripan dengan bentuk manusia. Jika kita tidak bisa menghentikan orang-orang yang ingin melemparkan smartphone mereka ke dinding, biarlah, tetapi ketika mereka berusaha untuk menghancurkan robot atau melakukan penganiayaan serupa terhadap perangkat apa pun yang memiliki aura kuat seperti manusia, kita harus meletakkan kaki kita di bawah. .

Omong kosong, beberapa membalas dengan sangat jijik.

Tidak ada hubungan antara bagaimana orang memperlakukan sistem AI dan gagasan bahwa mereka entah bagaimana akan mengubah cara mereka memperlakukan manusia dan hewan. Itu dua topik yang berbeda. Jangan menyamakan mereka, argumen baliknya berbunyi.

Orang cukup pintar untuk memisahkan tindakan terhadap objek versus tindakan mereka terhadap makhluk hidup. Anda melakukan handwaving dengan mencoba menghubungkan titik-titik itu. Tampaknya kekhawatiran serupa muncul tentang tumbuh dewasa menggunakan video game yang memungkinkan pemain untuk menembak dan menghancurkan karakter video. Dalam hal ini, mungkin lebih buruk daripada merusak robot AI karena video game terkadang menampilkan karakter video yang sangat mirip dengan manusia.

Kontra dari argumen tandingan itu adalah bahwa video game tidak berurusan dengan objek nyata. Pemain tahu bahwa mereka tenggelam dalam alam mimpi. Itu jauh dari melempar smartphone ke seberang ruangan atau memukul robot merangkak dengan tongkat. Selain itu, ada penelitian yang mendukung keraguan tentang bagaimana permainan video game dapat meluas ke perilaku dunia nyata.

Etika AI sedang mengeksplorasi pendorong perilaku manusia dan bagaimana munculnya sistem berbasis AI yang relatif canggih akan terpengaruh, terutama mengingat terkadang perlakuan buruk oleh manusia terhadap sistem AI tersebut. Berbicara tentang mengemudi (ya, saya menyelipkannya di sana), ini memungkinkan saya untuk beralih ke topik mobil self-driving sejati berbasis AI, yang akan cocok dengan tema keseluruhan ini.

Anda lihat, dalam kapasitas saya sebagai ahli AI termasuk konsekuensi etis dan hukum, saya sering diminta untuk mengidentifikasi contoh realistis yang menunjukkan dilema Etika AI sehingga sifat topik yang agak teoretis dapat lebih mudah dipahami. Salah satu area paling menggugah yang secara gamblang menghadirkan kebingungan AI etis ini adalah munculnya mobil self-driving sejati berbasis AI. Ini akan berfungsi sebagai kasus penggunaan yang berguna atau contoh untuk diskusi yang cukup tentang topik tersebut.

Inilah pertanyaan penting yang patut direnungkan: Apakah munculnya mobil self-driving sejati berbasis AI menerangi sesuatu tentang penganiayaan objek atau artefak?

Izinkan saya sejenak untuk membongkar pertanyaan itu.

Pertama, perhatikan bahwa tidak ada pengemudi manusia yang terlibat dalam mobil self-driving sejati. Perlu diingat bahwa mobil self-driving sejati digerakkan melalui sistem mengemudi AI. Tidak ada kebutuhan untuk pengemudi manusia di belakang kemudi, juga tidak ada ketentuan bagi manusia untuk mengemudikan kendaraan. Untuk liputan saya yang luas dan berkelanjutan tentang Kendaraan Otonom (AV) dan terutama mobil self-driving, lihat tautannya di sini.

Saya ingin mengklarifikasi lebih lanjut apa yang dimaksud dengan mobil self-driving sejati.

Memahami Tingkatan Mobil Self-Driving

Sebagai klarifikasi, mobil self-driving sejati adalah mobil yang dikendarai AI sepenuhnya sendiri dan tidak ada bantuan manusia selama tugas mengemudi.

Kendaraan tanpa pengemudi ini dianggap Level 4 dan Level 5 (lihat penjelasan saya di tautan ini di sini), sedangkan mobil yang memerlukan pengemudi manusia untuk berbagi upaya mengemudi biasanya dianggap di Level 2 atau Level 3. Mobil yang berbagi tugas mengemudi digambarkan sebagai semi-otonom, dan biasanya berisi berbagai add-on otomatis yang disebut sebagai ADAADA
S (Sistem Bantuan Pengemudi Lanjutan).

Belum ada mobil self-driving sejati di Level 5, yang kita bahkan belum tahu apakah ini akan mungkin dicapai, dan juga tidak berapa lama untuk sampai di sana.

Sementara itu, upaya Level 4 secara bertahap mencoba mendapatkan daya tarik dengan menjalani uji coba jalan raya umum yang sangat sempit dan selektif, meskipun ada kontroversi mengenai apakah pengujian ini harus diizinkan sendiri (kita semua adalah kelinci percobaan hidup atau mati dalam sebuah percobaan terjadi di jalan raya dan byways kami, beberapa berpendapat, lihat liputan saya di tautan ini di sini).

Karena mobil semi-otonom membutuhkan pengemudi manusia, adopsi jenis-jenis mobil itu tidak akan jauh berbeda dari mengendarai kendaraan konvensional, jadi tidak banyak yang baru untuk membahasnya mengenai topik ini (meskipun, seperti yang akan Anda lihat suatu saat, poin-poin yang dibuat selanjutnya secara umum berlaku).

Untuk mobil semi-otonom, penting bahwa masyarakat perlu diperingatkan tentang aspek mengganggu yang telah muncul akhir-akhir ini, yaitu bahwa meskipun para pengemudi manusia yang terus memposting video diri mereka tertidur di belakang kemudi mobil Level 2 atau Level 3 , kita semua perlu menghindari disesatkan untuk percaya bahwa pengemudi dapat mengambil perhatian mereka dari tugas mengemudi sambil mengendarai mobil semi-otonom.

Anda adalah pihak yang bertanggung jawab untuk tindakan mengemudi kendaraan, terlepas dari berapa banyak otomatisasi yang mungkin dilemparkan ke Level 2 atau Level 3.

Mobil Self-Driving Dan Permusuhan Oleh Manusia

Untuk kendaraan self-driving sejati Level 4 dan Level 5, tidak akan ada pengemudi manusia yang terlibat dalam tugas mengemudi.

Semua penumpang akan menjadi penumpang.

AI sedang mengemudi.

Salah satu aspek yang perlu segera dibahas adalah fakta bahwa AI yang terlibat dalam sistem penggerak AI saat ini bukanlah makhluk hidup. Dengan kata lain, AI secara keseluruhan merupakan kumpulan dari pemrograman dan algoritma berbasis komputer, dan yang paling pasti tidak dapat bernalar dengan cara yang sama seperti manusia.

Mengapa penekanan tambahan ini tentang AI tidak hidup?

Karena saya ingin menggarisbawahi bahwa ketika membahas peran sistem penggerak AI, saya tidak menganggap kualitas manusia berasal dari AI. Perlu diketahui bahwa ada kecenderungan yang sedang berlangsung dan berbahaya akhir-akhir ini untuk antropomorfisasi AI. Intinya, orang-orang menugaskan perasaan mirip manusia ke AI saat ini, terlepas dari fakta yang tak terbantahkan dan tak terbantahkan bahwa AI tersebut belum ada.

Dengan klarifikasi tersebut, Anda dapat membayangkan bahwa sistem mengemudi AI tidak akan secara asli “tahu” tentang aspek mengemudi. Mengemudi dan semua yang diperlukannya perlu diprogram sebagai bagian dari perangkat keras dan perangkat lunak mobil yang dapat mengemudi sendiri.

Mari selami segudang aspek yang ikut bermain tentang topik ini.

Pertama, penting untuk disadari bahwa tidak semua mobil self-driving AI itu sama. Setiap pembuat mobil dan perusahaan teknologi self-driving mengambil pendekatan untuk merancang mobil self-driving. Dengan demikian, sulit untuk membuat pernyataan menyeluruh tentang apa yang akan dilakukan atau tidak dilakukan oleh sistem penggerak AI.

Selain itu, setiap kali menyatakan bahwa sistem penggerak AI tidak melakukan beberapa hal tertentu, ini nantinya dapat diambil alih oleh pengembang yang sebenarnya memprogram komputer untuk melakukan hal itu. Langkah demi langkah, sistem penggerak AI secara bertahap ditingkatkan dan diperluas. Batasan yang ada saat ini mungkin tidak ada lagi di iterasi atau versi sistem yang akan datang.

Saya percaya bahwa hal itu memberikan sejumlah peringatan yang cukup untuk mendasari apa yang akan saya ceritakan.

Kami siap sekarang untuk menyelami mobil self-driving dan pertanyaan etis AI seputar potensi penganiayaan kami terhadap kendaraan otonom yang dibanggakan itu.

Pertama, Anda mungkin secara alami berasumsi bahwa tidak ada yang akan menganiaya mobil self-driving berbasis AI.

Ini tampaknya logis. Kami umumnya menerima gagasan bahwa salah satu manfaat utama memiliki mobil self-driving adalah bahwa mereka akan terlibat dalam lebih sedikit kecelakaan mobil daripada mobil yang dikemudikan manusia. AI tidak akan minum dan mengemudi. AI tidak akan menonton video kucing saat mengemudi. Ada sekitar 40,000 kematian tahunan di Amerika Serikat saja setiap tahun karena kecelakaan mobil, dan sekitar 2.5 juta cedera, banyak yang diantisipasi tidak lagi terjadi setelah kita memiliki prevalensi mobil self-driving di jalan raya kita.

Apa yang tidak disukai dari mobil self-driving, Anda mungkin berkata pada diri sendiri.

Nah, daftarnya agak luas, lihat liputan saya di tautan ini di sini, tetapi karena keterbatasan ruang di sini, saya hanya akan membahas beberapa aspek yang tidak diinginkan.

Seperti yang telah saya sebutkan sebelumnya di kolom saya, ada contoh orang melempar batu ke mobil self-driving yang lewat, dan dilaporkan meletakkan benda logam seperti paku di jalan untuk menusuk ban mobil self-driving. Hal itu dilakukan dengan berbagai alasan yang diklaim. Salah satunya adalah bahwa orang-orang di daerah di mana mobil self-driving berkeliaran khawatir bahwa sistem mengemudi AI tidak siap untuk prime time.

Kekhawatirannya adalah bahwa sistem mengemudi AI mungkin salah, mungkin melindas seorang anak yang melesat di seberang jalan atau menabrak anjing peliharaan kesayangan yang mungkin berkelok-kelok di jalan raya. Per poin sebelumnya tentang kami yang tampaknya diperlakukan sebagai kelinci percobaan, kepercayaannya adalah bahwa pengujian dan persiapan yang tidak memadai telah terjadi dan bahwa mobil self-driving dilepaskan secara tidak tepat. Upaya untuk membatasi uji coba dilakukan sebagai tampilan publik dari kecemasan atas mobil self-driving yang diizinkan secara hukum untuk berkeliaran.

Mungkin ada alasan lain yang tercampur ke dalam contoh. Misalnya, beberapa orang menyarankan bahwa pengemudi manusia yang bergantung pada mencari nafkah melalui ridesharing khawatir bahwa AI akan menggantikan mereka. Ini adalah ancaman bagi mata pencaharian mereka. Anda tentu tahu bahwa kemunculan mobil self-driving sejati berbasis AI masih jauh dan masalah perpindahan pekerja tidak langsung terjadi. Ergo, tampaknya pelemparan batu dan insiden lainnya mungkin lebih tentang masalah keamanan.

Untuk tujuan kami dalam tema tentang perlakuan buruk AI ini, muncul pertanyaan apakah kesediaan untuk mengambil tindakan yang agak merusak terhadap mobil self-driving berbasis AI ini merupakan indikator awal dari kemiringan licin dari menganiaya AI hingga menganiaya manusia.

Tahan pikiran itu.

Sudut pandang lain dari perlakuan buruk terhadap mobil self-driving berbasis AI terdiri dari "intimidasi" yang ditujukan oleh beberapa pengemudi manusia dan bahkan pejalan kaki pada kendaraan otonom tersebut, lihat analisis saya di tautannya di sini dan tautannya di sini.

Singkatnya, pengemudi manusia yang mengemudi dan mungkin menemukan mobil self-driving kadang-kadang memilih untuk memainkan trik terkait mengemudi pada mobil tanpa pengemudi. Tipuan ini terkadang dilakukan hanya untuk bersenang-senang, tetapi lebih dari itu biasanya karena frustrasi dan kekesalan tentang sistem penggerak AI saat ini.

Sebagian besar sistem penggerak AI diprogram untuk mengemudi dengan cara yang benar-benar legal. Pengemudi manusia tidak harus mengemudi dengan cara yang benar-benar legal. Misalnya, pengemudi manusia sering kali mengemudi di atas batas kecepatan yang ditentukan, melakukannya dengan cara yang terkadang sangat buruk. Ketika pengemudi manusia berada di belakang mobil self-driving, pengemudi manusia menemukan diri mereka terhalang oleh sistem mengemudi AI "slowpoke".

Orang-orang yang tinggal di daerah yang saat ini padat penduduk dengan mobil self-driving cenderung langsung marah ketika mereka melihat mobil self-driving di depan mereka. Mereka tahu kendaraan otonom akan membuat perjalanan mengemudi mereka lebih lama dari yang seharusnya. Jadi, pengemudi seperti itu akan memilih untuk agresif terhadap mobil self-driving.

Pengemudi tahu bahwa mereka dapat berlari di sekitar mobil self-driving dan memotongnya. Sistem penggerak AI hanya akan memperlambat kendaraan otonom, dan tidak akan bereaksi dengan cara apa pun di jalan raya. Jika seorang pengemudi manusia mencoba melakukan tindakan agresif yang sama kepada pengemudi manusia lainnya, kemungkinan besar pembalasan hampir pasti akan muncul. Sampai tingkat tertentu, pengemudi manusia memoderasi mengemudi agresif mereka berdasarkan kesadaran bahwa pengemudi yang dirugikan mungkin akan membalas.

Akankah jenis perilaku mengemudi manusia terhadap mobil self-driving berbasis AI ini membuka kotak perilaku mengemudi buruk Pandora?

Kesimpulan

Kami telah menempatkan di atas meja dua contoh umum orang yang tampaknya menganiaya mobil self-driving berbasis AI. Contoh pertama melibatkan melempar batu dan mencoba menggagalkan penggunaan mobil self-driving di jalan raya. Contoh kedua mengharuskan mengemudi secara agresif di mobil yang mengemudi sendiri.

Hal ini setidaknya memunculkan kekhawatiran berikut:

• Akankah munculnya perlakuan buruk seperti itu meluas ke mobil yang dikemudikan manusia?
• Jika ini berlanjut atau meluas lebih jauh, apakah perlakuan buruk seperti itu akan meluas ke aspek lain dari upaya manusia?

Salah satu tanggapannya adalah bahwa ini hanyalah reaksi sementara terhadap mobil self-driving berbasis AI. Jika publik dapat diyakinkan bahwa mobil self-driving beroperasi dengan aman di jalan raya kita, pelemparan batu dan tindakan berat semacam itu akan hampir hilang (yang, omong-omong, tampaknya sudah mereda). Jika sistem mengemudi AI dapat ditingkatkan untuk mengurangi hambatan di jalan raya kami, pengemudi manusia di sekitar mungkin kurang cenderung agresif terhadap mobil self-driving.

Fokus di seluruh diskusi ini adalah bahwa penganiayaan mungkin menghasilkan perlakuan buruk. Semakin Anda menganiaya, seperti menganiaya AI, semakin banyak perlakuan buruk yang diterima dan dilakukan, seperti terhadap manusia dan hewan.

Percaya atau tidak, ada sisi lain dari koin itu, meskipun beberapa orang melihat ini sebagai wajah bahagia yang optimistis tentang masalah ini.

Ini adalah proposisi yang sangat optimis: Mungkin perawatan yang tepat menghasilkan perawatan yang tepat.

Inilah yang saya maksud.

Beberapa pakar menyarankan bahwa karena sistem mengemudi AI diprogram untuk mengemudi secara legal dan hati-hati, bisa jadi pengemudi manusia akan belajar dari ini dan memutuskan untuk mengemudi dengan lebih waras. Ketika mobil lain di sekitar Anda sangat mematuhi batas kecepatan, mungkin Anda juga akan mematuhinya. Ketika mobil self-driving itu berhenti penuh di rambu Berhenti dan tidak mencoba menerobos lampu merah, pengemudi manusia akan sama terinspirasi untuk mengemudi dengan penuh kesadaran.

Seorang skeptis akan menemukan bahwa garis pemikiran itu tipis atau bahkan mungkin sangat naif dan sangat naif.

Sebut saya optimis, tapi saya akan memilih gagasan mimpi bahwa pengemudi manusia akan termotivasi untuk mengemudi dengan lebih bijaksana. Tentu saja, fakta bahwa mobil self-driving sejati berbasis AI akan merekam video dan sensor lain mereka tentang manuver aneh dari mobil lain yang digerakkan oleh manusia, dan dapat dengan jelas melaporkan mengemudi ilegal ke polisi hanya dengan menekan sebuah tombol. , mungkin memberikan "inspirasi" yang dibutuhkan untuk mengemudi manusia yang lebih baik.

Terkadang dibutuhkan baik wortel maupun tongkat untuk membuat perilaku manusia sejajar dengan harmonis.