Etika AI Dan Lembah Luar Biasa AI yang Diakui, Yang Juga Mengguncang Mobil Self-Driving Berbasis AI

Kadang-kadang ada hal-hal yang sedikit aneh yang menarik perhatian Anda dan membuat jus intuitif Anda pergi bahwa ada sesuatu yang salah. Keanehan tidak mencolok, sama sekali tidak mencolok di wajah Anda. Anda bahkan mungkin tidak dapat segera mengetahui apa ketidaksesuaian itu atau mengapa indra laba-laba pepatah Anda kesemutan.

Mungkin petunjuk-petunjuk halus sedang dirasakan. Mungkin Anda kebetulan menyadari ada disonansi. Saya kira Anda bisa mengatakan bahwa hanya ada sedikit saja tanda-tanda kengerian yang diremehkan dan radar manusia Anda yang halus menangkap sinyal yang tampaknya tersembunyi.

Selamat datang di lembah yang luar biasa.

Jika Anda belum pernah mendengar tentang uncanny valley, topik yang relatif dipopulerkan di bidang AI dan khususnya robotika, Anda akan mendapat sedikit perhatian karena itulah pokok bahasan yang akan saya diskusikan dan analisis dengan cermat di sini.

Gagasan menyeluruh dapat berlaku untuk banyak hal yang kita alami dalam hidup, meskipun prinsip dasar dan definisi awal memerlukan sistem AI dan robot. Pertama-tama kita akan mengeksplorasi asal-usul dan makna awal dari uncanny valley dan kemudian melanjutkan ke perluasan untuk melihat bagaimana fenomena tersebut tampaknya dapat diterapkan dalam konteks yang lebih luas.

Saya mungkin juga menambahkan bahwa kita akan mempertimbangkan apakah lembah luar biasa itu ada.

Anda lihat, beberapa orang yang skeptis dan sinis berpendapat bahwa seluruh masalah ini adalah sedikit dari kemunafikan dan tidak tahan air. Berhati-hatilah saat mengangkat topik kepada mereka yang mengetahuinya. Beberapa akan tersenyum gembira dan menepuk punggung Anda bahwa Anda sangat akrab dengan lembah luar biasa, sementara yang lain akan dengan lantang menceramahi Anda bahwa itu adalah hamparan omong kosong dan Anda perlu segera membersihkan pikiran Anda dengan sabun pembersih mental yang berbusa. .

Kabar baiknya di sini adalah Anda harus memutuskan apakah lembah luar biasa itu nyata atau tidak, bersama dengan apakah itu memiliki manfaat untuk aplikasi yang penuh perhatian atau sebaliknya harus dibuang begitu saja ke tumpukan sampah ide-tekno. Dalam arti itu, Anda berada di kursi pengemudi.

Semua ini juga berkaitan erat dengan bidang Ethical AI yang sedang berkembang dan kesadaran yang meningkat bahwa masyarakat harus secara serius dan sadar memperhatikan etika AI. Kami akan membuat ikatan itu sebentar lagi.

Tempat terbaik untuk memulai adalah dengan langsung mengutip profesor yang mengemukakan konsep lembah yang luar biasa dan secara langsung menamai fenomena yang diproklamirkan ini. Pada tahun 1970, Profesor Masahiro Mori di Tokyo Institute of Technology menerbitkan artikel yang agak mungil di jurnal yang agak kurang dikenal berjudul Energi (bukan sarang untuk AI dan robotika sendiri), dan mengatakan ini:

“Saya telah memperhatikan bahwa, dalam mendaki menuju tujuan membuat robot tampak seperti manusia, afinitas kita terhadap mereka meningkat sampai kita tiba di sebuah lembah, yang saya sebut lembah luar biasa.”

Harap dicatat bahwa ungkapan di atas ditampilkan dalam bahasa Inggris, meskipun kertas aslinya dalam bahasa Jepang. Versi terjemahan bahasa Inggris diawasi oleh penulis dan kemudian diterbitkan di IEEE Spectrum pada tahun 2012 dan dikreditkan ke Masahiro Mori sebagai penulis. Anda dapat membaca sendiri makalah tersebut karena tersedia secara online dan terbuka secara gratis. Ini adalah bacaan yang sangat cepat mungkin sekitar sepuluh menit dan tidak mengandung istilah teknis yang berat.

Meskipun demikian, menarik dan agak menakjubkan bahwa artikel yang begitu cepat, yang diterbitkan pada tahun 1970, akhirnya memulai seluruh arena penyelidikan dan meluncurkan segudang studi, proyek, penelitian, dan kadang-kadang badai kontroversi tentang apakah yang diperkenalkan konsep lembah luar biasa benar-benar ada. Saya kira ini menunjukkan bahwa ide-ide yang menarik dan kadang-kadang mengubah sudut pandang tidak harus berbelit-belit secara besar-besaran atau diisi dengan jargon dan keangkuhan. Ide yang ringkas bisa menjadi seolah-olah tidak lebih kuat daripada yang terlihat di muka.

Saya percaya itu akan mendorong Anda untuk mencoba dan mengembangkan ide-ide baru Anda, melakukannya dengan kesadaran bahwa manis dan sederhana bisa menjadi luar biasa atau kadang-kadang lebih dari berbelit-belit dan kompleks.

Mari kita melompat kembali ke elisitasi lembah yang luar biasa.

Anda menemukan sistem robot yang memiliki wajah yang mirip dengan wajah manusia. Bayangkan bahwa wajah robot ini telah dirancang melalui banyak iterasi. Pengembang AI yang menyusun kepala robot secara bertahap berusaha untuk membuat bagian wajah robot tampak semakin mirip dengan wajah manusia yang sebenarnya.

Percobaan pertama mereka sangat primitif. Wajah robot memiliki tampilan yang sama seperti yang Anda lihat di film fiksi ilmiah yang seluruhnya terbuat dari logam dan menampilkan roda gigi dan kabel. Anda langsung tahu ketika Anda menatap alat itu bahwa itu adalah robot. Tidak ada pertanyaan dalam pikiran Anda tentang hal itu.

Percobaan berikutnya oleh pengembang AI melibatkan membungkus beberapa bahan plastik di sekitar potongan logam. Meskipun ini terlihat agak lebih ramah, Anda masih langsung tahu bahwa itu adalah kepala robot dan wajah robot. Sekali lagi, mudah-peasy untuk dideteksi.

Para pengembang AI tersebut bertekad untuk melanjutkannya. Mereka memahat plastik dan memberinya warna kulit. Mereka menambahkan fitur yang tampak sangat mirip dengan wajah manusia, seperti tahi lalat, rambut, noda, dan sejenisnya.

Pada pandangan pertama, Anda mungkin dituntun untuk percaya bahwa ini adalah wajah manusia. Jika sebuah gambar diambil dari wajah robot dan Anda diminta untuk mengidentifikasi apakah gambar tersebut menggambarkan seseorang versus wajah robot, Anda mungkin terhalang untuk dapat segera mengatakan yang mana itu. Di sisi lain, jika Anda berdiri di samping perangkat, kemungkinan besar Anda setelah diperiksa dengan cermat akan dapat membedakan bahwa itu bukan manusia dan bukan penemuan robot.

Masalahnya, sebelum Anda mendapat kesempatan untuk melakukan pemeriksaan jarak dekat, ada sesuatu tentang wajah yang tampaknya tidak sepenuhnya cocok. Itu pasti terlihat seperti wajah manusia. Tapi ada sesuatu yang salah. Anda harus terus menatap dengan seksama untuk meletakkan jari Anda pada apa yang tidak terlihat benar. Mungkin itu wajah asli. Kemudian lagi, mungkin tidak. Pikiran Anda berputar sesuai dengan itu.

Sebuah kemiripan kengerian memasuki pikiran Anda.

Anda tidak memiliki kemiripan kengerian yang sama ketika Anda melihat dua versi sebelumnya. Anda dapat tanpa jeda atau ragu mendeteksi bahwa robot itu adalah robot. Hanya seorang anak yang mungkin tertipu untuk percaya bahwa salah satu dari versi itu adalah orang yang nyata.

Namun versi terbaru ini berbeda. Itu belum sempurna untuk tampil seperti wajah manusia. Juga tidak terlalu jauh dari aslinya sehingga jelas bahwa itu pasti robot. Semacam tanah kacau telah tercapai.

Misalkan para pengembang mendorong lebih jauh ke dalam upaya penelitian mereka dan mengatur segalanya sehingga wajah robot hampir tidak bisa dibedakan dari wajah manusia. Tidak peduli berapa lama Anda menatap benda itu, Anda tidak yakin apakah itu manusia atau bukan. Ketika diberitahu bahwa itu adalah wajah robot, Anda terkejut. Astaga, mereka telah melakukan pekerjaan yang hebat untuk membuatnya terlihat nyata.

Perhatikan bahwa selama ini Anda hanya mempertimbangkan aspek robotik berdasarkan penampilan saja.

Kita bisa menambahkan gerakan ke persamaan. Ini menambah dimensi tambahan bagi Anda untuk membedakan apakah robot itu robot versus manusia. Saya tidak ingin sepenuhnya menganggap ini sebagai jenis masalah multi-dimensi dalam diskusi ini karena itu membuat penjelasan tentang topik ini lebih rumit (meskipun ada multi-dimensi yang mau tidak mau saling terkait). Bagaimanapun, bayangkan Anda tidak hanya melihat wajah robot tetapi juga bisa menyaksikan robot menggerakkan fitur wajah, seperti mulut, mata, hidung, dll. Jelas, itu bisa menjadi hadiah juga tentang apakah ini sebuah robot atau manusia.

Salah satu aspek penting untuk tetap berada di garis depan lembah yang luar biasa ini adalah bahwa konsepsi asli menekankan tindakan kedekatan manusia. Fenomena yang diklaim adalah bahwa afinitas Anda meningkat saat Anda melihat wajah robot yang ditingkatkan secara bertahap, hingga titik di mana varian luar biasa muncul. Pada saat itu, rasa afinitas Anda dikatakan turun drastis, jatuh ke jurang atau lembah afinitas.

Untuk versi tertentu yang membuat Anda curiga ada yang tidak beres, afinitas Anda diduga turun drastis. Lebih jauh lagi, menurut teori, afinitas Anda dapat meroket kembali setelah Anda menemukan versi yang lebih maju yang hampir identik dengan bentuk manusia yang sebenarnya.

Berikut lebih lanjut tentang apa yang penulis nyatakan tentang kecenderungan normal kita untuk berasumsi bahwa aspek kehidupan meningkat dengan lancar: “Istilah matematika fungsi yang meningkat secara monoton menggambarkan hubungan di mana fungsi y = (x) meningkat terus menerus dengan variabel x. Misalnya, sebagai usaha x tumbuh, pendapatan y meningkat, atau saat pedal gas mobil ditekan, mobil bergerak lebih cepat. Hubungan semacam ini ada di mana-mana dan sangat mudah dipahami. Faktanya, karena fungsi yang meningkat secara monoton seperti itu mencakup sebagian besar fenomena kehidupan sehari-hari, orang mungkin jatuh di bawah ilusi bahwa mereka mewakili semua hubungan. Juga membuktikan kesan yang salah ini adalah kenyataan bahwa banyak orang berjuang sepanjang hidup dengan terus-menerus mendorong tanpa memahami keefektifan menarik kembali. Itulah sebabnya orang biasanya bingung ketika dihadapkan pada beberapa fenomena yang tidak dapat diwakili oleh fungsi ini.” Ini dikutip per IEEE Spectrum kertas yang diterjemahkan.

Asumsi yang hampir universal tentang selalu meningkat ini dapat dibatalkan ketika kita menemukan sesuatu yang salah. Ketakutan dan kecurigaan akan menyebabkan penurunan afinitas yang relatif tiba-tiba dan dramatis, menurut teori, seperti tangan robot yang Anda pilih untuk dijabat dan tidak dapat merasakan karakteristik tulang tangan manusia: “Ketika ini terjadi, kita kehilangan akal sehat kita. afinitas, dan tangan menjadi luar biasa. Dalam istilah matematika, ini dapat diwakili oleh nilai negatif.

Jika Anda menerima premis bahwa ada fenomena lembah luar biasa ini, saya yakin Anda bertanya-tanya apa untungnya bagi Anda mengetahui bahwa lembah luar biasa itu ternyata ada.

Itu klasik sepanjang masa "jadi apa?" tes kepraktisan.

Ternyata banyak orang datang dengan banyak interpretasi tentang apa yang harus atau dapat kita lakukan tentang lembah yang luar biasa itu. Ada banyak sekali opini. Saya akan membahas beberapa di antaranya segera.

Sementara itu, inilah yang disodorkan Masahiro Mori: “Kami berharap dapat merancang dan membangun robot dan tangan palsu yang tidak akan jatuh ke lembah yang luar biasa. Jadi, karena risiko yang melekat dalam mencoba meningkatkan derajat keserupaan mereka dengan manusia untuk menskalakan puncak kedua, saya menyarankan agar para desainer mengambil puncak pertama sebagai tujuan mereka, yang menghasilkan tingkat keserupaan manusia yang moderat dan rasa afinitas yang cukup besar. . Bahkan, saya memperkirakan adalah mungkin untuk menciptakan tingkat afinitas yang aman dengan secara sengaja mengejar desain non-manusia. Saya meminta desainer untuk merenungkan hal ini.”

Kondensasi cepat di bagian saya dari dua belas aturan kursi yang praktis tentang apa yang harus dilakukan mengenai lembah yang luar biasa seperti ini untuk pengembang AI pada khususnya:

1) Waspadai lembah yang luar biasa dan waspadalah dengan itu

2) Anda mungkin ingin mencapai afinitas manusia untuk AI Anda sebanyak mungkin

3) Bersiaplah untuk kehilangan afinitas manusia jika AI Anda jatuh ke lembah yang luar biasa

4) Berusahalah untuk menghindari lembah yang luar biasa dengan merancang AI Anda dengan demikian

5) Adalah terhormat untuk memiliki tujuan yang pendek dari lembah yang luar biasa

6) Miring ke tepi lembah yang luar biasa tapi jangan jatuh di atas tebing

7) Jangan terobsesi untuk melampaui lembah yang luar biasa

8) Ada kemungkinan Anda bisa melompat melewati lembah yang luar biasa

9) Jangan sibuk dengan lompatan karena Anda mungkin akan jatuh ke lembah

10) Afinitas manusia maksimum diakui akan dicapai dengan melewati lembah yang luar biasa

11) Meskipun demikian, ada afinitas yang memadai dan cocok ditemukan sebelum lembah luar biasa

12) Selalu waspada terhadap lembah yang luar biasa dan jangan biarkan hal itu terlepas dari pikiran Anda

Selusin ini semua adalah sila umum yang dapat dianggap sebagai batu kunci atau titik penahan untuk mengetahui tentang lembah yang luar biasa. Saya akan segera mengakui bahwa ada poin lain yang tidak tercantum dalam selusin yang mungkin dianggap sama pentingnya. Saya juga akan segera mengakui bahwa pasti ada ketidaksepakatan untuk setiap poin yang diidentifikasi, dan perdebatan sengit yang panjang dapat terjadi pada setiap poin yang dibuat.

Lebih dari itu, beberapa orang akan mengatakan bahwa kedua belas poin itu sama sekali tidak berguna karena awalnya didasarkan pada kepalsuan. Tidak ada yang namanya lembah yang luar biasa, kata mereka. Itu semua hanyalah tipu muslihat dan penemuan yang dibuat-buat yang menarik semata-mata dan sayangnya untuk menarik pikiran yang lemah (aduh, itu sungguh menyakitkan!). Perhatian apa pun ke lembah yang luar biasa itu adalah buang-buang udara dan seseorang harus datang dan meletakkan tiang teoretis kayu tajam di jantung masalah (beberapa peneliti telah mencoba melakukannya).

Demi diskusi, mari kita ikuti arus dan asumsikan bahwa ada lembah yang luar biasa dan itu dimaksudkan untuk secara umum cocok dengan apa yang telah saya tunjukkan sejauh ini. Mereka yang tidak setuju dengan konseptualisasi lembah yang luar biasa dipersilakan untuk keluar atau melanjutkan membaca dengan gigi terkatup dan kemarahan intelektual mereka muncul dan mendidih (maaf tentang itu).

Inilah bagaimana AI Etis dan fokus merancang dan menerapkan AI etis. Omong-omong, untuk eksplorasi saya yang berkelanjutan dan mendalam tentang etika AI, lihat diskusi saya di tautan ini di sini dan tautan ini di sini, Hanya untuk beberapa nama.

Lembah yang luar biasa adalah urusan cinta-benci yang jelas bagi mereka yang menyukai AI Etis.

Pertama, beberapa latar belakang yang dibutuhkan. Salah satu keraguan etis terkait AI yang paling mengganggu adalah bahwa manusia dapat dikelabui untuk percaya bahwa sistem AI itu hidup. Perlu diketahui bahwa tidak ada AI saat ini yang mendekati makhluk hidup. Itu tidak terjadi saat ini. Pernyataan saya yang seolah-olah "kurang ajar" dibuat terlepas dari berita utama yang gencar dan menggelegar yang menyatakan AI ini atau bahwa AI itu hidup atau cukup dekat untuk dianggap seperti itu. Omong kosong. Kami tidak berada di perasaan AI.

Kami tidak tahu bagaimana menuju ke sana. Kami tidak tahu apakah itu akan terjadi. Perasaan AI adalah mimpi dan aspirasi yang berharga, meskipun jangan langsung berpikir dan berpikir kita berada di titik puncak untuk mencapainya.

Tentu saja, banyak yang dengan sungguh-sungguh memperingatkan bahwa jika kita entah bagaimana berhasil menarik perasaan AI, apakah kita melakukannya dengan sengaja atau karena kecelakaan, kita akan menghadapi risiko eksistensial. Dengan cara berpikir seperti itu, mungkin mencari perasaan AI tidak begitu berharga. Risikonya adalah bahwa AI yang hidup ini mungkin menentukan bahwa manusia tidak berharga. Kita bisa terjepit seperti serangga. Atau menjadi budak AI. Ini bisa terjadi karena AI secara terang-terangan memilih untuk melakukannya, atau AI mungkin berakhir menjadi mesin kiamat kita sendiri yang menghancurkan kita karena ketidakmampuan kita sendiri. Untuk liputan saya tentang hasil mengganggu perasaan atau singularitas AI, lihat tautannya di sini.

Kekhawatiran AI Etis yang penting adalah bahwa pengembang AI dan mereka yang menggunakan AI terkadang membuat manusia berpikir bahwa AI itu hidup. Cara bagaimana AI menunjukkan dirinya, seperti dengan formulasi robot atau dengan interaktivitas percakapannya dapat secara diam-diam mendorong orang untuk berasumsi bahwa AI itu hidup. Ini pada gilirannya membawa Anda ke jalur primrose yang berpotensi busuk.

Jika Anda jatuh ke dalam perangkap mental dengan berpikir bahwa sistem AI adalah makhluk hidup, kemungkinan besar Anda akan mengandalkannya untuk melakukan hal-hal yang akan dilakukan makhluk hidup. Tetapi belum ada akal sehat dari kualitas seperti manusia yang dibangun ke dalam AI saat ini. AI yang kami alami saat ini sangat rapuh dan dangkal dalam hal kapasitas seperti manusia. Anda bisa masuk ke perairan yang tidak menyenangkan dan berbahaya dengan percaya bahwa sistem AI adalah makhluk hidup.

Bagaimana itu terhubung dengan lembah yang luar biasa?

Ini kesepakatannya.

Ingatlah bahwa lembah luar biasa itu tampaknya memberi tahu kita bahwa afinitas manusia akan meningkat secara bertahap ketika sistem AI atau robot semakin dekat dan semakin dekat dengan formulasi mirip manusia. Pada saat di mana sistem AI mendekati titik yang cukup dekat, namun tetap saja, tidak cukup sampai di sana, kita mendapatkan perasaan yang menakutkan bahwa ada sesuatu yang salah. Sampai saat itu, kami tahu bahwa AI bukanlah manusia. Sekarang kami tidak yakin. Afinitas manusia kita turun. Hanya setelah AI atau robot benar-benar meyakinkan tentang kapasitas seperti manusia, kami mendapatkan kembali kemiripan kedekatan kami dengan perangkat.

Pengembang AI yang mengambil hati ini mungkin akan dengan sengaja berusaha untuk menjaga AI mereka keluar dari lembah luar biasa, bertujuan untuk berhenti dalam hal fitur AI, tepat sebelum jatuh ke jurang yang luar biasa (ingat, itu juga yang ditekankan Masahiro Mori). Para pengembang tampaknya akan melakukannya dengan memastikan bahwa petunjuk-petunjuk yang berlimpah masih ada untuk membuatnya lebih jelas bahwa AI adalah AI yang kurang hidup dan bukan manusia atau sama.

Ahli etika AI umumnya akan menyambut upaya sepenuh hati itu.

Alasannya sederhana. Pengembang AI yang begitu terinformasi dan merangkul berusaha memastikan bahwa sistem AI tidak menyesatkan orang untuk secara keliru menganggap fasilitas mirip manusia sebagai AI. Itu pasti kabar baik. Pengembang akan dengan sengaja membuat AI untuk mencegah penyelaman ke lembah yang luar biasa. Manusia akan segera menyadari bahwa AI tidak hidup.

Mencoba membuat pengembang AI menerima pendekatan seperti itu tidaklah mudah. Memang, itu bisa berlawanan dengan naluri dan ambisi mereka yang biasa.

Banyak klaim dibuat bahwa pengembang dan teknisi AI, secara umum, memiliki tujuan. Mereka melihat sebuah tujuan dan seringkali membabi buta mengejarnya dengan penuh semangat. Tidak ada waktu untuk berhenti dan mencium bunga mawar. Pergi ke balapan, kita pergi. Di bidang AI, tujuan normatifnya adalah AI yang diidealkan yang tidak dapat dibedakan dari manusia di mana AI dapat secara cerdas setara dalam paritas. Tapi kita belum sampai. Dengan demikian, lembah luar biasa memberikan tujuan sekunder, mendarat sebelum lembah luar biasa yang membendung, dan menjadi tujuan yang tetap dapat diterima. Tentu, ini bukan cincin yang berharga emas, tetapi idenya adalah bahwa hadiah "sekunder" ini baik-baik saja, terima kasih banyak, dan Anda bisa bangga karenanya.

Kami telah mengubah ambisi teratas pencarian tujuan yang merusak dan memanfaatkannya menjadi dasar yang masuk akal untuk melakukan hal yang benar, seolah-olah.

Hore!

Skor kemenangan untuk etika AI.

Tapi tunggu dulu, spoiler alert, ada hal lain yang juga perlu kita pertimbangkan.

Sekarang setelah para pengembang AI yang cerdas itu tahu tentang lembah yang luar biasa itu, mereka mungkin mengubah akal dan kecakapan mereka untuk melompati jurang dengan sengaja, namun melakukannya dengan semacam penipuan dalam pikiran. Jadikan AI terlihat dan tampak sepenuhnya seperti manusia, meskipun pengembang tahu ini tidak benar.

Pemikiran nakal berjalan seperti ini. Jangan biarkan sistem AI Anda mencapai puncaknya dan menyebabkan orang mendapatkan arus bawah kengerian yang sulit dipahami. Singkirkan aspek yang mungkin memberi petunjuk atau petunjuk bahwa AI bukan kemampuan manusia. Lakukan ini sambil diam-diam menyadari dan mengetahui bahwa AI bukan kemampuan manusia dan ini semua tentang menyembunyikan kebenaran itu dari mereka yang berinteraksi dengan atau bergantung pada AI.

Apa rencana jahat.

Ironisnya, uncanny valley bisa menjadi semacam peringatan bagi pengembang AI bahwa jika mereka ingin benar-benar membodohi orang, mereka harus cukup pintar untuk melarikan diri dari jurang maut. Mereka tidak melakukannya dengan mencapai AI lengkap, dan sebaliknya dengan mendirikan asap dan cermin untuk membuat AI tampak menyesatkan seperti manusia. Seandainya para pengembang AI tidak menyadari bahwa lembah yang luar biasa ini ada, mereka pada umumnya akan jatuh ke dalamnya. Itu bagus untuk umat manusia karena manusia akan kehilangan afinitas mereka terhadap AI dalam hal tidak terlalu mengandalkan kualitas AI saat ini.

Sayangnya, dengan mengetahui bahwa jebakan itu ada, pengembang AI yang ingin menyelinap di sekitarnya akan menemukan cara yang sangat cerdik untuk melakukannya.

Skor pukulan terhadap ajaran Etis AI.

Apakah Anda melihat bagaimana ini menciptakan hubungan cinta-benci untuk ahli etika AI tentang lembah yang luar biasa?

Terkutuklah jika Anda melakukannya, terkutuklah jika Anda tidak melakukannya.

Saya menyadari ini telah menjadi pemeriksaan alis yang agak tinggi dari lembah yang luar biasa dan Anda mungkin mendambakan beberapa contoh sehari-hari. Ada satu set contoh khusus dan pasti populer yang dekat dengan hati saya. Anda tahu, dalam kapasitas saya sebagai ahli AI termasuk konsekuensi etis dan hukum, saya sering diminta untuk mengidentifikasi contoh realistis yang menunjukkan dilema Etika AI sehingga sifat topik yang agak teoretis dapat lebih mudah dipahami. Salah satu area paling menggugah yang secara gamblang menghadirkan kebingungan AI etis ini adalah munculnya mobil self-driving sejati berbasis AI. Ini akan berfungsi sebagai kasus penggunaan yang berguna atau contoh untuk diskusi yang cukup tentang topik tersebut.

Inilah pertanyaan penting yang patut direnungkan: Apakah munculnya mobil self-driving sejati berbasis AI menerangi sesuatu tentang lembah yang luar biasa, dan jika demikian, apa yang harus kita lakukan?

Izinkan saya sejenak untuk membongkar pertanyaan itu.

Pertama, perhatikan bahwa tidak ada pengemudi manusia yang terlibat dalam mobil self-driving sejati. Perlu diingat bahwa mobil self-driving sejati digerakkan melalui sistem mengemudi AI. Tidak ada kebutuhan untuk pengemudi manusia di belakang kemudi, juga tidak ada ketentuan bagi manusia untuk mengemudikan kendaraan. Untuk liputan saya yang luas dan berkelanjutan tentang Kendaraan Otonom (AV) dan terutama mobil self-driving, lihat tautannya di sini.

Saya ingin mengklarifikasi lebih lanjut apa yang dimaksud dengan mobil self-driving sejati.

Memahami Tingkatan Mobil Self-Driving

Sebagai klarifikasi, mobil self-driving sejati adalah mobil yang dikendarai AI sepenuhnya sendiri dan tidak ada bantuan manusia selama tugas mengemudi.

Kendaraan tanpa pengemudi ini dianggap Level 4 dan Level 5 (lihat penjelasan saya di tautan ini di sini), sementara mobil yang memerlukan pengemudi manusia untuk berbagi upaya mengemudi biasanya dianggap di Level 2 atau Level 3. Mobil yang berbagi tugas mengemudi digambarkan sebagai semi-otonom, dan biasanya berisi berbagai add-on otomatis yang disebut sebagai ADAS (Advanced Driver-Assistance Systems).

Belum ada mobil self-driving sejati di Level 5, yang kita bahkan belum tahu apakah ini akan mungkin dicapai, dan juga tidak berapa lama untuk sampai di sana.

Sementara itu, upaya Level 4 secara bertahap mencoba mendapatkan daya tarik dengan menjalani uji coba jalan raya umum yang sangat sempit dan selektif, meskipun ada kontroversi mengenai apakah pengujian ini harus diizinkan sendiri (kita semua adalah kelinci percobaan hidup atau mati dalam sebuah percobaan terjadi di jalan raya dan byways kami, beberapa berpendapat, lihat liputan saya di tautan ini di sini).

Karena mobil semi-otonom membutuhkan pengemudi manusia, adopsi jenis-jenis mobil itu tidak akan jauh berbeda dari mengendarai kendaraan konvensional, jadi tidak banyak yang baru untuk membahasnya mengenai topik ini (meskipun, seperti yang akan Anda lihat suatu saat, poin-poin yang dibuat selanjutnya secara umum berlaku).

Untuk mobil semi-otonom, penting bahwa masyarakat perlu diperingatkan tentang aspek mengganggu yang telah muncul akhir-akhir ini, yaitu bahwa meskipun para pengemudi manusia yang terus memposting video diri mereka tertidur di belakang kemudi mobil Level 2 atau Level 3 , kita semua perlu menghindari disesatkan untuk percaya bahwa pengemudi dapat mengambil perhatian mereka dari tugas mengemudi sambil mengendarai mobil semi-otonom.

Anda adalah pihak yang bertanggung jawab untuk tindakan mengemudi kendaraan, terlepas dari berapa banyak otomatisasi yang mungkin dilemparkan ke Level 2 atau Level 3.

Mobil Mengemudi Sendiri Dan Lembah Luar Biasa

Untuk kendaraan self-driving sejati Level 4 dan Level 5, tidak akan ada pengemudi manusia yang terlibat dalam tugas mengemudi.

Semua penumpang akan menjadi penumpang.

AI sedang mengemudi.

Salah satu aspek yang perlu segera dibahas adalah fakta bahwa AI yang terlibat dalam sistem penggerak AI saat ini bukanlah makhluk hidup. Dengan kata lain, AI secara keseluruhan merupakan kumpulan dari pemrograman dan algoritma berbasis komputer, dan yang paling pasti tidak dapat bernalar dengan cara yang sama seperti manusia.

Mengapa penekanan tambahan ini tentang AI tidak hidup?

Karena saya ingin menggarisbawahi bahwa ketika membahas peran sistem penggerak AI, saya tidak menganggap kualitas manusia berasal dari AI. Perlu diketahui bahwa ada kecenderungan yang sedang berlangsung dan berbahaya akhir-akhir ini untuk antropomorfisasi AI. Intinya, orang-orang menugaskan perasaan mirip manusia ke AI saat ini, terlepas dari fakta yang tak terbantahkan dan tak terbantahkan bahwa AI tersebut belum ada.

Dengan klarifikasi tersebut, Anda dapat membayangkan bahwa sistem mengemudi AI tidak akan secara asli “tahu” tentang aspek mengemudi. Mengemudi dan semua yang diperlukannya perlu diprogram sebagai bagian dari perangkat keras dan perangkat lunak mobil yang dapat mengemudi sendiri.

Mari selami segudang aspek yang ikut bermain tentang topik ini.

Pertama, penting untuk disadari bahwa tidak semua mobil self-driving AI itu sama. Setiap pembuat mobil dan perusahaan teknologi self-driving mengambil pendekatan untuk merancang mobil self-driving. Dengan demikian, sulit untuk membuat pernyataan menyeluruh tentang apa yang akan dilakukan atau tidak dilakukan oleh sistem penggerak AI.

Selain itu, setiap kali menyatakan bahwa sistem penggerak AI tidak melakukan beberapa hal tertentu, ini nantinya dapat diambil alih oleh pengembang yang sebenarnya memprogram komputer untuk melakukan hal itu. Langkah demi langkah, sistem penggerak AI secara bertahap ditingkatkan dan diperluas. Batasan yang ada saat ini mungkin tidak ada lagi di iterasi atau versi sistem yang akan datang.

Saya percaya bahwa hal itu memberikan sejumlah peringatan yang cukup untuk mendasari apa yang akan saya ceritakan.

Kami siap sekarang untuk menyelami mobil self-driving dan pertanyaan etis AI yang melibatkan lembah luar biasa.

Ada empat aspek yang berkaitan dengan hal ini yang akan dibahas di sini:

1. Tampilan keseluruhan mobil self-driving

2. Pertanyaan di mana mobil self-driving "mencari"

3. Aksi mengemudi AI dari mobil self-driving

4. Robot yang mengemudi sebagai sarana untuk mencapai mobil yang bisa mengemudi sendiri

Aspek tambahan juga dicakup secara layak tetapi untuk kendala ruang, empat topik ini akan cukup untuk menjelaskan bantalan lembah luar biasa yang terkait dengan mobil self-driving berbasis AI.

1. Tampilan Keseluruhan Mobil Self-Driving

Saya yakin Anda telah melihat gambar atau video uji coba mobil self-driving hari ini. Dengan demikian, Anda mungkin telah memperhatikan bahwa sebagian besar kendaraan adalah mobil yang tampak konvensional yang dilengkapi dengan peralatan khusus tambahan. Misalnya, mungkin ada rak atap yang berisi banyak sensor elektronik. Sensor terkadang termasuk kamera video, unit radar, perangkat LIDAR, sensor ultrasonik, dan sejenisnya.

Desain futuristik cenderung menyarankan bahwa kita mungkin berangkat dari mobil yang tampak konvensional untuk mendesain ulang mobil baik pada interior maupun eksterior untuk menjadi kendaraan otonom yang tampak lebih apik. Saat ini, pemikiran umum adalah bahwa lebih mudah untuk menggunakan mobil konvensional dan tidak menghabiskan energi mencoba untuk meregangkan usaha dengan secara bersamaan mengutak-atik mobil yang tampak tidak konvensional (ada beberapa pengecualian untuk sudut pandang umum ini, lihat liputan saya di tautannya di sini).

Intinya sekarang adalah bahwa jika Anda mengemudi di jalan raya dan menemukan mobil self-driving di dekatnya, Anda hampir selalu dapat segera melihat bahwa itu mungkin adalah mobil self-driving hanya dengan memperhatikan segelintir sensor yang dipasang pada kendaraan otonom. Ini adalah hadiah visual cepat. Tentu saja, Anda tidak tahu pasti itu mengemudi sendiri karena pada saat ini kontrol mengemudi biasanya masih utuh dan pengemudi cadangan manusia mungkin berada di belakang kemudi.

Dalam satu cara berpikir, Anda dapat menyarankan bahwa sangat berguna bahwa mobil self-driving secara fisik tampak menonjol dan mudah terlihat secara visual oleh pengemudi manusia di mobil yang dikendarai manusia di dekatnya dan juga oleh pejalan kaki di dekatnya juga. Kesadaran bahwa mobil self-driving berkeliaran di dekatnya dapat menjadi petunjuk praktis untuk waspada, mendorong Anda untuk waspada dan sadar bahwa AI sedang atau mungkin mengemudikan kendaraan.

Misalkan mobil self-driving tampak identik dengan mobil konvensional yang dikemudikan manusia. Ini secara realistis layak dalam setidaknya dua cara. Pertama, sensor berpotensi disembunyikan atau dibentuk agar tidak begitu jelas untuk inspeksi visual biasa. Kedua, bisa jadi semua mobil termasuk mobil konvensional yang dikemudikan manusia secara bertahap dilengkapi dengan sensor serupa, bahkan jika kendaraan tersebut tetap akan tetap sebagai mobil yang didominasi manusia. Lihat liputan saya selanjutnya di tautan ini di sini.

Jika Anda dengan hati-hati merenungkan pertimbangan ini tentang apakah mobil self-driving dapat atau harus identik dalam penampilan dengan mobil konvensional yang dikemudikan manusia, Anda mungkin akan berpikir bahwa lembah yang luar biasa mungkin mengintai dalam rebusan ini.

Soalnya, mobil yang secara terang-terangan terlihat seperti mobil self-driving mungkin dicirikan berada di persimpangan yang tidak jauh dari lembah yang luar biasa. Pada dasarnya, Anda "tahu" itu adalah robot atau semacam sistem robot. Itu adalah penilaian yang hampir bisa Anda lompati.

Ketika mobil self-driving identik dengan mobil yang dikemudikan manusia, mungkin ini menunjukkan bahwa kendaraan otonom telah melompati lembah luar biasa dengan penampilan seperti robot. Apakah ada jalan tengah antara dua penampilan fisik yang membawa kita ke lembah yang luar biasa?

Mungkin Anda melihat mobil self-driving turun di jalan dan sepertinya itu adalah mobil self-driving, di sisi lain, penampilannya tidak terlihat otonom atau terlihat seperti manusia. Anda bisa berargumentasi bahwa mobil self-driving sekarang dalam keadaan menakutkan atau mengganggu penampilan.

Mobil self-driving itu seolah-olah tenggelam ke dalam lembah yang luar biasa.

Karena itu, tidak semua orang akan setuju dengan kategorisasi itu. Beberapa orang akan mengklaim bahwa tampilan fisik tidak ada hubungannya dengan lembah yang luar biasa itu. Beberapa tentu juga menegaskan bahwa tidak ada sesuatu yang secara realistis dikenal sebagai lembah luar biasa.

Seperti yang disebutkan sebelumnya, Anda dipersilakan untuk membuat keputusan sendiri tentang hal ini.

2. Pertanyaan Kemana Mobil Self-Driving Mencari

Kekhawatiran besar yang dimiliki banyak orang tentang mobil self-driving adalah bahwa mereka biasanya tidak memiliki pengemudi manusia di kursi pengemudi dan oleh karena itu sulit untuk mengetahui di mana "pengemudi" melihat saat sedang mengemudikan mobil.

Anda biasanya melirik pengemudi manusia untuk memata-matai di mana mereka melihat. Misalnya, Anda mungkin pejalan kaki di penyeberangan dan sebuah mobil mendekati penyeberangan. Anda melihat dengan seksama pada orang yang duduk di kursi pengemudi dan mencoba untuk melihat ke mana kepala mereka menoleh dan ke mana mata mereka melihat. Jika Anda yakin bahwa pengemudi manusia telah melihat Anda, Anda mungkin lebih nyaman menyeberang jalan. Sebaliknya, jika pengemudi manusia sepertinya tidak melihat Anda, Anda berhak khawatir tentang menyeberang.

Di beberapa kota, ada semacam kucing dan tikus gambit pada aspek ini. Norma budaya tertentu di kota tertentu mungkin bahwa jika Anda melakukan kontak mata dengan pengemudi, pengemudi "menang" dan mereka tampaknya memiliki hak untuk melanjutkan, terlepas dari legalitas situasi mengemudi. Kota-kota lain mungkin sepenuhnya sebaliknya, yaitu bahwa norma budaya adalah bahwa ketika kontak mata dilakukan, pejalan kaki “menang” dan pengemudi manusia seharusnya tunduk pada tindakan pejalan kaki.

Kami tampaknya telah mengadopsi kebiasaan ini selama waktu yang relatif lama dari mobil berada di tengah-tengah kota dan komunitas kami. Masalah dengan munculnya mobil self-driving adalah bahwa tidak ada pengemudi manusia di kursi pengemudi dan dengan demikian pejalan kaki atau pengemudi manusia di dekatnya yang biasanya menggunakan kepala dan mata pengemudi mobil sebagai indikator budaya niat mengemudi sekarang kurang beruntung.

Pembuat mobil dan pengembang mobil self-driving sangat menyadari masalah yang muncul ini. Salah satu solusi yang diusulkan terdiri dari mobil self-driving mengedipkan lampu depan kendaraan otonom atau mungkin membunyikan klakson. Gagasan lain adalah bahwa mobil self-driving mungkin memiliki varian loudspeaker dan memberi tahu orang-orang terdekat apa "niat" dari sistem mengemudi AI. Ide-ide tersebut masing-masing memiliki kelemahan yang signifikan.

Namun proposal yang berbeda mengharuskan Anda melakukan sesuatu yang pada awalnya Anda anggap konyol. Proposal terdiri dari menempatkan bola seperti bola mata di bagian luar kendaraan otonom. Bola-bola ini akan terlihat seperti mata manusia dalam kemiripan dengan kemampuan berputar bolak-balik, memberi Anda indikasi langsung yang menunjukkan AI "telah melihat Anda" (Anda akan menafsirkan ini dengan bola mata yang melihat ke arah khusus Anda). Saya telah menganalisis pendekatan ini di tautannya di sini.

Apa reaksi Anda saat melihat mobil self-driving turun di jalan dan memiliki bola mata aneh yang muncul di kap mesin atau atap?

Saya kira Anda mungkin berpikir itu menakutkan, mungkin menyeramkan.

Beberapa orang akan menyarankan bahwa kengerian muncul dari mobil self-driving yang dilengkapi peralatan berada di lembah yang luar biasa. Yang lain akan dengan keras berargumen bahwa ini tidak ada hubungannya sama sekali dengan lembah yang luar biasa itu. Dari para pakar tersebut, beberapa orang akan mengatakan bahwa ada kengerian yang bisa menjadi kengerian tanpa harus bercokol di lembah luar biasa (yaitu, lembah luar biasa tampaknya selalu menghasilkan kengerian, tetapi tidak semua kengerian dihasilkan hanya melalui lembah luar biasa). Sudut lainnya adalah bahwa bola-bola itu mungkin dirancang agar tidak terlihat seperti bola mata dan tampak lebih seperti robot, atau bahwa kita semua pasti akan menerima penampilan bola-bola ini dan reaksi awal yang mengejutkan akan mereda.

3. Aksi Mengemudi AI Dari Mobil Mengemudi Sendiri

Banyak dari uji coba mobil self-driving hari ini telah menunjukkan bahwa sistem mengemudi AI yang ada cenderung diprogram untuk mengemudi dengan cara yang agak hangat dan agak mematuhi hukum. Sistem mengemudi AI biasanya membuat mobil yang mengemudi sendiri berhenti sepenuhnya di rambu Berhenti. Sistem mengemudi AI tidak melakukan gerakan berani melalui persimpangan ketika sinyal lalu lintas akan segera berubah menjadi merah. Praktik mengemudi yang menyimpang ini adalah bagian dari pengemudi manusia.

Dari segi berbicara, Anda hampir bisa menebak bahwa mobil self-driving adalah mobil self-driving dengan gaya mengemudi yang dipamerkannya. Bahkan jika kendaraan otonom tampak secara visual sebagai mobil konvensional yang dikemudikan manusia, Anda mungkin mengamati tindakan mengemudi dan mungkin secara logis menyimpulkan bahwa itu mungkin didorong oleh sistem AI.

Beberapa percaya bahwa kita perlu membuat sistem mengemudi AI menjadi lebih mirip dengan kejenakaan pengemudi manusia sehingga mereka akan secara efektif berbaur dengan pendekatan normatif untuk mengemudi. Saya kira Anda bisa menafsirkan ini sebagai melawan api dengan api.

Apakah itu masuk akal untuk dilakukan?

Sadarilah bahwa skeptis dan kritikus yang blak-blakan membenci gagasan itu. Mereka akan dengan keras berargumen bahwa kami ingin sistem penggerak AI bekerja dengan baik dan hati-hati. Menambahkan jutaan mobil self-driving yang berpotensi ke jalan raya yang diprogram seperti pengemudi manusia yang menyimpang akan tampak seperti mimpi buruk yang luar biasa. Saya telah membahas proposisi kontroversial ini di tautannya di sini.

Mari kita menyusun kembali dilema dengan memanfaatkan lembah yang luar biasa.

Ketika sistem mengemudi AI benar-benar legal dengan tindakan mengemudinya, ini mungkin merupakan petunjuk bahwa kemungkinan besar itu adalah sistem robot (terlepas dari pengemudi manusia yang memang melakukan ini, meskipun di dunia saat ini mereka tampak jauh dan sedikit di antaranya). Jika sistem mengemudi AI ingin mengemudi sama anehnya dengan pengemudi manusia, apakah ini melompat melintasi lembah yang luar biasa atau jatuh ke lembah yang luar biasa?

Pikirkan yang satu itu.

4. Robot Yang Mengemudi Sebagai Sarana Untuk Mencapai Mobil yang Dapat Mengemudi Sendiri

Item terakhir untuk liputan ini adalah yang paling mengejutkan dari keempatnya.

Anda mungkin sama sekali tidak menyadari bahwa beberapa pengembang AI mencoba membuat robot yang akan mengendarai mobil. Robot akan cenderung terlihat seperti manusia dalam berbagai hal, memiliki kaki robot dan lengan robot sebagai anggota badan. Ketika Anda ingin mobil konvensional yang dikemudikan manusia menjadi mobil self-driving, Anda cukup memasukkan robot AI khusus ini ke kursi pengemudi mobil Anda. Lihat analisis saya tentang gagasan ini di tautannya di sini.

Mengapa kita ingin mengemudikan robot?

Keindahan robot semacam itu adalah bahwa semua mobil yang dikemudikan manusia saat ini dapat dengan cara interpretasi menjadi mobil yang dapat mengemudi sendiri, hampir dalam semalam. Anda hanya membeli, menyewakan, atau entah bagaimana mendapatkan robot penggerak. Anda menempatkan robot ke kursi pengemudi Anda saat melakukan perjalanan mengemudi. Robot mengantar Anda ke tujuan Anda. Jika Anda ingin beralih ke mengemudi manusia, Anda mengeluarkan robot dari kendaraan, mungkin memasukkannya ke bagasi untuk penggunaan nanti.

Ada sekitar 250 juta mobil konvensional di Amerika Serikat saat ini. Beberapa percaya bahwa itu pada akhirnya akan dibuang ketika mobil self-driving muncul. Daripada membuang mobil konvensional itu, mungkin kita mungkin mencoba untuk memperbaikinya menjadi mobil yang bisa mengemudi sendiri, meskipun ini mungkin ide yang cukup mahal. Pendekatan yang tampaknya lebih bijaksana adalah menyediakan robot penggerak.

Jika Anda melihat mobil yang tampak konvensional turun di jalan lingkungan Anda dan ada robot yang mengemudikannya, apa reaksi Anda?

Mungkin kengerian.

Satu klaim yang dapat diperdebatkan adalah bahwa kengerian ini disebabkan oleh robot yang mengemudikan mobil konvensional turun ke lembah luar biasa yang terkenal atau terkenal itu.

Kesimpulan

Dari perspektif AI Etis, lembah luar biasa ini menghadirkan teka-teki yang menarik.

Ada beberapa di AI yang sepenuhnya percaya pada lembah luar biasa dan beberapa tidak. Namun, apakah Anda percaya pada lembah ajaib atau tidak, topik itu sendiri masih diperdebatkan. Anda tidak dapat menyembunyikan kepala Anda dan berpura-pura bahwa konstruksi itu sendiri tidak ada. Konstruksi sebagai ide hidup dan dalam beberapa kemiripan sangat kuat. Benci atau menyukainya, topik terkutuk atau mungkin ditinggikan tetap ada.

Per wacana saya sebelumnya tentang manfaat lembah luar biasa dari sudut etika AI, ada hubungan cinta dan benci duel di dalamnya. Haruskah mereka yang berada di ranah AI etis merangkul lembah luar biasa, atau secara ringkas menolak lembah luar biasa, atau tetap agak netral tentang kebenaran dan alih-alih fokus pada dampak yang timbul karena keyakinan berbeda yang sedang berlangsung tentang hal itu.

Tantangan ini memunculkan ekonom terkemuka Adam Smith seperti yang pernah dia katakan (parafrase) bahwa di jalan dari Kota Skeptisisme, Anda harus melewati Lembah Ambiguitas.