Etika AI Dan Pencarian Kesadaran Diri Dalam AI

Apakah Anda sadar diri?

Saya berani bertaruh bahwa Anda percaya Anda.

Masalahnya, konon, hanya sedikit dari kita yang sangat sadar diri. Ada rentang atau tingkat kesadaran diri dan kita semua konon berbeda dalam seberapa cerdik kita sadar diri. Anda mungkin berpikir bahwa Anda sepenuhnya sadar diri dan hanya sedikit sadar. Anda mungkin sedikit sadar diri dan menyadari bahwa itu adalah kondisi mental Anda.

Sementara itu, di bagian paling atas dari spektrum, Anda mungkin percaya bahwa Anda sepenuhnya sadar diri dan memang benar-benar sadar diri saat mereka datang. Bagus untukmu.

Omong-omong, apa gunanya menjadi sangat sadar diri?

Menurut penelitian yang dipublikasikan di Harvard Business Review (HBR) oleh Tasha Eurich, Anda dilaporkan mampu membuat keputusan yang lebih baik, Anda lebih percaya diri dalam keputusan Anda, Anda lebih kuat dalam kapasitas komunikasi Anda, dan lebih efektif secara keseluruhan (per artikel berjudul “Apa Kesadaran Diri Sebenarnya (dan Bagaimana untuk Mengolahnya).” Faktor bonusnya adalah mereka yang memiliki kesadaran diri yang tinggi dikatakan kurang cenderung untuk menipu, mencuri, atau berbohong. berjuang untuk menjadi manusia yang lebih baik dan memperindah sesama manusia.

Semua pembicaraan tentang kesadaran diri ini memunculkan pertanyaan yang agak jelas, yaitu, apa yang sebenarnya ditunjukkan oleh ungkapan kesadaran diri. Anda dapat dengan mudah menemukan banyak definisi dan interpretasi yang berbeda tentang kompleks dan harus kita katakan konstruksi lembek yang melibatkan kesadaran diri. Beberapa akan menyederhanakan masalah dengan menyarankan bahwa kesadaran diri terdiri dari pemantauan diri Anda sendiri, mengetahui apa yang Anda lakukan. Anda sangat menyadari pikiran dan tindakan Anda sendiri.

Agaknya, ketika tidak sadar diri, seseorang tidak akan menyadari apa yang mereka lakukan, atau mengapa demikian, dan juga tidak menyadari apa yang orang lain katakan tentang mereka. Saya yakin Anda pernah bertemu orang yang seperti ini.

Beberapa orang tampaknya berjalan di muka bumi ini tanpa mengetahui apa yang mereka lakukan sendiri, dan mereka juga tidak memiliki kemiripan dengan apa yang dikatakan orang lain tentang mereka. Saya kira Anda dapat berpendapat bahwa mereka seperti banteng yang sedang menyerang di butik barang pecah belah yang rapuh. Kita biasanya cenderung percaya bahwa banteng tidak tahu apa yang dilakukannya dan tetap tidak menyadari sudut pandang orang lain kecuali orang lain itu mencoba untuk secara fisik melakukan manuver atau mengurung makhluk yang tidak mengerti itu.

Dikatakan bahwa kesadaran diri bisa agak rekursif.

Biarkan saya membuat sketsa contoh untuk menggambarkan rekursi ini. Anda sedang menonton video kucing yang cukup menarik di ponsel cerdas Anda (sepertinya semua orang melakukan ini). Beberapa orang tidak akan memiliki pemikiran lain yang jelas selain kejenakaan menakjubkan yang menghangatkan hati dari kucing-kucing kesayangan itu. Sementara itu, siapa pun dengan sedikit kesadaran diri, mereka sadar bahwa mereka sedang menonton video kucing. Mereka mungkin juga menyadari bahwa orang lain di sekitar mereka memperhatikan bahwa mereka sedang menonton video kucing.

Perhatikan bahwa Anda dapat menjadi sadar diri dan masih tenggelam dalam suatu kegiatan utama tertentu. Aktivitas utama dalam hal ini adalah menonton video kucing. Kedua, dan secara bersamaan, Anda dapat membawa pemikiran bahwa Anda sebenarnya sedang menonton video kucing. Anda juga dapat membawa pikiran bahwa orang lain sedang mengamati Anda saat Anda menonton video kucing yang sangat menghibur. Anda tidak perlu menghentikan satu aktivitas, seperti berhenti menonton video kucing, untuk kemudian secara terpisah merenungkan bahwa Anda (atau baru saja) menonton video kucing. Pikiran-pikiran itu tampaknya dapat terjadi secara paralel satu sama lain.

Terkadang, kesadaran diri kita mungkin menendang kita keluar atau setidaknya mengganggu aktivitas mental utama. Mungkin, saat memikirkan tentang menonton video kucing, sebagian pikiran Anda teralihkan karena terlalu banyak berkonsentrasi hanya pada video itu sendiri. Anda memilih untuk kemudian memundurkan video untuk mengunjungi kembali bagian yang Anda lihat tetapi secara mental Anda terganggu dari pemahaman sepenuhnya. Kesadaran diri mengganggu aktivitas mental utama Anda.

Oke, kita sekarang siap untuk aspek rekursif muncul.

Apakah Anda siap?

Anda sedang menonton video kucing. Kesadaran diri Anda memberi tahu Anda bahwa Anda sedang menonton video kucing dan orang lain memperhatikan Anda saat Anda menonton video tersebut. Itulah status quo.

Anda selanjutnya membuat lompatan mental tambahan. Anda mulai berpikir tentang kesadaran diri Anda. Anda sadar diri bahwa Anda melibatkan kesadaran diri Anda. Begini caranya: Apakah saya terlalu banyak berpikir tentang menonton video kucing, Anda bertanya pada diri sendiri dengan putus asa? Ini adalah lapisan lain dari kesadaran diri. Peringkat kesadaran diri di atas kesadaran diri lainnya.

Ada pepatah lama yang mengatakan bahwa itu adalah kura-kura sepanjang jalan. Untuk fenomena kesadaran diri, Anda bisa menjadi:

• Tidak sadar diri
• Sadar diri sendiri
• Sadar diri akan kesadaran diri sendiri
• Sadar diri akan diri Anda sadar diri Anda sadar diri Anda sendiri
• Ad Infinitum (yaitu, dan seterusnya)

Anda mungkin telah menyadari bahwa saya sebelumnya menunjukkan secara halus bahwa tampaknya ada dua kategori utama dari kesadaran diri. Satu teori tertentu mendalilkan bahwa kita memiliki semacam kesadaran diri internal yang berfokus pada keadaan internal kita, dan kita juga memiliki kesadaran diri eksternal yang membantu mengukur persepsi tentang kita tentang orang-orang di sekitar kita yang melihat kita.

Per artikel HBR, inilah gambaran singkat dari dua jenis kesadaran diri yang berteori: “Yang pertama, yang kami juluki kesadaran diri internal, mewakili seberapa jelas kita melihat nilai-nilai kita sendiri, hasrat, aspirasi, cocok dengan lingkungan kita, reaksi (termasuk pikiran, perasaan, perilaku, kekuatan, dan kelemahan), dan dampak pada orang lain. Sedangkan yang lainnya adalah: “Kategori kedua, kesadaran diri eksternal, berarti memahami bagaimana orang lain memandang kita, dalam kaitannya dengan faktor-faktor yang sama yang tercantum di atas. Penelitian kami menunjukkan bahwa orang yang tahu bagaimana orang lain melihat mereka lebih terampil dalam menunjukkan empati dan mengambil perspektif orang lain.”

Matriks dua kali dua atau empat persegi yang praktis dapat diturunkan dengan menyatakan bahwa kesadaran diri internal dan eksternal berkisar dari tinggi ke rendah, dan Anda dapat mengawinkan kedua kategori tersebut satu sama lain. Penelitian HBR menunjukkan bahwa Anda dikatakan sebagai salah satu dari empat arketipe kesadaran diri ini:

• Introspektor: Kesadaran Diri Eksternal Rendah + Kesadaran Diri Internal Tinggi
• Seeker: Kesadaran Diri Eksternal Rendah + Kesadaran Diri Internal Rendah
• Pleaser: Kesadaran Diri Eksternal Tinggi + Kesadaran Diri Internal Rendah
• Sadar: Kesadaran Diri Eksternal Tinggi + Kesadaran Diri Internal Tinggi

Puncaknya adalah pola dasar "Sadar" yang terdiri dari berada di puncak kesadaran diri secara eksternal dan juga di puncak kesadaran diri secara internal. Untuk memperjelas, Anda tidak mencapai postur yang dibanggakan ini secara permanen. Anda dapat menyelinap bolak-balik antara tinggi dan rendah, di antara alam kesadaran diri internal dan eksternal. Itu dapat bergantung pada waktu, situasi yang Anda hadapi, dan banyak faktor penting lainnya.

Sekarang setelah kita dengan ramah membahas beberapa elemen dasar tentang kesadaran diri, kita dapat mencoba mengaitkannya dengan topik perilaku etis.

Klaim biasa tentang menjadi sadar diri adalah bahwa Anda lebih cenderung menjadi orang yang berlebihan ketika Anda sadar diri. Ini berarti, seperti yang sudah ditunjukkan, Anda kurang rentan terhadap perilaku etis yang merugikan seperti mencuri, menipu, dan berbohong. Alasan kecenderungan ini adalah bahwa keaktifan kesadaran diri Anda akan membuat Anda menyadari bahwa perilaku Anda sendiri tidak baik atau tidak etis. Anda tidak hanya menangkap diri sendiri saat membelok ke perairan berlumpur yang tidak etis, tetapi Anda juga cenderung mengarahkan diri Anda kembali ke tanah kering (kesucian wilayah etis), seolah-olah.

Kesadaran diri Anda membantu Anda dalam melatih pengendalian diri.

Sebuah kontras mungkin akan terjadi ketika ada sedikit atau tidak ada kesadaran diri, yang menunjukkan bahwa seseorang mungkin tidak menyadari kecenderungan mereka ke dalam perilaku tidak etis. Anda dapat berpendapat bahwa orang yang tidak sadar seperti itu mungkin tidak menyadari bahwa kinerja mereka buruk. Mirip dengan banteng di toko barang pecah belah, sampai sesuatu yang lebih terang-terangan menarik perhatian mereka, mereka tidak mungkin mengatur diri sendiri.

Tidak semua orang setuju dengan ini, omong-omong. Beberapa orang akan berpendapat bahwa kesadaran diri dapat dengan mudah diterapkan untuk menjadi tidak etis sebagai etis. Misalnya, pelaku kejahatan mungkin sepenuhnya sadar diri dan senang bahwa mereka melakukan kesalahan. Kesadaran diri mereka bahkan mendorong mereka lebih keras ke arah tindakan kejahatan yang lebih besar dan lebih besar.

Ada lebih banyak kekeruhan dalam hal ini daripada yang mungkin terlihat secara langsung. Misalkan seseorang sangat sadar diri, tetapi mereka tidak menyadari adat-istiadat etis dari masyarakat atau budaya tertentu. Dengan cara itu, mereka tidak memiliki pedoman etika, meskipun fakta yang dinyatakan bahwa mereka sadar diri. Atau, jika Anda suka, mungkin orang tersebut mengetahui tentang aturan-aturan etika dan tidak percaya bahwa aturan-aturan tersebut berlaku untuknya. Mereka menganggap diri mereka unik atau di luar batas pemikiran etis konvensional.

Putaran dan putaran itu berjalan.

Kesadaran diri dapat ditafsirkan sebagai pedang bermata dua yang berorientasi pada etika, beberapa orang akan dengan sungguh-sungguh menekankan.

Untuk saat ini, mari kita pergi dengan versi wajah bahagia yang terdiri dari kesadaran diri pada umumnya membimbing atau mendorong kita menuju perilaku etis. Segala sesuatu yang lain dianggap sama, kami akan membuat asumsi yang kurang ajar bahwa semakin banyak kesadaran diri yang ada, semakin Anda condong secara etis. Tampaknya menyenangkan dan menginspirasi untuk berharap demikian.

Mari beralih dan membawa Artificial Intelligence (AI) ke dalam gambar.

Kami berada di persimpangan dalam diskusi ini untuk menghubungkan semua keterikatan yang sedang berlangsung dengan ranah Ethical AI yang sedang berkembang, yang juga dikenal sebagai etika AI. Untuk liputan saya yang berkelanjutan dan ekstensif tentang etika AI, lihat tautannya di sini dan tautannya di sini, Hanya untuk beberapa nama.

Gagasan Ethical AI memerlukan jalinan bidang etika dan perilaku etis dengan munculnya AI. Anda pasti pernah melihat berita utama yang telah menimbulkan alarm tentang AI yang penuh dengan ketidakadilan dan berbagai bias. Misalnya, ada kekhawatiran bahwa sistem pengenalan wajah berbasis AI terkadang dapat menunjukkan diskriminasi ras dan gender, biasanya sebagai akibat dari bagaimana fasilitas Machine Learning (ML) dan Deep Learning (DL) yang mendasarinya dilatih dan ditempatkan (lihat analisis saya). pada tautan ini di sini).

Untuk mencoba dan menghentikan atau setidaknya mengurangi terburu-buru ke arah AI Untuk Buruk, yang terdiri dari sistem AI yang secara tidak sengaja atau terkadang sengaja dibentuk untuk bertindak buruk, ada urgensi baru-baru ini untuk menerapkan ajaran etika pada pengembangan dan penggunaan AI. Tujuan yang sungguh-sungguh adalah untuk memberikan panduan etis kepada pengembang AI, ditambah perusahaan yang membangun atau mengembangkan AI, dan mereka yang bergantung pada aplikasi AI. Sebagai contoh prinsip AI Etis yang dibuat dan diadopsi, lihat liputan saya di tautannya di sini.

Berikan waktu reflektif untuk mempertimbangkan tiga pertanyaan yang sangat penting ini:

• Bisakah kita membuat pengembang AI merangkul prinsip-prinsip AI Etis dan menerapkan pedoman tersebut ke dalam penggunaan aktual?
• Bisakah kita membuat perusahaan yang membuat atau mengembangkan AI melakukan hal yang sama?
• Bisakah kita membuat mereka yang menggunakan AI juga menyadari aspek Etis AI?

Saya tanpa malu-malu akan mengatakan ini, ini adalah perintah yang sulit.

Sensasi membuat AI dapat mengalahkan semua firasat perhatian terhadap etika AI. Yah, bukan hanya sensasi, tetapi menghasilkan uang juga merupakan bagian integral dari persamaan itu. Anda mungkin terkejut mengetahui bahwa beberapa di dunia AI cenderung mengatakan bahwa mereka akan berurusan dengan "barang" Etis AI setelah mereka mengeluarkan sistem AI mereka. Ini adalah mantra tipikal teknisi untuk memastikan untuk gagal dengan cepat dan sering gagal sampai Anda melakukannya dengan benar (semoga bisa melakukannya dengan benar).

Tentu saja, mereka yang secara ringkas mendorong AI yang meragukan secara etis ke publik pada umumnya membiarkan kuda itu keluar dari gudang. Gagasan terentang yang mereka nyatakan adalah bahwa AI Untuk Buruk akan diperbaiki setelah digunakan sehari-hari, yang merugikan karena kuda itu sudah berlari kencang. Kerusakan bisa dilakukan. Ada juga kemungkinan besar bahwa tidak ada yang akan diperbaiki atau disesuaikan saat AI sedang digunakan. Alasan yang sering adalah bahwa mengutak-atik AI pada saat itu mungkin membuatnya lebih buruk dalam hal pengambilan keputusan algoritmik (ADM) yang sudah tidak etis benar-benar keluar dari selip.

Apa yang dapat dilakukan untuk mendapatkan manfaat dan vitalitas memiliki Ethical AI sebagai cahaya yang bersinar terang dan membimbing di benak mereka yang membangun AI, menerapkan AI, dan menggunakan AI?

Jawaban: Kesadaran diri.

Ya, gagasannya adalah bahwa jika orang lebih sadar diri tentang bagaimana mereka menggunakan atau berinteraksi dengan AI, itu mungkin meningkatkan kecenderungan mereka untuk menginginkan AI Etis menjadi norma. Hal yang sama dapat dikatakan tentang pengembang AI dan perusahaan yang terkait dengan sistem AI. Jika mereka lebih sadar diri tentang apa yang mereka lakukan, mungkin mereka akan lebih merangkul etika AI.

Bagian dari logika seperti yang telah ditetapkan adalah bahwa menjadi sadar diri menawarkan kecenderungan untuk menjadi orang yang lebih baik secara etis dan juga menghindari menjadi orang yang buruk secara etis. Jika kita dapat mempertahankan premis itu, itu menyiratkan bahwa pengembang AI yang lebih cenderung ke arah kesadaran diri akan cenderung ke arah perilaku etis dan karena itu cenderung menghasilkan AI yang sehat secara etis.

Apakah itu jembatan yang terlalu jauh untukmu?

Beberapa orang akan mengatakan bahwa ketidaklangsungan itu agak berlebihan. Rantai hubungan selangit antara sadar diri, berbudi luhur secara etis, dan menerapkan ajaran etis pada AI mungkin sulit untuk ditelan. Sebuah kontra adalah bahwa tidak ada salahnya untuk mencoba.

Skeptis akan mengatakan bahwa pengembang AI mungkin sadar diri dan mungkin lebih berpikiran etis, tetapi mereka tidak harus melompat ke arah penerapan perkemahan mental itu pada adat istiadat AI Etis. Jawaban dari keraguan itu adalah jika kita dapat mempublikasikan dan mempopulerkan masalah Ethical AI, koneksi yang tampaknya renggang akan menjadi lebih jelas, diharapkan, dan mungkin menjadi cara standar dalam melakukan sesuatu dalam hal membuat AI.

Sekarang saya akan menambahkan twist pada saga ini. Putarannya mungkin membuat kepala Anda berputar. Harap pastikan Anda duduk dengan baik dan siap untuk apa yang akan saya tunjukkan.

Beberapa menunjukkan bahwa kita harus membangun AI Etis langsung ke AI itu sendiri.

Anda mungkin bingung dengan pernyataan itu. Mari kita membongkarnya.

Seorang programmer dapat membuat sistem AI dan melakukannya dengan kesadaran diri pemrograman mereka sendiri untuk mencoba mencegah AI mewujudkan bias dan ketidakadilan. Alih-alih hanya membajak pemrograman, pengembang mengawasi mereka sendiri untuk bertanya apakah pendekatan yang mereka lakukan akan menghasilkan tidak adanya elemen yang merugikan dalam AI.

Hebat, kami memiliki pengembang AI yang tampaknya cukup sadar diri, telah berusaha untuk merangkul perilaku etis, dan telah melihat cahaya untuk memasukkan ajaran etis saat mereka menyusun sistem AI mereka.

Skor kemenangan untuk Ethical AI!

Semuanya baik-baik saja, meskipun ada sesuatu yang nantinya bisa terjadi. AI diterjunkan dan digunakan sehari-hari. Bagian dari AI termasuk komponen untuk dapat "belajar" dengan cepat. Ini berarti bahwa AI dapat menyesuaikan diri berdasarkan data baru dan aspek lain dari pemrograman asli. Singkatnya, ini tidak berarti bahwa AI itu hidup. Kami tidak memiliki AI yang hidup. Abaikan tajuk berita bodoh yang mengatakan bahwa kami melakukannya. Tidak ada yang bisa mengatakan apakah kita akan memiliki AI yang hidup, dan tidak ada yang bisa memprediksi secara memadai kapan itu akan terjadi.

Kembali ke kisah kita, AI sengaja dirancang untuk meningkatkan dirinya sendiri saat sedang berlangsung. Gagasan yang cukup berguna. Alih-alih programmer harus terus melakukan perbaikan, mereka membiarkan program AI melakukannya dengan sendirinya (wah, apakah itu membuat Anda kehilangan pekerjaan?).

Selama waktu AI inci demi inci menyesuaikan diri, ternyata berbagai ketidakadilan dan bias yang kotor merayap ke dalam sistem AI dengan tindakan perubahannya sendiri. Sedangkan programmer awalnya menjaga aspek-aspek kumuh itu, mereka sekarang merumuskan karena penyesuaian AI dengan cepat. Sayangnya, ini bisa terjadi dengan cara di belakang layar yang begitu halus sehingga tidak ada yang lebih bijaksana. Mereka yang sebelumnya mungkin telah memberikan lampu hijau kepada AI setelah pengujian awal yang menyeluruh, sekarang secara membabi buta tidak menyadari bahwa AI telah menempuh jalan busuk dari AI Untuk Buruk.

Salah satu cara untuk mencegah atau setidaknya menangkap kemunculan yang tidak diinginkan ini adalah dengan membangun AI semacam pemeriksa ganda Ethical AI. Sebuah komponen dalam AI diprogram untuk mengamati perilaku AI dan mendeteksi apakah ADM yang tidak etis mulai muncul. Jika demikian, komponen mungkin mengirimkan peringatan kepada pengembang AI atau melakukannya ke perusahaan yang menjalankan sistem AI.

Versi yang lebih maju dari komponen ini mungkin mencoba memperbaiki AI. Ini akan menjadi penyesuaian penyesuaian, mengubah aspek yang muncul tidak etis kembali ke parameter etika yang tepat. Anda dapat membayangkan bahwa jenis pemrograman ini rumit. Ada kemungkinan bahwa itu akan tersesat, mungkin berubah menjadi tidak etis menjadi sangat tidak etis. Ada juga kemungkinan positif palsu yang memicu komponen untuk bertindak dan mungkin mengacaukan semuanya.

Bagaimanapun, tanpa terjebak dalam bagaimana pemeriksa ganda ini akan berfungsi, kita akan membuat pernyataan yang berani tentangnya. Anda dapat menyarankan bahwa dalam beberapa cara yang terbatas, AI dikatakan sadar diri.

Astaga, itu adalah kata-kata pertengkaran bagi banyak orang.

Keyakinan yang berlaku oleh hampir semua orang adalah bahwa AI saat ini tidak sadar diri. Berhenti penuh, titik. Sampai kita mencapai kecerdasan buatan, yang kita tidak tahu apakah atau kapan itu akan terjadi, tidak ada jenis AI yang sadar diri. Setidaknya tidak dalam arti kesadaran diri yang berorientasi pada manusia. Bahkan tidak menyarankan bahwa itu bisa terjadi.

Saya tentu setuju bahwa kita perlu berhati-hati tentang antropomorfisasi AI. Saya akan mengatakan lebih banyak tentang kekhawatiran itu sebentar lagi.

Sementara itu, jika Anda demi diskusi bersedia menggunakan pentahapan "sadar diri" dengan cara yang longgar, saya yakin Anda dapat melihat dengan mudah mengapa AI dapat dikatakan mematuhi gagasan keseluruhan tentang self- kesadaran. Kami memiliki sebagian AI yang memantau AI lainnya, mengawasi apa yang dilakukan AI lainnya. Ketika AI lainnya mulai berlebihan, bagian pemantauan berusaha mendeteksi ini. Selanjutnya, bagian pemantauan AI atau pemeriksa ganda mungkin mengarahkan AI lainnya kembali ke jalur yang benar.

Bukankah itu tampak seperti tindakan menonton video kucing itu dan memiliki kesadaran diri bahwa Anda melakukannya?

Ada cincin yang familiar untuknya.

Kita dapat memperpanjang ini bahkan lebih. Komponen pemeriksa ganda AI tidak hanya diprogram untuk mengamati perilaku AI lainnya, tetapi juga mencatat perilaku mereka yang menggunakan AI. Bagaimana keadaan pengguna saat menggunakan AI? Misalkan beberapa pengguna mengekspresikan kemarahannya karena AI tampaknya mendiskriminasi mereka. Pemeriksa ganda AI mungkin dapat menangkap ini, menggunakannya sebagai tanda bahaya lain tentang AI yang tersesat.

Ini memunculkan kesadaran diri internal dan kategorisasi kesadaran diri eksternal.

Pemeriksa ganda AI memindai secara internal dan eksternal untuk mencari tahu apakah AI lainnya telah menuju ke lautan yang bermasalah. Deteksi akan menaikkan bendera atau menyebabkan koreksi diri diberlakukan.

Mari tambahkan ekstensi lain yang agak membingungkan. Kami membangun pemeriksa ganda AI lain yang dimaksudkan untuk memeriksa ulang pemeriksa ganda inti AI. Kenapa begitu? Nah, misalkan pemeriksa ganda AI tampaknya goyah atau gagal melakukan tugasnya. Pemeriksa ganda AI dari pemeriksa ganda akan berusaha mendeteksi kerusakan ini dan mengambil tindakan yang diperlukan. Selamat datang di sifat rekursif dari kesadaran diri, beberapa orang mungkin dengan bangga menyatakan, seperti yang ditunjukkan dalam sistem AI komputasi.

Bagi Anda yang sudah berada di ujung kursi Anda tentang hal ini, komentar terakhir, untuk saat ini, adalah bahwa kami dapat mencoba menyarankan bahwa jika Anda membuat sistem AI "sadar diri" mereka akan berpotensi condong ke perilaku etis. Apakah mereka melakukan ini atas dasar perasaan? Jelas, tidak. Apakah mereka melakukan ini berdasarkan komputasi? Ya, meskipun kita harus tegas bahwa itu tidak sama dengan perilaku manusia.

Jika Anda merasa tidak nyaman bahwa gagasan tentang kesadaran diri telah salah didistorsi untuk membuatnya masuk ke dalam skema komputasi, keraguan Anda tentang hal ini dicatat dengan baik. Apakah kita harus menghentikan upaya AI yang sedang berlangsung yang memanfaatkan gagasan itu adalah pertanyaan terbuka lainnya. Anda dapat secara persuasif berargumentasi bahwa setidaknya itu tampaknya membawa kita ke hasil yang lebih baik dari apa yang kemungkinan akan dilakukan AI. Kita perlu membuka mata lebar-lebar saat ini terjadi.

Kurasa kita perlu melihat bagaimana semua ini berjalan. Kembalilah ke hal ini dalam lima tahun, sepuluh tahun, dan lima puluh tahun, dan lihat apakah pemikiran Anda telah berubah tentang masalah kontroversial tersebut.

Saya menyadari ini telah menjadi pemeriksaan topik yang agak memabukkan dan Anda mungkin mendambakan beberapa contoh sehari-hari. Ada satu set contoh khusus dan pasti populer yang dekat dengan hati saya. Anda tahu, dalam kapasitas saya sebagai ahli AI termasuk konsekuensi etis dan hukum, saya sering diminta untuk mengidentifikasi contoh realistis yang menunjukkan dilema Etika AI sehingga sifat topik yang agak teoretis dapat lebih mudah dipahami. Salah satu area paling menggugah yang secara gamblang menghadirkan kebingungan AI etis ini adalah munculnya mobil self-driving sejati berbasis AI. Ini akan berfungsi sebagai kasus penggunaan yang berguna atau contoh untuk diskusi yang cukup tentang topik tersebut.

Inilah pertanyaan penting yang patut direnungkan: Apakah munculnya mobil self-driving sejati berbasis AI menjelaskan sesuatu tentang AI yang memiliki kemiripan dengan "kesadaran diri" dan jika demikian, apa yang ditampilkannya?

Izinkan saya sejenak untuk membongkar pertanyaan itu.

Pertama, perhatikan bahwa tidak ada pengemudi manusia yang terlibat dalam mobil self-driving sejati. Perlu diingat bahwa mobil self-driving sejati digerakkan melalui sistem mengemudi AI. Tidak ada kebutuhan untuk pengemudi manusia di belakang kemudi, juga tidak ada ketentuan bagi manusia untuk mengemudikan kendaraan. Untuk liputan saya yang luas dan berkelanjutan tentang Kendaraan Otonom (AV) dan terutama mobil self-driving, lihat tautannya di sini.

Saya ingin mengklarifikasi lebih lanjut apa yang dimaksud dengan mobil self-driving sejati.

Memahami Tingkatan Mobil Self-Driving

Sebagai klarifikasi, mobil self-driving sejati adalah mobil yang dikendarai AI sepenuhnya sendiri dan tidak ada bantuan manusia selama tugas mengemudi.

Kendaraan tanpa pengemudi ini dianggap Level 4 dan Level 5 (lihat penjelasan saya di tautan ini di sini), sementara mobil yang memerlukan pengemudi manusia untuk berbagi upaya mengemudi biasanya dianggap di Level 2 atau Level 3. Mobil yang berbagi tugas mengemudi digambarkan sebagai semi-otonom, dan biasanya berisi berbagai add-on otomatis yang disebut sebagai ADAS (Advanced Driver-Assistance Systems).

Belum ada mobil self-driving sejati di Level 5, yang kita bahkan belum tahu apakah ini akan mungkin dicapai, dan juga tidak berapa lama untuk sampai di sana.

Sementara itu, upaya Level 4 secara bertahap mencoba mendapatkan daya tarik dengan menjalani uji coba jalan raya umum yang sangat sempit dan selektif, meskipun ada kontroversi mengenai apakah pengujian ini harus diizinkan sendiri (kita semua adalah kelinci percobaan hidup atau mati dalam sebuah percobaan terjadi di jalan raya dan byways kami, beberapa berpendapat, lihat liputan saya di tautan ini di sini).

Karena mobil semi-otonom membutuhkan pengemudi manusia, adopsi jenis-jenis mobil itu tidak akan jauh berbeda dari mengendarai kendaraan konvensional, jadi tidak banyak yang baru untuk membahasnya mengenai topik ini (meskipun, seperti yang akan Anda lihat suatu saat, poin-poin yang dibuat selanjutnya secara umum berlaku).

Untuk mobil semi-otonom, penting bahwa masyarakat perlu diperingatkan tentang aspek mengganggu yang telah muncul akhir-akhir ini, yaitu bahwa meskipun para pengemudi manusia yang terus memposting video diri mereka tertidur di belakang kemudi mobil Level 2 atau Level 3 , kita semua perlu menghindari disesatkan untuk percaya bahwa pengemudi dapat mengambil perhatian mereka dari tugas mengemudi sambil mengendarai mobil semi-otonom.

Anda adalah pihak yang bertanggung jawab untuk tindakan mengemudi kendaraan, terlepas dari berapa banyak otomatisasi yang mungkin dilemparkan ke Level 2 atau Level 3.

Mobil Self-Driving Dan AI Memiliki Apa yang Disebut Kesadaran Diri

Untuk kendaraan self-driving sejati Level 4 dan Level 5, tidak akan ada pengemudi manusia yang terlibat dalam tugas mengemudi.

Semua penumpang akan menjadi penumpang.

AI sedang mengemudi.

Salah satu aspek yang perlu segera dibahas adalah fakta bahwa AI yang terlibat dalam sistem penggerak AI saat ini bukanlah makhluk hidup. Dengan kata lain, AI secara keseluruhan merupakan kumpulan dari pemrograman dan algoritma berbasis komputer, dan yang paling pasti tidak dapat bernalar dengan cara yang sama seperti manusia.

Mengapa penekanan tambahan ini tentang AI tidak hidup?

Karena saya ingin menggarisbawahi bahwa ketika membahas peran sistem penggerak AI, saya tidak menganggap kualitas manusia berasal dari AI. Perlu diketahui bahwa ada kecenderungan yang sedang berlangsung dan berbahaya akhir-akhir ini untuk antropomorfisasi AI. Intinya, orang-orang menugaskan perasaan mirip manusia ke AI saat ini, terlepas dari fakta yang tak terbantahkan dan tak terbantahkan bahwa AI tersebut belum ada.

Dengan klarifikasi tersebut, Anda dapat membayangkan bahwa sistem mengemudi AI tidak akan secara asli “tahu” tentang aspek mengemudi. Mengemudi dan semua yang diperlukannya perlu diprogram sebagai bagian dari perangkat keras dan perangkat lunak mobil yang dapat mengemudi sendiri.

Mari selami segudang aspek yang ikut bermain tentang topik ini.

Pertama, penting untuk disadari bahwa tidak semua mobil self-driving AI itu sama. Setiap pembuat mobil dan perusahaan teknologi self-driving mengambil pendekatan untuk merancang mobil self-driving. Dengan demikian, sulit untuk membuat pernyataan menyeluruh tentang apa yang akan dilakukan atau tidak dilakukan oleh sistem penggerak AI.

Selain itu, setiap kali menyatakan bahwa sistem penggerak AI tidak melakukan beberapa hal tertentu, ini nantinya dapat diambil alih oleh pengembang yang sebenarnya memprogram komputer untuk melakukan hal itu. Langkah demi langkah, sistem penggerak AI secara bertahap ditingkatkan dan diperluas. Batasan yang ada saat ini mungkin tidak ada lagi di iterasi atau versi sistem yang akan datang.

Saya percaya bahwa hal itu memberikan sejumlah peringatan yang cukup untuk mendasari apa yang akan saya ceritakan.

Kami siap sekarang untuk menyelam jauh ke dalam mobil self-driving dan pertanyaan AI etis yang melibatkan gagasan yang meningkatkan alis tentang AI yang memiliki semacam kesadaran diri jika Anda mau.

Mari kita gunakan contoh yang mudah langsung. Mobil self-driving berbasis AI sedang berjalan di jalan-jalan lingkungan Anda dan tampaknya mengemudi dengan aman. Pada awalnya, Anda telah mencurahkan perhatian khusus untuk setiap kali Anda berhasil melihat sekilas mobil self-driving. Kendaraan otonom menonjol dengan rak sensor elektronik yang mencakup kamera video, unit radar, perangkat LIDAR, dan sejenisnya. Setelah berminggu-minggu mobil self-driving melaju di sekitar komunitas Anda, Anda sekarang hampir tidak menyadarinya. Sejauh yang Anda ketahui, itu hanyalah mobil lain di jalan raya umum yang sudah sibuk.

Agar Anda tidak berpikir tidak mungkin atau tidak masuk akal untuk terbiasa melihat mobil self-driving, saya sudah sering menulis tentang bagaimana orang-orang lokal yang berada dalam lingkup uji coba mobil self-driving secara bertahap terbiasa melihat kendaraan yang dirapikan, lihat analisis saya di tautan ini di sini. Banyak penduduk setempat yang pada akhirnya beralih dari melongo ke mulut menganga menjadi sekarang memancarkan kebosanan yang luas untuk menyaksikan mobil-mobil self-driving yang berkelok-kelok itu.

Mungkin alasan utama sekarang bahwa mereka mungkin melihat kendaraan otonom adalah karena faktor iritasi dan kejengkelan. Sistem mengemudi AI yang ada di buku memastikan mobil mematuhi semua batas kecepatan dan aturan jalan. Untuk pengemudi manusia yang sibuk dengan mobil tradisional yang dikemudikan manusia, Anda terkadang merasa kesal ketika terjebak di belakang mobil self-driving berbasis AI yang taat hukum.

Itu sesuatu yang kita semua mungkin perlu membiasakan diri, benar atau salah.

Kembali ke kisah kita. Suatu hari, misalkan sebuah mobil self-driving di kota atau kota Anda mendekati tanda Berhenti dan tidak tampak melambat. Astaga, sepertinya sistem mengemudi AI akan membuat mobil self-driving melewati tanda Stop. Bayangkan jika pejalan kaki atau pengendara sepeda berada di suatu tempat di dekatnya dan tertangkap basah bahwa mobil yang mengemudi sendiri tidak akan berhenti dengan benar. Memalukan. Berbahaya!

Dan, ilegal.

Sekarang mari kita pertimbangkan komponen AI dalam sistem penggerak AI yang bertindak sebagai gaya pemeriksa ganda yang sadar diri.

Kami akan meluangkan waktu sejenak untuk menggali detail tentang apa yang terjadi di dalam sistem penggerak AI. Ternyata kamera video yang dipasang pada kendaraan otonom mendeteksi apa yang mungkin tampak sebagai tanda Berhenti, meskipun dalam kasus ini pohon yang ditumbuhi banyak mengaburkan tanda Berhenti. Sistem Pembelajaran Mesin dan Pembelajaran Mendalam yang awalnya dilatih tentang tanda Berhenti dirancang berdasarkan pola tanda Berhenti sepenuhnya, umumnya tidak terkekang. Setelah memeriksa citra video secara komputasional, probabilitas rendah ditetapkan bahwa tanda Berhenti ada di tempat tertentu (sebagai komplikasi tambahan, dan penjelasan lebih lanjut, ini adalah tanda Berhenti yang baru diposting yang tidak muncul pada peta digital yang disiapkan sebelumnya bahwa Sistem mengemudi AI mengandalkan).

Secara keseluruhan, sistem penggerak AI secara komputasi bertekad untuk terus maju seolah-olah tanda Berhenti tidak ada atau mungkin tanda jenis lain yang mungkin menyerupai tanda Berhenti (ini bisa terjadi dan memang terjadi dengan frekuensi tertentu).

Tapi, untungnya, pemeriksa ganda AI yang sadar diri memantau aktivitas sistem penggerak AI. Setelah secara komputasi meninjau data dan penilaian oleh AI lainnya, komponen ini memilih untuk mengesampingkan proses normal dan sebaliknya memerintahkan sistem penggerak AI untuk berhenti dengan tepat.

Tidak ada yang terluka, dan tidak ada tindakan ilegal yang muncul.

Anda dapat mengatakan bahwa pemeriksa ganda AI yang sadar diri bertindak seolah-olah itu adalah agen hukum yang disematkan, mencoba memastikan bahwa sistem penggerak AI mematuhi hukum (dalam hal ini, tanda Berhenti). Tentu saja, keamanan juga menjadi kunci.

Contoh itu mudah-mudahan menunjukkan bagaimana pemeriksa ganda sadar diri AI yang dikandung dapat bekerja.

Selanjutnya kita dapat secara singkat mempertimbangkan contoh AI Etis yang lebih menonjol yang menggambarkan bagaimana pemeriksaan ulang AI yang sadar diri dapat memberikan fungsionalitas tertanam yang berorientasi pada etika AI.

Pertama, sebagai latar belakang, salah satu kekhawatiran yang telah diungkapkan tentang munculnya mobil self-driving berbasis AI adalah bahwa mereka mungkin akan digunakan dengan cara diskriminatif yang tidak disengaja. Begini caranya. Misalkan mobil self-driving tersebut disiapkan untuk mencoba dan memaksimalkan potensi pendapatan mereka, yang jelas masuk akal bagi mereka yang mengoperasikan armada mobil self-driving yang tersedia untuk berbagi tumpangan. Pemilik armada ingin memiliki operasi yang menguntungkan.

Bisa jadi di kota atau kota tertentu, mobil self-driving roaming secara bertahap mulai melayani beberapa bagian masyarakat dan bukan daerah lain. Mereka melakukannya untuk tujuan menghasilkan uang, di daerah yang lebih miskin mungkin tidak menghasilkan pendapatan seperti bagian yang lebih kaya dari lokal. Ini bukan aspirasi eksplisit untuk melayani beberapa area dan tidak melayani yang lain. Alih-alih, secara organik muncul AI dari mobil self-driving "mengetahui" secara komputasi bahwa ada lebih banyak uang yang dapat dihasilkan dengan berkonsentrasi pada area yang secara geografis membayar lebih tinggi. Saya telah membahas masalah etika sosial ini di kolom saya, seperti di tautannya di sini.

Asumsikan bahwa kami telah menambahkan pemeriksa ganda AI yang sadar diri ke dalam sistem penggerak AI. Setelah beberapa saat, komponen AI secara komputasi memperhatikan pola di mana mobil self-driving roaming. Khususnya, di beberapa daerah tetapi tidak di tempat lain. Berdasarkan kode dengan beberapa prinsip AI Etis, pemeriksa ganda AI yang sadar diri mulai memandu mobil self-driving ke bagian lain kota yang sebelumnya diabaikan.

Ini menggambarkan gagasan kesadaran diri AI dan melakukannya dalam kombinasi dengan elemen AI Etis.

Satu lagi contoh seperti itu mungkin memberikan wawasan bahwa pertimbangan AI Etis ini bisa menjadi konsekuensi hidup atau mati yang cukup serius dan juga serius.

Pertimbangkan laporan berita tentang kecelakaan mobil baru-baru ini. Dilaporkan, seorang pengemudi manusia datang ke persimpangan yang sibuk dan memiliki lampu hijau untuk melanjutkan lurus ke depan. Pengemudi lain datang menerobos lampu merah dan memasuki persimpangan ketika mereka seharusnya tidak melakukannya. Pengemudi dengan lampu hijau menyadari pada saat terakhir bahwa mobil lain ini akan menabrak mobilnya dengan keras.

Menurut pengemudi yang terancam ini, dia dengan penuh perhatian menghitung bahwa dia akan ditabrak oleh mobil lain, atau dia bisa membelok untuk mencoba dan menghindari penyelundup. Masalah dengan membelok adalah bahwa ada pejalan kaki di dekatnya yang akan terancam punah.

Pilihan mana yang akan Anda buat?

Anda dapat mempersiapkan diri untuk terkena dan berharap bahwa kerusakan tidak akan melukai atau membunuh Anda. Di sisi lain, Anda dapat membelok secara radikal, tetapi sangat membahayakan dan mungkin membahayakan atau membunuh pejalan kaki di dekatnya. Ini adalah masalah yang sulit, mencakup penilaian moral, dan sepenuhnya mendalami implikasi etis (dan hukum).

Ada kebingungan etika tujuan umum yang mencakup dilema semacam ini, yang terkenal atau mungkin tidak dikenal disebut Masalah Troli, lihat liputan ekstensif saya di tautan ini di sini. Ternyata itu adalah eksperimen pemikiran yang merangsang secara etis yang ditelusuri kembali ke awal 1900-an. Dengan demikian, topik tersebut telah ada cukup lama dan baru-baru ini secara umum dikaitkan dengan munculnya AI dan mobil self-driving.

Ganti pengemudi manusia dengan sistem mengemudi AI yang disematkan ke dalam mobil self-driving.

Bayangkan kemudian mobil self-driving AI masuk ke persimpangan dan sensor kendaraan otonom tiba-tiba mendeteksi mobil yang dikemudikan manusia datang langsung melalui lampu merah dan membidik mobil tanpa pengemudi. Asumsikan bahwa mobil self-driving memiliki beberapa penumpang di dalam kendaraan.

Apa yang Anda ingin AI lakukan?

Jika sistem mengemudi AI memilih untuk terus maju dan menabrak (kemungkinan membahayakan atau mungkin membunuh penumpang di dalam kendaraan), atau apakah Anda ingin sistem mengemudi AI mengambil kesempatan dan membelok, meskipun tindakan membelok mengambil kendaraan otonom berbahaya terhadap pejalan kaki di dekatnya dan mungkin membahayakan atau membunuh mereka.

Banyak pembuat AI mobil self-driving mengambil pendekatan langsung terhadap kesulitan AI etis ini. Pada umumnya, AI seperti yang saat ini diprogram hanya akan membajak ke depan dan ditabrak dengan keras oleh mobil lain. AI tidak diprogram untuk mencari manuver mengelak lainnya.

Saya telah meramalkan berulang kali bahwa sikap tidak-tidak-jahat-tidak-dengar-tidak-jahat dari pembuat mobil self-driving AI ini pada akhirnya akan muncul dan menggigit mereka (analisis saya ada di tautannya di sini). Anda dapat mengharapkan tuntutan hukum yang melibatkan kecelakaan mobil seperti itu yang akan mencari tahu apa yang diprogram untuk dilakukan oleh AI. Apakah perusahaan atau pengembang AI atau operator armada yang mengembangkan dan menerjunkan AI lalai atau bertanggung jawab atas apa yang dilakukan atau tidak dilakukan AI? Anda juga dapat mengantisipasi badai api kesadaran AI etis yang akan muncul setelah kasus semacam ini terjadi.

Ke dalam dilema AI Etis ini, langkah pemeriksa ganda sadar diri AI kami yang dibanggakan yang berorientasi pada etika. Mungkin komponen AI khusus ini mungkin terlibat dalam situasi seperti ini. Porsinya adalah memantau sisa sistem mengemudi AI dan status mobil self-driving. Ketika momen mengerikan seperti ini muncul, komponen AI berfungsi sebagai pemecah Masalah Trolley dan menawarkan apa yang harus dilakukan oleh sistem penggerak AI.

Bukan hal yang mudah untuk dikodekan, saya jamin.

Kesimpulan

Saya akan berbagi dengan Anda pemikiran terakhir untuk saat ini tentang topik ini.

Anda mungkin menganggapnya menarik.

Apakah Anda tahu tentang tes cermin?

Hal ini cukup terkenal dalam studi kesadaran diri. Nama lain untuk masalah ini adalah tes pengenalan diri cermin, tes titik merah, tes pemerah pipi, dan frasa terkait. Teknik dan pendekatan awalnya dibuat pada awal 1970-an untuk menilai kesadaran diri hewan. Hewan-hewan yang dikabarkan berhasil lolos uji tersebut antara lain kera, gajah jenis tertentu, lumba-lumba, burung murai, dan beberapa lainnya. Hewan yang diuji dan kabarnya tidak lulus tes antara lain panda raksasa, singa laut, dll.

Ini kesepakatannya.

Ketika seekor binatang melihat dirinya di cermin, apakah binatang itu menyadari bahwa bayangan yang ditampilkan adalah dirinya sendiri, atau apakah binatang itu mengira itu adalah binatang lain?

Agaknya, hewan tersebut secara visual mengenali spesiesnya sendiri, setelah melihat spesies lain dari jenisnya sendiri, dan oleh karena itu mungkin berpikir bahwa hewan yang diperlihatkan di cermin adalah sepupu atau mungkin pesaing yang berperang (terutama jika hewan itu menggeram pada bayangan cermin, yang di gilirannya tampaknya akan menggeram kembali pada mereka). Mungkin Anda pernah melihat kucing rumah atau anjing peliharaan kesayangan Anda melakukan hal yang sama ketika melihat dirinya sendiri di cermin rumah untuk pertama kalinya.

Bagaimanapun, kita akan berasumsi bahwa binatang buas belum pernah melihat dirinya sendiri sebelumnya. Yah, ini belum tentu benar, karena mungkin hewan itu melihat dirinya sendiri di kolam air yang tenang atau melalui formasi batu yang mengilap. Tapi itu dianggap peluang yang lebih kecil kemungkinannya.

Oke, kami ingin menilai apakah seekor binatang dapat mengetahui bahwa itu sebenarnya adalah binatang yang diperlihatkan di cermin. Renungkan tindakan yang tampaknya sederhana itu. Manusia mengetahui pada usia muda bahwa mereka ada dan bahwa keberadaan mereka ditunjukkan dengan melihat diri mereka sendiri di cermin. Mereka menjadi sadar diri. Secara teori, Anda mungkin tidak menyadari bahwa Anda adalah Anda, sampai melihat diri Anda di cermin.

Mungkin hewan tidak mampu secara kognitif menjadi sadar diri dengan cara yang sama. Bisa jadi seekor binatang akan melihat dirinya di cermin dan terus-menerus percaya bahwa itu adalah binatang lain. Tidak peduli berapa kali ia melihat dirinya sendiri, ia akan tetap berpikir bahwa ini adalah binatang yang berbeda dari dirinya sendiri.

Bagian trik dari ini datang untuk bermain. Kami membuat tanda pada hewan itu. Tanda ini harus dapat dilihat hanya ketika hewan itu melihat dirinya sendiri di cermin. Jika hewan dapat memutar atau berbalik dan melihat tanda itu sendiri (secara langsung), itu merusak eksperimen. Selain itu, hewan tidak dapat merasakan, mencium, atau dengan cara lain mendeteksi tanda tersebut. Sekali lagi, jika mereka melakukannya, itu akan merusak eksperimen. Hewan itu tidak dapat mengetahui bahwa kita memberi tanda padanya, karena itu akan memberi petunjuk kepada binatang itu bahwa ada sesuatu di sana.

Kami ingin mempersempit hal-hal sedemikian rupa sehingga satu-satunya alasan yang memungkinkan bahwa tanda itu dapat ditemukan adalah dengan melihat dirinya sendiri di cermin.

Aha, ujiannya sekarang sudah siap. Hewan itu ditempatkan di depan cermin atau mengembara ke sana. Jika hewan mencoba menyentuh atau menggali tanda tersebut, kita dapat menyimpulkan bahwa satu-satunya cara ini akan terjadi adalah jika hewan menyadari bahwa tanda itu ada pada dirinya sendiri. Sangat sedikit spesies hewan yang berhasil lulus tes ini.

Ada banyak kritik tentang tes tersebut. Jika penguji manusia berada di dekatnya, mereka mungkin memberikan sesuatu dengan menatap tandanya, yang dapat menyebabkan hewan itu menyikat atau merasakannya. Kemungkinan lain adalah bahwa hewan tersebut masih percaya bahwa hewan lain ditampilkan di cermin, tetapi dari jenis yang sama, dan dengan demikian hewan bertanya-tanya apakah ia juga memiliki tanda seperti pada hewan lain.

Terus dan terus.

Saya yakin Anda senang mengetahui hal ini dan selanjutnya akan memahami mengapa ada titik atau tanda aneh pada hewan yang tidak akan memiliki tanda seperti itu. Siapa tahu, itu mungkin baru saja menyelesaikan eksperimen tes cermin. Ucapkan selamat kepada hewan itu, dengan selamat, karena telah menjadi peserta yang murah hati.

Apa hubungannya semua itu dengan mobil self-driving berbasis AI?

Anda akan menyukai bagian ini.

Sebuah mobil self-driving sedang melaju di jalan raya yang panjang. Sistem mengemudi AI menggunakan sensor untuk mendeteksi lalu lintas lainnya. Ini adalah jalan raya dua lajur yang memiliki lalu lintas ke utara di satu lajur dan ke selatan di lajur lainnya. Kadang-kadang, mobil dan truk akan mencoba untuk berpapasan, melakukannya dengan masuk ke jalur lawan dan kemudian melompat kembali ke jalur perjalanan mereka yang sebenarnya.

Anda telah melihat ini, Anda pasti telah melakukan ini.

Saya berani bertaruh aspek berikutnya ini juga terjadi pada Anda. Di depan mobil self-driving adalah salah satu truk tangki yang cukup besar. Itu terbuat dari logam mengkilap. Dipoles dan bersih seperti peluit. Saat berada di belakang truk seperti itu, Anda dapat melihat bayangan cermin mobil Anda melalui bagian belakang truk tangki. Jika Anda pernah melihat ini, Anda tahu betapa memesonanya itu. Di sanalah Anda, Anda dan mobil Anda, tercermin dalam pantulan seperti cermin di bagian belakang truk tangki.

Duduk untuk twist gila.

Sebuah mobil self-driving muncul di belakang truk tangki. Kamera mendeteksi gambar mobil yang ditampilkan dalam refleksi seperti cermin. Wah, AI menilai, itu mobil? Apakah itu datang di mobil self-driving? Saat mobil self-driving semakin dekat dan dekat dengan truk tangki, mobil itu tampaknya semakin dekat.

Astaga, AI komputasi mungkin menghitung bahwa ini adalah situasi yang berbahaya dan AI harus mengambil tindakan mengelak dari kendaraan nakal gila ini. Anda lihat, AI tidak mengenali dirinya sendiri di cermin. Itu gagal dalam tes cermin.

Apa yang harus dilakukan? Mungkin pemeriksa ganda AI yang sadar diri melompat ke masalah ini dan meyakinkan seluruh sistem penggerak AI bahwa itu hanya refleksi yang tidak berbahaya. Bahaya dihindari. Dunia diselamatkan. Bagian yang berhasil dari Tes Cermin AI!

Dengan kesimpulan yang tidak masuk akal, kami bahkan mungkin menyarankan bahwa kadang-kadang AI lebih pintar atau setidaknya lebih sadar diri daripada beruang biasa (meskipun, untuk kredit beruang, mereka biasanya melakukannya dengan baik dalam tes cermin, seringkali mendapatkan digunakan untuk refleksi mereka di kolam air).

Koreksi, mungkin AI bisa lebih sadar diri daripada panda raksasa dan singa laut, tapi jangan beri tahu hewan itu, mereka mungkin tergoda untuk menghancurkan atau menghancurkan sistem AI. Kami tidak menginginkan itu, bukan?