Etika AI Menghadapi One-Like-Mind dari Monokultur Algoritmik AI, Termasuk Untuk Mobil Self-Driving Otonom

Mari kita lihat sedikit teka-teki yang membingungkan.

Dikatakan bahwa orang-orang hebat berpikiran sama.

Anda pasti sudah sering mendengar slogan praktis itu. Selama beberapa percakapan kosong, jika Anda dan kolega atau teman berhasil mendapatkan ide yang sama pada saat yang sama, salah satu dari Anda pasti akan berseru dengan gembira bahwa orang-orang hebat berpikiran sama. Ini adalah pernyataan yang menyanjung tentang Anda dan sesama manusia.

Ada satu lagi kebijaksanaan bijak yang bisa kita tambahkan ke dalam campuran ini.

Dikatakan bahwa orang bodoh jarang berbeda.

Saya ingin sedikit menulis ulang pepatah itu. Pepatah yang tampaknya cukup setara adalah bahwa orang bodoh cenderung berpikiran sama. Saya menyadari bahwa Anda mungkin agak berdalih dengan penyusunan kembali baris yang terkenal itu. Meskipun demikian, tampaknya relatif akurat bahwa jika orang bodoh jarang berbeda, Anda dapat menyimpulkan bahwa orang bodoh cenderung cenderung ke arah pemikiran yang sama. Saya harap itu tidak menyebabkan terlalu banyak mulas atau kekhawatiran tentang perubahan menyimpang dari kebijaksanaan suci.

Kita sekarang berada pada saat yang berbahaya dari dilema ini.

Misalkan kita secara terbuka memberikan gagasan bahwa para pemikir besar berpikir sama umumnya benar, dan kita dalam napas yang sama memberikan pernyataan bahwa orang bodoh cenderung berpikir sama juga benar. Ketika Anda menemukan sekelompok orang yang semuanya berpikiran sama, saya harus mengajukan pertanyaan sederhana kepada Anda.

Apakah mereka semua berpikiran hebat atau mereka semua bodoh?

Yikes!

Menurut aturan tentang pikiran besar, mereka mungkin sangat berpikiran. Di sisi lain, menurut aturan tentang orang bodoh, mereka tampaknya semua bodoh. Kami sepertinya punya masalah. Anda mungkin tergagap bahwa mungkin para pemikir yang berpikiran sama ini sangat berpikiran dan bodoh. Bisakah Anda menjadi keduanya sekaligus? Sepertinya Anda mencoba mengajukan pertanyaan.

Anda mungkin dengan sungguh-sungguh berargumen bahwa pemikiran yang sama tidak menunjukkan apa pun tentang apakah pertemuan itu berpikir keras atau bodoh. Kami mungkin secara tidak sengaja membalikkan logika. Setiap kumpulan orang yang berpikir sama hanyalah berpikir sama. Anda tidak dapat mencoba menutupi kesamaan pemikiran mereka dengan dicap sebagai sekumpulan pikiran hebat atau pikiran bodoh. Mereka mungkin pikiran kacau. Mereka mungkin pikiran yang dibujuk. Pada intinya, penokohan mungkin tidak serta merta jatuh ke dalam dikotomi yang agak salah tentang semata-mata menjadi hebat atau bodoh.

Ada semua jenis wawasan yang melekat pada pengaturan yang melibatkan orang-orang yang memiliki pikiran yang sama.

Mahatma Gandhi dilaporkan mengatakan bahwa sekelompok kecil orang yang bertekad dan berpikiran sama dapat mengubah jalannya sejarah. Ini pasti menunjukkan potensi besar memiliki pikiran yang sama. Plato memperingatkan ketika datang ke pikiran yang tertutup, yang Anda mungkin menyarankan sekelompok orang yang berpikiran sama mungkin, Anda bisa mendapatkan ini: "Ini saja yang harus ditakuti: pikiran tertutup, imajinasi tidur, kematian roh.”

Ke mana saya akan pergi dengan serangkaian keingintahuan tentang pikiran yang sama?

Nah, ternyata ada kekhawatiran bahwa AI secara bertahap membawa kita ke jalan yang tak terhindarkan dan tidak diinginkan karena memiliki algoritma AI yang berpikiran sama yang mengatur aktivitas kita sehari-hari. Ini secara ringkas disebut sebagai Monokultur algoritmik AI.

Kami sedang menuju keadaan di mana masyarakat bergantung pada sistem AI yang meresap yang mungkin memiliki kapasitas algoritmik yang sama atau hampir sama. Dalam hal itu, kita rentan terhadap kesamaan pikiran dalam skala besar yang akan ada di seluruh dunia.

Sebelum saya masuk lebih jauh ke topik ini, saya ingin segera mengklarifikasi bahwa saya tidak menyinggung AI yang hidup. Seperti yang akan saya jelaskan sebentar lagi, kita tidak memiliki AI yang hidup hari ini. Terlepas dari berita utama liar dan mata terbelalak yang menyatakan bahwa kita memiliki AI yang hidup, ini sama sekali tidak terjadi dan harus diabaikan sama sekali.

Alasan saya menekankan poin penting ini adalah bahwa ketika saya menggambarkan AI sebagai "sepikiran", saya tidak ingin Anda melompat ke kesimpulan bahwa AI saat ini entah bagaimana setara dengan pikiran manusia. Hal ini pasti tidak. Tolong jangan membuat asosiasi antropomorfik semacam itu. Saya menggunakan ungkapan yang berpikiran sama hanya dimaksudkan untuk menyoroti bahwa algoritme AI mungkin disusun sedemikian rupa sehingga mereka bekerja dengan cara yang sama. Mereka meskipun tidak "berpikir" dalam kemiripan dengan apa yang akan kita tafsirkan sebagai kualitas berpikir manusia. Saya akan mengatakan lebih banyak tentang ini segera di sini.

AI yang "sepikiran" dalam hal memiliki konstruksi monokultur algoritmik adalah sesuatu yang dapat kita nilai sebagai buruk dan baik secara bersamaan. Sisi buruknya adalah jika AI kesamaan yang umum digunakan dan digunakan ini penuh dengan bias dan inklusi diskriminatif, AI kemungkinan akan digunakan secara diam-diam secara luas dan menyebarluaskan praktik-praktik buruk ini di mana-mana. Sisi baiknya adalah jika AI dirancang dan dilakukan dengan tepat tanpa bias dan inklusi diskriminatif, kami berharap keadilan ditanamkan secara luas. Semua ini memiliki implikasi Etika AI dan Etika AI yang demonstratif. Untuk liputan saya yang berkelanjutan dan ekstensif tentang Etika AI dan AI Etis, lihat tautannya di sini dan tautannya di sini.

Berikut adalah tujuh aturan praktis saya tentang monokultur algoritmik AI:

1) Monokultur algoritme AI terdiri dari penggunaan algoritme dasar yang sama atau hampir sama yang kemudian digunakan secara luas untuk membuat keputusan yang berdampak pada manusia

2) AI semacam itu dapat memberikan konsistensi dan keandalan, meskipun ini adalah pedang bermata dua

3) Satu sisi adalah bahwa AI yang menyampaikan bias yang merugikan mudah menyebar dan digunakan berulang kali dengan cara yang tidak baik (itu buruk)

4) Sisi lain adalah bahwa AI yang mewujudkan keadilan dan properti lain yang diinginkan dapat untungnya tersebar luas (itu bagus)

5) Ada jenis kerentanan tertentu di seluruh sistem ketika memiliki homogenitas AI kaliber ini dan dapat dikurangi secara besar-besaran oleh guncangan yang mengganggu

6) Heterogenitas AI terkadang lebih disukai, meskipun ini menimbulkan kekhawatiran akan ketidaksesuaian besar yang mungkin muncul

7) Kita semua perlu memikirkan, mengawasi, dan bersaing dengan monokultur algoritmik AI

Sebelum masuk ke lebih banyak daging dan kentang tentang pertimbangan liar dan wol yang mendasari monokultur algoritmik AI, mari kita buat beberapa dasar tambahan tentang topik yang sangat integral. Kita perlu sedikit menyelami Etika AI dan terutama munculnya Machine Learning (ML) dan Deep Learning (DL).

Anda mungkin samar-samar menyadari bahwa salah satu suara paling keras akhir-akhir ini di bidang AI dan bahkan di luar bidang AI terdiri dari teriakan untuk kemiripan yang lebih besar dari AI Etis. Mari kita lihat apa artinya merujuk pada Etika AI dan AI Etis. Selain itu, kita akan mengeksplorasi apa yang saya maksud ketika saya berbicara tentang Machine Learning dan Deep Learning.

Salah satu segmen atau bagian tertentu dari Etika AI yang banyak mendapat perhatian media adalah AI yang menunjukkan bias dan ketidakadilan yang tidak diinginkan. Anda mungkin menyadari bahwa ketika era terbaru AI sedang berlangsung, ada ledakan besar antusiasme untuk apa yang sekarang disebut beberapa orang AI For Good. Sayangnya, di tengah kegembiraan yang tercurah itu, kami mulai menyaksikan AI Untuk Buruk. Misalnya, berbagai sistem pengenalan wajah berbasis AI telah terungkap mengandung bias rasial dan bias gender, yang telah saya bahas di tautannya di sini.

Upaya untuk melawan AI Untuk Buruk sedang aktif berlangsung. Selain riuh sah pengekangan dalam melakukan kesalahan, ada juga dorongan substantif untuk merangkul Etika AI untuk memperbaiki kejahatan AI. Gagasannya adalah bahwa kita harus mengadopsi dan mendukung prinsip-prinsip AI Etis utama untuk pengembangan dan penerapan AI yang dilakukan untuk melemahkan AI Untuk Buruk dan secara bersamaan menggembar-gemborkan dan mempromosikan yang lebih disukai AI For Good.

Pada gagasan terkait, saya seorang pendukung untuk mencoba menggunakan AI sebagai bagian dari solusi untuk kesengsaraan AI, melawan api dengan api dengan cara berpikir seperti itu. Misalnya, kami mungkin menanamkan komponen AI Etis ke dalam sistem AI yang akan memantau bagaimana AI lainnya melakukan sesuatu dan dengan demikian berpotensi menangkap upaya diskriminatif secara real-time, lihat diskusi saya di tautannya di sini. Kami juga dapat memiliki sistem AI terpisah yang berfungsi sebagai jenis pemantau Etika AI. Sistem AI berfungsi sebagai pengawas untuk melacak dan mendeteksi ketika AI lain masuk ke jurang yang tidak etis (lihat analisis saya tentang kemampuan tersebut di tautannya di sini).

Sebentar lagi, saya akan berbagi dengan Anda beberapa prinsip menyeluruh yang mendasari Etika AI. Ada banyak daftar semacam ini yang beredar di sana-sini. Anda dapat mengatakan bahwa belum ada daftar tunggal daya tarik dan persetujuan universal. Itulah berita malang. Kabar baiknya adalah setidaknya ada daftar Etika AI yang tersedia dan cenderung sangat mirip. Semua mengatakan, ini menunjukkan bahwa dengan bentuk konvergensi yang beralasan bahwa kita menemukan jalan menuju kesamaan umum dari apa yang terdiri dari Etika AI.

Pertama, mari kita bahas secara singkat beberapa prinsip AI Etis secara keseluruhan untuk mengilustrasikan apa yang seharusnya menjadi pertimbangan penting bagi siapa pun yang membuat, menggunakan, atau menggunakan AI.

Misalnya, seperti yang dinyatakan oleh Vatikan dalam Roma Menyerukan Etika AI dan seperti yang telah saya bahas secara mendalam di tautannya di sini, berikut adalah enam prinsip etika AI utama yang mereka identifikasi:

• Transparansi: Pada prinsipnya, sistem AI harus dapat dijelaskan
• inklusi: Kebutuhan semua manusia harus dipertimbangkan sehingga setiap orang dapat memperoleh manfaat, dan semua individu dapat ditawarkan kondisi terbaik untuk mengekspresikan diri dan berkembang.
• Tanggung jawab: Mereka yang merancang dan menerapkan penggunaan AI harus melanjutkan dengan tanggung jawab dan transparansi
• Ketidakberpihakan: Jangan membuat atau bertindak berdasarkan bias, sehingga menjaga keadilan dan martabat manusia
• Keandalan: Sistem AI harus dapat bekerja dengan andal
• Keamanan dan Privasi: Sistem AI harus bekerja dengan aman dan menghormati privasi pengguna.

Seperti yang dinyatakan oleh Departemen Pertahanan AS (DoD) dalam Prinsip Etis Untuk Penggunaan Kecerdasan Buatan dan seperti yang telah saya bahas secara mendalam di tautannya di sini, ini adalah enam prinsip etika AI utama mereka:

• Bertanggung jawab: Personel DoD akan menerapkan tingkat pertimbangan dan perhatian yang tepat sambil tetap bertanggung jawab atas pengembangan, penerapan, dan penggunaan kemampuan AI.
• Adil: Departemen akan mengambil langkah-langkah yang disengaja untuk meminimalkan bias yang tidak diinginkan dalam kemampuan AI.
• Dilacak: Kemampuan AI Departemen akan dikembangkan dan diterapkan sedemikian rupa sehingga personel yang relevan memiliki pemahaman yang tepat tentang teknologi, proses pengembangan, dan metode operasional yang berlaku untuk kemampuan AI, termasuk metodologi yang transparan dan dapat diaudit, sumber data, serta prosedur dan dokumentasi desain.
• terpercaya: Kemampuan AI Departemen akan memiliki penggunaan yang jelas dan terdefinisi dengan baik, dan keselamatan, keamanan, dan efektivitas kemampuan tersebut akan tunduk pada pengujian dan jaminan dalam penggunaan yang ditentukan di seluruh siklus hidupnya.
• Yg bisa diperintah: Departemen akan merancang dan merekayasa kemampuan AI untuk memenuhi fungsi yang dimaksudkan sambil memiliki kemampuan untuk mendeteksi dan menghindari konsekuensi yang tidak diinginkan, dan kemampuan untuk melepaskan atau menonaktifkan sistem yang diterapkan yang menunjukkan perilaku yang tidak diinginkan.

Saya juga telah membahas berbagai analisis kolektif prinsip-prinsip etika AI, termasuk meliput satu set yang dirancang oleh para peneliti yang memeriksa dan memadatkan esensi dari berbagai prinsip etika AI nasional dan internasional dalam sebuah makalah berjudul "Lanskap Global Pedoman Etika AI" (diterbitkan di dalam Alam), dan liputan saya mengeksplorasi di tautannya di sini, yang mengarah ke daftar keystone ini:

• Transparansi
• Keadilan & Keadilan
• Non-Kejahatan
• Tanggung jawab
• Privasi
• Kemurahan hati
• Kebebasan & Otonomi
• Kepercayaan
• Keberlanjutan
• martabat
• Solidaritas

Seperti yang mungkin Anda tebak secara langsung, mencoba menjelaskan secara spesifik yang mendasari prinsip-prinsip ini bisa sangat sulit dilakukan. Terlebih lagi, upaya untuk mengubah prinsip-prinsip luas itu menjadi sesuatu yang sepenuhnya nyata dan cukup detail untuk digunakan saat membuat sistem AI juga merupakan hal yang sulit untuk dipecahkan. Sangat mudah untuk secara keseluruhan melakukan beberapa isyarat tangan tentang apa ajaran Etika AI dan bagaimana mereka harus dipatuhi secara umum, sementara itu adalah situasi yang jauh lebih rumit dalam pengkodean AI yang harus menjadi karet sejati yang memenuhi jalan.

Prinsip-prinsip Etika AI harus digunakan oleh pengembang AI, bersama dengan mereka yang mengelola upaya pengembangan AI, dan bahkan mereka yang pada akhirnya menerapkan dan melakukan pemeliharaan pada sistem AI. Semua pemangku kepentingan di seluruh siklus hidup pengembangan dan penggunaan AI dianggap dalam lingkup mematuhi norma-norma Etis AI yang sedang ditetapkan. Ini adalah sorotan penting karena asumsi umum adalah bahwa "hanya pembuat kode" atau mereka yang memprogram AI harus mematuhi gagasan Etika AI. Seperti yang dinyatakan sebelumnya, dibutuhkan sebuah desa untuk merancang dan menerapkan AI, dan untuk itu seluruh desa harus memahami dan mematuhi prinsip-prinsip Etika AI.

Pastikan juga kita berada di halaman yang sama tentang sifat AI saat ini.

Tidak ada AI hari ini yang hidup. Kami tidak memiliki ini. Kami tidak tahu apakah AI yang hidup akan memungkinkan. Tidak ada yang dapat dengan tepat memprediksi apakah kita akan mencapai AI hidup, atau apakah AI hidup entah bagaimana secara ajaib akan muncul secara spontan dalam bentuk supernova kognitif komputasi (biasanya disebut sebagai singularitas, lihat liputan saya di tautannya di sini).

Jenis AI yang saya fokuskan terdiri dari AI non-sentient yang kita miliki saat ini. Jika kita ingin berspekulasi liar tentang hidup AI, diskusi ini bisa mengarah ke arah yang sangat berbeda. AI yang hidup seharusnya berkualitas manusia. Anda perlu mempertimbangkan bahwa AI yang hidup adalah setara kognitif manusia. Terlebih lagi, karena beberapa orang berspekulasi bahwa kita mungkin memiliki AI super-cerdas, dapat dibayangkan bahwa AI semacam itu bisa menjadi lebih pintar daripada manusia (untuk eksplorasi AI super-cerdas saya sebagai kemungkinan, lihat liputannya disini).

Mari kita menjaga hal-hal lebih membumi dan mempertimbangkan komputasi AI non-sentient hari ini.

Sadarilah bahwa AI saat ini tidak dapat "berpikir" dengan cara apa pun yang setara dengan pemikiran manusia. Saat Anda berinteraksi dengan Alexa atau Siri, kapasitas percakapan mungkin tampak mirip dengan kapasitas manusia, tetapi kenyataannya adalah komputasi dan tidak memiliki kognisi manusia. Era terbaru AI telah memanfaatkan Machine Learning (ML) dan Deep Learning (DL) secara ekstensif, yang memanfaatkan pencocokan pola komputasi. Hal ini telah menyebabkan sistem AI yang memiliki tampilan kecenderungan seperti manusia. Sementara itu, tidak ada AI saat ini yang memiliki kesamaan akal sehat dan juga tidak memiliki keajaiban kognitif dari pemikiran manusia yang kuat.

ML/DL adalah bentuk pencocokan pola komputasi. Pendekatan yang biasa dilakukan adalah mengumpulkan data tentang tugas pengambilan keputusan. Anda memasukkan data ke dalam model komputer ML/DL. Model-model tersebut berusaha menemukan pola matematika. Setelah menemukan pola tersebut, jika ditemukan, sistem AI kemudian akan menggunakan pola tersebut saat menemukan data baru. Setelah penyajian data baru, pola berdasarkan data "lama" atau historis diterapkan untuk membuat keputusan saat ini.

Saya pikir Anda bisa menebak ke mana arahnya. Jika manusia yang telah membuat keputusan berdasarkan pola telah memasukkan bias yang tidak diinginkan, kemungkinan besar data mencerminkan hal ini dengan cara yang halus namun signifikan. Pencocokan pola komputasi Machine Learning atau Deep Learning hanya akan mencoba meniru data secara matematis. Tidak ada kesamaan akal sehat atau aspek hidup lainnya dari pemodelan buatan AI itu sendiri.

Selain itu, pengembang AI mungkin juga tidak menyadari apa yang sedang terjadi. Matematika misterius dalam ML/DL mungkin menyulitkan untuk menemukan bias yang sekarang tersembunyi. Anda berhak berharap dan berharap bahwa pengembang AI akan menguji bias yang berpotensi terkubur, meskipun ini lebih sulit daripada yang terlihat. Ada peluang kuat bahwa bahkan dengan pengujian yang relatif ekstensif akan ada bias yang masih tertanam dalam model pencocokan pola ML/DL.

Anda agak bisa menggunakan pepatah terkenal atau terkenal dari sampah-masuk sampah-keluar. Masalahnya, ini lebih mirip dengan bias-in yang secara diam-diam dimasukkan sebagai bias yang terendam dalam AI. Algoritma pengambilan keputusan (ADM) AI secara aksiomatis menjadi sarat dengan ketidakadilan.

Tidak baik.

Mari kembali ke fokus kita pada monokultur algoritmik AI.

Kita semua tampaknya menyadari bahwa di dunia berbasis digital yang saling terhubung saat ini bahwa kita dapat dikucilkan dengan memiliki sedikit pun data yang tersimpan dalam database dan tampaknya pergi ke mana pun kita pergi. Misalnya, ada database yang berisi bagian data yang berisi indikator bahwa Anda tidak layak kredit. Ini mungkin benar tentang Anda atau mungkin sepenuhnya salah. Anda mungkin menyadari bahwa database berisi informasi ini atau Anda mungkin sama sekali tidak menyadarinya. Ini adalah satu omong kosong besar dari alam semesta yang dipenuhi data yang membuat kita semua tenggelam.

Basis data yang berisi indikator ini dapat dengan mudah membagikan aspek penting tentang Anda dengan basis data lain di tempat lain. Dalam sekejap mata, database yang terhubung secara elektronik di seluruh dunia dapat memiliki tanda yang sekarang dikirimkan bahwa Anda tidak layak kredit. Jika Anda memilih untuk mengajukan pinjaman, kemungkinannya adalah bahwa beberapa aplikasi yang menyetujui pinjaman akan menjangkau salah satu database tersebut dan mengambil bendera yang mengatakan bahwa Anda akan dilecehkan. Anda mungkin mencoba untuk mendapatkan pinjaman saat berada di satu bagian dunia dan ditolak secara tiba-tiba. Bepergian ke daerah lain mungkin tidak banyak membantu. Keterkaitan database akan mengejar Anda tidak peduli seberapa jauh Anda bepergian.

Untungnya, ada berbagai undang-undang tentang data dan privasi yang telah diberlakukan secara bertahap. Hukum sangat berbeda dari satu negara ke negara lain. Mereka juga dapat berbeda dari satu negara bagian ke negara bagian lainnya. Tapi setidaknya ada kesadaran akan bahaya yang terkait dengan memiliki data dalam database yang dapat menyebarkan informasi tentang Anda dengan cepat. Harapannya adalah Anda akan memiliki jalan hukum untuk mencoba dan mencegah informasi palsu atau setidaknya menyadari bahwa itu ada tentang Anda. Lihat liputan saya di tautannya di sini tentang gangguan privasi dan AI.

Saya kira Anda bisa mengatakan bahwa data tentang Anda adalah semacam pepatah dari permainan "tag, you are it" (di mana kita kadang-kadang ingin menjadi orang yang ditandai, dan di lain waktu kita ingin tidak begitu ditandai).

Ambil napas dalam-dalam.

Misalkan kita melambaikan tongkat ajaib dan secara ajaib dapat memastikan bahwa homogenitas data tentang Anda tidak akan terjadi. Kami dapat membuat semua masyarakat bersatu dan menghentikan tindakan semacam ini. Anda mungkin ergo berasumsi bahwa Anda tidak lagi dalam bahaya dari kekhawatiran tersebut.

Maaf untuk mengatakan, Anda akan melewatkan bahaya yang ditimbulkan oleh monokultur algoritmik AI.

Inilah alasannya.

Kita akan kembali ke contoh mencoba mendapatkan pinjaman. Bayangkan Anda pergi ke pemberi pinjaman dan mereka menggunakan sistem AI yang memiliki algoritme tertentu yang akan kami rujuk sebagai algoritme Y. Dalam kasus Anda, saat Anda mengajukan dan memberikan detail Anda, algoritme Y ditulis sedemikian rupa sehingga itu akan dengan cepat menentukan secara matematis apakah Anda harus ditolak untuk pinjaman atau tidak. Pada dasarnya, algoritme ini dapat "memutuskan" bahwa Anda tidak layak mendapatkan kredit.

Perhatikan bahwa kami berpura-pura dalam kasus ini bahwa AI tidak menjangkau database untuk mencoba dan mengumpulkan kelayakan kredit Anda. Jadi, tidak ada kemungkinan AI melakukan turndown berdasarkan sedikit data yang ada di database di sini atau di sana. Seluruh pilihan dibuat melalui algoritma Y untuk perhitungan yang terlibat.

AI menunjukkan Anda ditolak untuk pinjaman. Saya yakin Anda akan kecewa dengan hasil ini. Anda mungkin akan mengangkat bahu dan memilih untuk pergi ke pemberi pinjaman yang berbeda. Sekali lagi, Anda tahu pasti bahwa tidak ada database yang membuat Anda keluar dari pertikaian. Dalam pikiran Anda, yang perlu Anda lakukan adalah terus mencoba pemberi pinjaman yang berbeda dan pada akhirnya Anda akan mendapatkan lampu hijau.

Setelah pergi ke pemberi pinjaman lain, sekali lagi Anda ditolak. Ini membingungkan. Anda mencoba pemberi pinjaman lain, tetapi ditolak dengan cepat. Satu demi satu, setiap upaya mengarah pada hasil mengecewakan yang sama. Anda jengkel. Anda kesal tanpa akhir.

Apa yang sedang terjadi?

Apakah semua pemberi pinjaman ini diam-diam bersekongkol untuk memastikan Anda tidak mendapatkan pinjaman?

Jawaban singkatnya adalah "Tidak" dan kami akan mengatakan bahwa mereka tidak bersekongkol sendiri. Sebaliknya, mereka semua kebetulan menggunakan algoritme Y. Mereka tidak "bersekongkol" dalam arti berkumpul di ruang belakang dan setuju untuk menggunakan algoritme Y dalam AI mereka. Tidak ada pertemuan bergaya mafia yang mengatakan bahwa mereka semua akan menggunakan algoritme Y. Sebagai catatan, orang mengira itu memang bisa terjadi, tetapi untuk diskusi kita akan mengesampingkan alternatif itu untuk saat ini. .

Ada alasan yang sangat masuk akal bahwa algoritme Y dapat digunakan oleh semua pemberi pinjaman yang terpisah dan berbeda ini. Bisa jadi algoritma Y tersedia sebagai open source. Pengembang AI di masing-masing pemberi pinjaman yang berbeda itu mungkin dalam setiap kasus hanya menjangkau perpustakaan sumber terbuka dan menyalin potongan kode itu ke dalam sistem AI mereka.

Ini mungkin cara termudah dan tercepat untuk menyelesaikan pekerjaan. Tidak perlu dari awal mencoba merancang algoritma Y. Dalam beberapa menit akses online, pengkodean sudah dilakukan untuk Anda dan langsung siap digunakan. Salin dan tempel. Selain itu, Anda mungkin dapat menghindari keharusan melakukan debugging kode. Asumsi Anda mungkin bahwa kode tersebut sudah diuji dengan baik dan Anda tidak perlu menemukan kembali kemudi.

Oke, jadi pemberi pinjaman demi pemberi pinjaman semua dengan polos memilih untuk menggunakan algoritme Y. Ada kemungkinan besar bahwa algoritme Y dikenal sebagai "standar emas" yang akan digunakan untuk memastikan kelayakan kredit. Dan ini akan membuat adopsi algoritme tertentu menjadi lebih populer. Pengembang AI tidak hanya menghemat waktu dengan menggunakannya, mereka juga bermain aman. Semua orang bersumpah bahwa algoritme layak untuk digunakan. Mengapa Anda harus melawan kebijaksanaan orang banyak? Tampaknya tidak bijaksana untuk melakukannya.

Selamat datang di era monokultur algoritmik AI.

Kami telah menemukan di sini melalui contoh ini bahwa algoritme yang sama dapat dengan mudah digunakan berulang kali di banyak sistem AI. Tidak ada konspirasi khusus tentang hal itu. Tidak ada plot jahat yang didalangi super-duper. Sebagai pengganti skema jahat itu, algoritma tertentu menjadi dominan karena apa yang dapat digambarkan sebagai alasan yang baik dan bermanfaat.

Di tahun-tahun sebelumnya, kemungkinan untuk menggunakan algoritme yang sama secara luas telah ada, meskipun lebih banyak rintangan yang harus diatasi. Saat ini, penggunaan hub penyimpanan algoritme hampir dapat diakses dengan mudah. Open source lebih diterima daripada mungkin di generasi sebelumnya. Dan seterusnya.

Dengan satu contoh pemberi pinjaman yang telah kami jelajahi, kami mungkin berakhir dengan dua pemberi pinjaman, dua puluh pemberi pinjaman, dua ratus pemberi pinjaman, dua ribu pemberi pinjaman, atau mungkin ratusan ribu pemberi pinjaman semuanya memilih untuk menggunakan algoritme Y yang sama dalam AI. Algoritma AI pasti. Itu sedang dipilih dan ditanamkan ke dalam AI di seluruh dunia.

Tidak ada yang menaikkan bendera merah. Tidak ada alasan yang jelas untuk melakukannya. Jika ada, bendera merah mungkin akan dimunculkan ketika beberapa pemberi pinjaman memilih untuk tidak menggunakan algoritma Y. Hei, pertanyaannya mungkin mendesak, Anda tidak menggunakan algoritma Y. Apa yang menyebabkan? Apakah Anda dengan sengaja mencoba melakukan sesuatu yang curang atau kotor? Dapatkan tindakan Anda bersama-sama dan bergabunglah dengan orang lain.

Ekstrapolasi monokultur konseptual yang sama ini ke semua jenis sistem AI dan semua jenis algoritme.

Sebuah studi penelitian menggambarkan fenomena seperti ini: “Munculnya algoritma yang digunakan untuk membentuk pilihan masyarakat telah disertai dengan kekhawatiran atas monokultur — gagasan bahwa pilihan dan preferensi akan menjadi homogen dalam menghadapi kurasi algoritmik” (Jon Kleinberga dan Manish Raghavana, “Algoritma Monokultur Dan Kesejahteraan Sosial” PNAS 2021). Mereka lebih lanjut menunjukkan: “Bahkan jika algoritme lebih akurat berdasarkan kasus per kasus, dunia di mana setiap orang menggunakan algoritme yang sama rentan terhadap kegagalan berkorelasi ketika algoritme menemukan dirinya dalam kondisi yang merugikan.”

Kami sekarang dapat dengan berguna meninjau kembali kumpulan tujuh aturan saya sebelumnya tentang monokultur algoritmik AI:

1) Monokultur algoritme AI terdiri dari penggunaan algoritme dasar yang sama atau hampir sama yang kemudian digunakan secara luas untuk membuat keputusan yang berdampak pada manusia

2) AI semacam itu dapat memberikan konsistensi dan keandalan, meskipun ini adalah pedang bermata dua

3) Satu sisi adalah bahwa AI yang menyampaikan bias yang merugikan mudah menyebar dan digunakan berulang kali dengan cara yang tidak baik (itu buruk)

4) Sisi lain adalah bahwa AI yang mewujudkan keadilan dan properti lain yang diinginkan dapat untungnya tersebar luas (itu bagus)

5) Ada jenis kerentanan tertentu di seluruh sistem ketika memiliki homogenitas AI kaliber ini dan dapat dikurangi secara besar-besaran oleh guncangan yang mengganggu

6) Heterogenitas AI terkadang lebih disukai, meskipun ini menimbulkan kekhawatiran akan ketidaksesuaian besar yang mungkin muncul

7) Kita semua perlu memikirkan, mengawasi, dan bersaing dengan monokultur algoritmik AI

Seperti disebutkan dalam aturan saya #2, ada pedang bermata dua yang jelas tentang monokultur algoritmik AI.

Sesuai aturan saya # 3, Anda bisa berakhir di ujung tongkat yang pendek. Jika Anda ditolak oleh pemberi pinjaman demi pemberi pinjaman, ke mana pun Anda pergi, dan jika algoritme Y melakukan ini berdasarkan bias atau dasar tidak pantas lainnya, Anda akan dikutuk. Anda akan memiliki waktu yang jauh lebih sulit untuk mencoba membalikkan ini. Dalam kasus data tentang Anda dalam database, kemungkinan besar Anda akan memiliki beberapa jalur hukum dan juga pengakuan umum tentang apa yang dapat dilakukan oleh data yang buruk. Hanya sedikit orang yang akan memahami bahwa algoritma yang buruk mengikuti Anda sampai ke ujung bumi.

Sesuai aturan saya # 4, ada potensi keuntungan dari monokultur algoritmik AI. Asumsikan bahwa algoritme Y benar menghalangi Anda untuk mendapatkan pinjaman. Anda mungkin telah mencoba secara diam-diam dan jahat untuk mengelabui berbagai hal dengan berbelanja. Karena algoritme Y yang sama digunakan secara luas, belanja Anda tidak mungkin menghasilkan emas. Meskipun kami mungkin tidak menyukai gagasan tentang kemungkinan keadilan algoritme yang terus-menerus dan sama (jika ada hal seperti itu, lihat analisis saya di tautannya di sini), kita mungkin bisa bersukacita ketika hal baik tersebar luas.

Mari kita bahas kejutan selanjutnya.

Dalam aturan saya #5, saya menunjukkan bahwa ada keraguan mendasar bahwa monokultur algoritmik AI dapat mengalami gangguan besar-besaran. Ini mudah dijelaskan. Bayangkan ada bug perangkat lunak dalam algoritme Y. Tidak ada yang menyadarinya. Selama ribuan tahun, ia telah bersembunyi di sana di depan mata. Jika Anda ragu bahwa ini bisa terjadi, yaitu bahwa bug akan ada dalam kode sumber terbuka dan belum ditemukan sebelumnya, lihat liputan saya di tautannya di sini dari contoh-contoh seperti itu.

Bug muncul dan menyebabkan algoritme Y tidak lagi menjadi bagian kode yang dimuliakan seperti yang dipikirkan semua orang. Sadarilah bahwa bug ini ada di ribuan sistem AI itu. Dalam waktu singkat, bug itu mungkin ditemui di seluruh planet ini, dan kita dengan cepat menemukan diri kita menghadapi kekacauan yang mengerikan. Karena semua orang menaruh telur mereka ke dalam satu keranjang, dan karena keranjang itu sekarang benar-benar kacau, hal yang sama terjadi di seluruh dunia.

Sebuah bencana proporsi epik.

Secara teori, ini tidak akan mudah terjadi jika pemberi pinjaman masing-masing telah merancang algoritma kepemilikan mereka sendiri. Kemungkinannya adalah jika salah satu dari mereka memiliki bug, yang lain tidak. Dalam hal semuanya menggunakan kode dasar yang sama, mereka semua memiliki bug yang sama.

Terkutuklah jika Anda melakukannya, terkutuklah jika Anda tidak melakukannya.

Saya yakin beberapa dari Anda berteriak bahwa kabar baik tentang bug dalam pengaturan monokultur adalah bahwa jika ada perbaikan yang tersedia, setiap orang dapat dengan mudah menerapkan perbaikan yang sama. Ini tampaknya menjadi cara yang cerah dan cerah untuk melihat masalah ini. Ya, itu mungkin berhasil. Intinya di sini adalah bahwa ada kemungkinan gangguan yang lebih besar. Sekalipun resolusinya mungkin lebih mudah untuk diatasi, Anda masih dihadapkan pada gangguan besar-besaran karena aspek monokultur.

Selain contoh bug yang dapat menyebabkan kejutan, kita dapat menemukan banyak skenario mengerikan lainnya. Salah satunya adalah penjahat dunia maya yang merancang cara jahat untuk merebut algoritma yang populer digunakan. Pelaku kejahatan bisa memiliki bonanza di tangan mereka. Mereka dapat beralih dari AI ke AI, membuat AI melakukan sesuatu yang pengecut. Semua karena algoritma yang sama digunakan berulang kali. Skala besar dapat dimanfaatkan untuk kebaikan dan sayangnya dapat berpotensi dimanfaatkan untuk kejahatan.

Pada titik diskusi yang berat ini, saya yakin Anda menginginkan beberapa contoh ilustratif yang mungkin menunjukkan topik ini. Ada satu set contoh khusus dan pasti populer yang dekat dengan hati saya. Anda tahu, dalam kapasitas saya sebagai ahli AI termasuk konsekuensi etis dan hukum, saya sering diminta untuk mengidentifikasi contoh realistis yang menunjukkan dilema Etika AI sehingga sifat topik yang agak teoretis dapat lebih mudah dipahami. Salah satu area paling menggugah yang secara gamblang menghadirkan kebingungan AI etis ini adalah munculnya mobil self-driving sejati berbasis AI. Ini akan berfungsi sebagai kasus penggunaan yang berguna atau contoh untuk diskusi yang cukup tentang topik tersebut.

Inilah pertanyaan penting yang patut direnungkan: Apakah munculnya mobil self-driving sejati berbasis AI menjelaskan apa pun tentang monokultur algoritmik AI, dan jika demikian, apa yang ditampilkannya?

Izinkan saya sejenak untuk membongkar pertanyaan itu.

Pertama, perhatikan bahwa tidak ada pengemudi manusia yang terlibat dalam mobil self-driving sejati. Perlu diingat bahwa mobil self-driving sejati digerakkan melalui sistem mengemudi AI. Tidak ada kebutuhan untuk pengemudi manusia di belakang kemudi, juga tidak ada ketentuan bagi manusia untuk mengemudikan kendaraan. Untuk liputan saya yang luas dan berkelanjutan tentang Kendaraan Otonom (AV) dan terutama mobil self-driving, lihat tautannya di sini.

Saya ingin mengklarifikasi lebih lanjut apa yang dimaksud dengan mobil self-driving sejati.

Memahami Tingkatan Mobil Self-Driving

Sebagai klarifikasi, mobil self-driving sejati adalah mobil di mana AI menggerakkan mobil sepenuhnya sendiri dan tidak ada bantuan manusia selama tugas mengemudi.

Kendaraan tanpa pengemudi ini dianggap Level 4 dan Level 5 (lihat penjelasan saya di tautan ini di sini), sementara mobil yang memerlukan pengemudi manusia untuk berbagi upaya mengemudi biasanya dianggap di Level 2 atau Level 3. Mobil yang berbagi tugas mengemudi digambarkan sebagai semi-otonom, dan biasanya berisi berbagai add-on otomatis yang disebut sebagai ADAS (Advanced Driver-Assistance Systems).

Belum ada mobil self-driving sejati di Level 5, dan kami bahkan belum tahu apakah ini mungkin untuk dicapai, atau berapa lama waktu yang dibutuhkan untuk sampai ke sana.

Sementara itu, upaya Level 4 secara bertahap mencoba mendapatkan daya tarik dengan menjalani uji coba jalan raya umum yang sangat sempit dan selektif, meskipun ada kontroversi mengenai apakah pengujian ini harus diizinkan sendiri (kita semua adalah kelinci percobaan hidup atau mati dalam sebuah percobaan terjadi di jalan raya dan byways kami, beberapa berpendapat, lihat liputan saya di tautan ini di sini).

Karena mobil semi-otonom membutuhkan pengemudi manusia, adopsi jenis-jenis mobil itu tidak akan jauh berbeda dari mengendarai kendaraan konvensional, jadi tidak banyak yang baru untuk membahasnya mengenai topik ini (meskipun, seperti yang akan Anda lihat suatu saat, poin-poin yang dibuat selanjutnya secara umum berlaku).

Untuk mobil semi-otonom, penting bahwa masyarakat perlu diperingatkan tentang aspek mengganggu yang telah muncul akhir-akhir ini, yaitu bahwa meskipun para pengemudi manusia yang terus memposting video diri mereka tertidur di belakang kemudi mobil Level 2 atau Level 3 , kita semua perlu menghindari disesatkan untuk percaya bahwa pengemudi dapat mengambil perhatian mereka dari tugas mengemudi sambil mengendarai mobil semi-otonom.

Anda adalah pihak yang bertanggung jawab untuk tindakan mengemudi kendaraan, terlepas dari berapa banyak otomatisasi yang mungkin dilemparkan ke Level 2 atau Level 3.

Mobil Tanpa Pengemudi dan Monokultur Algoritmik AI

Untuk kendaraan self-driving sejati Level 4 dan Level 5, tidak akan ada pengemudi manusia yang terlibat dalam tugas mengemudi.

Semua penumpang akan menjadi penumpang.

AI sedang mengemudi.

Salah satu aspek yang perlu segera dibahas adalah fakta bahwa AI yang terlibat dalam sistem penggerak AI saat ini bukanlah makhluk hidup. Dengan kata lain, AI secara keseluruhan merupakan kumpulan dari pemrograman dan algoritma berbasis komputer, dan yang paling pasti tidak dapat bernalar dengan cara yang sama seperti manusia.

Mengapa penekanan tambahan ini tentang AI tidak hidup?

Karena saya ingin menggarisbawahi bahwa ketika membahas peran sistem penggerak AI, saya tidak menganggap kualitas manusia berasal dari AI. Perlu diketahui bahwa ada kecenderungan yang sedang berlangsung dan berbahaya akhir-akhir ini untuk antropomorfisasi AI. Intinya, orang-orang menugaskan perasaan mirip manusia ke AI saat ini, terlepas dari fakta yang tak terbantahkan dan tak terbantahkan bahwa AI tersebut belum ada.

Dengan klarifikasi tersebut, Anda dapat membayangkan bahwa sistem mengemudi AI tidak akan secara asli “tahu” tentang aspek mengemudi. Mengemudi dan semua yang diperlukannya perlu diprogram sebagai bagian dari perangkat keras dan perangkat lunak mobil yang dapat mengemudi sendiri.

Mari selami segudang aspek yang ikut bermain tentang topik ini.

Pertama, penting untuk disadari bahwa tidak semua mobil self-driving AI itu sama. Setiap pembuat mobil dan perusahaan teknologi self-driving mengambil pendekatan untuk merancang mobil self-driving. Dengan demikian, sulit untuk membuat pernyataan menyeluruh tentang apa yang akan dilakukan atau tidak dilakukan oleh sistem penggerak AI.

Selain itu, setiap kali menyatakan bahwa sistem penggerak AI tidak melakukan beberapa hal tertentu, ini nantinya dapat diambil alih oleh pengembang yang sebenarnya memprogram komputer untuk melakukan hal itu. Langkah demi langkah, sistem penggerak AI secara bertahap ditingkatkan dan diperluas. Batasan yang ada saat ini mungkin tidak ada lagi di iterasi atau versi sistem yang akan datang.

Saya harap itu memberikan peringatan yang cukup untuk mendasari apa yang akan saya hubungkan.

Kita akan mulai dengan menyatakan beberapa landasan penting. Sistem mengemudi AI sedang dirancang untuk mencoba dan mengoperasikan mobil self-driving dengan aman. Beberapa pembuat mobil dan perusahaan teknologi self-driving melakukan pengkodean mereka dengan cara yang eksklusif. Yang lain mengandalkan kode sumber terbuka.

Bayangkan bahwa beberapa algoritme Z tersedia di repositori sumber terbuka dan berguna untuk digunakan dalam sistem penggerak AI. Pembuat mobil atau perusahaan teknologi self-driving menggabungkan algoritme Z ke dalam sistem mengemudi AI mereka. Ini akan dijalin secara integral ke dalam sistem penggerak AI mereka.

Jika mereka menempatkan selusin mobil self-driving di jalan raya, semua kendaraan otonom itu akan berisi algoritme Z sebagai bagian dari perangkat lunak onboard dari sistem mengemudi AI. Secara bertahap, dengan asumsi bahwa mobil self-driving mengemudi dengan aman, ukuran armada bertambah menjadi dua puluh mobil self-driving di jalan raya. Sebuah keputusan dibuat untuk meningkatkan lebih jauh. Segera, dua ribu mobil self-driving dari armada itu sekarang ada di jalan-jalan dan jalan raya. Dan seterusnya.

Pembuat mobil yang berbeda juga menggunakan algoritme Z dalam sistem mengemudi mereka. Mereka juga menggunakan mobil self-driving mereka. Armada mereka bertambah besar. Segera mereka memiliki ribuan mobil self-driving mereka berkeliaran di sana-sini.

Saya percaya bahwa Anda dapat melihat ke mana arahnya.

Kita dapat menemukan diri kita dalam monokultur algoritmik AI di tengah munculnya mobil self-driving berbasis AI. Banyak merek dan model kendaraan otonom semuanya mungkin memiliki algoritme tertentu yang digunakan di suatu tempat dalam sistem penggerak AI mereka. Tidak ada kolusi tentang ini. Tidak ada konspirasi besar yang dimainkan.

Dalam hal berapa banyak mobil self-driving yang mungkin suatu hari nanti kita miliki di jalan kita, ada perdebatan sengit tentang topik itu. Kita tahu bahwa di Amerika Serikat saja ada sekitar 250 juta mobil yang digerakkan manusia saat ini. Beberapa menyarankan bahwa kita akan membutuhkan sekitar 250 juta mobil self-driving, dengan asumsi bahwa kita pada akhirnya menyingkirkan mobil-mobil yang dikemudikan manusia atau bahwa mereka secara alami dibuang dan digantikan oleh mobil-mobil self-driving.

Tidak begitu cepat, beberapa menasihati. Mobil yang dikemudikan manusia menghabiskan sekitar 90% atau lebih waktunya untuk tidak digunakan. Pada umumnya, mobil yang dikemudikan manusia duduk diparkir dan menunggu pengemudi manusia untuk mengemudikannya. Mobil self-driving berbasis AI dapat mengemudi sepanjang waktu. Anda mungkin dapat memiliki mobil self-driving AI yang beroperasi 24x7, selain selama pemeliharaan atau waktu henti lain yang diperlukan.

Dalam hal ini, Anda tampaknya tidak membutuhkan 250 juta mobil self-driving untuk menggantikan 250 juta mobil yang dikemudikan manusia. Mungkin 200 juta mobil self-driving sudah cukup. Mungkin 100 juta. Tidak ada yang bisa mengatakan dengan pasti. Untuk penilaian saya tentang masalah ini, lihat tautannya di sini.

Saya ingin untuk saat ini hanya menunjukkan bahwa kita dapat memiliki jutaan demi jutaan mobil self-driving yang akhirnya berkeliaran di jalan raya dan jalan raya kita. Berapa banyak dari mereka yang pada akhirnya akan kita miliki di jalan bukanlah perhatian yang cukup penting untuk kepentingan wacana ini. Tidak diragukan lagi akan ada jutaan. Ukuran ini secara umum penting karena monokultur algoritme AI dan properti utama untuk menghadapi keuntungan dan kerugian dalam skala besar.

Inilah twistnya.

Dengan keberuntungan bodoh yang mengerikan, ada masalah parah dalam algoritma Z yang sebelumnya tidak diketahui oleh siapa pun. Ada bug yang akan menyebabkan sisa sistem penggerak AI menjadi serba salah.

Kabar buruk.

Bagi Anda yang sedang dalam pergolakan merancang sistem mengemudi AI, saya menyadari bahwa Anda biasanya tidak menyukai skenario terburuk semacam ini, dan meskipun kemungkinannya tipis, mereka tetap layak untuk didiskusikan. Kita tidak bisa menjaga kepala kita di pasir. Lebih baik membuka mata lebar-lebar dan berusaha mencegah atau setidaknya mengurangi jenis bencana ini.

Secara teori, mobil self-driving AI yang mengandung bug ini mungkin mencoba menabrak dan menabrak hampir semua hal dan semua yang ada dalam genggamannya untuk melakukannya. AI hanya melakukan apa yang "dirancang" untuk dilakukan dalam pengaturan ini. Ini akan menjadi bencana.

Beberapa dari Anda mungkin berpikir bahwa hanya karena satu mobil self-driving AI yang mungkin menemukan bug tidak akan tampak seperti masalah besar. Saya mengatakan bahwa karena begitu mobil self-driving AI menabrak sesuatu seperti truk atau apa pun, kendaraan itu sendiri kemungkinan besar akan sangat rusak sehingga tidak dapat lagi secara aktif diarahkan oleh AI untuk melakukan kekacauan dan penghancuran lebih lanjut. Itu sudah mati di dalam air, jadi untuk berbicara.

Nah, pertimbangkan faktor penskalaan yang terlibat.

Jika ada jutaan dan jutaan mobil self-driving dan mereka semua mengandalkan algoritma tertanam yang sama Z, mereka mungkin akan menjalankan bug yang sama dengan sedih.

Saya mengetahui dan mengakui bahwa bug ini dapat diperbaiki atau diatasi melalui penggunaan pembaruan perangkat lunak yang didistribusikan secara elektronik OTA (Over-The-Air). Sebagai latar belakang singkat, banyak yang membicarakan tentang keuntungan menggunakan OTA. Saat pembaruan perangkat lunak diperlukan, Anda tidak perlu membawa mobil self-driving AI ke bengkel atau dealer mobil. OTA cukup banyak dapat dilakukan di mana pun mobil self-driving berada (dalam batasan).

Sementara itu, sampai kami menemukan bug dan perbaikannya, dan sebelum mengirimkannya melalui OTA, mobil self-driving di jalan raya masih akan berada dalam posisi genting. Beberapa akan mengalami bug dan menjadi serba salah. Yang lain hampir melakukannya.

Kami mungkin memilih untuk bersikeras bahwa semua mobil self-driving untuk saat ini harus dihentikan di tempat dan tidak digunakan lebih lanjut sampai perbaikan OTA dipancarkan ke sistem mengemudi AI. Bayangkan gangguannya. Misalkan kita hanya memiliki sedikit mobil yang dikemudikan manusia. Kemungkinannya juga adalah bahwa mobil self-driving tidak akan dilengkapi dengan kontrol mengemudi manusia. Intinya, Anda bisa mendapatkan grounding 200 juta (atau berapa pun jumlah) mobil self-driving sementara kami memperbaiki bug.

Jika masyarakat telah menjadi tergantung pada mobil self-driving, Anda cukup menutup masyarakat dari perspektif mobilitas, setidaknya sampai perbaikan bug dihilangkan.

Sekarang itu akan menjadi kejutan yang merugikan dan mengejutkan bagi sistem, seolah-olah.

Saya menduga bahwa gagasan tentang serangga yang mengintai yang melakukan tindakan buruk tampaknya hampir mustahil untuk dibayangkan, meskipun pada saat yang sama kita tidak dapat mengesampingkan kemungkinan itu secara keseluruhan. Ada kemungkinan lain, seperti kerentanan kejahatan dunia maya yang mungkin ada. Saya telah membahas misalnya bagaimana negara-bangsa yang nakal dapat mencoba melakukan tindakan keji dengan memanfaatkan kelemahan dalam sistem penggerak AI, lihat diskusi saya di tautannya di sini. Selain itu, untuk detail saya tentang bagaimana pengambilalihan berbahaya dari mobil self-driving AI dapat dilakukan, lihat liputan saya di tautannya di sini.

Kesimpulan

Kesamaan pikiran adalah berkah sekaligus kutukan.

Kami sebelumnya mencatat bahwa Gandhi mengatakan bahwa mereka yang berpikiran sama dapat mencapai hal-hal besar. AI yang "berpikiran sama" berpotensi mencapai hal-hal hebat. Plato memperingatkan kita bahwa pikiran tertutup bisa menjadi bahaya besar. Jika kita memiliki sistem yang berpikiran sama di sekitar kita, kita berpotensi dihadapkan pada bahaya yang mengintai dari elemen-elemen perusak yang tidak disengaja (atau disengaja) yang dapat membahayakan sebagian dari kita atau mungkin kita semua.

Kita harus berpikiran terbuka tentang monokultur algoritmik AI. Jika kita melakukan hal-hal dengan benar, kita mungkin dapat memanfaatkan kebaikan dan mencegah keburukan.

Tapi hanya jika kita benar dalam pikiran kita tentang itu semua.