Mendorong Batasan Etika AI Ke Dunia Kekacauan AI Etis Radikal, Berpotensi Dicontohkan Melalui Kasus Penggunaan Mobil Self-Driving Berbasis AI yang Dibanggakan

Apakah tenor yang berlaku dan perhatian dari kemiripan Etika AI yang muncul secara luas saat ini telah menjadi kebiasaan yang benar-benar buruk?

Beberapa tampaknya berpikir begitu.

Mari kita bongkar ini.

Anda mungkin secara umum menyadari bahwa ada gelombang minat yang meningkat pada konsekuensi etis AI. Ini sering disebut sebagai AI Etika atau AI Etis, yang akan kami anggap di sini kedua moniker tersebut sebagian besar setara dan dapat dipertukarkan (saya kira beberapa orang mungkin berdalih tentang asumsi itu, tetapi saya ingin menyarankan agar kita tidak terganggu oleh perbedaan potensial, jika ada, untuk tujuan diskusi ini).

Sebagian alasan mengapa pertimbangan etis dan moral meningkat tentang AI adalah karena serentetan yang meningkat secara bertahap dari apa yang disebut AI Untuk Buruk. Soalnya, awalnya gelombang AI terbaru dianggap sebagai penawaran utama AI For Good. Ini adalah gagasan bahwa AI dapat membantu dalam memecahkan banyak masalah yang sulit diselesaikan yang sebelumnya tidak dapat dibantu oleh komputasi. Kami mungkin akhirnya menemukan diri kami memanfaatkan AI untuk mengatasi banyak masalah terberat di dunia.

Sepanjang perjalanan yang agak melamun itu, kesadaran telah mencapai rumah bahwa ada sisi lain dari koin. Itu adalah AI Untuk Buruk. Misalnya, Anda mungkin tahu tentang brouhaha tentang pengenalan wajah berbasis AI yang terkadang mengandung bias rasial dan bias gender (lihat analisis saya di tautan ini di sini). Tidak baik. Sekarang ada banyak contoh yang jelas dari sistem AI yang memiliki banyak ketidakadilan yang tidak diinginkan yang dibangun ke dalam fungsionalitas pengambilan keputusan algoritmik (ADM).

Beberapa masalah masam dalam AI secara etis berada di ambang batas, sementara masalah lainnya cukup banyak di luar batas etika yang masuk akal. Selain itu, Anda dapat menghitung juga bahwa AI mungkin bertindak secara ilegal atau secara langsung tidak memegang larangan pemain ilegal. Dua langkah dihantam oleh hukum dan adat istiadat bertujuan untuk memperlambat AI Untuk Buruk dan berusaha untuk mencegah serangan AI yang sedang berlangsung yang secara default mungkin penuh dengan elemen yang sangat tidak bermoral dan melanggar hukum.

Saya telah banyak membahas topik Etika AI di kolom saya, seperti liputan di tautan ini dan juga di tautan ini di sini, hanya untuk beberapa nama. Satu set faktor AI Etis yang relatif umum terdiri dari memperhatikan karakteristik AI ini:

• Keadilan
• Transparansi
• Dapat dijelaskan
• Privasi
• Kepercayaan
• martabat
• Kemurahan hati
• Dan lain-lain

Itu adalah konstruksi sosial yang sering dikutip yang harus kita pertimbangkan dalam hal pembuatan dan penerapan AI saat ini. Kemungkinannya adalah jika Anda melihat artikel atau posting blog yang membahas Etika AI, Anda akan menemukan bahwa tema artikel tersebut berpusat pada salah satu faktor atau karakteristik yang disebutkan di atas.

Saya percaya bahwa pada umumnya mereka yang secara vokal menyerukan AI Etis akan setuju bahwa faktor-faktor tersebut patut diperhatikan. Memang, masalah sebenarnya tampaknya adalah bahwa mereka yang membuat AI dan mereka yang menyebarkan AI tampaknya tidak memahami pesan tersebut. Ini telah mendorong mereka yang berada di tengah gerakan Etika AI untuk menjelaskan lebih lanjut mengapa karakteristik ini sangat penting. Sayangnya, banyak pengembang dan perusahaan AI yang memanfaatkan AI berpikir ini bagus untuk dimiliki, ergo hanya opsional, atau mereka melihat AI Etis lebih sebagai latihan akademis abstrak daripada sesuatu yang bersifat praktis sehari-hari.

Menurut prediksi saya, banyak dari mereka yang bingung tentang Ethical AI suatu hari akan bangun dan dengan kasar menemukan bahwa mereka berada di bawah kedok masyarakat dan juga hukum. Orang-orang akan sangat kecewa saat mengetahui bahwa AI yang meresap ke dalam segala macam barang dan jasa dibumbui dengan bias dan ketidakadilan yang melekat. Anggota parlemen sudah mendesak maju dengan undang-undang baru untuk mencoba dan memastikan bahwa mereka yang mempromosikan AI semacam itu akan berada di bawah aturan yang tidak ambigu secara hukum, sehingga mempersulit pembuat AI dan mereka yang menggunakan AI untuk mengabaikan potensi kriminal perdata dan penuntutan yang merugikan. dari usaha mereka.

Tanpa terlihat sembrono, roda keadilan tak terhindarkan akan menggiling jalan mereka menuju mereka yang memancarkan dan mendorong AI yang tidak diinginkan.

Untuk memperjelas, AI Untuk Buruk tidak harus semata-mata dikaitkan dengan aktor jahat. Ternyata sebagian besar pengembang AI dan mereka yang menyajikan AI ke seluruh dunia seringkali tidak menyadari apa yang mereka miliki. Suara alarm tentang AI Etika rupanya belum sampai ke telinga mereka. Anda dapat bersimpati kepada mereka yang tidak sadar, meskipun hal ini tidak serta-merta membebaskan mereka dari tanggung jawab dan tugas akhir perawatan mereka.

Saya ingin menyebutkan secara singkat bahwa Anda tidak boleh jatuh ke dalam jebakan mental berbahaya yang menyalahkan AI yang tidak diinginkan terletak di kaki AI itu sendiri. Ini hampir menggelikan, meskipun terus digunakan sebagai pintu keluar dan tampaknya bekerja dari waktu ke waktu pada mereka yang tidak akrab dengan AI saat ini. Anda lihat, AI hari ini tidak hidup. Bahkan tidak dekat. Kami tidak tahu apakah perasaan AI itu mungkin. Kami tidak tahu kapan kecerdasan buatan dapat dicapai.

Intinya adalah bahwa permainan menyalahkan AI untuk mengalihkan perhatian semua orang dengan mengarahkan jari ke AI karena pihak yang bertanggung jawab tidak jujur ​​​​jika tidak sepenuhnya tipu daya, lihat elisitasi saya tentang ini di tautan di sini. AI yang ada diprogram oleh pengembang manusia. AI yang ada dirilis dan disediakan oleh manusia. Perusahaan yang membangun AI dan perusahaan yang melisensikan atau membeli AI untuk tujuan penggunaan AI dalam barang dan jasa mereka sepenuhnya didasarkan pada umat manusia. Manusia adalah pembawa tanggung jawab, bukan AI (mungkin, di masa depan, kita akan memiliki AI dengan kemiripan yang berbeda dan lebih maju, dan pada saat itu kita harus bergulat lebih dekat dengan perbedaan di mana kesalahan berada).

Sebagai rekap singkat, kita harus bersyukur bahwa vokalis Ethical AI berusaha keras untuk membuat masyarakat mengetahui tentang implikasi etis dari AI. Saat ini, hampir mirip dengan tindakan Sisyphus menggulingkan batu ke atas bukit yang curam. Banyak yang seharusnya mendengarkan tidak melakukannya. Mereka yang mendengarkan tidak selalu diminta untuk melakukan tindakan korektif. Sama seperti Sisyphus memiliki tugas yang tidak menyenangkan untuk mendorong batu itu ke atas bukit untuk selamanya, Anda dapat berasumsi bahwa hiruk-pikuk AI Etika akan perlu menjadi keributan abadi juga.

Itu sepertinya menyelesaikan masalah tentang Etika AI dan kita mungkin bisa beralih ke topik lain.

Tapi, tunggu, masih ada lagi.

Anda mungkin terkejut atau bahkan terkejut mengetahui bahwa beberapa orang menyatakan bahwa badan pertimbangan Etis AI yang ada adalah lalai. Batu kunci utama Etika AI telah terperosok ke dalam bailiwick groupthink, desak mereka dengan lantang.

Ini kesepakatannya.

Daftar faktor Etika AI yang saya tunjukkan sebelumnya dikatakan telah menjadi keasyikan yang menyesakkan oleh kru AI Etis. Semua orang tanpa berpikir menerima faktor-faktor itu dan terus menekan faktor-faktor yang sama itu, lagi dan lagi. Mirip dengan ruang gema, sebagian besar ahli etika AI mengulangi lagu yang sama untuk diri mereka sendiri, menikmati suaranya. Hanya sedikit yang mau keluar dari kemasan. Mentalitas kawanan telah melampaui AI Etis (begitulah diklaim).

Bagaimana teka-teki ini muncul? Anda tampaknya dapat menjelaskan pengarusutamaan AI Etis yang tidak diinginkan ini berdasarkan kebetulan atau dengan desain.

Dalam skenario kebetulan, faktor-faktor kunci sangat mudah untuk difokuskan. Anda tidak harus pergi ke luar kotak, seolah-olah. Selain itu, mereka yang berada dalam kelompok AI Etis cenderung lebih tertarik pada pekerjaan atau ide serupa, daripada mencari gagasan di luar norma. Burung dari bulu berkumpul bersama. Inci demi inci, arena AI Etika dikatakan telah meringkuk menjadi kelompok yang sempit dan umumnya baik-baik saja dengan keakraban dan kenyamanan yang diberikannya.

Saya yakin itu akan membuat marah banyak peserta Etika AI (perlu diingat bahwa saya hanya menyebutkan apa yang ditentang orang lain dan tidak membenarkan tuduhan itu).

Jika Anda ingin meningkatkan kemarahan, pertimbangkan saran bahwa fenomena itu muncul karena desain. Dalam ranah teori konspirasi yang agaknya mungkin, dikatakan bahwa para teknolog AI dan perusahaan teknologi secara langsung atau tidak sadar berkontribusi pada penyempitan pertimbangan Etis AI.

Mengapa mereka melakukannya?

Kami akan memikirkan dua kemungkinan.

Satu gagasan adalah bahwa teknolog AI mendukung serangkaian pertimbangan Etis AI yang ada karena faktor-faktor khusus tersebut agak dapat diperbaiki melalui teknologi. Misalnya, jika Anda menginginkan kemampuan untuk dijelaskan, teknolog AI dan peneliti AI bekerja siang dan malam untuk membuat kemampuan AI (XAI) yang dapat dijelaskan. Keindahan dari daftar faktor AI Etis yang berlaku adalah bahwa faktor-faktor tersebut cocok dalam lingkup resolusi teknologi AI. Mereka yang menganggap teori itu cenderung menyarankan bahwa faktor lain apa pun yang tidak mudah dipecahkan oleh teknologi AI tidak dapat memperoleh daya tarik pada daftar faktor.

Anda kemudian memiliki varian lain yang lebih jahat. Disarankan agar ada perusahaan teknologi tinggi dan lainnya yang ingin memberikan basa-basi pada masalah Etika AI. Dalam pengertian itu, mereka menikmati daftar pendek masalah yang dapat dipecahkan secara teknologi. Setiap upaya untuk menambahkan kekhawatiran lain akan membuat hidup lebih sulit bagi perusahaan teknologi tersebut. Mereka ingin meminimalkan investasi yang diperlukan untuk menenangkan proklamasi AI Etis.

Saya kira kiasan semacam itu pasti akan memicu baku hantam dan jauh melampaui kemarahan sederhana. Mereka yang tanpa lelah berusaha untuk mematuhi dan berkontribusi pada AI Etis berpotensi dilumuri oleh klaim tersebut, dan Anda dapat dengan mudah membayangkan mengapa mereka akan marah pada tuduhan yang tampaknya tidak malu-malu dan sama sekali kurang ajar.

Mari kita tidak memulai perkelahian dan sebagai gantinya mengambil momen sadar dan reflektif untuk melihat apa lagi yang seharusnya dilewatkan oleh kamp AI Etis. Kubu lain yang memohon untuk memperluas dan memperluas sudut pandang AI Etis kontemporer kadang-kadang disebut sebagai AI Etis Radikal.

Anda mungkin bertanya-tanya apakah moniker Radical Ethical AI cocok atau tidak.

Konotasi sesuatu yang “radikal” bisa baik atau buruk. Salah satu interpretasi dari Radical Ethical AI adalah upaya untuk menggoyahkan status quo etika AI. Penggunaan "radikal" menunjukkan bahwa kita perlu membuat perubahan dramatis yang terpadu dan tidak hanya sedikit menyesuaikan atau membuat sedikit putaran. Anda dapat berargumen bahwa menggunakan "radikal" akan mengejutkan pendekatan yang ada seperti menggunakan defibrilator yang jika tidak melalui konvensi biasa tidak akan tercapai.

Orang lain akan mengatakan bahwa dengan melampirkan kata "radikal" Anda menciptakan kekacauan. Beberapa akan menafsirkan radikalisme sebagai sesuatu yang aneh, tergelincir ke arah eksentrik atau eksentrik. Kaum sentris mungkin segera menolak gagasan apakah ada pemikiran kelompok karena penamaan saja sebagai penemuan yang menyinggung. Kurangi retorika, kata beberapa orang, dan Anda mungkin mendapatkan perhatian dan minat yang lebih serius.

Terlepas dari masalah penamaan, Anda mungkin penasaran dengan apa yang diyakini oleh kamp lain ini bahwa kita semua hilang. Sisihkan reaksi mendalam apa pun terhadap whatchamacallit.

Anda mungkin bertanya-tanya, di mana daging sapinya?

Saya akan mencoba untuk mewakili beberapa bahan yang disinggung hilang.

Pertama, salah satu pengawasan yang diklaim adalah bahwa pandangan yang berlaku tentang AI tradisional (kuno?) Etis adalah asumsi tersembunyi yang membatasi bahwa AI tidak dapat dihindari. Jadi, alih-alih memeriksa apakah AI harus ada dalam kartu untuk jenis penggunaan dan keadaan sosial tertentu, posisi dominannya adalah AI akan datang dan kita perlu membuatnya sebaik mungkin. Anda mungkin dengan cemberut mengatakan bahwa ini mirip dengan meletakkan lipstik pada babi (yaitu, itu masih babi, tidak peduli apa yang Anda lakukan untuk membuatnya tampak lebih baik).

Jika Anda menganggapnya ekstrem, keraguan tentang keadilan, privasi, dan lainnya mungkin dikatakan seperti memindahkan kursi di dek Titanic. Kapal ini masih akan tenggelam, artinya kita menganggap AI akan terjadi, apa pun yang terjadi. Tapi, mungkin kita harus mempertimbangkan kembali apakah tenggelam adalah satu-satunya pilihan yang terjadi.

Saya akan kembali ke pertimbangan ini sebentar lagi.

Berikut adalah beberapa masalah AI Etis lainnya yang diklaim yang tidak diberikan haknya atau yang diperas oleh banyaknya perhatian pada topik lain yang berlaku:

• Selain menggunakan AI untuk mengelola manusia, seperti meningkatkan penggunaan AI untuk membuat keputusan perekrutan dan pemecatan di perusahaan, ada juga keraguan tentang penggunaan AI untuk mengelola hewan. Ada upaya yang sedang dilakukan untuk memanfaatkan AI di peternakan, kebun binatang, dan umumnya di setiap tempat hewan dipelihara. Bagaimana AI akan berdampak pada kesejahteraan hewan?
• Ada kalanya AI tampaknya sedang diuji beta di komunitas yang sangat rentan, melakukannya sebagai percobaan pertama, dan kemudian AI akan menyebar lebih luas. Perhatian AI etis yang tajam harus ditujukan pada praktik-praktik itu.
• Banyak diskusi tampaknya berlangsung tentang penggantian pekerja dengan AI, meskipun kurang begitu memperhatikan dampak AI sebagai alat pemantauan yang digunakan untuk mengawasi pekerja berstatus rendah berupah rendah.
• Perhatian yang tidak memadai tampaknya akan terjadi mengenai dampak ekologis dan lingkungan dari membangun dan menjaga sistem AI tetap berjalan (sebagai tambahan, Anda mungkin tertarik dengan diskusi saya tentang jejak karbon yang terkait dengan AI, lihat tautan di sini).

· Dan seterusnya.

Ada beberapa ahli dalam Ethical AI yang kemungkinan besar akan segera menunjukkan bahwa itu sebenarnya adalah topik yang dapat ditemukan dalam literatur dan diskusi tentang etika AI. Mereka tidak pernah terdengar dan mereka juga tidak mendebarkan baru.

Saya percaya bahwa perspektif dari para puritan Radical Ethical AI adalah bahwa mereka tidak mengklaim bahwa mereka telah menemukan landasan yang sama sekali belum terinjak. Sebaliknya, mereka menegaskan bahwa fokus Ethical AI yang ada mencekik udara yang memungkinkan topik "pencilan" lainnya mendapatkan haknya.

Mungkin cara yang lebih cocok untuk mengungkapkan hal ini adalah bahwa perhatian Etika AI yang berlaku telah memberikan lebih sedikit perhatian pada topik vital lainnya. Anda dapat menyarankan bahwa ada titik-titik buta dan akan berguna untuk mempertimbangkan apakah itu dapat dibawa lebih jauh ke dalam lipatan (ini juga dibahas dalam Jurnal AI dan Etika dalam makalah terbaru berjudul “Blind Spots in AI Ethics” oleh Thilo Hagendorff).

Sekarang kita telah membahas kisah apakah Ethical AI berada dalam sedikit kebiasaan, yang beberapa orang akan katakan adalah pertengkaran yang tidak masuk akal dan sementara yang lain akan bersikeras bahwa kebiasaan itu nyata dan semakin buruk, mungkin kita dapat meluangkan waktu untuk mengeksplorasi use case untuk melihat lebih dekat masalah ini.

Dalam kapasitas saya sebagai ahli AI termasuk konsekuensi etis dan hukum, saya sering diminta untuk mengidentifikasi contoh realistis yang menunjukkan dilema penyelarasan sehingga sifat topik yang agak teoretis dapat lebih mudah dipahami. Salah satu area paling menggugah yang secara gamblang menghadirkan kebingungan AI etis ini adalah munculnya mobil self-driving sejati berbasis AI. Ini akan berfungsi sebagai kasus penggunaan yang berguna atau contoh untuk diskusi yang cukup tentang topik tersebut.

Inilah pertanyaan penting yang patut direnungkan: Apakah munculnya mobil self-driving sejati berbasis AI menghadirkan pertimbangan AI Etis di luar kotak yang umumnya tidak tertandingi atau tidak cukup muncul?

Izinkan saya sejenak untuk membongkar pertanyaan itu.

Pertama, perhatikan bahwa tidak ada pengemudi manusia yang terlibat dalam mobil self-driving sejati. Perlu diingat bahwa mobil self-driving sejati digerakkan melalui sistem mengemudi AI. Tidak ada kebutuhan untuk pengemudi manusia di belakang kemudi, juga tidak ada ketentuan bagi manusia untuk mengemudikan kendaraan. Untuk liputan saya yang luas dan berkelanjutan tentang Kendaraan Otonom (AV) dan terutama mobil self-driving, lihat tautan di sini.

Saya ingin mengklarifikasi lebih lanjut apa yang dimaksud dengan mobil self-driving sejati.

Memahami Tingkatan Mobil Self-Driving

Sebagai klarifikasi, mobil self-driving sejati adalah mobil yang dikendarai AI sepenuhnya sendiri dan tidak ada bantuan manusia selama tugas mengemudi.

Kendaraan tanpa pengemudi ini dianggap Level 4 dan Level 5 (lihat penjelasan saya di tautan ini di sini), sedangkan mobil yang membutuhkan pengemudi manusia untuk ikut serta dalam upaya mengemudi biasanya dianggap di Level 2 atau Level 3. Mobil-mobil yang ikut bersama berbagi tugas mengemudi digambarkan sebagai semi-otonom, dan biasanya berisi berbagai add-on otomatis yang disebut sebagai ADAS (Advanced Driver-Assistance Systems).

Belum ada mobil self-driving sejati di Level 5, yang kita bahkan belum tahu apakah ini akan mungkin dicapai, dan juga tidak berapa lama untuk sampai di sana.

Sementara itu, upaya Level 4 secara bertahap mencoba mendapatkan daya tarik dengan menjalani uji coba jalan raya umum yang sangat sempit dan selektif, meskipun ada kontroversi mengenai apakah pengujian ini harus diizinkan sendiri (kita semua adalah kelinci percobaan hidup atau mati dalam sebuah percobaan terjadi di jalan raya dan byways kami, beberapa berpendapat, lihat liputan saya di tautan ini di sini).

Karena mobil semi-otonom membutuhkan pengemudi manusia, adopsi jenis-jenis mobil itu tidak akan jauh berbeda dari mengendarai kendaraan konvensional, jadi tidak banyak yang baru untuk membahasnya mengenai topik ini (meskipun, seperti yang akan Anda lihat suatu saat, poin-poin yang dibuat selanjutnya secara umum berlaku).

Untuk mobil semi-otonom, penting bahwa masyarakat perlu diperingatkan tentang aspek mengganggu yang telah muncul akhir-akhir ini, yaitu bahwa meskipun para pengemudi manusia yang terus memposting video diri mereka tertidur di belakang kemudi mobil Level 2 atau Level 3 , kita semua perlu menghindari disesatkan untuk percaya bahwa pengemudi dapat mengambil perhatian mereka dari tugas mengemudi sambil mengendarai mobil semi-otonom.

Anda adalah pihak yang bertanggung jawab untuk tindakan mengemudi kendaraan, terlepas dari berapa banyak otomatisasi yang mungkin dilemparkan ke Level 2 atau Level 3.

Mobil Self-Driving Dan Outliers Atau Orang buangan Dari Pertimbangan Etis AI

Untuk kendaraan self-driving sejati Level 4 dan Level 5, tidak akan ada pengemudi manusia yang terlibat dalam tugas mengemudi.

Semua penumpang akan menjadi penumpang.

AI sedang mengemudi.

Salah satu aspek yang perlu segera dibahas adalah fakta bahwa AI yang terlibat dalam sistem penggerak AI saat ini bukanlah makhluk hidup. Dengan kata lain, AI secara keseluruhan merupakan kumpulan dari pemrograman dan algoritma berbasis komputer, dan yang paling pasti tidak dapat bernalar dengan cara yang sama seperti manusia.

Mengapa penekanan tambahan ini tentang AI tidak hidup?

Karena saya ingin menggarisbawahi bahwa ketika membahas peran sistem penggerak AI, saya tidak menganggap kualitas manusia berasal dari AI. Perlu diketahui bahwa ada kecenderungan yang sedang berlangsung dan berbahaya akhir-akhir ini untuk antropomorfisasi AI. Intinya, orang-orang menugaskan perasaan mirip manusia ke AI saat ini, terlepas dari fakta yang tak terbantahkan dan tak terbantahkan bahwa AI tersebut belum ada.

Dengan klarifikasi tersebut, Anda dapat membayangkan bahwa sistem mengemudi AI tidak akan secara asli “tahu” tentang aspek mengemudi. Mengemudi dan semua yang diperlukannya perlu diprogram sebagai bagian dari perangkat keras dan perangkat lunak mobil yang dapat mengemudi sendiri.

Mari selami segudang aspek yang ikut bermain tentang topik ini.

Pertama, penting untuk disadari bahwa tidak semua mobil self-driving AI itu sama. Setiap pembuat mobil dan perusahaan teknologi self-driving mengambil pendekatan untuk merancang mobil self-driving. Dengan demikian, sulit untuk membuat pernyataan menyeluruh tentang apa yang akan dilakukan atau tidak dilakukan oleh sistem penggerak AI.

Selain itu, setiap kali menyatakan bahwa sistem penggerak AI tidak melakukan beberapa hal tertentu, ini nantinya dapat diambil alih oleh pengembang yang sebenarnya memprogram komputer untuk melakukan hal itu. Langkah demi langkah, sistem penggerak AI secara bertahap ditingkatkan dan diperluas. Batasan yang ada saat ini mungkin tidak ada lagi di iterasi atau versi sistem yang akan datang.

Saya percaya bahwa hal itu memberikan sejumlah peringatan yang cukup untuk mendasari apa yang akan saya ceritakan.

Kami siap sekarang untuk menyelami mobil self-driving dan apakah pertimbangan Radical Ethical AI di luar kotak seharusnya tidak mendapatkan haknya yang memadai.

Karena keterbatasan ruang, mari kita fokus pada satu hal tertentu yang kemudian dapat kita gali. Secara khusus, ada tuduhan keseluruhan bahwa Etika AI yang berlaku konon memiliki asumsi tersembunyi bahwa AI tidak dapat dihindari.

Jika kita menerapkan asumsi kunci itu pada mobil self-driving berbasis AI, ini menyiratkan bahwa komunitas Ethical AI pada umumnya mengasumsikan bahwa mobil self-driving pasti akan dirancang dan diterjunkan. Mereka mengambil nilai nominal bahwa mobil self-driving akan muncul, sedangkan tanggapan baliknya adalah bahwa mereka harus tidak membuat asumsi tersembunyi itu dan bukannya mengunyah bahwa mungkin kita seharusnya tidak memiliki mobil self-driving AI (atau beberapa varian seperti hanya memilikinya dalam keadaan khusus daripada secara luas).

Ini pertanyaan yang bagus.

Untuk memperjelas dan menyatakan kembali, pernyataan daripada bahwa pertimbangan AI Etis yang dominan tentang mobil self-driving AI hilang dari perahu dengan tampaknya mengasumsikan bahwa mobil self-driving AI tidak dapat dihindari. Dengan cara berpikir seperti itu, harapan akan dipamerkan dua kali lipat:

1. Hanya sedikit jika ada pemeriksaan apakah kita harus memiliki mobil self-driving AI, atau akan didorong ke samping, atau tidak memiliki udara untuk mendapatkan perhatian, dan

2. Fokus yang mungkin pada mobil self-driving AI adalah pada detail seputar konsekuensi AI etis dari daftar faktor tradisional, seperti kemampuan menjelaskan, keadilan, privasi, dll., dan semuanya melakukannya dengan kedok umum atau diam anggapan bahwa kita pasti akan memiliki kendaraan otonom yang dibanggakan itu (tanpa pilihan lain yang dihibur secara luas).

Sebuah proposisi yang menarik.

Bahkan inspeksi biasa dari perhatian umum terhadap masalah-masalah yang berkaitan dengan mobil self-driving AI akan menunjukkan bahwa ada asumsi bahwa mobil self-driving AI agak tak terelakkan, meskipun mari kita pastikan bahwa peringatan besar dan indikator peringatan footnoting bintang ganda berjalan bersamaan dengan pernyataan itu.

Inilah alasannya.

Kami belum tahu apakah mobil self-driving sejati berbasis AI akan benar-benar memungkinkan.

Tentu, ada uji coba jalan umum yang dirancang secara sempit sedang berlangsung. Ini sama sekali tidak berada di Level 5. Tidak ada yang bisa membantah secara masuk akal tentang hal yang tidak dapat disangkal itu. Anda dapat mengatakan bahwa beberapa uji coba yang tepat agak membelok ke Level 4, tetapi goyah begitu dan dengan ODD yang relatif rapuh (ODD atau Domain Desain Operasi adalah ketentuan di mana pembuat mobil self-driving menyatakan bahwa kendaraan otonom mereka dapat beroperasi dengan aman. , lihat diskusi saya di tautan ini di sini).

Dikatakan demikian, arena mobil self-driving jauh lebih jauh daripada beberapa tahun yang lalu. Ada alasan yang masuk akal untuk optimis tentang apa yang akan terjadi selanjutnya. Poin penting terbesar adalah jadwal kapan ini akan dimainkan. Prediksi sebelumnya oleh para pakar telah datang dan pergi. Anda dapat mengharapkan prediksi yang ada pasti mengalami nasib yang sama.

Singkatnya, tampaknya Anda secara informal dapat mengatakan bahwa ada alasan yang cukup untuk mengasumsikan bahwa mobil self-driving sejati berbasis AI pada akhirnya akan muncul. Tampaknya kita sedang menuju Level 4 di tengah ODD yang sangat terbatas. Ekspansi logis berikutnya tampaknya melibatkan lebih banyak ODD, yang lebih beragam dan mendalam. Pada titik tertentu di mana kita telah menaklukkan cukup banyak bidang ODD yang tumpang tindih dan agak melelahkan, ini tampaknya akan berujung pada menjelajah dengan hati-hati ke Level 5. Setidaknya itulah filosofi bertahap dari kemajuan yang diantisipasi (yang tidak dianut semua orang).

Saya menyebutkan liuk-liuk yang tampaknya rumit itu karena ada banyak kebingungan tentang apa artinya menyatakan bahwa mobil self-driving sejati berbasis AI ada atau bahwa kita telah tiba pada momen besar keberadaannya. Apa definisi Anda tentang mobil self-driving sejati berbasis AI? Jika Anda mengatakan ini adalah saat Anda naik tipis ke Level 4, saya rasa Anda bisa mulai mengeluarkan botol sampanye itu. Jika Anda mengatakan begitu kita telah berbelok di Level 4, Anda harus meletakkan botol sampanye itu di penyimpanan. Jika Anda mengatakan bahwa itu adalah ketika kita telah menguasai Level 5, botol-botol itu akan masuk ke bagian belakang rak penyimpanan dan Anda harus mengharapkannya menjadi berdebu.

Secara keseluruhan, jika masyarakat sebenarnya membuat asumsi bahwa mobil self-driving AI tidak dapat dihindari, Anda dapat dengan masuk akal berargumen bahwa ini adalah asumsi yang berlebihan. Tidak semua orang akan setuju dengan pendapat itu, jadi bagi Anda yang kecewa dengan kemungkinan yang dituduhkan, ketidaksetujuan Anda yang keras sangat diperhatikan.

Apakah kita berpotensi mendapatkan masalah atau kesulitan dengan umumnya mengikuti asumsi keniscayaan untuk mobil self-driving AI?

Ada tikungan dan belokan yang menarik yang dibawa oleh teka-teki ini ke permukaan.

Misalnya, satu kekhawatiran yang sudah sering dibahas adalah bahwa kita mungkin memiliki mobil self-driving berbasis AI yang tersedia secara eksklusif di beberapa area tetapi tidak di area lain. Area yang akan memiliki mobil self-driving adalah yang "memiliki" sedangkan area yang tidak memilikinya adalah "have not" yang pada dasarnya dihalangi untuk memanfaatkan manfaat mobil self-driving.

Inilah yang diproklamirkan elitis atau ikeadilan kekhawatiran fenomenologis yang banyak diungkapkan. Memang, saya sudah membahas ini berkali-kali, seperti di tautan ini di sini dan dalam analisis yang lebih besar di tautan di sini.

Idenya adalah bahwa mobil self-driving AI kemungkinan akan dioperasikan dalam armada. Operator armada akan memilih tempat untuk menggunakan mobil self-driving mereka. Tempat yang dianggap menghasilkan uang untuk menggunakan mobil self-driving adalah di bagian kota yang lebih kaya. Mereka yang tinggal di bagian kota atau kota yang miskin atau miskin tidak akan memiliki akses yang siap untuk mobil self-driving.

Logika yang sama diekstrapolasikan untuk menyatakan bahwa negara-negara akan menemukan diri mereka juga dalam kesulitan yang sama. Negara-negara kaya akan mengalami penggunaan mobil self-driving, sementara negara-negara miskin tidak. Yang kaya akan memiliki lebih banyak akses dan penggunaan kendaraan otonom, yang tidak akan tidak.

Anda mungkin bertanya-tanya apa yang didapat yang dimiliki yang tidak didapatkan. Indikasi yang sering muncul adalah bahwa ada harapan bahwa mobil tanpa pengemudi AI akan memiliki lebih sedikit kecelakaan mobil dan tabrakan mobil. Keyakinannya adalah bahwa jumlah korban manusia dan kematian akibat kecelakaan mobil akan berkurang secara dramatis. Dengan demikian, bagian kota atau kota yang lebih kaya, atau negara-negara yang lebih kaya, akan dapat mengurangi cedera dan kematian terkait mobil mereka, sementara wilayah yang digerakkan oleh manusia yang tidak memiliki pilihan atau penggantian melalui sistem mandiri berbasis AI -mengemudi mobil tidak akan melihat pengurangan yang sepadan.

Perlu diketahui bahwa ada manfaat lain yang disebut-sebut dari mobil self-driving AI yang sama-sama akan diperoleh di yang memiliki dan tidak dikeluarkan di yang tidak (lihat lebih lanjut di tautan ini di sini).

Intinya di sini adalah bahwa Anda dapat meregangkan "adalah mobil self-driving tak terelakkan" dengan menunjukkan bahwa Ethical AI sudah meremas-remas tentang mobil self-driving hanya tersedia secara selektif. Saya tahu ini mungkin tampak seperti pretzel logika. Apa yang dikatakan ini adalah bahwa kami sudah sangat khawatir tentang AI yang tidak tersedia di beberapa segmen masyarakat. Dalam rentang pemikiran itu, instantiasi AI ini tidak dapat dihindari sehubungan dengan konteks itu sendiri (jika Anda mengerti maksudnya).

Kesimpulan

Anda pasti akrab dengan nasihat bijak yang dirancang dengan cerdik bahwa apa yang tidak Anda ketahui dapat membahayakan Anda, sementara apa yang tidak Anda ketahui yang tidak Anda ketahui benar-benar dapat memusnahkan Anda.

Satu sudut pandang tentang postur Radical Ethical AI adalah bahwa meskipun ada kekhawatiran terkait penamaan, kita setidaknya harus mendengar apa yang diyakini bahwa kita melewatkannya. Mungkin ada groupthink yang sedang berlangsung dan apa yang disebut AI Etika konvensional atau Etika AI kuno telah berhasil menjadi stagnan dan terjebak pada pertimbangan tertentu. Jika demikian, tendangan di bagian belakang mungkin membantu menghidupkan mesin lagi dan bergerak menuju ruang lingkup yang lebih lebar.

Atau, bisa jadi Ethical AI dan AI Ethical baik-baik saja, terima kasih banyak, dan cabang ini hanya mencoba menjadi lalat di salep. Sisi negatifnya tampaknya tidak terlalu mengganggu atau membingungkan. Ketika atau jika hal-hal menjadi tidak terkendali, penilaian ulang yang tulus dan terpadu dari alam mungkin bermanfaat secara mendalam.

Perbaikan terus-menerus adalah aspirasi terpuji. Dan, Anda hampir tidak dapat dibantah menyatakan bahwa ketika datang ke munculnya AI, kami tidak ingin terlambat menemukan bahwa kami tidak tahu apa yang tidak kami ketahui, dan bahwa kami seharusnya tahu untuk berada di atas aspek-aspek yang tidak kita ketahui (atau, bahwa kita mengetahuinya, agaknya, dan secara tidak sengaja menekannya).

Tampaknya tidak terlalu radikal, bukan?