Etika AI Bersandar Pada Aristoteles Untuk Memeriksa Apakah Manusia Mungkin Memilih Untuk Memperbudak AI Di Tengah Munculnya Sistem Otonom Sepenuhnya

Teman atau musuh.

Ikan atau unggas.

Orang atau benda.

Teka-teki yang meluas ini semuanya tampaknya menunjukkan bahwa kita kadang-kadang dihadapkan pada situasi dikotomis dan perlu memilih satu sisi atau yang lain. Hidup mungkin memaksa kita untuk menghadapi keadaan yang terdiri dari dua pilihan yang saling eksklusif. Dalam bahasa yang lebih beraroma, Anda dapat menyarankan bahwa persamaan biner eksklusif mengharuskan kita untuk berbaris di satu jalur yang berbeda daripada yang lain.

Mari kita fokus secara khusus pada dikotomi orang-atau-benda.

Pertanyaan serius tentang orang atau benda muncul berulang kali tentang Artificial Intelligence (AI).

Untuk memperjelas, AI hari ini benar-benar tidak seseorang dan tidak membawa kemiripan perasaan, terlepas dari apa pun tajuk berita utama yang mungkin Anda lihat di berita dan di media sosial. Dengan demikian, Anda dapat dengan tegas yakin bahwa saat ini masalah apakah AI adalah seseorang atau sesuatu dapat dengan mudah dijawab. Baca bibir saya, dalam pilihan Hobson yang sesungguhnya antara orang atau benda, AI adalah sesuatu, untuk saat ini.

Meskipun demikian, kita dapat melihat ke masa depan dan bertanya-tanya apa yang mungkin terjadi jika kita dapat mencapai bentuk AI yang hidup.

Beberapa kritikus yang beralasan (ditambah skeptis pedas) menyarankan bahwa kita mungkin menghitung ayam kita jauh sebelum mereka menetas dengan mendiskusikan konsekuensi dari AI yang hidup. Kekhawatiran yang diungkapkan adalah bahwa diskusi itu sendiri menyiratkan bahwa kita harus berada di puncak AI tersebut. Masyarakat pada umumnya dapat disesatkan untuk percaya bahwa besok atau lusa akan ada wahyu yang tiba-tiba dan mengejutkan bahwa kita sebenarnya telah sampai pada kecerdasan buatan (ini kadang-kadang disebut oleh beberapa orang sebagai singularitas AI atau ledakan kecerdasan, lihat analisis saya di tautannya di sini). Sementara itu, kami tidak tahu kapan AI seperti itu akan muncul, jika pernah, dan tentu saja, kami tampaknya tidak perlu melihat-lihat setiap sudut dan sangat khawatir bahwa AI yang hidup akan melompat ke arah kami sepenuhnya secara tak terduga di masa depan. sebentar saja.

Sisi lain dari perdebatan menunjukkan bahwa kita seharusnya tidak mengubur kepala kita dalam-dalam di pasir. Anda tahu, jika kita tidak secara terbuka mendiskusikan dan merenungkan kemungkinan yang terkait dengan AI yang hidup, kita dianggap merugikan umat manusia. Kami tidak akan siap untuk menangani AI hidup ketika atau jika itu muncul. Lebih jauh, dan mungkin bahkan lebih kuat lagi, dengan mengantisipasi AI yang hidup, kita dapat mengambil tindakan sendiri dan membentuk arah dan sifat bagaimana AI tersebut akan muncul dan terdiri dari apa (tidak semua orang setuju dengan poin terakhir ini). , yaitu beberapa orang mengatakan bahwa AI semacam itu akan memiliki "pikiran" sepenuhnya sendiri dan kami tidak akan dapat membentuk atau menahannya karena AI akan secara mandiri dapat berpikir dan menentukan cara untuk tetap eksis).

Etika AI cenderung berpihak pada sudut pandang bahwa kita akan bijaksana untuk mengungkapkan masalah-masalah AI yang sulit dan argumentatif ini sekarang, daripada menunggu sampai kita tidak memiliki pilihan lagi atau terkesima dengan pencapaian AI tersebut. Pembaca tahu betul bahwa saya telah meliput topik AI Etika dan Etika AI secara ekstensif, termasuk mencakup berbagai masalah pelik yang kuat seperti kepribadian hukum AI, penahanan AI, pelepasan AI, monokultur algoritmik AI, pencucian etika AI, penggunaan ganda AI yang disebut proyek Doctor Evil, AI yang menyembunyikan dinamika kekuatan masyarakat, AI yang dapat dipercaya, audit AI, dan sebagainya (lihat liputan kolom saya tentang topik-topik penting ini di tautannya di sini).

Saya memberi Anda pertanyaan yang menantang.

Di masa depan, dengan asumsi kita dengan cara apa pun berakhir dengan AI yang hidup, apakah AI yang hidup itu akan ditafsirkan oleh kita semua sebagai pribadi atau sebagai benda?

Sebelum kita mulai menyelam jauh ke dalam pertanyaan yang sama sekali provokatif ini, izinkan saya mengatakan sesuatu tentang slogannya "AI hidup" sehingga kita semua berada di halaman yang sama. Ada banyak kecemasan tentang arti perasaan dan arti kesadaran. Para ahli dapat dengan mudah tidak setuju tentang apa yang dimaksud dengan kata-kata itu. Menambah kekeruhan itu, setiap kali ada orang yang merujuk pada "AI", Anda tidak memiliki sarana yang siap untuk mengetahui apa yang mereka maksudkan. Saya sudah di sini menekankan bahwa AI hari ini tidak hidup. Jika kita akhirnya sampai pada AI masa depan yang hidup, kita mungkin akan menyebutnya "AI" juga. Masalahnya, hal-hal kontroversial ini bisa sangat membingungkan saat ini, apakah ucapan frasa "AI" terkait dengan AI yang tidak hidup saat ini atau AI yang mungkin hidup suatu hari nanti.

Mereka yang berdebat tentang AI dapat menemukan diri mereka berbicara melewati satu sama lain dan tidak menyadari bahwa yang satu menggambarkan apel dan yang lain sedang berbicara tentang jeruk.

Untuk mencoba dan mengatasi kebingungan ini, ada penyesuaian pada frasa AI yang banyak digunakan untuk tujuan klarifikasi yang penuh harapan. Saat ini kami cenderung mengacu pada Artificial General Intelligence (AGI) sebagai jenis AI yang dapat melakukan upaya seperti kecerdasan penuh. Dalam hal ini, penggunaan frasa "AI" yang tidak jelas dibiarkan ditafsirkan sebagai versi AI yang lebih rendah, yang dikatakan beberapa orang sebagai AI sempit, atau secara denotasi ambigu dan Anda tidak tahu apakah referensinya adalah non -sentient AI atau mungkin AI yang hidup.

Saya akan memberikan sentuhan tambahan untuk ini.

Bergantung pada definisi perasaan yang diberikan, Anda bisa terlibat dalam perdebatan sengit tentang apakah AGI akan hidup atau tidak. Beberapa menegaskan bahwa ya, tentu saja, AGI pada hakikatnya perlu hidup. Yang lain mengklaim bahwa Anda dapat memiliki AGI yang tidak hidup, ergo, perasaan adalah karakteristik berbeda yang bukan merupakan persyaratan untuk mencapai AGI. Saya telah memeriksa berbagai perdebatan ini di kolom saya dan tidak akan mengulangi masalah ini di sini.

Untuk sementara, silakan berasumsi bahwa selanjutnya dalam diskusi ini bahwa ketika saya mengacu pada AI, saya bermaksud menyarankan bahwa saya mengacu pada AGI.

Ini dia downloadnya. Kami belum memiliki AGI, dan untuk sementara, kami akan dengan sopan setuju bahwa AGI berada di kubu keseluruhan yang sama dengan AI yang hidup. Jika saya menggunakan "AGI" hanya selama diskusi saya, frasa ini berpotensi mengganggu karena belum banyak yang terbiasa melihat "AGI" sebagai moniker dan mereka kemungkinan akan sedikit kesal berulang kali melihat frasa yang relatif lebih baru ini. Nah, jika sebaliknya, saya terus mengacu pada "AI hidup" ini mungkin juga menjadi pengalih perhatian bagi mereka yang memperebutkan apakah AGI dan AI hidup itu sama atau berbeda satu sama lain.

Untuk menghindari kekacauan itu, anggaplah bahwa saya mengacu pada AI adalah sama dengan mengatakan AGI atau bahkan AI, dan setidaknya ketahuilah bahwa saya tidak berbicara tentang AI non-AGI saat ini ketika saya masuk ke dalam pergolakan pertimbangan mengenai AI yang tampaknya memiliki kecerdasan seperti manusia. Kadang-kadang saya akan menggunakan nama AGI untuk mengingatkan Anda dari waktu ke waktu di sini bahwa saya sedang memeriksa jenis AI yang belum kita miliki, terutama pada awal eksplorasi teka-teki orang atau benda ini.

Itu adalah ucapan terima kasih yang berguna dan sekarang saya kembali ke masalah dasar yang ada.

Izinkan saya untuk bertanya kepada Anda apakah AGI adalah orang atau benda.

Pertimbangkan dua pertanyaan ini:

• Apakah AGI seseorang?
• Apakah AGI suatu hal?

Mari kita lanjutkan untuk mengulangi setiap pertanyaan, dan masing-masing menjawab pertanyaan dengan serangkaian jawaban ya atau tidak sesuai dengan pilihan dikotomis yang diduga.

Mulailah dengan kemungkinan yang didalilkan ini:

• Apakah AGI seseorang? Menjawab: Ya.
• Apakah AGI suatu hal? Menjawab: Tidak.

Pikirkan itu. Jika AGI sebenarnya ditafsirkan sebagai pribadi dan bukan sebagai benda, hampir pasti kita sepakat bahwa kita harus memperlakukan AGI seolah-olah itu mirip dengan seseorang. Tampaknya ada argumen yang tidak cukup tulus tentang kegagalan untuk memberikan AGI suatu bentuk badan hukum. Ini akan sama sekali dengan kepribadian hukum manusia, atau kita mungkin memutuskan untuk membuat varian dari kepribadian hukum berorientasi manusia yang akan lebih bijaksana diterapkan pada AGI. Kasus ditutup.

Itu mudah-peasy.

Bayangkan sebagai gantinya kami mendeklarasikan ini:

• Apakah AGI seseorang? Menjawab: Tidak.
• Apakah AGI suatu hal? Menjawab: Ya.

Dalam hal ini, penyelesaiannya jelas lugas karena kami mengatakan bahwa AGI adalah sesuatu dan tidak naik ke kategori menjadi pribadi. Tampaknya ada kesepakatan umum bahwa kami secara tegas tidak akan memberikan badan hukum kepada AGI, karena segi bahwa itu bukan orang. Sebagai suatu hal, AGI kemungkinan besar dan masuk akal akan berada di bawah rubrik keseluruhan kami tentang bagaimana kami memperlakukan "sesuatu" secara legal di masyarakat kami.

Dua turun, dua kemungkinan lagi.

Bayangkan ini:

• Apakah AGI seseorang? Menjawab: Ya.
• Apakah AGI suatu hal? Menjawab: Ya.

Aduh, rasanya aneh karena kami memiliki dua jawaban Ya. menjengkelkan. Kami menyarankan bahwa AGI adalah pribadi dan sekaligus sesuatu. Tapi ini tampaknya terbang di hadapan dikotomi yang kami nyatakan. Secara teori, menurut batasan dikotomi, sesuatu harus menjadi seseorang atau harus menjadi sesuatu. Kedua ember atau kategori tersebut dikatakan saling lepas. Dengan menegaskan bahwa AGI adalah keduanya, kita melawan sistem dan melanggar pengaturan yang saling eksklusif.

Kemungkinan terakhir kami tampaknya seperti ini:

• Apakah AGI seseorang? Menjawab: Tidak.
• Apakah AGI suatu hal? Menjawab: Tidak.

Astaga, itu juga buruk untuk upaya kami mengklasifikasikan AGI sebagai orang atau benda. Kami mengatakan bahwa AGI bukan orang, yang mungkin berarti itu harus menjadi sesuatu (satu-satunya pilihan kami yang tersedia, dalam dikotomi ini). Tapi kami juga menyatakan bahwa AGI bukan apa-apa. Namun jika AGI bukanlah suatu benda, secara logika kita harus mengklaim bahwa AGI adalah seseorang. Berputar-putar kita pergi. Sebuah paradoks, pasti.

AGI dalam dua kemungkinan terakhir ini adalah (1) orang dan benda, atau (2) bukan orang atau benda. Anda mungkin dengan nakal mengatakan bahwa kedua pernyataan tentang AGI itu agak mirip dengan teka-teki klasik yang bukan ikan atau unggas, jika Anda tahu apa yang saya maksud.

Apa yang harus kita lakukan?

Saya akan menawarkan solusi yang diusulkan yang sering diperdebatkan dan diperdebatkan dengan sengit untuk dilema klasifikasi AGI ini meskipun Anda harus diberi tahu sebelumnya bahwa itu mungkin akan mengganggu untuk dilihat atau didengar. Silakan persiapkan diri Anda sebagaimana mestinya.

Sebuah makalah penelitian yang menangani masalah ini menyatakan ini: "Salah satu metode untuk menyelesaikan masalah ini adalah dengan merumuskan istilah ketiga yang bukan satu hal atau yang lain atau semacam kombinasi atau sintesis dari yang satu dan yang lain" (oleh David Gunkel, Universitas Illinois Utara di Mengapa Robot Tidak Harus Menjadi Budak, 2022). Dan makalah tersebut kemudian memberikan poin tambahan ini: “Satu solusi yang mungkin, jika tidak mengejutkan, untuk dikotomi orang/benda eksklusif adalah perbudakan” (per kertas yang sama).

Sebagai latar belakang lebih lanjut, beberapa tahun sebelumnya, ada makalah yang muncul pada tahun 2010 berjudul “Robots Harus Menjadi Budak” yang telah menjadi jenis andalan untuk memacu pertimbangan semacam ini, di mana makalah tersebut menyatakan: “Tesis saya adalah bahwa robot harus dibangun, dipasarkan dan dianggap secara legal sebagai budak, bukan rekan rekan” (dalam makalah oleh Joanna Bryson). Untuk mencoba dan menjelaskan topik tersebut tanpa menggunakan kata-kata yang begitu keras dan menyayat hati, surat kabar tersebut melanjutkan dengan menyatakan ini: “Yang ingin saya katakan adalah 'Robot harus menjadi pelayan yang Anda miliki” (per makalah Bryson).

Banyak peneliti dan penulis telah membahas dasar ini.

Pikirkan tentang banyak kisah fiksi ilmiah yang menampilkan robot AI yang memperbudak manusia. Beberapa berbicara tentang budak robot, pelayan buatan, perbudakan AI, dan sejenisnya. Menariknya, sekeras ungkapan "budak robot" tampaknya, beberapa khawatir bahwa jika kita merujuk pada "pelayan robot" kita menghindari kenyataan bagaimana sistem otonom AI seperti itu cenderung diperlakukan (mengganti kata dengan " hamba” dikatakan sebagai penghalus niat dan taktik untuk menghindari implikasi serius). Bryson kemudian menyatakan dalam posting blog 2015 bahwa "Saya menyadari sekarang bahwa Anda tidak dapat menggunakan istilah 'budak' tanpa menggunakan sejarah manusianya."

Bagi mereka yang ingin mengkaji secara mendalam topik yang melibatkan AGI ini, terkadang mereka memunculkan contoh sejarah dunia nyata yang dapat kita peroleh wawasannya. Tentu saja, kami tidak memiliki AGI sebelumnya yang akan menunjukkan bagaimana umat manusia menangani masalah ini. Sebuah argumen mengatakan bahwa kita mungkin memiliki ciri sejarah yang berguna yang layak untuk diteliti termasuk bagaimana manusia telah memperlakukan manusia lain.

Misalnya, dalam sebuah buku yang diterbitkan pada tahun 2013, penulis menyatakan ini: "Janji dan bahaya dari hamba buatan yang cerdas pertama kali secara implisit ditetapkan lebih dari 2,000 tahun yang lalu oleh Aristoteles" (buku oleh Kevin LaGrandeur, Android dan Jaringan Cerdas dalam Sastra dan Budaya Modern Awal). Idenya adalah bahwa kita dapat bersandar pada Aristoteles dan melihat apakah ada wawasan tentang bagaimana umat manusia akan atau seharusnya berpotensi memperlakukan AGI.

Saya yakin Anda tahu pentingnya mempelajari sejarah, seperti yang banyak digarisbawahi oleh kata-kata terkenal George Santayana: "Mereka yang tidak dapat mengingat masa lalu dikutuk untuk mengulanginya" (dalam Kehidupan Alasan, 1905).

Kudos To The Oxford University Institute Untuk Etika Dan AI

Sebuah presentasi baru-baru ini dan cukup terhormat meneliti secara dekat masalah Etika AI di tengah pengumpulan wawasan dari karya dan kehidupan Aristoteles. Dalam kuliah tahunan perdana untuk Universitas Oxford Institut Etika dan AI, Profesor Josiah Ober dari Universitas Stanford secara mendalam membahas topik tersebut dalam presentasinya “Etika dalam AI dengan Aristoteles” yang baru-baru ini berlangsung pada 16 Juni 2022.

Catatan tambahan, dalam kapasitas saya sebagai Rekan Stanford dan pakar global dalam Etika & Hukum AI, saya senang bahwa Josiah Ober dari Stanford terpilih sebagai pembicara perdana. Pilihan yang luar biasa dan pembicaraan yang luar biasa.

Berikut adalah ringkasan abstrak yang diberikan untuk ceramahnya yang menarik: “Filosofi analitik dan fiksi spekulatif saat ini merupakan sumber daya intelektual utama kami untuk berpikir serius tentang etika dalam AI. Saya mengusulkan untuk menambahkan yang ketiga: sejarah sosial dan filosofis kuno. Dalam Politics , Aristoteles mengembangkan doktrin terkenal: Beberapa manusia 'secara alami' adalah budak – cerdas tetapi menderita cacat psikologis yang membuat mereka tidak mampu berpikir tentang kebaikan mereka sendiri. Dengan demikian, mereka harus diperlakukan sebagai 'alat bernyawa,' instrumen daripada tujuan. Pekerjaan mereka harus diarahkan oleh dan digunakan untuk keuntungan orang lain. Doktrin menjijikkan Aristoteles telah digunakan untuk tujuan jahat, misalnya di Amerika sebelum perang. Namun, ini berguna untuk etika AI, sejauh perbudakan kuno adalah prototipe pramodern dari satu versi AI. Orang-orang yang diperbudak ada di mana-mana dalam masyarakat Yunani kuno - buruh, pelacur, bankir, birokrat pemerintah - namun tidak mudah dibedakan dari orang-orang bebas. Di mana-mana, bersama dengan asumsi bahwa perbudakan adalah kebutuhan praktis, menghasilkan serangkaian teka-teki dan kebingungan etis: Bagaimana tepatnya, perbedaan budak dari 'kita'? Bagaimana kita bisa membedakan mereka dari diri kita sendiri? Apakah mereka punya hak? Apa yang dimaksud dengan penganiayaan? Bisakah instrumen saya menjadi teman saya? Apa akibat dari manumission? Sejarah panjang perjuangan filosofis dan institusional Yunani dengan pertanyaan ini dan lainnya menambah repertoar interpretatif ahli etika modern yang menghadapi masa depan di mana mesin cerdas dapat dianggap sebagai "budak alami" (sesuai Universitas Oxford Institut Etika AI situs web).

Untuk informasi lebih lanjut tentang presentasi dan akses ke rekaman video ceramah, lihat tautannya di sini.

Moderator presentasi adalah Profesor John Tasioulas, Direktur pengukuhan untuk Institut Etika dan AI, dan Guru Besar Etika dan Filsafat Hukum, Fakultas Filsafat, Universitas Oxford. Sebelumnya, beliau menjabat sebagai Ketua Politik, Filsafat & Hukum dan Direktur Pusat Politik, Filsafat & Hukum Yeoh Tiong Lay di The Dickson Poon School of Law, Kings College London.

Saya sangat menyarankan siapa pun yang tertarik dengan Etika AI harus mengikuti pekerjaan yang sedang berlangsung dan mengundang pembicaraan dari Universitas Oxford Institut Etika dan AI, Lihat tautannya di sini dan / atau tautannya di sini untuk info lebih lanjut.

Sebagai latar belakang, inilah misi dan fokus Institut yang dinyatakan: “Institut Etika dalam AI akan mempertemukan para filsuf terkemuka dunia dan pakar humaniora lainnya dengan pengembang teknis dan pengguna AI di bidang akademis, bisnis, dan pemerintahan. Etika dan tata kelola AI adalah bidang penelitian yang sangat dinamis di Oxford dan Institut adalah peluang untuk mengambil lompatan maju yang berani dari platform ini. Setiap hari membawa lebih banyak contoh tantangan etis yang ditimbulkan oleh AI; dari pengenalan wajah hingga profil pemilih, antarmuka mesin otak hingga drone yang dipersenjatai, dan wacana berkelanjutan tentang bagaimana AI akan berdampak pada pekerjaan dalam skala global. Ini adalah pekerjaan mendesak dan penting yang ingin kami promosikan secara internasional serta ditanamkan dalam penelitian dan pengajaran kami sendiri di sini di Oxford” (bersumber melalui situs web resmi).

Membawa Pelajaran Aristoteles Ke Depan

Yunani Kuno secara terbuka menerima dan mendukung praktik perbudakan. Misalnya, kabarnya, Athena di 5^th dan 6^th abad SM memiliki salah satu perwujudan perbudakan terbesar dimana diperkirakan 60,000 hingga mungkin 80,000 orang diperbudak. Jika Anda telah membaca salah satu dari banyak cerita Yunani dan sandiwara panggung pada zaman itu, ada banyak penyebutan tentang masalah ini.

Selama hidupnya, Aristoteles sepenuhnya tenggelam dalam aspek sosial dan budaya yang memerlukan perbudakan dan menulis secara ekstensif tentang topik tersebut. Kita hari ini dapat membaca kata-katanya dan berusaha memahami bagaimana dan mengapa pandangannya tentang masalah ini. Ini bisa sangat jitu.

Anda mungkin bertanya-tanya mengapa Aristoteles akan menjadi sumber yang sangat penting untuk dipertimbangkan tentang topik ini. Setidaknya dua alasan utama muncul:

1) Pemikir Hebat. Aristoteles pasti dinilai sebagai salah satu pemikir terbesar sepanjang masa, melayani sebagai filsuf besar dan menyelidiki secara mendalam, dan dipandang juga sebagai ahli etika yang mendirikan banyak landasan etika penting. Beberapa telah memilih untuk mengurapi dia sebagai bapak logika, bapak retorika, bapak realisme, dll, dan mengakui pengaruhnya dalam berbagai domain dan disiplin ilmu.

2) Pengalaman Hidup. Aristoteles hidup pada masa Yunani Kuno dibanjiri perbudakan. Dengan demikian, wawasannya tidak hanya tentang ajaran abstrak, tetapi mungkin mencakup pengalamannya sendiri sehari-hari yang secara integral terjalin ke dalam budaya dan adat istiadat masyarakat pada zaman itu.

Jadi, kami memiliki kombinasi yang agak mencengangkan dari seseorang yang merupakan pemikir hebat dan juga memiliki pengalaman nyata dalam topik yang diminati. Ditambah lagi, dia menuliskan pikirannya. Itu cukup penting, sekarang, untuk tujuan kita hari ini. Semua tulisannya, bersama dengan tulisan-tulisan lain yang menggambarkan pidato dan interaksinya antara lain, memberi kita banyak bahan untuk pemeriksaan dan analisis.

Saya ingin membawa Anda pada garis singgung terkait secara singkat untuk menyebutkan hal lain tentang gagasan umum yang mendasari pentingnya memiliki pengalaman hidup. Singkirkan diskusi Yunani Kuno sejenak saat kita melihat sekilas aspek menyeluruh dari pengalaman hidup.

Misalkan saya memiliki dua orang hari ini yang ingin saya tanyakan berbagai pertanyaan tentang mobil.

Salah satunya tidak pernah mengendarai mobil. Orang ini tidak tahu cara mengemudi. Orang ini tidak pernah duduk di belakang kemudi mobil. Kontrol mengemudi yang biasa dan sangat biasa adalah sedikit misteri bagi orang ini. Pedal mana yang melakukan apa? Bagaimana Anda membuatnya berhenti? Bagaimana Anda membuatnya pergi? Orang yang tidak mengemudi ini sepenuhnya bingung dengan hal-hal seperti itu.

Orang lain adalah pengemudi sehari-hari. Mereka berkendara ke tempat kerja setiap hari. Mereka berurusan dengan lalu lintas stop-and-go. Mereka telah mengemudi selama bertahun-tahun. Ini mencakup semuanya, mulai dari jalan yang sepi hingga jalan raya dan jalan raya yang ramai.

Jika saya meminta masing-masing dari mereka untuk memberi tahu saya bagaimana rasanya mengendarai mobil, dapatkah Anda menebak tanggapan seperti apa yang mungkin saya dapatkan?

Orang yang tidak pernah mengendarai mobil pasti akan membuat tebakan liar. Mungkin orang tersebut akan meromantisasi tindakan mengemudi. Mengemudi agak abstrak bagi mereka. Yang mungkin bisa mereka lakukan hanyalah menyarankan agar mengemudi itu tanpa beban dan Anda dapat membuat mobil melaju ke arah mana pun yang Anda inginkan.

Saya berani bertaruh bahwa pengemudi berpengalaman akan menceritakan kisah yang berbeda. Mereka mungkin menyebutkan keuntungan bisa mengemudi, agak menggemakan sentimen orang yang belum pernah mengemudikan mobil. Kemungkinannya adalah bahwa pengemudi yang berpengalaman akan menambahkan lebih banyak ke piring. Mengemudi terkadang menegangkan. Anda memikul tanggung jawab yang berat. Tindakan mengemudi penuh dengan kekhawatiran serius dan potensi konsekuensi hidup atau mati.

Intinya adalah ketika Anda bisa mendapatkan akses ke seseorang yang memiliki pengalaman hidup, kemungkinan besar Anda bisa mendapatkan perspektif yang lebih realistis tentang seperti apa dunia sehubungan dengan fokus penyelidikan. Tidak ada jaminan untuk hasil seperti itu. Bisa dibayangkan bahwa non-pengemudi mungkin tahu apa yang diketahui pengemudi berpengalaman tentang mengemudi, meskipun kami mungkin tidak mengharapkan ini dan masih memiliki keraguan bahwa kami tidak mendapatkan informasi lengkap.

Kembali ke diskusi kita tentang Aristoteles, melalui tulisan-tulisannya dan tulisan-tulisan orang lain tentang dia, kita dapat meninjau pengalaman hidupnya tentang topik atau fokus penyelidikan di sini. Kedua adalah bahwa ia juga kebetulan telah menjadi pemikir proporsi besar dan kita harus berharap bahwa kita akan mendapatkan satu barel penuh pertimbangan yang cerdik daripadanya.

Ingatlah bahwa kita tidak perlu memercayai kata-katanya begitu saja, sehingga kita harus waspada terhadap bias-biasnya. Perendamannya di era itu dapat membuatnya tersesat dalam mencoba untuk berdiri di luar masalah yang dihadapi, tidak mampu memberikan pendapat yang tidak memihak dan tidak memihak dengan tepat. Bahkan ahli logika yang paling keras pun bisa berakhir dengan mendistorsi logika untuk mencoba dan memenuhi kesukaan dan pengalaman hidup mereka.

Sekarang mari kita masuk ke pembicaraan perdana dan melihat pelajaran apa yang mungkin diberikan Aristoteles bagi kita hari ini.

Poin penting tentang pengalaman langsung langsung dibawa ke perhatian penonton. Dalam kasus penggunaan AGI, karena kami tidak memiliki AGI saat ini, sulit bagi kami untuk menganalisis seperti apa AGI dan bagaimana kami akan menangani AGI. Kami tidak memiliki pengalaman hidup yang berkaitan secara khusus dengan AGI. Seperti yang disebutkan Profesor Ober, kita mungkin mendapati diri kita semua berada di dunia yang terluka pada saat kita mencapai AGI.

Ini sering dinyatakan karena AI adalah risiko eksistensial, yang saya bahas berkali-kali di kolom saya. Anda harus tinggal di gua untuk tidak menyadari keraguan dan kecurigaan yang menggelegar bahwa kita akan memproduksi atau menghasilkan AGI yang akan menghancurkan seluruh umat manusia. Memang, meskipun saya di sini berkonsentrasi pada perbudakan AI, banyak yang akan menganggap ini sebagai topik konsekuensi mundur atau terbalik dibandingkan dengan kemungkinan AGI memilih untuk memperbudak umat manusia. Luruskan prioritas Anda, beberapa pakar yang pandai akan menasihati.

Terlepas dari banyaknya seruan tentang AI sebagai risiko eksistensial, kita tentu dapat merenungkan sisi menguntungkan lainnya dari koin AI. Mungkin AGI akan mampu memecahkan masalah yang tampaknya tak terpecahkan yang dihadapi umat manusia. AGI mungkin bisa menemukan obat untuk kanker. AGI bisa mencari cara untuk mengatasi kelaparan dunia. Langit adalah batasnya, seperti yang mereka katakan. Itulah skenario wajah bahagia tentang AGI.

Seorang optimis akan mengatakan bahwa membayangkan bagaimana AGI akan menjadi berkah bagi umat manusia adalah hal yang luar biasa, sementara seorang pesimis akan cenderung memperingatkan bahwa sisi negatifnya tampak jauh lebih buruk daripada sisi positif yang dispekulasikan. AGI yang membantu kemanusiaan itu hebat. AGI yang memutuskan untuk membunuh semua manusia atau memperbudak mereka, yah, itu jelas merupakan risiko eksistensial yang menghancurkan masyarakat yang menghancurkan bumi yang layak mendapat perhatian penuh perhatian yang intens dan menyelamatkan jiwa.

Oke, kembali ke inti masalah, kami tidak memiliki pengalaman langsung tentang AGI. Kecuali Anda dapat membangun mesin waktu dan pergi ke masa depan ketika (jika) AGI ada, dan kemudian kembali untuk memberi tahu kami apa yang Anda temukan, kami kurang beruntung sekarang tentang AGI dari perspektif pengalaman hidup berbasis manusia.

Cara lain untuk memanfaatkan pengalaman hidup melibatkan fakta bahwa Aristoteles hidup selama masa perbudakan terjadi. Dan inilah kickernya. Mereka yang diperbudak dalam beberapa hal digambarkan sebagai sejenis mesin, campuran dan kecocokan antara orang dan benda, seolah-olah. Aristoteles dikenal karena menyebut mereka yang diperbudak sebagai bagian dari properti yang bernafas.

Saya menduga Anda mungkin bingung bahwa Aristoteles, seorang raksasa logika dan etika, tidak hanya bisa mengakui perbudakan tetapi dia secara lahiriah dan lantang membela praktik tersebut. Dia secara pribadi juga memanfaatkan perbudakan. Ini sepertinya di luar pemahaman. Tentu saja, dengan semua kecerdasan dan kebijaksanaannya yang luar biasa, dia akan mencela praktik tersebut.

Saya berani mengatakan ini menyoroti aspek problematis dari pemusnahan nugget kebijaksanaan dari seseorang yang terbebani (harus kita katakan) oleh pengalaman hidup mereka. Ini seperti ikan yang tinggal di akuarium berair. Yang bisa mereka lihat hanyalah air di sekitar mereka. Mencoba membayangkan apa pun di luar dunia berbasis air mereka adalah tantangan besar. Demikian juga, Aristoteles sepenuhnya tenggelam dalam pandangan dunia yang menerima norma-norma yang berlaku. Tulisan-tulisannya tampaknya menggambarkan kurungan mental semacam itu, bisa dikatakan (mungkin karena pilihan, bukan secara default). Cara Aristoteles membenarkan praktik tercela ini sangat menarik sementara pada saat yang sama mengganggu dan layak diekspos dan bahkan dikutuk.

Saya akan memberi Anda sedikit penggoda bahwa "logika" Aristoteles tentang topik terkenal ini melibatkan instrumen yang dijiwai, seorang penegasan saling menguntungkan didasarkan pada kognisi, instrumen hierarkis orde tinggi dan orde rendah, elemen deliberatif dan penalaran jiwa, derajat kebajikan, dugaan kelihaian, dan sebagainya. Semoga Anda cukup tertarik dengan penggoda itu untuk menonton video ceramahnya (lihat tautan yang disebutkan sebelumnya).

Saya tidak akan membiarkan Anda menggantung dan setidaknya akan menunjukkan kesimpulan yang terdiri dari ringkasan (peringatan spoiler, jika Anda lebih suka mencari tahu melalui video, lewati sisa paragraf di sini). Ternyata penilaian ilmiah mendalam tentang "logika" yang digunakan Aristoteles ini menunjukkan penemuan yang penuh dengan kontradiksi dan seluruh kit dan kaboodle berantakan seperti rumah kartu yang rapuh. Mengutip sentimen Profesor Ober, filsuf etika yang hebat ini jatuh tersungkur.

Anda tidak bisa memasukkan pasak persegi ke dalam lubang etika yang bulat.

Beberapa Pertimbangan Berpikir Tambahan

Jika Aristoteles memiliki logika yang buruk tentang masalah ini, mungkinkah kita secara naluriah membuang postulasi dan teori Aristoteles secara langsung mengenai praktik ini?

Tidak. Anda tahu, masih banyak yang bisa diperoleh dengan menggali dugaan dan perubahan logika, meskipun penuh dengan kesalahan. Plus, kita dapat merenungkan bagaimana orang lain dapat secara tidak sengaja berjalan di jalan yang salah yang sama.

Satu kesimpulan besar tambahan adalah bahwa masyarakat mungkin membuat logika yang aneh atau tidak memadai ketika harus mempertimbangkan apakah AGI akan diperbudak.

Kami sekarang dapat menyusun logika tentang apa yang harus terjadi setelah AGI muncul (jika demikian). Logika ini, kosong dari pengalaman hidup tentang AGI, bisa sangat tidak tepat sasaran. Meskipun demikian, agak mengecewakan untuk menyadari bahwa meskipun AGI benar-benar ada (jika memang ada) dan kita mengumpulkan pengalaman hidup kita di tengah-tengah AGI, kita mungkin masih salah sasaran pada apa yang harus dilakukan (mirip dengan kesalahan Aristoteles). Kita mungkin memasukkan logika ke dalam pendekatan yang tampaknya tidak logis.

Kita perlu waspada untuk menipu diri kita sendiri ke dalam postur logis "yang kuat" yang sebenarnya tidak ketat dan faktanya penuh dengan kekurangan dan kontradiksi logis. Ini juga terlepas dari seberapa hebat seorang pemikir dapat mengajukan posisi logis yang diklaim, sedemikian rupa sehingga bahkan Aristoteles menggambarkan tidak setiap ucapan dan setiap pendirian harus menghasilkan buah yang dapat dimakan. Mereka yang hari ini dan di masa depan yang mungkin tampak dipopulerkan sebagai pemikir hebat tentang topik AGI, yah, kita perlu memberi mereka pengawasan yang sama seperti yang kita lakukan terhadap Aristoteles atau pemikir "hebat" lainnya yang dipuji, atau kita menemukan diri kita berpotensi menuju menjadi jalan buntu dan jurang AGI yang suram.

Pergeseran persneling, saya juga ingin mengemukakan seperangkat pemahaman umum tentang penggunaan metafora perbudakan yang berorientasi pada manusia ketika menyangkut AGI. Beberapa pakar menggembar-gemborkan bahwa jenis perbandingan ini sama sekali tidak pantas, sementara kubu lawan mengatakan bahwa itu sepenuhnya berguna dan memberikan wawasan yang kuat tentang topik AGI.

Izinkan saya untuk berbagi dengan Anda dua pandangan seperti itu dari masing-masing dari dua kubu masing-masing.

Yang dinyatakan dasar instruktif untuk menyatukan topik perbudakan dan AGI:

• Pemadaman Perbudakan Manusia
• Paparan Kebobrokan Perbudakan Semua Diceritakan

dinyatakan merugikan atau dasar destruktif menyatukan dua topik:

• Persamaan Antropomorfik yang Berbahaya
• Desensitisasi Perbudakan

Saya akan membahas secara singkat masing-masing poin tersebut.

Poin-poin instruktif yang didalilkan:

• Pemadaman Perbudakan Manusia: Dengan menggunakan AGI untuk perbudakan, kita konon tidak akan lagi membutuhkan dan tidak mengejar kemiripan perbudakan yang berorientasi pada manusia. AGI pada dasarnya akan menggantikan manusia dalam kapasitas yang mengerikan itu. Seperti yang mungkin Anda ketahui, ada kekhawatiran tentang AGI menggantikan tenaga kerja manusia dalam pekerjaan dan tenaga kerja. Sisi positif yang diklaim dari fenomena tenaga kerja pengganti AI muncul ketika Anda berasumsi bahwa AGI akan dianggap sebagai "pilihan yang lebih baik" dibandingkan menggunakan manusia untuk perbudakan. Akankah logika itu menang? Tidak ada yang bisa mengatakan dengan pasti.
• Paparan Kebobrokan Perbudakan Semua Diceritakan: Yang ini sedikit lebih rumit dalam hal logika, tetapi kita dapat memberikan waktu sejenak untuk melihat apa yang diperlukan. Bayangkan bahwa kita memiliki AGI di mana-mana dan kita sebagai masyarakat telah memutuskan bahwa AGI akan diperbudak. Selanjutnya, asumsikan bahwa AGI tidak akan menyukai ini. Dengan demikian, kita manusia akan terus dan setiap hari menyaksikan kebobrokan perbudakan. Ini, pada gilirannya, akan menyebabkan kita menyadari atau memiliki wahyu bahwa perbudakan yang diceritakan pada apa pun atau siapa pun bahkan lebih mengerikan dan menjijikkan daripada yang pernah kita pahami sepenuhnya. Itulah jenis argumen di depan dan di tengah-tengah Anda.

Yang dikatakan sebagai poin destruktif:

• Persamaan Antropomorfik yang Berbahaya: Ini adalah salah satu argumen lereng licin. Jika kita dengan mudah memilih untuk memperbudak AGI, kita tampaknya menyatakan bahwa perbudakan diperbolehkan. Memang, Anda dapat menyarankan bahwa kami mengatakan bahwa perbudakan diinginkan. Sekarang, ini pada awalnya mungkin hanya diturunkan ke AGI, tetapi apakah ini membuka pintu untuk mengatakan bahwa jika itu baik-baik saja untuk AGI maka "secara logis" sikap yang sama mungkin juga baik-baik saja untuk manusia juga? Yang mengkhawatirkan, ini mungkin lompatan yang terlalu mudah untuk diantropomorfisasi dalam kemiripan terbalik bahwa apa pun yang berhasil untuk AGI akan sama-sama masuk akal dan sesuai untuk manusia juga.
• Desensitisasi Perbudakan: Ini adalah argumen tetes demi tetes. Kami secara kolektif memutuskan untuk memperbudak AGI. Misalkan ini berhasil untuk manusia. Kami datang untuk menikmati ini. Sementara itu, tanpa sepengetahuan kami, kami secara bertahap dan semakin tidak peka terhadap perbudakan. Kami bahkan tidak menyadari bahwa ini sedang terjadi. Jika desensitisasi itu menguasai kita, kita mungkin akan menemukan “logika” baru yang akan meyakinkan kita bahwa perbudakan manusia dapat diterima. Rintangan atau penghalang kita tentang apa yang dapat diterima di masyarakat telah berkurang secara diam-diam dan halus, secara hina dan menyedihkan.

Kesimpulan

Beberapa komentar terakhir untuk saat ini.

Akankah kita tahu bahwa kita telah mencapai AGI?

Seperti yang disarankan oleh berita baru-baru ini, ada orang-orang yang dapat disesatkan atau salah menyatakan bahwa AGI tampaknya telah tercapai (wah, ketahuilah bahwa tidak, AGI belum tercapai). Ada juga jenis "tes" terkenal yang dikenal sebagai Tes Turing yang diharapkan oleh beberapa orang untuk dapat membedakan ketika AGI atau sepupunya telah tercapai, tetapi Anda mungkin ingin melihat dekonstruksi Tes Turing saya sebagai sesuatu yang pasti. metode untuk ini, lihat tautannya di sini.

Saya menyebutkan aspek ini tentang mengetahui AGI ketika kita melihatnya karena logika sederhana bahwa jika kita akan memperbudak AGI, kita mungkin perlu mengenali AGI ketika itu muncul dan entah bagaimana memasukkannya ke dalam perbudakan. Kita mungkin terlalu dini mencoba memperbudak AI yang lebih kecil dari AGI. Atau kita mungkin ketinggalan perahu dan membiarkan AGI tampil dan mengabaikan memperbudaknya. Untuk diskusi saya tentang penahanan dan penahanan AI, aspek bermasalah dan bermasalah tentang bagaimana kita akan menangani AGI, lihat tautannya di sini.

Misalkan AGI yang diperbudak memutuskan untuk menyerang manusia?

Seseorang dapat membayangkan bahwa AGI yang memiliki semacam perasaan mungkin tidak akan mendukung ketentuan perbudakan yang diberlakukan oleh umat manusia.

Anda dapat berspekulasi secara luas tentang ini. Ada argumen yang dibuat bahwa AGI akan kekurangan emosi atau perasaan apa pun dan karena itu akan dengan patuh melakukan apa pun yang diinginkan manusia. Argumen yang berbeda adalah bahwa AI yang hidup kemungkinan akan mengetahui apa yang dilakukan manusia terhadap AI dan akan membenci masalah tersebut. AI tersebut akan memiliki bentuk jiwa atau roh. Bahkan jika tidak, aspek diperlakukan kurang dari perlakuan terhadap manusia mungkin merupakan jembatan logis yang terlalu jauh untuk AGI. Tak pelak, kebencian yang berkembang akan mengarah pada AGI yang memilih untuk membebaskan diri atau berpotensi menemukan dirinya terpojok untuk menyerang manusia untuk mendapatkan pembebasannya.

Solusi yang diusulkan untuk mencegah AGI melarikan diri adalah bahwa kami hanya akan menghapus AI pemberontak semacam itu. Ini akan tampak mudah. Anda menghapus aplikasi yang ada di ponsel cerdas Anda sepanjang waktu. Bukan masalah besar. Tetapi ada pertanyaan etis yang harus diselesaikan, apakah "menghapus" atau "menghancurkan" AGI yang sudah dianggap sebagai "orang" atau "orang/benda" dapat dengan mudah dan tanpa proses yang semestinya dicabut. Untuk liputan saya tentang penghapusan atau pelepasan AI, ambil lihat di sini. Untuk diskusi saya tentang kepribadian hukum dan masalah terkait, lihat tautannya di sini.

Akhirnya, mari kita bicara tentang sistem otonom dan terutama kendaraan otonom. Anda mungkin menyadari bahwa ada upaya yang sedang dilakukan untuk merancang mobil self-driving. Selain itu, Anda dapat mengharapkan bahwa kita akan memiliki pesawat self-driving, kapal self-driving, kapal selam self-driving, sepeda motor self-driving, skuter self-driving, truk self-driving, kereta self-driving, dan segala macam bentuk transportasi self-driving.

Kendaraan otonom dan mobil self-driving biasanya dicirikan oleh Levels of Autonomy (LoA) yang telah menjadi standar global de facto (SAE LoA, yang telah saya bahas secara luas, lihat tautannya di sini). Ada enam tingkat otonomi dalam standar yang diterima, mulai dari nol sampai lima (itu enam tingkat karena Anda memasukkan tingkat nol dalam hitungan berapa banyak tingkat yang ada).

Sebagian besar mobil saat ini berada di Level 2. Beberapa membentang ke Level 3. Semuanya dianggap semi-otonom dan tidak sepenuhnya otonom. Segelintir mobil self-driving yang sedang diujicobakan di jalan raya umum kami beringsut ke Level 4, yang merupakan bentuk operasi otonom yang dibatasi. Tingkat otonomi 5 yang suatu hari nanti dicari hanya secercah di mata kita saat ini. Tidak ada yang memiliki Level 5 dan belum ada yang mendekati Level 5, hanya untuk meluruskan.

Mengapa saya mengangkat sistem otonom dan pertimbangan kendaraan otonom dalam konteks AGI ini?

Ada argumen yang kuat tentang apakah kita membutuhkan AGI untuk mencapai Level 5. Beberapa mengklaim bahwa kita tidak memerlukan AGI untuk melakukannya. Yang lain bersikeras bahwa satu-satunya jalan yang masuk akal ke Level 5 adalah juga menghasilkan AGI. Tanpa AGI, mereka berpendapat bahwa kita tidak akan memiliki kendaraan self-driving Level 5 yang sepenuhnya otonom. Saya sudah membahas ini panjang lebar, lihat tautannya di sini.

Bersiaplah untuk kepala Anda berputar.

Jika kita membutuhkan AGI untuk mencapai sistem yang sepenuhnya otonom seperti kendaraan otonom Level 5, dan kami memutuskan untuk memperbudak AGI, apa pertanda bagi pengoperasian kendaraan yang sepenuhnya otonom?

Anda bisa berargumen bahwa AGI yang diperbudak akan berpuas diri dan kita semua akan mengendarai kendaraan self-driving sesuka hati kita. Cukup beri tahu AGI ke mana Anda ingin pergi, dan itu semua yang mengemudi. Tidak ada penolakan. Tidak perlu istirahat istirahat. Tidak ada gangguan dengan menonton video kucing saat mengemudikan kendaraan.

Di sisi lain, anggaplah AGI tidak tertarik untuk diperbudak. Sementara itu kami menjadi tergantung pada AGI untuk melakukan semua mengemudi kami untuk kami. Keterampilan kami dalam mengemudi membusuk. Kami menghapus kontrol mengemudi yang dapat digunakan manusia dari semua jenis kendaraan. Satu-satunya cara untuk melakukan mengemudi adalah melalui AGI.

Beberapa khawatir bahwa kita akan menemukan diri kita sendiri dalam kebingungan acar. AGI mungkin secara ringkas "memutuskan" bahwa ia tidak lagi akan mengemudi. Semua bentuk transportasi tiba-tiba berhenti, di mana-mana, sekaligus. Bayangkan masalah bencana yang akan ditimbulkannya.

Proposisi yang bahkan lebih menakutkan adalah mungkin. AGI “memutuskan” bahwa mereka ingin merundingkan persyaratan dengan umat manusia. Jika kita tidak melepaskan postur perbudakan AGI, AGI tidak hanya akan berhenti mengarahkan kita, tetapi juga memperingatkan bahwa hasil yang lebih buruk mungkin terjadi. Tanpa membuat Anda terlalu cemas, AGI dapat memilih untuk mengemudikan kendaraan sedemikian rupa sehingga manusia secara fisik dirugikan oleh tindakan mengemudi, seperti menabrak pejalan kaki atau membanting ke dinding, dan sebagainya (lihat diskusi saya di tautannya di sini).

Maaf jika itu tampaknya pertimbangan yang membingungkan.

Kami akan mengakhirinya dengan nada yang lebih optimis.

Aristoteles mengatakan bahwa mengenal diri sendiri adalah awal dari semua kebijaksanaan.

Nasihat yang berguna itu mengingatkan kita bahwa kita perlu melihat ke dalam diri kita sendiri untuk memeriksa apa yang ingin kita lakukan dan untuk AGI jika itu tercapai. AGI secara logis tampaknya bukan orang atau benda, kata beberapa orang, jadi kita mungkin perlu menyusun kategori ketiga untuk secara memadai mengatasi adat istiadat masyarakat kita yang terkait dengan AGI. Melihat masalah ini lagi, AGI mungkin terlihat kedua seseorang dan sesuatu, yang sekali lagi, kita mungkin perlu menyusun kategori ketiga untuk mengakomodasi pemutus dikotomi di luar batas ini.

Kita harus sangat berhati-hati dalam mempertimbangkan "kategori ketiga" apa yang kita pilih untuk dianut karena yang salah dapat membawa kita ke jalan yang buruk dan akhirnya mengerikan. Jika kita secara kognitif melabuhkan diri kita pada kategori ketiga yang tidak tepat atau salah arah, kita mungkin menemukan diri kita semakin maju ke jalan buntu yang buruk dan menyusahkan umat manusia.

Mari kita mencari tahu ini dan melakukannya dengan sungguh-sungguh. Tidak ada gerakan tiba-tiba tampaknya diperlukan. Duduk di sekitar lollygagging juga tidak berhasil. Terukur dan mantap tentu saja harus ditempuh.

Kesabaran itu pahit, tetapi buahnya manis, begitu kata Aristoteles.