Etika AI Waspada Tentang Memburuknya Asimetri AI di Tengah Manusia yang Mendapatkan Ujung Pendeknya

Terkadang Anda berada di ujung tongkat yang salah.

Bahasa sehari-hari itu dapat diterapkan pada gagasan asimetri.

Ya, saya akan berbicara tentang asimetri. Seperti yang mungkin Anda temui di dunia yang kacau balau yang kita tinggali ini, ada kalanya Anda mungkin mendapati diri Anda kurang memiliki pengetahuan tentang suatu hal yang relatif penting bagi Anda. Ini secara resmi disebut sebagai Asimetri Informasi.

Kuncinya adalah Anda memiliki lebih sedikit pengetahuan atau informasi daripada yang mungkin Anda harapkan, ditambah Anda jelas memiliki lebih sedikit daripada pihak lain yang terlibat dalam masalah tersebut. Anda berada pada posisi yang kurang menguntungkan dibandingkan dengan pihak lain. Mereka mengetahui sesuatu yang tidak Anda ketahui. Mereka dapat memanfaatkan apa yang mereka ketahui, terutama dalam hal apa yang tidak Anda ketahui, dan lebih unggul dalam setiap pertimbangan atau negosiasi yang sulit dengan Anda.

Nah, ada anak baru di kota, yang dikenal sebagai AI Asimetri.

Slogan terbaru ini mengacu pada kemungkinan Anda melawan seseorang yang dipersenjatai dengan AI, sementara Anda tidak begitu bersenjata.

Mereka memiliki AI di pihak mereka, sementara Anda memiliki, yah, hanya Anda. Hal-hal yang miring. Anda berada pada posisi yang dianggap tidak menguntungkan. Sisi lain akan dapat menjalankan lingkaran di sekitar Anda karena ditambah oleh AI. Itu mungkin dalam pepatah terkenal bahwa semua adil dalam cinta dan perang (pepatah lama diciptakan di) Eufue oleh John Lyly, 1578), meskipun dinamika dan bahaya Asimetri AI menimbulkan masalah AI Etis yang menantang. Untuk liputan saya yang berkelanjutan dan ekstensif tentang Etika AI dan AI Etis, lihat tautannya di sini dan tautannya di sini, Hanya untuk beberapa nama.

Sebelum kita terjun ke ranah AI dan kompleksitasnya yang melimpah terkait Asimetri AI, pertama-tama mari kita jelajahi versi reguler Asimetri Informasi lama yang biasa. Ini akan mengatur panggung untuk merayap ke anak baru AI pepatah di blok.

Sebuah kisah singkat dan bertujuan mencerahkan mungkin membangkitkan selera Anda.

Suatu hari saya mengalami ban kempes saat berada di jalan dan mencari dengan cepat untuk menemukan pengganti yang cocok yang dapat segera dipasang. Menggunakan ponsel cerdas saya, saya melihat toko ban terdekat secara online untuk mengetahui jarak yang harus saya tempuh dengan ban kempes saya dan apakah ada toko yang buka. Selain itu, saya melakukan penilaian cepat terhadap ulasan pelanggan online mereka dan mencoba mengumpulkan sesuatu yang berguna tentang berapa lama mereka telah berkecimpung dalam bisnis dan faktor-faktor lain yang mungkin menunjukkan kelayakan mereka.

Setelah menelepon salah satu toko ban, petugas memberi saya penawaran semilir untuk biaya ban dan pemasangannya. Ban itu tidak persis seperti yang saya pikirkan, tetapi petugas meyakinkan saya bahwa mereka akan menjadi satu-satunya toko di daerah itu yang bisa langsung melakukan pekerjaan itu. Menurut petugas itu, salah satu toko ban terdekat lainnya tidak akan memiliki stok ban seperti itu dan akan memakan waktu setidaknya satu hari bagi para pesaing untuk mendapatkan ban yang sesuai dari beberapa gudang semi-jauh.

Saya berada di tengah-tengah asimetri informasi.

Petugas mengaku tahu lebih banyak tentang status lokal toko ban dan khususnya jenis ban yang saya butuhkan. Saya berada di daerah yang hanya saya lewati dan tidak memiliki pengetahuan langsung tentang toko ban di wilayah geografis tertentu. Untuk semua yang saya tahu, petugas itu tepat dan memberi saya kebenaran yang tidak dipernis.

Tapi apakah petugas melakukannya?

Mungkin ya mungkin tidak.

Bisa jadi petugas itu percaya dengan tulus semua yang disampaikan kepada saya. Untuk petugas, ini adalah kebenaran. Atau mungkin petugas itu agak melebarkan kebenaran. Ada kemungkinan bahwa apa yang dikatakan mungkin benar, meskipun cara penggambarannya menyiratkan bahwa itu adalah kebenaran yang mutlak dan tak terbantahkan. Tentu saja, itu juga bisa menjadi omong kosong lengkap dan petugas hanya membayar shilling untuk toko ban untuk mengumpulkan bisnis saya. Mungkinkah ada komisi menarik yang dipertaruhkan?

Saya berani mengatakan bahwa tidak ada yang suka berada dalam posisi yang diunggulkan seperti itu.

Pertaruhan situasi merupakan faktor penting dalam seberapa penting asimetri informasi. Jika pertanyaan yang ada adalah salah satu dari sifat hidup atau mati, berada di rumah anjing dan bergantung pada pihak lain untuk apa yang mereka ketahui atau mengaku tahu adalah postur yang samar dan sangat tidak diinginkan untuk dilakukan. Ketika taruhannya rendah , seperti memesan makan malam Anda di restoran dan server memberi tahu Anda bahwa hidangan ikannya enak, tetapi Anda belum pernah makan di sana sebelumnya dan kurang informasi, Anda dapat mengikuti sedikit asimetri informasi ini tanpa banyak kecemasan (saya misalkan Anda juga bertaruh bahwa server tidak akan mengambil risiko memberikan saran yang buruk dan kehilangan tip yang layak).

Kembali ke cerita ban usang (permainan kata-kata!), Saya tidak akan memiliki cara instan untuk mengetahui apakah petugas memberi saya wawasan yang andal dan informatif. Anda mungkin bertanya-tanya apa yang terjadi. Saya memutuskan untuk menelepon beberapa toko ban terdekat lainnya.

Apakah Anda siap untuk apa yang saya temukan?

Semua toko ban lain memiliki stok ban yang saya inginkan dan tidak akan mencoba dan mengedipkan mata membujuk saya untuk mengambil ban yang berbeda (seperti yang coba dilakukan petugas pertama). Mereka juga bisa menyelesaikan pekerjaan dalam jangka waktu yang sama dengan toko ban pertama yang mungkin saya sebut. Dengan harga yang kurang lebih sama.

Desahan lega yang disambut baik terjadi di pihak saya, saya yakinkan Anda.

Ironisnya, dalam Hukum Kesialan Murphy, tempat pertama yang saya hubungi adalah satu-satunya yang tampaknya keluar untuk makan siang. Saya senang bahwa saya berusaha untuk mendapatkan informasi lebih lanjut. Ini mempersempit kesenjangan asimetri informasi. Saya memuji diri saya sendiri karena telah berpegang teguh pada senjata saya dan tidak menyetujui tempat pertama yang saya panggil.

Karena itu, ada biaya tertentu yang terlibat dalam mendapatkan informasi tambahan saya. Saya membuat sekitar empat panggilan yang masing-masing membutuhkan waktu sekitar lima belas hingga dua puluh menit untuk dilakukan sepenuhnya. Dalam hal itu, saya menghabiskan waktu sekitar satu setengah jam sambil memikirkan ke mana harus membawa mobil saya. Jika saya segera membawa mobil saya ke tempat pertama itu, ban baru akan hampir ada di mobil saya pada saat itu. Di sisi lain, saya hampir pasti, di kemudian hari, menyesali keputusan cepat yang saya buat saat berada dalam ikatan Asimetri Informasi yang pengecut.

Terkadang Anda harus menggertakkan gigi dan menerima Asimetri Informasi yang ditakuti. Anda hanya berharap bahwa keputusan apa pun yang Anda buat, akan cukup baik. Ini mungkin bukan keputusan yang “sempurna” dan Anda nantinya bisa menyesali pilihan yang dibuat. Sudut lainnya adalah bahwa Anda dapat mencoba untuk memperkuat sisi persamaan informasi Anda, meskipun ini tidak selalu bebas biaya dan mungkin juga menghabiskan waktu yang berharga, tergantung pada apakah waktu yang berharga itu penting.

Sekarang Anda pasti terhibur mengetahui bahwa mobil saya bekerja dengan baik dengan ban baru dan benar, saya dapat beralih ke munculnya AI Asimetri.

Pertimbangkan kisah AI tentang kesengsaraan.

Anda sedang mencari untuk mendapatkan pinjaman rumah. Ada penganalisa permintaan hipotek online yang digunakan bank tertentu. Sistem online memanfaatkan kemampuan AI canggih saat ini. Tidak perlu berbicara dengan agen pemberi pinjaman manusia. AI melakukan semuanya.

Sistem AI memandu Anda melalui serangkaian petunjuk. Anda dengan patuh mengisi formulir dan menanggapi sistem AI. AI ini sangat cerewet. Jika sebelumnya Anda mungkin menggunakan sistem formulir berbasis komputer konvensional, varian AI ini lebih mirip dengan interaksi dengan agen manusia. Tidak cukup, tetapi cukup sehingga Anda hampir bisa mulai percaya bahwa ada manusia di sisi lain dari aktivitas ini.

Setelah melakukan yang terbaik untuk "mendiskusikan" permintaan Anda dengan AI ini, pada akhirnya, ini memberi tahu Anda bahwa sayangnya permintaan pinjaman tidak disetujui. Agak membuat Anda bingung bahwa AI tampaknya menawarkan permintaan maaf, seolah-olah AI ingin menyetujui pinjaman tetapi manusia kejam yang mengawasi bank tidak akan membiarkan AI melakukannya. Untuk liputan saya tentang betapa menyesatkannya permintaan maaf AI semacam ini, lihat tautannya di sini.

Anda tidak mengerti mengapa Anda ditolak. AI tidak memberikan penjelasan apa pun. Mungkin AI melakukan kesalahan atau mengacaukan perhitungannya. Lebih buruk lagi, misalkan AI menggunakan beberapa pertimbangan yang sangat dipertanyakan seperti ras atau jenis kelamin Anda saat memutuskan pinjaman. Semua yang Anda tahu adalah bahwa Anda tampaknya telah membuang-buang waktu dan juga menyerahkan banyak data pribadi ke AI dan bank. AI mereka telah mengalahkan Anda.

Ini akan diberi label sebagai contoh Asimetri AI.

Itu Anda melawan bank. Bank dipersenjatai dengan AI. Anda tidak sama-sama bersenjata. Anda memiliki akal dan kebijaksanaan pukulan keras Anda, tetapi tidak ada AI yang berada di saku belakang Anda. Pikiran melawan mesin. Sayangnya, mesin menang dalam kasus ini.

Apa yang harus kamu lakukan?

Pertama, kita perlu secara sosial menyadari bahwa Asimetri AI ini tumbuh dan hampir ada di mana-mana. Manusia menghadapi AI di semua sistem yang berinteraksi dengan kita sehari-hari. Terkadang AI adalah satu-satunya elemen yang berinteraksi dengan kami, seperti dalam contoh ini tentang permintaan pinjaman. Dalam kasus lain, manusia mungkin berada dalam lingkaran yang bergantung pada AI untuk membantu mereka dalam melakukan layanan tertentu. Untuk pinjaman, mungkin bank akan meminta Anda berbicara dengan agen manusia sebagai pengganti berinteraksi dengan AI, tetapi untuk itu agen manusia menggunakan sistem komputer untuk mengakses AI yang memandu agen manusia selama proses permintaan pinjaman (dan, Anda hampir selalu yakin bahwa agen manusia bertindak seolah-olah mereka dipenjara karena harus secara ketat melakukan apa pun yang “diperintahkan” oleh AI).

Either way, AI masih dalam campuran.

Kedua, kita perlu mencoba dan memastikan bahwa Asimetri AI setidaknya dilakukan atas dasar Etika AI.

Izinkan saya untuk menjelaskan pernyataan yang tampaknya aneh itu. Anda tahu, jika kita dapat sedikit yakin bahwa AI bertindak dengan cara yang etis, kita mungkin memiliki sedikit hiburan tentang asimetri yang sedang dimainkan. Secara agak analog tetapi juga longgar, Anda mungkin mengatakan bahwa jika interaksi saya dengan petugas toko ban pertama memiliki beberapa pedoman etika yang ketat dan ditegakkan, mungkin saya tidak akan diberi tahu kisah yang diceritakan kepada saya, atau setidaknya saya mungkin tidak harus segera mencari tahu apakah sebuah dongeng sedang diberikan kepada saya.

Saya akan menjelaskan lebih lanjut tentang Etika AI sebentar lagi.

Ketiga, kita harus mencari cara untuk mengurangi Asimetri AI. Jika Anda memiliki AI yang ada di pihak Anda, berusaha menjadi pelatih atau pelindung Anda, Anda mungkin dapat menggunakan AI itu untuk melakukan serangan balik dengan AI lain yang akan Anda hadapi. Seperti yang mereka katakan, terkadang sangat masuk akal untuk melawan api dengan api.

Sebelum masuk ke lebih banyak daging dan kentang tentang pertimbangan liar dan wol yang mendasari Asimetri AI, mari kita buat beberapa dasar tambahan tentang topik yang sangat penting. Kita perlu sedikit menyelami Etika AI dan terutama munculnya Machine Learning (ML) dan Deep Learning (DL).

Anda mungkin samar-samar menyadari bahwa salah satu suara paling keras akhir-akhir ini di bidang AI dan bahkan di luar bidang AI terdiri dari teriakan untuk kemiripan yang lebih besar dari AI Etis. Mari kita lihat apa artinya merujuk pada Etika AI dan AI Etis. Selain itu, kita akan mengeksplorasi apa yang saya maksud ketika saya berbicara tentang Machine Learning dan Deep Learning.

Salah satu segmen atau bagian tertentu dari Etika AI yang banyak mendapat perhatian media adalah AI yang menunjukkan bias dan ketidakadilan yang tidak diinginkan. Anda mungkin menyadari bahwa ketika era terbaru AI sedang berlangsung, ada ledakan besar antusiasme untuk apa yang sekarang disebut beberapa orang AI For Good. Sayangnya, di tengah kegembiraan yang tercurah itu, kami mulai menyaksikan AI Untuk Buruk. Misalnya, berbagai sistem pengenalan wajah berbasis AI telah terungkap mengandung bias rasial dan bias gender, yang telah saya bahas di tautannya di sini.

Upaya untuk melawan AI Untuk Buruk sedang aktif berlangsung. Selain riuh sah pengekangan dalam melakukan kesalahan, ada juga dorongan substantif untuk merangkul Etika AI untuk memperbaiki kejahatan AI. Gagasannya adalah bahwa kita harus mengadopsi dan mendukung prinsip-prinsip AI Etis utama untuk pengembangan dan penerapan AI yang dilakukan untuk melemahkan AI Untuk Buruk dan secara bersamaan menggembar-gemborkan dan mempromosikan yang lebih disukai AI For Good.

Pada gagasan terkait, saya seorang pendukung untuk mencoba menggunakan AI sebagai bagian dari solusi untuk kesengsaraan AI, melawan api dengan api dengan cara berpikir seperti itu. Misalnya, kami mungkin menanamkan komponen AI Etis ke dalam sistem AI yang akan memantau bagaimana AI lainnya melakukan sesuatu dan dengan demikian berpotensi menangkap upaya diskriminatif secara real-time, lihat diskusi saya di tautannya di sini. Kami juga dapat memiliki sistem AI terpisah yang berfungsi sebagai jenis pemantau Etika AI. Sistem AI berfungsi sebagai pengawas untuk melacak dan mendeteksi ketika AI lain masuk ke jurang yang tidak etis (lihat analisis saya tentang kemampuan tersebut di tautannya di sini).

Sebentar lagi, saya akan berbagi dengan Anda beberapa prinsip menyeluruh yang mendasari Etika AI. Ada banyak daftar semacam ini yang beredar di sana-sini. Anda dapat mengatakan bahwa belum ada daftar tunggal daya tarik dan persetujuan universal. Itulah berita malang. Kabar baiknya adalah setidaknya ada daftar Etika AI yang tersedia dan cenderung sangat mirip. Semua mengatakan, ini menunjukkan bahwa dengan bentuk konvergensi yang beralasan bahwa kita menemukan jalan menuju kesamaan umum dari apa yang terdiri dari Etika AI.

Pertama, mari kita bahas secara singkat beberapa prinsip AI Etis secara keseluruhan untuk mengilustrasikan apa yang seharusnya menjadi pertimbangan penting bagi siapa pun yang membuat, menggunakan, atau menggunakan AI.

Misalnya, seperti yang dinyatakan oleh Vatikan dalam Roma Menyerukan Etika AI dan seperti yang telah saya bahas secara mendalam di tautannya di sini, berikut adalah enam prinsip etika AI utama yang mereka identifikasi:

• Transparansi: Pada prinsipnya, sistem AI harus dapat dijelaskan
• inklusi: Kebutuhan semua manusia harus dipertimbangkan sehingga setiap orang dapat memperoleh manfaat, dan semua individu dapat ditawarkan kondisi terbaik untuk mengekspresikan diri dan berkembang.
• Tanggung jawab: Mereka yang merancang dan menerapkan penggunaan AI harus melanjutkan dengan tanggung jawab dan transparansi
• Ketidakberpihakan: Jangan membuat atau bertindak berdasarkan bias, sehingga menjaga keadilan dan martabat manusia
• Keandalan: Sistem AI harus dapat bekerja dengan andal
• Keamanan dan Privasi: Sistem AI harus bekerja dengan aman dan menghormati privasi pengguna.

Seperti yang dinyatakan oleh Departemen Pertahanan AS (DoD) dalam Prinsip Etis Untuk Penggunaan Kecerdasan Buatan dan seperti yang telah saya bahas secara mendalam di tautannya di sini, ini adalah enam prinsip etika AI utama mereka:

• Bertanggung jawab: Personel DoD akan menerapkan tingkat pertimbangan dan perhatian yang tepat sambil tetap bertanggung jawab atas pengembangan, penerapan, dan penggunaan kemampuan AI.
• Adil: Departemen akan mengambil langkah-langkah yang disengaja untuk meminimalkan bias yang tidak diinginkan dalam kemampuan AI.
• Dilacak: Kemampuan AI Departemen akan dikembangkan dan diterapkan sedemikian rupa sehingga personel yang relevan memiliki pemahaman yang tepat tentang teknologi, proses pengembangan, dan metode operasional yang berlaku untuk kemampuan AI, termasuk metodologi yang transparan dan dapat diaudit, sumber data, serta prosedur dan dokumentasi desain.
• terpercaya: Kemampuan AI Departemen akan memiliki penggunaan yang jelas dan terdefinisi dengan baik, dan keselamatan, keamanan, dan efektivitas kemampuan tersebut akan tunduk pada pengujian dan jaminan dalam penggunaan yang ditentukan di seluruh siklus hidupnya.
• Yg bisa diperintah: Departemen akan merancang dan merekayasa kemampuan AI untuk memenuhi fungsi yang dimaksudkan sambil memiliki kemampuan untuk mendeteksi dan menghindari konsekuensi yang tidak diinginkan, dan kemampuan untuk melepaskan atau menonaktifkan sistem yang diterapkan yang menunjukkan perilaku yang tidak diinginkan.

Saya juga telah membahas berbagai analisis kolektif prinsip-prinsip etika AI, termasuk meliput satu set yang dirancang oleh para peneliti yang memeriksa dan memadatkan esensi dari berbagai prinsip etika AI nasional dan internasional dalam sebuah makalah berjudul "Lanskap Global Pedoman Etika AI" (diterbitkan di dalam Alam), dan liputan saya mengeksplorasi di tautannya di sini, yang mengarah ke daftar keystone ini:

• Transparansi
• Keadilan & Keadilan
• Non-Kejahatan
• Tanggung jawab
• Privasi
• Kemurahan hati
• Kebebasan & Otonomi
• Kepercayaan
• Keberlanjutan
• martabat
• Solidaritas

Seperti yang mungkin Anda tebak secara langsung, mencoba menjelaskan secara spesifik yang mendasari prinsip-prinsip ini bisa sangat sulit dilakukan. Terlebih lagi, upaya untuk mengubah prinsip-prinsip luas itu menjadi sesuatu yang sepenuhnya nyata dan cukup detail untuk digunakan saat membuat sistem AI juga merupakan hal yang sulit untuk dipecahkan. Sangat mudah untuk secara keseluruhan melakukan beberapa isyarat tangan tentang apa ajaran Etika AI dan bagaimana mereka harus dipatuhi secara umum, sementara itu adalah situasi yang jauh lebih rumit dalam pengkodean AI yang harus menjadi karet sejati yang memenuhi jalan.

Prinsip-prinsip Etika AI harus digunakan oleh pengembang AI, bersama dengan mereka yang mengelola upaya pengembangan AI, dan bahkan mereka yang pada akhirnya menerapkan dan melakukan pemeliharaan pada sistem AI. Semua pemangku kepentingan di seluruh siklus hidup pengembangan dan penggunaan AI dianggap dalam lingkup mematuhi norma-norma Etis AI yang sedang ditetapkan. Ini adalah sorotan penting karena asumsi umum adalah bahwa "hanya pembuat kode" atau mereka yang memprogram AI harus mematuhi gagasan Etika AI. Seperti yang dinyatakan sebelumnya, dibutuhkan sebuah desa untuk merancang dan menerapkan AI, dan untuk itu seluruh desa harus memahami dan mematuhi prinsip-prinsip Etika AI.

Pastikan juga kita berada di halaman yang sama tentang sifat AI saat ini.

Tidak ada AI hari ini yang hidup. Kami tidak memiliki ini. Kami tidak tahu apakah AI yang hidup akan memungkinkan. Tidak ada yang dapat dengan tepat memprediksi apakah kita akan mencapai AI hidup, atau apakah AI hidup entah bagaimana secara ajaib akan muncul secara spontan dalam bentuk supernova kognitif komputasi (biasanya disebut sebagai singularitas, lihat liputan saya di tautannya di sini).

Jenis AI yang saya fokuskan terdiri dari AI non-sentient yang kita miliki saat ini. Jika kita ingin berspekulasi liar tentang hidup AI, diskusi ini bisa mengarah ke arah yang sangat berbeda. AI yang hidup seharusnya berkualitas manusia. Anda perlu mempertimbangkan bahwa AI yang hidup adalah setara kognitif manusia. Terlebih lagi, karena beberapa orang berspekulasi bahwa kita mungkin memiliki AI super-cerdas, dapat dibayangkan bahwa AI semacam itu bisa menjadi lebih pintar daripada manusia (untuk eksplorasi AI super-cerdas saya sebagai kemungkinan, lihat liputannya disini).

Mari kita menjaga hal-hal lebih membumi dan mempertimbangkan komputasi AI non-sentient hari ini.

Sadarilah bahwa AI saat ini tidak dapat "berpikir" dengan cara apa pun yang setara dengan pemikiran manusia. Saat Anda berinteraksi dengan Alexa atau Siri, kapasitas percakapan mungkin tampak mirip dengan kapasitas manusia, tetapi kenyataannya adalah komputasi dan tidak memiliki kognisi manusia. Era terbaru AI telah memanfaatkan Machine Learning (ML) dan Deep Learning (DL) secara ekstensif, yang memanfaatkan pencocokan pola komputasi. Hal ini telah menyebabkan sistem AI yang memiliki tampilan kecenderungan seperti manusia. Sementara itu, tidak ada AI saat ini yang memiliki kesamaan akal sehat dan juga tidak memiliki keajaiban kognitif dari pemikiran manusia yang kuat.

ML/DL adalah bentuk pencocokan pola komputasi. Pendekatan yang biasa dilakukan adalah mengumpulkan data tentang tugas pengambilan keputusan. Anda memasukkan data ke dalam model komputer ML/DL. Model-model tersebut berusaha menemukan pola matematika. Setelah menemukan pola tersebut, jika ditemukan, sistem AI kemudian akan menggunakan pola tersebut saat menemukan data baru. Setelah penyajian data baru, pola berdasarkan data "lama" atau historis diterapkan untuk membuat keputusan saat ini.

Saya pikir Anda bisa menebak ke mana arahnya. Jika manusia yang telah membuat keputusan berdasarkan pola telah memasukkan bias yang tidak diinginkan, kemungkinan besar data mencerminkan hal ini dengan cara yang halus namun signifikan. Pencocokan pola komputasi Machine Learning atau Deep Learning hanya akan mencoba meniru data secara matematis. Tidak ada kesamaan akal sehat atau aspek hidup lainnya dari pemodelan buatan AI itu sendiri.

Selain itu, pengembang AI mungkin juga tidak menyadari apa yang sedang terjadi. Matematika misterius dalam ML/DL mungkin menyulitkan untuk menemukan bias yang sekarang tersembunyi. Anda berhak berharap dan berharap bahwa pengembang AI akan menguji bias yang berpotensi terkubur, meskipun ini lebih sulit daripada yang terlihat. Ada peluang kuat bahwa bahkan dengan pengujian yang relatif ekstensif akan ada bias yang masih tertanam dalam model pencocokan pola ML/DL.

Anda agak bisa menggunakan pepatah terkenal atau terkenal dari sampah-masuk sampah-keluar. Masalahnya, ini lebih mirip dengan bias-in yang secara diam-diam dimasukkan sebagai bias yang terendam dalam AI. Algoritma pengambilan keputusan (ADM) AI secara aksiomatis menjadi sarat dengan ketidakadilan.

Tidak baik.

Mari kembali ke fokus kita pada Asimetri AI.

Rekap singkat tentang tiga rekomendasi saya yang disebutkan di atas adalah ini:

1) Menjadi sadar bahwa AI Asimetri ada dan berkembang

2) Berusaha untuk memastikan bahwa Asimetri AI dibatasi oleh Etika AI

3) Cobalah untuk bersaing dengan AI Asimetri dengan dipersenjatai dengan AI

Kita akan melihat lebih dekat pada poin terakhir dari memerangi api dengan api.

Bayangkan ketika mencari pinjaman, Anda memiliki AI yang bekerja di sisi Anda. Ini mungkin aplikasi berbasis AI di ponsel cerdas Anda yang dirancang untuk mendapatkan pinjaman. Ini bukan aplikasi oleh salah satu bank dan sebaliknya dirancang secara independen untuk bertindak atas nama Anda. Saya telah merinci aplikasi semacam ini di buku saya tentang bot malaikat pelindung berbasis AI, lihat tautannya di sini.

Saat Anda mengajukan pinjaman, Anda dapat merujuk ke aplikasi ini saat Anda melalui proses aplikasi oleh AI lainnya. Kedua sistem AI ini berbeda dan benar-benar terpisah satu sama lain. AI di smartphone Anda telah “dilatih” untuk mengetahui semua trik yang digunakan oleh AI lainnya. Dengan demikian, jawaban yang Anda masukkan ke dalam AI bank akan didasarkan pada apa yang disarankan AI Anda kepada Anda.

Varian lain terdiri dari AI Anda menjawab pertanyaan yang diajukan oleh AI lainnya. Sejauh yang bisa dipastikan oleh AI lainnya, Andalah yang memasukkan jawabannya. Anda mungkin hanya menonton interaksi yang terjadi antara dua sistem AI yang bertarung. Ini memungkinkan Anda untuk melihat apa yang ditawarkan AI Anda. Selain itu, Anda berpotensi dapat menyesuaikan AI Anda tergantung pada apakah Anda puas dengan apa yang dilakukan AI Anda atas nama Anda.

Saya telah memperkirakan bahwa kita semua akan secara bertahap dipersenjatai dengan AI yang akan berada di pihak kita dalam situasi Asimetri AI ini.

Mari kita pertimbangkan bagaimana ini akan berhasil.

Ini adalah dampak landasan pada kondisi Asimetri AI yang telah saya buat:

• Meratakan Asimetri AI sesuai keinginan Anda (Membawa Anda ke atas, berharap untuk mencapai tingkat yang sama)
• Memacu Asimetri AI untuk mendukung Anda (meningkatkan Anda ke keuntungan ketika sudah sama)
• Meningkatkan Asimetri AI untuk kebaikan Anda yang luar biasa (mendapatkan keuntungan yang lebih luas ketika sudah pada keuntungan)
• Meremehkan Asimetri AI yang Tidak Diinginkan secara tidak sengaja (ketika Anda memiliki keuntungan yang sudah ada sebelumnya dan AI secara tidak sengaja menarik Anda ke bawah)

Saatnya menyelami kemungkinan-kemungkinan yang menarik ini.

Meratakan Asimetri AI Sesuai Keinginan Anda

Meratakan Asimetri AI adalah pertimbangan yang paling jelas dan paling sering dibahas, yaitu bahwa Anda akan mempersenjatai diri dengan AI untuk mencoba dan berhadapan langsung dengan AI yang digunakan oleh pihak lain dalam masalah yang dihadapi. Pengaturan Asimetri AI dimulai dengan Anda pada posisi yang tidak menguntungkan. Anda tidak memiliki AI di sudut Anda. Anda berada di sisi yang rendah. Sisi lain memang memiliki AI dan mereka berada di tempat yang lebih tinggi.

Dengan demikian, Anda dengan bijak mempersenjatai diri dengan AI yang bertujuan untuk menempatkan Anda dan AI lainnya dalam kondisi yang sama.

Satu nuansa penting dan mungkin mengejutkan yang perlu diingat adalah bahwa tidak selalu sistem AI yang digunakan akan seimbang satu sama lain secara merata. Anda mungkin mempersenjatai diri dengan AI yang akan kami katakan kurang kuat daripada AI yang digunakan pihak lain. Dalam hal ini, Anda telah meningkatkan posisi turun Anda, untungnya, meskipun Anda sekarang tidak sepenuhnya setara dengan pihak lain dan AI-nya.

Itu sebabnya saya menyebut ini sebagai meratakan Asimetri AI. Anda mungkin bisa mempersempit celah, meski tidak sepenuhnya menutup celah. Tujuan utamanya adalah menggunakan AI di pihak Anda yang akan membawa Anda ke postur yang benar-benar setara. Masalahnya, ini mungkin atau mungkin tidak layak. Sisi lain bisa dibayangkan memiliki beberapa AI yang sangat mahal dan Anda mencoba untuk bersaing dengan versi mart hemat ibu-dan-pop AI.

Tidak semua AI sama.

Memacu Asimetri AI Untuk Mendukung Anda

Keadaan ini bukan sesuatu yang banyak dibicarakan hari ini, sebagian karena jarang terjadi sekarang. Suatu hari nanti, ini akan menjadi hal biasa. Idenya adalah seandainya Anda tidak memiliki AI namun tetap berada di posisi yang sama dengan pihak yang memiliki AI.

Bagus untukmu.

Manusia memang punya akal tentang mereka.

Tetapi Anda mungkin ingin mendapatkan keuntungan dari pihak lain. Mempersenjatai diri dengan AI membawa Anda ke tempat yang lebih tinggi. Anda sekarang memiliki akal dan AI terpercaya Anda di tangan. Anda telah mendapatkan keuntungan yang mungkin akan menang atas AI dari pihak lain.

Meningkatkan Asimetri AI Untuk Kebaikan Luar Biasa Anda

Menggunakan logika serupa sebagai aspek memacu Asimetri AI atas nama Anda, misalkan Anda sudah berada di atas kemampuan pihak lain yang menggunakan AI. Ergo, Anda tidak memulai dengan postur yang sama. Anda untungnya sudah berada di sisi atas.

Anda mungkin ingin tetap mendapatkan keuntungan yang lebih besar. Karena itu, Anda mempersenjatai diri dengan AI. Ini mengambil kepala dan bahu Anda di atas sisi lain.

Meremehkan Asimetri AI Secara Tidak Sengaja Untuk Ketidaksukaan Anda

Saya ragu Anda ingin mendengar tentang kemungkinan ini. Perlu diketahui bahwa berurusan dengan AI tidak semua mawar dan kue es krim.

Bisa jadi ketika Anda mempersenjatai diri dengan AI, Anda sebenarnya melemahkan diri sendiri. Jika Anda sudah kurang dari AI di sisi lain, Anda sekarang berada di lubang yang lebih dalam. Jika Anda berada pada kondisi yang sama, Anda sekarang berada pada posisi yang kurang menguntungkan. Jika Anda berada di atas sisi lain, Anda sekarang sama dengan atau di bawahnya.

Bagaimana itu bisa terjadi?

Anda mungkin terkejut memikirkan bahwa AI yang Anda adopsi akan menyesatkan Anda. Ini dengan mudah bisa terjadi. Hanya karena Anda memiliki AI di sudut Anda tidak berarti itu berguna. Anda mungkin menggunakan AI dan itu memberikan saran yang menurut Anda tidak tepat, tetapi Anda tetap memutuskan untuk menggunakannya. Logika Anda saat itu adalah karena Anda bersusah payah untuk mendapatkan AI, Anda mungkin juga bergantung padanya.

AI yang Anda gunakan mungkin rusak. Atau mungkin dirancang dengan buruk. Ada banyak alasan mengapa AI mungkin memberi Anda saran yang goyah. Mereka yang secara membabi buta menerima apa pun yang dikatakan AI untuk dilakukan pasti akan menemukan diri mereka dalam dunia yang terluka. Saya telah membahas kesulitan seperti itu di kolom saya, seperti tautannya di sini.

Intinya adalah sama sekali tidak ada jaminan bahwa hanya karena Anda mempersenjatai diri dengan AI, Anda akan menang di game AI Asimetri.

Anda mungkin tiba di lapangan permainan yang setara. Anda mungkin mendapatkan keuntungan. Dan, sayangnya, Anda harus berhati-hati karena bisa jadi Anda tenggelam ke level bawah saat dipersenjatai dengan AI.

Sampai taraf tertentu, itulah mengapa Etika AI dan AI Etis adalah topik yang sangat penting. Ajaran Etika AI membuat kita tetap waspada. Teknolog AI terkadang dapat disibukkan dengan teknologi, terutama pengoptimalan teknologi tinggi. Mereka tidak perlu mempertimbangkan konsekuensi sosial yang lebih besar. Memiliki pola pikir Etika AI dan melakukannya secara integral dengan pengembangan dan penanganan AI sangat penting untuk menghasilkan AI yang sesuai.

Selain menerapkan Etika AI, ada pertanyaan terkait apakah kita harus memiliki undang-undang untuk mengatur berbagai penggunaan AI. Undang-undang baru sedang dibahas di tingkat federal, negara bagian, dan lokal yang menyangkut jangkauan dan sifat bagaimana AI harus dirancang. Upaya penyusunan dan pengesahan undang-undang tersebut dilakukan secara bertahap. Etika AI berfungsi sebagai pengganti sementara, paling tidak, dan hampir pasti akan secara langsung dimasukkan ke dalam undang-undang baru tersebut.

Ketahuilah bahwa beberapa orang dengan tegas berpendapat bahwa kita tidak memerlukan undang-undang baru yang mencakup AI dan bahwa undang-undang kita yang ada sudah cukup. Bahkan, mereka memperingatkan sebelumnya bahwa jika kita memberlakukan beberapa undang-undang AI ini, kita akan membunuh angsa emas dengan menekan kemajuan AI yang menawarkan keuntungan sosial yang sangat besar. Lihat misalnya liputan saya di tautannya di sini dan tautannya di sini.

Pada titik diskusi yang berat ini, saya yakin Anda menginginkan beberapa contoh ilustratif yang mungkin menunjukkan topik ini. Ada satu set contoh khusus dan pasti populer yang dekat dengan hati saya. Anda tahu, dalam kapasitas saya sebagai ahli AI termasuk konsekuensi etis dan hukum, saya sering diminta untuk mengidentifikasi contoh realistis yang menunjukkan dilema Etika AI sehingga sifat topik yang agak teoretis dapat lebih mudah dipahami. Salah satu area paling menggugah yang secara gamblang menghadirkan kebingungan AI etis ini adalah munculnya mobil self-driving sejati berbasis AI. Ini akan berfungsi sebagai kasus penggunaan yang berguna atau contoh untuk diskusi yang cukup tentang topik tersebut.

Inilah pertanyaan penting yang patut direnungkan: Apakah kemunculan mobil self-driving sejati berbasis AI menjelaskan apa pun tentang Asimetri AI, dan jika demikian, apa yang ditampilkan ini?

Izinkan saya sejenak untuk membongkar pertanyaan itu.

Pertama, perhatikan bahwa tidak ada pengemudi manusia yang terlibat dalam mobil self-driving sejati. Perlu diingat bahwa mobil self-driving sejati digerakkan melalui sistem mengemudi AI. Tidak ada kebutuhan untuk pengemudi manusia di belakang kemudi, juga tidak ada ketentuan bagi manusia untuk mengemudikan kendaraan. Untuk liputan saya yang luas dan berkelanjutan tentang Kendaraan Otonom (AV) dan terutama mobil self-driving, lihat tautannya di sini.

Saya ingin mengklarifikasi lebih lanjut apa yang dimaksud dengan mobil self-driving sejati.

Memahami Tingkatan Mobil Self-Driving

Sebagai klarifikasi, mobil self-driving sejati adalah mobil di mana AI menggerakkan mobil sepenuhnya sendiri dan tidak ada bantuan manusia selama tugas mengemudi.

Kendaraan tanpa pengemudi ini dianggap Level 4 dan Level 5 (lihat penjelasan saya di tautan ini di sini), sementara mobil yang memerlukan pengemudi manusia untuk berbagi upaya mengemudi biasanya dianggap di Level 2 atau Level 3. Mobil yang berbagi tugas mengemudi digambarkan sebagai semi-otonom, dan biasanya berisi berbagai add-on otomatis yang disebut sebagai ADAS (Advanced Driver-Assistance Systems).

Belum ada mobil self-driving sejati di Level 5, dan kami bahkan belum tahu apakah ini mungkin untuk dicapai, atau berapa lama waktu yang dibutuhkan untuk sampai ke sana.

Sementara itu, upaya Level 4 secara bertahap mencoba mendapatkan daya tarik dengan menjalani uji coba jalan raya umum yang sangat sempit dan selektif, meskipun ada kontroversi mengenai apakah pengujian ini harus diizinkan sendiri (kita semua adalah kelinci percobaan hidup atau mati dalam sebuah percobaan terjadi di jalan raya dan byways kami, beberapa berpendapat, lihat liputan saya di tautan ini di sini).

Karena mobil semi-otonom membutuhkan pengemudi manusia, adopsi jenis-jenis mobil itu tidak akan jauh berbeda dari mengendarai kendaraan konvensional, jadi tidak banyak yang baru untuk membahasnya mengenai topik ini (meskipun, seperti yang akan Anda lihat suatu saat, poin-poin yang dibuat selanjutnya secara umum berlaku).

Untuk mobil semi-otonom, penting bahwa masyarakat perlu diperingatkan tentang aspek mengganggu yang telah muncul akhir-akhir ini, yaitu bahwa meskipun para pengemudi manusia yang terus memposting video diri mereka tertidur di belakang kemudi mobil Level 2 atau Level 3 , kita semua perlu menghindari disesatkan untuk percaya bahwa pengemudi dapat mengambil perhatian mereka dari tugas mengemudi sambil mengendarai mobil semi-otonom.

Anda adalah pihak yang bertanggung jawab untuk tindakan mengemudi kendaraan, terlepas dari berapa banyak otomatisasi yang mungkin dilemparkan ke Level 2 atau Level 3.

Mobil Self-Driving Dan AI Asimetri

Untuk kendaraan self-driving sejati Level 4 dan Level 5, tidak akan ada pengemudi manusia yang terlibat dalam tugas mengemudi.

Semua penumpang akan menjadi penumpang.

AI sedang mengemudi.

Salah satu aspek yang perlu segera dibahas adalah fakta bahwa AI yang terlibat dalam sistem penggerak AI saat ini bukanlah makhluk hidup. Dengan kata lain, AI secara keseluruhan merupakan kumpulan dari pemrograman dan algoritma berbasis komputer, dan yang paling pasti tidak dapat bernalar dengan cara yang sama seperti manusia.

Mengapa penekanan tambahan ini tentang AI tidak hidup?

Karena saya ingin menggarisbawahi bahwa ketika membahas peran sistem penggerak AI, saya tidak menganggap kualitas manusia berasal dari AI. Perlu diketahui bahwa ada kecenderungan yang sedang berlangsung dan berbahaya akhir-akhir ini untuk antropomorfisasi AI. Intinya, orang-orang menugaskan perasaan mirip manusia ke AI saat ini, terlepas dari fakta yang tak terbantahkan dan tak terbantahkan bahwa AI tersebut belum ada.

Dengan klarifikasi tersebut, Anda dapat membayangkan bahwa sistem mengemudi AI tidak akan secara asli “tahu” tentang aspek mengemudi. Mengemudi dan semua yang diperlukannya perlu diprogram sebagai bagian dari perangkat keras dan perangkat lunak mobil yang dapat mengemudi sendiri.

Mari selami segudang aspek yang ikut bermain tentang topik ini.

Pertama, penting untuk disadari bahwa tidak semua mobil self-driving AI itu sama. Setiap pembuat mobil dan perusahaan teknologi self-driving mengambil pendekatan untuk merancang mobil self-driving. Dengan demikian, sulit untuk membuat pernyataan menyeluruh tentang apa yang akan dilakukan atau tidak dilakukan oleh sistem penggerak AI.

Selain itu, setiap kali menyatakan bahwa sistem penggerak AI tidak melakukan beberapa hal tertentu, ini nantinya dapat diambil alih oleh pengembang yang sebenarnya memprogram komputer untuk melakukan hal itu. Langkah demi langkah, sistem penggerak AI secara bertahap ditingkatkan dan diperluas. Batasan yang ada saat ini mungkin tidak ada lagi di iterasi atau versi sistem yang akan datang.

Saya harap itu memberikan peringatan yang cukup untuk mendasari apa yang akan saya hubungkan.

Mari kita buat sketsa skenario yang menampilkan Asimetri AI.

Renungkan masalah yang tampaknya tidak penting di mana mobil self-driving akan berkeliaran untuk menjemput penumpang. Ini sepertinya topik yang sangat tidak berbahaya.

Pada awalnya, asumsikan bahwa mobil self-driving AI akan berkeliaran di seluruh kota. Siapa pun yang ingin meminta tumpangan dengan mobil self-driving pada dasarnya memiliki peluang yang sama untuk mendapatkannya. Secara bertahap, AI mulai membuat mobil self-driving tetap berkeliaran hanya di satu bagian kota. Bagian ini adalah penghasil uang yang lebih besar dan AI telah diprogram untuk mencoba dan memaksimalkan pendapatan sebagai bagian dari penggunaan di masyarakat luas (ini menggarisbawahi pola pikir yang mendasari pengoptimalan, yaitu berfokus hanya pada satu metrik tertentu dan mengabaikan faktor penting lainnya dalam prosesnya).

Anggota masyarakat di bagian kota yang miskin ternyata lebih kecil kemungkinannya untuk mendapatkan tumpangan dari mobil yang dapat mengemudi sendiri. Ini karena mobil self-driving lebih jauh dan berkeliaran di bagian kota yang berpenghasilan lebih tinggi. Ketika permintaan datang dari bagian kota yang jauh, permintaan lain dari lokasi yang lebih dekat akan mendapatkan prioritas yang lebih tinggi. Akhirnya, ketersediaan mendapatkan mobil self-driving di tempat lain selain bagian kota yang lebih kaya hampir tidak mungkin, sungguh menjengkelkan bagi mereka yang tinggal di daerah yang sekarang kekurangan sumber daya.

Keluarlah impian mobilitas-untuk-semua kebanggaan yang seharusnya diwujudkan oleh mobil self-driving.

Anda dapat menegaskan bahwa AI sama sekali mendarat pada bentuk bias statistik dan komputasi, mirip dengan bentuk diskriminasi proksi (juga sering disebut sebagai diskriminasi tidak langsung). Sadarilah bahwa AI tidak diprogram untuk menghindari lingkungan yang lebih miskin itu. Mari kita perjelas tentang hal itu dalam contoh ini. Tidak, itu dirancang untuk hanya mengoptimalkan pendapatan, tujuan yang tampaknya dapat diterima, tetapi ini dilakukan tanpa pengembang AI memikirkan konsekuensi potensial lainnya. Optimalisasi itu pada gilirannya tanpa disadari dan tak terhindarkan mengarah pada hasil yang tidak diinginkan.

Seandainya mereka memasukkan pertimbangan Etika AI sebagai bagian dari pola pikir pengoptimalan mereka, mereka mungkin telah menyadari sebelumnya bahwa kecuali jika mereka membuat AI untuk mengatasi ukuran berlebihan semacam ini pada satu metrik saja, mereka mungkin telah menghindari hasil buruk seperti itu. Untuk informasi lebih lanjut tentang jenis masalah ini yang kemungkinan akan ditimbulkan oleh adopsi kendaraan otonom dan mobil self-driving secara luas, lihat liputan saya di tautan ini di sini, menjelaskan studi yang dipimpin Harvard yang saya tulis bersama tentang topik ini.

Bagaimanapun, asumsikan bahwa kuda itu sudah keluar dari gudang dan situasinya tidak segera menerima solusi menyeluruh.

Apa yang mungkin dilakukan oleh mereka yang ingin menggunakan mobil self-driving itu?

Pendekatan yang paling jelas adalah bekerja dengan para pemimpin komunitas untuk membuat pembuat mobil atau perusahaan teknologi swakemudi mempertimbangkan kembali bagaimana mereka menyiapkan AI. Mungkin memberi tekanan pada lisensi atau izin apa pun yang telah diberikan untuk penyebaran mobil self-driving di kota atau kota itu. Ini kemungkinan cara yang layak untuk membawa perubahan positif, meskipun mungkin perlu beberapa saat sebelum upaya itu membuahkan hasil.

Sudut lain adalah mempersenjatai diri dengan AI.

Bayangkan seseorang dengan cerdik merancang aplikasi berbasis AI yang bekerja pada ponsel cerdas Anda dan menangani AI pembuat mobil atau operator armada yang menerima permintaan tumpangan. Bisa jadi AI yang Anda gunakan mengeksploitasi elemen kunci dari AI lain sehingga permintaan untuk mobil self-driving oleh Anda diberi prioritas tinggi. Perhatikan bahwa saya tidak menyarankan bahwa sesuatu yang ilegal sedang terjadi, tetapi sebaliknya bahwa AI di pihak Anda telah dikembangkan berdasarkan "fitur" yang ditemukan atau bahkan celah di AI lainnya.

Kesimpulan

Kisah tentang berani melawan AI dari operator armada mobil self-driving dengan dipersenjatai dengan AI memunculkan kontroversi dan pertimbangan Etika AI tambahan.

Sebagai contoh:

• Jika satu orang dapat menggunakan AI untuk memberi mereka keuntungan dibandingkan AI dari beberapa sistem lain, seberapa jauh hal ini dapat terjadi dalam hal kemungkinan melintasi batas Etika AI (Saya meyakinkan mobil self-driving untuk datang kepada saya dan teman-teman saya, dengan mengesampingkan semua yang lain)?
• Juga, apakah ada kemiripan pertimbangan Etika AI bahwa jika seseorang mengetahui atau dipersenjatai dengan AI untuk berperang dengan AI lain, apakah orang-orang yang tersisa yang tidak memiliki AI penyeimbang itu entah bagaimana disiagakan terhadap AI dan dapat mempersenjatai diri. sesuai juga?

Pada akhirnya, semua ini membawa kita ke masa depan yang tampak menakutkan, terdiri dari perlombaan senjata AI. Siapa yang akan memiliki AI yang mereka butuhkan untuk berkeliling dan bertahan hidup dan siapa yang tidak? Akankah selalu ada satu AI lagi yang muncul dan memicu kebutuhan akan AI penyeimbang?

Carl Sagan, ilmuwan terhormat, memberikan kebijaksanaan bijak ini tentang perlombaan senjata yang sangat dahsyat: “Perlombaan senjata nuklir seperti dua musuh bebuyutan yang berdiri di pinggang jauh di dalam bensin, satu dengan tiga korek api, yang lain dengan lima korek api.”

Kita harus secara tegas bertujuan untuk menjaga kaki kita tetap kering dan kepala kita jernih ketika datang ke perlombaan senjata AI yang terus membayangi.