Etika AI Dan Pertandingan Gulat Geopolitik Tentang Siapa yang Akan Memenangkan Perlombaan Untuk Mencapai AI Sejati

Dunia sedang dalam perlombaan panik.

Kekuatan geopolitik menegaskan bahwa pemenang akan membawa pulang semua daging asap, seolah-olah.

Ras apa yang sedang dilancarkan dan dikejar dengan keras?

Ini adalah ras AI.

Anda mungkin bisa lebih tepat menyebut ini sebagai perlombaan untuk mencapai benar Artificial Intelligence (AI), saat ini lebih lengkap disebut sebagai Artificial General Intelligence (AGI). Kami ingin entah bagaimana tiba di AI yang tampaknya paling tinggi atau dikenal sebagai AGI yang sebanding dengan kecerdasan manusia. Kami belum ada di sana. Memang, terlepas dari segala macam berita utama yang liar dan berani memproklamirkan, kita tidak tahu kapan atau apakah kita akan mencapai tanda standar itu. AI saat ini jauh lebih sedikit kemampuannya daripada kecerdasan manusia yang menyeluruh, meskipun tentu saja ada banyak cara yang lebih sempit di mana AI telah membuat terobosan yang mengesankan, seperti bisa bermain catur kelas dunia atau melakukan tugas-tugas lain yang relatif terbatas.

Cincin emas meskipun adalah munculnya AI yang menunjukkan kecerdasan manusia dari sifat saleh dan kedalaman yang mirip dengan manusia. Ini adalah cawan suci para peneliti dan praktisi AI. Dari waktu ke waktu, ada klaim palsu telah melewati garis finis balapan AI, yang telah saya bantah di kolom saya di tautannya di sini. Mereka yang mencoba membuat pertengkaran melintasi garis finis membingungkan masyarakat umum dan kadang-kadang melakukannya dengan kepolosan yang bersemangat sementara di lain waktu memiliki motif yang dipertanyakan secara serius. Secara keseluruhan, ini menimbulkan pertimbangan Etika AI yang cukup signifikan dan vital. Untuk liputan saya yang berkelanjutan dan ekstensif tentang Etika AI dan AI Etis, lihat tautannya di sini dan tautannya di sini, Hanya untuk beberapa nama.

Bagaimanapun, tidak ada keraguan bahwa perlombaan AI sprint global sedang berlangsung. Anda akan kesulitan untuk mengklaim sebaliknya.

Pikirkan seperti ini. Jika kita telah berhasil mencapai AI atau AGI yang sebenarnya, kemungkinan besar AI footrace akan dinyatakan secara formal dan global telah berhasil diselesaikan. Saya meyakinkan Anda bahwa perhatian dunia akan tertuju pada terobosan yang begitu gemilang dan menggemparkan dunia ini. Anda akan mengetahuinya. Kita semua akan melakukannya. Garis gila AI akan secara efektif tidak ada lagi, meskipun mungkin versi sekunder mungkin terjadi yang melibatkan mereka yang belum mencapai AI sejati yang bekerja dengan tergesa-gesa untuk mengejar ketinggalan. Ada juga masalah yang meresahkan tentang bagaimana kita akan mengendalikan atau mengelola AGI jika atau ketika kita sampai di sana.

Belum ada orang atau entitas atau bangsa yang dapat mengklaim mahkota produksi AI atau AGI yang benar.

Sementara itu, pertikaian tangan yang luar biasa dan tak henti-hentinya terjadi tentang bangsa (atau negara-negara) mana yang memimpin dan siapa yang tertinggal lebih jauh. Asumsinya adalah jika Anda bukan yang pertama, Anda akan tertinggal di tanah. Anda akan memakan sisa dari pemenang AI. Anda berpotensi akan selamanya ditundukkan ke bangsa atau negara yang membuat lompatan yang digembar-gemborkan menjadi AI atau AGI sejati.

Sebagai tambahan cepat dan untuk memudahkan kata-kata dari diskusi ini, saya selanjutnya di sini akan menggunakan "AGI" setiap kali saya ingin memanggil aura AI yang sebenarnya. Penggunaan frasa yang agak baru "AGI" terkadang menggelegar bagi mereka yang tidak terbiasa melihatnya digunakan. Kita semua akrab dengan "AI" dan Anda mungkin terganggu melihat akronim "AGI" digunakan sebagai gantinya. Izinkan saya untuk menjelaskan mengapa ini secara bertahap muncul sebagai tren bertele-tele.

Sebagian alasan mengapa AGI meningkat di arena vernakular AI adalah karena hanya menyatakan "AI" kini telah menjadi ungkapan yang sayangnya dipermudah. Tidak ada yang tahu apakah AI yang Anda sebutkan adalah varian AI yang nyaris tidak ada atau infus AI kemajuan yang kuasi-lebih baik, atau mungkin mengacu pada AI yang sepenuhnya disamakan dengan manusia suatu hari nanti. Untuk mengatasi overloading "AI" sebagai slogannya, moniker AGI telah mendapatkan preferensi oleh orang-orang dalam bidang AI yang ingin secara khusus dan khususnya menyinggung AI yang sebenarnya.

Jadi, singkatnya, anggap penyebutan saya tentang AGI sama dengan mengatakan "AI sejati" kaliber kuat yang mirip dengan kecerdasan manusia, terima kasih.

Mari kita menarik napas dalam-dalam dan dengan penuh perhatian memeriksa beberapa aspek dari perlombaan untuk mencapai AGI. Bahkan ada aspek meta yang perlu dikemukakan terlebih dahulu. Sadarilah bahwa ada sedikit mulas yang ngeri tentang penggunaan alegori dari footrace yang seharusnya atau beberapa jenis aktivitas balap lainnya sebagai metafora untuk balapan AGI. Kenapa begitu? Saya akan memberi tahu Anda sebentar tentang komplikasi dan kerumitan mengapa (beberapa orang mengatakan) footrace atau yang setara sepenuhnya menyesatkan dan sudut pandang bodoh yang berbahaya.

Berikut adalah poin-poin penting yang akan saya bahas bersama Anda dalam wacana ini:

• Jika ini adalah balapan, garis finis AGI tampaknya tidak jelas
• Ras AGI mungkin pergi ke seseorang, entitas, atau bangsa
• Metrik dan bagaimana negara dibandingkan dalam perlombaan AGI
• Manuver geopolitik dan penyelarasan untuk ras AGI
• Hukum AI internasional dan Etika AI sebagai wasit dalam perlombaan AGI

Anda mungkin ingin mengencangkan sabuk pengaman Anda saat saya memeriksa footrace AGI yang sedang berlangsung (ya, saya berani menyebutnya sebagai footrace) yang membuat hampir semua orang bergerak dengan kecepatan sangat tinggi dan tampaknya meroket di depan dalam pencarian yang membara ini. Beberapa orang mungkin mengatakan bahwa ini adalah perlombaan untuk kemajuan umat manusia, sementara yang lain memperingatkan bahwa perlombaan itu mungkin akan mendatangkan malapetaka bagi kita semua.

Waktu akan berbicara.

Jika Ini Perlombaan, Garis Finish AGI Tampaknya Tidak Jelas

Garis finis biasanya merupakan demarkasi yang agak definitif. Anda telah mencapai garis finis atau belum. Datang pendek tampaknya tidak banyak membantu Anda. Bayangkan lari 400 meter Olimpiade dan apakah Anda akan mengingat atau akan memberikan penghargaan kepada pelari yang tidak menyelesaikan lomba sama sekali (tidak pernah melewati garis finis). Tidak sepertinya.

Akankah kita tahu ketika kita telah mencapai AGI sehingga secara wajar semua sepakat bahwa garis finis telah tercapai?

Ada perbedaan pendapat yang memanas tentang demarkasi AGI.

Misalnya, anggaplah kita merancang Kecerdasan Buatan yang tampaknya sepenuhnya mampu menunjukkan kecerdasan manusia, tetapi tidak ada kesamaan perasaan di dalamnya (lihat liputan saya tentang argumen tentang kecerdasan AI di tautannya di sini). AI secara komputasi mampu meniru atau melakukan seperti kecerdasan manusia. Namun tidak ada percikan semangat atau perasaan yang kita kaitkan dengan manusia dan makhluk hidup lainnya. Apakah AGI ini terhitung sebagai pencapaian tujuan yang kita pikir kita miliki?

Beberapa akan membantah bahwa tidak masalah jika perasaan itu sendiri tampaknya dibungkus ke dalam AGI ini. Selama itu bisa menunjukkan kecerdasan manusia, penggabungan perasaan adalah sesuatu dari variasi yang berbeda yang mungkin atau mungkin tidak ingin kita lihat muncul. Sentience dalam pengertian itu adalah tambahan.

Yang lain dengan keras berpendapat bahwa satu-satunya cara untuk mencapai kecerdasan manusia di AGI adalah dengan mewujudkan perasaan secara integral. AGI dan perasaan dianggap sama, atau keduanya merupakan campuran dari perwujudan ganda yang tidak dapat dipisahkan dan tidak dapat direduksi. Untuk mendapatkan AGI, Anda harus memiliki perasaan, begitu kata mereka.

Mengesampingkan sudut perdebatan itu, perspektif lain adalah bahwa kita dapat menggunakan Tes Turing yang terkenal untuk menilai apakah AGI telah tercapai. Saya telah membahas Tes Turing secara mendalam di tautannya di sini. Singkatnya, gagasan tersebut terdiri dari memiliki manusia yang mengajukan pertanyaan kepada AGI dan jika manusia tidak dapat membedakan jawaban yang dihasilkan AGI dari jawaban manusia, maka kami akan menyatakan AGI sebagai mampu menunjukkan kecerdasan manusia.

Ada banyak masalah atau kekurangan yang sering dikaitkan dengan Tes Turing.

Misalkan manusia yang membuat pertanyaan melakukan pekerjaan yang buruk dan gagal mengajukan pertanyaan yang menyelidik. Satu kekhawatiran adalah bahwa banyak dari Model Bahasa Besar (LLM) yang tampak kuat saat ini dapat membeo kembali ke manusia konten yang LLM dilatih (yaitu, teks dan media digital sering bersumber melalui pengikisan skala besar dari Internet). Dengan demikian, manusia yang dipilih secara khusus mengajukan pertanyaan dari jenis biasa yang telah dijawab dan ada secara online dapat berpotensi "dijawab" dengan mudah oleh LLM, tetapi ini dapat diperdebatkan bukan karena perwujudan kecerdasan manusia dari kaliber AGI.

Banyak keraguan lain yang muncul. Misalkan manusia tidak dapat memahami jawabannya. Atau anggaplah manusia menipu diri mereka sendiri dengan percaya bahwa semua jawaban itu menunjukkan kecerdasan manusia. Saya bahkan telah membahas ide tipis oleh beberapa orang bahwa yang perlu kita lakukan hanyalah bertanya kepada AI apakah itu AGI atau makhluk hidup, yang saya jelaskan bukanlah bentuk bukti AGI yang sangat meyakinkan, lihat tautannya di sini.

Akhirnya, sebagai satu tambahan pemikiran, apakah kita perlu mencapai garis finis sepenuhnya untuk mempertimbangkan bahwa AGI telah tercapai?

Saya sebutkan sebelumnya bahwa kita biasanya melupakan mereka yang tidak mencapai garis finis. Ini mungkin tidak analog dengan ras AGI. Saya percaya kasus yang menarik dapat dibuat bahwa jika kita mampu mencapai cara yang substansial menuju AGI, kita sudah akan menemukan diri kita dalam keadaan takjub dan manfaat besar atau masalah besar. Anda lihat, banyak hasil penting dan sangat berguna yang dapat muncul dari AGI yang hampir ada. Mencapai jarak pendek tidak akan terlalu bermasalah karena tidak menyelesaikan lomba lari 400 meter, terutama karena itu mungkin menjadi fondasi penting untuk menuju versi AGI yang lebih lengkap (mungkin menjadi maraton sebagai perbandingan).

Metafora pencapaian AGI sebagai jenis footrace atau yang setara terkadang tidak memuaskan dan tidak memadai.

Ras AGI Mungkin Pergi Ke Seseorang, Entitas, Atau Bangsa

Beberapa memendam gagasan mimpi bahwa AGI akan dicapai oleh beberapa orang yang bekerja di garasi sambil mengenakan piyama mereka dan menjadi singkapan eksperimen komputerisasi inventif gila yang telah mereka kerjakan selama bertahun-tahun. Itu adalah kiasan teknologi tinggi klasik dari serigala tunggal.

Maaf untuk melaporkan bahwa ini adalah proposisi peluang yang sangat rendah.

Kemungkinan yang lebih besar adalah bahwa entitas seperti bisnis atau tim riset akan menjadi pengambil keputusan AGI. Keyakinan yang kuat dan berlaku adalah bahwa dibutuhkan sebuah desa untuk sampai ke AGI. Serigala tunggal tidak akan memiliki sumber daya atau wawasan sendiri untuk mencapai AGI. Mereka mungkin berkontribusi pada pencarian. Mereka mungkin menyediakan potongan-potongan yang dibutuhkan untuk teka-teki. Mereka tidak akan mampu mengumpulkan seluruh kit dan caboodle.

Berbicara tentang desa, sudut pandang lain yang dipegang teguh adalah bahwa hanya negara-negara yang mampu mencapai AGI. Melalui kombinasi dari orang-orang, bisnis, akademisi, dan semua perilaku entitas lainnya dalam negara-bangsa, AGI akan tiba sebagai hasil kerja gabungan dari totalitas nasional. Tingkat perhatian unit untuk pemenang dalam perlombaan ini adalah pada dasar negara-bangsa, bukan pada sesuatu yang lebih tersebar, bentuk bebas atau individualistis.

Singkatnya, jika dibutuhkan satu desa, desa tersebut akan berskala nasional, dengan demikian negara-bangsa akan ditunjuk sebagai pelari yang melintasi garis finis dalam lomba AGI.

Metrik Dan Bagaimana Bangsa Dibandingkan Dalam Perlombaan AGI

Ambillah mengingat bahwa pencapaian AGI akan didasarkan pada tingkat negara-bangsa.

Untuk mengulangi, kita tidak tahu pasti, tetapi tampaknya asumsi yang masuk akal.

Pertimbangkan konsekuensi dari dasar negara-bangsa. Misalkan serigala tunggal berhasil mencapai AGI terlebih dahulu dan percaya bahwa pekerjaan mereka melampaui negara-bangsa tempat mereka menjadi anggota. Orang ini menyatakan bahwa mereka bukan dari negara-bangsa mana pun dalam hal AGI yang dibuat. Apakah kita masih akan memberikan penghargaan kepada negara-bangsa itu dan akankah AGI berada dalam kendali dan lingkup negara itu?

Bayangkan alternatif lain bahwa konglomerat multi-nasional besar tiba di AGI terlebih dahulu. Negara mana yang dapat mengatakan bahwa AGI adalah "barang" mereka untuk digunakan dan disebarkan (apakah itu akan ditafsirkan sebagai properti atau diambil alih-alih varian dari badan hukum)? Mungkin semua negara tempat perusahaan itu berada akan mendapatkan kredit yang sama. Atau mungkin hanya di mana pun kantor pusat formal ditempatkan secara geografis. Ini bisa menjadi pemisahan kompleks dari pot emas yang sesungguhnya.

Bagaimanapun, pendapat umum umum adalah bahwa negara-bangsa akan menjadi penentu penting untuk mencapai AGI. Sebuah negara yang mendorong penelitian dan pengembangan AI dalam upaya nasionalnya mungkin akan mencapai AGI lebih cepat daripada negara lain yang tidak melakukan hal yang sama.

Ada pandangan yang dominan bahwa ras AI adalah ras nasional.

Isu yang mengharukan adalah bagaimana kita bisa memastikan apakah suatu bangsa berada di depan atau di belakang bangsa lain dalam perlombaan AGI.

Dalam lomba lari konvensional, kita dapat dengan mudah mengidentifikasi metrik yang dapat digunakan untuk menentukan pelari mana yang berkinerja baik dan mana yang tidak. Kecepatan pelari dapat dengan mudah dihitung. Ini tidak menjamin bahwa mereka akan menyelesaikan lebih dulu, tapi setidaknya menunjukkan janji. Jarak fisik antara pelari dan jarak yang tersisa ke garis finis jelas merupakan kriteria vital yang dapat dengan mudah kita ukur.

Perlombaan AGI tidak memiliki bentuk metrik atau pengukuran yang terjamin seperti itu.

Kami menggunakan segala macam tindakan pengganti karena tidak ada cara pasti untuk menghitung di mana garis akhir dan seberapa jauh kami dari itu.

Mari kita lihat jenis metrik yang secara konvensional dipertimbangkan. Sumber pengukuran global terkait AI yang sangat berguna dikumpulkan setiap tahun dan diterbitkan oleh Stanford Institute for Human-Centered AI (HAI) di Stanford University. Laporan ini tersedia online secara gratis dan rilis terbaru berjudul Laporan Tahunan Indeks AI 2022 (berdasarkan data yang dikumpulkan untuk tahun 2020-2021). Saya akan berbagi dengan Anda beberapa momen penting dari perbandingan nasional yang disebutkan dalam kompilasi terbaru mereka.

Metrik yang digunakan untuk mengukur kemajuan nasional dan internasional pada AI cenderung mencakup sedikit dari segalanya, kadang-kadang berbatasan dengan penyertaan wastafel dapur yang sebenarnya juga.

Jenis tindakan yang biasanya diperiksa meliputi:

• Jumlah artikel penelitian AI yang dikaitkan dengan negara tertentu
• Jumlah referensi yang dikutip untuk artikel AI dari negara tertentu
• Jumlah jurnal AI yang berbasis di negara tertentu
• Jumlah konferensi AI yang terjadi di negara tertentu
• Jumlah konferensi AI yang disponsori oleh negara tertentu
• Jumlah paten terkait AI yang diberikan di negara tertentu
• Jumlah perusahaan rintisan AI di negara tertentu
• Jumlah pekerjaan AI di negara tertentu
• Jumlah pekerjaan AI baru atau perekrutan di negara tertentu
• Jumlah undang-undang AI atau undang-undang legislatif yang diperkenalkan di negara tertentu
• Jumlah undang-undang AI yang disahkan atau diberlakukan di negara tertentu
• Lainnya

Pertimbangkan indikasi kontemporer berikut dari HAI AI Index 2022:

• Kutipan Publikasi AI: “Pada kutipan publikasi repositori AI, Amerika Serikat menempati urutan teratas dengan 38.6% dari keseluruhan kutipan pada tahun 2021, membangun keunggulan dominan atas Uni Eropa ditambah Inggris (20.1%) dan China (16.4%).
• Jurnal/Konferensi AI: “Pada tahun 2021, China terus memimpin dunia dalam jumlah jurnal AI, konferensi, dan publikasi repositori—63.2% lebih tinggi dari Amerika Serikat dengan ketiga jenis publikasi digabungkan. Sementara itu, Amerika Serikat memegang keunggulan dominan di antara kekuatan AI utama dalam jumlah kutipan konferensi dan repositori.”
• Paten AI: “China sekarang mengajukan lebih dari setengah paten AI dunia dan diberikan sekitar 6%, hampir sama dengan Uni Eropa plus Inggris. Amerika Serikat, yang mengajukan hampir semua paten di Amerika Utara, melakukannya dengan kecepatan sepertiga dari China. Dibandingkan dengan meningkatnya jumlah paten AI yang diterapkan dan diberikan, China memiliki jumlah aplikasi paten yang jauh lebih besar (87,343 pada tahun 2021) daripada yang diberikan (1,407 pada tahun 2021).
• Perusahaan AI yang Baru Didanai: “Data investasi dengan jumlah perusahaan AI yang baru didanai di setiap wilayah. Untuk tahun 2021, Amerika Serikat memimpin dengan 299 perusahaan, diikuti oleh China dengan 119, Inggris dengan 49, dan Israel dengan 28. Kesenjangan antara masing-masing perusahaan signifikan.”
• Kecepatan Perekrutan AI: “Selandia Baru, Hong Kong, Irlandia, Luksemburg, dan Swedia adalah negara atau wilayah dengan pertumbuhan tertinggi dalam perekrutan AI dari 2016 hingga 2021.”
• Postingan Pekerjaan AI: “Pada tahun 2021, California, Texas, New York, dan Virginia adalah negara bagian dengan jumlah posting pekerjaan AI tertinggi di Amerika Serikat, dengan California memiliki lebih dari 2.35 kali jumlah posting sebagai Texas, yang terbesar kedua. Washington, DC, memiliki tingkat posting pekerjaan AI terbesar dibandingkan dengan jumlah keseluruhan posting pekerjaan
• Tindakan Legislatif AI: “Analisis Indeks AI dari catatan legislatif tentang AI di 25 negara menunjukkan bahwa jumlah RUU yang mengandung 'kecerdasan buatan' yang disahkan menjadi undang-undang tumbuh dari hanya 1 pada tahun 2016 menjadi 18 pada tahun 2021. Spanyol, Inggris, dan Amerika Serikat melewati jumlah tertinggi tagihan terkait AI pada tahun 2021, dengan masing-masing mengadopsi tiga.”

Kami dapat sangat mengagumi dan menghargai kerja keras yang terlibat dalam menyusun statistik pelari negara-bangsa untuk perlombaan AGI.

Skeptis meskipun berdalih sedikit tentang menggunakan semua jenis metrik dalam keterlibatan ras AGI.

Pertanyaan peliknya adalah apakah Anda dapat menarik garis lurus apa pun dari jumlah artikel AI atau konferensi AI di negara tertentu hingga pencapaian akhir AGI. Hal yang sama dikatakan untuk jumlah pekerjaan AI, jumlah perusahaan AI, dan banyak metrik lainnya. Bisa jadi hitungan tersebut tidak ada hubungannya dengan pencapaian AGI. Argumennya adalah bahwa ukuran-ukuran itu lebih panas daripada cahaya.

Argumen tandingannya adalah bahwa kita harus mencoba dan mengukur di mana kita berada dan ke mana kita akan pergi. Menempatkan kepala Anda di pasir sepertinya bukan cara yang layak untuk menilai apakah kita sedang menuju AGI atau mungkin lebih jauh dari AGI. Diharapkan dan umumnya diasumsikan bahwa semakin banyak energi dan perhatian untuk membuat kemajuan dalam AI, semakin dekat kita dengan AGI. Metrik ini adalah yang terbaik yang dapat kita lakukan untuk mengumpulkan berapa banyak energi dan perhatian yang dialokasikan dan dikonsumsi dalam perlombaan AGI.

Putaran dan putaran yang terjadi.

Masing-masing metrik dapat dengan sendirinya dipukuli di sekitar kepala.

Misalnya, pertimbangkan jumlah undang-undang atau undang-undang legislatif tentang AI.

Anda dapat mengklaim bahwa jika anggota parlemen berfokus pada undang-undang terkait AI, ini adalah pertanda baik bahwa negara tersebut cukup sadar akan pentingnya AI dan konsekuensi sosial ke mana arah AI. Sebuah kasus dapat dibuat bahwa ini menunjukkan bahwa banyak upaya pengembangan AI muncul di negara itu. Mengapa Anda repot-repot memberlakukan undang-undang AI kecuali AI berkembang pesat dan menggelegak sebagai elemen demonstratif negara Anda?

Dengan cara itu, negara-negara yang mengeluarkan undang-undang AI baru ditafsirkan sebagai tanda atau sinyal kemajuan AGI sedang berlangsung dengan baik di negara itu.

Beberapa kritikus menyatakan bahwa undang-undang baru yang diusulkan tentang AI akan menghambat upaya AI di setiap negara tertentu. Anggota parlemen dan pemimpin politik akan menembak kaki mereka sendiri. Undang-undang akan secara prematur menempatkan bayangan suram atas upaya AI yang sedang berlangsung di negara tertentu itu. Keran kemajuan AI akan macet dengan penyumbatan rambut legal dan laju kemajuan AGI akan melambat hingga menetes di negara yang memproklamirkan hukum AI itu. Sementara itu, negara lain yang tidak mengesahkan undang-undang AI semacam itu akan terus berlanjut. Seolah-olah Anda memutuskan untuk meletakkan beban timah pada pelari yang sudah berada di lintasan 400 meter. Jika Anda bertujuan untuk membantu mereka dan mempercepat mereka, Anda justru melakukan sebaliknya.

Whoa, retortnya, pemberlakuan undang-undang AI lebih mirip dengan memastikan bahwa tidak ada penghalang jalan yang tidak perlu di depan pelari. Undang-undang memberikan panduan dengan cara yang sama bahwa garis-garis di arena pacuan kuda ada untuk menjaga agar pelari tetap berjalan dengan lancar ke arah yang benar. Tanpa garis-garis yang dilukis itu, para pelari mungkin akan mengamuk. Undang-undang AI baru akan membuat mereka melangkah bersama menuju hasil yang diinginkan. Negara-negara yang tidak melakukan hal yang sama dalam hal undang-undang AI baru akan menemukan pelari mereka pergi ke segala arah, termasuk kemungkinan berlari sepenuhnya keluar jalur dan merugikan mereka yang tidak bersalah di luar ras AGI itu sendiri.

Ada juga undang-undang terkait AI "tersembunyi" yang beberapa dihitung dan sementara yang lain tidak dihitung sebagai bagian dari metrik ini (membuat mishmash ketika mencoba membandingkan jumlah).

Misalnya, jika suatu negara memberlakukan undang-undang tentang kendaraan otonom seperti mobil self-driving, apakah Anda menghitungnya sebagai undang-undang AI? Untuk memperjelas kendaraan otonom seperti mobil self-driving sepenuhnya otonom akan memiliki sistem mengemudi AI yang merupakan inti dari kemampuan tanpa pengemudi (lihat liputan saya di tautannya di sini). Karena AI yang terlibat, undang-undang apa pun tentang kendaraan otonom dapat diperdebatkan secara masuk akal sebagai undang-undang AI pada dasarnya. Di sisi lain, Anda mungkin secara persuasif menegaskan bahwa undang-undang itu tentang kendaraan otonom dan bukan tentang AI, oleh karena itu ini tidak termasuk dalam penghitungan undang-undang khusus AI.

Ini berantakan.

Semua kekhawatiran tentang metrik ini dapat menyebabkan Anda mengangkat bahu di tengah pandangan yang berlawanan tentang pertimbangan yang berat ini. Seperti yang mungkin terlihat, metrik hampir selalu tunduk pada interpretasi yang berbeda tentang apa artinya dan bagaimana status suatu negara mengenai AGI dianalisis dengan tepat.

Manuver dan Penyelarasan Geopolitik Untuk Perlombaan AGI

Negara mana yang unggul dalam perlombaan AGI?

Negara mana yang tertinggal?

Metrik yang disebutkan di atas mencoba menunjukkan di mana masing-masing pelari saat ini berada. Asumsi dasarnya adalah bahwa jika metrik menggambarkan indikasi yang tepat dari pencarian posisi AGI, berbagai posisi pole ini mungkin tetap sama dari waktu ke waktu. Kenyataannya, kepentingan dan perhatian nasional dapat meningkat atau berkurang selama jalan bergelombang menuju AGI. Anda mungkin paling bijaksana untuk mengharapkan perubahan posisi.

Satu pertimbangan penting adalah bahwa negara-negara tidak benar-benar dalam perlombaan ini sendiri.

Bangsa-bangsa kemungkinan akan menyerahkan tongkat estafet antara satu sama lain. Perlombaan AGI kadang-kadang memiliki satu atau lebih negara dengan senang hati bekerja bahu-membahu. Kadang-kadang ini dilakukan dengan hati-hati daripada dengan gembira. Dalam kasus lain, negara mungkin menahan diri satu sama lain. Setiap saat, postur balapan bisa sangat berbeda dari beberapa langkah ke belakang, ditambah bisa sangat berbeda beberapa langkah ke depan.

Pertimbangkan poin ini yang dibuat oleh laporan HAI AI Index 2022 tentang kolaborasi lintas negara: “Meskipun meningkatnya ketegangan geopolitik, Amerika Serikat dan China memiliki jumlah kolaborasi lintas negara terbesar dalam publikasi AI dari 2010 hingga 2021, meningkat lima kali lipat sejak 2010 Kolaborasi antara kedua negara menghasilkan publikasi 2.7 kali lebih banyak daripada antara Inggris dan China—tertinggi kedua dalam daftar.”

Orang-orang sinis akan mengatakan bahwa mungkin penggunaan kolaborasi silang kadang-kadang dilakukan sebagai tipu muslihat. Sebuah negara mungkin terang-terangan mengklaim bahwa mereka berkolaborasi silang, tampak bijaksana untuk melakukannya, sementara jauh di lubuk hati mereka menjaga kemajuan AGI terbaik mereka sebagai rahasia nasional yang tersembunyi. Mungkin ini dilakukan untuk menumpulkan kemajuan lintas bangsa. Mungkin ini dilakukan untuk memastikan bahwa saus rahasia tidak dibagikan secara tidak sengaja. Segala macam alasan mungkin.

Di dunia online Internet digital modern saat ini, mencoba untuk menjaga agar wawasan AGI tetap tersembunyi bisa menjadi tugas yang sulit. Keinginan kuat untuk mengungkap atau menciptakan AGI adalah daya pikat yang menarik yang dapat memacu pengembang dan peneliti AGI individu untuk secara terbuka membagikan karya terbaru mereka. Bangsa-bangsa dapat menemukan bahwa mencoba membatasi pembagian semacam itu jauh lebih sulit daripada yang terlihat, dan kemungkinan jauh lebih sulit daripada di masa ketika semuanya berbasis kertas dan membutuhkan dokumen yang bergerak secara fisik di seluruh dunia.

Pergerakan menuju open source tentu menjadi penekanan kontemporer untuk sebagian besar penelitian AI dan AGI terbaru, sebagaimana disebutkan dalam laporan HAI AI Index 2022: “Setiap tahun, ribuan publikasi AI dirilis di open source, baik di konferensi atau di situs web berbagi file. Para peneliti akan secara terbuka membagikan temuan mereka di konferensi; lembaga pemerintah akan mendanai penelitian AI yang berakhir di sumber terbuka; dan pengembang menggunakan perpustakaan perangkat lunak terbuka, tersedia secara bebas untuk umum, untuk menghasilkan aplikasi AI yang canggih. Keterbukaan ini juga berkontribusi pada sifat R&D AI modern yang saling bergantung dan saling berhubungan secara global.”

Secara keseluruhan, negara-negara pada umumnya berbagi namun mungkin hanya menunjukkan sebagian dari tangan mereka. Negara lain mungkin tidak berbagi atau hanya berpura-pura melakukannya. Beberapa negara berjuang mati-matian dengan mencoba mengukur apa yang diberikan oleh orang-orang di dalam negara mereka versus bergantung. Dan seterusnya.

Saya telah mengkarakterisasi sifat gerakan nasional ini dengan cara berikut:

• AI Go-it-alone Bangsa (mencoba untuk melanjutkan sendiri)
• AI Satu arah saja (menerima, tidak akan memberi)
• AI Sisa Bangsa (mendapat apa yang dia dapat dari orang lain)
• AI Negara Berbagi Terbuka (bangga dalam berbagi)
• Bangsa Pembagi Hollow AI (kekeliruan dalam berbagi)
• Aliansi AI Bangsa (mencoba membuat aliansi sebanyak mungkin)
• AI Negara Tidak dalam Game (mencari AGI bukanlah prioritas nasional)
• Negara Kecurangan AI (rekayasa balik atau mencuri diam-diam dari negara lain)
• Lainnya

Suatu negara dapat berada di lebih dari satu ember itu pada satu waktu.

Suatu bangsa bisa berada di salah satu ember itu untuk sementara waktu, keluar dari ember, dan mungkin nanti masuk kembali.

Keinginan dan perhatian negara-bangsa dalam upaya mencari AGI adalah sebuah dinamika pasang surut yang pasti akan terus berjalan dan menjadi sasaran yang bergerak menuju bangsa mana yang diperlombakan, dan dibutuhkan mata yang jeli untuk mengetahuinya. di mana semua pemain diposisikan pada saat tertentu dalam waktu.

Hukum AI Internasional Dan Etika AI Sebagai Wasit Dalam Perlombaan AGI

Di kolom sebelumnya, saya telah membahas berbagai upaya nasional dan internasional untuk menyusun dan memberlakukan undang-undang yang mengatur AI, lihat tautannya di sini dan tautannya di sini, Misalnya. Saya juga telah membahas berbagai prinsip dan pedoman Etika AI yang telah diidentifikasi dan diadopsi oleh berbagai negara, termasuk misalnya upaya Perserikatan Bangsa-Bangsa seperti perangkat Etika AI UNESCO yang diadopsi oleh hampir 200 negara, lihat tautannya di sini.

Berikut adalah daftar kunci yang bermanfaat dari kriteria atau karakteristik AI Etis terkait sistem AI yang sebelumnya telah saya jelajahi dengan cermat:

• Transparansi
• Keadilan & Keadilan
• Non-Kejahatan
• Tanggung jawab
• Privasi
• Kemurahan hati
• Kebebasan & Otonomi
• Kepercayaan
• Keberlanjutan
• martabat
• Solidaritas

Prinsip-prinsip Etika AI tersebut harus benar-benar digunakan oleh pengembang AI, bersama dengan mereka yang mengelola upaya pengembangan AI, dan bahkan mereka yang pada akhirnya mengelola dan melakukan pemeliharaan pada sistem AI.

Semua pemangku kepentingan di seluruh siklus hidup pengembangan dan penggunaan AI dianggap dalam lingkup mematuhi norma-norma Etis AI yang telah ditetapkan. Ini adalah sorotan penting karena asumsi yang biasa adalah bahwa "hanya pembuat kode" atau mereka yang memprogram AI harus mematuhi gagasan Etika AI. Seperti yang ditekankan sebelumnya di sini, dibutuhkan sebuah desa untuk merancang dan menerapkan AI, dan untuk itu seluruh desa harus memahami dan mematuhi prinsip-prinsip Etika AI.

Mari kita pertimbangkan dampak dan sifat vital dari undang-undang AI internasional dan pernyataan internasional dari ajaran Etika AI pada perlombaan AGI.

Negara-negara yang berjuang menuju AGI mungkin melakukannya dengan mengabaikan dan mendapati diri mereka membelok ke beberapa risiko eksistensial AGI yang sering dipopulerkan. Harapannya adalah dengan menerapkan undang-undang AI internasional dan ajaran Etika AI internasional, negara-negara akan dibimbing menuju AI For Good dan menghindari AI Untuk Buruk.

Sesuai analogi lintasan balap kami, undang-undang AI dan pertimbangan Etika AI itu seperti mencoba mencegah pelari keluar dari lintasan. Ada godaan besar untuk mengambil jalan pintas dalam perlombaan AGI. Jalan pintas itu bisa membawa suatu negara ke jalur garis akhir yang tampaknya lebih cepat, meskipun secara bersamaan menempatkan negara itu dan negara-negara lain pada risiko yang tidak semestinya. Contoh yang halus namun jitu terdiri dari AI penggunaan ganda, yang telah saya periksa di tautannya di sini, di mana kemajuan AI dapat dengan mudah dialihkan dengan sedikit usaha dari yang ditujukan untuk kebaikan menjadi dibuat dengan menghasilkan keburukan yang dahsyat.

Anda dapat menegaskan bahwa hukum AI internasional dan Etika AI internasional seperti wasit atau wasit.

Asumsinya adalah bahwa mekanisme hukum dan etika yang dirancang secara internasional ini akan membuat perlombaan AGI lebih seimbang. Masalahnya, apakah negara tertentu memilih untuk mengindahkan wasit atau wasit adalah masalah yang berbeda. Demikian pula, ada pertanyaan yang menjengkelkan tentang bagaimana otoritas tersebut dapat memberikan hukuman atau insentif untuk menjaga pelari di jalur yang benar. Kemungkinannya adalah bahwa negara-negara akan melakukan apa yang mereka inginkan, di mana negara-negara lain mungkin perlu mengubah bobot mereka untuk meningkatkan dukungan bagi pelanggaran aturan di luar jalur yang harus dilakukan oleh beberapa negara.

Kesimpulan

Louis Pasteur, ahli kimia dan mikrobiologi legendaris, dengan terkenal mengatakan ini: “Ilmu pengetahuan tidak mengenal negara, karena pengetahuan adalah milik umat manusia, dan merupakan obor yang menerangi dunia. Ilmu pengetahuan adalah personifikasi tertinggi bangsa karena bangsa itu akan tetap menjadi yang pertama yang membawa karya pemikiran dan kecerdasan terjauh.”

Bisakah kita mengatakan bahwa pencapaian AGI tidak mengenal negara dan bahwa AGI akan menjadi milik seluruh umat manusia?

Atau akankah bangsa yang pertama kali tiba di AGI menjadi posesif, mabuk kekuasaan dan menjadi gila kekuasaan?

Bagi Anda yang menyukai sedikit twist pada teka-teki khusus ini, pertimbangkan bahwa AGI itu sendiri mungkin merupakan jenis pencapaian yang merupakan pepatah ular di rumput. Penemu ular mungkin yang pertama digigit ular. Menjadi yang pertama memiliki risiko.

Melewati garis finis di AGI tidak serta merta akan menjadi selebrasi dan riang seperti yang mungkin dipikirkan beberapa orang. Memanfaatkan AGI juga tidak akan mudah. Beberapa orang mungkin berpendapat bahwa mengatasi AGI hampir tidak mungkin karena AGI tampaknya akan memiliki kelicikan dan kecerdikan yang sebanding dengan yang dimiliki manusia. Bangsa-bangsa harus memperhatikan apa yang mereka coba capai dan apa hasilnya, melakukannya sebelumnya dan tidak terkejut. Mereka mungkin memiliki sarang lebah di peti harta karun nasional mereka.

Seperti yang disodorkan Pasteur: "Keberuntungan berpihak pada pikiran yang siap."