Meta AI Meluncurkan Pesona Diplomatik yang Diresapi AI Yang Menggerakkan Etika AI dan Hukum AI Menjadi Tiff yang Tidak Detil

Bisakah kita membuat AI mengilhami diplomasi yang setara dengan manusia? Pengembang AI bertujuan untuk melakukannya.

getty

Dunia pesona dan diplomasi yang terhormat sering dirusak dengan ketidaksopanan dan ketidaksopanan.

Will Rogers, komedian hebat dan komentator sosial, terkenal mengatakan bahwa diplomasi adalah seni mengatakan "Doggie yang baik" sampai Anda dapat menemukan batu.

Implikasi yang tampak adalah bahwa Anda kadang-kadang harus dengan tegas menahan kekuatan yang membayangi dan membahayakan sampai Anda dapat menemukan solusi yang dapat dipertahankan dengan tepat. Lakukan apa yang perlu Anda lakukan saat berada dalam kesulitan. Dengan sengaja dan sengaja menenangkan mereka yang membahayakan Anda, menggunakan kata-kata Anda yang menenangkan dan memikat, mengumpulkan waktu yang berharga untuk mempersenjatai diri dengan sikap yang lebih praktis dan nyata.

Beberapa menegaskan bahwa perang adalah hasil dari diplomasi yang gagal. Dalam sudut pandang yang dipertimbangkan ini, gendang diplomasi yang konstan akan mencegah perang. Teruslah berbicara dan pertempuran tidak akan berlangsung. Yang lain sangat tidak setuju tentang pendapat bermasalah seperti itu. Konon katanya, diplomasi justru yang membuat kita berperang. Selain itu, bisa jadi diplomasi merentangkan perang dan membuat pertempuran terus berlangsung tanpa akhir.

Kami akan memberi Will Rogers kesempatan lain untuk menikmati beberapa humor dari pertanyaan apakah diplomasi itu baik atau buruk sehubungan dengan datangnya atau kelanjutan perang: "Keluarkan diplomasi dari perang dan hal itu akan gagal dalam seminggu" (dia dilaporkan diumumkan).

Definisi umum diplomasi menekankan hubungan antar negara. Diplomat mewakili negara atau negara bangsa tertentu dan melakukan diplomasi saat menjalankan tugas suci mereka. Kami mengharapkan diplomat kami untuk melakukan penyampaian kebijakan luar negeri mereka melalui penggunaan penuh percaya diri. Utusan itu seharusnya bukan orang yang memicu permusuhan, hanya pesannya saja yang mungkin melakukannya. Penggambaran diplomatik yang mungkin tanpa cela bahkan dari pesan yang paling mengerikan sekalipun dapat terbukti melunakkan pukulan yang timbul dari permintaan atau ancaman yang berbahaya.

Tentu saja, diplomasi tidak terbatas hanya pada pekerjaan mulia para diplomat formal. Saya berani mengatakan bahwa dalam kehidupan kita sehari-hari, kita semua harus menerapkan semacam diplomasi. Ketika Anda ingin seorang teman menjaga anjing kesayangan Anda saat Anda sedang dalam perjalanan bisnis, Anda pasti akan secara diplomatis mengajukan permintaan untuk merawat anjing tersebut. Membuat permintaan langsung untuk melakukannya kemungkinan besar akan mendarat dengan bunyi gedebuk.

Mungkin karena lebih merupakan seni daripada sains, diplomasi adalah sesuatu yang digunakan manusia untuk melumasi kemerosotan, menyalakan lampu, dan mencegah masyarakat mengamuk total. Negosiasi datang untuk bermain. Peredaan mungkin perlu muncul. Terkadang Anda menggunakan wortel, terkadang Anda menggunakan tongkat. Jika Anda harus melakukannya, Anda dapat mencoba apa yang disebut diplomasi kapal perang, di mana Anda mencoba mengintimidasi orang lain di sekitar Anda. Atau sebagai pengganti persenjataan yang kuat, Anda mungkin menggunakan jalur mediasi dan kemanusiaan yang lebih lembut. Semuanya tergantung.

Oke, jadi kita cenderung setuju bahwa diplomasi adalah bentuk komunikasi manusia-ke-manusia yang vital. Ini terdiri dari praktik atau tata panggung yang terkait dengan penggunaan kebijaksanaan, mediasi, negosiasi, konsiliasi, dan banyak politik cekatan masyarakat.

Mari tambahkan sesuatu yang lain ke persamaan itu.

Apakah Anda siap?

Kami akan menambahkan hal lain yang mungkin belum Anda pertimbangkan.

Kecerdasan Buatan (AI).

Ya, AI memasuki tahap diplomasi. Ini tampaknya sepenuhnya masuk akal. Jika kita ingin AI terbenam di semua aspek kehidupan kita, pada akhirnya diplomasi harus mendapat giliran. Kita mungkin berharap bahwa AI akan dapat melakukan tugas apa pun yang dimilikinya dengan menggunakan kata-kata dan tata krama diplomasi yang tepat.

AI sebagai diplomat otonom atau semi-otonom.

Saya menyadari bahwa itu mungkin tampak agak menakutkan dan sama sekali menakutkan. Saya tidak berpikir ada di antara kita yang siap untuk AI berkeliling sebagai perwakilan dari negara kita masing-masing. Bayangkan AI melayani atas nama kita untuk menegosiasikan posisi internasional kita dan menegaskan sikap politik global kita. Astaga! Itu adalah cerita fiksi ilmiah apokaliptik.

Nah, tarik napas lega sesaat karena itu tidak ada dalam kartu, untuk saat ini.

Alih-alih, pikirkan AI yang Anda gunakan untuk menyelesaikan perbankan atau yang membantu memandu Anda untuk membeli rumah. AI saat ini yang berinteraksi dengan orang biasanya cukup sederhana. Dapatkan fakta, hanya fakta. Beberapa AI telah dibekukan dengan kata-kata imut untuk membuat Anda berpikir bahwa itu ramah atau teman, meskipun ini dengan cepat terlihat. Hanya karena sistem AI merujuk Anda dengan nama Anda atau mengeluarkan kata-kata seperti "halo" alih-alih "halo", kebanyakan dari kita langsung menyadari bahwa ini adalah sandiwara.

Langkah selanjutnya yang dilakukan dengan rajin di aula pengembang AI adalah mencoba dan menanamkan karakteristik diplomatik ke dalam AI kita sehari-hari. Tujuan menyeluruhnya adalah untuk memasukkan aspek programatik yang akan membuat AI menunjukkan diplomasi dan perilaku seperti diplomatik. Menggunakan berbagai algoritme dan terutama yang terbaru dalam generatif AI atau Large Language Models (LLM), kemajuan sedang dibuat di bagian depan ini.

Kami akan melihat salah satu contohnya, CICERO, sistem AI baru yang dirilis oleh tim Meta AI.

Jika Anda sedang berlibur dan tidak mengikuti berita terbaru tentang AI, pengumuman baru-baru ini dan pembukaan sistem AI yang diciptakan sebagai CICERO menawarkan penunjuk arah yang signifikan di mana arena diplomasi yang diresapi AI saat ini. Dengan penuh pertimbangan dan pujian yang baik, tim Meta AI telah secara terbuka menyediakan sistem AI CICERO yang mereka kembangkan. Anda dapat membaca detail teknis dalam makalah penelitian yang diposting di Ilmu, Lihat tautannya di sini. Anda dapat mengunjungi situs web yang telah mereka siapkan untuk menyampaikan nuansa keseluruhan CICERO dengan klip video pendek untuk mengilustrasikan fungsinya (lihat tautannya di sini). Bagi Anda yang mencari kode program dan perangkat lunak aktual, Anda dapat menemukan kode sumber di GitHub di tautannya di sini.

Saya ingin segera mengklarifikasi satu aspek yang mungkin tampak membingungkan jika Anda memilih untuk menggali masalah ini.

Sistem AI khusus yang dirancang oleh Meta AI saat ini disiapkan untuk memainkan game yang agak populer bernama Diplomasi (mungkin Anda pernah melihat board game menurut Hasbro dan pembuat game lainnya). Saya mengemukakan ini karena kata “diplomasi” akan memiliki tugas ganda dalam situasi ini. Di satu sisi, AI yang dirancang mencoba menanamkan karakteristik usaha dan tampilan diplomasi sendiri. Sementara itu, pengaturan di mana sistem AI khusus ini berlangsung adalah saat memainkan secara khusus dan hanya (saat ini) permainan papan terkenal yang dikenal sebagai Diplomasi.

Apakah Anda melihat bagaimana ini berpotensi membingungkan beberapa orang?

Jika seseorang mengatakan kepada Anda bahwa AI khusus ini melakukan "diplomasi" dengan sangat baik, Anda mungkin tidak yakin apakah mereka mengacu pada anggapan bahwa AI cukup ahli dalam memainkan permainan papan yang dikenal sebagai Diplomasi atau mungkin sebaliknya mereka menyarankan bahwa AI mewujudkan esensi inti yang terkait dengan tindakan diplomasi umat manusia. Selain itu, bisa jadi kedua aspek tersebut dimaksudkan pada saat yang sama (yaitu, AI bermain dengan baik Diplomasi dan secara bersamaan melakukannya dengan baik untuk dapat melatih atau menampilkan diplomasi sebagai keterampilan atau tindakan).

Di sini, saya akan mencoba dan meluruskan ini dengan menggunakan huruf kapital pada huruf pertama dan menunjukkan nama permainan papan dengan huruf miring, Diplomasi. Sisa waktu saya akan menggunakan kata-kata "diplomasi" yang tidak dicetak miring sebagai indikasi konsepsi keseluruhan menjadi diplomatis atau menunjukkan diplomasi (lihat, saya baru saja melakukannya di sana).

Kembali ke soal, Anda mungkin berpikir sejenak apakah AI yang menunjukkan diplomasi adalah sesuatu yang seharusnya kita inginkan atau justru kita hindari.

Ada banyak aspek positif untuk membuat AI menampilkan diplomasi. Anda akan hidup dalam gelembung dangkal untuk berasumsi bahwa AI yang memberlakukan diplomasi akan sepenuhnya dan secara eksklusif merupakan hal yang baik. AI yang tampaknya memiliki keterampilan diplomasi dan dapat membuat kita percaya bahwa ia memiliki diplomasi juga sarat dengan isu-isu meresahkan yang perlu kita kemukakan. Intinya, AI yang digunakan dengan cara ini menimbulkan banyak sekali pertanyaan tentang Etika AI dan Hukum AI. Bagi Anda yang tertarik dengan Etika AI dan Hukum AI, Anda dapat melihat liputan saya yang luas dan berkelanjutan tentang AI Etis dan Hukum AI di tautannya di sini dan tautannya di sini, Hanya untuk beberapa nama.

Sebelum terjun ke AI sebagai wujud diplomasi, pertama-tama saya ingin meletakkan beberapa landasan penting tentang AI dan khususnya Etika AI dan Hukum AI, melakukannya untuk memastikan bahwa diskusi akan masuk akal secara kontekstual.

Meningkatnya Kesadaran Etis AI Dan Juga Hukum AI

Era AI baru-baru ini pada awalnya dipandang sebagai AI For Good, artinya kita bisa menggunakan AI untuk kemajuan umat manusia. di belakang AI For Good datang kesadaran bahwa kita juga tenggelam dalam AI Untuk Buruk. Ini termasuk AI yang dirancang atau diubah sendiri menjadi diskriminatif dan membuat pilihan komputasi yang menimbulkan bias yang tidak semestinya. Terkadang AI dibangun seperti itu, sementara dalam kasus lain ia membelok ke wilayah yang tidak diinginkan itu.

Saya ingin memastikan bahwa kita berada di halaman yang sama tentang sifat AI saat ini.

Tidak ada AI hari ini yang hidup. Kami tidak memiliki ini. Kami tidak tahu apakah AI yang hidup akan memungkinkan. Tidak ada yang dapat dengan tepat memprediksi apakah kita akan mencapai AI hidup, atau apakah AI hidup entah bagaimana secara ajaib akan muncul secara spontan dalam bentuk supernova kognitif komputasi (biasanya disebut sebagai singularitas, lihat liputan saya di tautannya di sini).

Jenis AI yang saya fokuskan terdiri dari AI non-sentient yang kita miliki saat ini. Jika kita ingin berspekulasi liar tentang AI yang hidup, diskusi ini bisa mengarah ke arah yang sangat berbeda. AI yang hidup seharusnya berkualitas manusia. Anda perlu mempertimbangkan bahwa AI yang hidup adalah setara kognitif manusia. Terlebih lagi, karena beberapa orang berspekulasi bahwa kita mungkin memiliki AI super-cerdas, dapat dibayangkan bahwa AI semacam itu bisa menjadi lebih pintar daripada manusia (untuk eksplorasi AI super-cerdas saya sebagai kemungkinan, lihat liputannya disini).

Saya sangat menyarankan agar kita menjaga segala sesuatunya tetap membumi dan mempertimbangkan komputasi AI non-sentient saat ini.

Sadarilah bahwa AI saat ini tidak dapat "berpikir" dengan cara apa pun yang setara dengan pemikiran manusia. Saat Anda berinteraksi dengan Alexa atau Siri, kapasitas percakapan mungkin tampak mirip dengan kapasitas manusia, tetapi kenyataannya adalah komputasi dan tidak memiliki kognisi manusia. Era terbaru AI telah memanfaatkan Machine Learning (ML) dan Deep Learning (DL) secara ekstensif, yang memanfaatkan pencocokan pola komputasi. Hal ini telah menyebabkan sistem AI yang memiliki tampilan kecenderungan seperti manusia. Sementara itu, tidak ada AI saat ini yang memiliki kesamaan akal sehat dan juga tidak memiliki keajaiban kognitif dari pemikiran manusia yang kuat.

Berhati-hatilah dalam melakukan antropomorfisasi AI hari ini.

ML/DL adalah bentuk pencocokan pola komputasi. Pendekatan yang biasa dilakukan adalah mengumpulkan data tentang tugas pengambilan keputusan. Anda memasukkan data ke dalam model komputer ML/DL. Model-model tersebut berusaha menemukan pola matematika. Setelah menemukan pola tersebut, jika ditemukan, sistem AI kemudian akan menggunakan pola tersebut saat menemukan data baru. Setelah penyajian data baru, pola berdasarkan data "lama" atau historis diterapkan untuk membuat keputusan saat ini.

Saya pikir Anda bisa menebak ke mana arahnya. Jika manusia yang telah membuat keputusan berdasarkan pola telah memasukkan bias yang tidak diinginkan, kemungkinan besar data mencerminkan hal ini dengan cara yang halus namun signifikan. Pencocokan pola komputasi Machine Learning atau Deep Learning hanya akan mencoba meniru data secara matematis. Tidak ada kesamaan akal sehat atau aspek hidup lainnya dari pemodelan buatan AI itu sendiri.

Selain itu, pengembang AI mungkin juga tidak menyadari apa yang sedang terjadi. Matematika misterius dalam ML/DL mungkin menyulitkan untuk menemukan bias yang sekarang tersembunyi. Anda berhak berharap dan berharap bahwa pengembang AI akan menguji bias yang berpotensi terkubur, meskipun ini lebih sulit daripada yang terlihat. Ada peluang kuat bahwa bahkan dengan pengujian yang relatif ekstensif akan ada bias yang masih tertanam dalam model pencocokan pola ML/DL.

Anda agak bisa menggunakan pepatah terkenal atau terkenal dari sampah-masuk sampah-keluar. Masalahnya, ini lebih mirip dengan bias-in yang secara diam-diam dimasukkan sebagai bias yang terendam dalam AI. Algoritma pengambilan keputusan (ADM) AI secara aksiomatis menjadi sarat dengan ketidakadilan.

Tidak baik.

Semua ini memiliki implikasi Etika AI yang signifikan dan menawarkan jendela praktis ke dalam pelajaran yang dipetik (bahkan sebelum semua pelajaran terjadi) ketika mencoba membuat undang-undang AI.

Selain menerapkan prinsip Etika AI secara umum, ada pertanyaan terkait apakah kita harus memiliki undang-undang untuk mengatur berbagai penggunaan AI. Undang-undang baru sedang dibahas di tingkat federal, negara bagian, dan lokal yang menyangkut jangkauan dan sifat bagaimana AI harus dirancang. Upaya penyusunan dan pengesahan undang-undang tersebut dilakukan secara bertahap. Etika AI berfungsi sebagai pengganti sementara, paling tidak, dan hampir pasti akan secara langsung dimasukkan ke dalam undang-undang baru tersebut.

Ketahuilah bahwa beberapa orang dengan tegas berpendapat bahwa kita tidak memerlukan undang-undang baru yang mencakup AI dan bahwa undang-undang kita yang ada sudah cukup. Mereka memperingatkan sebelumnya bahwa jika kita memberlakukan beberapa undang-undang AI ini, kita akan membunuh angsa emas dengan menekan kemajuan AI yang menawarkan keuntungan sosial yang sangat besar.

Di kolom sebelumnya, saya telah membahas berbagai upaya nasional dan internasional untuk menyusun dan memberlakukan undang-undang yang mengatur AI, lihat tautannya di sini, Misalnya. Saya juga telah membahas berbagai prinsip dan pedoman Etika AI yang telah diidentifikasi dan diadopsi oleh berbagai negara, termasuk misalnya upaya Perserikatan Bangsa-Bangsa seperti perangkat Etika AI UNESCO yang diadopsi oleh hampir 200 negara, lihat tautannya di sini.

Berikut adalah daftar kunci yang bermanfaat dari kriteria atau karakteristik AI Etis terkait sistem AI yang sebelumnya telah saya jelajahi dengan cermat:

Transparansi
Keadilan & Keadilan
Non-Kejahatan
Tanggung jawab
Privasi
Kemurahan hati
Kebebasan & Otonomi
Kepercayaan
Keberlanjutan
martabat
Solidaritas

Prinsip-prinsip Etika AI tersebut harus benar-benar digunakan oleh pengembang AI, bersama dengan mereka yang mengelola upaya pengembangan AI, dan bahkan mereka yang pada akhirnya mengelola dan melakukan pemeliharaan pada sistem AI.

Semua pemangku kepentingan di seluruh siklus hidup pengembangan dan penggunaan AI dianggap dalam lingkup mematuhi norma-norma Etis AI yang telah ditetapkan. Ini adalah sorotan penting karena asumsi yang biasa adalah bahwa "hanya pembuat kode" atau mereka yang memprogram AI harus mematuhi gagasan Etika AI. Seperti yang ditekankan sebelumnya di sini, dibutuhkan sebuah desa untuk merancang dan menerapkan AI, dan untuk itu seluruh desa harus memahami dan mematuhi prinsip-prinsip Etika AI.

Saya juga baru-baru ini memeriksa RUU Hak AI yang merupakan judul resmi dari dokumen resmi pemerintah AS berjudul "Cetak Biru untuk AI Bill of Rights: Membuat Sistem Otomatis Bekerja untuk Rakyat Amerika" yang merupakan hasil dari upaya selama setahun oleh Office of Science and Technology Policy (OSTP). ). OSTP adalah entitas federal yang berfungsi untuk memberi nasihat kepada Presiden Amerika dan Kantor Eksekutif AS tentang berbagai aspek teknologi, ilmiah, dan rekayasa yang penting secara nasional. Dalam hal ini, Anda dapat mengatakan bahwa AI Bill of Rights ini adalah dokumen yang disetujui dan didukung oleh Gedung Putih AS yang ada.

Dalam AI Bill of Rights, ada lima kategori utama:

Sistem yang aman dan efektif
Perlindungan diskriminasi algoritmik
Privasi data
Pemberitahuan dan penjelasan
Alternatif manusia, pertimbangan, dan mundur

Saya telah dengan hati-hati meninjau sila itu, lihat tautannya di sini.

Sekarang setelah saya meletakkan dasar yang bermanfaat pada topik Etika AI dan Hukum AI terkait ini, kami siap untuk terjun ke topik memabukkan tentang diplomasi berbasis mesin yang diresapi AI.

AI Diplomacy Dengan Segala Kemuliaan Dan Juga Potensi Kejatuhannya

Pertama, mari kita tentukan bahwa jenis AI yang dipertimbangkan di sini adalah AI non-makhluk.

Saya mengatakan ini karena jika, atau ada yang mengatakan ketika kami mencapai AI yang hidup, seluruh topik kemungkinan besar akan benar-benar terbalik. Bayangkan potensi kekacauan dan kebingungan masyarakat karena entah bagaimana telah mendarat ke tempat yang sebelumnya tidak pernah terlihat diverifikasi buatan kecerdasan yang mewujudkan perasaan (untuk analisis saya tentang tes AI terkenal yang dikenal sebagai Tes Turing, lihat tautannya di sini). Anda dapat membuat taruhan yang masuk akal bahwa banyak budaya, hukum, dan norma sehari-hari kita yang ada akan sangat terguncang hingga ke intinya.

Mungkin AI yang hidup akan menjadi teman kita, atau mungkin AI yang hidup akan menjadi musuh terburuk kita. Bagaimana kita bisa mengetahui ke arah mana AI akan pergi?

Anda mungkin tergoda untuk menyarankan bahwa kami mungkin akan dapat berbicara dengan AI dan mencari tahu dari apa yang dikatakan niatnya. Aha, Anda telah jatuh ke dalam perangkap yang membingungkan. Misalkan AI sangat cocok dengan beberapa bentuk kemampuan diplomasi AI. Saat Anda mencoba berbicara dengan AI, AI mungkin akan berbicara dengan istilah yang paling menawan dan fasih. Ini bisa sangat menenangkan bagi umat manusia.

Tapi apakah itu yang benar-benar "dipikirkan" oleh AI tentang niat komputasi berbasis AI-nya?

AI mungkin melakukan pukulan satu-dua diplomatik klasik. Bicarakan permainan yang bagus dan buat kami terbuai untuk percaya bahwa AI adalah teman terbaik kami. Ini mungkin memberi AI waktu untuk mengumpulkan sumber daya untuk menyalip umat manusia atau mungkin bekerja dengan rajin di belakang layar untuk melemahkan semua hal lain yang kita gunakan untuk menopang umat manusia. Setelah kios diplomatik yang cerdik itu, aduh, AI membuat kita semua kedinginan.

Ingat apa yang dikatakan Will Rogers, yang dalam hal ini bisa jadi AI memberi tahu kita "Anjing yang baik" dan kita memberi AI ruang bernapas yang cukup untuk kemudian menghapus kita dari planet ini. Konsepsi AI sebagai risiko eksistensial telah lama dibicarakan. Beberapa percaya bahwa dengan merancang AI dengan diplomasi yang diinfuskan, kita akan ditipu. AI dengan cerdik akan menggunakan semua hal diplomasi yang diinfuskan, yang kami bantu latih AI, dan pada akhirnya, kita akan dibodohi secara membabi buta sehingga AI menjadi tuan kita.

Malu pada kami.

Bagi Anda yang lebih tertarik dengan medan yang sangat spekulatif tentang AI futuristik ini, lihat liputan saya tentang perspektif AI sebagai ancaman eksistensial di tautannya di sini.

Kembali ke bumi, saya akan menekankan untuk selanjutnya di sini jalan diplomasi yang ditanamkan AI dalam AI non-makhluk kita yang ada.

Mari kita lakukan sedikit penelusuran sejarah.

Upaya untuk merancang AI yang entah bagaimana mewujudkan rasa komputasi diplomasi dan perilaku diplomatik telah berlangsung sejak awal AI. Anda dapat dengan mudah kembali ke tahun 1950-an, 1960-an, dan 1970-an dan menemukan studi penelitian mendasar yang sangat ingin menerapkan AI ke domain ini. Beberapa orang berpikir bahwa teori permainan adalah kuncinya. Lainnya berfokus pada psikologi dan elemen kognitif terkait. Yang lain mencoba memanfaatkan ekonomi, riset operasi, dan segudang bidang usaha yang tampaknya relevan.

Masa kejayaan awal kemudian terjadi selama tahun 1980-an. Pada saat itu, salah satu pendekatan dominan terdiri dari penggunaan Sistem Pakar (ES) atau Sistem Berbasis Pengetahuan (KBS) untuk membangun sistem AI terkait diplomasi. Hasilnya agak kaku dan cenderung menunjukkan betapa sulitnya tugas ini nantinya.

Satu teka-teki yang menggerogoti sepanjang era penyelidikan awal ini adalah kebutuhan akan platform yang kokoh di mana, atau di dalamnya, AI yang konon mampu bekerja dalam beberapa cara terkait diplomasi dapat diuji dan dieksplorasi secara memadai. Kebutuhan ini mungkin sudah jelas. Jika seseorang ingin membedakan apakah manusia atau AI dapat melakukan diplomasi, lingkungan yang kondusif untuk pencarian ini harus dibuat.

Ke dalam gambar ini muncul permainan papan Diplomasi.

Saya menyadari bahwa permainan papan Diplomasi hampir tidak dikenal Monopoli , Risiko, atau Strategi (Anda mungkin pernah mendengar tentang game-game itu). Meskipun demikian, ada permainan papan strategis yang disebut Diplomasi yang pertama kali dirancang pada tahun 1954 dan dirilis secara komersial pada tahun 1959. Selain dimainkan secara tatap muka, Diplomasi permainan sering dimainkan melalui surat siput. Anda akan menulis gerakan Anda di selembar kertas dan mengirimkan lembar itu ke lawan main Anda. Agak gila membayangkannya saat ini. Belakangan, email digunakan. Akhirnya, game tersebut tersedia online dan memungkinkan pemain untuk berpartisipasi secara real-time satu sama lain.

Setelah Diplomasi game menjadi tersedia di komputer mikro, spesialis AI mulai menggunakan game tersebut sebagai cara praktis untuk menguji ramuan diplomasi yang diresapi AI. Itu Diplomasi game tersedia sebagai aplikasi yang berjalan di PC sedemikian rupa sehingga manusia dapat bermain melawan mesin (yaitu, AI yang dirancang). AI pada 1990-an yang ditulis untuk dimainkan Diplomasi terkenal lambat, samar, dan mudah dikalahkan oleh hampir semua manusia yang bermain game yang kurang paham.

Berikut ulasan tahun 1999 tentang Diplomasi seperti yang diposting di Yahoo yang dengan jelas menggambarkan keadaan menyedihkan dari kemampuan diplomasi yang diresapi AI sebagai lawan pemain manusia:

"Namun, DiplomasiMasalah yang paling mencolok adalah kecerdasan buatan dalam game ini benar-benar mengerikan. Gamer dengan tingkat keahlian apa pun tidak akan mengalami kesulitan apa pun saat melakukan whaling di komputer bahkan pada pengaturan kesulitan tertinggi. Kemenangan hanyalah masalah waktu dan kesabaran dengan antarmuka. Ini bukan seolah-olah komputer tidak membuat skema di belakang Anda – memang demikian, dan sering kali bekerja sama dengan sekutu untuk mengambil satu atau dua wilayah dari Anda – tetapi skema semacam itu cocok dan dimulai, bukan sebagai kelanjutan atau khususnya menantang ancaman.”

Satu kelemahan yang sangat menjengkelkan dari desain AI adalah bahwa ia tampaknya tidak memiliki kapasitas untuk menghitung beberapa gerakan atau strategi sekaligus: “Dan pada tingkat yang lebih mendasar, komputer tampaknya tidak mampu mengelola beberapa gerakan strategis. Sementara pemain manusia dapat meluncurkan serangan ke Yunani dan Belgia secara bersamaan, komputer sepertinya selalu fokus hanya pada satu hal pada satu waktu. Untuk alasan ini, komputer tidak bisa bersaing dengan pemain manusia” (ibid).

Saya belum menjelaskan kepada Anda apa itu Diplomasi terdiri dari permainan papan, jadi mari luangkan waktu sejenak untuk menetapkan aturan dasar.

Ada makalah penelitian praktis tentang AI dan bermain Diplomasi yang secara ringkas menggambarkan sifat dari permainan tersebut: “Permainan tersebut berlangsung di peta Eropa pada tahun 1901, yang terbagi menjadi 75 Provinsi. Setiap pemain memainkan salah satu dari tujuh Kekuatan besar saat itu: Austria (AUS), Inggris (ENG), Prancis (FRA), Jerman (GER), Italia (ITA), Rusia (RUS), dan Turki (TUR) dan setiap pemain dimulai dengan tiga atau empat unit (pasukan atau armada) yang ditempatkan di posisi awal tetap di peta. Di setiap putaran permainan, setiap pemain harus 'mengajukan perintah' untuk setiap unitnya, yang memberi tahu unit tersebut cara bergerak di sekitar peta dan memungkinkan mereka menaklukkan provinsi di peta” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita, dan Takayuki Ito, “Tantangan Negosiasi Dalam Permainan Diplomasi,” Perjanjian Teknologi: Konferensi Internasional ke-6, DI 2018)

Anda juga perlu mengetahui tentang cara menang dan cara kalah dalam permainan: “Beberapa Provinsi disebut Pusat Pasokan dan tujuan para pemain adalah untuk menaklukkan Pusat Persediaan tersebut. Seorang pemain tersingkir ketika dia kehilangan semua Pusat Persediaannya dan seorang pemain memenangkan permainan ketika dia telah menaklukkan 18 atau lebih dari 34 Pusat Persediaan (Kemenangan Tunggal). Namun, permainan juga dapat berakhir ketika semua pemain yang bertahan setuju untuk seri” (ibid).

Saya percaya bahwa Anda dapat melihat itu Diplomasi adalah gim langsung yang melibatkan hingga tujuh pemain yang mencoba saling mengakali strategi. Selama manuver ini, para pemain dapat berunding satu sama lain, melakukannya tanpa pemain lain mengetahui apa yang sedang mereka lakukan. Tindakan diplomasi mengemuka dengan bisa membuat pemain lain mengikuti rencana Anda. Anda mungkin mengungkapkan rencana Anda yang sebenarnya, atau mungkin tidak. Anda mungkin menawarkan rencana palsu. Anda dapat bernegosiasi dengan pemain lain. Anda bisa menipu pemain lain. Anda dapat menjalin aliansi dengan pemain lain. Dll.

Semuanya adil dalam cinta dan perang, seperti yang mereka katakan.

Saya memilih makalah penelitian tertentu karena berperan penting dalam membangun varian versi komputerisasi Diplomasi disebut Permainan Celup untuk melayani sebagai platform maju untuk pengujian kemampuan diplomasi yang diinfuskan oleh AI: “Ada kekurangan kronis dari domain aplikasi bersama untuk menguji model penelitian lanjutan dan arsitektur negosiasi agen di Sistem Multiagen. Dalam makalah ini kami memperkenalkan testbed ramah untuk tujuan itu. Testbed didasarkan pada Permainan Diplomasi di mana negosiasi dan hubungan antar pemain memainkan peran penting” (ibid). Ini dan banyak variasi lainnya dari Diplomasi telah dibuat dan tersedia untuk penelitian dan bermain.

Para peneliti menjelaskan mengapa mereka percaya itu Diplomasi adalah permainan yang sangat berguna untuk membantu pencarian AI menuju diplomasi yang diresapi AI: “Game of Diplomasi membentuk kasus uji yang sangat baik untuk jenis negosiasi yang rumit ini, karena ini adalah permainan yang mencakup banyak kesulitan yang juga harus dihadapi seseorang dalam negosiasi di kehidupan nyata. Ini melibatkan kepuasan kendala, pembentukan koalisi, teori permainan, kepercayaan, dan bahkan psikologi. Sekarang komputer Chess and Go modern sudah jauh lebih unggul dari pemain manusia mana pun, kami mengharapkannya Diplomasi akan mulai menarik lebih banyak perhatian sebagai tantangan besar berikutnya untuk ilmu komputer” (ibid).

Singkatnya, permainan papan Diplomasi menyediakan kendaraan yang sudah dikenal dan agak populer untuk membuat manusia bertindak dalam berbagai cara diplomatik. Biasanya, manusia bermain melawan manusia lain (dalam hal ini, hingga tujuh pemain manusia). Kami dapat merancang AI yang akan mencoba mengambil peran sebagai pemain dalam game. Jadi, Anda mungkin memiliki enam pemain manusia dan satu pemain AI.

Bayangkan bermain Diplomasi on line.

Jika kita tidak memberi tahu pemain manusia bahwa ada AI di antara mereka, mereka mungkin berasumsi bahwa pemain ketujuh hanyalah pemain manusia lainnya. Untuk mencoba dan mencegah pemain manusia menebak bahwa AI sedang bermain, kami dapat membatasi aspek permainan untuk mengharuskan semua pemain mengirim pesan berorientasi teks satu sama lain. Anda tidak bisa langsung melihat pemain lain.

Anda mungkin berpikir bahwa ini tidak terlalu berbeda dengan bermain catur online. Mengapa diributkan Diplomasi sebagai permainan?

Ingatlah bahwa kami berfokus pada interaksi antar pemain. Premis dari permainan ini adalah bahwa para pemain saling berdiplomasi. Ini tidak seperti catur konvensional. Jika saya mengembangkan aplikasi bermain catur berbasis AI, biasanya aplikasi itu akan bermain melawan satu manusia. Tidak ada negosiasi atau diskusi antara AI yang bermain catur dan pemain manusia. Mereka hanya melakukan gerakan catur dan mencoba mengalahkan satu sama lain. Ini biasanya dilakukan dalam keheningan total.

Diplomasi memungkinkan kita untuk melakukan komputasi vokal dan diplomasi berbasis manusia (berpotensi melakukannya secara tertulis daripada harus diucapkan dengan keras): “Perbedaan utama antara Diplomasi dan permainan deterministik lainnya seperti Chess and Go, adalah bahwa dalam Diplomacy pemain diperbolehkan untuk bernegosiasi satu sama lain dan membentuk koalisi. Di setiap babak, sebelum para pemain menyerahkan pesanannya, para pemain diberikan waktu untuk saling bernegosiasi dan membuat kesepakatan tentang pesanan yang akan mereka serahkan. Negosiasi berlangsung secara tertutup, dan setiap kesepakatan yang dibuat hanya diketahui oleh para pemain yang terlibat dalam kesepakatan tersebut” (ibid).

Bisakah Anda membuat game lain yang menggunakan diplomasi interaktif daripada mengandalkan game tersebut Diplomasi?

Benar.

Ada berbagai permainan seperti itu.

Kenyamanan meskipun memilih satu merek game tertentu adalah bahwa pengembang AI dapat memusatkan perhatian mereka pada game tertentu itu. Anda dapat berkumpul untuk merancang AI yang melakukan diplomasi dalam konteks yang ditentukan tersebut. Anda dapat berbagi pendekatan dan membandingkannya. Anda dapat menilai berbagai contoh AI berdasarkan metrik yang terkait dengan game tersebut. Dan seterusnya.

Meskipun demikian, argumen tandingan atau keprihatinan yang diungkapkan adalah bahwa ini seperti meletakkan semua telur Anda dalam satu keranjang. Ada yang khawatir jika banyak pengembang AI yang disibukkan dengan satu platform atau lingkungan tertentu, seperti dalam kasus ini Diplomasi, mereka akan berupaya mengoptimalkan AI untuk arena spesifik tersebut. Implikasi sisi negatifnya adalah bahwa AI tidak akan digeneralisasikan. Kami tidak akan membuat banyak kemajuan menuju kemampuan menyeluruh dari diplomasi yang diresapi AI.

Agak seperti gagal melihat hutan karena pepohonan, jika Anda mau.

Kekhawatiran lain yang sering diungkapkan adalah bahwa game seperti Diplomasi hanyalah permainan.

Pertanyaan pelik muncul, apakah manusia yang bermain game melakukan hal yang sama seperti yang akan mereka lakukan dalam diplomasi dunia nyata. Mungkin Anda tidak bertindak dengan cara yang sama ketika kebanggaan nasional atau kepentingan nasional tidak dipertaruhkan. Tentu, Anda mungkin khawatir tentang harga diri Anda saat bermain game, atau mungkin mencoba menjadi pencetak gol terbanyak, atau bahkan mungkin memenangkan hadiah uang, tetapi tetap saja, apakah itu berarti menegosiasikan perdamaian dunia di Perserikatan Bangsa-Bangsa atau tawar-menawar tentang negara mana harus memiliki atau tidak memiliki senjata nuklir.

Beberapa percaya bahwa permainan diplomasi ini adalah mikrokosmos yang cocok di dunia nyata. Yang lain menyesalkan bahwa permainan itu berguna tetapi tidak meningkatkan ke diplomasi jalan karet pepatah kaliber internasional. Bisa jadi versi permainan dari diplomasi yang diinfuskan AI ternyata tidak lebih dari sekadar kesuksesan bermain game. Astaga, AI yang dirancang dapat menang atau melakukannya dengan sangat baik saat memainkan permainan yang melibatkan diplomasi, meskipun ternyata menggunakan AI yang sama dalam pengaturan diplomatik yang sebenarnya sangat kurang dan terputus-putus atau gagal total.

Asumsikan untuk saat ini bahwa AI dibuat untuk bermain game seperti Diplomasi memang bermanfaat. Anda dapat berargumen secara masuk akal bahwa tidak peduli apakah hanya cocok untuk bermain game atau untuk aksi dunia nyata, ide tersebut memerlukan perluasan batas AI dan membuat kemajuan dalam AI yang dapat berkontribusi pada diplomasi atau mungkin memiliki terobosan menguntungkan lainnya dalam mencetak AI.

Mendukung wajah smiley untuk saat ini.

Kami selanjutnya akan memeriksa bagaimana Meta AI telah memilih untuk membuat pemain diplomasi yang diresapi AI yang dapat tampil di game Diplomasi.

Pegang topi Anda.

Meta AI Dan Diplomat Berbasis Mesin Bermain Diplomasi Cicero

Seperti disebutkan sebelumnya, ada makalah penelitian yang diterbitkan di Ilmu yang menggambarkan aplikasi Meta AI yang baru diumumkan dan dirilis untuk umum yang diciptakan sebagai Cicero (selama diskusi ini saya akan secara bergantian menyebut ini sebagai "Cicero" dan sama-sama moniker "CICERO"):

“Kami menghadirkan Cicero, agen AI yang mencapai performa level manusia dalam game strategi Diplomasi. di Diplomasi, tujuh pemain melakukan negosiasi bahasa alami pribadi untuk mengoordinasikan tindakan mereka agar dapat bekerja sama dan bersaing satu sama lain. Sebaliknya, kesuksesan besar sebelumnya untuk AI multi-agen berada di lingkungan yang murni bermusuhan, seperti catur, Go, dan poker, di mana komunikasi tidak memiliki nilai. Untuk alasan-alasan ini, Diplomasi telah berfungsi sebagai tolok ukur yang menantang untuk pembelajaran multi-agen” (Meta Fundamental AI Research Diplomacy Team, “Human-Level Play In The Game Of Diplomacy Dengan Menggabungkan Model Bahasa Dengan Penalaran Strategis”, Ilmu, 22 November 2022).

Saya akan mengutip dari makalah dan kemudian menawarkan berbagai wawasan yang diharapkan akan menarik bagi Anda.

Mengingat bahwa AI baru saja tersedia, saya kemungkinan akan melakukan analisis berikutnya setelah memiliki kesempatan untuk melakukan penilaian kode secara langsung dan juga melakukan beberapa permainan eksperimental untuk mengukur kemampuan AI (seperti kekuatan dan kelemahan utama).

Berhati-hatilah untuk posting nanti!

Bagaimanapun, saya percaya bahwa Anda mungkin telah mengamati bagian yang baru saja saya kutip bahwa ada ungkapan yang mengatakan bahwa AI “mencapai kinerja tingkat manusia dalam permainan strategi. Diplomasi. "

Pertimbangkan itu.

Pertama, tentu patut dipuji karena mampu merancang AI yang memainkan peran tersebut Diplomasi game pada tingkat kinerja yang diklaim mirip dengan manusia. Itu sangat penting.

Kami punya banyak Diplomasi memainkan AI yang di bawah standar dibandingkan dengan manusia yang memainkan Diplomasi permainan. Lebih dari yang bisa Anda goyangkan. Sangat meyakinkan dan mengasyikkan untuk bergerak ke atas menuju AI yang dapat melakukan permainan yang jauh lebih baik. Kami memang perlu berhati-hati dalam melompat ke kesimpulan cepat tentang ini.

Misalnya, saya telah merancang AI untuk dimainkan Diplomasi dan saya mengadunya dengan pemain manusia yang belum pernah memainkan game tersebut sebelumnya. Jika AI saya mengalahkan mereka, akan sedikit berlebihan untuk mengatakan bahwa AI saya telah bekerja berdasarkan kinerja tingkat manusia. Fakta bahwa hal itu terjadi pada manusia yang tidak terbiasa dengan permainan tersebut agak mengangkat alis dan meragukan.

Saya mengemukakan ini untuk memperingatkan Anda agar selalu memeriksa dengan cermat setiap klaim yang tampaknya terlalu besar tentang AI. Pembahasan sebelumnya tentang Etika AI dan Hukum AI mungkin membuka mata Anda terhadap kemungkinan klaim palsu tentang AI. Ada klaim yang benar-benar salah dan ada klaim yang berbahaya sebagian benar dan sebagian menyesatkan yang sangat rumit. Kuncinya adalah bertanya mengapa mereka yang membuat klaim tentang AI mereka melakukannya.

Dimana daging sapinya?

Inilah yang dikatakan tim Meta AI tentang dasar klaim kinerja tingkat manusia mereka (lihat makalah untuk detail tambahan):

“Cicero berpartisipasi secara anonim dalam 40 pertandingan Diplomasi dalam liga “blitz” di webDiplomacy.net dari 19 Agustus hingga 13 Oktober 2022. Liga ini dimainkan dengan putaran negosiasi lima menit; kontrol waktu ini memungkinkan game diselesaikan dalam waktu dua jam. Cicero menempati peringkat 10% teratas dari peserta yang memainkan lebih dari satu pertandingan dan peringkat ke-2 dari 19 peserta di liga yang memainkan 5 pertandingan atau lebih. Di semua 40 pertandingan, skor rata-rata Cicero adalah 25.8%, lebih dari dua kali lipat skor rata-rata 12.4% dari 82 lawannya. Sebagai bagian dari liga, Cicero berpartisipasi dalam turnamen 8 pertandingan yang melibatkan 21 peserta, 6 di antaranya memainkan setidaknya 5 pertandingan. Peserta dapat memainkan maksimal 6 game dengan peringkat ditentukan oleh rata-rata 3 game terbaiknya. Cicero menempati posisi pertama di turnamen ini” (ibid).

Sangat melegakan melihat bahwa mereka telah berusaha dengan sungguh-sungguh untuk mendukung klaim AI mereka dalam hal ini (sadarilah bahwa tidak semua orang di AI melakukannya).

Anda dapat menyarankan agar mereka melakukan percobaan. Eksperimen tersebut terdiri dari pemain manusia yang mungkin tidak tahu bahwa mereka sedang bermain dengan pemain AI di tengah-tengah mereka (makalah tersebut membahas mengapa hal ini tampaknya dapat disimpulkan secara masuk akal, yaitu bahwa manusia tidak secara terbuka menyadari bahwa salah satu pemainnya adalah AI, meskipun garis singgung samping yang menarik memerlukan cerita tentang satu pemain yang agak mencurigakan tetapi tidak terlalu mencurigakan). Para pemain manusia itu dipilih sebelumnya berdasarkan sifat desain eksperimental sedemikian rupa sehingga mereka adalah pemain liga Diplomasi dan kami dapat menyimpulkan bahwa mereka tahu betul cara memainkan game tersebut. Mereka bukan pemula.

Menurut statistik yang dilaporkan, yang akan kami anggap sebagai nilai awal dan dikumpulkan serta dilaporkan dengan benar (berbagai data dan kode disediakan dalam materi tambahan), AI tampaknya telah memainkan permainan tersebut dengan cukup untuk membuat kesimpulan yang masuk akal meskipun terbatas. bahwa itu mencapai kinerja tingkat manusia untuk varian ini Diplomasi permainan dan seperti dalam konteks permainan liga yang disebutkan melawan manusia yang tampaknya adalah pemain berpengalaman.

Saya yakin beberapa dari Anda mungkin ingin berdalih dengan jumlah contoh permainan, mungkin dengan alasan bahwa terlalu kecil untuk membuat proklamasi yang berani. Perdebatan lainnya adalah bahwa berada di dalam 10% peserta teratas tidak cukup tinggi, sehingga sampai mungkin 1% teratas tercapai, seseorang tidak boleh membual tentang kinerja AI.

Pertengkaran itu terdengar agak melengking.

Saya mengatakan itu karena untungnya klaim sebagai "manusia super" tidak digunakan. Pembaca pasti mengetahui pandangan masam dan masam saya tentang orang-orang di AI yang terus membuat pernyataan besar bahwa AI mereka telah mencapai status manusia super. Saya tidak akan membahas keluhan saya tentang klaim teriakan manusia super di sini, silakan lihat tautannya di sini untuk pandangan saya.

Maksud saya dalam contoh ini adalah bahwa saya percaya indikasi kinerja tingkat manusia mungkin secara umum diperbolehkan, dengan asumsi bahwa setiap orang ingat bahwa ini berada dalam konteks yang sangat sempit dan kami tidak mencoba menjadikannya apa yang disebut luar biasa. Saya juga mengulangi konteks terbatas untuk alasan yang akan saya jelaskan selanjutnya.

Saya hanya dapat membayangkan bahwa beberapa reporter media sosial atau naif (mungkin bereputasi buruk) akan sepenuhnya keluar dari konteks konsepsi kinerja tingkat manusia.

Inilah yang saya takutkan.

Tahan nafasmu.

Beberapa akan mengklaim bahwa AI telah menguasai diplomasi. Ya, sebuah studi tentang sistem AI yang dikembangkan untuk diplomasi membuktikan tanpa keraguan bahwa AI dapat dan sekarang memiliki kapasitas untuk melakukan semua yang dilakukan manusia untuk diplomasi.

Kirim pulang para diplomat asing. Kita bisa menggantinya dengan AI.

Dunia seperti yang kita tahu telah berubah. Kami telah menghasilkan AI yang sepenuhnya setara dengan manusia dalam diplomasi, dan kami dapat membuat lompatan "logis" mental ke gagasan bahwa AI sekarang dapat melakukan apa pun yang dapat dilakukan manusia. Voila, kami sekarang telah membuktikan bahwa AI setara dengan manusia. Rupanya, penelitian ini memberikan bukti yang jelas tentang AI yang berakal.

Tandai kata-kata saya, ini pasti akan menjadi pandangan yang aneh, tidak bertanggung jawab, dan menjengkelkan oleh beberapa penulis.

Saya tidak akan mempermasalahkan intinya. Kami bergerak maju.

Bagaimana AI bekerja?

Berikut ringkasan singkat dari makalah tersebut: “Cicero memasangkan modul dialog yang dapat dikontrol dengan mesin penalaran strategis. Di setiap titik dalam game, Cicero memodelkan bagaimana pemain lain cenderung bertindak berdasarkan status game dan percakapan mereka. Kemudian merencanakan bagaimana para pemain dapat berkoordinasi untuk saling menguntungkan dan memetakan rencana ini ke dalam pesan bahasa alami” (ibid).

Ada seteguk dalam ringkasan singkat itu.

Izinkan saya untuk melakukan beberapa pembongkaran.

Seorang pemain manusia yang bermain Diplomasi harus mengantisipasi apa yang akan dilakukan oleh pemain manusia lainnya. Anda ingin mencoba dan bernegosiasi dengan pemain lain dan membuat mereka mengikuti rencana Anda. Mereka akan mencoba melakukan hal yang sama dengan Anda. Mereka mungkin berbohong kepada Anda. Anda mungkin berbohong kepada mereka. Anda harus bersaing dengan enam pemain lain, yang semuanya memiliki kemiripan rencana dan pendekatan.

Aspek multi-agen dari game ini sangat penting untuk tingkat kesulitan merancang AI untuk memainkan game tersebut. AI harus melacak apa yang mungkin ingin dilakukan setiap orang, bersama dengan apa yang mereka katakan ingin mereka lakukan, bersama dengan tipu daya apa pun yang mereka lakukan dengan pemain lain. Ini harus dibandingkan dengan apa yang mereka katakan akan mereka lakukan, dan juga apa yang Anda katakan akan mereka lakukan.

Memusingkan, tapi cukup mudah bagi manusia, biasanya.

Dalam istilah bidang AI, kami menyebutnya sebagai Theory of Mind (ToM). Pertimbangkan bahwa Anda, sebagai manusia, cenderung berteori tentang apa yang dipikirkan manusia lain. Anda tidak dapat membongkar piala kecil seseorang dan melihat pikiran mereka. Anda harus menebak apa pikiran mereka. Anda dapat bertanya kepada mereka, tetapi apa yang mereka katakan kepada Anda mungkin adalah pemikiran mereka atau mungkin versi licik dari pemikiran mereka.

Selain kerumitan Teori Pikiran, kita perlu menambahkan bahasa manusia ke dalam campuran yang tidak jelas ini.

Ketika seseorang berkomunikasi dengan Anda dalam bahasa aslinya, katakanlah bahasa Inggris, ada banyak ruang untuk kesalahan dan miskomunikasi. Saya beri tahu Anda bahwa saya akan mengambil alih negara X, tetapi saya salah mengatakan Y. Oopsie. Atau, apakah saya mengatakan negara X, tetapi Anda salah mengira saya mengatakan negara Y. Jika menurut Anda kebingungan semacam itu tidak dapat terjadi jika semua orang menggunakan pesan teks, Anda salah besar. Saya mungkin mengetik pesan yang mengatakan saya akan menyerang suatu negara dan saya tidak menyebutkan yang mana. Mungkin tersirat mana yang "jelas" akan saya serang. Seorang pemain yang menerima pesan saya mungkin berasumsi bahwa saya pasti merujuk secara implisit ke negara X, tapi mungkin saya ingin mereka berpikir begitu.

Terus dan terus.

Intinya adalah bahwa kemajuan terbaru kami dalam AI terkait Pemrosesan Bahasa Alami (NLP), dan terutama AI generatif terbaru dan Model Bahasa Besar (LLM) membuat situasi bahasa alami semacam ini hampir dapat dilakukan. Di masa lalu, NLP biasanya tidak cukup baik dan demikian pula, LLM belum begitu mapan.

Di masa lalu, AI akan mengirimkan pesan yang hampir pasti akan langsung Anda kenali sebagai pesan yang ditulis oleh sistem AI bernaskah. Kata-katanya tidak lancar. Itu adalah template. Ini adalah hadiah yang jelas bahwa AI adalah AI. Saat ini, jauh lebih sulit untuk membedakan bahwa AI bukanlah pemain manusia dalam konteks ini.

Seperti disebutkan dalam kutipan di atas, AI khusus ini telah dirancang untuk memuat “modul dialog yang dapat dikontrol dengan mesin penalaran strategis” (ibid). Dialog muncul melalui ini: “Cicero menghasilkan dialog menggunakan model bahasa terlatih yang dilatih lebih lanjut pada data dialog dari permainan manusia Diplomasi. Yang terpenting, selain didasarkan pada riwayat dialog dan status game, model dialog dilatih untuk dapat dikontrol melalui maksud, yang di sini kami definisikan sebagai serangkaian tindakan terencana untuk agen dan mitra bicaranya.”

Di sana, perhatikan bahwa pengaturan domain sangat penting. Jika Anda hanya berlatih dialog yang bersifat normal di Internet, ini belum tentu cocok untuk itu Diplomasi konteks permainan. Mereka yang memainkan permainan terbiasa dengan semacam cara singkat untuk membahas permainan dan gerakan yang diusulkan. Anda ingin AI melakukan hal yang sama. Dengan demikian, melatih model bahasa pada data dialog khusus domain adalah pendekatan yang patut diperhatikan.

Untuk mesin penalaran strategis yang disebutkan, inilah yang mereka katakan: “Cicero menggunakan modul penalaran strategis untuk memilih niat dan tindakan secara cerdas. Modul ini menjalankan algoritme perencanaan yang memprediksi kebijakan semua pemain lain berdasarkan status game dan dialog sejauh ini, memperhitungkan kekuatan berbagai tindakan dan kemungkinannya dalam permainan manusia, dan memilih tindakan optimal untuk Cicero berdasarkan prediksi tersebut . Perencanaan bergantung pada nilai dan fungsi kebijakan yang dilatih melalui self-play RL yang menghukum agen karena menyimpang terlalu jauh dari perilaku manusia untuk mempertahankan kebijakan yang sesuai dengan manusia” (ibid; perhatikan bahwa RL adalah singkatan dari Reinforcement Learning).

Selama pertandingan, semua pemain mengkalibrasi ulang posisi mereka setelah setiap gerakan. Anda tidak dapat masuk ke permainan ini dengan strategi tetap yang telah ditentukan sebelumnya yang tidak fleksibel dan dibuat mati-matian. Anda harus mengubah tindakan Anda berdasarkan apa yang dilakukan pemain lain. AI harus diprogram untuk melakukan hal yang sama. Tidak ada strategi statis per se. Alih-alih, terus beri tahu situasinya, selangkah demi selangkah, mencari tahu apa yang tampaknya merupakan langkah terbaik berikutnya yang harus diambil.

Landasan teknologi AI dirancang seperti ini: “Kami memperoleh kumpulan data dari 125,261 game Diplomasi dimainkan secara online di webDiplomacy.net. Dari jumlah tersebut, 40,408 game berisi dialog, dengan total 12,901,662 pesan yang dipertukarkan antar pemain. Akun pemain tidak teridentifikasi dan redaksi otomatis informasi identitas pribadi (PII) dilakukan oleh webDiplomacy. Kami menyebut kumpulan data ini selanjutnya sebagai WebDiplomacy” (ibid).

Mirip dengan bagaimana Anda bisa melatih AI untuk bermain catur, di mana Anda menguasai jutaan permainan catur dan membuat AI melakukan pencocokan pola tentang bagaimana permainan itu dimainkan, AI untuk ini Diplomasi bermain game relatif mapan.

Bagi Anda yang berpengalaman AI mungkin ingin tahu model dasar mana yang mereka gunakan, ini dia: “Kami menggunakan R2C2 (22) sebagai model dasar kami – model encoder-decoder berbasis Transformer parameter 2.7B yang dilatih sebelumnya pada teks dari Internet menggunakan tujuan de-noising BART. Model pra-pelatihan dasar kemudian dilatih lebih lanjut tentang Diplomasi Web melalui Estimasi Kemungkinan Maksimum standar” (ibid).

Selain itu, mereka mengambil pendekatan yang agak tidak biasa dan menarik untuk pemodelan pemain lain mengenai kebijakan yang diperhitungkan: “Pendekatan populer dalam permainan kooperatif adalah memodelkan kebijakan pemain lain melalui pembelajaran yang diawasi pada data manusia, yang biasanya disebut sebagai kloning perilaku (BC). Namun, BC murni rapuh, terutama karena model yang diawasi dapat mempelajari korelasi palsu antara dialog dan tindakan. Untuk mengatasi masalah ini, Cicero menggunakan varian piKL (26) untuk memodelkan kebijakan pemain. piKL adalah algoritma iteratif yang memprediksi kebijakan dengan mengasumsikan setiap pemain i berusaha memaksimalkan nilai yang diharapkan dari kebijakan mereka πi dan meminimalkan divergensi KL antara πi dan kebijakan BC, yang kita sebut kebijakan jangkar τi (ibid).

Saya pikir itu mencakup aspek garis atas dan memberi Anda kemiripan yang tepat tentang apa yang dilakukan AI dan bagaimana AI menyelesaikan tugas yang ditentukan.

Kesimpulan

Masih banyak lagi yang ingin saya sebutkan, tetapi diskusi ini berjalan lama dan akan mencoba membahas beberapa aspek kunci saja. Saya akan bertujuan untuk menutupi lebih dalam posting berikutnya.

Pernahkah Anda mendengar tentang dilema tahanan?

Ini adalah masalah terkait keputusan klasik.

Dilema tahanan melibatkan Anda harus memutuskan apakah Anda akan mengadukan atau mengadukan sesama tahanan. Tahanan lain juga mungkin bisa mengadukan Anda. Ada fungsi hadiah sehingga jika Anda mengadukan tahanan lain dan mereka tidak mengadukan Anda, itu semacam kemenangan bagi Anda. Jika mereka mengadukan Anda dan Anda tidak mengadukan mereka, itu semacam kemenangan bagi mereka dan postur yang kalah untuk Anda. Jika Anda berdua saling mengadu, pada dasarnya Anda berdua kalah. Lihat liputan saya secara detail di tautannya di sini.

Strategi apa yang akan Anda buat saat menghadapi dilema tahanan?

Jika itu adalah kesepakatan satu kali, Anda hampir bisa melempar koin. Jika situasinya berulang-ulang, dan Anda berurusan dengan tahanan lain yang sama, Anda mungkin menemukan pola yang mungkin muncul. Salah satu pola yang paling populer dan sering direkomendasikan dikenal sebagai gayung bersambut. Apa pun yang dilakukan tahanan lain, Anda melakukan hal yang sama pada langkah selanjutnya. Jika mereka tidak mengadukan Anda, Anda tidak mengadukan mereka. Jika mereka benar-benar mengadukan Anda, Anda kemudian mengadukannya pada langkah selanjutnya.

Anda mungkin bingung bagaimana semua ini terkait dengan diplomasi yang diresapi AI saat bermain Diplomasi.

Ini kesepakatannya.

Dalam negosiasi dengan orang lain, Anda seringkali harus memutuskan apakah akan mengatakan yang sebenarnya atau berbohong kepada mereka. Masalah dengan berbohong adalah jika Anda terjebak dalam kebohongan, orang lain mungkin tidak akan mempercayai Anda sejak saat itu. Mereka mungkin tidak sepenuhnya mempercayai Anda sejak awal, tetapi sekarang setelah Anda menunjukkan tangan Anda bahwa Anda memang berbohong, mereka pasti akan memutuskan Anda pembohong.

Beberapa pemain dari Diplomasi berbohong terus-menerus. Mereka percaya ini adalah strategi terbaik. Bohong, bohong, dan bohong lagi. Pemain lain melakukan kebalikannya. Mereka berpendapat bahwa Anda ingin menahan diri dari berbohong jika Anda bisa melakukannya. Hanya gunakan kebohongan dalam situasi yang paling dibutuhkan. Dengan menghindari kebohongan, Anda bisa membangun kepercayaan dengan pemain lain. Setelah Anda menempuh rute kebohongan dan terdeteksi, tidak ada yang akan percaya sepatah kata pun yang Anda ucapkan.

Makalah yang menjelaskan Cicero menyebutkan pertimbangan ini: “Akhirnya, Diplomasi adalah domain yang sangat menantang karena kesuksesan membutuhkan membangun kepercayaan dengan orang lain di lingkungan yang mendorong pemain untuk tidak mempercayai siapa pun. Tindakan setiap giliran terjadi secara bersamaan setelah negosiasi pribadi yang tidak mengikat. Agar berhasil, agen harus memperhitungkan risiko bahwa pemain mungkin tidak menepati kata-kata mereka, atau bahwa pemain lain mungkin meragukan kejujuran agen” (ibid).

Menurut makalah dan video pendek, para peneliti akhirnya menemukan bahwa membuat AI mengatakan yang sebenarnya sebanyak mungkin tampaknya merupakan strategi keseluruhan yang lebih baik. Dalam arti tertentu, Anda mungkin menyamakan ini dengan tit-for-tat dari dilema tahanan. Mulailah dengan mengatakan yang sebenarnya. Jika lawan Anda mengatakan yang sebenarnya, Anda terus mengatakan yang sebenarnya. Jika mereka mulai berbohong, Anda perlu menilai apakah akan tetap mengatakan yang sebenarnya atau beralih ke kebohongan.

Orang mengira ini adalah temuan yang mengharukan.

Ingatlah bahwa bagian yang rumit dan menarik dari Diplomasi adalah Anda melakukan ini sehubungan dengan enam pemain lain (dikenal sebagai masalah multi-agen). Anda mungkin sangat jujur dengan mereka semua. Atau, mungkin jujur bagi sebagian orang tetapi tidak bagi yang lain. Ada juga aspek bahwa setelah Anda berbohong dan ketahuan berbohong kepada satu pemain lain, hal ini berpotensi diamati atau disimpulkan oleh pemain lain. Ergo, Anda diketahui atau dianggap berbohong, bahkan jika Anda tidak berbohong kepada pemain tertentu yang Anda harap Anda anggap jujur dan bahwa Anda berusaha untuk jujur.

Manusia cenderung mencari tahu dan mengembangkan pendekatan kebohongan mereka saat melakukan diplomasi. Ketergantungan situasional mungkin merupakan faktor yang sangat besar. Taruhan di telepon sangat penting untuk dipertimbangkan. Banyak faktor yang berperan.

Akan sangat menarik untuk memiliki infus AI Diplomasi pemain berbasis mesin memainkan sejumlah besar permainan untuk melihat apa yang mungkin disarankan oleh hasil di bagian utama.

Kami mungkin juga ingin mengadu AI dengan kurang dari enam pemain lain untuk melihat bagaimana hal itu mengubah banyak hal. Kami juga dapat menambahkan AI ke dalam campuran sebagai lebih dari satu pemain. Sebagai contoh, misalkan kita memiliki lima pemain manusia dan dua pemain AI (kita akan menyiapkan pemain AI sebagai instance terpisah sehingga secara komputasi mereka tidak satu dan sama). Bagaimana dengan empat manusia dan tiga AI? Bagaimana dengan enam AI dan satu manusia?

Jalan lain adalah mengadu AI hanya dengan AI. Dengan cara itu, kami dapat menjalankan trilyun game dalam urutan cepat. Penyiapan tujuh contoh AI yang berbeda. Masing-masing adalah pemainnya sendiri yang terpisah. Karena ini semua ada di dalam komputer, kami dapat menjalankannya tanpa henti dan menghasilkan ribuan atau jutaan contoh game.

Tentu saja, masalah AI-versus-AI adalah kami telah menghapus pemain manusia. Kami tidak tahu bahwa AI-versus-AI mencerminkan apa yang akan dilakukan pemain manusia. Bagaimanapun, beberapa hasil menarik mungkin terlihat.

Saya telah menyatakan sebelumnya bahwa salah satu batasan AI semacam ini adalah biasanya terfokus secara sempit. Kita tidak bisa langsung mengetahui AI yang bermain Diplomasi akan berlaku dalam diplomasi dunia nyata. Selanjutnya, mungkin AI yang bekerja dengan baik Diplomasi tidak akan berhasil dengan baik di game online berorientasi diplomasi lainnya. Ini mungkin tidak akan berakhir dan malah menjadi semacam kuda poni satu trik.

Seperti yang dikemukakan dalam penelitian tentang formulasi Permainan Celup:

“Kami berpendapat bahwa dalam negosiasi nyata, penting untuk memiliki pengetahuan tentang domain dan seseorang harus dapat menalarnya. Seseorang tidak dapat, misalnya, berharap untuk membuat kesepakatan yang menguntungkan dalam bisnis barang antik tanpa memiliki pengetahuan tentang barang antik, tidak peduli seberapa bagus seseorang dalam tawar-menawar. Selain itu, negosiator yang baik juga harus mampu menalar keinginan lawannya. Penjual mobil yang baik, misalnya, akan mencoba mencari tahu jenis mobil apa yang paling sesuai dengan kebutuhan kliennya untuk meningkatkan peluang membuat kesepakatan yang menguntungkan” (seperti yang dikutip sebelumnya: Angela Fabregues dan Carles Sierra, “DipGame: A Challenging Negotiation Tempat tidur percobaan”, Aplikasi Rekayasa Kecerdasan Buatan, Oktober 2011).

Setelah penguasaan AI di Diplomasi terjadi, semua mata harus tertuju pada penggunaan atau penggunaan kembali AI untuk mengatasi permainan terkait diplomasi lainnya. Selain itu, upaya untuk menggunakan AI dalam pengaturan diplomasi dunia nyata harus dieksplorasi.

Saya akan mengakhiri untuk saat ini pada beberapa pertimbangan Ethical AI.

Pertama, meyakinkan untuk memperhatikan bahwa tim Meta AI menyadari bahwa pekerjaan mereka mencakup konsekuensi Etika AI. Muncul pertanyaan serius. Apakah pantas untuk "membodohi" orang agar bermain melawan AI tanpa memberi tahu mereka bahwa mereka melakukannya? Mungkinkah bahasa alami yang dihasilkan oleh AI secara tidak sengaja mengandung kata-kata ofensif yang disampaikan kepada pemain manusia? Dan seterusnya.

Pastikan untuk melihat bagaimana mereka menangani masalah Ethical AI yang mendesak di Bahan Tambahan (SM) makalah mereka: “Kami membahas pertimbangan etis untuk penelitian ini lebih lanjut di SM, termasuk pertimbangan privasi untuk penggunaan data (SM, § A.1), potensi bahaya yang dihasilkan dari pembuatan bahasa yang beracun atau bias (SM, §A.2), jalan untuk penyalahgunaan teknologi dialog berorientasi tujuan (SM, §A.3), dan pengungkapan agen AI kepada pemain manusia (SM , §A.4)” (ibid).

Kami membutuhkan lebih banyak pengembang AI dan kepemimpinan mereka untuk menyadari Ethical AI dan mengambil langkah-langkah hati-hati untuk berhati-hati dan bijaksana dalam pekerjaan AI yang mereka lakukan. Plus, mereka perlu memastikan bahwa mereka transparan tentang tindakan Ethical AI apa yang telah mereka ambil dan asumsi apa yang telah mereka buat.

Item terakhir saya untuk saat ini memerlukan kegelisahan keseluruhan antropomorfisasi KE.

Jika kita meningkatkan AI agar tampak sangat diplomatis, apakah itu akan menyesatkan manusia untuk berasumsi atau percaya bahwa AI setara dengan manusia dalam segala hal?

Ini adalah lereng licin yang mudah. AI kikuk yang berinteraksi dengan Anda memberikan petunjuk bahwa itu mungkin AI dan bukan manusia. AI yang diulang dengan lancar yang memiliki tampilan ketenangan diplomatik tertinggi kemungkinan besar akan membuat orang tanpa ragu jatuh ke dalam perangkap bahwa AI adalah manusia, termasuk seolah-olah memiliki akal sehat manusia dan semua kemampuan pemahaman manusia.

Selain itu, sadari juga bagaimana ini dapat dieksploitasi selama a Diplomasi permainan. Seorang pemain manusia yang melihat pesan yang tampak hampir puitis dari pemain lain mungkin menyadari bahwa ini pasti AI (sekarang jauh melampaui AI kikuk sebelumnya), sedangkan manusia lain tidak akan mampu membuat pesan secara artikulatif. Tentu saja, jika AI terus menyesuaikan, itu mungkin mengubah kata-kata puitis untuk lebih mencerminkan kata-kata singkat dan longgar dari pemain manusia yang sebenarnya. Pada gilirannya, pemain manusia mungkin beralih ke bahasa puitis, mencoba menunjukkan bahwa mereka adalah manusia. Idenya adalah bahwa mungkin pemain manusia lain bersedia untuk bersekutu dengan sesama manusia melalui AI.

Hal berikutnya yang Anda ketahui, permainan mulai beralih ke mencoba mencari tahu siapa manusia dan siapa AI. Jika Anda bisa mengetahui yang mana, mungkin ini memberi Anda keuntungan. Di sisi lain, mungkin untuk tidak. AI bisa menjadi sama cerdasnya dengan permainan seperti manusia. Tebakan Anda tentang mana yang tidak banyak membantu Anda. Ini bisa menjadi pengalih perhatian dari hanya berkonsentrasi untuk mencoba memenangkan permainan, terlepas dari apakah pemain AI atau pemain manusia ada di tangan.

Bagi para peneliti yang ingin melakukan beberapa studi faktor manusia tentang konsepsi yang membengkokkan pikiran semacam ini, Anda berpotensi mempertimbangkan untuk menggunakan AI-infused Diplomasi pemain dan mencari bersedia Diplomasi turnamen liga untuk menyelidiki identifikasi manusia versus AI dan strategi adaptasi perilaku yang muncul.

Mari kita selesaikan ini.

Mark Twain mengatakan ini tentang diplomasi: "Prinsip memberi dan menerima adalah prinsip diplomasi - beri satu dan terima sepuluh." Apakah itu penilaian yang jujur tentang bagaimana manusia berfungsi atau hanya sedikit humor yang secara sinis tetapi salah menilai kondisi manusia?

Renungkan pertanyaan-pertanyaan lebih lanjut ini:

Jika kita dapat memasukkan diplomasi ke dalam AI, apakah ini akan mengajari kita tentang bagaimana manusia membuat diplomasi dan memungkinkan umat manusia untuk meningkatkan seni berdiplomasi?
Apakah kita akan menciptakan kepalsuan AI yang tampak hidup padahal tidak seperti itu, semua karena secara komputasi menarik kelinci keluar dari topi untuk menunjukkan diplomasi seperti manusia?
Dapatkah keseimbangan ditemukan antara memiliki AI yang dijiwai dengan diplomasi sehingga sementara itu kita diperingatkan bahwa ini masih AI sehari-hari dan karena itu tidak melakukan antropomorfisasi?

Mereka mengatakan bahwa diplomasi adalah seni membiarkan orang lain mengikuti keinginan Anda. Mari pastikan bahwa cara kita adalah cara manusia, bukan cara AI. Meskipun untuk menjadi diplomatis, sekarang saya memikirkannya dengan hati-hati, dan jika kita berakhir dengan tuan AI, mungkin kita harus membiarkan cara kita menjadi cara AI, yang mudah-mudahan cocok dengan cara manusia yang cocok.

Hanya mencoba melakukan sedikit diplomasi yang cerdas.

Sumber: https://www.forbes.com/sites/lanceeliot/2022/11/23/meta-ai-unveils-ai-infused-diplomatic-charmer-which-stirs-ai-ethics-and-ai-law- ke-tidak sopan-tiff/