Pemerintah Australia meluncurkan konsultasi untuk menilai larangan AI "berisiko tinggi" - Cryptopolitan

Pemerintah Australia telah memulai periode konsultasi delapan minggu yang tidak terduga yang bertujuan untuk menentukan apakah alat kecerdasan buatan (AI) "berisiko tinggi" tertentu harus dilarang. Langkah ini mengikuti langkah serupa yang diambil oleh wilayah lain, termasuk Amerika Serikat, Uni Eropa, dan China, dalam mengatasi risiko yang terkait dengan perkembangan AI yang pesat.

Pada 1 Juni, Menteri Industri dan Ilmu Pengetahuan Ed Husic meluncurkan dua makalah untuk tinjauan publik: satu tentang “AI yang Aman dan Bertanggung Jawab di Australia” dan satu lagi tentang AI generatif dari National Science and Technology Council. Makalah ini dirilis bersamaan dengan periode konsultasi yang akan tetap dibuka hingga 26 Juli.

Pemerintah Australia mencari umpan balik tentang strategi untuk mempromosikan “penggunaan AI yang aman dan bertanggung jawab”, mengeksplorasi opsi seperti kerangka kerja etika sukarela, peraturan khusus, atau kombinasi dari kedua pendekatan tersebut. Khususnya, konsultasi tersebut secara langsung menanyakan apakah aplikasi atau teknologi AI berisiko tinggi tertentu harus sepenuhnya dilarang dan mencari masukan tentang kriteria untuk mengidentifikasi alat tersebut.

Makalah diskusi yang komprehensif mencakup draf matriks risiko untuk model AI, mengkategorikan mobil self-driving sebagai "berisiko tinggi" dan alat AI generatif untuk membuat catatan medis pasien sebagai "berisiko sedang". Dokumen tersebut menekankan penerapan positif AI di sektor-sektor seperti kedokteran, teknik, dan hukum, serta potensi bahaya yang terkait dengan alat deepfake, pembuatan berita palsu, dan kejadian di mana bot AI mendorong tindakan menyakiti diri sendiri.

pemerintah Australia vs AI

Kekhawatiran tentang bias dalam model AI, serta generasi informasi yang tidak masuk akal atau palsu yang dikenal sebagai "halusinasi" oleh sistem AI, juga dibahas dalam makalah diskusi. Diakui bahwa adopsi AI di Australia saat ini terbatas karena rendahnya tingkat kepercayaan publik. Makalah ini mereferensikan peraturan AI yang diterapkan di yurisdiksi lain dan larangan sementara Italia terhadap ChatGPT sebagai contoh.

Selain itu, laporan Dewan Sains dan Teknologi Nasional menyoroti kemampuan menguntungkan Australia dalam robotika dan visi komputer, tetapi mencatat kelemahan relatif di bidang inti seperti model bahasa yang besar. Ini menimbulkan kekhawatiran tentang konsentrasi sumber daya AI generatif di sejumlah kecil perusahaan teknologi yang berbasis di AS, yang berpotensi menimbulkan risiko bagi Australia.

Laporan ini lebih lanjut mengeksplorasi peraturan AI global, memberikan contoh model AI generatif, dan menunjukkan bahwa model tersebut kemungkinan akan memiliki dampak luas pada berbagai sektor mulai dari perbankan dan keuangan hingga layanan publik, pendidikan, dan industri kreatif.