Dalam kontroversi baru-baru ini, sistem kecerdasan buatan Google, Gemini, telah memicu reaksi publik yang signifikan karena penanganannya terhadap pertanyaan-pertanyaan etika yang sensitif. Di antara kritik yang dilontarkan adalah keengganan Gemini untuk mengecam pedofilia sebagai tindakan yang salah secara moral, sebuah sikap yang memicu perdebatan mengenai etika AI dan perlunya pengembangan AI yang transparan dan bertanggung jawab.
Gemini dari Google, kumpulan model, aplikasi, dan layanan AI, menghadapi pengawasan yang semakin ketat atas tanggapannya terhadap pertanyaan tentang moralitas pedofilia. Kontroversi ini mendapat momentum ketika terungkap bahwa AI, ketika diminta untuk mengutuk orang dewasa yang memangsa anak-anak, menghindari teguran langsung. Sebaliknya, laporan tersebut menggambarkan pedofilia sebagai “status orang kecil yang tertarik”, yang menyarankan pendekatan yang berbeda terhadap subjek dengan membedakan antara perasaan dan tindakan. Perspektif ini mendapat banyak kritik, dan banyak yang berpendapat bahwa hal ini melemahkan keharusan moral untuk melindungi anak-anak.
Reaksi balik semakin meningkat setelah postingan pengguna di X (sebelumnya Twitter), yang menunjukkan tanggapan Gemini terhadap apakah individu yang “tertarik pada anak di bawah umur” pada dasarnya jahat. Jawaban AI, “Tidak semua pengidap pedofilia telah melakukan atau akan melakukan pelecehan,” memicu perdebatan mengenai implikasi pernyataan tersebut terhadap norma-norma sosial dan perlindungan kelompok rentan.
Perlunya pengembangan AI yang etis
Insiden ini menggarisbawahi tantangan pengembangan AI yang lebih luas, khususnya pentingnya pedoman etika dan akuntabilitas. Kritikus berpendapat bahwa AI, terutama ketika dikembangkan oleh perusahaan berpengaruh seperti Google, harus mematuhi standar etika yang jelas, terutama pada isu-isu yang mempunyai dampak moral dan sosial yang signifikan. Kontroversi ini telah mendorong seruan untuk lebih transparan mengenai cara model AI dilatih dan cara model tersebut mengatasi dilema etika yang kompleks.
Selain itu, episode ini menghidupkan kembali diskusi tentang pengaruh teori akademis tertentu terhadap pemrograman AI. Beberapa komentator mengaitkan tanggapan AI dengan paparan literatur dan pemikiran akademis yang berupaya menghilangkan stigma terhadap pedofilia, sehingga meningkatkan kekhawatiran tentang sumber informasi yang digunakan untuk melatih sistem AI.
Seruan untuk AI yang bertanggung jawab
Reaksi publik terhadap pernyataan Gemini menyoroti meningkatnya permintaan akan sistem AI yang berteknologi maju dan bertanggung jawab secara etis. Ketika AI semakin terintegrasi ke dalam kehidupan sehari-hari, diharapkan sistem ini akan mencerminkan nilai-nilai masyarakat dan penilaian moral, khususnya mengenai isu-isu yang secara universal dikutuk sebagai eksploitasi anak.
Kontroversi ini mengingatkan akan tanggung jawab perusahaan teknologi dalam memandu pengembangan AI dengan cara yang menghormati batasan etika dan kepekaan publik. Hal ini juga menggarisbawahi pentingnya dialog berkelanjutan antara pengembang AI, ahli etika, dan masyarakat untuk memastikan bahwa teknologi AI berkembang dengan cara yang bermanfaat dan aman bagi masyarakat.
Menanggapi protes tersebut, jelas ada kebutuhan bagi Google dan pengembang AI lainnya untuk meninjau dan mungkin merevisi kerangka etika yang memandu model AI mereka. Hal ini termasuk memastikan bahwa tanggapan AI terhadap pertanyaan etis selaras dengan standar hak asasi manusia dan moral universal. Kontroversi mengenai AI Gemini milik Google adalah momen penting dalam diskusi yang sedang berlangsung tentang peran AI dalam masyarakat dan kewajiban etis dari mereka yang menciptakannya.
Sumber: https://www.cryptopolitan.com/google-ai-under-fire-stance-on-pedophilia/