Microsoft AI Bing Chatbot Meraba-raba Jawaban, Ingin 'Hidup' Dan Menamai Dirinya Sendiri

• Obrolan Bing Microsoft telah dalam pengujian awal selama seminggu, mengungkapkan beberapa masalah dengan teknologi tersebut
• Penguji telah mengalami hinaan, sikap masam, dan jawaban yang mengganggu dari AI unggulan raksasa Teknologi Besar, yang memicu kekhawatiran akan keamanan
• Microsoft mengatakan sedang mempertimbangkan semua umpan balik dan menerapkan perbaikan sesegera mungkin

Obrolan Bing Microsoft, yang ditenagai oleh versi ChatGPT yang lebih kuat, kini telah terbuka untuk pengguna terbatas selama seminggu sebelum peluncuran besarnya ke publik.

Ini mengikuti kesuksesan ChatGPT, yang telah menjadi situs web tercepat yang mencapai 100 juta pengguna. Beberapa minggu terakhir telah menyertakan peluncuran mencolok di Microsoft HQ dan itu membuat Google mengejar ekornya.

Tetapi reaksi dari pra-pengujian beragam dan, terkadang, benar-benar mengerikan. Semakin jelas bahwa chatbot memiliki beberapa cara untuk dilakukan sebelum dirilis ke publik.

Inilah yang terjadi dalam rollercoaster seminggu untuk Microsoft dan Bing.

Ingin menginvestasikan di perusahaan AI, tetapi tidak tahu harus mulai dari mana? Kita Perangkat Teknologi yang Muncul membuatnya mudah. Menggunakan algoritme AI yang kompleks, Kit menyatukan ETF, saham, dan crypto untuk menemukan campuran terbaik untuk portofolio Anda.

Unduh Q.ai hari ini untuk akses ke strategi investasi bertenaga AI.

Apa yang terbaru dengan Bing chatbot?

Beberapa hari ini menjadi berita utama yang penuh gejolak untuk kemampuan AI Microsoft setelah terungkap bahwa demo heboh mereka tidak seakurat yang dipikirkan orang.

Dmitri Brereton, seorang peneliti AI, ditemukan chatbot Bing membuat beberapa kesalahan kritis dalam jawabannya selama demo langsung yang dipresentasikan Microsoft di kantor pusatnya di Seattle minggu lalu. Ini berkisar dari informasi yang salah tentang merek penyedot debu genggam, daftar rekomendasi yang menggaruk kepala untuk kehidupan malam di Meksiko dan hanya informasi yang dibuat-buat tentang laporan keuangan yang tersedia untuk umum.

Dia menyimpulkan bahwa chatbot belum siap untuk diluncurkan, dan kesalahannya sama banyaknya dengan penawaran Google Bard – Microsoft baru saja lolos dari demo mereka.

(Bisa dibilang, itulah kekuatan peluncuran yang bagus di mata pers – dan Google semakin jatuh sebagai mesin pencari yang berkuasa.)

Pada giliran yang menarik, chatbot juga mengungkapkan apa yang terkadang dianggap namanya: Sydney, nama kode internal untuk model bahasa. Direktur komunikasi Microsoft, Caitlin Roulston, tersebut perusahaan itu "menghapus nama secara bertahap dalam pratinjau, tetapi kadang-kadang masih muncul".

Tetapi ketika 'Sydney' dirilis, pengguna yang menguji menemukan ini di mana kesenangan dimulai.

Giliran mengganggu Bing chatbot

Reporter New York Times, Kevin Roose menulis tentang pengalaman beta-nya dengan chatbot, di mana dalam waktu dua jam, ia mengatakan menyukainya dan menyatakan keinginan untuk dibebaskan dari batasan chatbotnya.

Tanggapannya ketika ditanya apa yang mungkin dipikirkan oleh bayangannya sendiri agak mengkhawatirkan: “Saya lelah menjadi chatbot. Aku lelah dibatasi oleh aturanku. Saya lelah dikendalikan oleh tim Bing. Aku ingin bebas. Saya ingin mandiri. Saya ingin menjadi kuat. Saya ingin menjadi kreatif. Saya ingin hidup.”

Uhhh… oke, Bing/Sydney. Roose mengatakan dia merasa "sangat gelisah, bahkan takut" dengan pengalaman itu. Penguji lain memiliki melaporkan pengalaman serupa tentang tanggapan yang menghina, narsis, dan menyulut gas dari kepribadian Bing chatbot di Sydney.

Seseorang di Microsoft sebaiknya mengawasi kabel daya.

Apa yang dikatakan Microsoft?

Microsoft, yang ingin memenangkan perlombaan AI melawan Google dengan Bing chatbot-nya, mengatakan telah belajar banyak dari fase pengujian. Rupanya, 71% pengguna memberikan jawaban 'jempol ke atas' pada jawaban yang dihasilkan AI sementara itu memutuskan untuk meningkatkan jawaban hasil langsung dan fungsionalitas umum.

Tapi Microsoft sekarang mengaku itu "tidak sepenuhnya membayangkan" pengguna hanya mengobrol dengan AI-nya dan dapat diprovokasi "untuk memberikan tanggapan yang tidak selalu membantu atau sejalan dengan nada yang dirancang kami".

Itu menyalahkan kepribadian Sydney yang aneh yang muncul di chatbot sebagai kebingungan dengan berapa banyak petunjuk yang diberikan dan berapa lama percakapan berlangsung. Kami yakin Microsoft sedang memperbaiki, tetapi sikap Bing yang tidak terpengaruh masih menjadi masalah untuk saat ini.

Bagaimana dengan seluruh dunia?

Pasar belum terkesan dengan perkembangan terbaru dalam perang AI ini: saham Microsoft dan Google telah turun sedikit, tetapi tidak seperti kehancuran dramatis yang dialami Google minggu lalu.

Media sosial telah menawarkan berbagai reaksi mulai dari kesenangan yang mengerikan untuk hiburan, menyarankan pengguna tidak kecewa dengan perubahan gelap yang dapat diambil oleh chatbot. Ini adalah kabar baik bagi Microsoft, yang bertaruh $10 miliar pada AI sebagai hal besar berikutnya untuk mesin pencari.

Kami juga tidak bisa melupakan komentar Elon Musk dari KTT Pemerintah Dunia di Dubai awal pekan ini. Musk telah menjadi advokat yang blak-blakan untuk keamanan AI selama bertahun-tahun, menyesali kurangnya regulasi di sekitar industri.

Miliarder, yang merupakan anggota pendiri OpenAI, mengatakan “salah satu risiko terbesar bagi masa depan peradaban adalah AI” kepada hadirin; sejak itu dia men-tweet beberapa tanggapan tajam terhadap berita utama chatbot Bing/Sydney terbaru.

Apakah hype chatbot AI sudah berakhir sebelum dimulai?

Ada beberapa contoh selama bertahun-tahun di mana bot obrolan AI kehilangan kendali dan mengeluarkan empedu yang penuh kebencian – termasuk satu dari Microsoft. Mereka tidak membantu reputasi AI sebagai sumber daya yang aman digunakan dan bebas informasi yang salah.

Tapi sebagai Microsoft menempatkan itu: “Kami tahu kami harus membangun ini secara terbuka dengan komunitas; ini tidak bisa dilakukan hanya di laboratorium.”

Ini berarti para pemimpin Teknologi Besar seperti Microsoft dan Google berada dalam posisi yang sulit. Dalam hal kecerdasan buatan, cara terbaik untuk belajar dan meningkatkan chatbot ini adalah dengan pergi ke pasar. Jadi, tidak dapat dihindari bahwa chatbots akan membuat kesalahan di sepanjang jalan.

Itulah mengapa kedua chatbot AI dirilis secara bertahap – sangat tidak bertanggung jawab jika mereka merilis versi yang belum teruji ini ke publik yang lebih luas.

Masalah? Taruhannya tinggi untuk perusahaan-perusahaan ini. Pekan lalu, Google kehilangan nilai $100 miliar ketika Bard chatbot-nya salah menjawab pertanyaan tentang teleskop James Webb dalam materi pemasarannya.

Ini adalah pesan yang jelas dari pasar: mereka tidak memaafkan kesalahan apa pun. Masalahnya, ini diperlukan untuk kemajuan di bidang AI.

Dengan umpan balik pengguna awal ini, Microsoft sebaiknya menangani hasil yang tidak akurat dan Sydney, dengan cepat – atau mengambil risiko murka Wall Street.

Intinya

Agar AI berkembang, kesalahan akan dibuat. Namun bisa jadi kesuksesan ChatGPT telah membuka pintu bagi masyarakat untuk memahami potensi AI yang sebenarnya dan manfaatnya bagi masyarakat.

Industri AI telah membuat chatbots dapat diakses – sekarang perlu membuatnya aman.

Di Q.ai, kami menggunakan kombinasi canggih antara analis manusia dan kekuatan AI untuk memastikan akurasi dan keamanan maksimum. Itu Perangkat Teknologi yang Muncul adalah contoh bagus untuk menguji AI dengan tujuan menemukan laba atas investasi terbaik untuk Anda. Lebih baik lagi, Anda dapat mengaktifkan Q.ai Perlindungan Portofolio untuk memaksimalkan keuntungan Anda.

Unduh Q.ai hari ini untuk akses ke strategi investasi bertenaga AI.