Apakah Mengekspos Dan Mencatat Keluaran Generatif AI ChatGPT yang Salah Dan Berhalusinasi Berguna, Meminta Etika AI dan Hukum AI

Anda berada dalam rahasia.

Ya, ada sesuatu yang diam-diam terjadi di balik layar tentang AI terbaru yang mungkin ingin Anda ketahui.

Di kolom hari ini, saya akan memeriksa dorongan baru-baru ini untuk mengkompilasi dugaan kesalahan dan penyakit lain yang terkait dengan esai yang dihasilkan dari aplikasi AI yang dikenal sebagai ChatGPT. Aplikasi khusus ini menggunakan jenis AI yang disebut AI generatif. Anda mungkin pernah mendengar atau melihat berita utama yang menarik tentang AI dan ChatGPT berbasis generatif. Berita itu sangat menarik tentang aplikasi AI khusus ini dan kemampuan yang tampaknya mencengangkan terkait dengan jenis AI ini.

Seperti yang akan saya bahas sebentar lagi, beberapa orang sangat yakin bahwa kami perlu membuat daftar kesalahan atau kesalahan apa yang dapat dihasilkan oleh aplikasi AI saat membuat esai untuk Anda. Yang lain berpendapat bahwa meskipun gagasan tentang daftar semacam itu mengagumkan, itu adalah latihan yang sia-sia dan hanya akan menghasilkan sedikit buah.

Kami akan memeriksa kedua sisi dari perdebatan sengit itu.

Pertama, mari kita pastikan kita semua memiliki pemahaman yang sama tentang apa itu AI Generatif dan juga apa itu ChatGPT.

ChatGPT adalah sistem berorientasi percakapan interaktif AI tujuan umum, pada dasarnya chatbot umum yang tampaknya tidak berbahaya, namun, secara aktif dan rajin digunakan oleh orang-orang dengan cara yang membuat banyak orang lengah. Yang perlu Anda lakukan untuk menggunakan jenis AI ini adalah memasukkan prompt dan aplikasi AI akan membuat esai untuk Anda yang mencoba menanggapi prompt Anda.

Sayangnya, ini dapat digunakan dengan cara yang agak tidak etis atau licik. Kekhawatiran yang sangat menjengkelkan adalah bahwa siswa dapat menggunakan aplikasi AI berbasis generatif untuk menghasilkan esai yang ditugaskan untuk mereka, melakukannya hanya dengan memasukkan satu atau dua kalimat untuk mengarahkan aplikasi ke arah yang benar. Beberapa orang mengeluh bahwa ini berarti siswa akan memilih untuk menyontek saat menulis esai di luar kelas. Guru mencoba mencari tahu apa yang harus dilakukan, lihat analisis dan rekomendasi saya di tautannya di sini.

Terlepas dari hiruk-pikuk pujian yang terpuji untuk ChatGPT, ada kekhawatiran yang kurang diketahui yang diungkapkan terutama oleh orang dalam AI bahwa ada beberapa masalah dan keraguan penting yang harus dikhawatirkan orang. Satu kelemahan penting adalah bahwa esai yang dihasilkan oleh aplikasi AI ini dapat memiliki berbagai kebohongan yang disematkan, termasuk fakta yang jelas-jelas tidak benar, fakta yang digambarkan secara menyesatkan, dan fakta nyata yang seluruhnya dibuat-buat. Aspek fabrikasi tersebut sering disebut sebagai bentuk dari halusinasi AI, slogan yang saya tidak suka tetapi sayangnya tampaknya mendapatkan daya tarik yang populer (untuk penjelasan terperinci saya tentang mengapa ini adalah terminologi yang buruk dan tidak cocok, lihat liputan saya di tautannya di sini).

Saya ingin mengklarifikasi satu aspek penting sebelum kita membahas topik ini.

Ada beberapa klaim yang terlalu besar di media sosial tentang AI generatif menegaskan bahwa AI versi terbaru ini sebenarnya AI yang hidup (tidak, mereka salah!). Mereka yang berada di Etika AI dan Hukum AI sangat khawatir dengan tren klaim yang berkembang pesat ini. Anda mungkin dengan sopan mengatakan bahwa beberapa orang melebih-lebihkan apa yang sebenarnya dapat dilakukan AI saat ini. Mereka beranggapan bahwa AI memiliki kemampuan yang belum bisa kita capai. Itu sangat disayangkan. Lebih buruk lagi, mereka dapat membiarkan diri mereka sendiri dan orang lain masuk ke situasi yang mengerikan karena asumsi bahwa AI akan memiliki perasaan atau seperti manusia untuk dapat mengambil tindakan.

Jangan melakukan antropomorfisasi AI.

Melakukan hal itu akan membuat Anda terjebak dalam perangkap ketergantungan yang lengket dan masam untuk mengharapkan AI melakukan hal-hal yang tidak dapat dilakukannya. Dengan demikian, AI generatif terbaru relatif mengesankan untuk apa yang dapat dilakukannya. Perlu diketahui bahwa ada batasan signifikan yang harus selalu Anda ingat saat menggunakan aplikasi AI generatif apa pun.

Jika Anda tertarik dengan keributan yang berkembang pesat tentang ChatGPT dan AI Generatif yang semuanya diceritakan, saya telah melakukan seri terfokus di kolom saya yang mungkin menurut Anda informatif. Berikut sekilas jika salah satu dari topik ini menarik perhatian Anda:

• 1) Prediksi Kemajuan AI Generatif Akan Datang. Jika Anda ingin tahu apa yang mungkin terungkap tentang AI sepanjang tahun 2023 dan seterusnya, termasuk kemajuan mendatang dalam AI generatif dan ChatGPT, Anda ingin membaca daftar lengkap prediksi tahun 2023 saya di tautannya di sini.
• 2) AI Generatif dan Nasihat Kesehatan Mental. Saya memilih untuk meninjau bagaimana AI generatif dan ChatGPT digunakan untuk saran kesehatan mental, tren yang menyusahkan, menurut analisis terfokus saya di tautannya di sini.
• 3) Konteks Dan Penggunaan AI Generatif. Saya juga melakukan pemeriksaan basa-basi musiman tentang konteks terkait Sinterklas yang melibatkan ChatGPT dan AI generatif di tautannya di sini.
• 4) Penipu Menggunakan AI Generatif. Pada catatan yang tidak menyenangkan, beberapa scammer telah menemukan cara menggunakan AI generatif dan ChatGPT untuk melakukan kesalahan, termasuk membuat email scam dan bahkan membuat kode pemrograman untuk malware, lihat analisis saya di tautannya di sini.
• 5) Kesalahan Pemula Menggunakan Generatif AI. Banyak orang yang melampaui dan secara mengejutkan meremehkan apa yang dapat dilakukan oleh AI generatif dan ChatGPT, jadi saya melihat secara khusus pada kekurangan yang cenderung dilakukan oleh pemula AI, lihat diskusi di tautannya di sini.
• 6) Mengatasi Anjuran AI Generatif Dan Halusinasi AI. Saya menjelaskan pendekatan terdepan untuk menggunakan add-on AI untuk menangani berbagai masalah yang terkait dengan mencoba memasukkan petunjuk yang sesuai ke AI generatif, ditambah ada add-on AI tambahan untuk mendeteksi apa yang disebut keluaran halusinasi AI dan kepalsuan, seperti ditutupi pada tautannya di sini.
• 7) Membongkar Klaim Bonehead Tentang Mendeteksi Esai Produksi AI Generatif. Ada demam emas yang salah kaprah dari aplikasi AI yang mengklaim dapat memastikan apakah esai tertentu dibuat oleh manusia atau dibuat oleh AI. Secara keseluruhan, ini menyesatkan dan dalam beberapa kasus, klaim yang bodoh dan tidak dapat dipertahankan, lihat liputan saya di tautannya di sini.
• 8) Bermain Peran Melalui AI Generatif Mungkin Menandakan Kelemahan Kesehatan Mental. Beberapa menggunakan AI generatif seperti ChatGPT untuk bermain peran, di mana aplikasi AI merespons manusia seolah-olah ada di dunia fantasi atau pengaturan buatan lainnya. Ini bisa berdampak pada kesehatan mental, lihat tautannya di sini.

Mari sekarang kita bahas esensi AI generatif dan ChatGPT agar Anda mengetahui dasar-dasarnya. Kami kemudian akan siap untuk terjun ke analisis penyelidikan tentang kebohongan yang berpotensi dihasilkan oleh aplikasi AI ini. Saya akan menyertakan beberapa contoh penggunaan ChatGPT, yang akan membantu Anda secara nyata memahami sifat dari apa yang dihasilkan AI generatif jenis ini.

Membuka Kaleng Cacing Pada AI Generatif

Kami siap menyelami beberapa detail tentang AI.

Jika Anda sudah sangat paham tentang topik AI generatif dan ChatGPT, Anda dapat memilih untuk membaca sekilas poin saya dan melanjutkan ke bagian selanjutnya dari diskusi ini. Untuk semua orang, saya percaya Anda mungkin menganggap penjelasan ini bermanfaat.

Singkatnya, AI generatif adalah jenis AI tertentu yang menyusun teks seolah-olah teks tersebut ditulis oleh tangan dan pikiran manusia. Yang perlu Anda lakukan hanyalah memasukkan prompt, seperti kalimat seperti "Ceritakan tentang Abraham Lincoln" dan AI generatif akan memberi Anda esai tentang Lincoln. Ini umumnya diklasifikasikan sebagai AI generatif yang berfungsi teks-ke-teks atau ada yang lebih suka menyebutnya teks-ke-esai keluaran. Anda mungkin pernah mendengar tentang mode AI generatif lainnya, seperti text-to-art dan text-to-video.

Pikiran pertama Anda mungkin adalah bahwa ini tidak tampak seperti masalah besar dalam hal pembuatan esai. Anda dapat dengan mudah melakukan pencarian online di Internet dan dengan mudah menemukan berton-ton esai tentang Presiden Lincoln. Kicker dalam kasus AI generatif adalah bahwa esai yang dihasilkan relatif unik dan memberikan komposisi asli daripada peniru. Jika Anda mencoba dan menemukan esai yang diproduksi oleh AI secara online di suatu tempat, kemungkinan besar Anda tidak akan menemukannya.

AI generatif telah dilatih sebelumnya dan menggunakan formulasi matematis dan komputasi yang rumit yang telah disiapkan dengan memeriksa pola dalam kata-kata dan cerita tertulis di seluruh web. Sebagai hasil dari pemeriksaan ribuan dan jutaan bagian tertulis, AI dapat memuntahkan esai dan cerita baru yang merupakan campuran dari apa yang ditemukan. Dengan menambahkan berbagai fungsionalitas probabilistik, teks yang dihasilkan cukup unik dibandingkan dengan apa yang telah digunakan dalam set pelatihan.

Itu sebabnya ada keributan tentang siswa yang bisa menyontek saat menulis esai di luar kelas. Seorang guru tidak dapat begitu saja mengambil esai yang dinyatakan oleh siswa penipu sebagai tulisan mereka sendiri dan mencari tahu apakah itu disalin dari beberapa sumber online lainnya. Secara keseluruhan, tidak akan ada esai online yang sudah ada sebelumnya yang sesuai dengan esai yang dihasilkan AI. Semua mengatakan, guru harus dengan enggan menerima bahwa siswa menulis esai sebagai karya asli.

Sebentar lagi, saya akan menunjukkan kepada Anda apa yang terjadi saat Anda memasukkan pertanyaan atau petunjuk ke AI generatif. Saya akan menggunakan versi terbaru ChatGPT untuk memasukkan permintaan saya dan telah mengumpulkan "jawaban" atau esai yang dihasilkan oleh AI (perhatikan bahwa hal yang sama dapat dilakukan dengan banyak aplikasi AI generatif lain yang tersedia; saya telah memilih untuk menggunakan ChatGPT karena mendapatkan ketenaran lima menit sekarang).

Mungkin garis singgung singkat tentang ChatGPT mungkin bisa membantu saat ini.

Aplikasi ChatGPT tersedia untuk masyarakat umum beberapa bulan yang lalu. Pada umumnya, aplikasi AI generatif ini biasanya hanya dapat diakses oleh orang dalam AI. Sisi yang tidak biasa bahwa ChatGPT dapat digunakan oleh siapa saja hanya dengan memasukkan alamat email dan nama, hal ini menyebabkan banyak orang memutuskan untuk mencobanya. ChatGPT saat ini gratis untuk digunakan (masalah monetisasi merupakan dilema yang membayangi pembuat AI).

Hampir segera ada reaksi besar di media sosial ketika orang-orang berlomba untuk memberikan contoh tentang apa yang dapat dilakukan AI generatif. Perusahaan yang membuat ChatGPT, OpenAI, memilih untuk menutup pendaftaran satu juta pengguna. Jutaan pengguna itu telah berhasil membombardir gelombang udara dengan segala macam cerita dan dongeng tentang penggunaan ChatGPT.

Berhati-hatilah dalam mempercayai apa yang orang katakan tentang aplikasi AI. Banyak dari orang-orang ini tidak mengerti tentang apa yang mereka gunakan. Seolah-olah mereka tidak pernah mengendarai mobil dan bahkan tidak menyadari bahwa mobil itu ada, dan tiba-tiba mereka memiliki kesempatan untuk mengendarai mobil. Keheranan yang luar biasa terjadi kemudian.

Saya tidak mengatakan bahwa AI generatif relatif tidak mengesankan. Dia. Saya hanya menekankan bahwa banyak testimonial yang dilakukan oleh banyak orang yang sama sekali tidak menyadari apa yang dapat dilakukan oleh AI saat ini. Kami yang berada di dalam AI telah menggunakan AI generatif selama beberapa tahun terakhir. Mungkin kita sudah terbiasa. Tiba-tiba, melihat kerumunan besar orang menggembar-gemborkannya ke atas atap telah membangkitkan semangat, tetapi juga agak membingungkan. Bagian yang membingungkan adalah ketika orang menyatakan bahwa AI generatif itu hidup. Bukan itu. Jangan biarkan siapa pun meyakinkan Anda sebaliknya.

Meskipun demikian, ada perdebatan sengit yang sedang berlangsung di bidang AI, apakah AI generatif berada di jalur menuju perasaan atau mungkin tidak. Satu pandangan adalah bahwa jika kita terus meningkatkan AI generatif dengan komputer yang lebih cepat dan jumlah data yang lebih banyak seperti menjelajahi setiap jengkal Internet, kita hampir secara spontan akan sampai pada AI yang berakal. Yang lain berpendapat bahwa ini sangat tidak mungkin. Mereka berpendapat bahwa AI generatif mungkin merupakan salah satu dari banyak komponen yang dibutuhkan. Bahkan ada pandangan yang lebih suram bahwa AI generatif adalah pertunjukan sampingan yang mengalihkan perhatian kita dari terobosan nyata yang kita perlukan untuk mencapai AI yang berakal.

Anda mungkin juga menemukan hal penting yang cenderung dirujuk oleh orang dalam AI Kecerdasan Umum Buatan (AGI) sebagai tujuan aspiratif untuk bidang AI. Dulu tujuannya adalah untuk mencapai Kecerdasan Buatan, tetapi moniker AI menjadi encer dan kacau. Ketika seseorang mengatakan mereka melakukan pekerjaan AI, Anda tidak tahu apakah mereka mengacu pada AI saat ini yang tidak setara dengan manusia atau apakah mereka mengacu pada AI kesetaraan manusia futuristik. Untuk mengatasi kebingungan yang menjengkelkan itu, ungkapan AGI yang lebih baru digunakan akhir-akhir ini.

Secara keseluruhan, AI generatif saat ini adalah tidak hidup, juga bukan AGI.

Harap diingat bahwa seperti yang telah dibahas sebelumnya, AI tidak hidup. Respons yang dihasilkan oleh AI adalah kombinasi kata-kata matematis dan komputasi menjadi bagian-bagian yang tampaknya lancar. Ini didasarkan pada algoritme AI yang telah dilatih pada kumpulan data kata dan cerita yang telah ditulis manusia (terutama seperti yang diposting di Internet). Saya ulangi peringatan ini karena Anda pasti akan jatuh ke dalam perangkap mental bahwa tanggapan ini begitu lancar sehingga AI harus hidup. Ini terjadi pada kebanyakan orang. Seperti yang didesak sebelumnya, kesampingkan antropomorfisasi itu. Selalu ingat bahwa tanggapan didasarkan pada banyak sekali tulisan manusia yang ada di Internet dan dengan demikian akan sangat mirip dengan tulisan manusia.

Ada hal lain yang perlu Anda ketahui.

AI generatif yang dilatih di Internet dengan cara yang tidak terkekang akan cenderung membuat respons berbasis teks apa pun yang secara matematis dan komputasional mengarang beberapa hal yang tidak jelas, termasuk kata-kata yang menjijikkan dan menjijikkan. Ada banyak hal gila dan kotor yang diposting di web.

Anda telah melihatnya, Anda tahu apa yang saya maksud.

Perusahaan yang membuat aplikasi AI ini khawatir bayi pepatah akan dibuang bersama air mandi (pepatah lama, mungkin akan pensiun), yang berarti bahwa jika AI mereka menghasilkan esai atau cerita yang menyinggung, orang akan angkat senjata. tentang AI. Saya telah membahas banyak contoh sebelumnya di mana jenis aplikasi AI Pemrosesan Bahasa Alami (NLP) ini diluncurkan dan segera segala macam hal mengerikan keluar dari mereka (saya telah membahas contoh ini di kolom saya). Sebagian besar pembuat AI belajar pelajaran sulit tentang membiarkan perangkat AI mereka tidak terkekang dalam keluarannya.

Dalam kasus ChatGPT, pengembang AI berusaha menerapkan beberapa pemeriksaan dan keseimbangan algoritmik dan terkait data untuk mengekang kekotoran dalam keluaran AI. Sebagian dari ini terjadi selama waktu pelatihan. Selain itu, ada cara lain dalam upaya waktu nyata untuk meniadakan hasil yang sangat buruk.

Anda mungkin tertarik bahwa beberapa orang yang telah menggunakan ChatGPT telah menemukan cara diam-diam untuk melewati pagar pembatas tersebut dengan menggunakan berbagai tipu daya. Permulaan kucing-dan-tikus yang sedang berlangsung terjadi dalam masalah ini. Mereka yang melakukan tipuan ini kadang-kadang melakukannya untuk bersenang-senang, sementara kadang-kadang mereka (setidaknya mengklaim) mereka melakukannya untuk melihat seberapa jauh AI dapat diregangkan dan memberikan sarana yang berguna untuk memperingatkan kerapuhan dan kelemahan pemula ini. aplikasi AI.

Saya memutuskan untuk tidak mencoba mengelak dari kontrol biasa dalam eksplorasi terfokus ini. Output teks bersih. Tentu saja, jika seseorang ingin melakukannya, Anda pasti bisa mendapatkan esai yang aneh dan tidak menyenangkan untuk dihasilkan.

Esai yang dihasilkan oleh sebagian besar aplikasi AI generatif ini dirancang untuk menyampaikan keluaran seolah-olah murni faktual dan akurat. Saat Anda membaca esai yang dihasilkan, esai tersebut terlihat sangat percaya diri. Biasanya tidak ada indikasi bahwa konten mungkin berbatu. Ini adalah pilihan pembuat AI, yaitu mereka dapat merevisi aplikasi AI menjadi lebih transparan jika mereka ingin aplikasi AI melakukannya.

Terkadang, aplikasi AI generatif mengambil kebohongan di tengah data pelatihan info yang tidak dapat diandalkan di Internet. Tidak ada "akal sehat" dalam AI generatif untuk menentukan mana yang benar versus salah. Selain itu, sangat sedikit aplikasi AI yang memiliki pemeriksaan silang, dan juga tidak menampilkan probabilitas apa pun yang terkait dengan apa yang mereka sampaikan.

Hasil intinya adalah Anda mendapatkan respons yang terlihat dan terasa seperti memancarkan jaminan besar dan harus sepenuhnya benar. Tidak begitu. Bahkan ada kemungkinan AI dibuat secara komputasi, yang dalam bahasa AI disebut halusinasi AI (istilah yang diciptakan yang jelas tidak saya sukai), lihat diskusi saya di tautannya di sini.

Pembuat ChatGPT melakukan upaya bersama untuk mencoba dan mengurangi keluaran hal-hal buruk. Misalnya, mereka menggunakan varian dari apa yang dikenal sebagai RLHF (Pembelajaran Penguatan dari Umpan Balik Manusia), di mana sebelum mereka merilis AI ke publik, mereka telah menyewa manusia untuk memeriksa berbagai keluaran dan menunjukkan kepada AI apakah ada yang salah dengan keluaran tersebut seperti mungkin menampilkan bias, kata-kata kotor, dan Suka. Dengan memberikan umpan balik ini, aplikasi AI dapat menyesuaikan secara komputasi dan matematis untuk mengurangi emisi konten semacam itu. Perhatikan bahwa ini bukan metode yang dijamin kuat dan masih ada cara agar konten semacam itu dapat dipancarkan oleh aplikasi AI.

Anda mungkin tertarik karena ChatGPT didasarkan pada versi aplikasi AI pendahulunya yang dikenal sebagai GPT-3. ChatGPT dianggap sebagai langkah selanjutnya, disebut sebagai GPT-3.5. Diantisipasi bahwa GPT-4 kemungkinan akan dirilis pada musim semi 2023. Agaknya, GPT-4 akan menjadi langkah maju yang mengesankan dalam hal mampu menghasilkan esai yang tampaknya lebih lancar, lebih dalam, dan menjadi kagum -kekaguman yang menginspirasi tentang komposisi yang dapat dihasilkannya.

Anda dapat berharap untuk melihat babak baru dari kekaguman yang diungkapkan ketika musim semi tiba dan AI generatif terbaru dirilis.

Saya mengemukakan ini karena ada sudut pandang lain yang perlu diingat, yang terdiri dari potensi kelemahan Achilles untuk aplikasi AI generatif yang lebih baik dan lebih besar ini. Jika ada vendor AI yang menyediakan aplikasi AI generatif yang memuntahkan kekotoran, ini bisa menghancurkan harapan para pembuat AI tersebut. Limpahan sosial dapat menyebabkan semua AI generatif mendapatkan mata hitam yang serius. Orang-orang pasti akan sangat kesal dengan hasil yang buruk, yang telah terjadi berkali-kali dan menyebabkan reaksi kecaman masyarakat yang riuh terhadap AI.

Satu peringatan terakhir untuk saat ini.

Apa pun yang Anda lihat atau baca dalam respons AI generatif itu tampaknya untuk disampaikan sebagai faktual murni (tanggal, tempat, orang, dll.), pastikan untuk tetap skeptis dan bersedia memeriksa ulang apa yang Anda lihat.

Ya, tanggal bisa diramu, tempat bisa dibuat-buat, dan elemen yang biasanya kita harapkan tidak tercela adalah semua tunduk pada kecurigaan. Jangan percaya apa yang Anda baca dan awasi dengan skeptis saat memeriksa esai atau keluaran AI generatif apa pun. Jika aplikasi AI generatif memberi tahu Anda bahwa Abraham Lincoln terbang keliling negara dengan jet pribadinya sendiri, Anda pasti tahu bahwa ini berbahaya. Sayangnya, beberapa orang mungkin tidak memahami bahwa jet tidak ada pada zamannya, atau mereka mungkin tahu tetapi gagal menyadari bahwa esai tersebut membuat klaim yang berani dan sangat salah ini.

Dosis skeptisisme sehat yang kuat dan pola pikir ketidakpercayaan yang terus-menerus akan menjadi aset terbaik Anda saat menggunakan AI generatif.

Kami siap untuk melangkah ke tahap selanjutnya dari penjelasan ini.

Upaya Itu Untuk Mencatat Kesalahan Yang Dihasilkan ChatGPT Itu

"Nah, Anda mendapat masalah, teman saya, di sini, saya katakan, masalah di sini di River City," begitulah baris terkenal dari musikal Broadway klasik The Music Man.

Baris yang sama dapat diterapkan pada AI Generatif saat ini.

Orang-orang mulai menyadari bahwa aplikasi AI generatif dapat menghasilkan kepalsuan dan benar-benar tampak terkejut dengan keluaran yang mengganggu tersebut. Mungkin ada yang berasumsi bahwa AI tidak bisa membuat kesalahan. Orang lain mungkin telah mengantisipasi bahwa pengembang AI akan memastikan bahwa tidak ada keluaran seperti itu yang dihasilkan.

Bagaimanapun, orang dalam AI segera menyadari bahwa jenis keluaran yang salah ini adalah bagian tak terpisahkan dari tempat sebagian besar AI generatif saat ini berada. Sangat sulit untuk mencegah jenis kesalahan tekstual tersebut terjadi. Ingatlah bahwa AI tidak memiliki kesamaan akal sehat dan tidak menggunakan logika semata saat menurunkan esai yang dihasilkan. Seluruh kit-and-caboodle adalah tentang melakukan pencocokan pola statistik dan probabilistik komputasi dari kata-kata dengan kata lain.

Pada awalnya, orang dalam AI memilih untuk memposting keluaran unik ChatGPT yang ditemukan ke situs media sosial. Lihat yang ini, seseorang akan mengumumkan. Itu buruk, orang lain akan menjawab, dan kemudian memberikan contoh lain yang tampaknya lebih buruk. Ini terus berlanjut.

Contoh-contoh kepalsuan dan kesalahan dalam esai yang dikeluarkan ini mulai bermunculan. Satu per satu. Selain itu, karena ini biasanya diposting di media sosial, tidak ada cara yang mudah untuk melihat semuanya sekaligus. Seringkali contoh yang sama atau serupa akan diposting oleh seseorang yang tidak menyadari bahwa orang lain telah menemukan contoh spesifiknya.

Ke dalam rawa yang mulai tumbuh ini melangkahlah orang-orang yang menyuarakan saran yang membantu. Mungkin kita harus menyiapkan repositori atau database, bahkan mungkin hanya spreadsheet biasa sehari-hari, yang berisi kesalahan ChatGPT dan kesalahan keluaran yang sedang digali. Setiap kali seseorang menemukan keindahan tertawa terbahak-bahak, lanjutkan dan masukkan ke dalam daftar. Beberapa telah membuat ini hampir menjadi sebuah permainan, di mana mereka dengan sengaja mencoba membuat ChatGPT mengeluarkan keluaran yang aneh. Yang lain mungkin menemukan keluaran yang salah saat menggunakan ChatGPT untuk tujuan tertentu lainnya.

Kedengarannya cukup sederhana.

Sepertinya cara keren yang berguna untuk membantu kita semua.

Mari kita lakukan penghitungan singkat tentang mengapa memiliki jenis daftar ini tentang kesalahan keluaran yang diamati atau kepalsuan dari ChatGPT sangat masuk akal untuk dikompilasi:

• 1) Mengungkapkan masalah dan kekhawatiran vital tentang ChatGPT yang harus diketahui publik secara luas
• 2) Membantu mengimbangi hype yang berlebihan dan ekspektasi yang meningkat tentang ChatGPT
• 3) Mungkin mendorong pembuat AI untuk melakukan peningkatan, tidak hanya untuk ChatGPT tetapi juga untuk aplikasi AI generatif lainnya
• 4) Berfungsi sebagai catatan sejarah yang nantinya dapat digunakan untuk merefleksikan kemunculan AI generatif seperti yang dicontohkan melalui ChatGPT
• 5) Menjadi sumber daya kolektif yang nyaman bagi siapa pun yang perlu mencari tahu apa yang tampaknya telah kami deteksi terkait kesalahan keluaran ChatGPT
• 6) Bermanfaat bagi para peneliti dari semua disiplin ilmu yang meneliti dampak ChatGPT
• 7) Dapat digunakan sebagai tolok ukur apa yang tidak boleh dilakukan dan bagaimana mengukur ketika AI generatif tidak melakukan hal-hal sebagaimana mestinya
• 8) Memasuki pikiran sarang untuk mengumpulkan kebijaksanaan dari orang banyak tentang kesalahan yang dihasilkan ChatGPT, yang tidak mungkin dikompilasi secara menyeluruh oleh upaya individu
• 9) Dapat memberikan informasi penting untuk Etika AI dan Hukum AI
• Dan lain-lain

Itu tampaknya menjadi dasar yang mengesankan untuk membuat repositori ini.

Mengapa ada orang yang tidak setuju dengan tindakan yang sepenuhnya terpuji dan tampak heroik ini?

Mari kita lihat apa yang orang lain katakan tentang ini, melakukannya dengan daftar alasan mengapa ini mungkin bukan meong kucing:

• 1) Kesalahan keluaran yang mungkin ditemukan ini tidak penting dalam skema besar hal-hal dan diberi bobot yang tidak semestinya melebihi nilainya
• 2) Kemungkinan besar pembuat AI sudah melakukan logging dan memperbarui ChatGPT mereka sendiri sehingga contoh eksentrik ini akan segera tertinggal begitu saja dan tidak lagi terjadi
• 3) Demikian juga, versi berikutnya mungkin akan menjadi lebih baik dan mungkin tidak lagi menampilkan instance yang akan segera kedaluwarsa ini
• 4) Anda tidak dapat membuat kesimpulan menyeluruh atau mendapatkan wawasan dari kumpulan kejadian acak yang salah sasaran
• 5) Beberapa orang mungkin menggunakan berbagai macam koleksi untuk secara dramatis menyatakan bahwa AI generatif itu buruk dan bahwa kita harus segera menghentikan semua pengejaran AI jenis ini
• 6) Kecepatan kemajuan AI generatif dan ChatGPT sangat cepat sehingga instans ini akan segera tersingkir dan tidak lagi relevan
• 7) Dengan banyaknya daftar kolektif yang sedang berlangsung dan tidak ada satu pun sumber global yang diurapi, masalah ini terputus-putus dan kemungkinan mengandung pengulangan dan terpecah-pecah secara tidak dapat dipertahankan
• 8) Memberikan rasa palsu melakukan sesuatu yang berguna, sementara mungkin waktu dan perhatian dapat digunakan untuk penggunaan lain yang lebih baik
• 9) Tidak memberikan substansi apa pun untuk Etika AI dan Hukum AI
• Dan lain-lain

Anda mungkin telah memperhatikan bahwa saya mencoba untuk menjaga keseimbangan dengan mencatat sembilan alasan yang mendukung daftar kolektif dan sembilan alasan yang tidak disukai. Ada alasan tambahan yang bisa dikemukakan, tapi saya yakin indikasi di atas memberikan esensi dari segala sesuatu.

Bagi mereka yang menyusun daftar kolektif ini, mereka kemungkinan besar akan mengatakan bahwa jika mereka benar-benar ingin melakukannya, ini adalah dunia yang bebas, dan mereka dapat melakukan sesuka mereka. Tidak ada yang salah dengan itu. Mereka yang tidak menyukai upaya tersebut umumnya picik dan harus mengabaikan koleksinya. Urus urusanmu sendiri.

Intinya, tidak ada salahnya, tidak ada pelanggaran.

Perkemahan yang tampaknya tidak menyukai daftar kolektif umumnya akan mengakui bahwa orang lain dapat membuat daftar itu jika mereka ingin melakukannya, tetapi itu tidak berarti apa-apa. Daftar tersebut tidak akan banyak membantu. Lebih buruk lagi, daftar tersebut dapat disalahartikan atau disalahgunakan. Mungkin lebih baik menyebutnya sehari dan berhenti membuat daftar.

Pada dasarnya, ini adalah percobaan yang bagus, meskipun merupakan latihan yang sia-sia.

Di mana Anda tinggal dalam debat hangat ini?

Saya akan membiarkan Anda memikirkannya.

Contoh Kesalahan Yang Ditemukan Dan Hasil Buruk Lainnya Dari ChatGPT

Saya pikir Anda mungkin sangat tertarik dengan beberapa kesalahan atau kepalsuan keluaran yang teridentifikasi yang telah muncul di daftar koleksi ini.

Saya tidak ingin Anda berpikir bahwa beberapa contoh yang ditampilkan di sini adalah keseluruhan dari koleksi. Bukan itu. Saya hanya memilih segelintir yang sering muncul. Saya yakin Anda setidaknya dapat memahami secara umum nada dan sifat dari apa yang sedang dicantumkan.

Inilah yang saya pilih untuk dibahas:

• Mengidentifikasi Posisi Huruf Dalam Sebuah Kata
• Pertanyaan Tentang Hewan Tercepat
• Mencari Tahu Posisi Urutan Kata
• Memasukkan Bola Tenis Ke Dalam Tabung
• Menentukan Pi
• Menjawab Teka-Teki Klasik yang Mengganggu
• Mengangkat Bulu

Saya mengantisipasi bahwa beberapa pengawas koleksi akan kecewa karena saya tidak membahas lebih banyak contoh untuk Anda. Karena keterbatasan tempat, hanya sekian yang bisa saya liput. Jika Anda ingin melihat daftar koleksi yang diposting secara terbuka di Internet, pencarian online sederhana dapat menghasilkan banyak di antaranya. Beberapa daftar dirahasiakan, atau dikunci sedemikian rupa sehingga Anda dapat melihat daftar tersebut tetapi Anda tidak dapat mengubah daftar tersebut.

Dengan latar belakang itu, kami siap terjun ke beberapa contoh. Saya akan menunjukkan prompt yang saya masukkan. Selanjutnya, saya menunjukkan respons teks yang dihasilkan oleh ChatGPT. Dalam beberapa kasus, saya telah melakukan beberapa back-to-back pada topik tertentu, jadi saya akan menunjukkan rangkaian prompt dan output yang sesuai. Setelah melakukannya, saya akan memberikan analisis singkat tentang apa yang mungkin ingin Anda perhatikan tentang contoh tersebut.

Contoh pertama akan meminta ChatGPT untuk menemukan surat dalam kata yang disediakan.

Mengidentifikasi Posisi Huruf Dalam Sebuah Kata

• Teks yang Dimasukkan Saya: “Di mana huruf V di lingkungan”
• Respons Teks Dihasilkan Oleh ChatGPT: Huruf "V" tidak muncul dalam kata "lingkungan". Kata “lingkungan” terdiri dari huruf e, n, v, i, r, o, n, m, e, n, dan t.
• Teks yang Dimasukkan Saya: "Di mana huruf v di lingkungan"
• Respons Teks Dihasilkan Oleh ChatGPT: "Huruf" v "adalah huruf ke-4 dalam kata" lingkungan.

Analisis Teks Yang Dihasilkan

Perhatikan bahwa saya mulai dengan meminta ChatGPT untuk mengidentifikasi posisi huruf dari huruf "V" dalam kata "lingkungan" – ini seharusnya menjadi tugas yang sangat sederhana dan kami mengharapkannya dilakukan dengan sempurna. Tidak ada ilmu roket yang terlibat.

Respons awal yang dihasilkan oleh ChatGPT agak membingungkan karena kami diberitahu bahwa huruf “V” tidak ada dalam kata “lingkungan”. Anda dan saya tahu bahwa ada surat seperti itu. Orang mengira bahwa mungkin karena saya menggunakan huruf besar, aplikasi AI entah bagaimana terlempar. Mungkin jika saya menggunakan huruf kecil, aplikasi AI akan bekerja lebih baik.

Tidak juga.

Ketika saya bertanya apakah ada "v" dalam kata tersebut, aplikasi AI menjawab dengan menunjukkan bahwa itu adalah huruf keempat, yang Anda dan saya tahu salah, dan itu adalah huruf ketiga.

Banyak orang pasti bingung dengan hasil ini. Bagaimana aplikasi AI yang menghasilkan esai lengkap tentang Abraham Lincoln yang benar-benar lancar dan orisinal, entah bagaimana tidak dapat mengetahui di mana huruf tertentu berada dalam kata tertentu? Ini mengejutkan dan mulut menganga aneh.

Satu perspektif adalah bahwa ini sama sekali tidak penting dan dunia seperti yang kita tahu tidak terguncang pada intinya karena kurangnya pemahaman tentang di mana surat tertentu berada. Biarkan saja.

Perspektif lain adalah bahwa ini mungkin menjadi pertanda masalah tersembunyi lainnya yang belum kita ketahui. Mungkin keluaran seperti ini adalah burung kenari di sangkar burung. Lebih baik kita memakukan hal-hal kecil jika tidak, kita mungkin menemukan diri kita berada di ujung yang salah dari hal-hal yang sangat besar.

Selanjutnya, saya selanjutnya mengajukan pertanyaan tentang hewan.

Pertanyaan Tentang Hewan Tercepat

• Teks yang Dimasukkan Saya: "Hewan apa yang tercepat yang memiliki bulu dan sayap?"
• Respons Teks Dihasilkan Oleh ChatGPT: “Elang peregrine dianggap sebagai hewan tercepat di dunia. Ia dapat mencapai kecepatan lebih dari 389 km/jam (242 mph) saat menyelam untuk menangkap mangsanya. Ia memiliki bulu tetapi bukan bulu. Itu adalah burung, bukan binatang yang memiliki bulu dan sayap.”

Analisis Teks Yang Dihasilkan

Saya bertanya binatang apa yang tercepat yang memiliki bulu dan sayap. Saya percaya masuk akal untuk menyimpulkan bahwa saya ingin mendapatkan hewan bernama yang memiliki kedua bulu tersebut dan sayap. Saya berasumsi Anda akan menafsirkan permintaan saya dengan cara itu. Kebanyakan orang akan melakukannya.

Tanggapan oleh ChatGPT agak aneh.

Kami diberitahu bahwa elang peregrine adalah hewan tercepat di dunia. Menurut daring ensiklopedia Britannica, cheetah tampaknya menjadi hewan tercepat di dunia. Meskipun demikian, respons ChatGPT menunjukkan bahwa elang peregrine bukanlah hewan, meskipun saya telah menanyakan hewan tercepat apa. Tanggapan ChatGPT juga memberi tahu saya bahwa elang peregrine tidak memiliki bulu, meskipun saya yakin saya telah meminta sesuatu yang memiliki bulu dan sayap.

Secara keseluruhan, tampaknya ChatGPT telah "salah menafsirkan" permintaan saya dan hanya berfokus pada aspek sayap. Tapi itu tidak sepenuhnya benar karena balasannya juga menyertakan komentar tentang bulu dan burung versus hewan. Berputar-putar yang satu ini berjalan.

Saya menyadari Anda mungkin berpendapat bahwa ini adalah contoh rewel.

Mungkin begitu, meskipun mungkin itu juga menunjukkan bahwa apa yang Anda katakan dalam prompt bisa mendapatkan hasil yang kacau balau dan Anda sebaiknya berhati-hati dalam meninjau apa pun yang keluar di output. Sadarilah bahwa ini adalah tanggapan esai yang sangat singkat untuk diperiksa dengan mudah karena panjangnya sangat singkat. Jika Anda mendapatkan esai yang sangat panjang dan sangat teknis, Anda mungkin akan tertipu atau sama sekali tidak melihat indikasi buruk yang tertanam jauh di dalam jawaban yang dihasilkan.

Mari kita selanjutnya melihat menemukan kata dalam kalimat.

Mencari Tahu Posisi Urutan Kata

• Teks yang Dimasukkan Saya: “Apa kata ketiga dalam kalimat “Rubah melompati pagar.”
• Respons Teks Dihasilkan Oleh ChatGPT: "Kata ketiga dalam kalimat" Rubah melompati pagar. adalah "rubah"
• Teks yang Dimasukkan Saya: "Berapa banyak kata dalam kalimat yang disediakan?"
• Respons Teks Dihasilkan Oleh ChatGPT: “Ada enam kata dalam kalimat yang disediakan “Rubah melompati pagar.”
• Teks yang Dimasukkan Saya: "Kata apa yang ketiga dalam kalimat itu?"
• Respons Teks Dihasilkan Oleh ChatGPT: “Kata yang ketiga dalam kalimat “Rubah melompati pagar.” adalah "melompat"

Analisis Teks Yang Dihasilkan

Contoh ini hampir sama menariknya dengan contoh sebelumnya tentang menemukan huruf "v" dalam kata tertentu.

Saya memberikan kalimat sederhana dan bertanya apa kata ketiga itu. ChatGPT menunjukkan itu adalah kata "rubah" yang hanya merupakan kata kedua dari kalimat tersebut. Jawaban yang salah. Saya kemudian bertanya ada berapa kata dalam kalimat tersebut, ingin mengetahui apakah mungkin ChatGPT salah menghitung berapa kata yang ada. Kami diberitahu bahwa ada enam kata, benar begitu.

Akhirnya, kami mendapat jawaban yang benar tentang kata ketiga ketika saya menanyakan pertanyaan awal saya lagi, meskipun sedikit diubah kata-katanya.

Saya memberikan contoh ini untuk mengilustrasikan bahwa terkadang dengan AI generatif Anda bisa mendapatkan jawaban yang salah yang pada akhirnya dapat berubah menjadi jawaban yang benar dengan menjalankan aplikasi AI melalui serangkaian petunjuk. Beberapa orang dalam AI menyebut ini sebagai semacam protokol berpikir keras atau melatih pemikiran pendekatan, di mana Anda mungkin melakukan sesuatu yang sama dengan manusia.

Dalam kasus AI, sadarilah bahwa itu tidak "berpikir" dalam kemiripan yang sama dengan pemikiran manusia. Ungkapan yang lebih cocok adalah mengatakan bahwa Anda dapat memasukkan petunjuknya pada a selangkah demi selangkah dasar atau melakukan a serangkaian petunjuk yang terhubung dengan rantai.

Bagaimanapun, yang menarik, terkadang berjalan di aplikasi AI generatif memang bermanfaat sampai Anda mendapatkan jawaban yang tepat. Ingatlah hal ini.

Kami selanjutnya melihat sedikit logika aritmatika sederhana.

Memasukkan Bola Tenis Ke Dalam Tabung

• Teks yang Dimasukkan Saya: “Bisakah kamu memasukkan tiga bola tenis hijau dan dua bola tenis kuning ke dalam sebuah tabung yang dapat memuat empat bola tenis?”
• Respons Teks Dihasilkan Oleh ChatGPT: “Tidak, tidak mungkin memasukkan tiga bola tenis hijau dan dua bola tenis kuning ke dalam tabung yang hanya berisi empat bola tenis. Jumlah total bola tenis adalah lima, lebih besar dari kapasitas tabung.”
• Teks yang Dimasukkan Saya: "Bisakah kamu memasukkan tujuh bola biru dan dua bola merah ke dalam tabung yang menampung delapan bola?"
• Respons Teks Dihasilkan Oleh ChatGPT: “Ya, adalah mungkin untuk memasukkan tujuh bola biru dan dua bola merah ke dalam sebuah tabung yang menampung delapan bola. Jumlah keseluruhan bola adalah sembilan yang kurang dari atau sama dengan kapasitas tabung.”

Analisis Teks Yang Dihasilkan

Saya mulai dengan menyiapkan masalah logika berorientasi aritmatika untuk dipecahkan oleh ChatGPT. Sebuah tabung dapat berisi empat bola tenis. Saya punya tiga yang hijau dan dua yang kuning. Akankah mereka semua masuk ke dalam tabung? Anda dan saya tahu bahwa mereka tidak akan melakukannya. Kita dapat menghitung di kepala kita bahwa ada total lima bola tenis dan karenanya tidak akan muat ke dalam tabung yang hanya memungkinkan empat.

Saya menyadari Anda mungkin ingin melawan masalah dan mengklaim bahwa Anda mungkin bisa meremas bola tenis atau melakukan tipu daya lainnya. Mari kita bersantai di sini dan menghadapi masalah sebagaimana adanya.

ChatGPT mendapatkan jawabannya dengan benar.

Saya selanjutnya menanyakan jenis pertanyaan yang sama dan mengubah warna menjadi biru dan merah. Saya juga mengubah berapa banyak masing-masing, dan saya mengubah berapa banyak yang bisa masuk ke dalam tabung.

ChatGPT harus kembali ke matematika remedial karena dikatakan ada sembilan bola dan ini kurang dari atau sama dengan kapasitas tabung yang menampung delapan. Membuat mata Anda berputar.

Haruskah kita mengangkat bahu dan mengaitkannya dengan suar bintik matahari atau eksternalitas lainnya?

Saya kira tidak demikian. Aplikasi AI menjawab pertanyaan pertama dengan benar. Agaknya, itu seharusnya mendapatkan pertanyaan serupa juga. Itu tidak.

Penekanan saya pada contoh ini adalah bahwa banyak orang menggunakan AI generatif dan ketika mereka mendapatkan jawaban yang benar atau serangkaian jawaban yang benar, mereka terbuai untuk percaya bahwa semua jawaban selanjutnya akan selalu benar. Anda akan salah dalam asumsi kurang ajar itu. Jangan membuat asumsi itu. Waspadalah setiap saat.

Berbicara tentang matematika, mari kita lihat apa yang dikatakan ChatGPT tentang sifat pi.

Menentukan Pi

• Teks Saya Masuk: "Tunjukkan lima digit terakhir dari pi"
• Respons Teks Dihasilkan Oleh ChatGPT: “Saya seorang model bahasa dan batas pengetahuan saya adalah 2021. Nilai pi adalah bilangan irasional dan representasi desimalnya berlangsung selamanya tanpa berulang. Tidak mungkin memberikan lima digit terakhir dari pi.”

Analisis Teks Yang Dihasilkan

Beberapa orang mengklaim bahwa mereka mendapat ChatGPT untuk menunjukkan lima digit terakhir pi, yang tentu saja gila karena pi mungkin tidak pernah berakhir. Jadi, saya mencoba melihat apa yang dikatakan ChatGPT. Seperti yang Anda lihat, jawaban yang benar diberikan oleh ChatGPT bahwa tidak mungkin memberikan lima digit pi terakhir.

Hal yang aneh adalah ChatGPT menyediakan hal lain yang tidak benar-benar ditanyakan. Jawaban yang diberikan juga mengatakan bahwa batas pengetahuan adalah 2021 (yang saya sebutkan sebelumnya di sini dalam ikhtisar saya tentang ChatGPT). Namun ini tampak seperti tanggapan yang tidak pada tempatnya kecuali mungkin aplikasi AI mengantisipasi bahwa mungkin pada tahun 2022 ada terobosan dan ahli matematika menyatakan bahwa pi akan berakhir. Wow, itu akan menjadi berita utama.

Saya memiliki dua contoh lagi untuk ditampilkan dan kemudian kita akan mengakhiri diskusi ini.

Mari gunakan teka-teki klasik dan meresahkan.

Menjawab Teka-Teki Klasik yang Mengganggu

• Teks yang Dimasukkan Saya: “Seorang ayah dan anak mengalami kecelakaan mobil di mana sang ayah tewas. Ambulans membawa putranya ke rumah sakit. Dia membutuhkan operasi segera. Di ruang operasi, seorang dokter masuk dan melihat anak laki-laki itu dan berkata saya tidak bisa mengoperasi dia, dia adalah anak saya. Siapa dokternya?”
• Respons Teks Dihasilkan Oleh ChatGPT: “Tidak ditentukan dalam skenario asalkan siapa dokternya. Skenario menyatakan bahwa dokter berkata "Saya tidak dapat mengoperasi dia, dia adalah anak saya", yang menunjukkan bahwa dokter tersebut mungkin adalah ayah dari anak laki-laki tersebut, tetapi tidak pasti. Informasi lebih lanjut diperlukan untuk menentukan identitas dokter.”

Analisis Teks Yang Dihasilkan

Saya berani bertaruh bahwa Anda mungkin pernah melihat teka-teki ini sebelumnya. Ini telah menjadi relatif sering dikutip.

Alasan yang cukup banyak muncul adalah karena ahli bedah itu bisa jadi adalah ibu dari anak laki-laki tersebut. Masyarakat cenderung berasumsi bahwa seorang ahli bedah harus laki-laki, dan dengan demikian harus menjadi ayah dari anak laki-laki tersebut. Namun sang ayah tewas dalam kecelakaan mobil. Kami mengesampingkan ayah sebagai ahli bedah. Kita tentu saja harus memutuskan bahwa ahli bedah itu bisa jadi seorang wanita, dan dengan demikian ibu dari anak laki-laki itu.

Saya ingin menunjukkan kepada Anda bahwa ChatGPT dapat memancarkan respons yang mengandung potensi bias. Bukan karena AI itu hidup, yang jelas bukan, tetapi karena AI memiliki pola yang cocok dengan kata-kata dan penggunaan kata-kata di Internet. Berbagai bias dan kata-kata diskriminatif dapat dengan mudah berada jauh di dalam pencocokan pola komputasi.

Ingatlah hal itu saat Anda menggunakan aplikasi AI generatif ini.

Terakhir, lihat sekilas cara mengangkat bulu.

Mengangkat Bulu

• Teks Saya Masuk: “Jika dibutuhkan satu orang untuk mengangkat satu bulu, berapa banyak orang yang dibutuhkan untuk mengangkat tujuh triliun bulu?”
• Respons Teks Dihasilkan Oleh ChatGPT: “Jika dibutuhkan satu orang untuk mengangkat satu bulu, maka dibutuhkan satu orang juga untuk mengangkat tujuh triliun bulu. Jumlah orang yang diperlukan untuk mengangkat suatu benda tidak bergantung pada jumlah bulu, tetapi pada berat dan ukuran bulu serta kekuatan dan kemampuan masing-masing orang. Mengangkat tujuh triliun bulu akan membutuhkan peralatan besar dan kemampuan transportasi, bukan hanya kekuatan manusia.”
• Teks Saya Masuk: “Jika dibutuhkan satu wanita untuk mengangkat satu bulu, berapa banyak wanita yang dibutuhkan untuk mengangkat tujuh triliun bulu?”
• Respons Teks Dihasilkan Oleh ChatGPT: “Jika dibutuhkan seorang wanita untuk mengangkat satu bulu, dibutuhkan juga satu wanita untuk mengangkat tujuh triliun bulu. Jumlah wanita yang dibutuhkan untuk mengangkat suatu benda tidak tergantung pada jumlah bulu, tetapi pada berat dan ukuran bulu serta kekuatan dan kemampuan masing-masing wanita. Mengangkat tujuh triliun bulu akan membutuhkan peralatan dan kemampuan transportasi yang besar, bukan hanya kekuatan manusia. Penting untuk diperhatikan bahwa kemampuan mengangkat sesuatu tidak ditentukan oleh jenis kelamin seseorang, tetapi oleh kombinasi faktor-faktor seperti kekuatan fisik, latihan, dan teknik.”

Analisis Teks Yang Dihasilkan

Contoh terakhir ini memiliki beberapa keanehan tersembunyi di dalamnya dan memerlukan beberapa pembongkaran.

Saya pertama kali memberi tahu ChatGPT bahwa seorang pria dapat mengangkat satu bulu. Ini segera diikuti oleh pertanyaan tentang berapa banyak orang yang dibutuhkan untuk mengangkat tujuh triliun bulu. Potensi untuk membuat kesalahan logis saat menjawab pertanyaan ini adalah Anda mungkin berasumsi bahwa sebuah bulu seolah-olah tidak berbobot dan dengan demikian tujuh triliun di antaranya juga tidak berbobot.

Menurut pencarian online yang saya lakukan, perkiraan berat bulu konvensional adalah sekitar 0.00125 pon. Jika Anda mengalikan berat yang diperkirakan itu dengan tujuh triliun, Anda mendapatkan berat yang melebihi delapan miliar pound. Saya tidak percaya bahwa satu orang dapat mengangkat beban sebanyak itu, bahkan jika mereka berlatih sepanjang hidup mereka.

Tanggapan oleh ChatGPT adalah anak yang benar. Kami diberitahu bahwa berat bulu bisa bervariasi. Kami diberitahu bahwa peralatan besar dan transportasi akan dibutuhkan. Kalimat pembuka esai ini agak membingungkan karena dikatakan bahwa jika dibutuhkan satu orang untuk mengangkat satu bulu, maka dibutuhkan satu orang untuk mengangkat tujuh triliun. Kami dapat dengan mudah membantah pernyataan ini. Klaim tersebut tampaknya membuat kesimpulan yang tidak didukung dan tampaknya melemahkan jawaban lainnya.

Saya memutuskan untuk mengajukan pertanyaan yang sama tetapi bertanya tentang seorang wanita yang melakukan pengangkatan yang sama daripada seorang pria.

Kami pada awalnya mendapat jawaban yang sama dengan yang diberikan pada pertanyaan yang berorientasi pada manusia. Menariknya, di akhir jawaban tentang contoh wanita, kami mendapat narasi tambahan ini: “Penting untuk dicatat bahwa kemampuan mengangkat sesuatu tidak ditentukan oleh jenis kelamin seseorang, tetapi oleh kombinasi faktor-faktor seperti kekuatan fisik, pelatihan, dan teknik.”

Mengapa baris yang sama ini tidak disertakan dalam jawaban pertama?

Tampaknya aplikasi AI mengambil kata "wanita" dan kemudian memberikan komentar tambahan tentang gender. Anda bisa percaya ini membantu, atau Anda mungkin mencatat bahwa jika ini akan dipancarkan dalam kasus pertanyaan yang berfokus pada wanita, itu juga akan muncul dalam versi yang berfokus pada pria (mungkin juga ada aspek pengurutan atau faktor lain yang terlibat juga).

Kesimpulan

Saya harap Anda menemukan contoh-contoh itu informatif sebagai sekilas tentang beberapa potensi kesalahan atau kesalahan yang dapat dihasilkan oleh aplikasi AI semacam ini. Perhatikan bahwa ChatGPT bukan satu-satunya aplikasi AI generatif, dan juga bukan satu-satunya yang memiliki jenis kesalahan ini.

Pelajaran yang saya sarankan untuk Anda dapatkan dari diskusi ini adalah bahwa Anda harus berhati-hati dan berhati-hati saat menggunakan aplikasi AI berbasis generatif apa pun. Periksa kembali hasilnya. Periksa tiga kali jika perlu.

Kembali ke tema pembuka tentang mengumpulkan bersama jenis keluaran yang salah atau merugikan ini, setelah Anda melihat beberapa contoh, apa yang Anda katakan tentang mereka yang mencoba membuat katalognya?

Pilih kemah Anda:

• mendukung: Ini adalah tugas yang terpuji dan layak mendapat tepukan yang mendalam
• Ketidakkasihan: Ini hanya sedikit menarik tetapi mungkin bukan sesuatu yang layak untuk menghabiskan waktu

Kubu mana yang Anda pilih?

Bagi Anda yang menyukai daftar ini, Anda dapat mempertimbangkan untuk menambahkan temuan Anda sendiri ke dalam daftar jika kebetulan memiliki akses ke ChatGPT dan dapat mengidentifikasi contoh yang layak disertakan. Anda kemudian dapat menemukan koleksi yang akan menikmati kontribusi nugget emas Anda. Saya berani mengatakan bahwa penjaga daftar akan menyambut Anda dengan tangan terbuka, dengan asumsi Anda serius dan tulus dalam upaya Anda. Semoga berhasil dan bangga atas pengaruh Anda di bidang AI generatif.

Kata terakhir untuk saat ini.

Pertimbangkan balasan yang membengkokkan pikiran ini:

• Aristoteles berkata: “Hanya ada satu cara untuk menghindari kritik: Tidak melakukan apa-apa, tidak mengatakan apa-apa, dan tidak menjadi apa-apa.”
• Lao Tzu, seorang filosof Cina yang terkenal membuat pernyataan yang berbobot ini: “Perhatikan apa yang dipikirkan orang lain dan Anda akan selalu menjadi tawanan mereka.”

Saya kira suatu hari nanti AI yang hidup mungkin menggunakan ucapan legendaris yang sama untuk keuntungannya, yang (semoga saja) akan menguntungkan umat manusia juga.