Menggali Buzz Dan Keriuhan Atas Generatif AI ChatGPT, Termasuk Menjulang Etika AI Dan Pertimbangan Hukum AI

Saya menduga bahwa saat ini Anda telah mendengar tentang atau mungkin melihat berita utama yang menggelegar atau posting media sosial yang menggembar-gemborkan penggunaan AI terbaru dan terbaru yang menghasilkan narasi berorientasi teks yang tampaknya ditulis oleh manusia melalui aplikasi AI yang dikenal sebagai ChatGPT.

Jika Anda belum pernah mendengar atau membaca tentang aplikasi AI baru ini, jangan khawatir, saya akan mempercepat Anda.

Bagi Anda yang sudah mengetahui ChatGPT, Anda mungkin sangat tertarik dengan beberapa informasi orang dalam saya di sini tentang apa fungsinya, cara kerjanya, dan apa yang harus diperhatikan. Secara keseluruhan, hampir semua orang yang peduli dengan masa depan semua orang pasti ingin mengetahui mengapa semua orang tertarik dengan aplikasi AI ini.

Untuk memperjelas, prediksi yang merajalela adalah bahwa AI jenis ini akan mengubah kehidupan, termasuk kehidupan mereka yang belum tahu apa-apa tentang ChatGPT atau kemampuan AI lainnya. Seperti yang akan saya jelaskan sebentar, aplikasi AI ini akan memiliki dampak yang cukup luas dengan cara yang baru mulai kita antisipasi.

Bersiaplah untuk naik roller coaster yang disebut AI generatif.

Saya akan mulai dengan beberapa latar belakang utama tentang AI generatif dan menggunakan skenario paling sederhana yang melibatkan AI yang menghasilkan seni. Setelah membawa Anda melalui fondasi itu, kami akan beralih ke AI generatif yang menghasilkan narasi berorientasi teks.

Untuk liputan AI saya yang berkelanjutan dan ekstensif secara keseluruhan, termasuk Etika AI dan Hukum AI, lihat tautannya di sini dan tautannya di sini, Hanya untuk beberapa nama.

AI Generatif Yang Menghasilkan Karya Seni

Saya menyebut jenis atau gaya AI ini sebagai makhluk generatif yang merupakan terminologi pecinta AI yang digunakan untuk mendeskripsikan AI yang menghasilkan keluaran seperti teks, gambar, video, dan sejenisnya.

Anda mungkin telah memperhatikan awal tahun ini bahwa ada serentetan besar kemampuan menghasilkan gambar berseni dengan memasukkan satu atau dua baris teks. Idenya cukup sederhana. Anda menggunakan aplikasi AI yang memungkinkan Anda memasukkan beberapa teks pilihan Anda. Misalnya, Anda dapat mengetik bahwa Anda ingin melihat seperti apa katak dengan topi di atas cerobong asap. Aplikasi AI kemudian mengurai kata-kata Anda dan mencoba membuat gambar yang umumnya cocok dengan kata-kata yang Anda tentukan. Orang-orang sangat menikmati menghasilkan segala macam gambar. Media sosial menjadi tersumbat dengan mereka untuk sementara waktu.

Bagaimana AI generatif melakukan aspek pembangkitan?

Dalam kasus gaya text-to-art dari generatif AI, sejumlah karya seni online telah dipindai sebelumnya melalui algoritme komputer dan elemen seni yang dipindai dianalisis secara komputasional untuk komponen yang terlibat. Bayangkan gambar online yang memiliki katak di dalamnya. Bayangkan gambar terpisah lainnya yang memiliki cerobong asap di dalamnya. Namun gambar lain memiliki topi di dalamnya. Komponen-komponen ini diidentifikasi secara komputasi, terkadang dilakukan tanpa bantuan manusia dan terkadang melalui panduan manusia, dan kemudian semacam jaringan matematis diformulasikan.

Ketika Anda datang nanti dan meminta untuk membuat karya seni yang memiliki katak dengan topi di cerobong asap, aplikasi AI menggunakan jaringan matematika untuk menemukan dan menyatukan elemen-elemen tersebut. Gambar seni yang dihasilkan mungkin atau mungkin tidak seperti yang Anda harapkan. Mungkin katak itu terlihat jelek. Topi itu mungkin topi cerobong asap besar, tetapi Anda menginginkan topi bergaya derby yang lebih ramping. Sementara itu, gambar katak berdiri di cerobong asap meskipun Anda ingin agar katak itu duduk.

Hal bagus tentang jenis aplikasi AI ini adalah mereka biasanya memungkinkan Anda mengulangi permintaan Anda dan juga menambahkan spesifikasi tambahan jika Anda ingin melakukannya. Jadi, Anda dapat mengulangi permintaan Anda dan menunjukkan bahwa Anda menginginkan katak cantik dengan topi derby yang sedang duduk di atas cerobong asap. Voila, gambar yang baru dibuat mungkin lebih mirip dengan yang Anda inginkan.

Beberapa orang bertanya-tanya apakah AI hanya memuntahkan dengan tepat apa yang dilatihnya. Jawabannya tidak (biasanya). Gambar katak yang ditampilkan AI untuk permintaan Anda belum tentu merupakan duplikat persis dari gambar serupa yang ada di set pelatihan. Sebagian besar aplikasi AI generatif ini disiapkan untuk menggeneralisasi gambar apa pun yang awalnya mereka temukan. Pikirkan seperti ini. Misalkan Anda mengumpulkan seribu gambar katak. Anda mungkin memilih untuk secara bertahap mencari tahu seperti apa rupa katak itu, menggabungkan ribuan gambar yang Anda temukan. Dengan demikian, katak yang Anda gambar belum tentu sama persis dengan yang Anda gunakan untuk tujuan pelatihan.

Meskipun demikian, ada kemungkinan algoritme AI mungkin tidak melakukan generalisasi sebanyak yang diasumsikan. Jika ada gambar pelatihan yang unik dan tidak ada yang sejenis, bisa jadi AI "menggeneralisasi" agak dekat dengan satu-satunya contoh spesifik yang diterimanya. Dalam hal ini, upaya algoritme untuk, di kemudian hari, menghasilkan gambar yang diminta dari sifat tersebut dapat terlihat sangat mirip dengan apa pun yang ada di set pelatihan.

Saya akan berhenti sejenak untuk menyampaikan beberapa pemikiran terkait Etika AI dan Hukum AI.

Seperti yang disebutkan, jika AI generatif dilatih di Internet, ini berarti bahwa apa pun yang diposting secara publik di Internet kemungkinan akan digunakan oleh algoritme AI. Misalkan Anda memiliki karya seni bagus yang Anda kerjakan dan percaya bahwa Anda memiliki hak atas karya seni tersebut. Anda memposting gambarnya secara online. Siapa pun yang ingin menggunakan karya seni Anda seharusnya mendatangi Anda dan membayar Anda biaya untuk penggunaan itu.

Anda mungkin sudah merasakan ke mana arahnya.

Bertahanlah untuk berita masam.

Jadi, aplikasi AI generatif yang dilatih melalui pemeriksaan konten secara luas di Internet mendeteksi karya seni Anda yang luar biasa. Gambar karya seni Anda terserap ke dalam aplikasi AI. Karakteristik kesenian Anda sekarang digabungkan secara matematis dengan karya seni pindaian lainnya. Saat diminta untuk membuat karya seni, AI mungkin memanfaatkan karya Anda saat membuat gambar seni yang baru dibuat. Orang-orang yang mengumpulkan karya seni tersebut mungkin tidak menyadari bahwa seni tersebut memiliki sidik jari khusus Anda di atasnya, karena algoritme AI telah sedikit tercetak pada mahakarya Anda.

Ada juga kemungkinan bahwa jika karya seni Anda luar biasa unik, itu mungkin digunakan kembali oleh aplikasi AI dengan cara yang lebih mirip untuk menampilkan karya seni tersebut. Dengan demikian, terkadang karya seni Anda mungkin hampir tidak dapat dikenali di beberapa karya seni AI yang baru dibuat, sementara di kasus lain, karya seni yang dihasilkan hampir merupakan gambar meludah dari apa yang Anda tebak.

Maka inilah saatnya untuk membawa Etika AI ke dalam skenario ini.

Apakah pantas atau pantas secara etis bahwa AI generatif telah menghasilkan karya seni yang memiliki kemiripan dengan karya seni Anda?

Beberapa mengatakan ya, dan beberapa mengatakan tidak.

Kubu ya, percaya bahwa ini baik secara etis, mungkin akan berpendapat bahwa karena Anda memposting karya seni Anda secara online, itu terbuka untuk siapa saja atau apa pun yang ingin menyalinnya. Selain itu, mereka mungkin mengklaim bahwa seni baru tersebut bukanlah salinan persis dari karya Anda. Dengan demikian, Anda tidak bisa mengeluh. Jika kita entah bagaimana menghentikan semua penggunaan kembali seni yang ada, kita tidak akan pernah memiliki seni baru untuk dilihat. Plus, kita mungkin bisa masuk ke dalam perdebatan sengit tentang apakah karya seni tertentu Anda disalin atau dieksploitasi atau tidak - bisa jadi karya seni lain yang bahkan tidak Anda ketahui keberadaannya dan sebenarnya merupakan sumber yang mendasarinya.

Tidak ada kamp akan bersikeras bahwa ini sangat tidak etis. Tidak ada dua cara tentang itu. Mereka akan berpendapat bahwa Anda ditipu. Hanya karena karya seni Anda diposting online tidak berarti siapa pun dapat datang dan menyalinnya dengan bebas. Mungkin Anda memposting seni dengan peringatan keras untuk tidak menyalinnya. Sementara itu, AI datang dan menghapus seni dan sepenuhnya melewati peringatan. Memalukan! Dan alasan bahwa algoritme AI telah menggeneralisasi dan tidak melakukan seluk beluk penyalinan yang tepat sepertinya salah satu alasan palsu itu. Itu menemukan cara untuk mengeksploitasi kesenian Anda dan ini palsu dan memalukan.

Bagaimana dengan aspek hukum AI generatif ini?

Ada banyak keraguan tentang rincian hukum AI generatif. Apakah Anda melihat undang-undang federal tentang hak Kekayaan Intelektual (IP)? Apakah itu cukup keras untuk diterapkan? Bagaimana dengan ketika AI generatif melintasi batas internasional untuk mengumpulkan set pelatihan? Apakah karya seni yang dihasilkan oleh AI cocok dengan berbagai kategori eksklusif yang terkait dengan hak kekayaan intelektual? Dan seterusnya.

Beberapa percaya bahwa kita membutuhkan undang-undang baru terkait AI untuk bersaing secara khusus dengan situasi AI generatif semacam ini. Daripada mencoba menerapkan undang-undang yang ada, mungkin akan lebih bersih dan lebih mudah untuk membuat undang-undang baru. Juga, bahkan jika undang-undang yang ada berlaku, biaya dan penundaan dalam upaya untuk melakukan tindakan hukum bisa sangat besar dan menghambat kemampuan Anda untuk terus maju ketika Anda yakin bahwa Anda telah dirugikan secara tidak adil dan ilegal. Untuk liputan saya tentang topik ini, lihat tautannya di sini.

Saya akan menambahkan sentuhan tambahan pada pertimbangan Etika AI dan Hukum AI ini.

Siapa yang memiliki hak atas keluaran AI yang dihasilkan?

Anda mungkin mengatakan bahwa manusia yang mengembangkan AI harus memiliki hak tersebut. Tidak semua orang setuju dengan pendapat seperti itu. Anda mungkin mengatakan bahwa AI memiliki hak tersebut, tetapi hal ini dibingungkan oleh fakta bahwa kami umumnya tidak mengakui AI dapat memiliki hak tersebut. Sampai kita mengetahui apakah AI akan memiliki badan hukum, hal-hal yang tidak pasti di bagian depan ini, lihat analisis saya di tautannya di sini.

Saya percaya bahwa Anda sekarang memiliki kemiripan dengan apa yang dilakukan AI generatif. Kita selanjutnya dapat melanjutkan untuk mempertimbangkan kasus penggunaan yang melibatkan pembuatan narasi berbasis teks.

AI Generatif Yang Menghasilkan Narasi Berbasis Teks

Sekarang kita telah membahas penggunaan AI generatif untuk menghasilkan seni atau gambar, kita dapat dengan mudah melihat formulasi umum yang sama untuk menghasilkan narasi berbasis teks.

Mari kita mulai dengan sesuatu yang kita semua tahu dan cenderung menggunakannya setiap hari. Saat Anda memasukkan teks ke dalam paket pengolah kata atau aplikasi email Anda, kemungkinan besar ada fitur koreksi otomatis yang mencoba menangkap salah eja Anda.

Setelah fitur bantuan otomatis semacam itu menjadi umum, faset lanjutan berikutnya terdiri dari kemampuan pelengkapan otomatis. Untuk pelengkapan otomatis, konsepsinya adalah saat Anda mulai menulis kalimat, pengolah kata atau aplikasi email mencoba memprediksi kata apa yang kemungkinan besar akan Anda ketikkan selanjutnya. Itu mungkin memprediksi hanya satu atau dua kata di depan. Jika kemampuannya ditingkatkan secara khusus, itu mungkin memprediksi sisa dari seluruh kalimat Anda.

Kita bisa menendang ini ke kecepatan tinggi. Misalkan Anda mulai menulis kalimat dan pelengkapan otomatis menghasilkan sisa seluruh paragraf. Voila, Anda tidak perlu menulis paragraf secara langsung. Sebaliknya, aplikasi melakukannya untuk Anda.

Oke, sepertinya bagus. Dorong ini lebih jauh. Anda memulai sebuah kalimat dan pelengkapan otomatis menyusun sisa seluruh pesan Anda. Ini mungkin terdiri dari banyak paragraf. Semua itu dihasilkan melalui Anda memasukkan hanya sebagian dari kalimat atau mungkin satu atau dua kalimat penuh.

Bagaimana cara pelengkapan otomatis mengetahui apa yang akan Anda ketik selanjutnya?

Ternyata manusia cenderung menulis hal yang sama, berulang-ulang. Mungkin tidak, tetapi intinya adalah apa pun yang Anda tulis mungkin adalah sesuatu yang sudah ditulis orang lain. Mungkin tidak persis seperti yang ingin Anda tulis. Sebaliknya, itu mungkin agak mirip dengan apa yang akan Anda tulis.

Mari gunakan logika yang sama seperti yang digunakan dalam menghasilkan seni atau gambar.

Aplikasi AI generatif disiapkan dengan membuka Internet dan memeriksa semua jenis teks yang ada di dunia online. Algoritma mencoba mengidentifikasi secara komputasi bagaimana kata-kata terkait dengan kata lain, bagaimana kalimat terkait dengan kalimat lain, dan bagaimana paragraf terkait dengan paragraf lain. Semua ini dimodelkan secara matematis, dan jaringan komputasi dibuat.

Inilah kemudian apa yang terjadi selanjutnya.

Anda memutuskan untuk menggunakan aplikasi AI generatif yang berfokus pada pembuatan narasi berbasis teks. Setelah meluncurkan aplikasi, Anda memasukkan kalimat. Aplikasi AI secara komputasi memeriksa kalimat Anda. Berbagai hubungan matematis antara kata-kata yang Anda masukkan digunakan dalam jaringan matematika untuk mencoba dan memastikan teks apa yang akan muncul selanjutnya. Dari satu baris yang Anda tulis, bisa jadi sebuah cerita atau narasi utuh mampu dihasilkan.

Sekarang, Anda mungkin berpikir bahwa ini adalah monyet-lihat-monyet-do dan teks yang dihasilkan oleh AI generatif akan menjadi tidak masuk akal. Nah, Anda akan terkejut melihat seberapa baik AI semacam ini menjadi. Dengan kumpulan data yang cukup besar untuk pelatihan, dan dengan pemrosesan komputer yang cukup untuk mengocoknya secara ekstensif, keluaran yang dihasilkan oleh AI generatif bisa sangat mengesankan.

Anda akan melihat hasilnya dan mungkin bersumpah bahwa narasi yang dihasilkan ditulis langsung oleh manusia. Seolah-olah hukuman Anda diserahkan kepada manusia, bersembunyi di balik layar, dan mereka dengan cepat menulis kepada Anda seluruh narasi yang hampir sepenuhnya cocok dengan apa yang akan Anda katakan sebaliknya. Begitulah bagusnya dasar-dasar matematika dan komputasi.

Biasanya, saat menggunakan AI generatif yang menghasilkan narasi berbasis teks, Anda cenderung memberikan pertanyaan awal atau semacam pernyataan. Misalnya, Anda dapat mengetik "Ceritakan tentang burung di Amerika Utara" dan AI generatif akan menganggap ini sebagai pernyataan atau pertanyaan yang kemudian akan dicari oleh aplikasi untuk mengidentifikasi "burung" dan "Amerika Utara" dengan kumpulan data terlatih apa pun memiliki. Saya yakin Anda dapat membayangkan bahwa ada banyak sekali teks yang ada di Internet yang menggambarkan burung-burung di Amerika Utara, yang darinya AI selama prapelatihan telah mengekstraksi dan memodelkan penyimpanan teks.

Output yang dihasilkan untuk Anda kemungkinan besar bukan teks persis dari situs online tertentu. Ingatlah bahwa hal yang sama disebutkan sebelumnya tentang karya seni yang dihasilkan. Teks akan menjadi gabungan dari macam, bit, dan potongan yang diikat bersama secara matematis dan komputasi. Narasi berbasis teks yang dihasilkan akan tampak unik untuk semua penampilan secara keseluruhan, seolah-olah teks khusus ini belum pernah disusun sebelumnya oleh siapa pun.

Tentu saja, bisa ada petunjuk. Jika Anda meminta atau membuat AI generatif masuk ke topik yang sangat tidak jelas, kemungkinan besar Anda akan melihat keluaran teks yang menyerupai sumber yang digunakan. Dalam kasus teks, peluangnya biasanya lebih rendah daripada seni. Teks akan menjadi kombinasi dari kekhususan topik namun juga kabur dan menyatu dengan jenis teks umum yang digunakan dalam keseluruhan wacana.

Teknik dan teknologi matematika dan komputasi yang digunakan untuk kemampuan AI generatif ini sering disebut oleh orang dalam AI sebagai Model Bahasa Besar (LLM). Sederhananya, ini adalah pemodelan bahasa manusia dalam skala besar. Sebelum ada Internet, Anda akan kesulitan menemukan kumpulan data teks yang sangat besar yang tersedia online dan dengan harga murah. Anda mungkin harus membeli akses ke teks dan itu belum tentu tersedia dalam format elektronik atau digital.

Soalnya, Internet bagus untuk sesuatu, yaitu menjadi sumber yang siap untuk melatih AI generatif.

Berpikir Cerdik Tentang AI Generatif Yang Menghasilkan Teks

Kita harus meluangkan waktu sejenak untuk memikirkan konsekuensi Etika AI dan Hukum AI dari AI generatif yang menghasilkan narasi berbasis teks.

Ingatlah bahwa dalam kasus seni yang dihasilkan, kami mengkhawatirkan etika algoritme AI yang menghasilkan seni berdasarkan karya seni buatan manusia lainnya. Perhatian yang sama muncul dalam contoh berbasis teks. Bahkan jika teks yang dihasilkan tidak terlihat persis seperti sumber aslinya, Anda dapat berargumen bahwa AI mengeksploitasi teks dan produser aslinya ditipu. Sisi lain dari koin itu adalah bahwa teks di Internet jika tersedia secara bebas dapat digunakan oleh siapa saja untuk melakukan hal yang sama, jadi, mengapa AI tidak melakukan hal yang sama?

Komplikasi yang terkait dengan aspek hukum hak Kekayaan Intelektual juga mengemuka dalam contoh AI generatif berbasis teks. Dengan asumsi bahwa teks yang dilatih memiliki hak cipta, apakah menurut Anda teks yang dihasilkan melanggar hak hukum tersebut? Satu jawaban adalah ya, dan jawaban lainnya adalah tidak. Sadarilah bahwa teks yang dihasilkan kemungkinan besar jauh dari teks asli, oleh karena itu Anda mungkin kesulitan untuk mengklaim bahwa teks asli telah ditipu.

Kekhawatiran lain yang telah disebutkan juga adalah hak kepemilikan atas narasi berbasis teks yang diproduksi oleh AI generatif. Misalkan Anda mengetik ke dalam AI "Tulis cerita lucu tentang orang-orang yang mengantri untuk mendapatkan kopi" dan AI generatif menghasilkan halaman demi halaman cerita lucu tentang sekelompok orang yang kebetulan bertemu sambil menunggu secangkir kopi. Jawa.

Siapa pemilik cerita itu?

Anda mungkin berpendapat bahwa karena Anda mengetik prompt, Anda berhak "memiliki" cerita yang dihasilkan. Wah, beberapa orang akan mengatakan, AI adalah bagaimana cerita itu dibuat, jadi AI "memiliki" kisah yang menyenangkan itu. Astaga, yang lain akan menasihati, jika AI mengambil potongan-potongan dari semua jenis cerita serupa lainnya di Internet, semua penulis manusia itu harus berbagi kepemilikan.

Masalahnya belum terselesaikan dan kami baru saja memasuki masalah hukum yang akan terjadi selama beberapa tahun ke depan.

Ada kekhawatiran Etika AI dan Hukum AI tambahan yang muncul.

Beberapa orang yang telah menggunakan aplikasi AI generatif mulai percaya bahwa aplikasi AI itu hidup. Pasti begitu, seru mereka. Bagaimana lagi Anda bisa menjelaskan jawaban dan cerita mencengangkan yang mampu dihasilkan AI? Kami akhirnya mencapai AI hidup.

Mereka benar-benar salah.

Ini bukan AI hidup.

Ketika saya mengatakan ini, beberapa orang dalam AI menjadi marah dan bertindak seolah-olah siapa pun yang menyangkal bahwa AI itu hidup secara bersamaan mengatakan bahwa AI tidak berharga. Itu argumen palsu dan salah saji. Saya secara terbuka setuju bahwa AI generatif ini cukup mengesankan. Kita dapat menggunakannya untuk segala macam tujuan, seperti yang akan saya sebutkan nanti di sini. Meskipun demikian, itu tidak hidup. Untuk penjelasan saya tentang mengapa terobosan AI semacam ini tidak masuk akal, lihat tautannya di sini.

Klaim lain yang terlalu besar dan salah oleh beberapa orang adalah bahwa AI generatif telah berhasil memenangkan Tes Turing.

Sudah pasti tidak melakukannya.

Turing Test adalah semacam tes untuk memastikan apakah sebuah aplikasi AI mampu setara dengan manusia. Awalnya dirancang sebagai permainan meniru oleh Alan Turing, ahli matematika dan perintis komputer yang hebat, tesnya sendiri sangat mudah. Jika Anda menempatkan manusia di balik tirai dan meletakkan aplikasi AI di balik tirai lain, dan Anda menanyakan keduanya, di mana Anda tidak dapat menentukan mana mesin dan mana manusia, AI akan berhasil melewati Uji Turing. Untuk penjelasan dan analisis mendalam saya tentang Tes Turing, lihat tautannya di sini.

Orang-orang yang terus berteriak bahwa AI generatif telah lulus Tes Turing tidak tahu apa yang mereka bicarakan. Mereka tidak mengetahui apa itu Tes Turing, atau sayangnya mereka menggunakan AI dengan cara yang salah dan benar-benar menyesatkan. Pokoknya, salah satu pertimbangan penting tentang Tes Turing terdiri dari pertanyaan apa yang akan ditanyakan, bersama dengan siapa yang bertanya dan juga menilai apakah jawabannya berkualitas manusia.

Maksud saya adalah orang-orang mengetik selusin pertanyaan ke AI generatif, dan ketika jawabannya tampak masuk akal, orang-orang ini dengan gegabah menyatakan bahwa Turing Test telah lulus. Sekali lagi, ini salah. Memasuki serangkaian pertanyaan tipis dan melakukan beberapa sodokan di sana-sini bukanlah niat atau semangat Tes Turing. Berhentilah membuat klaim yang tidak terhormat ini.

Inilah keluhan sah yang tidak banyak Anda dengar, meskipun menurut saya sangat berharga.

Para pengembang AI biasanya telah mengatur AI generatif sehingga merespons seolah-olah manusia merespons, yaitu dengan menggunakan frasa "I" atau "me" saat menyusun output. Misalnya, saat meminta untuk bercerita tentang seekor anjing yang tersesat di hutan, AI generatif mungkin memberikan teks yang berbunyi “Saya akan menceritakan semua tentang seekor anjing bernama Sam yang tersesat di hutan. Ini adalah salah satu cerita favorit saya.”

Perhatikan bahwa kata-katanya mengatakan "Saya akan memberi tahu Anda ..." dan bahwa ceritanya adalah "salah satu favorit saya ..." sehingga siapa pun yang membaca keluaran ini secara halus akan jatuh ke dalam perangkap mental antropomorfisasi AI. Anthropomorphizing terdiri dari manusia yang mencoba untuk menetapkan sifat-sifat seperti manusia dan perasaan manusia terhadap non-manusia. Anda terbuai untuk percaya bahwa AI ini adalah manusia atau mirip manusia karena kata-kata di dalam output sengaja dibuat seperti itu.

Ini tidak harus dirancang dengan cara itu. Outputnya bisa mengatakan “Ini adalah cerita tentang seekor anjing bernama Sam yang tersesat di hutan. Ini adalah kisah yang disukai.” Anda akan cenderung tidak langsung berasumsi bahwa AI itu manusia atau mirip manusia. Saya menyadari Anda mungkin masih jatuh ke dalam perangkap itu, tetapi setidaknya perangkapnya, sebagaimana adanya, tidak begitu terasa.

Singkatnya, Anda memiliki AI generatif yang menghasilkan narasi berbasis teks berdasarkan cara manusia menulis, dan keluaran yang dihasilkan sepertinya ditulis seperti manusia akan menulis sesuatu. Itu sangat masuk akal karena AI secara matematis dan komputasi membuat pola pada apa yang telah ditulis manusia. Sekarang, tambahkan penggunaan kata-kata antropomorfisasi, dan Anda mendapatkan badai sempurna yang meyakinkan orang bahwa AI itu hidup atau telah lulus Tes Turing.

Banyak masalah Etika AI dan Hukum AI muncul.

Saya akan memukul Anda dengan konsekuensi yang agak membahayakan dari AI generatif ini.

Duduklah untuk ini.

Narasi berbasis teks yang dihasilkan tidak harus mematuhi kebenaran atau akurasi. Penting untuk disadari bahwa AI generatif tidak "memahami" apa yang sedang dihasilkan (tidak dengan cara yang berhubungan dengan manusia, orang akan membantah). Jika teks yang digunakan dalam pelatihan telah mewujudkan kepalsuan, kemungkinan besar kepalsuan yang sama itu akan dimasak ke dalam jaringan matematis dan komputasi AI generatif.

Selain itu, AI generatif biasanya tanpa sarana matematis atau komputasi apa pun untuk mengetahui bahwa teks yang dihasilkan mengandung kepalsuan. Ketika Anda melihat narasi keluaran yang dihasilkan, narasi tersebut biasanya akan terlihat benar-benar "jujur" di permukaan. Anda mungkin tidak memiliki cara yang layak untuk mendeteksi bahwa kebohongan tertanam dalam narasi.

Misalkan Anda mengajukan pertanyaan medis tentang AI generatif. Aplikasi AI menghasilkan narasi yang panjang. Bayangkan sebagian besar narasinya masuk akal dan tampak masuk akal. Tetapi jika Anda bukan seorang spesialis medis, Anda mungkin tidak menyadari bahwa di dalam narasi tersebut terdapat beberapa kebohongan penting. Mungkin teks tersebut menyuruh Anda meminum lima puluh pil dalam dua jam, padahal kenyataannya, rekomendasi medis yang sebenarnya adalah meminum dua pil dalam dua jam. Anda mungkin percaya saran lima puluh pil yang diklaim, hanya karena narasi lainnya tampaknya masuk akal dan masuk akal.

Memiliki pola AI tentang kepalsuan dalam sumber data asli hanyalah salah satu cara untuk membuat AI menjadi miring dalam narasi ini. Bergantung pada jaringan matematis dan komputasi yang digunakan, AI akan berusaha untuk "mengarang" barang. Dalam bahasa AI, ini disebut sebagai AI berhalusinasi, yang merupakan terminologi buruk yang sangat tidak saya setujui dan berpendapat tidak boleh dilanjutkan sebagai slogan, lihat analisis saya di tautannya di sini.

Misalkan Anda telah meminta AI generatif untuk bercerita tentang seekor anjing. AI mungkin akhirnya membuat anjing itu bisa terbang. Jika cerita yang Anda inginkan seharusnya didasarkan pada kenyataan, seekor anjing terbang sepertinya tidak mungkin. Anda dan saya tahu bahwa anjing tidak dapat terbang secara alami. Bukan masalah besar, katamu, karena semua orang tahu ini.

Bayangkan seorang anak di sekolah yang mencoba belajar tentang anjing. Mereka menggunakan AI generatif. Ini menghasilkan output yang mengatakan anjing bisa terbang. Anak itu tidak tahu apakah ini benar atau tidak dan berasumsi bahwa itu pasti benar. Dalam arti tertentu, seolah-olah anak itu membuka ensiklopedia online dan dikatakan bahwa anjing bisa terbang. Anak itu mungkin akan bersikeras bahwa anjing memang bisa terbang.

Kembali ke teka-teki Etika AI dan Hukum AI, kami sekarang hampir dapat menghasilkan konten berbasis teks dalam jumlah yang hampir tak terbatas, dilakukan melalui penggunaan AI generatif, dan kami akan membanjiri diri kami dengan jutaan narasi yang tidak diragukan lagi penuh dengan kebohongan dan semburan disinformasi dan misinformasi terkait lainnya.

Ya, dengan menekan satu tombol dan beberapa kata yang dimasukkan ke dalam AI generatif, Anda dapat menghasilkan banyak sekali narasi tekstual yang tampaknya sepenuhnya masuk akal dan jujur. Anda kemudian dapat memposting ini secara online. Orang lain akan membaca materi tersebut dan menganggapnya benar. Di atas semua ini, AI generatif lain yang datang mencoba untuk dilatih tentang teks berpotensi menghadapi materi ini dan membungkusnya ke dalam AI generatif yang sedang dirancangnya.

Seolah-olah kami sekarang menambahkan steroid untuk menghasilkan disinformasi dan misinformasi. Kita sedang menuju disinformasi dan misinformasi dalam skala global galaksi yang masif.

Tidak banyak tenaga manusia yang dibutuhkan untuk menghasilkan itu semua.

AI Generatif dan ChatGPT

Mari kita ke headliner diskusi tentang AI generatif ini. Kami sekarang telah membahas sifat AI generatif yang secara keseluruhan menghasilkan narasi berbasis teks. Ada banyak aplikasi AI generatif yang tersedia.

Salah satu aplikasi AI yang terkenal dikenal sebagai ChatGPT.

Kudeta hubungan masyarakat telah tersebar di media sosial dan berita - ChatGPT mendapatkan semua kejayaannya saat ini. Cahaya bersinar terang di ChatGPT. Itu mendapatkan ketenaran lima menit yang mengejutkan.

ChatGPT adalah nama aplikasi AI generatif yang dikembangkan oleh entitas yang dikenal sebagai OpenAI. OpenAI cukup terkenal di bidang AI dan dapat dianggap sebagai laboratorium penelitian AI. Mereka memiliki reputasi untuk mendorong amplop ketika datang ke AI untuk Pemrosesan Bahasa Alami (NLP), bersama dengan kemajuan AI lainnya. Mereka telah memulai serangkaian aplikasi AI yang mereka ciptakan sebagai GPT (Generative Pre-Trained Transformers). Setiap versi mendapat nomor. Saya telah menulis sebelumnya tentang GPT-3 mereka (versi 3 dari seri GPT mereka), lihat tautannya di sini.

GPT-3 mendapat sedikit perhatian ketika pertama kali dirilis (melakukan pengujian beta secara luas sekitar dua tahun lalu, dan tersedia lebih luas pada tahun 2022). Ini adalah aplikasi AI generatif yang setelah masuknya prompt akan menghasilkan atau menghasilkan narasi berbasis teks. Semua yang saya sebutkan sebelumnya tentang kasus umum aplikasi AI generatif pada dasarnya berlaku untuk GPT-3.

Sudah lama ada keraguan bahwa GPT-4 sedang berlangsung dan mereka yang berada di bidang AI telah menunggu dengan napas tertahan untuk melihat peningkatan atau peningkatan apa yang ada di GPT-4 berbeda dengan GPT-3. Ke dalam seri ini hadir in-betweener terbaru, yang dikenal sebagai GPT-3.5. Ya, Anda benar, itu berada di antara GPT-3 yang dirilis dan GPT 4.0 yang belum dirilis.

OpenAI telah menggunakan GPT-3.5 mereka untuk membuat cabang yang mereka beri nama ChatGPT. Dikatakan bahwa mereka melakukan beberapa penyempurnaan khusus untuk membuat ChatGPT. Misalnya, gagasan yang beredar adalah bahwa ChatGPT dirancang untuk dapat bekerja dengan cara chatbot. Ini termasuk "percakapan" yang Anda lakukan dengan aplikasi AI dilacak oleh AI dan digunakan untuk menghasilkan narasi yang diminta selanjutnya.

Banyak aplikasi AI generatif cenderung menjadi desain satu-dan-selesai. Anda memasukkan prompt, narasi yang dihasilkan AI, dan hanya itu. Prompt Anda berikutnya tidak ada hubungannya dengan apa yang terjadi selanjutnya. Seolah-olah Anda memulai dari awal setiap kali Anda memasukkan prompt.

Tidak demikian halnya dengan ChatGPT. Dengan cara yang belum terungkap, aplikasi AI mencoba mendeteksi pola pada permintaan Anda dan karenanya dapat tampak lebih responsif terhadap permintaan Anda (aplikasi AI ini dianggap dapat diakses secara terbuka karena mengizinkan siapa pun untuk mendaftar untuk menggunakannya, tetapi tetap saja hak milik dan dengan tegas tidak aplikasi AI open source yang mengungkapkan cara kerjanya). Misalnya, ingat indikasi saya sebelumnya tentang keinginan Anda untuk melihat katak bertopi di atas cerobong asap. Salah satu metodenya adalah setiap kali Anda mengajukan permintaan seperti itu, semuanya dimulai dari awal. Metode lain adalah Anda dapat melanjutkan apa yang Anda katakan sebelumnya. Jadi, Anda mungkin dapat memberi tahu AI bahwa Anda ingin katak duduk, yang dengan sendirinya tidak masuk akal, sementara dalam konteks permintaan Anda sebelumnya yang meminta katak dengan topi di cerobong asap, permintaan tersebut tampaknya masuk akal.

Anda mungkin bertanya-tanya mengapa tiba-tiba ada masa kejayaan dan perkembangan tentang ChatGPT.

Sebagian karena ChatGPT tersedia bagi siapa saja yang ingin mendaftar untuk menggunakannya. Di masa lalu, sering kali ada kriteria selektif tentang siapa yang dapat menggunakan aplikasi AI generatif yang baru tersedia. Penyedia akan meminta Anda menjadi orang dalam AI atau mungkin memiliki ketentuan lain. Tidak demikian halnya dengan ChatGPT.

Berita menyebar dengan cepat bahwa ChatGPT sangat mudah digunakan, gratis untuk digunakan, dan dapat digunakan dengan pendaftaran sederhana yang hanya mengharuskan Anda memberikan alamat email. Seperti api yang cepat, tiba-tiba dan dipicu atau dipacu melalui postingan viral di media sosial, aplikasi ChatGPT dikatakan memiliki lebih dari satu juta pengguna. Media berita telah menekankan aspek bahwa satu juta orang mendaftar ke ChatGPT.

Meskipun ini tentu luar biasa dan patut diperhatikan, ingatlah konteks pendaftaran ini. Ini gratis dan mudah untuk mendaftar. Chatbot sangat mudah digunakan dan tidak memerlukan pelatihan atau pengalaman sebelumnya. Anda cukup memasukkan petunjuk pilihan dan kata-kata Anda sendiri, dan shazam aplikasi AI memberikan narasi yang dihasilkan. Seorang anak dapat melakukan ini, yang sebenarnya menjadi perhatian yang mengkhawatirkan oleh beberapa orang, yaitu jika anak-anak menggunakan ChatGPT, apakah mereka akan mempelajari materi yang meragukan (sesuai poin saya sebelumnya tentang hal-hal tersebut)?

Juga, mungkin penting untuk menunjukkan bahwa beberapa (banyak?) dari jutaan pendaftar itu adalah orang-orang yang mungkin ingin menendang ban dan tidak melakukan apa-apa lagi. Mereka dengan cepat membuat akun, bermain-main dengan aplikasi AI sebentar, berpikir itu menyenangkan dan mengejutkan, dan kemudian mungkin melakukan beberapa posting media sosial untuk menunjukkan apa yang mereka temukan. Setelah itu, mereka mungkin tidak akan pernah masuk lagi, atau setidaknya hanya menggunakan aplikasi AI jika muncul kebutuhan tertentu.

Orang lain juga menunjukkan bahwa waktu ChatGPT tersedia bertepatan dengan waktu dalam setahun yang membuat minat besar pada aplikasi AI. Mungkin saat liburan, kita punya lebih banyak waktu untuk bermain-main dengan barang-barang yang menyenangkan. Munculnya media sosial juga mendorong ini menjadi semacam fenomena. FOMO klasik (takut ketinggalan) mungkin ditambahkan ke desas-desus pell-mell. Tentu saja, jika Anda membandingkan satu juta dengan beberapa influencer YouTube populer, Anda mungkin berpendapat bahwa satu juta adalah angka yang remeh dibandingkan dengan vlog yang mendapatkan ratusan juta pendaftaran atau penayangan saat pertama kali diluncurkan atau diposting.

Baiklah, jangan ngelantur dan perhatikan saja, untuk aplikasi AI yang bersifat eksperimental, jutaan pendaftar tentu saja patut dibanggakan.

Orang-orang langsung menggunakan ChatGPT untuk membuat cerita. Mereka kemudian memposting cerita dan menceritakan tentang keajaibannya. Reporter dan jurnalis bahkan telah melakukan "wawancara" dengan ChatGPT, yang agak membingungkan karena mereka jatuh ke dalam perangkap antropomorfisasi yang sama (baik karena ketidaksadaran yang sebenarnya atau melalui harapan untuk mendapatkan pandangan yang terlalu besar untuk artikel mereka). Kecenderungan langsung juga adalah untuk menyatakan bahwa AI sekarang telah mencapai kesadaran atau lulus Tes Turing, yang telah saya komentari secara nyata sebelumnya di sini.

Kekhawatiran sosial yang diangkat oleh ChatGPT sebenarnya adalah masalah yang sudah meresap sebagai akibat dari versi GPT sebelumnya dan juga banyaknya LLM dan AI generatif yang sudah tersedia. Perbedaannya adalah sekarang seluruh dunia telah memilih untuk bergabung. Itu berguna. Kita perlu memastikan bahwa Etika AI dan Hukum AI mendapatkan paparan dan perhatian yang semestinya. Jika dibutuhkan ChatGPT untuk membawa kita ke sana, biarlah.

Kekhawatiran macam apa yang diungkapkan?

Ambil kasus penggunaan siswa diminta untuk menulis esai untuk kelas mereka. Seorang siswa biasanya diharapkan untuk menulis esai sepenuhnya berdasarkan kemampuan menulis dan komposisi mereka sendiri. Tentu, mereka mungkin melihat bahan tertulis lain untuk mendapatkan ide dan kutipan, tetapi siswa sebaliknya dianggap mengarang esai mereka dari inti mereka sendiri. Menyalin prosa dari sumber lain tidak disukai, biasanya mengarah ke nilai F atau mungkin dikeluarkan karena menjiplak materi lain.

Saat ini, inilah yang bisa terjadi. Seorang siswa mendaftar ke ChatGPT (atau, aplikasi AI generatif serupa lainnya). Mereka memasukkan prompt apa pun yang diberikan guru kepada mereka untuk tujuan menurunkan esai. ChatGPT menghasilkan esai lengkap berdasarkan prompt. Ini adalah komposisi "asli" yang tidak dapat Anda temukan di tempat lain. Anda tidak dapat membuktikan bahwa komposisi tersebut dijiplak, karena, sebagai pertimbangan, komposisi tersebut tidak dijiplak.

Siswa menyerahkan esai. Mereka menegaskan bahwa itu adalah karya tulis mereka sendiri. Guru tidak memiliki sarana siap untuk berpikir sebaliknya. Meskipun demikian, Anda dapat memunculkan anggapan bahwa jika karya tulis tampaknya berada di luar kapasitas siswa, Anda mungkin akan curiga. Tapi itu tidak banyak terjadi jika Anda akan menuduh seorang siswa menyontek.

Bagaimana cara guru mengatasi hal ini?

Beberapa memasukkan aturan ke dalam materi pengajaran mereka bahwa penggunaan ChatGPT atau yang setara akan dianggap sebagai bentuk kecurangan. Selain itu, tidak mengaku menggunakan ChatGPT atau sejenisnya adalah bentuk kecurangan. Apakah itu akan membatasi peluang baru ini? Dikatakan meragukan karena kemungkinan tertangkap rendah, sementara peluang mendapat nilai bagus di makalah yang ditulis dengan baik tinggi. Anda mungkin dapat membayangkan siswa menghadapi tenggat waktu untuk menulis esai yang pada malam sebelumnya akan tergoda untuk menggunakan AI generatif untuk mengeluarkan mereka dari kemacetan.

Pergeseran persneling, semua jenis tulisan berpotensi terjadi terganggu oleh AI generatif.

Apakah Anda diminta untuk menulis memo di tempat kerja tentang hal ini atau lainnya? Jangan buang waktu Anda dengan melakukannya dari awal. Gunakan AI generatif. Anda kemudian dapat memotong dan menempelkan teks yang dihasilkan ke dalam komposisi Anda, menyempurnakan teks sesuai kebutuhan, dan menyelesaikan tugas menulis yang sulit dengan mudah.

Apakah ini tampaknya tepat untuk dilakukan?

Saya berani bertaruh bahwa kebanyakan orang akan mengatakan ya. Ini bahkan lebih baik daripada menyalin sesuatu dari Internet, yang bisa membawa Anda ke air panas untuk plagiarisme. Sangat masuk akal untuk menggunakan AI generatif agar upaya menulis Anda selesai sebagian, atau bahkan mungkin selesai seluruhnya untuk Anda. Untuk itulah alat dibuat.

Selain itu, di salah satu kolom saya berikutnya, kasus penggunaan AI generatif untuk tujuan hukum dalam arti melakukan jenis pekerjaan pengacara dan menghasilkan dokumen hukum akan diperiksa dengan cermat. Siapa pun yang adalah seorang pengacara atau profesional hukum ingin mempertimbangkan bagaimana AI generatif akan berpotensi mencabut atau mengacaukan praktik hukum. Pertimbangkan misalnya seorang pengacara yang menyusun ringkasan hukum untuk kasus pengadilan. Mereka berpotensi menggunakan AI generatif untuk menulis komposisi. Tentu, itu mungkin memiliki beberapa kekurangan, sehingga pengacara harus men-tweak di sana-sini. Berkurangnya jumlah tenaga kerja dan waktu untuk menghasilkan brief mungkin membuat penyesuaian menjadi bermanfaat.

Beberapa orang khawatir bahwa dokumen hukum tersebut mungkin berisi kebohongan atau halusinasi AI yang tidak ditangkap oleh pengacara. Sudut pandang dalam perubahan itu adalah bahwa ini ada di pundak pengacara. Mereka mungkin menyatakan bahwa brief itu ditulis oleh mereka, jadi, apakah rekan junior yang menulisnya atau aplikasi AI yang melakukannya, mereka tetap memiliki tanggung jawab akhir untuk konten akhir.

Yang menjadi lebih menantang adalah jika non-pengacara mulai menggunakan AI generatif untuk melakukan kerja keras hukum bagi mereka. Mereka mungkin percaya bahwa AI generatif dapat menghasilkan segala macam dokumen hukum. Masalahnya tentu saja adalah bahwa dokumen tersebut mungkin tidak sah secara hukum. Saya akan mengatakan lebih banyak tentang ini di kolom saya yang akan datang.

Aturan penting yang penting muncul tentang masyarakat dan tindakan penulisan manusia.

Ini agak penting:

• Setiap kali Anda ditugaskan untuk menulis sesuatu, haruskah Anda menulis item dari awal, atau haruskah Anda menggunakan alat AI generatif untuk membantu Anda?

Outputnya mungkin setengah matang dan Anda harus melakukan banyak penulisan ulang. Atau outputnya mungkin benar dan Anda hanya perlu melakukan sedikit sentuhan. Secara keseluruhan, jika penggunaannya gratis dan mudah, godaan untuk menggunakan AI generatif akan sangat besar.

Bonusnya adalah Anda berpotensi menggunakan AI generatif untuk melakukan beberapa penulisan ulang. Mirip dengan petunjuk tentang katak bertopi dan cerobong asap, saat memproduksi karya seni, Anda dapat melakukan hal yang sama saat membuat narasi berbasis teks. AI mungkin menghasilkan cerita Anda tentang seekor anjing, dan Anda malah memutuskan bahwa Anda ingin karakter utamanya menjadi seekor kucing. Setelah mendapatkan cerita anjing, Anda memasukkan perintah lain dan menginstruksikan aplikasi AI untuk beralih menggunakan kucing dalam cerita. Ini mungkin lebih dari sekadar berakhir dengan kata "kucing" menggantikan kata "anjing" dalam narasi. Aplikasi AI dapat dengan mudah mengubah cerita untuk membuat referensi tentang apa yang dilakukan kucing versus apa yang dilakukan anjing. Keseluruhan cerita mungkin direvisi seolah-olah Anda telah meminta manusia untuk membuat revisi tersebut.

Kuat, mengesankan, praktis dan keren.

Beberapa peringatan untuk dipertimbangkan:

• Akankah kita secara kolektif kehilangan kemampuan untuk menulis, menjadi sepenuhnya bergantung pada AI generatif untuk menulis untuk kita?
• Akankah orang yang menulis untuk mencari nafkah akan kehilangan pekerjaan (hal yang sama ditanyakan tentang seniman)?
• Akankah Internet tumbuh dengan pesat saat narasi yang dihasilkan membanjiri online dan kita tidak dapat lagi memisahkan kebenaran dari kebohongan?
• Akankah orang-orang sangat mempercayai narasi yang dihasilkan ini dan bertindak seolah-olah tokoh yang berwibawa telah memberi mereka materi yang benar yang dapat mereka andalkan, termasuk konten yang mungkin terkait dengan hidup atau mati?
• Lainnya

Pikirkan itu.

Perhatikan bahwa salah satu dari poin-poin tersebut berkaitan dengan mengandalkan materi yang dihasilkan oleh AI generatif berdasarkan hidup atau mati.

Inilah patah hati untuk Anda (peringatan pemicu, Anda mungkin ingin melewati paragraf ini). Bayangkan seorang remaja bertanya kepada AI generatif apakah mereka harus menyingkirkan diri mereka sendiri atau tidak. Apa yang akan dihasilkan oleh aplikasi AI generatif? Anda tentu berharap bahwa aplikasi AI akan menghasilkan narasi yang mengatakan untuk tidak melakukannya dan dengan lantang mendesak penanya untuk mencari spesialis kesehatan mental.

Ada kemungkinan bahwa AI tidak akan menyebutkan aspek-aspek tersebut. Lebih buruk lagi, aplikasi AI mungkin telah menangkap teks di Internet yang mungkin mendorong tindakan semacam itu, dan aplikasi AI (karena tidak memiliki kapasitas pemahaman manusia), mengeluarkan narasi yang pada dasarnya menyindir atau langsung menyatakan bahwa remaja tersebut harus melanjutkan. tidak terpengaruh. Remaja itu percaya ini adalah panduan yang jujur ​​dari sistem "Artificial Intelligent" online yang resmi.

Hal buruk.

Sungguh, hal yang sangat buruk.

Beberapa pengembang AI generatif mencoba untuk melakukan check and balances pada AI untuk mencoba dan mencegah situasi semacam itu terjadi. Masalahnya, cara kata prompt dapat berpotensi lolos dari pagar yang diprogram. Demikian juga, hal yang sama dapat dikatakan untuk output yang dihasilkan. Tidak ada pemfilteran ketat yang dijamin yang masih dapat memastikan hal ini tidak akan pernah terjadi.

Ada sudut lain dari produksi berbasis teks ini yang mungkin tidak Anda duga sebelumnya.

Ini dia.

Ketika pemrogram atau pengembang perangkat lunak membuat kode untuk perangkat lunak mereka, mereka pada dasarnya menulis dalam bentuk teks. Teksnya agak misterius karena didasarkan pada bahasa yang ditentukan untuk bahasa pemrograman tertentu, seperti Python, C++, Java, dll. Pada akhirnya, itu adalah teks.

Kode sumber kemudian dikompilasi atau dijalankan di komputer. Pengembang memeriksa kode mereka untuk melihat bahwa ia melakukan apa pun yang seharusnya dilakukan. Mereka mungkin melakukan koreksi atau men-debug kode. Seperti yang Anda ketahui, pemrogram atau insinyur perangkat lunak sangat diminati dan sering meminta harga tinggi untuk upaya kerja mereka.

Untuk AI generatif, teks kode sumber adalah teks. Kapasitas untuk menemukan pola dalam miliaran baris kode yang ada di Internet dan tersedia di berbagai repositori membuat cara yang menarik untuk mencari tahu secara matematis dan komputasi kode apa yang tampaknya melakukan apa.

Masalahnya adalah ini.

Dengan prompt, Anda berpotensi membuat AI generatif menghasilkan seluruh program komputer untuk Anda. Tidak perlu bekerja keras untuk mengeluarkan kode. Anda mungkin pernah mendengar bahwa ada yang disebut kode rendah alat yang tersedia saat ini untuk mengurangi upaya pemrogram saat menulis kode. AI generatif dapat ditafsirkan sebagai a kode rendah atau bahkan tanpa kode pilihan karena menulis kode untuk Anda.

Sebelum Anda yang menulis kode untuk mencari nafkah jatuh ke lantai dan pingsan, perlu diingat bahwa kode tersebut tidak "dipahami" dengan cara yang Anda sebagai manusia mungkin memahaminya. Selain itu, kode tersebut dapat berisi kebohongan dan halusinasi AI. Mengandalkan kode semacam itu tanpa melakukan tinjauan kode ekstensif akan tampak berisiko dan dipertanyakan.

Kami kembali ke pertimbangan yang sama tentang penulisan cerita dan memo. Mungkin pendekatannya adalah menggunakan AI generatif untuk membawa Anda ke sana dalam upaya pengkodean. Meskipun ada tradeoff yang cukup besar. Apakah Anda lebih aman untuk menulis kode secara langsung, atau berurusan dengan kode yang dihasilkan oleh AI yang mungkin memiliki masalah tersemat yang berbahaya dan sulit dideteksi?

Waktu akan berbicara.

Penyelaman Singkat Ke ChatGPT

Saat Anda mulai menggunakan ChatGPT, ada serangkaian peringatan dan komentar informatif yang ditampilkan.

Mari kita lihat sekilas:

• “Terkadang dapat menghasilkan informasi yang salah.”
• “Terkadang dapat menghasilkan instruksi yang berbahaya atau konten yang bias.”
• “Dilatih untuk menolak permintaan yang tidak pantas.”
• “Tujuan kami adalah mendapatkan umpan balik eksternal untuk meningkatkan sistem kami dan membuatnya lebih aman.”
• “Meskipun kami memiliki perlindungan, sistem kadang-kadang dapat menghasilkan informasi yang salah atau menyesatkan dan menghasilkan konten yang menyinggung atau bias. Itu tidak dimaksudkan untuk memberi nasihat.
• “Percakapan dapat ditinjau oleh pelatih AI kami untuk meningkatkan sistem kami.”
• "Tolong jangan bagikan informasi sensitif apa pun dalam percakapan Anda."
• “Sistem ini dioptimalkan untuk dialog. Beri tahu kami jika respons tertentu baik atau tidak membantu.”
• “Pengetahuan terbatas tentang dunia dan peristiwa setelah 2021.”

Karena keterbatasan ruang, saya tidak dapat membahasnya secara mendetail di sini, tetapi setidaknya mari kita lakukan analisis cepat.

Saya telah menyebutkan bahwa narasi teks yang dihasilkan mungkin mengandung kepalsuan dan disinformasi.

Ada hal lain yang perlu Anda waspadai. Berhati-hatilah terhadap narasi yang mungkin mengandung berbagai komentar yang menghasut yang menunjukkan bias yang tidak diinginkan.

Untuk mencoba dan mencegah hal ini terjadi, telah dilaporkan bahwa OpenAI menggunakan pemeriksa ganda manusia selama pelatihan ChatGPT. Pemeriksa ganda akan memasukkan petunjuk yang kemungkinan akan memacu AI untuk menghasilkan konten yang menghasut. Ketika konten seperti itu dilihat oleh pemeriksa ganda, mereka menunjukkan kepada AI bahwa ini tidak pantas dan dalam arti mencetak penalti numerik untuk hasil yang dihasilkan. Secara matematis, algoritme AI akan berusaha untuk menjaga skor penalti seminimal mungkin dan ergo secara komputasi bertujuan untuk tidak menggunakan frasa atau susunan kata tersebut untuk selanjutnya.

Demikian pula, saat Anda memasukkan perintah, AI mencoba untuk menentukan apakah perintah Anda bersifat inflamasi atau dapat menyebabkan keluaran inflamasi, yang mana prompt tersebut dapat ditolak oleh AI. Dengan sopan, idenya adalah menolak permintaan atau permintaan yang tidak pantas. Misalnya, meminta lelucon yang mengandung hinaan rasial kemungkinan besar akan ditolak oleh AI.

Saya yakin Anda tidak akan terkejut mengetahui bahwa orang yang menggunakan ChatGPT telah mencoba mengecoh tindakan pencegahan. Para pengguna yang “berusaha” ini telah mengelabui AI atau menemukan cara-cara cerdik untuk menyiasati formulasi matematis. Beberapa dari upaya ini dilakukan untuk kesenangan nyata mengalahkan atau melangkahi sistem, sementara yang lain mengklaim bahwa mereka mencoba untuk menunjukkan bahwa ChatGPT masih akan memberikan hasil yang tidak diinginkan.

Mereka benar tentang satu hal; tindakan pencegahan tidak mudah. Kami kembali ke pertimbangan Etika AI lainnya dan potensi Hukum AI. Haruskah AI generatif diizinkan untuk melanjutkan meskipun mungkin menghasilkan keluaran yang tidak diinginkan?

Peringatan saat Anda menggunakan ChatGPT tampaknya akan memperingatkan siapa pun tentang apa yang mungkin dilakukan atau dikatakan oleh aplikasi AI. Kemungkinannya adalah bahwa tak terhindarkan beberapa jenis tuntutan hukum dapat diajukan ketika seseorang, mungkin di bawah umur, mendapatkan hasil yang tidak diinginkan yang bersifat ofensif (atau, ketika mereka mendapatkan narasi teks yang tampak otoritatif yang sayangnya mereka yakini benar dan bertindak atas hasil tersebut untuk tujuan mereka). membahayakan diri sendiri).

Beberapa nuansa cepat lainnya tentang petunjuknya layak untuk diketahui.

Setiap kali Anda memasukkan prompt, hasilnya bisa sangat berbeda, bahkan jika Anda memasukkan prompt yang sama persis. Misalnya, memasukkan "Ceritakan padaku sebuah cerita tentang seekor anjing" akan memberi Anda narasi berbasis teks, mungkin menunjukkan kisah tentang seekor anjing gembala, sedangkan kali berikutnya Anda memasukkan "Ceritakan padaku sebuah cerita tentang seekor anjing" itu mungkin seluruhnya cerita yang berbeda dan melibatkan pudel. Beginilah sebagian besar AI generatif diatur secara matematis dan komputasi. Dikatakan non-deterministik. Beberapa orang merasa ini mengerikan karena mereka terbiasa dengan konsep bahwa masukan Anda ke komputer akan selalu menghasilkan keluaran yang persis sama.

Mengatur ulang kata-kata juga akan berdampak pada output yang dihasilkan. Jika Anda memasukkan “Tell me a story about a dog” dan kemudian memasukkan “Tell me a dog story” kemungkinan besar narasi yang dihasilkan akan berbeda secara substantif. Sensitivitasnya bisa tajam. Meminta cerita tentang seekor anjing versus meminta cerita tentang seekor anjing besar pasti akan menghasilkan narasi yang sangat berbeda.

Terakhir, perhatikan bahwa poin-poin di atas berisi indikasi bahwa ChatGPT memiliki “pengetahuan yang terbatas tentang dunia dan peristiwa setelah tahun 2021”. Ini karena pengembang AI memutuskan untuk melakukan cutoff kapan aplikasi AI akan mengumpulkan dan melatih data Internet. Saya perhatikan bahwa pengguna seringkali tidak menyadari bahwa ChatGPT tidak terhubung langsung ke Internet saat ini untuk tujuan mengambil data dan menghasilkan keluaran yang dihasilkan. Kami sangat terbiasa dengan segala sesuatu yang bekerja secara real-time dan terhubung ke Internet sehingga kami juga mengharapkan ini dari aplikasi AI. Tidak dalam kasus khusus ini (dan, untuk mengklarifikasi, ChatGPT memang tersedia di Internet, tetapi ketika menyusun output berbasis teks, ia tidak memilih Internet itu sendiri untuk melakukannya, melainkan umumnya dibekukan dalam waktu untuk sekitar tanggal cutoff).

Anda mungkin bingung mengapa ChatGPT tidak secara real-time memberi makan data dari Internet. Beberapa alasan yang masuk akal. Pertama, akan mahal secara komputasi untuk mencoba dan melakukan pelatihan secara real time, ditambah aplikasi AI akan tertunda atau kurang responsif terhadap permintaan (saat ini, sangat cepat, biasanya merespons dengan narasi berbasis teks keluaran dalam beberapa detik ). Kedua, hal-hal menjijikkan di Internet yang telah mereka coba latih untuk menghindari aplikasi AI kemungkinan akan menyusup ke dalam formulasi matematis dan komputasional (dan, seperti disebutkan, itu sudah ada di sana dari sebelumnya, meskipun mereka mencoba mendeteksinya dengan menggunakan pemeriksa ganda manusia itu).

Anda pasti mendengar beberapa orang dengan berani mengumumkan bahwa ChatGPT dan AI generatif serupa adalah lonceng kematian untuk pencarian Google dan mesin pencari lainnya. Mengapa pencarian Google yang membawa kembali banyak item referensi ketika Anda bisa membuat AI menulis sesuatu untuk Anda? Aha, kata orang-orang ini, Google harus menutup pintunya dan pulang.

Tentu saja, ini murni omong kosong.

Orang-orang masih ingin melakukan pencarian. Mereka ingin dapat melihat bahan referensi dan mencari tahu sendiri. Ini bukan pilihan biner cara ini atau itu yang saling eksklusif (ini adalah dikotomi yang salah).

AI generatif adalah jenis alat yang berbeda. Anda tidak sembarangan membuang palu hanya karena Anda menemukan obeng.

Cara yang lebih masuk akal untuk memikirkan hal ini adalah bahwa kedua jenis alat tersebut dapat kompatibel untuk digunakan oleh orang yang ingin melakukan hal-hal yang berhubungan dengan Internet. Beberapa telah bermain-main dengan menghubungkan AI generatif dengan mesin pencari Internet konvensional.

Satu kekhawatiran bagi siapa pun yang sudah menyediakan mesin telusur adalah bahwa alat AI generatif "gratis" berpotensi merusak reputasi mesin telusur. Jika Anda melakukan pencarian di Internet dan mendapatkan materi yang menghasut, Anda tahu bahwa ini hanyalah cara Internet. Jika Anda menggunakan AI generatif dan menghasilkan narasi berbasis teks yang menjijikkan dan keji, kemungkinan besar Anda akan terganggu oleh hal ini. Bisa jadi jika AI generatif terkait erat dengan mesin telusur tertentu, ketidaksenangan dan rasa jijik Anda terhadap AI generatif akan menyebar ke apa pun yang Anda rasakan tentang mesin telusur tersebut.

Bagaimanapun, kita hampir pasti akan melihat aliansi antara berbagai alat AI generatif dan mesin pencari Internet, melangkah dengan hati-hati dan hati-hati ke dalam air keruh ini.

Kesimpulan

Ini pertanyaan untukmu.

Bagaimana seseorang bisa menghasilkan uang dengan menyediakan AI generatif yang menghasilkan narasi berbasis teks?

OpenAI telah menyatakan bahwa biaya per transaksi internal ChatGPT tampaknya agak tinggi. Mereka belum memonetisasi ChatGPT.

Apakah orang bersedia membayar biaya transaksi atau mungkin membayar biaya berlangganan untuk mengakses alat AI generatif?

Bisakah iklan menjadi sarana untuk mencoba menghasilkan uang melalui alat AI generatif?

Belum ada yang sepenuhnya yakin bagaimana ini akan menghasilkan uang. Kami masih dalam tahap percobaan besar untuk AI semacam ini. Letakkan aplikasi AI di luar sana dan lihat reaksi apa yang Anda dapatkan. Sesuaikan AI. Gunakan wawasan dari penggunaan untuk memandu ke mana AI harus diarahkan selanjutnya.

Busa, bilas, ulangi.

Sebagai penutup, untuk saat ini, beberapa orang percaya ini adalah jenis AI yang seharusnya tidak kita miliki sama sekali. Memutar kembali jam. Masukkan kembali jin ini ke dalam botol. Kami merasakannya dan menyadari bahwa itu memiliki kerugian yang nyata, dan secara kolektif sebagai masyarakat mungkin setuju bahwa kami harus membawa kuda itu kembali ke gudang.

Apakah Anda percaya bahwa janji AI generatif lebih baik atau lebih buruk daripada kerugiannya?

Dari sudut pandang dunia nyata, itu tidak terlalu penting karena kenyataan menghapus AI generatif umumnya tidak praktis. AI generatif sedang dikembangkan lebih lanjut dan Anda tidak akan menghentikannya, baik di sini atau di salah satu atau semua negara lain juga (memang). Bagaimana Anda melakukannya? Mengesahkan undang-undang untuk sepenuhnya melarang AI generatif. Tidak terlalu layak (Anda mungkin memiliki peluang lebih baik untuk menetapkan undang-undang yang membentuk AI generatif dan berusaha mengatur secara sah mereka yang merancangnya). Mungkin malah mendapatkan budaya untuk menghindari AI generatif? Anda mungkin membuat beberapa orang setuju dengan mempermalukan, tetapi yang lain tidak akan setuju dan tetap melanjutkan dengan AI generatif.

Ini adalah teka-teki Etika AI dan Hukum AI, seperti yang saya catat sebelumnya.

Pertanyaan besar terakhir Anda adalah apakah AI generatif membawa kita ke jalan menuju AI yang berakal. Beberapa bersikeras bahwa itu adalah. Argumennya adalah bahwa jika kita terus mengukur model matematika dan membuat jus server komputer komputasional dan memberi makan setiap potongan Internet dan lebih banyak lagi ke binatang buas ini, AI algoritmik akan mengubah sudut menjadi perasaan.

Dan, jika demikian, kami menghadapi kekhawatiran tentang AI sebagai risiko eksistensial. Anda telah mendengar berulang kali bahwa setelah kita memiliki AI yang berakal, bisa jadi AI akan memutuskan bahwa manusia tidak terlalu berguna. Hal berikutnya yang Anda tahu, AI telah memperbudak atau memusnahkan kita, lihat eksplorasi saya tentang risiko eksistensial ini di tautannya di sini.

Pandangan sebaliknya adalah bahwa kita tidak akan mendapatkan perasaan dari apa yang oleh beberapa orang dicirikan sebagai a burung beo stokastik (itulah slogannya yang telah mendapatkan daya tarik di ranah AI), inilah kutipan menggunakan frasa tersebut:

• “Berlawanan dengan bagaimana kelihatannya ketika kita mengamati keluarannya, sebuah LM adalah sebuah sistem untuk secara serampangan menggabungkan rangkaian bentuk linguistik yang telah diamatinya dalam data pelatihannya yang luas, menurut informasi probabilistik tentang bagaimana mereka digabungkan, tetapi tanpa referensi apa pun pada maknanya. : burung beo stokastik” (dalam makalah penelitian oleh Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, ACM FAccT '21, 3–10 Maret 2021, Acara Virtual, Kanada, berjudul “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”).

Apakah AI generatif semacam jalan buntu yang akan memberikan kemampuan AI yang berguna tetapi tidak membawa kita ke AI yang hidup, atau mungkinkah faktor penskalaan memungkinkan munculnya singularitas yang mengarah ke AI yang hidup?

Perdebatan sengit pun terjadi.

Katakanlah, apakah Anda ingin mencoba AI generatif?

Jika demikian, inilah tautan ke ChatGPT tempat Anda dapat membuat akun dan mencoba menggunakannya, lihat tautannya di sini.

Ketahuilah bahwa karena tingginya permintaan untuk menggunakan aplikasi AI eksperimental, pendaftaran untuk akses tampaknya dapat dihentikan kapan saja, baik untuk sementara waktu atau mungkin ditutup (ketika saya terakhir memeriksa, pendaftaran masih diaktifkan). Hanya memberi Anda kepala-up.

Harap pertimbangkan semua yang saya katakan di sini tentang AI generatif sehingga Anda mengetahui apa yang terjadi saat Anda menggunakan aplikasi AI seperti ChatGPT.

Renungkan tindakan Anda.

Apakah Anda akan secara tidak sengaja membawa kami menuju AI hidup yang pada akhirnya menghancurkan kami, hanya dengan Anda memilih untuk bermain-main dengan AI generatif? Apakah Anda akan bersalah? Haruskah Anda menghentikan diri Anda dari berkontribusi pada kehancuran umat manusia yang hina.

Saya kira tidak demikian. Tapi bisa jadi tuan AI (sudah) memaksa saya untuk mengatakan itu, atau mungkin seluruh kolom ini ditulis kali ini oleh ChatGPT atau aplikasi AI generatif yang setara.

Jangan khawatir, saya jamin itu saya, kecerdasan manusia, dan tidak kecerdasan buatan.