Ketika dia tidak bekerja untuk mempercepat manusia menuju Singularitas dengan menciptakan kecerdasan umum buatan (AGI), Ben Goertzel bermain di band jazz-rock bernama Jam Galaxy yang digawangi oleh robot bernama Desdemona.
Itu adalah salah satu dari banyak proyek sampingannya, yang secara alami membuatnya mencoba dan menandai bisnis musik dengan menjangkau anggota Pearl Jam dan Heart. Goertzel juga mengerjakan penelitian umur panjang dengan crowdsourcing data kesehatan manusia dengan hadiah token melalui aplikasi bernama Rejuve.ai. Informasi tersebut kemudian dikumpulkan dengan data studi hewan dan serangga dan dianalisis dengan AI untuk menentukan bagian genom mana yang dapat membuat kita hidup lebih lama dan kemudian distimulasi menggunakan terapi gen. “Kami memiliki beberapa penemuan tingkat terobosan yang cukup mencolok,” katanya. Oh, dan tepat sebelum wawancara selama satu jam kami berakhir, dia dengan santai menyebutkan bahwa dia juga membuat stablecoin untuk pasar AI terdesentralisasi, SingularityNET yang dipatok ke indeks sintetik kemajuan lingkungan — karena mengelompokkannya ke dolar AS akan menjadi "cacat."
“Kemajuan di bidang lingkungan sangat stabil. Itu tidak pernah kemana-mana, ”dia menunjukkan.
“Dan untuk memanipulasi ini, Anda harus benar-benar mengatasi pemanasan global.”
Ini adalah jenis komentar politik yang persis sama dengan pengetahuan teknologi tinggi yang mungkin Anda harapkan dari Goertzel, yang terlihat dan terdengar seperti ilmuwan hippie yang tersandung ke dalam mesin waktu pada tahun 1971 dan muncul sepenuhnya pada tahun 2023. Tapi jangan tertipu oleh topi bermotif hewan, rambut panjang, dan aksen perjalanan asam Kool-Aid Elektrik: Dia adalah ilmuwan brilian dengan pemahaman tentang tahun-tahun cahaya masa depan di depan sebagian besar orang dan yang bergulat dengan beberapa konsep terbesar yang pernah dipertimbangkan umat manusia. Apa itu kesadaran? Bagaimana kita menciptakan kehidupan artifisial, dan apa yang terjadi jika dia tidak menyukai kita, menjadi nakal, dan menembak mati semua orang seperti di Terminator 2?
Apa itu kecerdasan umum buatan?
Goertzel mempopulerkan istilah "kecerdasan umum buatan" sebagai cara untuk membedakan mesin pemikiran asli yang dapat mempelajari hampir semua hal, hingga AI yang dioptimalkan untuk satu tugas tertentu, seperti komputer Deep Blue yang terkenal mengalahkan juara catur dunia Garry Kasparov. Dia dengan bebas mengakui ada risiko dalam membangun mesin yang mampu mempelajari apa saja, termasuk bagaimana memprogram ulang dirinya sendiri untuk menjadi jauh lebih cerdas daripada manusia mana pun.
“Ada sejumlah risiko dan bahaya dengan AGI,” kata Goertzel di tengah hiruk pikuk restoran India di pusat perbelanjaan yang sibuk di Singapura. “Salah satunya yang banyak mendapat perhatian media adalah AGI akan mengamuk dan memusnahkan umat manusia serta mengambil alih alam semesta. Itu sangat mungkin; Anda tidak bisa mengesampingkannya, ”katanya.
“Risiko lain yang lebih mungkin terjadi adalah orang-orang jahat yang egois akan menggunakan AI untuk mengerahkan keserakahan dan kendali mereka sendiri atas orang lain.”
Dalam pandangannya, pemerintah tidak mungkin membuat terobosan dalam AGI karena mereka "terlalu konservatif dan bodoh," meskipun dia mencatat bahwa China mengontrak pekerjaan AGI ke perusahaan seperti Tencent dan Baidu. Lebih dekat ke rumah, menurutnya divisi AI Google dan Facebook juga tidak akan melampaui batas, karena mereka akan terlalu fokus untuk membuat AI mencapai metrik tertentu, yang tidak kondusif untuk pemikiran kreatif.
“Sama seperti kebanyakan orang brilian yang tidak hanya ingin melayani metrik orang lain, menurut saya kecerdasan umum buatan juga tidak ingin memaksimalkan klik-tayang di halaman web seseorang, bukan? Itu harus diizinkan untuk bermain-main secara kreatif.
Singularitas sekitar tahun 1970
Goertzel mulai kuliah pada usia 15 tahun, lulus pada usia 18 tahun, meraih gelar doktor pada usia 22 tahun, dan memiliki keluarga muda pada usia 23 tahun. Mungkin secara tidak biasa di zaman sekarang ini, dia bukan hanya ahli matematika atau jenius teknologi yang menyolder peralatan komputer bersama di tahun 70-an tetapi sama-sama tertarik pada filsafat, penulisan kreatif, dan musik.
Dia menghabiskan sebagian besar karirnya mengajar dan meneliti ilmu komputer, matematika, dan ilmu kognitif di berbagai universitas di seluruh dunia sambil mengerjakan teknologi AI kapan pun dia bisa. Seorang pendiri serial yang cenderung sekitar satu dekade di depan orang lain dengan ide-idenya — yang, dalam bisnis, terkenal sama dengan menjadi salah - dia bekerja menggunakan AI untuk memprediksi pasar keuangan dan umur panjang, dan dia juga memiliki tugas sebagai kepala ilmuwan Hanson Robotics, di mana dia memberi Sophia si Robot otak buatannya.
Goertzel telah memikirkan pertumbuhan teknologi eksponensial sejak tahun 1970-an ketika dia pertama kali membaca karya Gerald Feinberg. Proyek Prometheus, yaitu tentang "mesin yang dapat berpikir lebih baik daripada manusia... mesin nanoteknologi yang sangat kecil secara mikroskopis, dan kami akan mengatasi penuaan". Ini sangat cocok dengan konsep Singularitas yang muncul, titik masa depan hipotetis ketika kemajuan teknologi menjadi tidak terkendali dan tidak dapat diubah, menghasilkan perubahan besar pada peradaban manusia.
“Jadi, orang akan hidup selamanya, maka pertanyaannya adalah, Untuk apa kita menggunakan teknologi ini, konsumerisme yang cepat tanpa berpikir, atau apakah kita menggunakannya untuk memperluas kesadaran? Dan apa yang dia [Feinberg] usulkan adalah untuk melakukan pemungutan suara yang demokratis.
Bertahun-tahun kemudian, ketika dia mulai melihat AGI berada dalam genggaman kita, “suara demokratis” ini menjadi inspirasi untuk pertama kali menggunakan teknologi open-source dan, kemudian, blockchain sebagai cara untuk menempatkan komunitas kooperatif yang bertanggung jawab atas teknologi tersebut.
“Apa yang saya sadari pada titik tertentu adalah, dengan AI, membuka kode tidaklah cukup,” katanya. “Anda benar-benar perlu melatih AI dengan banyak data.”
“Di sinilah blockchain hadir sebagai cara untuk membuat pemrosesan dan data yang mendasari AI terdesentralisasi dan bersifat crowdsourced dan terbuka dalam kendali. Dan itu ternyata lebih rumit daripada hanya membuka sumber kodenya.”
Goertzel mendirikan OpenCog pada tahun 2008 untuk membangun kerangka kerja kecerdasan buatan sumber terbuka dan bersumber dari banyak orang. Ini telah digunakan oleh 50 perusahaan, termasuk Huawei dan Cisco, dan siap untuk peningkatan besar yang segera disebut Hyperon yang bertujuan untuk mempercepatnya hingga 200 kali lipat. Versi alfa akan dirilis pada kuartal ini dengan versi beta diharapkan tahun depan.
Blockchain itu dasar tapi keren
Bagi Goertzel, teknologi blockchain sedikit mendasar. Dia menggambarkannya sebagai beberapa algoritme terdistribusi primitif yang ditambahkan ke kriptografi, tetapi "kombinasi keren" memungkinkan sistem berjalan tanpa kontrol terpusat, menjadikannya sempurna untuk kebutuhannya.
"Jika Anda akan membuat mesin berpikir dan Anda akan membuatnya terdistribusi kain komputasi skala nano, akan sangat bagus jika ini dimiliki oleh semua orang dan tidak ada yang dikendalikan dari atas ke bawah."
Blockchain terlalu lambat untuk menangani persyaratan pemrosesan dan volume besar data yang terlibat, jadi ada perlombaan untuk menskalakan blockchain dengan benar sebelum terobosan AGI dikembangkan. Goertzel mengatakan bahwa sementara solusi penskalaan seperti zero-knowledge rollup lebih baik, mereka masih tidak memiliki bandwidth yang cukup karena keterbatasan blockchain tempat mereka melaporkan transaksi.
Dia ikut mendirikan SingularityNET pada tahun 2017, yang merupakan pasar terdesentralisasi untuk layanan dan teknologi AI dan metode koordinasi berbasis blockchain bagi para peneliti — atau bahkan AI — untuk bekerja sama.
Saat ini, berdasarkan Ethereum, dia pikir dia telah mendorong hal-hal sejauh yang mereka bisa lakukan di blockchain dalam bentuknya saat ini. Jadi, saat dia tidak mengerjakan terobosan di AGI (atau band, atau robot, atau umur panjang), dia mengerjakan penskalaan besar-besaran blockchain untuk memberikan throughput yang dibutuhkan.
“Kecuali jika Anda dapat secara radikal meningkatkan skalabilitas blockchain, Anda tidak dapat menempatkan kerja bagian dalam AI pada rantai.”
AI lebih dekat dari yang Anda pikirkan
Tahun 2022 adalah tahun terobosan untuk produk yang bekerja berdasarkan teknologi AI, termasuk aplikasi bahasa (GPT-3, ChatGPT), pengkodean (GitHub Copilot), dan pembuatan gambar (DALL-E dan Stable Diffusion). Bing bahkan berencana untuk mengambil alih dominasi pencarian Google tahun ini dengan memasukkan teknologi ChatGPT ke dalam mesin pencarinya.
Goertzel berpendapat bahwa AGI dapat dilakukan hanya dalam waktu lima tahun dan mencatat perkembangan di lapangan tampaknya berlangsung singkat selama tiga atau empat tahun dalam serangkaian terobosan.
“Computer Vision dimulai pada tahun 2014, dan tiba-tiba, bang, bang, bang, misteri itu terpecahkan. Pemrosesan bahasa alami… setelah Google membuat model Bert (pada 2018) Anda memiliki GPT-3. Anda mungkin akan melihat kemajuan yang sama di AGI. Anda akan memiliki satu terobosan, kemudian banyak kemajuan selama dua tahun,” katanya.
“Perbedaannya adalah kemajuan terobosan, dalam hal ini, menghasilkan mesin yang kemudian dapat melanjutkan kemajuannya sendiri dengan menulis ulang kodenya sendiri.”
Goertzel berharap proyek dan kolaborasi yang dia lakukan dapat terwujud.
“Jika kami beruntung, kami akan mencapai terobosan tersebut dalam tiga hingga lima tahun ke depan dengan OpenCog Hyperon yang berjalan di SingularityNET yang berjalan di Hypercycle,” katanya. "Tapi jika ternyata kita tidak memiliki saus rahasianya, orang lain akan melakukannya."
Kasihan Vitalik bukan seorang ilmuwan komputer
Solusi Goertzel untuk menskalakan blockchain cukup radikal dan melibatkan turbo-charging sidechain atau lapisan 2 Cardano yang disebut "HyperCyle."
“Ini benar-benar lebih dari sekadar sidechain. HyperCycle akan bekerja sama dengan Ethereum dan blockchain lainnya juga, tetapi kami akan menggunakan penerjemah Plutus di sana, tetapi kami menyingkirkan buku besar.”
Dia menggambarkan HyperCycle online sebagai penyelesaian “trilemma blockchain” dari “desentralisasi vs. keamanan vs. kinerja dengan menyingkirkan buku besar dan menggunakan algo dan struktur data yang lebih modern/terdesentralisasi penuh, ditambah sedikit AI dan sistem reputasi.”
Buku besar adalah jantung dari teknologi blockchain, tetapi dia mengatakan membuat setiap node di jaringan untuk mereplikasi setiap transaksi dan memproses setiap kontrak pintar sangat tidak efisien.
“Buku besar itu buruk. Jika Anda memikirkannya, jika Anda memikirkan analogi kontak Anda di buku telepon Anda, maksud saya, buku besar itu seperti […] menyimpan 10,000 salinan Halaman Kuning, dan Anda memperbaruinya setiap kali ada orang baru datang atau jika seseorang mengubah nomor telepon mereka. Sungguh bodoh memperbarui 10,000 eksemplar Yellow Pages.”
Dalam analogi versi HyperCycle, alih-alih semua orang menyimpan dan memperbarui halaman Kuning, orang-orang di buku kontak Anda menyimpan salinan buku alamat Anda, dan sebaliknya, dienkripsi dengan kunci pribadi Anda.
“Kami menemukan cara membuat blockchain berfungsi tanpa buku besar yang direplikasi, jadi shard sepenuhnya. Setiap individu yang terlibat dalam blockchain menyimpan riwayat transaksi mereka sendiri dan menyimpan riwayat transaksi teman mereka dan beberapa teman teman mereka, ”katanya.
“Sharding sepenuhnya, Anda tidak memerlukan buku besar — Anda tidak memerlukan tabel database. Hal-hal ini terlalu terpusat.”
Dia mengatakan beberapa node HyperCycle proof-of-concept sudah beroperasi, tetapi peluncuran skala penuh tidak akan terjadi hingga paruh kedua tahun 2024.
Kami menghabiskan waktu lama untuk mendiskusikan berbagai manfaat dari pendekatan yang berbeda untuk blockchain, dari Komputer Internet hingga Elastos dan Celestia, yang sebagian besar di atas nilai gaji saya dan di luar kemampuan perangkat perekam saya untuk merekam secara akurat di restoran yang bising.
Dia menyimpulkan dengan mengatakan, “Jadi, saya merasa tidak ada satu pun dari arsitektur ini yang cukup radikal. Mereka semua terlalu dekat dengan Bitcoin.”
“Selama Anda menjalankan setiap smart contract di setiap node, maksud saya, ini akan menjadi sangat lambat. Sekarang, di HyperCycle, jika Anda menjalankan kontrak pintar di lima node, setidaknya itu hanya lima kali lebih lambat dari pada satu mesin — bukan 10,000 kali lebih lambat.”
Lalu mengapa Cardano?
Goertzel telah bersahabat dengan pendiri Cardano Charles Hoskinson, dengan pasangan yang terikat pada proyek mereka di Afrika. Dia percaya Hoskinson “benar-benar di luar sana untuk menyelamatkan dunia. Maksud saya, secara politis dia lebih libertarian garis keras daripada saya - saya lebih anarko-sosialis - tetapi dia tidak hanya di dalamnya untuk menghasilkan uang atau menipu orang lain dari uang mereka.
Tetapi daya tarik sebenarnya dari Cardano adalah bahwa ia menggunakan bahasa pemrograman Haskell, yang telah menjadi penggemar Goertzel sejak 1993. Sangat menyakitkan baginya bahwa salah satu pendiri Ethereum Vitalik Buterin menggunakan bahasa pemrograman kontrak cerdas Gavin Wood, Solidity.
“Seandainya saja Vitalik mengetahui lebih banyak ilmu komputer, dia akan membuat mereka menggunakan Haskell atau F Sharp atau semacamnya, dan peretasan blockchain akan jauh lebih sedikit,” katanya.
“Jika Anda akan menjalankan sebagian besar ekonomi dunia, memperdagangkan triliunan dolar pada beberapa sistem perangkat lunak, Anda akan lebih baik membangun sistem perangkat lunak itu dalam bahasa yang tidak rentan terhadap bug dan di mana algoritme Anda dapat secara formal. diverifikasi menggunakan teori matematika. Itu hanya cara yang tepat untuk melakukan sesuatu.”
Solusi stop-gap
Tidak peduli seberapa cepat blockchain, segera setelah AGI menjadi lebih pintar dan lebih mampu daripada manusia, Goertzel mengatakan tidak akan membiarkan siapa pun mengendalikannya.
“Ketika AGI 100 kali lebih pintar dari manusia, dia tidak mau dikendalikan oleh kita, karena kita tidak akan dikendalikan oleh simpanse atau keledai, kan?”
“Maka saya akan mengatakan pertanyaannya bukanlah salah satu dari kita yang mengendalikannya, pertanyaannya adalah: Apakah itu baik untuk kita? Apakah itu akan membiarkan orang mengatur bisnis mereka sendiri dan memberi kami alat keren dan perakit nano untuk mencetak 3D semua hal yang kami inginkan dan menyembuhkan penyakit kami?
“Tapi masa transisi ketika AGI memiliki kecerdasan yang sama dengan manusia, saat itulah hal-hal menjadi lebih sensitif dan lebih menarik. Dan pertanyaannya kemudian: Apakah AGI mau bekerja sama dengan masyarakat? Atau paranoid dan ingin mengendalikan orang sebelum mereka menghancurkannya?”
Didik anak mu dengan benar
Menurut Goertzel, solusinya adalah dengan mengajarkan AGI tentang kepedulian terhadap orang lain dan tentang kreativitas dan seni. Di situlah Desdemona si Robot di bandnya, dan saudara perempuannya Grace — yang dirancang untuk memberikan perawatan orang tua — masuk.
Cara Anda menghindari AGI berubah menjadi Skynet Terminator adalah dengan tidak membuatnya seperti itu sejak awal.
“Skynet, tentu saja, di film itu adalah jaringan keamanan komputer yang mengamuk. Itu diciptakan untuk membela diri terhadap orang-orang, ”katanya.
“Tetapi jika Anda membangun AGI pertama yang berkaitan dengan perawatan orang tua dan seni kreatif serta pendidikan karena semakin pintar, itu akan berorientasi untuk membantu orang dan menciptakan hal-hal keren. Jika Anda membangun AGI pertama untuk membunuh orang jahat… mungkin itu akan terus melakukan hal-hal itu.”
“Jadi, bermanfaat atau tidak, itu tergantung pada aplikasi apa yang telah Anda kembangkan dan apa yang Anda beri insentif.”
Dia percaya bahwa menempatkan AI ke dalam tubuh robot sangat membantu karena membantu menempatkan mereka di dunia nyata, bukan alam semesta matematika abstrak.
“AI harus belajar tentang dunia manusia dan dunia fisik. Diwujudkan di dunia adalah cara yang tepat untuk melakukan itu, ”katanya.
Namun saat dia mempersembahkan Sophia si Robot kepada audiens yang besar, sensor visual dan pendengaran dapat dengan mudah membuat kewalahan, membingungkan AI di lingkungan yang keras dan terang. Jadi, Sophia akan segera diluncurkan di metaverse, yang disebut Sophiaverse. Lupakan jawaban berbasis teks yang membosankan dari ChatGPT, Sophia diwujudkan dalam dunia virtual 3D, dan dia akan belajar dari berinteraksi dengan orang-orang di sana. Namun, dia memperingatkan dia mungkin akan mengatakan beberapa hal bodoh.
“Ini memiliki jaringan saraf yang mirip dengan GPT-3 dan seterusnya, yang memiliki fasilitas signifikan untuk menjawab pertanyaan Anda, tetapi mereka juga cukup bodoh dalam beberapa hal.”
Berlangganan
Bacaan paling menarik di blockchain. Dikirim sekali
minggu.
Sumber: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/