AI Shake-Up Sebagai Guru AI Terkemuka Mengusulkan "Komputer Fana" Pembengkok Pikiran Yang Juga Mendapat Etika AI dan Hukum AI Digali

Inilah sesuatu yang mungkin belum Anda renungkan: Komputer fana.

Tapi mungkin Anda seharusnya begitu.

Topik memabukkan muncul pada konferensi tahunan AI baru-baru ini dan cukup menonjol yang secara khusus berfokus pada munculnya jaringan saraf dan pembelajaran mesin, yaitu Konferensi tentang Sistem Pemrosesan Informasi Neural (dikenal oleh orang dalam sebagai NeuroIPS). Pembicara utama yang diundang dan seorang guru AI lama Geoffrey Hinton membuat anggapan yang menarik dan mungkin kontroversial bahwa kita harus berpikir tentang komputer dalam konteks fana dan abadi.

Saya akan membahas pernyataan penting dan melakukannya dengan dua cara yang pada awalnya tidak selalu tampak terhubung meskipun setelah sedikit penjelasan tambahan mereka akan menjadi lebih jelas terkait satu sama lain untuk perselisihan fana versus abadi.

Kedua topik tersebut adalah:

1) Secara integral mengikat perangkat keras dan perangkat lunak untuk mekanisasi AI daripada menjadikannya sebagai sekutu yang berbeda dan terpisah

2) Mentransfer atau menyaring formulasi pembelajaran mesin dari satu model AI ke model lain yang melakukannya tanpa memerlukan atau menginginkan (atau bahkan mungkin sebaliknya) penyalinan ras murni langsung ke depan

Semua ini memiliki pertimbangan besar untuk AI dan arah pengembangan AI di masa depan.

Selain itu, ada banyak masalah Etika AI dan Hukum AI yang sangat pelik yang muncul juga. Jenis-jenis kemajuan teknologi yang dibayangkan AI ini biasanya dibicarakan berdasarkan teknologi murni jauh sebelum ada kesadaran bahwa hal itu mungkin juga memiliki dampak Ethical AI dan Hukum AI yang patut diperhatikan. Dalam artian, biasanya kucing sudah keluar dari karung, atau kuda sudah keluar dari kandang, sebelum kesadaran bahwa Etika AI dan Hukum AI harus diberikan partisipasi uji tuntas.

Nah, mari kita hentikan siklus renungan yang terlambat itu dan masuk ke lantai dasar yang satu ini.

Bagi Anda yang secara keseluruhan tertarik dengan wawasan terbaru yang mendasari Etika AI dan Hukum AI, Anda mungkin menemukan liputan saya yang berkelanjutan dan ekstensif informatif dan menginspirasi di tautannya di sini dan tautannya di sini, Hanya untuk beberapa nama.

Pertama-tama saya akan membahas poin di atas tentang pengikatan perangkat keras dan perangkat lunak. Sebuah diskusi dan analisis topik akan terjadi secara bergandengan tangan. Selanjutnya saya akan menyinggung soal penyalinan atau ada yang bilang penyulingan elemen penting dari sistem AI pembelajaran mesin dari satu AI ke AI yang baru dirancang sebagai target.

Mari kita mulai.

Mengikat Bersama Perangkat Keras Dan Perangkat Lunak Untuk AI

Anda mungkin tahu bahwa pada umumnya desain komputer sedemikian rupa sehingga ada sisi perangkat keras dan secara terpisah ada sisi perangkat lunak. Ketika Anda membeli laptop atau komputer desktop sehari-hari, itu ditafsirkan sebagai perangkat komputasi untuk keperluan umum. Ada mikroprosesor di dalam komputer yang digunakan untuk kemudian menjalankan dan menjalankan perangkat lunak yang mungkin Anda beli atau tulis sendiri.

Tanpa perangkat lunak apa pun untuk komputer Anda, itu adalah sebongkah logam dan plastik yang pada dasarnya tidak akan banyak membantu Anda, selain bertindak sebagai pemberat kertas. Beberapa orang akan mengatakan bahwa perangkat lunak adalah raja dan menguasai dunia. Tentu saja, jika Anda tidak memiliki perangkat keras untuk menjalankan perangkat lunak, perangkat lunak tersebut tidak akan banyak berguna. Anda dapat menulis baris kode sebanyak yang diinginkan hati Anda, namun sampai perangkat lunak digunakan melalui komputer, kode sumber yang dirumuskan sama tipis dan tidak dapat terbang seperti karya puisi yang indah atau novel detektif yang mendebarkan.

Izinkan saya untuk sejenak beralih ke jalan lain yang mungkin tampak jauh (tidak akan).

Kami sering mencoba menggambar analogi antara cara kerja komputer dan cara kerja otak manusia. Upaya untuk membuat paralel konseptual ini berguna. Karena itu, Anda harus berhati-hati dalam menggunakan analogi tersebut karena perbandingannya cenderung rusak saat Anda mendekati detail yang gemuk.

Ngomong-ngomong, demi diskusi, inilah analogi yang sering digunakan.

Otak itu sendiri kadang-kadang disebut sebagai peralatan basah. Itu adalah cara yang menarik untuk mengungkapkan sesuatu. Kita tahu bahwa komputer terdiri dari perangkat keras dan perangkat lunak, jadi pintar menggunakan bagian "ware" dari pembuatan koin untuk menggambarkan apa arti otak. Terletak di piala kecil kita, otak yang perkasa dan misterius ditemukan melayang-layang, secara mental menghitung semua perbuatan kita (sebagian baik, sementara beberapa pikiran kita jelas tidak dipenuhi dengan kebaikan).

Dengan berat rata-rata hanya sekitar tiga pon, otak adalah organ yang luar biasa. Entah bagaimana, dan kita belum tahu caranya, otak dapat menggunakannya pada urutan 100 miliar neuron dan mungkin di mana saja dari 100 hingga 1,000 triliun interkoneksi atau sinapsis untuk melakukan semua pemikiran kita untuk kita. Bagaimana sifat biologis dan kimiawi otak menimbulkan kecerdasan? Tidak ada yang bisa mengatakan dengan pasti. Ini adalah pencarian zaman.

Saya bertanya kepada Anda, apakah otak seolah-olah hanya perangkat keras, atau apakah perangkat keras dan perangkat lunak digabungkan?

Mie di asah otak itu.

Anda mungkin tergoda untuk mengklaim bahwa otak hanyalah perangkat keras (dalam pengertian umum). Itu adalah organ tubuh. Demikian pula, Anda mungkin mengatakan bahwa jantung adalah perangkat keras, kandung kemih adalah perangkat keras, dan seterusnya. Itu semua adalah mekanisasi yang mirip dengan ketika kita berbicara tentang artefak yang memiliki bentuk fisik dan melakukan tindakan yang berhubungan secara fisik.

Lalu di manakah perangkat lunak yang menjalankan manusia?

Saya berani menyarankan bahwa kita semua cukup setuju bahwa "perangkat lunak" umat manusia entah bagaimana berada di otak. Langkah-langkah yang diperlukan untuk memasak telur atau memperbaiki ban kempes adalah instruksi yang terkandung di dalam otak kita. Dengan menggunakan analogi komputer tentang perangkat keras dan perangkat lunak yang disebutkan sebelumnya, otak kita seolah-olah merupakan bagian dari perangkat keras, di mana kita belajar tentang dunia dan instruksi tentang apa yang harus dilakukan "berjalan" dan "disimpan" di dalam otak kita.

Di komputer, kita dapat dengan mudah menunjuk ke perangkat keras dan mengatakan bahwa ini adalah perangkat keras. Kami dapat memiliki daftar kode sumber dan menunjuk ke daftar tersebut sebagai perangkat lunak. Saat ini, kami mengunduh perangkat lunak secara online secara elektronik dan menginstalnya di laptop dan ponsel cerdas kami. Di masa lalu, kami menggunakan floppy disk dan kartu punch untuk menyimpan perangkat lunak kami untuk dimuat ke perangkat keras komputer.

Saya membawa Anda ke teka-teki penting.

Setelah Anda mempelajari sesuatu dan pengetahuan itu ada di otak Anda, dapatkah Anda masih membedakan antara "perangkat keras" otak Anda dan "perangkat lunak" otak Anda?

Satu posisi yang diperdebatkan adalah bahwa pengetahuan di otak Anda tidak dapat dipisahkan secara khusus dari konsep perangkat keras dan perangkat lunak. Dengan demikian, analogi dengan sifat komputer rusak, beberapa orang akan sangat menentang. Pengetahuan di otak saling terkait dan tidak dapat dipisahkan dari perangkat keras otak Anda. Sifat biologis dan kimia menjalin pengetahuan yang Anda miliki secara mental.

Rebus itu untuk sedikit refleksi mental.

Jika suatu hari nanti kita berharap dapat merancang komputer yang setara dengan kecerdasan manusia, atau bahkan melebihi kecerdasan manusia, mungkin kita dapat menggunakan struktur otak dan cara kerja bagian dalamnya sebagai panduan tentang apa yang perlu kita lakukan untuk mencapai tujuan mulia tersebut. Bagi sebagian orang di bidang AI, ada keyakinan bahwa semakin banyak kita mengetahui tentang cara kerja otak, semakin baik peluang kita untuk merancang AI yang sebenarnya, terkadang disebut sebagai Kecerdasan Umum Buatan (AGI).

Orang lain di AI kurang terpikat karena harus mengetahui cara kerja otak. Mereka menekankan bahwa kita dapat melanjutkan dengan cepat untuk membuat AI, terlepas dari apakah kita dapat membuka rahasia cara kerja otak. Jangan biarkan misteri otak menghalangi upaya AI kita. Tentu, terus mencoba memecahkan kode dan menguraikan otak manusia, tetapi kita tidak bisa duduk diam dan menunggu otak direkayasa ulang. Jika itu suatu hari nanti bisa dilakukan, berita bagus, meski mungkin itu tidak mungkin atau akan terjadi ribuan tahun dari sekarang.

Sekarang saya siap untuk berbagi dengan Anda perdebatan tentang komputer yang fana dan abadi. Harap pastikan Anda duduk dan siap untuk pengungkapan besar.

Komputer yang memiliki pemisahan yang jelas antara perangkat keras dan perangkat lunak dapat diklaim sebagai "abadi" karena perangkat keras dapat bertahan selamanya (dalam batas, tentu saja), sedangkan perangkat lunak dapat ditulis dan ditulis ulang berkali-kali. Anda dapat menjalankan komputer konvensional selama Anda dapat melakukan perbaikan pada perangkat keras dan menjaga perangkat tetap dapat menyala. Anda masih dapat menggunakan komputer rumahan mentah dari tahun 1970-an yang biasanya datang dalam bentuk kit untuk perakitan, meskipun sudah berusia hampir lima puluh tahun atau lebih (waktu yang lama di tahun komputer).

Misalkan kita memilih untuk membuat komputer yang memiliki perangkat keras dan perangkat lunak yang bekerja tidak terpisahkan (saya akan mengatakan lebih banyak tentang ini sebentar lagi). Pertimbangkan ini dengan dasar yang sama seperti yang saya sebutkan sebelumnya bahwa otak mungkin memiliki komposisi integral dari perangkat keras dan perangkat lunak. Jika demikian, dapat dikatakan bahwa komputer sejenis ini tidak akan abadi lagi. Itu akan ditafsirkan sebagai "fana" sebagai gantinya.

Per pernyataan yang dibuat pada konferensi NeurIPS oleh pembicara utama yang diundang dan guru AI yang patut diperhatikan Geoffrey Hinton, dan sebagaimana dinyatakan dalam makalah penelitiannya yang menyertainya:

• “Komputer digital tujuan umum dirancang untuk mengikuti instruksi dengan setia karena diasumsikan bahwa satu-satunya cara agar komputer tujuan umum melakukan tugas tertentu adalah dengan menulis program yang menentukan dengan tepat apa yang harus dilakukan dalam detail yang luar biasa. Ini tidak lagi benar, tetapi komunitas riset lambat untuk memahami implikasi jangka panjang dari pembelajaran mendalam untuk cara pembuatan komputer. Lebih khusus lagi, komunitas berpegang teguh pada gagasan bahwa perangkat lunak harus dapat dipisahkan dari perangkat keras sehingga program yang sama atau rangkaian bobot yang sama dapat dijalankan pada salinan fisik perangkat keras yang berbeda. Ini membuat pengetahuan yang terkandung dalam program mati atau bobotnya abadi: Pengetahuan tidak mati ketika perangkat keras mati” (seperti yang terkandung dalam dan dikutip dari makalah penelitiannya “The Forward-Forward Algorithm: Some Preliminary Investigations”, pracetak tersedia online) .

Perhatikan bahwa jenis komputasi tertentu yang dibahas dalam AI jenis ini menggunakan Jaringan Syaraf Tiruan (JST).

Mari kita luruskan hal ini.

Ada neuron biologis dunia nyata di otak kita. Anda menggunakannya sepanjang waktu. Mereka secara biologis dan kimiawi saling berhubungan ke dalam jaringan di piala kecil Anda. Dengan demikian, kita dapat menyebut ini sebagai a saraf jaringan.

Di tempat lain, akan ada "neuron" palsu yang kami wakili secara komputasi di komputer untuk tujuan merancang AI. Banyak orang di AI juga menyebutnya sebagai jaringan saraf. Saya yakin ini agak membingungkan. Anda lihat, saya lebih suka menyebut mereka sebagai buatan jaringan saraf. Ini membantu untuk segera membedakan antara referensi ke dalam kepala Anda jaringan saraf (hal yang nyata, seolah-olah), dan yang berbasis komputer (buatan jaringan saraf).

Tidak semua orang mengambil sikap itu. Banyak orang di AI hanya berasumsi bahwa semua orang di AI "tahu" bahwa ketika mengacu pada jaringan saraf, mereka hampir selalu berbicara tentang JST - kecuali situasi muncul di mana karena alasan tertentu mereka ingin membahas neuron nyata dan jaringan saraf nyata di otak.

Saya percaya bahwa Anda mengerti maksud saya. Sebagian besar waktu, orang AI akan mengatakan "jaringan saraf" yang berpotensi ambigu karena Anda tidak tahu apakah itu mengacu pada yang asli di kepala kita atau yang komputasi yang kita programkan ke dalam komputer. Tetapi karena orang-orang AI pada umumnya berurusan dengan instans berbasis komputer, mereka secara default berasumsi bahwa Anda mengacu pada jaringan saraf tiruan. Saya suka menambahkan kata "buatan" di ujung depan susunan kata agar lebih jelas tentang niatnya.

Selanjutnya, Anda dapat mempertimbangkan neuron buatan komputasi ini sebagai simulasi matematis atau komputasi dari apa yang menurut kami dilakukan oleh neuron fisik biokimia yang sebenarnya, seperti menggunakan nilai numerik sebagai faktor pembobot yang terjadi secara biokimiawi di otak. Saat ini, simulasi ini tidak serumit neuron sebenarnya. JST saat ini adalah representasi matematis dan komputasi yang sangat kasar.

Umumnya, ANN sering kali merupakan elemen inti untuk machine learning (ML) dan deep learning (DL) — perlu diketahui bahwa ada lebih banyak detail mengenai hal ini, dan saya mendorong Anda untuk melihat cakupan ekstensif saya tentang ML/DL pada tautannya di sini dan tautannya di sini, Misalnya.

Kembali ke jenis komputer abadi versus fana di sini lebih banyak untuk direnungkan per peneliti:

• “Pemisahan software dari hardware merupakan salah satu dasar Ilmu Komputer dan memiliki banyak manfaat. Itu memungkinkan untuk mempelajari sifat-sifat program tanpa khawatir tentang teknik kelistrikan. Itu memungkinkan untuk menulis program sekali dan menyalinnya ke jutaan komputer. Namun, jika kita bersedia untuk meninggalkan keabadian, kita dapat mencapai penghematan besar dalam energi yang dibutuhkan untuk melakukan perhitungan dan biaya pembuatan perangkat keras yang menjalankan perhitungan. Kami dapat mengizinkan variasi yang besar dan tidak diketahui dalam konektivitas dan non-linearitas dari instance perangkat keras yang berbeda yang dimaksudkan untuk melakukan tugas yang sama dan bergantung pada prosedur pembelajaran untuk menemukan nilai parameter yang memanfaatkan secara efektif properti yang tidak diketahui dari setiap instance tertentu. perangkat keras. Nilai parameter ini hanya berguna untuk instans perangkat keras tertentu, jadi perhitungan yang mereka lakukan adalah fana: mati dengan perangkat keras” (ibid).

Anda sekarang telah diperkenalkan pada bagaimana keabadian dan kefanaan digunakan dalam konteks ini.

Biarkan saya menguraikan.

Proposisinya adalah bahwa komputer yang dibangun berdasarkan JST dapat dirancang sedemikian rupa sehingga perangkat keras dan perangkat lunak dianggap tidak dapat dipisahkan. Setelah perangkat keras suatu hari nanti tidak lagi berfungsi (yang, tentu saja, kami katakan secara integral melibatkan perangkat lunak), komputer jenis ini tampaknya tidak lagi berguna dan tidak akan berfungsi lagi. Dikatakan fana. Anda mungkin juga mengubur komputer berbasis JST karena tidak akan ada gunanya bagi Anda untuk selanjutnya setelah perangkat keras dan perangkat lunak yang tidak terpisahkan tidak lagi berfungsi sebagai satu tim.

Jika Anda ingin mencoba dan menghubungkan ini dengan analogi otak manusia, Anda mungkin membayangkan situasi buruk otak manusia yang benar-benar rusak atau yang entah bagaimana rusak tidak dapat diperbaiki. Kami menerima anggapan bahwa seseorang itu fana dan otak mereka pada akhirnya dan pasti akan berhenti bekerja. Pengetahuan yang terkandung dalam otak mereka tidak lagi tersedia. Kecuali jika mereka kebetulan mencoba dan memberi tahu orang lain atau menuliskan apa yang mereka ketahui, pengetahuan mereka akan hilang ke dunia pada umumnya.

Anda pasti pernah mendengar atau melihat laporan tentang upaya untuk mengawetkan otak, seperti memasukkannya ke dalam keadaan beku, di bawah teori bahwa mungkin suatu hari nanti manusia bisa abadi atau setidaknya melampaui masa hidup mereka yang biasa. Otak Anda mungkin terus hidup, meskipun tidak di dalam tubuh Anda. Banyak film dan cerita sci-fi berspekulasi tentang ide-ide semacam itu.

Kami sekarang siap untuk melihat-melihat secara mendetail komputer fana dan komputer abadi sebagai sebuah konsep dan apa yang diramalkannya.

Diskusi Penuh Perhatian Dan Analisis Perhatian

Sebelum terjun ke inti analisis pendekatan yang didalilkan ini, beberapa peringatan penting dan poin tambahan perlu disebutkan.

Peneliti menekankan bahwa yang diciptakan komputer fana tidak akan secara khusus menggantikan atau menyingkirkan keberadaannya komputer abadi yang sekarang kita sebut sebagai komputer digital konvensional. Akan ada koeksistensi dari kedua jenis komputer. Saya mengatakan ini karena reaksi beberapa orang adalah bahwa panggilan untuk memesan adalah klaim selimut itu semua komputer kebutuhan sedang atau akan menuju ke tipe fana.

Itu bukan klaim yang dibuat.

Selama ceramahnya, dia menyebutkan bahwa ini khusus berorientasi neuromorfik komputer akan melakukan pekerjaan komputasi yang dikenal sebagai perhitungan fana: “Kita akan melakukan apa yang saya sebut komputasi fana, di mana pengetahuan yang telah dipelajari sistem dan perangkat kerasnya, tidak dapat dipisahkan” (seperti dikutip dalam artikel ZDNET oleh Tiernan Ray pada 1 Desember 2022).

Dan khususnya: “Ini tidak akan menggantikan komputer digital” (ibid).

Selain itu, jenis komputer baru ini jelas tidak akan segera tersedia di toko komputer lokal Anda atau langsung tersedia untuk dibeli secara online, seperti yang dinyatakan dalam presentasinya: “Menurut saya, kita akan melihat jenis komputer yang sama sekali berbeda. komputer, bukan untuk beberapa tahun, tetapi ada banyak alasan untuk menyelidiki jenis komputer yang sama sekali berbeda ini.” Penggunaannya juga akan berbeda: "Bukan komputer yang bertanggung jawab atas rekening bank Anda dan tahu persis berapa banyak uang yang Anda miliki."

Sentuhan tambahan adalah bahwa komputer fana tampaknya akan dikembangkan daripada dibuat seperti yang kita lakukan sekarang untuk pembuatan prosesor komputer dan chip komputasi.

Selama proses pertumbuhan, komputer fana akan meningkat kemampuannya dalam gaya pematangan komputasi. Dengan demikian, komputer fana tertentu mungkin mulai dengan hampir tidak ada kemampuan dan menjadi dewasa menjadi apa yang menjadi tujuannya. Misalnya, kita ingin membuat ponsel melalui penggunaan komputer fana. Anda akan mulai dengan varian bodoh dari komputer fana yang awalnya dibentuk atau diunggulkan untuk tujuan ini. Itu kemudian akan berkembang menjadi versi yang lebih maju yang Anda cari. Singkatnya: "Anda akan menggantinya dengan masing-masing ponsel itu harus dimulai sebagai ponsel bayi, dan itu harus belajar bagaimana menjadi ponsel."

Pada salah satu slide dasarnya tentang perhitungan fana, manfaatnya dijelaskan sebagai berikut: “Jika kita meninggalkan keabadian dan menerima bahwa pengetahuan tidak dapat dipisahkan dari detail fisik yang tepat dari perangkat keras tertentu, kita mendapatkan dua manfaat besar: (1) Kami dapat menggunakan komputasi analog berdaya sangat rendah, (2) Kami dapat mengembangkan perangkat keras yang konektivitas persisnya dan perilaku analognya tidak diketahui.”

Bagian dari pembicaraan yang sama dan juga seperti yang terkandung dalam makalah penelitian pracetaknya adalah teknik yang diusulkan untuk bagaimana JST dapat dirancang dengan lebih baik, yang dia sebut sebagai menggunakan maju-maju pendekatan jaringan. Sebagian dari Anda yang sudah paham JST pasti sudah cukup paham dengan penggunaan backpropagation atau back-prop. Anda mungkin ingin melihat teknik maju-maju yang diusulkannya. Saya akan meliput pendekatan yang menarik itu di posting kolom mendatang, jadi nantikan liputan saya yang akan datang tentangnya.

Pergeseran persneling, mari pertimbangkan apa yang dikatakan di lorong dan jalan kecil komunitas AI tentang kurang ajar ini komputer fana akal bulus.

Kita akan mulai dengan apa yang dikatakan beberapa orang sebagai non-pemula pada semua topik yang diceritakan.

Apakah Anda siap?

Berhenti menyebut hal ini a fana komputer.

Demikian juga, berhentilah memproklamirkan bahwa komputer konvensional saat ini abadi.

Kedua penggunaan itu benar-benar salah dan sangat menyesatkan, kata para skeptis.

Definisi kamus sehari-hari tentang yang abadi terdiri dari sesuatu yang tidak bisa mati. Itu hidup selamanya. Agar tidak mati, Anda mungkin harus mengatakan bahwa benda itu sendiri hidup. Anda menginjak jalur yang salah untuk menegaskan bahwa komputer saat ini masih hidup. Tidak ada orang berakal sehat yang menganggap properti "hidup" yang bonafid pada komputer modern. Mereka adalah mesin. Mereka adalah benda. Mereka bukan orang atau hewan atau kondisi hidup.

Jika Anda ingin memperluas definisi keabadian untuk memungkinkan kita mengacu pada entitas tak hidup juga, dalam hal ini, entitas tak hidup tampaknya tidak akan pernah membusuk dan tidak dapat dihindari hancur menjadi debu. Bisakah Anda membuat klaim seperti itu tentang komputer saat ini? Ini tampaknya berlebihan (catatan tambahan: kita tentu saja bisa masuk ke diskusi filosofis besar tentang sifat materi dan keberadaan, tapi mari kita tidak pergi ke sana dalam contoh ini).

Intinya adalah bahwa penggunaan atau beberapa orang akan mengatakan penyalahgunaan kata "fana" dan "abadi" itu aneh dan tidak pantas. Mengambil bahasa daerah yang biasa digunakan dan menggunakannya kembali untuk tujuan lain membingungkan dan membuat air menjadi keruh. Anda harus bersedia untuk mengonseptualisasi ulang apa arti fana dan abadi dalam konteks khusus ini. Ini menjadi bermasalah.

Yang lebih membingungkan adalah bahwa pilihan kata ini cenderung antropomorfisasi aspek komputer.

Sudah ada lebih dari cukup masalah yang terkait dengan AI antropomorfisasi, kita tentu tidak perlu membuat lebih banyak kemungkinan seperti itu. Seperti yang telah saya diskusikan secara ekstensif dalam liputan saya tentang Etika AI dan AI Etis, ada banyak cara liar yang dianggap orang sebagai kapasitas berakal pada komputer. Pada gilirannya, ini menyesatkan orang untuk percaya secara salah bahwa komputer berbasis AI dapat berpikir dan bertindak seperti manusia. Ini adalah lereng bahaya yang licin ketika masyarakat terbuai untuk percaya bahwa AI dan komputasi saat ini setara dengan kecerdasan dan akal sehat umat manusia, lihat misalnya analisis saya di tautannya di sini dan tautannya di sini.

Oke, kita bisa menolak atau meremehkan pilihan kata yang canggung, tetapi apakah itu berarti kita harus membuang bayi dengan air mandi (ungkapan lama, mungkin hampir pensiun)?

Beberapa berpendapat bahwa mungkin kita dapat menemukan kata-kata yang lebih baik untuk keseluruhan pendekatan atau konsepsi ini. Buanglah penggunaan kata “mortal” dan “immortal” agar ide-ide lainnya tidak tercemar oleh penggunaan yang tidak pantas atau tidak pantas. Sementara itu, ada argumen tandingan bahwa sangat dapat diterima untuk menggunakan pilihan kata tersebut, baik karena cocok, atau karena kita tidak boleh kaku tentang bagaimana kita memilih untuk menggunakan kembali kata-kata tersebut. Mawar adalah mawar dengan nama lain, kata mereka.

Untuk menghindari perdebatan sengit lebih lanjut di sini, saya akan untuk selanjutnya menghindari penggunaan kata "fana" dan "abadi" dan hanya akan menyatakan bahwa kita memiliki dua jenis komputer utama yang digunakan, satu yang merupakan komputer digital konvensional saat ini dan yang lainnya adalah usulan neuromorfik komputer.

Tampaknya, tidak perlu menyeret teka-teki kematian ke dalam hal ini. Jaga agar langit tetap bersih untuk melihat apa lagi yang bisa kita lakukan dari masalah yang ada.

Dalam hal ini, beberapa orang akan berpendapat bahwa ide yang diajukan tentang komputer neuromorfik bukanlah hal baru.

Anda dapat melacak kembali ke hari-hari awal AI, terutama ketika ANN awalnya dieksplorasi, dan melihat bahwa ada pembicaraan tentang merancang komputer khusus untuk melakukan pekerjaan jaringan saraf tiruan. Semua jenis perangkat keras baru diusulkan. Hal ini masih terjadi hingga saat ini. Tentu saja, Anda dapat membantah bahwa sebagian besar eksplorasi perangkat keras khusus untuk JST dan pembelajaran mesin saat ini masih didasarkan pada pendekatan komputasi konvensional. Dalam pengertian itu, analog yang tidak dapat dipisahkan dari perangkat keras dan perangkat lunak ini agak mendorong amplop, dan proposisi untuk "menumbuhkan" komputer juga demikian, setidaknya sehubungan dengan keluar dari arus utama yang dianggap.

Singkatnya, ada beberapa yang benar-benar mendalami masalah ini yang terkejut bahwa orang lain mungkin akan terkejut dengan proposisi yang dilontarkan. Gagasan ini sama dengan sebelumnya atau menggemakan apa yang telah diperiksa di berbagai laboratorium penelitian.

Jangan membuat rambut Anda berantakan, kata mereka.

Ini memang membawa kita ke sisi lain yang menyusahkan banyak orang.

Dalam satu kata: Prediktabilitas.

Komputer saat ini umumnya dianggap dapat diprediksi. Anda dapat melihat perangkat keras dan perangkat lunak untuk mengetahui apa yang akan dilakukan komputer. Demikian pula, Anda dapat melacak apa yang telah dilakukan komputer untuk mengetahui mengapa ia melakukan apa pun yang dilakukannya. Tentu saja ada batasan untuk melakukan ini, jadi, saya tidak ingin melebih-lebihkan prediktabilitasnya, tetapi saya pikir Anda mengerti secara keseluruhan.

Anda mungkin menyadari bahwa salah satu masalah pelik yang dihadapi AI saat ini adalah bahwa beberapa AI dirancang untuk menyesuaikan diri. AI yang diterapkan oleh pengembang dapat mengubah dirinya sendiri saat sedang digunakan. Di ranah Etika AI, ada banyak contoh AI yang digunakan yang pada awalnya tidak memiliki bias yang tidak semestinya atau kecenderungan diskriminatif, yang kemudian secara bertahap bermutasi sendiri secara komputasi selama AI diproduksi, lihat saya penilaian rinci di tautannya di sini.

Kekhawatirannya adalah kita sudah memasuki pengaturan yang memerlukan AI yang belum tentu dapat diprediksi.

Misalkan AI untuk sistem senjata mengalami penyesuaian diri dan hasilnya adalah AI mempersenjatai dan meluncurkan persenjataan mematikan pada target dan waktu yang tidak diharapkan. Manusia mungkin tidak berada dalam lingkaran untuk menghentikan AI. Manusia yang berada dalam loop mungkin tidak dapat merespons dengan cukup cepat untuk menyalip tindakan AI. Untuk contoh tambahan yang mengerikan, lihat analisis saya di tautannya di sini.

Untuk komputer neuromorfik, kekhawatirannya adalah bahwa kami menempatkan steroid yang tidak dapat diprediksi. Sejak awal, inti dari komputer neuromorfik adalah ia bekerja dengan cara yang menentang prediksi. Kami memamerkan ketidakpastian. Itu menjadi lencana kehormatan.

Ada dua kubu.

Satu kubu mengatakan bahwa kita dapat hidup dengan kekhawatiran yang tidak dapat diprediksi, melakukannya dengan memasang pagar pembatas agar AI tidak melangkah terlalu jauh. Kubu lain berpendapat bahwa Anda membawa dunia ke jalan yang berbahaya. Suatu hari akan muncul bahwa pagar pembatas yang diklaim gagal, atau tidak cukup ketat, atau bahwa karena kecelakaan atau niat jahat pagar pembatas tersebut disingkirkan atau diotak-atik.

Haruskah kita mengesampingkan keraguan tentang komputer neuromorfik dan prediktabilitas?

Per komentar peneliti: "Di antara orang-orang yang tertarik dengan komputasi analog, masih sangat sedikit yang mau menyerah pada keabadian." Selanjutnya: "Jika Anda ingin perangkat keras analog Anda melakukan hal yang sama setiap kali ... Anda benar-benar memiliki masalah dengan semua benda dan benda listrik yang menyimpang ini."

Aku akan ratchet ini.

Perspektif yang menjulang dan agak suram adalah bahwa apa yang disebut prediktabilitas yang terkait dengan komputer digital saat ini menuju ke arah yang tidak dapat diprediksi. Seperti yang disebutkan, ini terutama dapat terjadi per AI yang menyesuaikan diri pada platform komputer konvensional. Hanya karena komputer neuromorfik tampaknya tidak dapat diprediksi, bukan berarti bahwa komputer digital konvensional sebenarnya dapat diprediksi.

Mesin giling yang tidak dapat diprediksi akan datang kepada kami, dengan kekuatan penuh, apa pun platform komputasi yang ingin Anda pilih. Untuk penilaian saya tentang upaya terbaru untuk mencoba dan mencapai keamanan AI dalam hal ini, lihat tautannya di sini.

Pelintiran tentang prediktabilitas ini seharusnya membuat pikiran Anda memikirkan sesuatu yang sifatnya belum digali. Anda yang terlibat dalam Etika AI dan Hukum AI mungkin tidak telah mempertimbangkan konsekuensi dari komputer neuromorfik.

Anda mungkin membidik komputer digital konvensional yang menjalankan AI. Nah, coba tebak, Anda memiliki segmen komputasi AI yang benar-benar tambahan dan muncul yang sekarang dapat Anda khawatirkan di malam hari. Ya, komputer neuromorfik. Letakkan itu di daftar tugas Anda.

Maaf, lebih banyak malam tanpa tidur untuk Anda.

Mari kita pertimbangkan secara singkat apa yang telah dilakukan Etika AI dan Hukum AI tentang komputasi digital konvensional dan AI.

Di kolom sebelumnya, saya telah membahas berbagai upaya nasional dan internasional untuk menyusun dan memberlakukan undang-undang yang mengatur AI, lihat tautannya di sini, Misalnya. Saya juga telah membahas berbagai prinsip dan pedoman Etika AI yang telah diidentifikasi dan diadopsi oleh berbagai negara, termasuk misalnya upaya Perserikatan Bangsa-Bangsa seperti perangkat Etika AI UNESCO yang diadopsi oleh hampir 200 negara, lihat tautannya di sini.

Berikut adalah daftar kunci yang bermanfaat dari kriteria atau karakteristik AI Etis terkait sistem AI yang sebelumnya telah saya jelajahi dengan cermat:

• Transparansi
• Keadilan & Keadilan
• Non-Kejahatan
• Tanggung jawab
• Privasi
• Kemurahan hati
• Kebebasan & Otonomi
• Kepercayaan
• Keberlanjutan
• martabat
• Solidaritas

Prinsip-prinsip Etika AI tersebut harus benar-benar digunakan oleh pengembang AI, bersama dengan mereka yang mengelola upaya pengembangan AI, dan bahkan mereka yang pada akhirnya mengelola dan melakukan pemeliharaan pada sistem AI.

Semua pemangku kepentingan di seluruh siklus hidup pengembangan dan penggunaan AI dianggap dalam lingkup mematuhi norma-norma Etis AI yang telah ditetapkan. Ini adalah sorotan penting karena asumsi yang biasa adalah bahwa "hanya pembuat kode" atau mereka yang memprogram AI harus mematuhi gagasan Etika AI. Seperti yang ditekankan sebelumnya di sini, dibutuhkan sebuah desa untuk merancang dan menerapkan AI, dan untuk itu seluruh desa harus memahami dan mematuhi ajaran Etika AI.

Bagian dari hal ini yang mungkin tidak terlalu Anda pikirkan sebelumnya adalah bagaimana aturan Etika AI yang sama dan daftar Hukum AI baru yang terus berkembang akan berlaku untuk komputer neuromorfik. Untuk memperjelas, Etika AI dan Hukum AI memang harus memperhitungkannya secara eksplisit. Saya menunjukkan bahwa hanya sedikit yang melakukannya, dan maklumi bahwa ada kemungkinan besar bahwa munculnya komputer neuromorfik akan membuat banyak orang berputar-putar dalam hal dimensi baru untuk mencoba menguasai AI.

Kita perlu mempertimbangkan AI Etis dan Hukum AI dengan cara yang cukup luas untuk mencakup AI apa pun yang baru dirancang, termasuk komputer neuromorfik.

Alternatif jungkat-jungkit adalah langkah kucing-dan-tikus klasik. Begini caranya. Cara-cara baru untuk membuat AI disusun dan dibangun. Etika AI dan Hukum AI yang ada tidak dijaga dan tidak sepenuhnya mencakup kejahatan AI terbaru. Upaya tergesa-gesa dilakukan untuk memperbarui aturan Etika AI dan memodifikasi Hukum AI yang baru dibuat tersebut.

Busa, bilas, ulangi.

Akan lebih baik bagi kita semua untuk tetap berada di depan permainan, daripada terjebak di belakang bola delapan.

Kesimpulan

Aku telah membawamu dalam sedikit perjalanan.

Pada awalnya, saya menawarkan bahwa akan ada dua topik utama yang akan diperiksa:

1) Secara integral mengikat perangkat keras dan perangkat lunak untuk mekanisasi AI daripada menjadikannya sebagai sekutu yang berbeda dan terpisah

2) Mentransfer atau menyaring formulasi pembelajaran mesin dari satu model AI ke model lain yang melakukannya tanpa memerlukan atau menginginkan (atau bahkan mungkin sebaliknya) penyalinan ras murni langsung ke depan

Topik pertama tentang penyatuan perangkat keras dan perangkat lunak telah menjadi bagian terbesar dari perjalanan di sini. Ini membawa kami ke dalam kekacauan komputasi fana versus abadi. Di antaranya ada beberapa pertimbangan Etika AI dan Hukum AI yang penting yang biasanya tidak akan diangkat karena jenis topik terkait komputer ini biasanya dilihat oleh beberapa orang sebagai murni teknologi daripada menimbulkan kekhawatiran dampak sosial.

Menurut saya, paling bijaksana untuk menjadi lebih cepat dan lebih aman, daripada nanti dan lebih buruk dalam hal mengangkat Ethical AI dan AI Law.

Topik kedua, yang belum saya ungkapkan di sini, berhubungan secara material dengan topik pertama.

Ini kesepakatannya.

Misalkan kita memiliki "komputer fana" dan kita ingin mempertahankan kemampuannya sehingga kita dapat memiliki cadangan atau seolah-olah salinan dari apa yang terkandung dalam AI. Kami mungkin khawatir bahwa komputer fana tertentu mendekati akhir. Astaga, kita bergantung padanya. Apa yang harus kita lakukan? Salah satu jawabannya adalah kita harus meniru benda terkutuk itu.

Tapi, menyalin komputer neuromorfik dari jenis yang sedang dibuat sketsa akan lebih sulit daripada yang terlihat pada pandangan pertama. Hal-hal bisa menjadi rumit.

Mungkin kita harus membuat cara penyalinan yang dapat digeneralisasikan dan diterapkan pada keadaan yang melibatkan pembelajaran mesin dan jaringan syaraf tiruan. Kami ingin ini berfungsi pada instans skala besar dan skala sangat besar. Kami juga bersedia agar salinannya tidak menjadi duplikat persis, dan sebagai gantinya mungkin pada dasarnya setara atau bahkan mungkin dirancang lebih baik sebagai hasil dari tindakan penyalinan.

Sebuah teknik yang dikenal sebagai distilasi telah dilamar.

Saya kehabisan ruang untuk kolom hari ini, jadi saya akan membahas topik kedua ini di kolom yang akan datang. Saya pikir Anda ingin segera tahu tentang hubungan antara topik kedua dan topik pertama yang dibahas secara luas di sini. Anggap ini sebagai catatan tambahan yang berfungsi sebagai penggoda atau cuplikan tentang apa yang akan terjadi selanjutnya.

Tetap di tepi kursi Anda, karena topik distilasi cukup menonjol.

Seperti yang biasa dikatakan Batman, pertahankan sayap kelelawar Anda dan bersiaplah untuk waktu kelelawar dan saluran kelelawar yang sama untuk mengungkap pertanyaan menjengkelkan tentang cara menyalin JST atau model pembelajaran mesin atau komputer neuromorfik ke yang lain.

Komentar terakhir untuk saat ini. Ada kalimat terkenal di film itu The Dark Knight Kembali di mana tentara salib berjubah kami mengatakan ini: "Dunia hanya masuk akal jika Anda memaksanya." Saya akan mencoba berpegang pada cita-cita itu ketika saya membahas topik kedua tentang distilasi terkait AI.

Nantikan Bagian 2 dari tajuk ganda yang menarik dan memikat ini.