Alasan Untuk Mengatur Algoritma AI Lebih Sederhana Dari yang Anda Pikirkan

Apakah Anda khawatir kecerdasan buatan akan mengambil alih dunia? Banyak yang melakukannya. Dari Elon Musk mengkhawatirkan DeepMind mengalahkan manusia di game lanjutan Go pada tahun 2017, kepada anggota Kongres, pembuat kebijakan Eropa (lihat Pendekatan Eropa untuk kecerdasan buatan), dan akademisi, ada perasaan bahwa ini adalah dekade untuk menganggap serius AI, dan ini semakin kuat. Padahal, bukan karena alasan yang mungkin Anda pikirkan dan bukan karena ancaman saat ini.

Di sinilah algoritma masuk. Apa itu algoritma, Anda mungkin bertanya? Cara paling sederhana untuk memikirkannya adalah sebagai seperangkat instruksi yang dapat dipahami dan dipelajari oleh mesin. Kita sudah dapat menginstruksikan mesin untuk menghitung, memproses data, dan menalar secara terstruktur dan otomatis. Namun, masalahnya adalah, begitu instruksi tersebut diberikan, mesin akan mengikutinya. Untuk saat ini, itulah intinya. Tidak seperti manusia, mesin mengikuti instruksi. Mereka tidak belajar dengan baik. Tetapi begitu mereka melakukannya, mereka dapat menyebabkan masalah.

Saya tidak ingin membuat argumen sensasional tentang gagasan komputer suatu hari nanti melampaui kecerdasan manusia, lebih dikenal sebagai argumen singularitas (lihat filsuf NYU David Chalmers' renungan tentang topik.) Sebaliknya, manufaktur mungkin menjadi contoh terbaik mengapa algoritme AI mulai lebih penting bagi masyarakat umum. Seseorang khawatir bahwa mesin akan sangat mempercepat kehebatannya dengan mengorbankan kita. Bukan oleh beberapa alasan lanjutan, tentu saja, tetapi karena optimasi dalam batas-batas dari apa yang dikatakan suatu algoritma.

Manufaktur adalah tentang membuat sesuatu. Tetapi ketika mesin membuat sesuatu, kita perlu memperhatikan. Bahkan jika apa yang dibuat mesin itu sederhana. Saya akan menjelaskan mengapa.

Dari sepatu bot hujan ke ponsel dan kembali

Katakanlah, sebuah pabrik telah membuat sepatu bot hujan. Saya suka sepatu bot hujan karena saya dibesarkan di daerah Norwegia yang sering turun hujan; Saya suka berada di luar, tunduk pada banyak elemen alam. Nokia membuat sepatu bot hujan yang saya pakai. Ya, Nokia yang kita kenal sekarang sebagai perusahaan elektronik yang biasa membuat sepatu karet. Mengapa kunci ini? Karena sekali Anda membuat sesuatu, Anda ditakdirkan untuk ingin melakukan perbaikan. Itu masuk akal. Bisa dibilang begitulah sifat manusia.

Apa yang terjadi pada Nokia sudah terkenal dan kurang lebih seperti ini: Awalnya pabrik kertas, saat saya masih kecil, membuat sepatu bot karet (dan ban) sangat berhasil bagi perusahaan. Namun, mereka melihat peluang lebih lanjut. Oleh karena itu, di beberapa titik di tahun 1980-an, mereka beralih ke elektronik dan dengan cepat mengubah pabrik di sekitar, membangun struktur besar pemasok lokal ketika mereka mulai membuat ponsel. Ini mengantarkan revolusi komunikasi seluler, yang dimulai di Skandinavia dan menyebar ke seluruh dunia. Maklum, banyak yang menulis kisah Nokia di tahun 1990-an (lihat Rahasia di balik keajaiban Finlandia: kebangkitan Nokia).

Contoh saya langsung. Mungkin, terlalu sederhana. Tapi pikirkanlah seperti ini. Jika sebuah perusahaan besar dapat dengan cepat beralih dari membuat kertas untuk menulis, ke sepatu bot yang membuatnya lebih mudah untuk keluar di tengah hujan, lalu akhirnya, ke ponsel yang mengubah cara manusia berkomunikasi: seberapa mudah langkah selanjutnya? Misalkan sebuah perusahaan yang memproduksi ponsel memutuskan untuk membuat nanobot dan mungkin akan lepas landas dalam satu dekade, mengubah umat manusia dengan mesin yang sangat kecil yang berjalan secara mandiri di mana-mana, mampu merakit kembali dan mengubah pengalaman manusia. Bagaimana jika itu terjadi tanpa mempertimbangkan bagaimana kita menginginkannya, siapa yang ingin kita pimpin, dan tujuan akhir?

Menyarankan bahwa robot secara sadar membantu Nokia memutuskan untuk membuat ponsel akan menjadi hal yang sulit. Tetapi mengakui bahwa teknologi memiliki peran dalam memungkinkan daerah pedesaan Finlandia di pantai utaranya untuk berpikir bahwa mereka dapat memperoleh dominasi dunia dalam industri baru memainkan peran penting.

Kisah Nokia belum begitu cerah selama dekade terakhir karena mereka gagal memperhitungkan munculnya sistem operasi iOS dan Android berbasis perangkat lunak. Akibatnya, Nokia tidak membuat ponsel lagi. Dalam sedikit kisah comeback, mereka sekarang membuat infrastruktur jaringan dan telekomunikasi, solusi keamanan jaringan, router Wi-Fi, pencahayaan cerdas, dan TV pintar (lihat Kisah Kembalinya Nokia). Nokia masih membuat banyak hal, itu benar. Satu-satunya pengamatan yang dapat dilakukan adalah bahwa Nokia sepertinya selalu menikmati mencampuradukkan hal-hal yang mereka buat. Bahkan keputusan manufaktur manusia, kadang-kadang, sulit untuk dipahami.

Manufaktur berarti membuat hal-hal dan hal-hal yang berkembang. Secara garis besar, apa yang kita buat hari ini telah berubah dari hanya satu dekade yang lalu. Printer 3D telah mendesentralisasikan produksi banyak produk canggih, baik di industri maupun di rumah. Konsekuensi yang mengubah hidup dari pencetakan 3D belum terjadi. Kami tidak tahu apakah ini akan bertahan lama, tetapi kami tahu bahwa fokus FDA adalah mengatur pembuatan produk (lihat di sini) seperti pil atau perangkat medis tercetak yang terjadi kemudian, masalah kekayaan intelektual dan kewajiban yang jelas, atau masalah seputar kemampuan untuk mencetak senjata api. Pada akhirnya, diskusi kebijakan tentang konsekuensi negatif apa yang mungkin ditimbulkan oleh pencetakan 3D di luar ini tidak ada, dan hanya sedikit dari kita yang repot-repot memikirkannya.

Saya tidak menyarankan pencetakan 3D itu sendiri berbahaya. Mungkin, ini adalah contoh yang buruk. Namun demikian, hal-hal yang awalnya terlihat biasa dapat mengubah dunia. Ada banyak contoh: panah pemburu/pengumpul yang terbuat dari logam yang memulai perang, topeng ritual yang melindungi kita dari COVID-19, paku yang membangun gedung pencakar langit, mesin cetak jenis bergerak yang (masih) mengisi pabrik kita dengan kertas cetak dan menyalakan mesin. bisnis penerbitan, bola lampu yang memungkinkan Anda melihat dan bekerja di dalam di malam hari, saya bisa melanjutkan. Tak seorang pun yang saya kenal duduk di akhir 1800-an dan memperkirakan Nokia akan memindahkan produksinya dari kertas ke karet ke elektronik, dan kemudian menjauh dari ponsel. Mungkin mereka seharusnya.

Manusia adalah prediktor yang buruk dari perubahan langkah, proses di mana satu perubahan mengarah ke lebih banyak perubahan, dan tiba-tiba, segalanya menjadi sangat berbeda. Kami belum memahami proses ini karena kami memiliki sedikit pengetahuan praktis tentang perubahan eksponensial; kita tidak dapat membayangkannya, menghitungnya, atau memahaminya. Namun, waktu dan waktu lagi, itu memukul kita. Pandemi, pertumbuhan penduduk, inovasi teknologi mulai dari percetakan buku hingga robotika, biasanya melanda kita tanpa peringatan.

Trik dengan futurisme bukanlah jika, tetapi kapan. Seseorang mungkin benar-benar dapat memprediksi perubahan hanya dengan memilih beberapa metode produksi baru dan menyatakan bahwa mereka akan menjadi lebih lazim di masa depan. Itu cukup sederhana. Bagian yang sulit adalah mencari tahu kapan tepatnya dan terutama bagaimana caranya.

Klip kertas bukan masalahnya

Pertimbangkan contoh pabrik saya lagi, tetapi kali ini, bayangkan mesin bertanggung jawab atas banyak keputusan, tidak semua keputusan, tetapi keputusan produksi seperti pengoptimalan. Dalam bukunya Kecerdasan super, humanis distopia Oxford University, Nick Bostrom, terkenal membayangkan algoritme pengoptimalan AI yang menjalankan pabrik klip kertas. Pada titik tertentu, katanya, bayangkan bahwa mesin beralasan bahwa belajar mengalihkan sumber daya yang terus meningkat ke tugas itu rasional, akhirnya secara bertahap mengubah dunia kita menjadi klip kertas, dan menolak upaya kita untuk mematikannya.

Meskipun menjadi pria yang cerdas, contoh Bostrom cukup bodoh dan menyesatkan (namun, mudah diingat). Pertama, ia gagal menjelaskan fakta bahwa manusia dan robot bukan lagi entitas yang terpisah. Kami berinteraksi. Kebanyakan robot pintar berevolusi menjadi cobot atau robot kolaboratif. Manusia akan memiliki banyak kesempatan untuk memperbaiki mesin. Meski begitu, poin dasarnya tetap ada. Mungkin ada perubahan langkah di beberapa titik, dan jika perubahan itu terjadi cukup cepat dan tanpa pengawasan yang memadai, kendali mungkin hilang. Tetapi hasil ekstrem itu tampaknya agak dibuat-buat. Either way, saya setuju, kita perlu mengatur manusia yang mengoperasikan mesin ini dan mengamanatkan bahwa pekerja selalu dalam lingkaran dengan melatih mereka dengan tepat. Pelatihan semacam itu tidak berjalan dengan baik. Saat ini dibutuhkan terlalu lama dan dibutuhkan keterampilan khusus baik untuk melatih dan dilatih. Aku tahu satu hal. Di masa depan semua jenis orang akan mengoperasikan robot. Mereka yang tidak, akan sangat tidak berdaya.

Menambah manusia lebih baik daripada otomatisasi tanpa pikiran, terlepas dari apakah kita tidak pernah sepenuhnya bergabung dengan mesin. Kedua konsep tersebut secara logika berbeda. Ada kemungkinan bagi manusia dan robot untuk terjebak dalam otomatisasi demi otomatisasi. Itu akan menyebabkan kerusakan besar pada manufaktur ke depan. Bahkan jika itu tidak menghasilkan robot pembunuh. Saya percaya merger masih ratusan tahun lagi, tapi bukan itu intinya. Bahkan jika itu hanya tiga puluh tahun lagi, mesin self-propelling yang beroperasi pada algoritma sederhana yang kehilangan kendali, skenario itu sudah terjadi di lantai toko. Beberapa dari mesin tersebut berusia tiga puluh tahun dan berjalan pada sistem kontrol kepemilikan yang lama. Tantangan utama mereka bukanlah karena mereka maju tetapi sebaliknya. Mereka terlalu sederhana untuk bisa berkomunikasi. Ini bukan masalah untuk besok. Ini adalah masalah yang sudah ada sebelumnya. Kita harus membuka mata untuk itu. Pikirkan tentang ini saat berikutnya Anda masuk ke sepatu bot karet Anda.

Saya masih memiliki sepatu bot Nokia saya dari tahun 1980-an. Mereka memiliki lubang di dalamnya, tetapi saya menyimpannya untuk mengingatkan diri saya sendiri dari mana saya berasal dan seberapa jauh saya telah berjalan. Hujan juga terus turun, dan selama itu cukup bersih, saya tidak ingin perbaikan yang lebih baik daripada sepatu bot itu. Sekali lagi, aku manusia. Robot mungkin sudah pindah. Apa versi AI dari sepatu bot hujan, saya bertanya-tanya. Ini bukan ponsel. Ini bukan sensor hujan. Ini mengganggu pikiran.

Sepatu bot digital saat ini berarti Anda dapat mempersonalisasikannya karena memiliki desain cetak 3D. Ada sepatu virtual yang hanya ada sebagai NFT (non-fungible token) yang bisa dijual dan diperdagangkan. Sepatu kets virtual teratas bernilai $ 10,000 hari ini (lihat Apa itu Sneaker NFT, dan Mengapa Berharga $10,000?). Saya tidak takut dengan itu, tetapi haruskah saya takut? Jika dunia maya menjadi lebih dihargai daripada dunia fisik, mungkin saya akan melakukannya. Atau haruskah saya menunggu untuk khawatir sampai avatar AI sendiri membeli boot NFT sendiri untuk mengatasi "hujan"? Jika kita membangun algoritme dalam citra kita sendiri, kemungkinan besar AI akan bagus dalam hal-hal yang kita harap kita kuasai tetapi biasanya tidak, seperti membeli saham, membangun persahabatan yang setia (mungkin dengan mesin dan manusia), dan mengingat hal-hal. Metaverse industri mungkin sangat canggih – penuh dengan kembaran digital yang meniru dunia kita dan melampauinya dengan cara yang bermanfaat – atau mungkin sangat sederhana. Mungkin keduanya. Kami hanya belum tahu.

Kami perlu mengatur algoritme AI karena kami tidak tahu apa yang akan terjadi. Itu cukup alasan, tapi bagaimana kita melakukannya, itu cerita yang lebih panjang. Izinkan saya satu lagi pengamatan cepat, mungkin semua algoritme fundamental harus tersedia untuk umum. Alasannya adalah, jika tidak, tidak ada cara untuk mengetahui apa yang mungkin mereka tuju. Yang teratas cukup terkenal (lihat 10 Algoritma Pembelajaran Mesin Teratas), tetapi tidak ada gambaran umum di seluruh dunia tentang di mana dan bagaimana mereka akan digunakan. Terutama algoritme tanpa pengawasan yang harus diperhatikan dengan cermat (lihat Enam Kasus Penggunaan Hebat untuk Pembelajaran Mesin di Manufaktur), apakah mereka digunakan untuk memprediksi pemeliharaan atau kualitas, untuk mensimulasikan lingkungan produksi (misalnya kembar digital), atau untuk menghasilkan desain baru yang tidak akan pernah terpikirkan oleh manusia. Dalam lanskap saat ini, algoritme tanpa pengawasan ini biasanya disebut jaringan saraf tiruan, yang mencoba meniru otak manusia.

Saya mulai khawatir tentang jaringan saraf, hanya karena menurut saya logikanya sulit untuk dipahami. Masalahnya adalah sebagian besar ahli, bahkan mereka yang menerapkannya, tidak mengerti bagaimana algoritme ini berpindah dari langkah ke langkah atau lapisan ke lapisan. Saya tidak berpikir metafora "lapisan tersembunyi", yang sering digunakan, sangat tepat atau sangat lucu. Seharusnya tidak ada lapisan tersembunyi dalam manufaktur, dalam pengumpulan pajak otomatis, dalam keputusan perekrutan, atau dalam penerimaan perguruan tinggi, sebagai permulaan. Mungkin Anda harus mempertimbangkan untuk khawatir juga? Satu hal yang pasti, manusia dan mesin yang membuat sesuatu bersama-sama akan mengubah dunia. Sudah, berkali-kali. Dari kertas hingga sepatu bot hujan, dan lapisan otak buatan saat ini, tidak ada yang boleh dibiarkan belum dijelajahi. Kita tidak boleh bersembunyi dari fakta sederhana bahwa dari banyak perubahan kecil, perubahan yang lebih besar bisa tiba-tiba muncul.