NTT dan Universitas Tokyo Kembangkan AI Komputasi Optik Pertama di Dunia Menggunakan Algoritma yang Terinspirasi oleh Otak Manusia

Kolaborasi memajukan penerapan praktis AI berdaya rendah dan berkecepatan tinggi berdasarkan komputasi optik

TOKYO–(Antara/BUSINESS WIRE)–#TechforGood-Perusahaan NTT (Presiden dan CEO: Akira Shimada, “NTT”) dan Universitas Tokyo (Bunkyo-ku, Tokyo, Presiden: Teruo Fujii) telah menemukan algoritme pembelajaran baru yang terinspirasi oleh pemrosesan informasi otak yang cocok untuk jaringan saraf tiruan (DNN) berlapis-lapis menggunakan operasi analog. Terobosan ini akan mengarah pada pengurangan konsumsi daya dan waktu komputasi untuk AI. Hasil pengembangan ini dipublikasikan di jurnal ilmiah Inggris Alam Komunikasi pada 26 Desember^th.

Para peneliti mencapai demonstrasi pertama di dunia dari pembelajaran DNN optik yang dieksekusi secara efisien dengan menerapkan algoritme ke DNN yang menggunakan komputasi analog optik, yang diharapkan dapat mengaktifkan perangkat pembelajaran mesin berkecepatan tinggi dan berdaya rendah. Selain itu, mereka telah mencapai kinerja jaringan syaraf tiruan berlapis-lapis tertinggi di dunia yang menggunakan operasi analog.

Di masa lalu, kalkulasi pembelajaran beban tinggi dilakukan dengan kalkulasi digital, namun hasil ini membuktikan bahwa efisiensi bagian pembelajaran dapat ditingkatkan dengan menggunakan kalkulasi analog. Dalam teknologi Deep Neural Network (DNN), jaringan saraf berulang yang disebut komputasi reservoir dalam dihitung dengan mengasumsikan pulsa optik sebagai neuron dan cincin optik nonlinier sebagai jaringan saraf dengan koneksi rekursif. Dengan memasukkan kembali sinyal keluaran ke sirkuit optik yang sama, jaringan diperdalam secara artifisial.

Teknologi DNN memungkinkan kecerdasan buatan (AI) canggih seperti terjemahan mesin, mengemudi otonom, dan robotika. Saat ini, daya dan waktu komputasi yang dibutuhkan meningkat dengan kecepatan yang melebihi pertumbuhan kinerja komputer digital. Teknologi DNN yang menggunakan kalkulasi sinyal analog (operasi analog) diharapkan menjadi metode untuk mewujudkan kalkulasi berefisiensi tinggi dan berkecepatan tinggi yang serupa dengan jaringan syaraf otak. Kolaborasi antara NTT dan Universitas Tokyo telah mengembangkan algoritme baru yang cocok untuk DNN operasi analog yang tidak mengasumsikan pemahaman tentang parameter pembelajaran yang termasuk dalam DNN.

Metode yang diusulkan belajar dengan mengubah parameter pembelajaran berdasarkan lapisan akhir jaringan dan transformasi acak nonlinier dari kesalahan sinyal keluaran yang diinginkan (sinyal kesalahan). Kalkulasi ini mempermudah penerapan kalkulasi analog dalam hal-hal seperti sirkuit optik. Ini juga dapat digunakan tidak hanya sebagai model implementasi fisik, tetapi juga sebagai model mutakhir yang digunakan dalam aplikasi seperti terjemahan mesin dan berbagai model AI, termasuk model DNN. Penelitian ini diharapkan dapat berkontribusi untuk memecahkan masalah yang muncul terkait dengan komputasi AI, termasuk konsumsi daya dan peningkatan waktu perhitungan.

Selain memeriksa penerapan metode yang diusulkan dalam makalah ini untuk masalah tertentu, NTT juga akan mempromosikan integrasi perangkat keras optik skala besar dan kecil, yang bertujuan untuk membangun platform komputasi optik berkecepatan tinggi dan berdaya rendah untuk optik masa depan. jaringan.

Dukungan untuk Penelitian ini:

JST/CREST mendukung sebagian dari hasil penelitian ini.

Publikasi Majalah:

Majalah: Alam Komunikasi (Versi online：26 Des.)

Judul Artikel: Pembelajaran Mendalam Fisik dengan Metode Pelatihan yang Terinspirasi Secara Biologis: Pendekatan Bebas Gradien untuk Perangkat Keras Fisik

Pengarang：Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto, and Kohei Nakajima

Penjelasan Terminologi:

1. Sirkuit optik: Sirkuit di mana pandu gelombang optik silikon atau kuarsa diintegrasikan ke dalam wafer silikon menggunakan teknologi pembuatan sirkuit elektronik. Dalam komunikasi, percabangan dan penggabungan jalur komunikasi optik dilakukan oleh interferensi optik, multiplexing/demultiplexing panjang gelombang, dan sejenisnya.
2. Metode backpropagation (BP): Algoritma pembelajaran yang paling umum digunakan dalam pembelajaran mendalam. Gradien bobot (parameter) dalam jaringan diperoleh saat sinyal error dipropagasi ke belakang, dan bobotnya diperbarui sehingga error menjadi lebih kecil. Karena proses backpropagation memerlukan transposisi matriks bobot model jaringan dan diferensiasi nonlinear, sulit untuk diterapkan pada sirkuit analog, termasuk otak organisme hidup.
3. Komputasi analog: Komputer yang mengekspresikan nilai nyata menggunakan besaran fisis seperti intensitas dan fase cahaya serta arah dan intensitas putaran magnet dan melakukan perhitungan dengan mengubah besaran fisis tersebut menurut hukum fisika.
4. Metode penyelarasan umpan balik langsung (DFA): Metode penghitungan semu sinyal kesalahan setiap lapisan dengan melakukan transformasi acak nonlinier pada sinyal kesalahan lapisan akhir. Karena tidak memerlukan informasi diferensial dari model jaringan dan hanya dapat dihitung dengan transformasi acak paralel, ini kompatibel dengan perhitungan analog.
5. Komputasi reservoir: Jenis jaringan saraf berulang dengan koneksi berulang di lapisan tersembunyi. Hal ini ditandai dengan memperbaiki koneksi secara acak di lapisan perantara yang disebut lapisan reservoir. Dalam komputasi reservoir yang dalam, pemrosesan informasi dilakukan dengan menghubungkan lapisan reservoir dalam beberapa lapisan.

NTT dan logo NTT adalah merek dagang terdaftar atau merek dagang dari NIPPON TELEGRAPH AND TELEPHONE CORPORATION dan/atau afiliasinya. Semua nama produk yang dirujuk lainnya adalah merek dagang dari pemiliknya masing-masing. © 2023 NIPPON TELEGRAPH AND TELEPHONE CORPORATION

kontak

Stephen Russel

Komunikasi Kabel®

Untuk NTT

+ 1-804-362-7484

[email dilindungi]