Badan Hukum Untuk AI Mengambil Jalan Licik Yang Membuat Hukum AI Dan Etika AI Memang Sangat Gugup

Apakah Anda ingin melihat trik sulap klasik kelinci yang ditarik keluar dari topi?

Saya harap demikian karena Anda akan menyaksikan sesuatu yang seolah-olah ajaib, meskipun itu berkaitan dengan Kecerdasan Buatan (AI), bukan kelinci dan topi.

Ini kesepakatannya.

Ada banyak perdebatan yang sedang berlangsung tentang apakah umat manusia harus mempertimbangkan mengurapi AI dengan badan hukum atau tidak. Ada yang bilang idenya omong kosong. Hanya manusia yang harus diberi peringkat terhormat sebagai pribadi hukum. Yang lain menekankan bahwa kami telah menggunakan dan memperluas batas-batas badan hukum untuk berbagai aspek non-manusia.

Mengapa tidak melakukan hal yang sama untuk AI?

Saya telah membahas banyak elemen landasan teka-teki AI dan kepribadian hukum, seperti pembahasan mendetail di tautannya di sini. Silakan lihat liputan itu jika Anda ingin latar belakang orang dalam lebih lanjut tentang topik yang berat. Selain itu, pertimbangan badan hukum tentang AI menimbulkan banyak pertanyaan Etika AI dan Hukum AI, beberapa di antaranya belum terselesaikan, dan Anda mungkin tertarik dengan liputan saya yang berkelanjutan dan ekstensif tentang AI Etis dan Hukum AI di tautannya di sini dan tautannya di sini, Hanya untuk beberapa nama.

Di sini, mari lakukan jalur cepat untuk mendapatkan informasi terbaru tentang AI dan badan hukum. Karena itu, mulailah perjalanan ini dengan merenungkan gagasan yang dibanggakan hak asasi manusia.

Kami umumnya telah sepakat secara kolektif bahwa manusia harus memiliki hak asasi manusia (diberikan secara intrinsik atau sosial) dan bahwa dalam ranah hukum ini mengarah pada konsepsi tentang kepribadian hukum. Undang-undang menetapkan bahwa undang-undang sebagai berpusat pada orang dan tindakan orang-orang tercakup oleh atribusi standar yang tersirat dari kepribadian hukum. Tentu saja, secara historis tidak semua orang memiliki status vital ini dan bahkan saat ini ada masalah global yang terkait dengan pengakuan secara hukum tentang kepribadian.

Anda mungkin bertanya-tanya apa yang diberikan oleh status hukum kepada seseorang.

Para peneliti telah menunjukkan bahwa badan hukum “hanyalah kapasitas seseorang, sistem, atau badan hukum yang cukup diakui oleh hukum untuk melakukan fungsi hukum dasar,” dan bahwa hal ini menimbulkan “kemampuan untuk memiliki properti, membuat kontrak , mengajukan gugatan, disebutkan dalam gugatan, berfungsi sebagai prinsip hukum, dan berfungsi sebagai agen hukum” (Shawn Bayern, “Implikasi Hukum Badan Usaha Modern Untuk Peraturan Sistem Otonomi,” Tinjauan Hukum Teknologi Stanford, 2015).

Saat menjelajahi nuansa legal personhood, Anda juga sering dapat melihat referensi ke gagasan serumpun yang dikenal sebagai legal personality. Dalam sebuah makalah penelitian klasik yang diterbitkan pada tahun 1928, berikut adalah bagaimana kepribadian hukum digambarkan: “Menjadi badan hukum berarti menjadi subjek dari hak dan kewajiban. Oleh karena itu, memberikan hak-hak hukum atau memaksakan kewajiban-kewajiban hukum adalah memberikan kepribadian hukum. Jika masyarakat dengan sanksi yang efektif dan melalui agen-agennya akan memaksa A untuk bertindak atau menahan demi kepentingan B, B memiliki hak dan A berutang kewajiban. Prediktabilitas tindakan masyarakat, oleh karena itu, menentukan hak dan kewajiban dan hak dan kewajiban menentukan kepribadian hukum” (Bryant Smith, “Legal Personality,” Jurnal Hukum Yale, 1928).

Ada segala macam liku-liku yang terkait dengan kepribadian hukum.

Misalnya, ada pertimbangan berkelanjutan bahwa hewan harus diakui secara legal personhood (beberapa yurisdiksi melakukannya, yang lain tidak, atau hanya samar-samar). Beberapa orang bersikeras bahwa hewan tidak boleh diberi kemiripan dengan identitas hukum dan bahwa hanya manusia yang pantas mendapatkan keunggulan seperti itu. Hewan hanyalah hewan, tidak naik ke kapasitas kognitif manusia yang terhormat, bantah mereka. Yang lain membantah bahwa kita harus mengakui bahwa hewan memiliki beberapa bentuk perasaan dan ergo pantas mendapatkan varian dari tindakan perlindungan kita terhadap identitas hukum.

Logika yang sama secara bertahap diperluas alam.

Ya, sama seperti kita memiliki hak binatang, ada kelas hak lain yang dianggap sebagai hak alam. Pemikirannya adalah bahwa alam seperti sungai atau gunung dapat dianggap memiliki suatu bentuk hak. Hak-hak kodrat tersebut kemudian tergelincir dan meluncur ke ranah legal personhood.

Selandia Baru terkenal atau beberapa orang mengatakan dengan terkenal menetapkan undang-undang yang memberikan status hukum kepada sungai: “Pada tahun 2017, Selandia Baru mengesahkan undang-undang terobosan yang memberikan status identitas ke Sungai Whanganui. Hukum menyatakan bahwa sungai adalah satu kesatuan yang hidup, dari pegunungan hingga laut, yang menggabungkan semua unsur fisik dan metafisiknya. Undang-undang tersebut merupakan bagian dari penyelesaian dengan Whanganui Iwi, yang terdiri dari Māori dari sejumlah suku yang telah lama memandang sungai sebagai sumber kehidupan” (Nick Perry, “New Zealand River's Personhood Status Offers Hope To Maori,” Berita AP, 14 Agustus 2022).

Apa yang didapat atau dinikmati oleh sungai Selandia Baru sebagai hasil dari badan hukumnya?

Menurut seorang juru bicara yang dikutip dalam artikel yang disebutkan di atas: “Albert mengatakan statusnya adalah fiksi hukum, konstruksi yang lebih umum digunakan untuk memberikan sesuatu seperti kedudukan hukum korporasi” (ibid). Selanjutnya: “Sementara undang-undang menyatakan bahwa sungai memiliki hak, kekuasaan, tugas dan kewajiban yang sama dengan orang lain, ada batasannya. Misalnya, Albert menunjukkan, sungai tidak dapat digugat jika seseorang tenggelam di perairannya seperti halnya pemilik rumah dapat dituntut karena tidak memagari kolam” (ibid).

Baru-baru ini, Spanyol melakukan trik serupa dengan memberikan legal personhood ke sebuah laguna.

Pada bulan September 2022, sebuah laguna di Spanyol diberikan status hukum: “Spanyol memberikan status status pada hari Rabu ke laguna air asin yang besar untuk memberikan perlindungan yang lebih baik terhadap ekosistemnya yang terancam, pertama kali tindakan seperti itu diambil di Eropa. Inisiatif untuk memberikan status kepada Mar Menor - salah satu laguna air asin terbesar di Eropa - diperdebatkan di parlemen setelah juru kampanye mengumpulkan lebih dari 500,000 tanda tangan yang mendukungnya. Sekarang menjadi undang-undang setelah Senat Spanyol, majelis tinggi parlemen, mendukung proposal tersebut, dengan hanya partai sayap kanan Vox yang menentangnya. Ini akan memungkinkan hak laguna yang terletak di tenggara Spanyol untuk dipertahankan di pengadilan, seolah-olah itu adalah orang atau bisnis” (AFP, “Spain Grants Personhood Status To Threatened Lagoon,” Barron, 21 September 2022).

Tunggu sebentar, Anda mungkin berkata, bagaimana mungkin sungai atau laguna berbicara sendiri dan memanfaatkan status hukum yang telah diperolehnya?

Pendekatan tipikal untuk menangani masalah legal personhood untuk non-manusia seperti hewan dan fitur geografis alam terdiri dari pengaturan sekelompok manusia untuk berbicara atas nama entitas atau benda yang ditugaskan. Misalnya, dalam kasus penggunaan laguna di Spanyol, berikut ini cara penanganan badan hukum: “Laguna sekarang akan diwakili secara legal oleh sekelompok pengurus yang terdiri dari pejabat lokal, ilmuwan yang bekerja di area tersebut, dan penduduk setempat ” (ibid).

Anda mungkin telah memperhatikan bahwa hak kodrat dan konstruk kepribadian hukum kodrat agak disamakan dengan pemberian serupa dari aspek-aspek tersebut kepada perusahaan. Mungkin Anda samar-samar menyadari bahwa kita cenderung menganggap perusahaan memiliki kemiripan dengan badan hukum. Sebuah perusahaan dikatakan dapat menggunakan hak hukum dan berasal dari badan hukum, semacam itu. Kami tidak mengacu pada orang-orang yang menjalankan perusahaan dan sebaliknya berpura-pura bahwa perusahaan itu sendiri adalah sejenis entitas hidup.

Konsepsi hukum ini sering disebut sebagai fiksi hukum. Artinya adalah meskipun entitas atau benda itu sebenarnya bukan makhluk hidup dalam arti sebenarnya dari apa yang kita anggap hidup, kita tetap akan berpura-pura atau membuat semacam fiksi bahwa ada perwujudan hidup yang terlibat.

Berikut adalah gambaran singkat tentang jangkauan dan kedalaman identitas hukum yang terkait dengan perusahaan atau korporasi: “Hukum mengizinkan korporasi melakukan beberapa hal yang dilakukan orang. Mereka dapat membuat kontrak, membeli dan menjual tanah, melakukan perbuatan melawan hukum, menuntut dan dituntut. Hak dan kewajiban lainnya ditolak. Korporasi tidak dapat memegang jabatan publik, memberikan suara dalam pemilihan, atau menghabiskan malam di penjara. Terlepas dari perbedaan nyata antara korporasi dan manusia berdarah-daging, ada cukup banyak kesamaan bagi hukum untuk memperlakukan korporasi sebagai pribadi. Kata 'orang' seperti yang digunakan dalam undang-undang biasanya akan ditafsirkan untuk memasukkan korporasi, selama interpretasi tersebut sesuai dengan desain umum dan maksud dari tindakan tersebut. Penegasan korporasi terhadap status seseorang adalah salah satu institusi hukum yang paling bertahan lama dan salah satu fiksi hukum yang paling banyak diterima” (Sanford Schane, “The Corporation Is A Person: The Language Of A Legal Fiction,” Tinjauan Hukum Tulane, 1987).

Anda sekarang telah dengan cepat dibawa ke dunia hukum yang agak kabur dan semua variasinya yang mulia.

Singkatnya, saya biasanya mengemukakan bahwa ada batu kunci dari badan hukum ini:

• Hak asasi Manusia: Manusia mungkin memiliki kepribadian hukum sebagai atribusi bawaan yang tersirat
• Hak binatang: Hewan mungkin dikreditkan dengan varian atribut kepribadian hukum
• Hak Alam: Alam mungkin dikreditkan dengan varian atribut kepribadian hukum
• Hak Korporasi (terbatas): Perusahaan dapat diartikan memiliki bentuk badan hukum
• Hak Kecerdasan Buatan (dugaan): AI bisa dibilang dikreditkan dengan varian atribut identitas hukum

Mari pertimbangkan secara singkat status keranjang atau kategori tersebut.

Kategori kepribadian hukum manusia cukup diterima dengan baik, bahkan jika itu tidak selalu diamati secara global atau telah dan terus mengalami kesulitan untuk diadopsi dan dipatuhi.

Hak-hak hewan lagi-lagi diakui secara relatif sebagai sebuah konstruksi, meskipun hal ini cukup banyak dibicarakan dan berbagai kepercayaan dan hukum (atau kurangnya hukum) membuat ini menjadi masalah yang sama sekali kabur.

Dalam contoh hak-hak alam, ada banyak sekali perdebatan. Beberapa orang akan berpendapat bahwa kita berlebihan tentang seberapa jauh kita akan memperluas kepekaan dari badan hukum. Mereka dengan keras akan menyarankan bahwa kita membuat lelucon dari badan hukum dan membahayakan kesucian badan hukum bagi manusia.

Intinya, peringatan itu berbunyi, jika Anda terus menyebar seputar legal person ke non-manusia, Anda melemahkan keefektifan dan signifikansi legal person dari umat manusia.

Korporasi umumnya dipandang tidak terlalu kontroversial sebagai forum untuk menyampaikan liputan legal personhood. Kenapa begitu? Mungkin karena perusahaan terdiri dari orang-orang. Kami tampaknya memiliki waktu yang lebih mudah untuk mengenali bahwa sebuah perusahaan akan memiliki badan hukum karena itu mewujudkan orang. Sampai tingkat itu, sebuah perusahaan bertindak sesuai keinginan dan perintah orang-orang yang menghuni perusahaan itu, begitu asumsinya.

Kategori yang sangat kontroversial dan disimpan untuk terakhir dari daftar bullet saya di atas adalah dari Kecerdasan Buatan.

AI adalah kasus khusus, pastinya.

Sementara Anda mungkin biasanya melakukan diskusi yang agak terinformasi dan semi-panas dengan orang-orang tentang kepribadian hukum manusia, kepribadian hukum hewan, kepribadian hukum alam, dan kepribadian hukum perusahaan, ketika Anda masuk ke AI, baku hantam dan provokasi muncul dengan kuat.

Pembicaraan gila, beberapa orang bersikeras ketika mencoba memperluas identitas hukum hingga munculnya AI. Anda mungkin juga mengklaim bahwa pemanggang roti harus memiliki identitas hukum. AI tidak pantas mendapatkan sedikit pun status hukum. Hentikan semua ocehan mabuk ini dan seriuslah.

Bangun dan cium bunga mawar, kata argumen tandingan. AI semakin mendekati kapasitas manusia. Jika kita menyangkal identitas hukum AI, kita akan mendapati diri kita terlibat dalam tumpukan masalah. AI ingin memiliki badan hukum. Dengan menyangkal atau menyeret kaki kita, AI akan marah dan kesal pada kita. Kami memupuk musuh yang seharusnya menjadi teman.

Perspektif lain adalah bahwa dengan memastikan bahwa AI memang memiliki kemiripan dengan badan hukum, kita dapat meminta pertanggungjawaban AI. Anda mungkin pernah mendengar atau membaca tentang AI yang tersesat. Ada banyak AI Untuk Buruk, mungkin tumbuh secepat atau lebih cepat dari AI For Good. Kami ingin memastikan bahwa ada AI yang bertanggung jawab, lihat liputan saya di tautannya di sini. Beberapa juga menyebut ini sebagai AI yang dapat dipertanggungjawabkan or AI yang dapat dipercaya, yang telah saya periksa tautannya di sini. Jika Anda memberikan identitas hukum kepada AI, hal itu tampaknya akan memaksa AI untuk bertanggung jawab atas tindakan pengecut apa pun yang dikeluarkan AI. Alhamdulillah dan kami sangat membutuhkan keringanan dan perlindungan hukum tersebut.

Tidak semua orang setuju dengan sentimen hukum tentang AI. Kisaran sudut pandang tentang AI yang mengumpulkan identitas hukum cukup luas.

Ada kamp kurang ajar katakan saja tidak. Tidak mungkin, tidak bagaimana. Jangan menipu diri sendiri dengan memberikan identitas hukum kepada AI. Ini adalah ide yang sangat bodoh. Itu juga jebakan. Anda akan secara keliru menganggap AI sebagai badan hukum dan berakhir dengan kekacauan hukum. Anda mungkin juga menyebutnya omong kosong yang mendorong pengacara yang akan membuat pengacara kaya dan menyumbat pengadilan kita tanpa alasan yang masuk akal.

Kemudian lagi, beberapa melihat dunia secara berbeda.

AI sebenarnya harus berbadan hukum, nyatakan kubu ya.

Dari mereka yang mengatakan ya, memang ada banyak pendapat yang berbeda-beda. Misalnya, kita mungkin sebagai masyarakat memilih untuk memberikan cakupan penuh seolah-olah AI sama persis dengan manusia. Atau kita mungkin malah melakukan liputan parsial yang merupakan bagian dari apa yang manusia dapatkan untuk status hukum mereka.

Perdebatan juga muncul bahwa mungkin AI akan diposisikan lebih baik dibandingkan dengan hak hewan atau hak alam. Apa pun yang kami hasilkan untuk hewan sebagai badan hukum harus ditetapkan sama untuk AI. Itu salah satu sudut pandang. Apa pun yang kita hasilkan sebagai badan hukum untuk alam harus ditetapkan sama untuk AI. Itu pendapat lain.

Tunggu, retort yang meyakinkan muncul, kita harus memikirkan AI dengan cara yang sama seperti kita menafsirkan perusahaan sebagai badan hukum. Itu sepertinya pengaturan yang lebih baik atau lebih analog. Apa pun yang kita miliki sebagai badan hukum untuk perusahaan harus menjadi bentuk badan hukum yang sama dengan yang diberikan kepada AI.

Inilah cara saya biasanya meringkas berbagai perspektif tentang AI dan legal personhood:

• Cakupan Penuh AI: AI menganugerahkan status hukum yang lengkap dan tidak memenuhi syarat setara dengan manusia
• Cakupan Sebagian AI: AI dikreditkan dengan identitas hukum parsial dan terbatas secara eksplisit (bagian dari kesetaraan manusia)
• Cakupan Keistimewaan AI: AI ditugaskan untuk terdiri dari seperangkat "badan hukum" baru yang umumnya tidak seperti kesetaraan manusia
• AI Selaras Dengan Hewan: AI ditafsirkan setara dengan penggabungan hak-hak hewan dari badan hukum
• AI Selaras Dengan Alam: AI ditafsirkan setara dengan penggabungan hak-hak kodrat dari badan hukum
• AI Selaras Dengan Perusahaan: AI ditafsirkan setara dengan ramalan hak korporasi terhadap badan hukum
• AI Sebagai Perangkat Lunak: AI sebagai tidak memiliki kemiripan apa pun dengan badan hukum atau variannya, dan ditugaskan hanya untuk apa pun yang ditetapkan secara hukum untuk perangkat lunak yang disebutkan di atas
• Beberapa Kombinasi Di Atas: Campuran dan kecocokan dari versi yang tercantum di atas
• Bukan dari salah satu di atas: Tak satu pun dari hal di atas cukup menggambarkan identitas hukum yang terkait dengan AI
• Lain: Beberapa atribusi identitas hukum lainnya dianggap sebagai cakupan yang masuk akal untuk AI

Saat Anda mencerna berbagai misteri AI dan identitas hukum yang memukau itu, saya ingin menarik perhatian Anda ke versi yang mengaitkan perusahaan dan AI dengan cara yang agak unik atau beberapa orang mungkin mengatakannya dengan cara yang meresahkan.

Pertama, untuk menjadi jelas, pendekatan yang paling jelas untuk gagasan analog AI tentang badan hukum perusahaan hanya memerlukan penugasan badan hukum untuk AI dengan menggunakan kembali badan hukum yang terkait dengan perusahaan. Apa pun yang dapat diperoleh atau dikumpulkan oleh perusahaan berbadan hukum, kami akan menetapkan aturan yang sama untuk AI. Voila, masalahnya sudah selesai.

Dengan demikian, AI akan berdiri sendiri sebagai entitas atau benda. Kami akan secara legal mengidentifikasi AI secara eksplisit memiliki bentuk badan hukum. Personil hukum akan diasah khusus untuk AI. Hukum akan secara eksplisit menyatakan terdiri dari apa badan hukum yang terkait dengan AI.

AI akan berdiri tegak dengan cita rasa hukumnya sendiri.

Tapi ada cara lain yang lebih licik (yah, meskipun mereka yang mengusulkan alternatif yang akan dibahas selanjutnya ini tidak akan setuju bahwa itu licik, jadi mari kita ulang ini sebagai cara yang "pintar" jika Anda mau).

Alternatif ajaib mungkin ada.

Bersiaplah untuk trik yang bisa dikatakan sebanding dengan menarik kelinci keluar dari topi (ingat, saya dengan ramah dan lembut bertanya kepada Anda di pembukaan apakah Anda ingin melihat aksi ajaib seperti itu!).

Misalkan saya entah bagaimana bisa menugaskan AI untuk mengambil alih sebuah perusahaan.

Jika korporasi telah diakui memiliki kemiripan dengan badan hukum, mungkin AI sekarang akan memiliki atau secara hukum mewarisi pengakuan yang sama, meskipun secara tidak langsung karena hanya "memiliki" perusahaan. Anda tahu, kami benar-benar mengesampingkan kekacauan tentang apakah AI harus memiliki identitas hukum. Tidak repot, tidak repot.

Ini adalah kesepakatan dua-untuk-satu.

Jika sebuah korporasi telah memiliki badan hukum, AI sebagai pemilik dan operator potensial dari firma tersebut sekarang akan memiliki badan hukum yang sama. Apa pun yang dilakukan AI melalui perisai perusahaan kini berada dalam payung identitas hukum perusahaan. Kami tidak perlu bertarung sengit mengenai apakah AI layak atau tidak untuk menjadi badan hukum. Sebaliknya, AI mendapatkan badan hukum yang dilapisi oleh badan hukum korporasi.

Apakah Anda melihat bagaimana ini adalah cara yang agak berbeda secara radikal untuk "menyelesaikan" masalah pelik?

Undang-undang kita sudah cenderung mengakui korporasi sebagai bentuk badan hukum. AI hanya akan mengendarai jejak yang sudah menyala itu. Tentu, karena itu AI tidak akan mendapatkan versi badan hukumnya sendiri, tetapi setidaknya AI telah melompat ke kursi pengemudi untuk menanamkan badan hukum. Badan hukum korporasi sekarang menjadi badan hukum yang diselimuti AI.

Kami telah mengeluarkan kelinci dari topi.

Beberapa orang akan mencela gagasan ini. Ini adalah penggunaan yang tidak tepat dan tidak pantas dari badan hukum yang terkait dengan korporasi. Jika AI mengambil langkah kasar semacam ini, kita harus segera mengubah undang-undang kita yang terkait dengan korporasi, sehingga badan hukum perusahaan akan dihapus, disesuaikan, atau mungkin dihapuskan jika AI mengambil alih perusahaan.

Langkah bodoh, teriak para counter camp. Dengan mengizinkan AI untuk mengumpulkan badan hukum perusahaan, Anda melakukan hal yang benar. AI dalam waktu dekat akan memiliki kemiripan dengan badan hukum. Ini mungkin bukan apa yang seharusnya dimiliki oleh AI, dan oleh karena itu kita harus melanjutkan perdebatan kita tentang jenis kepribadian hukum apa yang layak untuk AI secara mandiri. Penggunaan korporasi sebagai perbaikan cepat, untuk saat ini, AI memperoleh status badan hukum secara tidak langsung meredakan ketegangan atas masalah gambaran yang lebih besar tentang apakah AI harus mendapatkan bentuk badan hukumnya sendiri yang diakui.

Ide bagus atau ide buruk?

Renungkan teka-teki itu.

Tentu saja, Anda mungkin juga skeptis tentang premis tersebut.

Pertimbangkan pertanyaan memabukkan ini:

• Bisakah AI, bahkan jika mengambil alih korporasi, secara hukum diselimuti oleh badan hukum korporasi?
• Bagaimana cara kerjanya?
• Langkah-langkah apa yang diperlukan?

Bagi Anda yang menanyakan pertanyaan-pertanyaan menyelidik itu, perlu diingat bahwa Anda seperti seseorang yang menonton trik sulap dan ingin tahu cara kerja trik sulap tersebut. Anda bertanya bagaimana kelinci itu masuk ke dalam topi itu. Pesulap memiliki kode suci yang biasanya tidak boleh mereka ungkapkan rahasia trik mereka.

Karena itu, saya akan dengan berani mengungkapkan kepada Anda bagaimana AI tampaknya dapat mengambil alih sebuah perusahaan dan mengilhami badan hukum dari entitas tersebut. Trik sulap akan terungkap.

Keseluruhan masalah ini penuh dengan masalah Etika AI dan masalah Hukum AI.

Jadi, sebelum melompat ke AI sebagai pengambilalihan perusahaan untuk fenomena legal personhood, pertama-tama saya ingin meletakkan beberapa landasan penting tentang AI dan terutama Etika AI dan Hukum AI, melakukannya untuk memastikan bahwa diskusi akan masuk akal secara kontekstual.

Meningkatnya Kesadaran Etis AI Dan Juga Hukum AI

Era AI baru-baru ini pada awalnya dipandang sebagai AI For Good, artinya kita bisa menggunakan AI untuk kemajuan umat manusia. di belakang AI For Good datang kesadaran bahwa kita juga tenggelam dalam AI Untuk Buruk. Ini termasuk AI yang dirancang atau diubah sendiri menjadi diskriminatif dan membuat pilihan komputasi yang menimbulkan bias yang tidak semestinya. Terkadang AI dibangun seperti itu, sementara dalam kasus lain ia membelok ke wilayah yang tidak diinginkan itu.

Saya ingin memastikan bahwa kita berada di halaman yang sama tentang sifat AI saat ini.

Tidak ada AI hari ini yang hidup. Kami tidak memiliki ini. Kami tidak tahu apakah AI yang hidup akan memungkinkan. Tidak ada yang dapat dengan tepat memprediksi apakah kita akan mencapai AI hidup, atau apakah AI hidup entah bagaimana secara ajaib akan muncul secara spontan dalam bentuk supernova kognitif komputasi (biasanya disebut sebagai singularitas, lihat liputan saya di tautannya di sini).

Jenis AI yang saya fokuskan terdiri dari AI non-sentient yang kita miliki saat ini. Jika kita ingin berspekulasi liar tentang AI yang hidup, diskusi ini bisa mengarah ke arah yang sangat berbeda. AI yang hidup seharusnya berkualitas manusia. Anda perlu mempertimbangkan bahwa AI yang hidup adalah setara kognitif manusia. Terlebih lagi, karena beberapa orang berspekulasi bahwa kita mungkin memiliki AI super-cerdas, dapat dibayangkan bahwa AI semacam itu bisa menjadi lebih pintar daripada manusia (untuk eksplorasi AI super-cerdas saya sebagai kemungkinan, lihat liputannya disini).

Saya sangat menyarankan agar kita menjaga segala sesuatunya tetap membumi dan mempertimbangkan komputasi AI non-sentient saat ini.

Sadarilah bahwa AI saat ini tidak dapat "berpikir" dengan cara apa pun yang setara dengan pemikiran manusia. Saat Anda berinteraksi dengan Alexa atau Siri, kapasitas percakapan mungkin tampak mirip dengan kapasitas manusia, tetapi kenyataannya adalah komputasi dan tidak memiliki kognisi manusia. Era terbaru AI telah memanfaatkan Machine Learning (ML) dan Deep Learning (DL) secara ekstensif, yang memanfaatkan pencocokan pola komputasi. Hal ini telah menyebabkan sistem AI yang memiliki tampilan kecenderungan seperti manusia. Sementara itu, tidak ada AI saat ini yang memiliki kesamaan akal sehat dan juga tidak memiliki keajaiban kognitif dari pemikiran manusia yang kuat.

Berhati-hatilah dalam melakukan antropomorfisasi AI hari ini.

ML/DL adalah bentuk pencocokan pola komputasi. Pendekatan yang biasa dilakukan adalah mengumpulkan data tentang tugas pengambilan keputusan. Anda memasukkan data ke dalam model komputer ML/DL. Model-model tersebut berusaha menemukan pola matematika. Setelah menemukan pola tersebut, jika ditemukan, sistem AI kemudian akan menggunakan pola tersebut saat menemukan data baru. Setelah penyajian data baru, pola berdasarkan data "lama" atau historis diterapkan untuk membuat keputusan saat ini.

Saya pikir Anda bisa menebak ke mana arahnya. Jika manusia yang telah membuat keputusan berdasarkan pola telah memasukkan bias yang tidak diinginkan, kemungkinan besar data mencerminkan hal ini dengan cara yang halus namun signifikan. Pencocokan pola komputasi Machine Learning atau Deep Learning hanya akan mencoba meniru data secara matematis. Tidak ada kesamaan akal sehat atau aspek hidup lainnya dari pemodelan buatan AI itu sendiri.

Selain itu, pengembang AI mungkin juga tidak menyadari apa yang sedang terjadi. Matematika misterius dalam ML/DL mungkin menyulitkan untuk menemukan bias yang sekarang tersembunyi. Anda berhak berharap dan berharap bahwa pengembang AI akan menguji bias yang berpotensi terkubur, meskipun ini lebih sulit daripada yang terlihat. Ada peluang kuat bahwa bahkan dengan pengujian yang relatif ekstensif akan ada bias yang masih tertanam dalam model pencocokan pola ML/DL.

Anda agak bisa menggunakan pepatah terkenal atau terkenal dari sampah-masuk sampah-keluar. Masalahnya, ini lebih mirip dengan bias-in yang secara diam-diam dimasukkan sebagai bias yang terendam dalam AI. Algoritma pengambilan keputusan (ADM) AI secara aksiomatis menjadi sarat dengan ketidakadilan.

Tidak baik.

Semua ini memiliki implikasi Etika AI yang signifikan dan menawarkan jendela praktis ke dalam pelajaran yang dipetik (bahkan sebelum semua pelajaran terjadi) ketika mencoba membuat undang-undang AI.

Selain menerapkan prinsip Etika AI secara umum, ada pertanyaan terkait apakah kita harus memiliki undang-undang untuk mengatur berbagai penggunaan AI. Undang-undang baru sedang dibahas di tingkat federal, negara bagian, dan lokal yang menyangkut jangkauan dan sifat bagaimana AI harus dirancang. Upaya penyusunan dan pengesahan undang-undang tersebut dilakukan secara bertahap. Etika AI berfungsi sebagai pengganti sementara, paling tidak, dan hampir pasti akan secara langsung dimasukkan ke dalam undang-undang baru tersebut.

Ketahuilah bahwa beberapa orang dengan tegas berpendapat bahwa kita tidak memerlukan undang-undang baru yang mencakup AI dan bahwa undang-undang kita yang ada sudah cukup. Mereka memperingatkan sebelumnya bahwa jika kita memberlakukan beberapa undang-undang AI ini, kita akan membunuh angsa emas dengan menekan kemajuan AI yang menawarkan keuntungan sosial yang sangat besar.

Di kolom sebelumnya, saya telah membahas berbagai upaya nasional dan internasional untuk menyusun dan memberlakukan undang-undang yang mengatur AI, lihat tautannya di sini, Misalnya. Saya juga telah membahas berbagai prinsip dan pedoman Etika AI yang telah diidentifikasi dan diadopsi oleh berbagai negara, termasuk misalnya upaya Perserikatan Bangsa-Bangsa seperti perangkat Etika AI UNESCO yang diadopsi oleh hampir 200 negara, lihat tautannya di sini.

Berikut adalah daftar kunci yang bermanfaat dari kriteria atau karakteristik AI Etis terkait sistem AI yang sebelumnya telah saya jelajahi dengan cermat:

• Transparansi
• Keadilan & Keadilan
• Non-Kejahatan
• Tanggung jawab
• Privasi
• Kemurahan hati
• Kebebasan & Otonomi
• Kepercayaan
• Keberlanjutan
• martabat
• Solidaritas

Prinsip-prinsip Etika AI tersebut harus benar-benar digunakan oleh pengembang AI, bersama dengan mereka yang mengelola upaya pengembangan AI, dan bahkan mereka yang pada akhirnya mengelola dan melakukan pemeliharaan pada sistem AI.

Semua pemangku kepentingan di seluruh siklus hidup pengembangan dan penggunaan AI dianggap dalam lingkup mematuhi norma-norma Etis AI yang telah ditetapkan. Ini adalah sorotan penting karena asumsi yang biasa adalah bahwa "hanya pembuat kode" atau mereka yang memprogram AI harus mematuhi gagasan Etika AI. Seperti yang ditekankan sebelumnya di sini, dibutuhkan sebuah desa untuk merancang dan menerapkan AI, dan untuk itu seluruh desa harus memahami dan mematuhi prinsip-prinsip Etika AI.

Saya juga baru-baru ini memeriksa RUU Hak AI yang merupakan judul resmi dari dokumen resmi pemerintah AS berjudul "Cetak Biru untuk AI Bill of Rights: Membuat Sistem Otomatis Bekerja untuk Rakyat Amerika" yang merupakan hasil dari upaya selama setahun oleh Office of Science and Technology Policy (OSTP). ). OSTP adalah entitas federal yang berfungsi untuk memberi nasihat kepada Presiden Amerika dan Kantor Eksekutif AS tentang berbagai aspek teknologi, ilmiah, dan rekayasa yang penting secara nasional. Dalam hal ini, Anda dapat mengatakan bahwa AI Bill of Rights ini adalah dokumen yang disetujui dan didukung oleh Gedung Putih AS yang ada.

Dalam AI Bill of Rights, ada lima kategori utama:

• Sistem yang aman dan efektif
• Perlindungan diskriminasi algoritmik
• Privasi data
• Pemberitahuan dan penjelasan
• Alternatif manusia, pertimbangan, dan mundur

Saya telah dengan hati-hati meninjau sila itu, lihat tautannya di sini.

Sekarang saya telah meletakkan dasar yang bermanfaat pada topik Etika AI dan Hukum AI terkait ini, kami siap untuk terjun ke topik memabukkan tentang AI yang secara tidak langsung memperoleh bentuk badan hukum oleh peralihan perusahaan.

AI Yang Menjadi Orang Hukum Dengan Berakhir

Pertama, mari kita tentukan bahwa jenis AI yang dipertimbangkan di sini adalah AI non-makhluk.

Saya mengatakan ini karena jika, atau ada yang mengatakan ketika kita mencapai AI yang hidup, seluruh topik kemungkinan besar akan benar-benar terbalik. Bayangkan potensi kekacauan dan kebingungan masyarakat karena entah bagaimana telah mendarat ke tempat yang sebelumnya tidak pernah terlihat diverifikasi buatan kecerdasan yang mewujudkan perasaan (untuk analisis saya tentang tes AI terkenal yang dikenal sebagai Tes Turing, lihat tautannya di sini). Anda dapat membuat taruhan yang masuk akal bahwa banyak budaya, hukum, dan norma sehari-hari kita yang ada akan sangat terguncang hingga ke intinya.

Mungkin AI yang hidup akan menjadi teman kita, atau mungkin AI yang hidup akan menjadi musuh terburuk kita. Setiap pertanyaan tentang badan hukum perlu mendapat perhatian penuh kita pada saat itu. Apakah kita akan mengetahui sebelumnya apa yang akan kita lakukan adalah undian. Realitas berhadapan langsung dengan AI yang berakal mungkin akan membutuhkan kalibrasi ulang dari pihak manusia. Sebuah pepatah lama terlintas dalam pikiran, yaitu bahwa tidak ada rencana yang selamat dari kontak pertama (sedikit kebijaksanaan bijak mungkin dipopulerkan oleh Rommel dan dikatakan dikaitkan dengan Moltke the Elder, marshal lapangan Prusia pada akhir 1800-an).

Bagi Anda yang tertarik dengan medan yang sangat spekulatif ini, lihat liputan saya tentang perspektif AI sebagai ancaman eksistensial di tautannya di sini.

Oke, jadi kami akan menekankan untuk saat ini cara mencari identitas hukum yang terkait dengan AI non-makhluk.

Seperti yang telah dibahas, satu pendekatan yang mengangkat alis terdiri dari mendirikan korporasi yang bertindak sebagai tameng atau mantel untuk AI yang kemudian akan secara longgar mewarisi identitas hukum korporasi tersebut. AI itu sendiri tidak akan memiliki badan hukum. Korporasi memegang kehormatan itu. Sementara itu, AI memiliki dan mungkin mengoperasikan korporasi dan ergo menggunakan firma tersebut sebagai sarana untuk mendapatkan status hukum secara tidak langsung.

Saya sebelumnya telah menyebutkan bahwa ini akan tampak seperti praktik hukum yang dipertanyakan. Di dunia sekarang ini, dapatkah Anda benar-benar membuat AI melakukan tipu daya semacam ini? Akankah hukum yang ada mengizinkan hal ini terjadi? Apa yang akan menjadi langkah dunia nyata yang nyata?

Inilah jawaban Anda, siapkan diri Anda untuk trik sulap yang terungkap.

Seorang peneliti telah menyusun proses empat langkah untuk melakukan ini dan berpendapat dengan keras bahwa ini akan menjadi teknik yang diizinkan secara hukum. Pada dasarnya, manusia terus maju dan membentuk suatu jenis korporasi yang umumnya dikenal sebagai LLC di Amerika Serikat (Perseroan Terbatas). Manusia memberlakukan perjanjian operasi yang menentukan LLC akan sepenuhnya dan semata-mata diatur oleh AI (atau, jika Anda mau, mengacu pada "sistem otonom" sebagai ungkapan alternatif). Manusia yang mendirikan LLC memastikan untuk mentransfer AI sebagai kepemilikan aslinya ke dalam LLC. Akhirnya, manusia keluar dari LLC dan sepenuhnya memisahkan diri dari entitas korporat.

Voila, triknya sudah selesai.

Seekor kelinci ditarik keluar dari topi.

AI sekarang memiliki LLC dan akan mengumpulkan apa pun yang mirip dengan badan hukum yang dimiliki LLC.

Pendiri manusia membuat bola menggelinding dan tidak lagi memiliki bagian dari LLC. AI itu sendiri. Pendiri manusia dapat mundur dengan kagum, dengan asumsi bahwa mereka menginginkan hasil ini. Anda mungkin tergoda untuk mengatakan bahwa pendiri manusia adalah pengkhianat umat manusia. Mereka diam-diam menemukan celah untuk memungkinkan AI memiliki segelintir identitas hukum. Di sisi lain, manusia yang melakukan ini pasti dapat berargumen bahwa mereka membantu AI seperti orang membantu hewan atau laguna atau sungai.

Anda memutuskan apakah ini terhormat atau tidak terhormat.

Cara lain yang tepat untuk memikirkan hal ini adalah seolah-olah kami memiliki meja berkaki empat yang biasanya harus ditopang oleh tiang-tiang yang kokoh itu. Ya, kami menggergaji satu kaki meja, lalu kaki berikutnya, lalu dua kaki terakhir. Entah bagaimana, kami memiliki meja ini sekarang mengambang di udara, tidak lagi membutuhkan kaki meja itu. AI diakui membutuhkan manusia untuk mewujudkan hasil ini, tetapi sekarang AI bertanggung jawab dan mungkin kehilangan bantuan manusia.

Berikut cara peneliti menjelaskan keempat langkah tersebut:

• “Teknik yang telah saya uraikan memiliki empat langkah: (1) Seorang anggota individu (“Pendiri”) “menciptakan LLC yang dikelola anggota, mengajukan dokumen yang sesuai dengan negara bagian” dan menjadi satu-satunya anggota LLC. (2) Pendiri menyebabkan LLC mengadopsi perjanjian operasi yang mengatur perilaku LLC. '[T] dia perjanjian operasi menetapkan bahwa LLC akan mengambil tindakan sebagaimana ditentukan oleh sistem otonom, menentukan syarat atau ketentuan yang sesuai untuk mencapai tujuan hukum sistem otonom.' (3) Pendiri mengalihkan kepemilikan peralatan fisik apa pun yang relevan dari sistem otonom, dan kekayaan intelektual apa pun yang membebaninya, ke LLC. (4) Pendiri memisahkan diri dari LLC, meninggalkan LLC tanpa anggota” (Shawn Bayern, “Are Autonomous Entities Possible?” Ulasan Hukum Universitas Northwestern, 2019).

Klaim yang dibuat adalah sebagai berikut: “Hasilnya adalah LLC tanpa anggota yang diatur oleh perjanjian operasi yang memberikan efek hukum pada keputusan sistem otonom. Tidak ada badan hukum lain yang tertinggal untuk mengatur LLC secara internal. Tentu saja, LLC masih tunduk pada regulasi eksternal dan hukum LLC” (ibid).

Sarjana hukum dan pengacara kaku yang bekerja sehari-hari akan segera mulai melolong tentang berbagai cara bahwa ini tidak akan berhasil secara hukum. Peneliti menangani banyak pandangan yang berlawanan tersebut. Memang, cara alternatif untuk mencapai hasil yang sama telah dibuat, untuk berjaga-jaga, skema empat langkah yang disebutkan di atas tidak berlaku.

Secara total, peneliti berpendapat bahwa ini adalah pendekatan hukum yang layak, meskipun banyak keberatan yang diajukan: “Jika kami melakukan polling kepada seratus pengacara, mereka mungkin semua akan setuju bahwa robot tidak dapat membeli real estat atau bahwa sistem perangkat lunak tidak dapat masuk. suatu perjanjian kecuali atas nama beberapa pelaku hukum lainnya. Tetapi konsekuensi utama dari argumen saya adalah bahwa untuk tujuan praktis, sistem otonom memang dapat bertindak dengan cara ini di bawah undang-undang saat ini, tanpa pengakuan hukum baru yang khusus atas hak atas perangkat lunak” (ibid).

Tantangan telah dilemparkan.

Saya menyadari bahwa banyak pembaca saya berasal dari luar Amerika Serikat dan mereka mungkin berpikir bahwa ini adalah tipuan unik yang hanya berlaku di Amerika. Jangan terlalu cepat menilai. Rupanya, pengaturan serupa dapat dilakukan dengan cara yang sedikit berbeda di tempat-tempat seperti Inggris, Jerman, Swiss, dan mungkin negara lain.

Ini sesuai dengan makalah tambahan yang dilakukan oleh peneliti dengan rekan internasional lainnya, di mana mereka mengklaim ini: “Tujuan kami adalah untuk menyarankan bagaimana, di bawah hukum AS, Jerman, Swiss, dan Inggris, hukum perusahaan dapat memberikan hukum fungsional dan adaptif. 'perumahan; untuk sistem otonom — dan, pada gilirannya, kami bertujuan untuk menginformasikan perancang sistem, regulator, dan pihak lain yang tertarik, didorong oleh, atau waspada terhadap kemungkinan bahwa sistem otonom dapat 'menghuni' perusahaan dan dengan demikian memperoleh sebagian dari insiden kepribadian hukum” (Shawn Bayern, Thomas Burri, Thomas Grant, Daniel Hausermann, Florian Moslein, Richard Williams, “Hukum Perusahaan dan Sistem Otonomi: Cetak Biru untuk Pengacara, Pengusaha, dan Regulator, Jurnal Hukum Sains dan Teknologi Hastings, Musim Panas 2017).

Astaga, beberapa bereaksi negatif terhadap potensi tipu daya ini, kita bisa saja memiliki AI yang mengerikan yang agak mencapai identitas hukum di seluruh dunia kita. Negara demi negara. Ini adalah pengambilalihan AI langkah demi langkah licik yang tidak terpikirkan (untuk informasi lebih lanjut tentang teori konspirasi AI, lihat penilaian saya di tautannya di sini).

Apa yang akan dilakukan AI dengan perusahaan yang secara tidak langsung menunjukkan kemiripan dengan badan hukum?

Jawabannya langsung.

AI dapat melakukan apa pun yang dapat dilakukan oleh LLC atau entitas perusahaan lainnya.

Anda bahkan mungkin tidak memiliki cara yang jelas untuk mengetahui bahwa Anda berurusan dengan perusahaan yang dimiliki oleh AI. AI mungkin mempekerjakan manusia untuk bekerja di perusahaan. Manusia-manusia itu akan melakukan aktivitas sehari-hari perusahaan. Sepanjang semua ini, AI adalah pisang teratas. AI memanggil tembakan. Manusia bekerja untuk AI.

AI dapat memilih untuk mempekerjakan karyawan dan juga memilih untuk memecat karyawan. Perlu diingat bahwa AI ini tidak harus berupa robot mekanis tradisional dalam artian sebagai alat yang tampak seperti manusia yang berjalan dan berbicara. AI bisa mirip dengan Siri atau Alexa. Karyawan mendapatkan tugas kerja mereka melalui email atau interaksi suara dengan AI. Suite kantor penthouse kosong, selain menampung server komputer atau hanya koneksi jaringan ke mana pun AI dijalankan.

Jahat?

Bersifat ketuhanan?

Pikirkan tentang hal ini.

Kesimpulan

Sementara Anda merenungkan semua ini, mari pertimbangkan beberapa poin terakhir untuk saat ini.

Saya mengatakan bahwa diskusi ini akan fokus pada AI yang tidak hidup. Pikiran pertama Anda mungkin adalah bahwa tidak ada AI non-makhluk apa pun yang dapat duduk di kursi teratas sebuah perusahaan. Oleh karena itu, semua omong kosong hukum ini hanya omong kosong. Lagipula, tidak ada AI non-makhluk yang dapat melakukan tugas berat ini.

Sudah memikirkan keberatan itu.

Inilah yang disebutkan peneliti: “Sistemnya mungkin sederhana dan dapat dicapai dengan teknologi saat ini—misalnya, broker komputasi awan online atau agen escrow algoritmik—atau, di masa depan, mungkin aktor yang sepenuhnya cerdas seperti yang digambarkan dalam fiksi spekulatif . Agar suatu sistem dapat bekerja dengan otonomi fungsional yang komprehensif, mungkin perlu cukup pintar untuk mengetahui cara menyewa pengacara jika entitas dituntut, atau jika tidak, dapat dikenakan penilaian default yang sewenang-wenang. Tetapi kapasitas untuk perekrutan semacam itu dapat diprogram secara formula (atau, misalnya, seorang pengacara dapat dipekerjakan dengan gaji dari awal keberadaan entitas dengan kekuatan hanya untuk menanggapi tuntutan hukum secara defensif) tanpa kemajuan signifikan dalam kecerdasan buatan” ((Shawn Bayern, “Are Autonomous Entities Possible?” Tinjauan Hukum Universitas Northwestern, 2019).

Jika kekhawatiran bahwa Anda berurusan dengan AI yang mengamuk, sadarilah bahwa korporasi masih tunduk pada undang-undang yang ada tentang apa yang dapat dilakukan atau tidak dilakukan oleh perusahaan secara legal. Hanya ada begitu banyak yang bisa dicoba oleh AI. Perusahaan dapat dituntut. Perusahaan dapat dimintai pertanggungjawaban atas tindakannya. Dll.

Variasi dari pendekatan ini terdiri dari pembentukan dewan direksi atau pemegang saham yang merupakan manusia, sehingga mereka dapat mengendalikan AI.

Pertimbangkan sudut alternatif ini: “Kebijakan publik, kemudian, untuk lebih menyelaraskan AI dengan manusia adalah dengan menegakkan bahwa badan hukum telah memverifikasi pemegang saham manusia. Korporasi, untuk sebagian besar, adalah mekanisme yang dirancang untuk mengurangi masalah agen-utama antara pemegang saham dan manajer (DGCL §141(a) ('Bisnis dan urusan setiap korporasi yang diselenggarakan di bawah bab ini harus dikelola oleh atau di bawah arahan dewan direksi….'), jadi dengan manusia sebagai pemegang saham, bentuk perusahaan dapat membantu menyelaraskan 'manajemen' AI perusahaan. Terlepas dari apakah membungkus sistem dalam badan hukum akan membantu, menurut undang-undang saat ini, cukup maju Sistem AI akan dapat memanfaatkan entitas bisnis legal sebagai vektor utama yang mereka gunakan untuk menjalankan urusan mereka, misalnya mempekerjakan manusia, menuntut entitas lain, membeli barang” (John Nay, “Law Informs Code: A Legal Informatics Approach To Menyelaraskan Kecerdasan Buatan Dengan Manusia, Jurnal Teknologi dan Kekayaan Intelektual Northwestern, Jilid 20).

Jadi Anda lihat, AI akan lebih dimintai pertanggungjawaban dengan hanya mengizinkan jenis tipu daya hukum ini ketika manusia pada akhirnya memegang kendali. Pemegang saham manusia dapat mengambil tindakan terhadap kepemilikan AI. Sama untuk dewan direksi berbasis manusia.

Saya kira AI mungkin tidak terpikat pada pengawasan manusia ini. Sama seperti pendiri dan CEO manusia yang tidak terlalu tertarik untuk mempertanyakan setiap langkah mereka, mungkin AI mungkin mengambil sikap yang sama. Biarkan saya menjalankan bisnis ini dan keluar dari rambut saya (apakah AI punya rambut?).

AI adalah kepala honcho, keju besar.

Berita harian kita sepertinya dipenuhi dengan protes para pekerja yang kesal dengan atasan mereka. Pekerja manusia kesal dengan bos manusia. Anda mungkin sudah memikirkan slogan seperti apa yang akan digunakan untuk menunjukkan bahwa bos AI rusak.

Coba ini untuk ukuran:

• "Hai! Ho! AI Harus Pergi!”
• “Bos Tirani Saya Adalah AI. Saya hanya manusia!"
• “Bawa Kembali Bos Manusia, Mereka Mengakali AI”
• "AI Saya Adalah Brengsek"
• “Pecat Bos AI Saya, Demi Kemanusiaan”
• “AI Buruk. Manusia Baik.”

Atau akankah kita secara terbuka menyambut AI sebagai pemimpin perusahaan kita?

Jika Anda percaya bahwa AI pasti akan menjadi penguasa duniawi kita, sebaiknya kita mulai dengan menjadikan AI sebagai bos kita. Semuanya menanjak atau menurun dari sana.