Kematian Algoritma: Saat kita menuju kehidupan yang mendalam di Metaverse, alarm berbunyi. Perusahaan teknologi perlu mengatur algoritme mereka, atau ini bisa menjadi masa depan yang berisiko bagi sebagian orang.
Meskipun kami belum berada di Web3, masalah dengan Web2 masih sangat mengkhawatirkan. Sementara algoritme yang dibuat oleh teknologi besar dapat bermanfaat bagi masyarakat, seperti yang memprediksi kejahatan di muka, ada orang lain yang merupakan bencana total.
Koroner Andrew Walker mengidentifikasi penyebab kematian Molly Rose Russell yang berusia 14 tahun sebagai tindakan melukai diri sendiri. Dia mengatakan hal ini disebabkan oleh depresi dan dampak negatif dari konten online.
Pejalan tersebut bahwa “tidak aman bagi kita untuk mengakui bunuh diri sebagai penyebab kematian.”
Kematian Algoritma: Instagram dan Pinterest
Pakar tersebut mengatakan bahwa Instagram dan Pinterest menggunakan algoritme yang memilih dan membagikan konten yang tidak pantas dengan siswa tanpa dia meminta informasi tersebut. Walker melaporkan, “Beberapa konten meromantisasi tindakan anak muda yang melukai diri sendiri, sementara yang lain mempromosikan isolasi dan membuat tidak mungkin untuk mendiskusikan masalah dengan orang-orang yang mungkin membantu.”
Menurut Wali, Russell menyimpan, menyukai, atau memposting lebih dari 2,000 postingan Instagram pada tahun 2017 menjelang kematiannya. Mereka semua terkait dengan bunuh diri, depresi atau menyakiti diri sendiri. Gadis itu juga menonton 138 film dengan sifat serupa. Di antara mereka adalah episode dari seri 13 Alasan Mengapa untuk orang 15+ dan 18+.
Seorang psikiater anak mengatakan selama persidangan bahwa setelah menganalisis apa yang telah ditonton Russell sesaat sebelum kematiannya, dia tidak dapat tidur nyenyak selama berminggu-minggu.
“10 Pin Depresi yang Mungkin Anda Suka”
Penyelidik menemukan ratusan foto melukai diri sendiri dan bunuh diri di akun Pinterest gadis itu. Ternyata platform itu juga mengirim email kepada siswa yang merekomendasikan konten yang tidak pantas. Beberapa dari mereka memiliki tajuk yang bertuliskan, "10 Pin Depresi yang Mungkin Anda Suka."
Kemungkinan materi yang dilihat oleh Molly, yang sudah menderita gangguan depresi dan rentan terhadap cedera terkait usia, memiliki efek negatif padanya. Hal ini juga mungkin telah berkontribusi lebih dari minimal terhadap kematian anak.
Pejabat Meta dan Pinterest meminta maaf dan mengakui bahwa Russell menemukan konten di platform yang seharusnya tidak ada. Seorang juru bicara Meta mengatakan, “Kami ingin Instagram memberikan pengalaman positif bagi semua orang, terutama remaja. Kami akan melihat dari dekat laporan lengkap koroner saat dia menyampaikannya.”
Pinterest telah menyatakan bahwa mereka terus meningkatkan platform dan berkomitmen untuk memastikan keamanan untuk semua.
Kasus lainnya
Tiktok digugat pada bulan Mei atas dugaan "rekomendasi mematikan" dari algoritmenya. Pada Desember 2021, asisten virtual Amazon Alexa mengusulkan tantangan yang fatale untuk anak 10 tahun.
Ini adalah dunia baru yang berani, tetapi juga menakutkan. Teknologi besar tidak bisa berpuas diri tentang peran masa depan yang mereka miliki dalam masalah ini.
Punya sesuatu untuk dikatakan tentang kematian algoritma atau apa pun? Tulislah kepada kami atau bergabung dalam diskusi kami Saluran Telegram. Anda juga dapat menangkap kami di Tik Tok, Facebook, atau Twitter.
Penolakan tanggung jawab
Semua informasi yang terkandung di situs web kami diterbitkan dengan itikad baik dan hanya untuk tujuan informasi umum. Tindakan apa pun yang dilakukan pembaca atas informasi yang ditemukan di situs web kami sepenuhnya merupakan risiko mereka sendiri.
Sumber: https://beincrypto.com/algorithm-death-instagram-pinterest-suggested-content-killed-teenager/