Peristiwa Dunia Nyata Mendorong Peningkatan Ujaran Kebencian Daring, Temuan Studi

Garis atas

Peristiwa dunia nyata seperti pemilu dan protes dapat menyebabkan lonjakan ujaran kebencian online di platform arus utama dan pinggiran, a Studi diterbitkan Rabu dalam jurnal PLOS ONE ditemukan, dengan posting kebencian melonjak bahkan ketika banyak platform media sosial mencoba menindak.

Fakta-fakta kunci

Dengan menggunakan analisis pembelajaran mesin—suatu cara menganalisis data yang mengotomatiskan pembuatan model—para peneliti mengamati tujuh jenis ujaran kebencian online dalam 59 juta postingan oleh pengguna dari 1,150 komunitas kebencian online, forum online tempat ujaran kebencian kemungkinan besar digunakan, termasuk di situs-situs seperti Facebook, Instagram, 4Chan dan Telegram.

Jumlah total postingan termasuk ujaran kebencian dalam rata-rata bergulir tujuh hari cenderung meningkat selama studi, yang berlangsung dari Juni 2019 hingga Desember 2020, meningkat sebesar 67% dari 60,000 menjadi 100,000 postingan setiap hari.

Terkadang ujaran kebencian pengguna media sosial berkembang hingga mencakup kelompok-kelompok yang tidak terlibat dalam peristiwa dunia nyata saat itu.

Di antara contoh yang dicatat oleh para peneliti adalah peningkatan pidato kebencian agama dan anti-semitisme setelah pembunuhan AS terhadap Jenderal Iran Qasem Soleimani pada awal 2020, dan peningkatan pidato kebencian agama dan gender setelah pemilu AS November 2020, di mana Kamala Harris adalah terpilih sebagai wakil presiden perempuan pertama.

Terlepas dari upaya masing-masing platform untuk menghapus ujaran kebencian, ujaran kebencian online terus bertahan, menurut para peneliti.

Peneliti menunjuk perhatian media sebagai salah satu faktor kunci dalam mendorong postingan terkait kebencian: Misalnya, ada sedikit perhatian media ketika Breonna Taylor pertama kali dibunuh oleh polisi, dan dengan demikian peneliti menemukan sedikit ujaran kebencian online, tetapi ketika George Floyd terbunuh beberapa bulan kemudian dan perhatian media tumbuh, begitu pula ujaran kebencian.

Nomor Besar

250%. Begitulah tingkat pidato kebencian rasial meningkat setelah pembunuhan George Floyd. Itu adalah lonjakan terbesar dalam ujaran kebencian yang ditemukan peneliti dalam periode penelitian.

Latar Belakang Kunci

Ujaran kebencian telah mengganggu jejaring sosial selama bertahun-tahun: Seperti platform Facebook dan Twitter memiliki kebijakan yang melarang ujaran kebencian dan telah berjanji untuk menghapus konten yang menyinggung, tetapi hal itu tidak menghilangkan penyebaran postingan tersebut. Awal bulan ini, hampir dua lusin orang independen yang ditunjuk PBB pakar hak asasi manusia mendesak lebih banyak akuntabilitas dari platform media sosial untuk mengurangi jumlah ujaran kebencian online. Dan para ahli hak asasi manusia tidak sendirian dalam keinginan mereka agar perusahaan media sosial berbuat lebih banyak: Desember Survei USA Today-Universitas Suffolk menemukan 52% responden mengatakan platform media sosial harus membatasi konten kebencian dan tidak akurat, sementara 38% mengatakan situs harus menjadi forum terbuka.

Garis singgung

Beberapa hari setelah miliarder Elon Musk menutup kesepakatannya untuk membeli Twitter tahun lalu, menjanjikan pelonggaran kebijakan moderasi situs, situs tersebut melihat "lonjakan perilaku penuh kebencian". menurut Yoel Roth, mantan kepala keselamatan dan integritas Twitter. Pada saat itu Roth men-tweet bahwa tim keamanan menghapus lebih dari 1,500 akun karena perilaku kebencian dalam periode tiga hari. Musk telah menghadapi kritik tajam dari kelompok advokasi yang berpendapat bahwa di bawah kepemimpinan Musk, dan dengan melonggarkan peraturan pidato, volume ujaran kebencian di Twitter telah tumbuh secara dramatis, meskipun Musk telah bersikeras tayangan pada tweet kebencian telah menurun.

Selanjutnya Membaca

Kepala Keamanan Twitter Mengakui 'Lonjakan Perilaku Kebencian' Karena Formulir Dilaporkan Membatasi Akses ke Alat Moderasi (Forbes)

Beberapa Reservasi Tentang Persyaratan Konsistensi Untuk Keputusan Moderasi Konten Media Sosial. (Forbes)

Apa yang Harus Dilakukan Pembuat Kebijakan untuk Mendorong Moderasi Konten Platform yang Lebih Baik? (Forbes)