Garis atas
Alat rekrutmen pekerjaan yang mengklaim menggunakan kecerdasan buatan untuk menghindari bias gender dan rasial mungkin tidak meningkatkan keragaman dalam perekrutan, dan benar-benar dapat melanggengkan prasangka tersebut, menurut para peneliti dari University of Cambridge pada hari Minggu, melemparkan program—yang telah menuai kritik di masa lalu— sebagai cara menggunakan teknologi untuk menawarkan perbaikan cepat untuk masalah yang lebih dalam.
Sistem Pengenalan Wajah yang didukung AI Google Vision ditampilkan.
Getty Images
Fakta-fakta kunci
Dalam makalah yang diterbitkan oleh Filsafat dan Teknologi, peneliti melihat klaim dari beberapa perusahaan yang menawarkan alat rekrutmen bertenaga AI, banyak di antaranya mengklaim menghilangkan bias dan mempromosikan keragaman dengan menyembunyikan nama, jenis kelamin, dan pengenal kandidat lainnya, dan beberapa di antaranya peringkat kandidat berdasarkan pemindaian resume, penilaian online, dan analisis ucapan dan ekspresi wajah pelamar.
Para peneliti—dua profesor di Pusat Studi Gender Universitas Cambridge—berpendapat bahwa alat ini sebenarnya dapat mempromosikan keseragaman dalam perekrutan karena mereka mereproduksi bias budaya dari "kandidat ideal", yang secara historis adalah pria kulit putih atau Eropa.
Alat tersebut juga mungkin tidak meningkatkan keragaman karena didasarkan pada data perusahaan masa lalu dan dengan demikian dapat mempromosikan kandidat yang paling mirip dengan karyawan saat ini.
Ada "sedikit akuntabilitas tentang bagaimana produk ini dibuat atau diuji," Eleanor Drage, rekan penulis studi dan peneliti di Pusat Studi Gender Universitas Cambridge, mengatakan dalam sebuah pernyataan, menambahkan bahwa teknologi itu dapat berfungsi sebagai "berbahaya". sumber dari “informasi yang salah tentang bagaimana perekrutan dapat 'tidak bias' dan dibuat lebih adil.”
Kutipan penting
“Dengan mengklaim bahwa rasisme, seksisme, dan bentuk diskriminasi lainnya dapat dihilangkan dari proses perekrutan menggunakan kecerdasan buatan, perusahaan-perusahaan ini mengurangi ras dan gender hingga titik data yang tidak signifikan, daripada sistem kekuasaan yang membentuk cara kita bergerak di dunia, ” kata Drag dalam sebuah pernyataan.
Garis singgung
Amazon mengumumkan pada 2018 itu akan berhenti menggunakan alat rekrutmen AI untuk meninjau resume pelamar kerja setelah ditemukan bahwa sistem tersebut sangat mendiskriminasi perempuan. Hal ini karena model komputer yang diandalkan dikembangkan berdasarkan resume yang dikirimkan ke perusahaan selama 10 tahun terakhir, yang sebagian besar berasal dari pelamar laki-laki.
Latar Belakang Kunci
Organisasi semakin beralih ke AI untuk membantu mengelola proses rekrutmen pekerjaan. Jadi satu Jajak pendapat 2020 dari lebih dari 300 pemimpin sumber daya manusia yang dikutip oleh penulis makalah hari Minggu, perusahaan konsultan Gartner menemukan 86% pengusaha menggunakan teknologi virtual dalam praktik perekrutan mereka, sebuah tren yang semakin cepat sejak pandemi Covid-19 memaksa banyak orang untuk beralih pekerjaan secara online. Sementara beberapa perusahaan berpendapat AI dapat menawarkan proses perekrutan yang lebih hemat biaya dan waktu, beberapa ahli memiliki ditemukan sistem memiliki kecenderungan untuk mempromosikan—bukan menghilangkan—perekrutan yang bias rasial dan gender dengan mereplikasi prasangka yang ada dari dunia nyata. Beberapa anggota parlemen AS telah ditujukan untuk mengatasi bias dalam sistem kecerdasan buatan, karena teknologi terus berkembang dengan cepat dan hanya ada sedikit undang-undang yang mengaturnya. Gedung Putih minggu ini dirilis sebuah “Cetak Biru untuk AI Bill of Rights,” yang berpendapat bahwa algoritma yang digunakan dalam perekrutan telah ditemukan untuk “mencerminkan dan mereproduksi ketidakadilan yang tidak diinginkan yang ada” atau menanamkan “bias dan diskriminasi” baru. Cetak biru—yang tidak mengikat secara hukum atau kebijakan resmi pemerintah—menyerukan kepada perusahaan untuk memastikan AI tidak mendiskriminasi atau melanggar privasi data, dan untuk membuat pengguna mengetahui kapan teknologi tersebut digunakan.
Yang Harus Diperhatikan
Dalam daftar rekomendasi, penulis Sunday's Filsafat dan Teknologi makalah menyarankan perusahaan yang mengembangkan teknologi AI fokus pada ketidaksetaraan sistematis yang lebih luas daripada "contoh bias individual." Misalnya, mereka menyarankan pengembang perangkat lunak untuk memeriksa kategori yang digunakan untuk menyortir, memproses, dan mengkategorikan kandidat dan bagaimana kategori ini dapat mendorong diskriminasi dengan mengandalkan asumsi tertentu tentang gender dan ras. Para peneliti juga berpendapat bahwa profesional SDM harus mencoba memahami cara kerja alat rekrutmen AI dan beberapa keterbatasan potensial mereka.
Fakta Mengejutkan
Uni Eropa telah mengklasifikasikan perangkat lunak perekrutan bertenaga AI dan alat evaluasi kinerja sebagai "berisiko tinggi" dalam versi barunya draf kerangka hukum tentang AI, yang berarti alat tersebut akan lebih diawasi dan harus memenuhi persyaratan kepatuhan tertentu.
Selanjutnya Membaca
Sumber: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/