Periksa alat ‘hostware’ kecerdasan buatan Anda untuk mengetahui adanya bias, kata kepala badan AS
Kepala badan AS yang ditugasi menegakkan hak-hak sipil di tempat kerja mengatakan alat “bossware” bertenaga kecerdasan buatan yang memantau dengan cermat keberadaan, penekanan tombol, dan produktivitas pekerja juga dapat melanggar undang-undang diskriminasi.
Charlotte Burrows, ketua Equal Employment Opportunity Commission, mengatakan kepada The Associated Press bahwa lembaga tersebut berusaha mendidik pengusaha dan penyedia teknologi tentang penggunaan alat pengawasan ini serta alat AI yang menyederhanakan pekerjaan mengevaluasi prospek pekerjaan.
Dan jika mereka tidak berhati-hati dengan, katakanlah, algoritma pemantauan jadwal yang kejam yang memberikan sanksi bagi wanita hamil atau Muslim yang meluangkan waktu untuk sholat, atau yang memungkinkan perangkat lunak yang cacat untuk menyaring lulusan dari wanita atau perguruan tinggi yang secara historis berkulit hitam – mereka tidak bisa melakukannya. AI menyalahkan ketika EEOC datang menelepon.
“Saya tidak malu menggunakan otoritas penegakan hukum kami bila diperlukan,” kata Burrows. “Kami ingin bekerja sama dengan pemberi kerja, namun tentu saja tidak ada pengecualian dari undang-undang hak-hak sipil karena Anda melakukan diskriminasi dengan cara-cara teknologi tinggi.”
Badan federal tersebut pada hari Kamis menerbitkan serangkaian pedoman terbaru tentang penggunaan sistem otomatis dalam pengambilan keputusan ketenagakerjaan, seperti siapa yang akan dipekerjakan atau dipromosikan. Bab ini menjelaskan bagaimana menafsirkan ketentuan utama Undang-Undang Hak Sipil tahun 1964 yang dikenal sebagai Judul VII yang melarang diskriminasi pekerjaan berdasarkan ras, warna kulit, asal negara, agama atau jenis kelamin, yang mencakup bias terhadap pekerja gay, lesbian, dan transgender.
Burrows mengatakan salah satu contoh penting melibatkan penyaring resume yang banyak digunakan dan apakah mereka dapat menghasilkan hasil yang bias jika didasarkan pada data yang bias.
“Apa yang akan terjadi adalah adanya algoritma yang mencari pola yang mencerminkan pola yang sudah dikenalnya,” katanya. “Akan dilatih data-data yang berasal dari pegawai yang ada. Dan jika saat ini Anda memiliki karyawan yang tidak beragam, kemungkinan besar Anda akan memecat orang-orang yang tidak mirip dengan karyawan Anda saat ini.”
Amazon, misalnya, tidak lagi menggunakan alat pemindai resume untuk merekrut talenta terbaik setelah menemukan bahwa mereka lebih menyukai laki-laki untuk posisi di bidang teknologi – sebagian karena mereka membandingkan kandidat pekerjaan dengan tenaga kerja di bidang teknologi yang didominasi laki-laki.
Badan-badan lain, termasuk Departemen Kehakiman, telah mengirimkan peringatan serupa pada tahun lalu, dengan serangkaian panduan sebelumnya tentang bagaimana beberapa alat AI dapat mendiskriminasi penyandang disabilitas dan melanggar Undang-Undang Penyandang Disabilitas Amerika.
Dalam beberapa kasus, EEOC telah mengambil tindakan. Pada bulan Maret, operator situs pencarian kerja teknologi Dice.com sepakat dengan agensi tersebut untuk mengakhiri penyelidikan atas tuduhan bahwa mereka mengizinkan lowongan pekerjaan untuk mengecualikan pekerja kelahiran AS dan mendukung imigran yang mencari visa kerja. Untuk menyelesaikan kasus ini, perusahaan induknya, DHI Group, setuju untuk menulis ulang programnya menjadi “mengikis” bahasa yang diskriminatif seperti “H-1B Saja”, yang merujuk pada jenis visa kerja.
Sebagian besar pekerjaan EEOC melibatkan penyelidikan atas pengaduan yang diajukan oleh karyawan yang yakin bahwa mereka telah didiskriminasi. Dan meskipun sulit bagi pelamar kerja untuk mengetahui apakah alat perekrutan yang bias menyebabkan mereka ditolak pekerjaan, Burrows mengatakan “umumnya ada lebih banyak kesadaran” di kalangan pekerja tentang alat yang semakin banyak digunakan untuk meningkatkan produktivitas mereka dalam melakukan pemantauan.
Alat-alat tersebut berkisar dari perangkat frekuensi radio untuk melacak perawat, memantau jadwal pekerja gudang dan pengemudi pengiriman yang dikontrol ketat dari menit ke menit, hingga melacak penekanan tombol atau klik mouse komputer ketika banyak pekerja kantoran mulai bekerja dari rumah selama pandemi. Beberapa mungkin melanggar undang-undang hak-hak sipil tergantung pada bagaimana undang-undang tersebut digunakan.
Burrows mencatat bahwa Dewan Hubungan Perburuhan Nasional juga sedang mempelajari alat AI semacam itu. NLRB mengirimkan memo tahun lalu yang memperingatkan bahwa pengawasan dan alat manajemen yang terlalu mengganggu dapat mengganggu hak pekerja untuk berkomunikasi satu sama lain tentang kegiatan serikat pekerja atau kondisi yang tidak aman.
“Saya pikir pendekatan terbaik – saya tidak mengatakan jangan menggunakannya, ini tidak ilegal – tetapi adalah dengan benar-benar memikirkan apa yang ingin diukur oleh pengusaha dan mungkin mengukurnya secara langsung,” kata Burrows. “Jika Anda mencoba melihat apakah pekerjaan telah selesai, mungkin lihat apakah pekerjaan telah selesai.”