Bayangkan Anda mengirim puluhan lamaran pekerjaan, namun tidak sekali pun menerima panggilan wawancara. Anda mulai curiga: apakah sistem yang menyaring resume Anda benar-benar adil? Bagi Derek Mobley, seorang pria berusia lebih dari 40 tahun, berkulit hitam, dan penyandang disabilitas di California, kecurigaan itu membawanya ke pengadilan. Kini, Workday — raksasa perangkat lunak sumber daya manusia yang digunakan oleh lebih dari separuh perusahaan Fortune 500 — terpaksa menjawab tuduhan bahwa alat penyaringan pekerjaan berbasis kecerdasan buatan (AI) yang dikembangkannya bersifat diskriminatif. Seorang hakim memutuskan bahwa gugatan tersebut layak dilanjutkan.
Tuduhan Diskriminasi dalam Algoritma
Mobley menuduh alat penyaringan AI Workday secara otomatis menolak lebih dari 100 lamaran pekerjaannya, tanpa penilaian manusia. Menurut dokumen pengadilan, penolakan berulang itu terkait dengan tiga ciri yang dilindungi undang-undang: usianya yang di atas 40 tahun, identitasnya sebagai pria kulit hitam, dan disabilitas fisik yang dialaminya. Ia berpendapat bahwa algoritma Workday — yang sering menjadi titik masuk utama dalam proses rekrutmen di perusahaan besar — telah menyaringnya secara ilegal berdasarkan profil demografis, bukan kualifikasi.
Workday menyediakan sistem manajemen sumber daya manusia yang mencakup penyaringan resume, penilaian kandidat, dan manajemen wawancara. Alat saringannya dirancang untuk mengidentifikasi kandidat berdasarkan kata kunci, pengalaman kerja, dan struktur resume. Namun, pakar etika teknologi menegaskan bahwa sistem semacam itu mudah menyerap bias dari data pelatihan atau keputusan rekrutmen masa lalu. Kasus Mobley bukan yang pertama: Amazon pada 2018 membuang alat rekrutmen AI setelah menemukan bahwa alat tersebut secara konsisten menurunkan skor kandidat wanita. Tetapi kasus ini unik karena menargetkan penyedia perangkat lunak — bukan pemberi kerja — sebagai pihak yang bertanggung jawab.
Kekebalan Perangkat Lunak? Pengadilan Berkata Tidak
Workday mencoba mengesampingkan gugatan dengan argumen bahwa ia bukan pemberi kerja dan oleh karena itu tidak tunduk pada California Civil Rights Act atau U.S. Equal Employment Opportunity Protection Act. Namun, Hakim Distrik AS Rita Lin menolak argumen tersebut pada 3 April 2025. Dalam keputusannya, ia menyatakan bahwa entitas yang merancang, menjual, dan mempromosikan alat penyaringan pekerjaan dapat dimintai pertanggungjawaban secara hukum jika alat tersebut menyebabkan diskriminasi sistemik — bahkan jika alat tersebut tidak membuat keputusan akhir perekrutan.
Keputusan ini menandai pergeseran penting dalam interpretasi undang-undang ketenagakerjaan. Selama ini, litigasi anti-diskriminasi hampir secara eksklusif ditujukan kepada pemberi kerja. Kini, pengadilan mengakui bahwa penyedia teknologi juga memainkan peran aktif dalam membentuk akses ke peluang kerja. Seperti dinyatakan dalam analisis hukum yang dikutip dalam dokumen pengadilan: *“Jika alat penyaringan AI berfungsi sebagai gerbang untuk pekerjaan, maka mereka yang merancang dan menjual alat tersebut harus bertanggung jawab jika gerbang itu bias.”*
Implikasi Lebih Luas untuk Industri AI
Kasus ini merupakan ujian awal bagi prinsip akuntabilitas algoritma di sektor pekerjaan. Penggunaan AI dalam rekrutmen semakin meluas: dari penyaringan resume otomatis hingga penilaian ekspresi wajah dan nada suara dalam wawancara video. Jika Workday terbukti bersalah, industri mungkin terpaksa mengubah desain algoritma, mewajibkan audit bias independen, dan meningkatkan transparansi mengenai cara keputusan dibuat.
Pakar etika AI menekankan bahwa bias dalam alat penyaringan bukan semata-mata hasil kelalaian teknis — ia sering muncul ketika model dilatih menggunakan data historis pekerjaan yang tidak seimbang. Misalnya, jika data pelatihan dominan terdiri dari kandidat muda, berkulit putih, dan tanpa disabilitas, algoritma dapat belajar mengaitkan ciri-ciri tersebut dengan 'kualifikasi', lalu secara sistematis menyingkirkan kandidat lain. Tanpa pengujian berkala dan pengawasan pihak ketiga, risiko penguatan ketidaksetaraan struktural tetap tinggi.
Workday menegaskan bahwa alatnya telah melalui proses kepatuhan internal dan didukung oleh tim etika korporat. Namun, kritik dari pengacara hak sipil dan peneliti teknologi menegaskan bahwa audit internal tidak cukup. Mereka menyerukan perundangan yang mewajibkan verifikasi independen, dokumentasi algoritma, dan mekanisme banding bagi kandidat yang ditolak secara otomatis. Kasus Mobley juga menyoroti hambatan praktis: banyak individu tidak memiliki sumber daya atau dukungan untuk mempertahankan tuntutan hukum yang kompleks dan berlarut-larut — bahkan jika mereka mencurigai diskriminasi algoritma.
Masa Depan Rekrutmen Cerdas
Keputusan pengadilan minggu ini bukanlah putusan bersalah; itu hanya mengizinkan gugatan dilanjutkan ke tahap berikutnya. Namun, perjalanan kasus ini akan dipantau ketat oleh para pemimpin industri, badan pengatur, dan aktivis hak sipil. Beberapa wilayah di Amerika Serikat sudah mengambil langkah proaktif: New York City mewajibkan audit bias tahunan untuk alat AI dalam rekrutmen sejak 2023, sementara Illinois dan Washington sedang mempertimbangkan kerangka hukum serupa.
Bagi Mobley, kasus ini adalah tentang hak asasi — peluang kerja yang dinilai berdasarkan keterampilan, bukan usia atau warna kulit. Bagi industri teknologi, ini adalah peringatan yang jelas: keputusan yang dibuat oleh algoritma bukan lagi sekadar masalah teknis, tetapi masalah keadilan, tanggung jawab, dan akuntabilitas hukum. Baik Workday akhirnya kalah atau menang, satu hal tidak dapat disangkal — pintu ke pengadilan kini terbuka bagi mereka yang dirugikan oleh kode.