Satu Lagi! Peneliti AI Kedua Dipecat Google

Suara.com - Kedua kalinya dalam tiga bulan, seorang peneliti terkemuka di bidang etika dalam kecerdasan buatan (AI) mengatakan, telah dipecat Google.

Pada Jumat (7/5/2021), peneliti Margaret Mitchell mengatakan, dia telah dipecat dari lab AI perusahaan, Google Brain, tempat dia sebelumnya memimpin kelompok yang mengerjakan pendekatan etis untuk kecerdasan buatan.

Mantan wakil pemimpin grup itu, Timnit Gebru, keluar dari Google pada bulan Desember.

Gebru mengatakan, dia telah dipecat setelah menolak mencabut atau menghapus namanya dari makalah penelitian yang mendesak kehati-hatian dengan sistem AI yang memproses teks, termasuk teknologi yang digunakan Google di mesin pencari.

Gebru mengatakan, dia yakin bahwa perselisihan mungkin telah digunakan sebagai alasan perusahaan mengeluarkannya karena kesediaannya, untuk berbicara tentang perlakuan buruk Google terhadap karyawan dan perempuan kulit hitam.

Mitchell mengetahui bahwa dia telah dilepaskan melalui email pada Jumat sore.

Di dalam Google, tim lamanya diberi tahu seorang manajer bahwa dia tidak akan kembali dari skorsing yang dimulai bulan lalu.

Dunia yang lebih luas mengetahui ketika Mitchell memosting dua kata di Twitter, "Saya dipecat."

Dalam sebuah pernyataan, juru bicara Google mengatakan, Mitchell telah membagikan dokumen rahasia bisnis yang sensitif dan data pribadi karyawan lain, di luar perusahaan.

Setelah penangguhan Mitchell bulan lalu, Google mengatakan, aktivitas di akunnya telah memicu sistem keamanan.

Sumber yang mengetahui skorsing Mitchell mengatakan, dia telah menggunakan skrip untuk menelusuri emailnya untuk materi yang berkaitan dengan waktu Gebru di perusahaan.

Gebru, Mitchell, dan tim AI etis mereka di Google adalah kontributor utama bagi pertumbuhan terbaru dalam penelitian oleh para ahli AI yang ingin memahami dan mengurangi potensi kerugian AI.

Mereka berkontribusi pada keputusan eksekutif Google untuk membatasi beberapa penawaran AI perusahaan, seperti dengan menghentikan fitur layanan pengenalan gambar yang berusaha mengidentifikasi jenis kelamin di foto.

Keluarnya dua perempuan kritis dari Google, telah menarik perhatian baru pada ketegangan yang melekat dalam perusahaan, yang mencari keuntungan dari AI sambil juga mempertahankan staf untuk menyelidiki batasan apa yang harus ditempatkan pada teknologi.

Bos riset AI Google, Jeff Dean, sebelumnya mengatakan bahwa makalah penelitian yang menyebabkan kepergian Gebru berkualitas buruk, dan dia tidak menyebutkan beberapa cara untuk memperbaiki kekurangan dalam sistem teks AI.

Peneliti di dalam dan di luar Google telah membantah karakterisasi itu. Lebih dari 2.600 karyawan Google menandatangani surat memprotes perlakuan Gebru.

Akhir Desember, makalah tersebut diterima di konferensi terkemuka tentang keadilan dalam pembelajaran mesin yang akan dipresentasikan bulan depan.

Nama Gebru dilampirkan, tanpa afiliasi Google, di samping "Shmargaret Schmitchell", nama samaran yang jelas dari Mitchell, dan dua peneliti dari Universitas Washington.

Pada Jumat (7/5/2021), Alex Hanna, anggota grup AI etis Google yang masih berada di perusahaan, men-tweet bahwa Google "menjalankan kampanye kotor" terhadap Gebru dan Mitchell.

Pada Kamis (6/5/2021), Google mengklaim masih berdedikasi untuk mengembangkan teknologi AI secara bertanggung jawab dan mengumumkan bahwa Marian Croak, wakil presiden di perusahaan, akan mengambil alih pekerjaan itu.

Dalam video perusahaan, Croak mengatakan, dia akan mengkonsolidasikan pekerjaan pada AI yang bertanggung jawab di perusahaan dan melembagakan, peninjauan sistem AI Google yang telah diterapkan atau sedang dalam pengembangan.

Dalam memo internal pada hari Jumat, dilansir laman Wired, Minggu (9/5/2021), Dean mengatakan, Google juga akan mengerjakan ulang prosesnya untuk meninjau publikasi penelitian dan meminta eksekutif senior untuk menunjukkan kemajuan dalam meningkatkan keragaman di antara karyawan di perusahaan tersebut.

Gebru mengatakan, dia sebelumnya meminta perubahan di kedua sisi dengan sedikit keberhasilan.

Memo Dean juga menyatakan bahwa kepergian Gebru dari perusahaan telah membuat beberapa Googler mempertanyakan masa depan mereka di perusahaan, dan mungkin menghalangi ahli teknologi Black untuk bekerja di industri tersebut.

"Saya mengerti kami bisa dan seharusnya menangani situasi ini dengan lebih sensitif. Untuk itu, saya minta maaf," tulisnya.