Teknologi – Google menghentikan sementara operasional kecerdasan buatan AI Gemini usai terjadi kontroversi gambar rasial yang dihasilkannya. Raksasa teknologi AS ini sudah memblokir sementara model kecerdasan buatan barunya yang menghasilkan gambar tentara Jerman pada perang dunia II dan bangsa Viking sebagai orang kulit berwarna, ras yang berbeda dari aslinya. Perusahaan teknologi ini mengatakan akan menghentikan model Gemini yang menghasilkan gambar orang setelah pengguna media sosial memposting contoh gambar yang dihasilkan oleh alat ini yang menggambarkan beberapa tokoh sejarah dalam berbagai etnis dan jenis kelamin.
“Kami sedang berupaya untuk mengatasi masalah yang terjadi pada fitur pembuatan gambar Gemini. Sementara kami melakukan hal ini, kami akan menghentikan sementara pembuatan gambar orang dan akan segera merilis versi yang lebih baik,” kata Google dalam sebuah pernyataan di X.
Google tidak merujuk pada gambar tertentu dalam pernyataannya. Namun, contoh-contoh hasil gambar Gemini tersedia secara luas di X, disertai dengan komentar tentang masalah akurasi dan bias AI. Direktur senior di tim Gemini Google Jack Krawczyk telah mengakui generator gambar model ini memerlukan penyesuaian.
“Kami sedang berupaya untuk memperbaiki penggambaran semacam ini dengan segera,” katanya, mengutip The Guardian.
“Pembuatan gambar AI Gemini memang menghasilkan berbagai macam orang. Dan itu umumnya merupakan hal yang baik, karena orang-orang di seluruh dunia menggunakannya. Tapi itu kurang tepat sasaran di sini,” tambahnya.
Krawczyk menambahkan dalam sebuah pernyataan di X bahwa prinsip-prinsip AI Google membuat alat pembuat gambarnya untuk “mencerminkan basis pengguna global kami.”
Dia juga menambahkan bahwa Google akan terus melakukan hal ini untuk permintaan gambar yang “terbuka” seperti “seseorang yang sedang berjalan-jalan dengan anjing” tetapi mengakui bahwa respon yang diminta dengan kemiringan historis membutuhkan peningkatan lebih lanjut.
“Konteks historis memiliki lebih banyak nuansa dan kami akan menyesuaikan lebih lanjut untuk mengakomodasi hal tersebut,” katanya.
Melansir The Verge, Google mulai menawarkan pembuatan gambar melalui platform AI Gemini (sebelumnya Bard) pada awal bulan ini, mengejar fitur yang ditawarkan pesaing seperti OpenAI.