Insinyur Microsoft memohon kepada FTC untuk menghentikan generator gambar Copilot yang ofensif – Pengujian kami mengonfirmasi bahwa ini adalah masalah serius

Insinyur Microsoft memohon kepada FTC untuk menghentikan generator gambar Copilot yang ofensif – Pengujian kami mengonfirmasi bahwa ini adalah masalah serius

Pemerintah dan media arus utama mungkin akhirnya bisa mengikuti apa yang kami laporkan pada bulan Januari: generator gambar AI menghasilkan gambar yang menyinggung dan mengandung karakter yang dilindungi hak cipta. Hari ini, Insinyur Microsoft Shane Jones mengirimkan surat terbuka kepada Komisi Perdagangan Federal (FTC), meminta badan tersebut untuk memperingatkan masyarakat tentang risiko Copilot Designer, alat pembuat gambar perusahaan. Jones juga mengirimkan catatan kepada Dewan Direksi Microsoft, memintanya untuk menyelidiki keputusan raksasa perangkat lunak tersebut untuk terus memasarkan produk dengan “risiko keselamatan publik yang signifikan”.

Dalam catatannya kepada dewan, Jones merinci bagaimana, dalam pengujiannya, Copilot Designer (sebelumnya dikenal sebagai Bing Image Generator), mengeluarkan konten yang menyinggung, mulai dari gambar seksual wanita hingga gambar “remaja yang berperan sebagai pembunuh dengan senapan serbu”. Dia juga mencatat bahwa Microsoft gagal menanggapi kekhawatirannya dengan serius, memintanya untuk mengirim email ke Office of Responsible AI perusahaan, yang tampaknya tidak melacak keluhan yang diterimanya, atau meneruskannya ke pengembang yang bertanggung jawab atas produk tersebut.