GenPI.co – Pemerintahan Presiden Joe Biden mendorong industri teknologi dan lembaga keuangan untuk menutup pasar yang sedang berkembang berisi gambar-gambar syur yang melecehkan yang dibuat dengan teknologi kecerdasan buatan.
Dilansir AP News, alat AI generatif baru memudahkan transformasi kemiripan seseorang menjadi deepfake AI yang eksplisit secara seksual dan membagikan gambar realistis tersebut ke ruang obrolan atau media sosial.
Para korban, baik selebritas maupun anak-anak, tidak mempunyai jalan lain untuk menghentikannya.
Gedung Putih pada hari Kamis mengeluarkan seruan untuk mencari kerja sama sukarela dari perusahaan-perusahaan karena tidak adanya undang-undang federal.
Dengan berkomitmen pada serangkaian langkah-langkah khusus, para pejabat berharap sektor swasta dapat membatasi pembuatan, penyebaran, dan monetisasi gambar-gambar AI non-konsensual tersebut, termasuk gambar eksplisit anak-anak.
“Saat AI generatif muncul, semua orang berspekulasi tentang di mana dampak buruk pertama akan terjadi. Dan saya pikir kita punya jawabannya,” kata kepala penasihat sains Biden, Arati Prabhakar, dan Direktur Kantor Kebijakan Sains dan Teknologi Gedung Putih.
Dia menggambarkan kepada The Associated Press sebuah “percepatan fenomenal” dari gambar-gambar non-konsensual yang dipicu oleh alat-alat AI dan sebagian besar menargetkan perempuan dan anak perempuan dengan cara yang dapat mengubah kehidupan mereka.
“Jika Anda seorang gadis remaja, jika Anda seorang anak gay, ini adalah masalah yang dialami banyak orang saat ini,” katanya.
“Kami telah melihat percepatan karena AI generatif yang bergerak sangat cepat. Dan hal tercepat yang dapat terjadi adalah perusahaan mengambil tindakan dan mengambil tanggung jawab.”
Sebuah dokumen yang dibagikan kepada AP menjelang peluncurannya pada hari Kamis menyerukan tindakan tidak hanya dari pengembang AI tetapi juga pemroses pembayaran, lembaga keuangan, penyedia komputasi awan, mesin pencari, dan penjaga gerbang, yaitu Apple dan Google, yang mengontrol apa yang masuk ke toko aplikasi seluler.
Sektor swasta harus mengambil tindakan untuk “mengganggu monetisasi” pelecehan syur berbasis gambar, membatasi akses pembayaran terutama ke situs-situs yang mengiklankan gambar eksplisit anak di bawah umur, kata pemerintah. (*)
Simak video pilihan redaksi berikut ini:
https://ouo.io/rmeWvC
GENPI 