KALIMANTAN TENGAH — Jaksa Kota San Francisco, David Chiu, resmi memerintahkan Apple dan Google untuk segera menurunkan 13 aplikasi bertenaga AI yang dikenal sebagai "nudify" dari toko aplikasi masing-masing. Dalam surat yang dilaporkan oleh Wired, Chiu menuduh kedua raksasa teknologi itu telah "membantu dan bersekongkol" dalam penyebaran gambar intim nonkonsensual yang dihasilkan oleh kecerdasan buatan.
Ini bukan kali pertama Chiu bergerak melawan platform deepfake. Sebelumnya, ia telah menggugat 16 situs web yang memungkinkan pengguna mengubah foto perempuan dan anak perempuan menjadi konten pornografi menggunakan AI. Kini, ia menargetkan aplikasi-aplikasi yang beredar langsung di ekosistem Apple dan Google.
Modus dan Dampak Aplikasi Berbahaya
Laporan dari The Tech Transparency Project (TTP) awal tahun ini mengungkap fakta mengejutkan: aplikasi-aplikasi ini kerap lolos dari moderasi Apple dan Google. Bahkan, beberapa di antaranya ditemukan sedang dipromosikan secara aktif di App Store dan Google Play.
Yang lebih mengkhawatirkan, banyak dari aplikasi ini diberi rating "E" (untuk Semua Umur), sehingga anak-anak bisa mengunduhnya. Menurut TTP, mencari aplikasi ini semudah mengetik kata kunci seperti "nudify" atau "undress" di kolom pencarian toko aplikasi.
Keuntungan Finansial dan Tanggung Jawab Platform
Chiu menyatakan, Apple dan Google kemungkinan telah meraup jutaan dolar dari pembayaran dalam aplikasi (in-app payment) dari aplikasi-aplikasi tersebut. Ia menekankan bahwa toko aplikasi mereka membutuhkan moderasi yang lebih ketat untuk memastikan aplikasi semacam ini tidak pernah disetujui.
Ketika dikonfirmasi Wired, juru bicara Google mengatakan perusahaannya telah menghapus "ratusan" aplikasi dengan fitur nudifikasi, termasuk lima aplikasi yang disebutkan oleh Chiu. Google menegaskan kebijakannya melarang konten seksual dan akan mengambil "tindakan cepat" jika aplikasi yang dilaporkan melanggar aturan. Sementara itu, Apple tidak memberikan komentar hingga berita ini diturunkan.
Masalah Sistemik di Industri Teknologi
Apple dan Google bukan satu-satunya perusahaan yang bergulat dengan proliferasi deepfake. Meta, melalui Oversight Board-nya, baru-baru ini meminta perusahaan tersebut memperkuat perlindungan bagi orang biasa yang menjadi sasaran, karena aturan yang ada saat ini dinilai lebih melindungi figur publik.
Elon Musk melalui perusahaannya, xAI, juga telah menjadi subjek beberapa gugatan hukum terkait deepfake nonkonsensual. Situasi ini menunjukkan bahwa masalah ini bukan sekadar pelanggaran kebijakan toko aplikasi, melainkan tantangan sistemik yang dihadapi seluruh industri teknologi.
