Gambar yang diubah ditemukan dalam iklan tukar wajah
Apple tampaknya tidak mampu menghentikan masuknya aplikasi yang disebut “guna ganda” yang tampak tidak berbahaya di permukaan tetapi membantu pengguna membuat pornografi deepfake — dengan harga yang mahal.
Apple bangga dalam mengatur Toko Aplikasidan bagian dari kontrol tersebut adalah mencegah aplikasi pornografi secara keseluruhan. Namun, ada batasan untuk kontrol ini mengingat beberapa aplikasi dapat menawarkan fitur yang dapat dengan mudah disalahgunakan oleh pengguna — tampaknya tanpa sepengetahuan Apple.
Menurut sebuah laporan dari 404 MediaApple berjuang mengatasi masalah “penggunaan ganda” yang ditemukan pada aplikasi yang menawarkan fitur seperti pertukaran wajah. Meskipun fitur tersebut tampak tidak berbahaya pada pandangan pertama, pengguna menukar wajah ke konten pornografi, terkadang menggunakan wajah anak di bawah umur.
Masalah ini menjadi jelas ketika seorang reporter menemukan iklan berbayar di Reddit untuk aplikasi tukar wajah. Aplikasi tukar wajah cenderung mudah ditemukan dan sering kali gratis, sehingga aplikasi semacam itu memerlukan model bisnis yang memungkinkan penempatan iklan berbayar.
Yang mereka temukan adalah sebuah aplikasi yang menawarkan pengguna kemampuan untuk menukar wajah apa pun ke dalam video dari “situs web favorit” mereka, dengan gambar yang menunjukkan Porn Hub sebagai pilihan. Apple tidak mengizinkan aplikasi terkait pornografi di App Store, tetapi beberapa aplikasi yang terkait dengan konten pengguna sering kali menampilkan gambar dan video seperti itu sebagai semacam celah.
Ketika Apple diberitahu tentang kasus penggunaan ganda dari aplikasi yang diiklankan, aplikasi itu ditarik. Namun, tampaknya Apple sama sekali tidak menyadari masalah tersebut, dan tautan aplikasi tersebut harus dibagikan.
Ini bukan pertama kalinya aplikasi yang tampak tidak berbahaya lolos dari tinjauan aplikasi dan menawarkan layanan yang melanggar pedoman Apple. Meskipun ini bukan pelanggaran yang mencolok seperti mengubah aplikasi anak-anak menjadi kasinokemampuan untuk menghasilkan citra intim nonkonsensual (NCII) jelas bukan sesuatu yang ada dalam radar Apple.
Aplikasi penukar wajah adalah kategori populer di App Store
Fitur kecerdasan buatan dalam aplikasi dapat menciptakan deep fake yang sangat realistis, dan penting bagi perusahaan seperti Apple untuk mengatasi masalah ini. Meskipun Apple tidak akan dapat menghentikan kasus penggunaan seperti itu, setidaknya Apple dapat menerapkan kebijakan yang dapat diberlakukan dalam peninjauan aplikasi — pedoman dan aturan yang jelas seputar pembuatan gambar pornografi. sudah berhenti situs web AI deepfake dari menggunakan masuk dengan Apple.
Misalnya, tidak ada aplikasi yang dapat mengambil video dari Porn Hub. Apple juga dapat memiliki aturan khusus untuk aplikasi yang berpotensi memiliki fungsi ganda, seperti larangan tanpa toleransi untuk aplikasi yang kedapatan mencoba membuat konten semacam itu.
Apple telah sangat berhati-hati untuk memastikan Kecerdasan Apple tidak akan membuat gambar telanjang, tetapi itu seharusnya bukan akhir dari pengawasannya. Mengingat Apple berpendapat bahwa mereka adalah penengah terbaik di App Store, mereka perlu bertanggung jawab atas hal-hal seperti generasi NCII yang dipromosikan dalam iklan.
Aplikasi tukar wajah bukan satu-satunya aplikasi yang bermasalah. Bahkan aplikasi yang terang-terangan mempromosikan perselingkuhan, obrolan video intim, obrolan dewasa, atau eufemisme lainnya pun lolos tinjauan aplikasi.
Laporan telah lama menunjukkan bahwa peninjauan aplikasi tidak berjalan lancar, dan regulator sudah lelah dengan basa-basi. Apple perlu mengendalikan App Store atau berisiko kehilangan kendali.
