Developer aplikasi AI di App Store kini ikut menanggung kewajiban mencegah deepfake intim. Apple menyatakan developer yang gagal memasang pengaman, atau tidak memperbaiki pelanggaran setelah diberi tahu, dapat dianggap melanggar kode etik developer. Pelanggaran berat atau berulang bisa berujung penghapusan aplikasi dari App Store dan pengeluaran dari Apple Developer Program.
Ketentuan itu bagian dari pembaruan App Review Guidelines yang dirilis Apple pada Jumat, 16 Oktober 2026 waktu Amerika Serikat, atau Sabtu, 17 Oktober 2026 dini hari WITA. Selain soal deepfake, Apple menambah pasal baru yang melarang fitur tersembunyi dan mempertegas larangan aplikasi eksploitasi anak.
“Kami tidak ragu menghapus aplikasi, dan memutus developer di baliknya, ketika mereka melanggar pedoman ini,” tulis Apple dalam pengumuman untuk developer.
Aplikasi AI masuk pedoman konten pengguna
Perubahan utama ada di pedoman 1.2 tentang konten buatan pengguna. Kategori ini kini menyebut secara tegas aplikasi pembuat konten berbasis kecerdasan artifisial. Citra intim nonkonsensual juga dimasukkan ke daftar tantangan yang harus ditangani, bersama pelanggaran hak kekayaan intelektual dan perundungan anonim.
Setiap aplikasi dalam kategori itu wajib menyediakan penyaring materi tidak pantas, sarana pelaporan dengan tanggapan tepat waktu, fitur untuk memblokir pengguna kasar, dan kontak yang dipublikasikan. Pelanggaran berat atau berulang menjadi dasar penghapusan langsung dari App Store dan Apple Developer Program.
Apple sebelumnya sudah melarang aplikasi “nudification”, yakni aplikasi yang membuat gambar telanjang orang sungguhan tanpa persetujuan, karena masuk kategori pornografi. Pembaruan kali ini menambahkan kewajiban developer untuk mencegah dan menindak penyalahgunaan di platformnya.
Celah lolos review ditutup
Pasal baru 2.5.19 melarang fitur tersembunyi, dorman, atau tidak terdokumentasi. Fungsi aplikasi harus jelas bagi pengguna maupun tim peninjau Apple. Developer yang menyembunyikan fitur di dalam kode, misalnya lewat obfuscation, terancam aplikasinya dihapus dan akunnya dihentikan.
Apple mengaitkan aturan ini dengan praktik bait-and-switch. Menurut Apple, ada aplikasi yang menyamarkan tujuannya saat ditinjau, lalu memunculkan kemampuan berbahaya seperti nudifikasi setelah disetujui. Apple menyebut pasal ini memperjelas kebijakan lama yang sebelumnya diatur dalam pedoman 2.3.1.
Pada bagian 5, Apple menegaskan aplikasi yang memfasilitasi perdagangan manusia atau eksploitasi anak akan dilaporkan ke otoritas, dihapus dari App Store, dan diblokir dari distribusi alternatif di luar App Store.
Ratusan juta unduhan aplikasi nudify
Sebelum pembaruan ini, Tech Transparency Project pada Rabu, 15 April 2026 melaporkan 18 dari 46 aplikasi App Store yang mereka uji mampu menelanjangi foto perempuan. Lembaga itu mencatat aplikasi nudify temuannya sudah diunduh 483 juta kali dengan pendapatan lebih dari 122 juta dolar AS, dan 31 aplikasi diberi rating layak untuk anak.
Pada Juli 2026, Kantor Jaksa Kota San Francisco meminta Apple dan Google menghapus 13 aplikasi face-swap yang bisa membuat gambar telanjang tanpa persetujuan, delapan di App Store dan lima di Google Play. Apple menyatakan telah menghapus tiga aplikasi dan menghentikan akun developernya.
Grok dan pemblokiran di Indonesia
Pada awal 2026, Apple sempat memperingatkan xAI bahwa aplikasi Grok bisa dihapus dari App Store bila tetap mengizinkan pembuatan deepfake telanjang. xAI kemudian menambah pengaman, dan versi baru aplikasinya disetujui Apple.
Di Indonesia, Kementerian Komunikasi dan Digital memblokir sementara Grok pada Sabtu, 10 Januari 2026 karena dipakai membuat deepfake asusila. Akses dibuka kembali sekitar Minggu, 1 Februari 2026 setelah X Corp memberi komitmen tertulis.
Menteri Komunikasi dan Digital Meutya Hafid saat itu menyatakan pemblokiran dilakukan “demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu”.
Tulis Komentar