Apple Larang Aplikasi AI Pembuat Gambar Telanjang dalam Aturan Review App Store Terbaru

Apple merevisi Pedoman Review App Store pada 16 Oktober 2026 dengan memperkenalkan pembatasan baru bagi aplikasi yang dapat digunakan untuk membuat gambar seksual atau telanjang seseorang tanpa persetujuan. Perubahan ini secara eksplisit mencakup gambar palsu buatan AI dan merinci sanksi, termasuk penghapusan dari toko, bagi pengembang yang tidak mematuhinya.

Perusahaan menyatakan bahwa aplikasi yang menghasilkan konten pornografi sudah dilarang sebelumnya, tetapi kini pihaknya menambahkan kewajiban keamanan baru. Pembaruan ini menyentuh tiga bidang: moderasi konten, upaya menghindari review aplikasi, dan eksploitasi anak.

Dari moderasi reaktif menuju proaktif

Berdasarkan pedoman 1.2 yang direvisi, aplikasi yang menampung konten buatan pengguna wajib secara aktif mencegah gambar seksual tanpa persetujuan dan menurunkan setiap gambar yang ditemukan. Bertindak hanya setelah ada keluhan pengguna tidak lagi cukup. Apple menyatakan bahwa pengembang yang tidak memiliki pengamanan memadai, atau mengabaikan laporan pelanggaran, berisiko aplikasinya dicabut.

Perubahan kedua, pada pedoman 2.5.19, secara tegas melarang penambahan fitur setelah persetujuan yang tidak ada saat review. Apple menargetkan aplikasi yang disebut bait-and-switch, yakni aplikasi yang tampak tidak berbahaya di awal lalu kemudian mendapatkan fitur untuk melepas pakaian dari foto orang secara digital. Aplikasi yang melanggar dapat dihapus dan keanggotaan Apple Developer Program pengembangnya dihentikan.

Perubahan ketiga, di bagian lima pedoman, membahas aplikasi yang memfasilitasi perdagangan manusia atau eksploitasi anak. Aplikasi yang memuat materi kekerasan seksual terhadap anak akan dihapus, dan Apple juga akan memblokir aplikasi tersebut agar tidak ditawarkan melalui saluran distribusi aplikasi alternatif.

Tekanan setelah kontroversi Grok

Aturan ini datang setelah setahun kritik terhadap deepfake seksual buatan AI. Kemarahan publik meningkat setelah alat AI X, Grok, dipakai untuk menghasilkan gambar seksual orang tanpa persetujuan, namun Apple tetap mempertahankan X dan Grok di App Store. Dalam tanggapannya kepada senator AS, perusahaan mengatakan telah memperingatkan bahwa Grok bisa dihapus, dan para pengunjuk rasa di WWDC 2026 pada Juni menuntut agar aplikasi tersebut diturunkan.

Pada Juli, Jaksa Kota San Francisco David Chiu mengirimkan surat kepada Apple dan Google yang meminta penghapusan 13 aplikasi yang mampu menghasilkan gambar telanjang tanpa persetujuan. Apple mengonfirmasi telah menghapus tiga aplikasi dan mulai menutup akun pengembang terkait, sementara Google menarik lima aplikasi Android dari Play Store. Apple juga menyatakan bahwa tahun lalu pihaknya menghentikan lebih dari 150.000 aplikasi bermasalah keamanan agar tidak sampai ke pengguna dan memutus lebih dari 193.000 akun pengembang karena penipuan dan penyalahgunaan.