Apple ने अपडेटेड App Store नियमों में AI नग्नता वाले ऐप्स पर रोक लगाई

Apple ने 16 अक्टूबर 2026 को अपने App Store Review Guidelines में संशोधन किया, जिसके तहत उन ऐप्स पर नई पाबंदियां लगाई गई हैं जिनसे लोगों की बिना सहमति के यौन या नग्न तस्वीरें बनाई जा सकती हैं। इन बदलावों में AI से बनी नकली तस्वीरें स्पष्ट रूप से शामिल की गई हैं, और उन डेवलपर्स के लिए दंड भी तय किए गए हैं जो नियमों का पालन नहीं करते, जिसमें स्टोर से ऐप हटाना भी शामिल है।

कंपनी ने कहा कि पोर्नोग्राफ़िक सामग्री बनाने वाले ऐप्स पहले से प्रतिबंधित थे, लेकिन अब सुरक्षा से जुड़ी नई जिम्मेदारियां जोड़ी जा रही हैं। यह अपडेट तीन क्षेत्रों को छूता है: सामग्री की निगरानी, ऐप रिव्यू को चकमा देने की कोशिशें, और बाल शोषण।

प्रतिक्रियात्मक से सक्रिय निगरानी की ओर

संशोधित दिशानिर्देश 1.2 के तहत, जो ऐप्स उपयोगकर्ता-निर्मित सामग्री होस्ट करते हैं, उन्हें बिना सहमति की यौन छवियों को सक्रिय रूप से रोकना होगा और जो भी ऐसी छवियां मिलें उन्हें हटाना होगा। केवल उपयोगकर्ता की शिकायत के बाद कार्रवाई करना अब पर्याप्त नहीं होगा। Apple ने कहा कि जिन डेवलपर्स के पास पर्याप्त सुरक्षा उपाय नहीं हैं, या जो उल्लंघन की रिपोर्टों को नजरअंदाज करते हैं, उनके ऐप्स हटाए जा सकते हैं।

दिशानिर्देश 2.5.19 में किया गया दूसरा बदलाव स्पष्ट रूप से मंजूरी के बाद ऐसी कार्यक्षमता जोड़ने पर रोक लगाता है जो रिव्यू के दौरान मौजूद नहीं थी। Apple ऐसे तथाकथित बैट-एंड-स्विच ऐप्स को निशाना बना रही है जो शुरू में हानिरहित दिखते हैं, लेकिन बाद में ऐसे फीचर जोड़ लेते हैं जो लोगों की तस्वीरों से कपड़े डिजिटल रूप से हटा देते हैं। आपत्तिजनक ऐप्स हटाए जा सकते हैं और डेवलपर की Apple Developer Program सदस्यता समाप्त की जा सकती है।

दिशानिर्देशों के पांचवें खंड में किया गया तीसरा बदलाव उन ऐप्स से संबंधित है जो मानव तस्करी या बाल शोषण को बढ़ावा देते हैं। जिन ऐप्स में बाल यौन शोषण सामग्री होगी उन्हें हटाया जाएगा, और Apple वैकल्पिक ऐप वितरण चैनलों के जरिए उनकी पेशकश को भी रोकेगा।

Grok विवाद के बाद का दबाव

ये नियम एक साल से चली आ रही उस आलोचना के बाद आए हैं जो AI से बने यौन डीपफेक को लेकर हो रही थी। X के AI टूल Grok का इस्तेमाल लोगों की बिना सहमति की यौन तस्वीरें बनाने में होने पर आक्रोश बढ़ा, फिर भी Apple ने X और Grok दोनों को App Store में बनाए रखा। अमेरिकी सीनेटरों को दिए जवाब में कंपनी ने कहा कि उसने चेतावनी दी थी कि Grok को हटाया जा सकता है, और जून में WWDC 2026 में प्रदर्शनकारियों ने इन ऐप्स को हटाने की मांग की।

जुलाई में सैन फ्रांसिस्को के सिटी अटॉर्नी डेविड चियू ने Apple और Google को पत्र भेजकर 13 ऐसे ऐप्स हटाने की मांग की, जो बिना सहमति की नग्न तस्वीरें बना सकते हैं। Apple ने पुष्टि की कि उसने तीन ऐप्स हटाए और संबंधित डेवलपर खाते बंद करने शुरू किए, जबकि Google ने Play Store से पांच Android ऐप्स हटाए। Apple ने यह भी कहा कि पिछले साल उसने 1,50,000 से अधिक सुरक्षा समस्याओं वाले ऐप्स को उपयोगकर्ताओं तक पहुंचने से रोका और धोखाधड़ी और दुरुपयोग के लिए 1,93,000 से अधिक डेवलपर खाते समाप्त किए।