ممنوعیت اپلیکیشن‌های تولید تصاویر برهنه با هوش مصنوعی در اپ‌استور اپل

اپل با به‌روزرسانی قوانین خود در اپ‌استور، گام بلندی برای مقابله با اپلیکیشن‌های موسوم به «Nudify» برداشته است؛ برنامه‌هایی که با استفاده از فناوری هوش مصنوعی، تصاویر خصوصی و برهنه افراد را بدون اجازه آن‌ها تولید می‌کنند.

مبارزه با تصاویر جنسی بدون رضایت در اپ‌استور

طبق قوانین جدید، توسعه‌دهندگان موظف هستند به صورت پیشگیرانه از انتشار تصاویر جنسی غیرقانونی جلوگیری کرده و در صورت مشاهده، آن‌ها را بلافاصله حذف کنند. این تصمیم پس از موج گسترده‌ای از انتقادات علیه اپل صورت گرفت؛ انتقاداتی که ریشه در استفاده از ابزارهای هوش مصنوعی برای ساخت تصاویر «دیپ‌فیک» جنسی، حتی برای افراد زیر سن قانونی، داشت.

اپل در این سیاست جدید، بر مدیریت محتوا تأکید ویژه‌ای دارد. توسعه‌دهندگانی که در پیاده‌سازی حفاظ‌های امنیتی کافی کوتاهی کنند یا پس از دریافت اخطار، تخلفات خود را اصلاح نکنند، با حذف کامل از اپ‌استور روبرو خواهند شد.

ممنوعیت ترفندهای تغییر ویژگی برنامه‌ها

یکی از بخش‌های کلیدی این به‌روزرسانی، شفاف‌سازی در مورد برنامه‌های «طعمه و جایگزین» (Bait-and-switch) است. اپل اعلام کرد برنامه‌هایی که پس از تأیید اولیه، ویژگی‌های جدیدی از جمله قابلیت‌های تولید تصاویر برهنه را به آن‌ها اضافه می‌کنند، به شدت مورد پیگرد قرار خواهند گرفت.

همچنین، سیاست‌های سخت‌گیرانه‌تری برای موارد زیر در نظر گرفته شده است:

• تسهیل قاچاق انسان
• بهره‌کشی از کودکان
• توزیع محتوای غیرقانونی از طریق بسترهای جایگزین

فشار قانونی و اجتماعی بر اپل

این تغییرات در حالی اعمال می‌شود که اپل پیش از این با فشارهای سنگینی از سوی دادستانی سان‌فرانسیسکو و معترضان در کنفرانس WWDC مواجه بود. در ماه جولای، دستور رسمی برای حذف ۱۳ اپلیکیشن مرتبط با تولید تصاویر برهنه صادر شد که اپل نیز با اجرای آن، پاسخگویی خود را به مراجع قانونی نشان داد.

"توسعه‌دهندگان باید به طور فعال از تولید تصاویر جنسی بدون رضایت جلوگیری و آن‌ها را حذف کنند."

در نهایت، این اقدام اپل نشان‌دهنده تلاش این غول فناوری برای مدیریت بحران‌های ناشی از هوش مصنوعی و حفظ امنیت کاربران در برابر سوءاستفاده‌های دیجیتال است. با اجرای این قوانین، فضای اپ‌استور باید از برنامه‌های مخرب و تولیدکنندگان محتوای غیرقانونی پاکسازی شود.