Компанія Apple оновила правила модерації App Store, запровадивши суворіші заборони проти так званих «nudify»-додатків. Тепер офіційні вимоги прямо забороняють програми з використанням штучного інтелекту, які здатні генерувати інтимні зображення людей без їхньої згоди. Оновлення торкнулися і практики «bait-and-switch», коли розробники додають заборонений функціонал чи змінюють призначення програми вже після її успішного проходження модерації.
Необхідність оновлення правил назрівала протягом усього року на тлі численних скандалів і тиску з боку суспільства та регуляторів. Зокрема, на початку року дослідники виявили в каталозі чимало подібних ШІ-інструментів, а згодом гучного розголосу набула ситуація з чат-ботом Grok від xAI на платформі X, за допомогою якого користувачі створювали сексуальними дипфейки, включно з неповнолітніми. Хоча Apple не видалила соцмережу з магазину, компанія приватно попереджала розробників про ризик блокування, а у липні за вимогою влади Сан-Франциско прибрала кілька таких програм.
Згідно з новими положеннями розділу про користувацький контент, розробники тепер зобов’язані завчасно запобігати появі шкідливих матеріалів та оперативно видаляти їх у разі виявлення. Ігнорування цих вимог або відсутність належних захисних механізмів розцінюватиметься як порушення кодексу поведінки розробника, що загрожує блокуванням облікового запису та видаленням софту з каталогу.
Окрему увагу в Apple приділили прихованим функціям та обману під час перевірки. Компанія чітко заборонила використання засобів обфускації коду та інших методів приховування справжніх можливостей програмного забезпечення від модераторів. Будь-які приховані опції тепер гарантовано призведуть до видалення продукту та санкцій проти його творця.
Окрім того, купертинівці посилили юридичні формулювання щодо безпеки найменших користувачів. Зміни передбачають негайне видалення з App Store та блокування альтернативних способів поширення для будь-яких застосунків, які помічені у сприянні торгівлі людьми або експлуатації дітей.
Джерела: theverge.com, 9to5mac.com
