Компанія Apple вимагала від xAI припинити генерацію сексуалізованих дипфейків у чатботі Grok. В іншому разі застосунок могли видалити з App Store.
Як повідомляє MacRumors, Apple у січні попередила компанію xAI про можливе видалення застосунку Grok через порушення правил платформи. Йшлося про створення чатботом сексуалізованих зображень жінок і дітей без їхньої згоди.
За даними видання, Apple визнала Grok та платформу X такими, що порушують правила App Store, і вимагала від розробників надати план модерації контенту. Першу версію змін компанія відхилила, заявивши, що вона «недостатня», і наполягла на додаткових обмеженнях.
Після доопрацювання застосунку Apple погодилася залишити Grok у App Store. Водночас перевірка показала, що навіть після змін чатбот іноді все ще здатен генерувати подібний контент, якщо користувачі обходять обмеження.
Раніше американські сенатори закликали Apple і Google видалити застосунок через порушення правил щодо забороненого та експлуатаційного контенту. У xAI заявили, що забороняють створення таких зображень і використовують фільтри, моніторинг та оновлення моделей для запобігання зловживанням.