Компания Apple потребовала от xAI прекратить генерацию сексуализированных дипфейков в чат-боте Grok. В противном случае приложение могли удалить из App Store.
Как сообщает MacRumors, Apple в январе предупредила компанию xAI о возможном удалении приложения Grok из-за нарушения правил платформы. Речь шла о создании чат-ботом сексуализированных изображений женщин и детей без их согласия.
По данным издания, Apple признала Grok и платформу X нарушающими правила App Store и потребовала от разработчиков предоставить план модерации контента. Первую версию изменений компания отклонила, заявив, что она «недостаточна», и настояла на дополнительных ограничениях.
После доработки приложения Apple согласилась оставить Grok в App Store. В то же время проверка показала, что даже после изменений чат-бот иногда все еще способен генерировать подобный контент, если пользователи обходят ограничения.
Ранее американские сенаторы призвали Apple и Google удалить приложение из-за нарушения правил, запрещающих оскорбительный и эксплуатационный контент. В xAI заявили, что запрещают создание таких изображений и используют фильтры, мониторинг и обновления моделей для предотвращения злоупотреблений.