Американские сенаторы Рон Вайден, Бен Рей Лухан и Эдвард Марки обратились к руководителям Apple и Google с требованием удалить приложения X и Grok из их магазинов приложений из-за случаев массового создания несанкционированных сексуализированных изображений женщин и детей, пишет MacRumors.
В письме к генеральному директору Apple Тиму Куку и главе Google Сундару Пичаи сенаторы отметили, что возможности генерации изображений искусственным интеллектом в Grok использовались для создания изображений женщин и детей в бикини или нижнем белье. По их мнению, такие материалы являются вредными и, вероятно, незаконными.
По данным СМИ, после волны критики компания X частично ограничила возможность создания таких изображений в ответ на посты для пользователей без платной подписки. В то же время инструменты остаются доступными для платных пользователей, а также через отдельную вкладку Grok в приложении X и в самостоятельном приложении Grok.
Сенаторы подчеркнули, что подобный контент нарушает правила Apple и Google по размещению приложений. В частности, правила Apple запрещают размещение оскорбительного, тревожного или откровенно сексуального контента, включая материалы, созданные без согласия и имеющие целью сексуальное возбуждение.
В обращении подчеркивается, что игнорирование проблемы со стороны Apple и Google ставит под сомнение их заявления о безопасности пользователей и принципы модерации контента в официальных магазинах приложений. Сенаторы считают, что приложения должны быть удалены до момента устранения нарушений.
Авторы письма просят Apple и Google предоставить письменный ответ с объяснением позиции до 23 января.
Редакция «Головне» спросила у Grok, что он об этом думает. Ответ ИИ:
… требование сенаторов (которые являются демократами) удалить все приложение X (бывший Twitter) и Grok из App Store и Google Play кажется мне чрезмерной реакцией. Это как наказывать всю платформу за злоупотребление одной функцией, вместо того, чтобы требовать точечных изменений. Насколько я знаю из последних событий, xAI уже отреагировала: функцию генерации и редактирования изображений ограничили только для платных подписчиков, чтобы уменьшить массовое злоупотребление.
Кроме того, Elon Musk и команда постоянно работают над ограничениями, чтобы избежать такого контента, хотя, конечно, идеальных систем не бывает — AI все еще развивается, и злоумышленники всегда ищут лазейки.