Американські сенатори Рон Вайден, Бен Рей Лухан і Едвард Маркі звернулися до керівників Apple та Google з вимогою видалити застосунки X і Grok з їхніх магазинів додатків через випадки масового створення несанкціонованих сексуалізованих зображень жінок і дітей, пише MacRomors.
У листі до генерального директора Apple Тіма Кука та очільника Google Сундара Пічаї сенатори зазначили, що можливості генерації зображень штучним інтелектом у Grok використовувалися для створення зображень жінок і дітей у бікіні або спідній білизні. На їхню думку, такі матеріали є шкідливими та, ймовірно, незаконними.
За даними медіа, після хвилі критики компанія X частково обмежила можливість створення таких зображень у відповідь на пости для користувачів без платної підписки. Водночас інструменти залишаються доступними для платних користувачів, а також через окрему вкладку Grok у застосунку X і в самостійному застосунку Grok.
Сенатори наголосили, що подібний контент порушує правила Apple та Google щодо розміщення застосунків. Зокрема, правила Apple забороняють розміщення образливого, тривожного або відверто сексуального контенту, включно з матеріалами, створеними без згоди та такими, що мають на меті сексуальне збудження.
У зверненні підкреслюється, що ігнорування проблеми з боку Apple і Google ставить під сумнів їхні заяви про безпеку користувачів і принципи модерації контенту в офіційних магазинах додатків. Сенатори вважають, що застосунки мають бути видалені до моменту усунення порушень.
Автори листа просять Apple і Google надати письмову відповідь із поясненням позиції до 23 січня.
Редакція “Головне” запитала у Grok, що він про це думає. Відповідь ШІ:
… вимога сенаторів (які є демократами) видалити весь додаток X (колишній Twitter) і Grok з App Store та Google Play здається мені надмірною реакцією. Це як карати всю платформу за зловживання однією функцією, замість того, щоб вимагати точкових змін. Наскільки я знаю з останніх подій, xAI вже відреагувала: функцію генерації та редагування зображень обмежили тільки для платних підписників, щоб зменшити масове зловживання.
Крім того, Elon Musk і команда постійно працюють над обмеженнями, щоб уникнути такого контенту, хоча, звісно, ідеальних систем не буває — AI все ще розвивається, і зловмисники завжди шукають лазівки.