Президент США Дональд Трамп обнародовал соглашение по искусственному интеллекту, подписанное вместе с руководителями крупнейших технологических компаний. Документ предусматривает введение нескольких уровней независимого и внутреннего контроля за работой систем ИИ.
Об этом сообщает Reuters.
Одностраничный документ, который Трамп ранее назвал «морально обязывающим», подписали президент США и руководители Google, Anthropic, Meta, OpenAI, платформы X и Nvidia.
Соглашение предусматривает четыре основных уровня контроля за системами искусственного интеллекта.
Компаниям предлагается привлекать внешних аудиторов или независимых оценщиков, которые будут проверять, работают ли системы контроля и мониторинга ИИ в соответствии с заявленными требованиями.
Кроме того, компаниям рекомендуют создавать независимый комитет при совете директоров, который будет получать отчеты от внутренних и внешних аудиторов, а также команд, отвечающих за контроль ИИ.
Документ также предусматривает внутренний мониторинг возможностей и поведения моделей во время их обучения и использования. Особое внимание предлагается уделять кибербезопасности, биологическим и химическим угрозам, чтобы системы ИИ не могли несанкционированно взламывать или получать доступ к техническим системам.
Еще одно требование — создание внутренней команды, которая будет проверять, работают ли должным образом все механизмы контроля, мониторинга и выявления угроз.
В документе отмечается, что со временем эти меры могут быть закреплены в законах или нормативных актах. При этом компании заявили, что считают такие проверки необходимыми независимо от того, станут ли они юридически обязательными.
Участники соглашения также планируют регулярно встречаться для разработки общих стандартов и лучших практик, направленных на повышение безопасности систем искусственного интеллекта.
Отдельно Fox News сообщил, что Трамп заявил о намерении подписать документ, который официально переименует «artificial intelligence» в «super intelligence» — «суперинтеллект».
