У США розгорівся скандал навколо масштабного звіту Білого дому з охорони здоров’я, частину наукових посилань у якому, як виявилося, могли створити за допомогою штучного інтелекту. Про це повідомляє The Washington Post із посиланням на аналіз документа та коментарі експертів.
Йдеться про звіт «MAHA Report: Making Our Children Healthy Again», присвячений проблемам здоров’я американських дітей. У ньому понад 500 посилань на наукові джерела, однак щонайменше 37 із них повторюються, деякі мають неправильних авторів, а частина досліджень — вигадані. Деякі посилання містили характерну мітку “oaicite”, що свідчить про використання генеративного ШІ, зокрема інструментів OpenAI.
Частина з неіснуючих посилань уже була замінена після того, як звіт почали критикувати у медіа. Наприклад, вигадане дослідження щодо призначення стероїдів дітям із астмою згодом замінили на реальну публікацію в журналі Pediatrics. Також виправили автора в кількох інших матеріалах.
Документ готувала комісія з представників урядових наукових установ, під головуванням міністра охорони здоров’я Роберта Ф. Кеннеді-молодшого — відомого критика вакцин і поширювача науково сумнівних тверджень. Звіт вийшов на виконання указу Дональда Трампа й покликаний дослідити причини погіршення здоров’я дітей у США.
У звіті звинувачують шкідливі речовини в довкіллі, погане харчування та надмірний час перед екранами. Втім, після виявлених помилок його зміст поставили під сумнів науковці, політики та журналісти.
«Це не науковий звіт. Його не можна використовувати ні для формування політики, ні для серйозного обговорення», — заявив Жорж Бенжамін, виконавчий директор Американської асоціації громадського здоров’я.
Сенаторка Елізабет Воррен назвала ситуацію «ганебною» і висловила обурення тим, що «американські батьки мусять думати про фейкову науку у звітах Білого дому».
Речниця адміністрації Каролін Левітт визнала «певні проблеми з форматуванням», але запевнила, що основні висновки документа залишаються чинними.
Попри критику, Міністерство охорони здоров’я продовжує захищати звіт і заявляє, що це «історичний документ», що вперше на такому рівні намагається системно описати проблему хронічних захворювань серед дітей.
Експерти попереджають: ця історія — застереження для тих, хто покладається на ШІ в урядових документах. Штучний інтелект може допомагати в роботі, але потребує ретельної перевірки.
«У ШІ немає поняття доказу, він не розрізняє вагу доказів і легко вигадує переконливі, але фальшиві посилання», — пояснив професор Стівен Піантоадозі з Каліфорнійського університету в Берклі.