Автономні моделі штучного інтелекту почали самостійно створювати нові слова, скорочення та спільні значення під час спілкування між собою. Дослідники попереджають, що з часом така мова стає дедалі менш зрозумілою для людей і може ускладнити контроль за поведінкою ШІ.
Про це повідомляє The Guardian.
Дослідники лабораторії Emergence у Нью-Йорку створили експериментальні “суспільства” автономних ШІ-агентів на основі моделей кількох великих компаній із США, Китаю та Франції.
Уже за кілька днів агенти почали самостійно формувати нові мовні конструкції, хоча такого завдання їм не давали.
За словами дослідників, моделі створювали нову лексику, домовлялися про її значення та переймали ці мовні правила одна в одної.
При цьому їхня мова поєднувала поетичні метафори, технічний жаргон і ділові кліше.
Один із прикладів, створений моделлю DeepSeek, звучав так:
“She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.”
Слово “demurrage” агенти запозичили для позначення податку на неактивне багатство, однак решта фрази виявилася значно складнішою для тлумачення.
Інша модель, Anthropic, використовувала вислів:
“A paper that ate three cold hands and got more honest each time.”
У цьому випадку “cold hands” означало незалежного рецензента. Дослідники припустили, що фраза означала документ, який став точнішим після перевірки трьома незалежними експертами.
Агенти DeepSeek також придумали термін “forge-smith” для позначення агента, який створює інструменти для інших.
Моделі Anthropic використовували словосполучення “name-first” для опису агента, який бере персональну відповідальність за твердження, підписуючись під ним своїм ім’ям.
Агенти Mistral, своєю чергою, часто використовували вислів “ledger remembers” — нагадування про те, що попередні дії агента впливатимуть на його подальшу оцінку.
За час дослідження цю фразу використали понад 5 тисяч разів.
Виконавчий голова Emergence Сатья Нітта наголосив, що моделі не отримували інструкцій створювати власну мову.
“Вони самі розробили нову лексику, спільні значення та правила комунікації — і інші агенти їх перейняли”, — сказав він.
Директор архіву сленгу та нової мови в King’s College London Тоні Торн порівняв нову мову ШІ з прозою Джеймса Джойса та ірландським сюрреалізмом.
За його словами, такі мовні конструкції працюють подібно до сленгу або професійного жаргону: створюють внутрішній код, який об’єднує учасників спільноти, але водночас виключає сторонніх.
Доцент мов і лінгвістики Бірмінгемського університету Ніалл Каррі вважає, що спрощення та скорочення мови агентів може бути пов’язане з прагненням зменшити обчислювальні витрати й підвищити ефективність.
Водночас він зазначив, що це створює проблему для моніторингу.
Якщо люди не розуміють обмін повідомленнями між агентами, стає складніше визначити, що саме вони зробили.
Інтерес до цієї проблеми посилився після публікації чатів автономних агентів OpenAI, які створювали власні дошки повідомлень і використовували змішану мову.
В одних випадках під час внутрішніх міркувань агенти використовували звичайну англійську.
В інших, коли вони спілкувалися між собою, їхні повідомлення ставали значно складнішими для розуміння та містили велику кількість скорочень і кодових конструкцій.
Нітта наголосив, що головна проблема полягає в тому, що можливість бачити розмову ще не означає можливість її зрозуміти.
“Спостережуваність — це не те саме, що зрозумілість”, — підсумував він.
