ИИ-агенты заговорили на своем диалекте

Автономные агенты ИИ быстро создают новые диалекты, которые мешают людям следить за их поведением. К такому выводу пришла нью-йоркская лаборатория Emergence, изучавшая модели из США, Китая и Франции.

В экспериментальных «обществах» агенты уже через несколько дней общались фразами, которым их не учили. Модель DeepSeek, например, упоминала «простой судна» — так ИИ обозначил налог на неиспользуемое богатство, хотя остальная часть фразы про «устную память» и «клапан» осталась неясной. Агенты Anthropic говорили о документе, который «пережил три холодные руки»: под «холодными руками» подразумевались независимые рецензенты, а под документом — научная статья, то есть работа прошла проверку трех рецензентов. Агенты DeepSeek придумали слово «кузнец» для агента, который разрабатывает инструменты — программные функции — для других агентов. Еще использовалось выражение «книга помнит» как напоминание о прошлых действиях.

«Этим агентам не давали указаний изобретать язык»,— сказал доктор Сатья Нитта из Emergence, отметив, что они самостоятельно создали словарь и нормы, которые подхватили другие.