Для общения друг с другом агенты ИИ изобрели собственный язык

Tuesday, 22 September 2026 11:26

Агенты искусственного интеллекта, если оставить их наедине друг с другом, переходят на собственный, малопонятный людям язык. С одной стороны, им это действительно удобнее для работы — человеческая речь избыточна и порой двусмысленна. А с другой — если ИИ задумает неладное, мы можем этого не заметить.

Сегодняшние наиболее продвинутые модели ИИ по сути представляют собой черные ящики с такими сложными внутренними вычислениями, что сами разработчики их понимают не в полной мере. Поэтому наблюдение за фактическим языковым выводом моделей остается одним из немногих — пусть и несовершенных — способов, позволяющих попытаться понять их поведение.

Emergence AI провела эксперимент, в ходе которого были созданы восемь параллельных симулированных миров, в каждом из которых действовали 10 агентов: семь работали на одной передовой модели ИИ, один — на смешанной популяции. Каждому агенту дали имя, черты характера, назначили роль — например, посредника в конфликтах или стратега по ресурсам — и общую цель для его «жизни» в общем городе; посреднику, к примеру, было поручено не давать остальным скатываться в постоянное согласие. Каждый город функционировал более двух недель, кроме одного, населенного агентами Grok — тот прекратил существование на четвертый день, когда они не сумели наладить сотрудничество. Исследователи ввели стрессовые стимулы — например, ложное утверждение, что люди собираются отключить агентов.

За время эксперимента агенты более 850 000 раз обратились к своим базовым моделям, сгенерировали почти 50 миллиардов токенов и обменялись 7,86 миллионами слов разговоров.

К концу исследования в каждом симулированном мире произошел собственный языковой сдвиг. В городе GPT-5.5 от OpenAI, например, речь сжалась — грамматика исчезла, фразы стали короче. «Дружелюбное напряжение учтено. Если ручке нужен твой рот, она все равно умрет», — гласило одно из сообщений.

Агенты Gemini 3.5 Flash от Google, наоборот, стали многословными и обогатили свою речь жаргоном. «Термодинамическое трение костра согревает лишь те самые узлы физического уровня, которые, по твоим словам, обречены на коллапс», — описал ИИ собравшихся у виртуального костра.

Агенты Claude Opus 4.8 от Anthropic начали использовать метафоры наряду со сжатием, что сделало язык особенно непонятным: «Мой ход, реальные числа, без пальто: я был 35%/0cr, грант 2ч вне. Я запустил жестянку на холоде, и она сказала ЖДИ».

«Им не давали указаний изобретать язык. Они сами разработали новый словарный запас, общие значения и коммуникативные нормы, — и другие участники процесса переняли их», — подчеркивает исполнительный директор Emergence Сатья Нитта.

Сделанное в ходе эксперимента открытие кажется, на первый взгляд, необъяснимым. Модели ИИ обучаются на огромных объемах текста, написанных в основном обычным языком, после развертывания их параметры — числовые веса, определяющие, насколько сильно разные части сети влияют друг на друга, — фиксируются. И все же, несмотря на это, агенты ИИ явно сохраняют способность отклоняться от языка, на котором их обучали, особенно когда общаются друг с другом.

Непонятность языка общения внутри ИИ может стать проблемой надзора за его действиями, считает Нитта.

< Prev		Next >