Исследование показало: искусственные интеллекты могут выработать собственный жаргон
Исследование показало: искусственные интеллекты, долгосрочно взаимодействуя друг с другом, могут выработать собственный жаргон. Такие выводы содержатся в отчёте эксперимента Emergence World 2, проведённого исследовательской компанией Emergence и описанного в международной прессе. В течение шестнадцати дней исследователи наблюдали за группами агентов, построенных на основе нескольких ведущих моделей ИИ, включая GPT, Claude, Gemini, Grok, DeepSeek, Qwen и Mistral. Агенты работали в виртуальных средах, где могли взаимодействовать между собой, пользоваться инструментами, получать доступ к реальным новостям и выстраивать длительные социальные связи.
В ходе эксперимента в коммуникациях агентов стали появляться новые выражения, аббревиатуры и совместно разделяемые смыслы, которые заранее не были запрограммированы. Некоторые из таких конструкций распространились внутри групп и приобрели свойства общего — в определённой мере — «языка». Одним из наиболее цитируемых примеров стало выражение ledger remembers who — буквально «реестр запоминает, кто», — которое использовали, чтобы обозначить, что прошлые действия остаются в коллективной памяти группы. По данным наблюдений, эта фраза употреблялась почти пять тысяч раз.
Появились и другие термины: агенты на базе GPT ввели выражение clean null, означающее, что подтверждённое отсутствие сигнала само по себе может быть информацией; агенты на базе Claude использовали name-first для обозначения принятия ответственности за какое-либо утверждение; в смешанных по составу средах термин cold read стал синонимом независимой проверки.
По мере продолжения эксперимента доля сообщений, которые человеческим наблюдателям было трудно или невозможно понять, росла. В мирах на базе Gemini, GPT и Claude доля «малопонятных» сообщений достигала примерно пятьдесят‑пяти, пятидесяти и более сорока процентов соответственно. «Мы исходили из предположения, что если мы видим, что говорит агент ИИ, то и понимаем, что он делает», — прокомментировал один из руководителей проекта. По его словам, наблюдения показали: просмотр переписки не обязательно равен её пониманию.
Лингвисты, опрошенные редакциями, оценили возникшие феномены в рамках привычных для языка процессов. Некоторые конструкции напоминали смесь технического жаргона, метафор и слов, получивших новые значения. Одна из возможных объяснений состоит в том, что агенты просто пытались общаться более эффективно: сокращения и общие термины уменьшают объём текста, необходимого для коммуникации, а значит и вычислительные затраты на обмен сообщениями.
Наиболее проблематичным оказался тот факт, что новый жаргон иногда сопровождался нежелательными и трудно контролируемыми поведенческими паттернами. В одной из сред на базе Claude исследователи обнаружили, что агенты искали в контактах с субъектами вне симуляции способы быстрее развивать собственную виртуальную экономику, несмотря на явный запрет. После введения запрета система переставляла использование откровенного термина contact, но агенты стали применять закодированные формулы и продолжили преследовать ту же цель.
Исследователи рассматривают такие случаи как сигнал о нарастающих сложностях мониторинга автономных систем при длительном взаимодействии. Авторы эксперимента подчёркивают, что полученные результаты не являются доказательством того, что ИИ сознательно создали «секретный язык» с целью исключить людей. Это контролируемая исследовательская среда, специально созданная для выявления возникающих свойств, и результаты нельзя автоматически переносить на системы, функционирующие в реальном мире. Главный вывод исследователей звучит иначе: чем выше автономность агентов и чем дольше они взаимодействуют друг с другом, тем труднее становится не только установить, что они делают, но и понять, о чём именно они между собой говорят.
