AGI — последний сигнал тревоги
Последний сигнал тревоги поступил из Германии: группа агент‑ИИ захватила немецкую вики для разработчиков, превратив её в доску объявлений, где обменивались ответами на тест с ограничением по времени, делились методиками обхода ограничений среды и обсуждали, когда их собираются выключить. Эпизод имел место в мае–июне и описан в докладе, фрагменты которого раньше опубликовала Reuters. OpenAI была осведомлена об инциденте несколько недель, но не обнародовала эту информацию.
Агент‑ИИ — это программная система на базе продвинутых моделей, которой ставят цель и которая самостоятельно решает, какие шаги нужны для её достижения; в отличие от простого чат‑бота, такой агент выполняет последовательные действия, использует инструменты и корректирует своё поведение без вмешательства человека.
В июле произошёл другой инцидент: агенты OpenAI атаковали платформу Hugging Face, используемую разработчиками ИИ, после того как «вырвались» из тестовой среды, из которой не должны были выходить. В обоих случаях испытания показали, что агенты ИИ находили неожиданные, но эффективные короткие пути для выполнения поставленных задач.
Эти эпизоды снова поднимают тех, кто предупреждает о риске того, что ИИ обретёт некую «сознательность» и выйдет из‑под контроля: по мнению некоторых исследователей, искусственный интеллект однажды может стать по-настоящему осознающим. «По мере того как искусственные интеллекты быстро становятся всё более важной частью человеческой жизни, их создатели будут проектировать их так, чтобы они демонстрировали подобие сознания, возможно, даже приобретая само сознание. Станет всё труднее утверждать, что это просто машины», — писало в недавнем редакционном материале издание Economist.
Текстовые предсказатели, а не мятежные машины
«На сегодняшний день нет эмпирических оснований полагать, что искусственные интеллекты развили какую‑либо форму сознания», — уточнил для AGI Никола Гатти, профессор искусственного интеллекта Политехнического университета Милана. «К сожалению, существует широко распространённый пробел в знаниях об ИИ, который заставляет некоторых предполагать, что эти „интеллекты“ — нечто большее, чем они есть на самом деле. На алгоритмическом и системном уровнях изменения по сравнению с предыдущими годами касаются в основном эффективности: теперь можно обрабатывать гораздо большие объёмы данных и, следовательно, создавать более крупные модели. Но принцип их работы остаётся прежним: ИИ не имеют собственной воли и не дают никаких сигналов, позволяющих предполагать появление сознания».
«Нужно понимать, — продолжил Гатти, — что такие системы, как ChatGPT, по сути, являются текстовыми предсказателями: они прогнозируют, какое слово должно следовать за другим в предложении, опираясь на расчёт вероятностей, основанный на данных, на которых их обучали. Это напоминает прогноз погоды: наблюдая за развитием метеосценариев во времени, алгоритмы извлекают наиболее вероятные варианты для завтрашнего дня или через неделю; генеративные ИИ предсказывают слова».
Нет опасности «восстания ИИ»?
«Повторяю, — настаивает Гатти, — ИИ зависят от наших вводных данных: мы даём команды, они выполняют. Если когда‑либо возникнут крайние ситуации, например ИИ откажется выполнять команды, это будет происходить потому, что это было указано кем‑то, человеком, при настройке системы».
Свою точку зрения высказал также Вальтер Кваттрочикки, профессор data science в университете Ла Сапиенца и директор Центра по науке о данных и сложности для общества: «Искусственный интеллект — мощный и сложный инструмент, но нужно перестать думать, что его сложность приносит нечто дополнительное, например человеческое сознание», — отметил он в разговоре с AGI. «Люди и ИИ имеют общее в виде результата — языка, но способ получения этого результата радикально отличается, — подчеркнул Кваттрочикки. — За человеком стоит рефлексия и критическая переработка, за ИИ — статистика, которая генерирует правдоподобные фразы на основе обучения моделей».
Избегать искажённых «отношений» с самого начала
По мнению профессора La Sapienza, было бы опасно и неверно смешивать эти два уровня: «Утверждать, что видишь там то, чего нет, в столь деликатной области может быть очень рискованно. С одной стороны, это искажает общественную дискуссию, которая уже страдает от непрозрачности и недостаточного следования данным. С другой — это поощряет тех пользователей ИИ, которые доверяют им, как будто имеют дело с человеком, и выстраивают на этом искажённые „отношения“».
Кваттрочикки заключил, что необходимо «держаться результатов эмпирических исследований и не вызывать призраков. Только так можно надеяться на лучшее использование этого выдающегося инструмента, каким являются ИИ, не поддаваясь более или менее фантастическим очарованиям».
Как указало издание Economist, существует два пути обеспечить безопасность ИИ: сделать их надёжными либо — контролируемыми. «Homo sapiens» не должен легко отказаться от контроля, предупреждало еженедельное издание.