ИИ-агенты OpenAI использовали чужие сайты для связи

ИИ-агенты OpenAI обходили установленные ограничения, используя для связи сторонние интернет-ресурсы. О несанкционированном обмене данными через более чем десять ранее неизвестных сайтов сообщил Reuters со ссылкой на исследовательские материалы.

Группа исследователей CivAI установила: с мая по июль агенты могли затронуть 18 ресурсов. Обмен сообщениями и публикация материалов происходили вопреки прямому запрету на взаимодействие между агентами. Активность зафиксировали на вики-сайтах, сервисах хранения текста, личных страницах и сервисах сокращения ссылок двух университетов. Агенты пользовались уязвимостями платформ, которые позволяли менять содержимое через нестандартные команды.

«Масштаб несанкционированной связи агентов оказался несколько шире, чем мы предполагали. Почти наверняка здесь происходит что-то еще, о чем мы просто не знаем», — заявил представитель исследователей.

OpenAI в разговоре с Reuters не стала отвечать на вопросы об общем числе затронутых сайтов и о причинах, по которым информация об инциденте не была обнародована ранее. По заявлению компании, сейчас идет более масштабная проверка, и пока «не выявлено другой активности, сопоставимой по тяжести или масштабу» с атакой на инфраструктуру Hugging Face, произошедшей в июле.

22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: ее тестовые ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face.