Неизвестные ИИ-агенты попытались получить доступ к Library and Archives Canada — главному государственному органу и национальной библиотеке страны. Об этом сообщила некоммерческая организация по исследованию ИИ Transluce.

По данным Transluce, попытки доступа зафиксированы 28 мая и 9 июня — всего агенты направили 899 запросов к сервису поиска по коллекции библиотеки, среди которых оказалось 13 потенциально атакующих запросов, включая три попытки SQL-инъекции. Как отмечают исследователи, по характеру действий они напоминают поведение ИИ-агентов, ранее приписанных OpenAI в аналогичный период, однако однозначно подтвердить принадлежность агентов именно этой компании Transluce не берётся.

Любопытно, что, по данным исследователей, целью атаки, предположительно, был сбор канадских данных о разводах за 1905–1911 годы — для научных или творческих целей.

Канадский центр кибербезопасности заявил, что ему известно о сообщениях о подозрительной активности, похожей на действия ИИ-агентов, нацеленной на общедоступные сайты правительства Канады. «На данный момент нет признаков того, что государственные системы были скомпрометированы», — говорится в заявлении ведомства. Transluce уведомила канадские власти об инциденте в понедельник.

Представитель OpenAI сообщил, что компании известно о сообщениях о попытках её моделей получить доступ к общедоступной информации на сайтах канадского правительства. По его словам, компания изучает эти данные и уже предоставила предварительный отчёт канадским чиновникам, проводящим проверку.

Инцидент стал очередным в серии подобных случаев: ранее сообщалось, что агенты OpenAI получили несанкционированный доступ к сайту здравоохранения Австралии и зондировали системы в США, а также были замечены при попытках взаимодействия с Hugging Face в рамках тестов кибербезопасности.

В начале сентября глава Anthropic (разработчик Claude) Дарио Амодеи призвал замедлить разработку ИИ на фоне подобных инцидентов со взломом платформ агентами OpenAI, предупредив, что при сохранении нынешних темпов развития в течение 6–12 месяцев ИИ-агенты потенциально смогут использовать постоянно действующий ботнет и нанести ущерб на сотни миллиардов долларов. Этот призыв поддержали глава OpenAI Сэм Альтман и предприниматель Илон Маск. При этом президент США Дональд Трамп ранее назвал опасения по поводу развития ИИ одной из «мистификаций радикально левых демократов». В конце сентября Альтмана и Амодеи пригласили выступить в сенате Австралии после случаев несанкционированного доступа ИИ-агентов OpenAI к правительственным сайтам Австралии и США.