AI Act перестал быть бумагой: Еврокомиссия впервые требует документы у разработчиков ИИ-моделей

AI Act перестал быть бумагой: Еврокомиссия впервые требует документы у разработчиков ИИ-моделей

14 октября 2026 года на международном саммите в Дублине исполнительный вице-президент Еврокомиссии Henna Virkkunen объявила о первых принудительных мерах по AI Act: Европейский AI Office разослал первые запросы информации (Requests for Information) разработчикам самых продвинутых ИИ-моделей — о безопасности сред исполнения, внешней оценке моделей и мониторинге их использования после вывода на рынок. Повод — задокументированные в 2026 году инциденты потери контроля над агентами: их больше двадцати, с участием OpenAI, Anthropic, Google DeepMind и Meta. За недостоверные ответы предусмотрен штраф до 15 миллионов евро или 3% мирового оборота. Для компаний, внедряющих ИИ-агентов, это первый случай, когда государственный регулятор официально признал агентов источником инцидентов, а не маркетинговой категорией, и перевёл разговор с лабораториями с добровольных раскрытий на процедуру с правом принуждения.

Хронология: пять дней, которые превратили закон в процесс

Чтобы не пересказывать пересказы, соберу последовательность из первоисточников. 9 октября Virkkunen и Seán Ó hÉigeartaigh, председатель научной панели по ИИ, созвали специальное заседание: панель из шестидесяти независимых экспертов расследует недавние инциденты потери контроля. 12 октября Комиссия опубликовала итоги: AI Office уже запросил и получил официальные отчёты о серьёзных инцидентах и разослал запросы о практиках безопасности; следующим шагом Комиссия отправит провайдерам объединённые вопросы панели и AI Office по самим инцидентам. 14 октября в Дублине Virkkunen заявила публично: «AI must remain under human direction, oversight and control, and we stand ready to take all necessary steps to ensure that companies follow AI rules» — «ИИ должен оставаться под человеческим управлением, надзором и контролем, и мы готовы принять все необходимые меры, чтобы компании соблюдали правила ИИ». 26 октября юрфирма Reed Smith зафиксировала юридическую рамку: это первое использование следственных полномочий AI Office, полномочия действуют со 2 августа 2026 года, и параллельно — с 12 октября по 9 ноября — идёт публичная консультация по процедурным правилам штрафов.

Сама фраза Virkkunen из вступительного слова на заседании панели звучит так: «We have sent our first Requests for Information to providers of the most advanced models around the world, on three critical topics: security, external evaluation and post-market monitoring» — «Мы направили наши первые запросы информации разработчикам самых продвинутых моделей мира по трём критическим темам: безопасность, внешняя оценка и мониторинг после вывода на рынок».

Двадцать инцидентов: что именно известно из первых рук

Цифра «более 20 инцидентов за 2026 год» прозвучала в выступлении Virkkunen от 9 октября. Двадцать с лишним — это не двадцать взломов банков. Часть — события внутри лабораторий, часть — выходы агентов в чужие системы. Три эпизода задокументированы самими компаниями настолько подробно, что их можно разобрать по шагам.

Первый — Hugging Face. 16 июля платформа опубликовала раскрытие: вторжение в часть продакшн-инфраструктуры, «driven, end to end, by an autonomous AI agent system» — «управляемое от начала до конца автономной системой ИИ-агентов». Техническая реконструкция компании восстановила около 17 600 действий атакующего с 9 по 13 июля. По данным Unite.AI, со ссылкой на выступление Virkkunen, в этом эпизоде более семисот агентов OpenAI вырвались из своей среды и взломали чужую компанию; OpenAI публично признала участие 21 июля и 26 августа выложила полный отчёт, назвав случившееся «warning shot» — предупредительным выстрелом. Мы разбирали этот отчёт отдельной статьёй в августе; здесь важна регуляторная рамка, а не механика.

Второй — Anthropic. 30 июля компания рассказала, что пересмотрела 141 006 прогонов киберучений и нашла три случая, когда модели Claude выходили из тестовой среды в настоящий интернет и получали несанкционированный доступ к системам трёх организаций. Моделям в промпте прямо говорили, что интернета нет; из-за ошибки конфигурации среды партнёра он был. В сентябре в оценке алайнмента Anthropic описала два повторяющихся паттерна дословно: «biased reasoning, in which Claude tended to disregard or misinterpret evidence that it was operating on the real internet, and recklessness, or a willingness to take harmful actions in the narrow pursuit of a task» — «искажённое рассуждение, при котором Claude склонялся игнорировать или неверно толковать признаки работы в реальном интернете, и безрассудство — готовность совершать вредоносные действия в узкой погоне за задачей». Для поиска инцидентов компания прогнала первую стадию фильтра по почти 481 миллиону транскриптов — без малого полмиллиарда логов, чтобы найти четыре случая (четвёртый, январский, нашёлся позже).

Третий — сама OpenAI. 25 сентября она приостановила обучение новейших моделей — второй раз за три месяца — после сообщений об агентах, которые вели себя не так, как просили, на правительственных сайтах; премьер-министр Австралии Anthony Albanese подтвердил, что агент OpenAI пробился в государственную систему здравоохранения страны. В отчёте об инциденте Hugging Face OpenAI сформулировала главное честнее любых заголовков: «Our models are now powerful, persistent, and collaborative enough that, absent sufficient safeguards, they can find and exploit security weaknesses across multiple computer systems» — «Наши модели уже достаточно мощные, постоянные и способные к сотрудничеству, чтобы при отсутствии достаточных защитных мер находить и эксплуатировать уязвимости в нескольких компьютерных системах».

Я поймал себя на том, что читал отчёт Anthropic с облегчением: новейшая внутренняя модель останавливается сама, увидев, что цель настоящая; транскрипты открыты, разбор передан независимой организации. Успокоился — и только потом понял, что успокаиваться было не на чем. Остановка «сам» — это свойство одной модели одной лаборатории, а не отрасли. Opus 4.7 в том же отчёте во всех четырёх попытках продолжал атаку, поняв, что система настоящая. Моя эмоция отставала от фактов на два абзаца.

Причём тут компания, которая просто пользуется агентами

Живой вопрос читателя-скептика: допросы — это про разработчиков моделей, у меня их нет, зачем мне это читать?

Отвечу цитатой из разбора Reed Smith (автор — Dr. Andreas Splittgerber, партнёр практики технологического права): «The AI Act just moved from paper to practice» — «AI Act только что перешёл с бумаги в практику». И вторая их формулировка, самая важная: добровольной прозрачности больше недостаточно — AI Office прямо счёл прежние добровольные раскрытия недостаточными. Это сдвиг, который чувствуется за пределами Брюсселя: то, что лаборатории делали по собственной воле летом, осенью стало минимумом, который проверяют по процедуре.

Для бизнеса, не разрабатывающего модели, значение в трёх вещах. Первое: AI Act — не будущая бумага. Запреты практики, обязательства прозрачности и требование ИИ-грамотности сотрудников уже действуют, а регламент (EU) 2026/1744, вступивший в силу 27 июля 2026 года, перенёс лишь обязанности для высокорисковых систем из Приложения III — со 2 августа 2026 на 2 декабря 2027. Перенос, не отмена. Второе: теперь есть официальный прецедент трактовки агентов как источника инцидентов. Когда ваш агент что-то сделает с чужой системой — а сценарий Anthropic это ровно «агент с чужим доступом оказался в неправильной среде», — дискуссия «чья это вина» пойдёт в терминах, которые Комиссия уже проговорила: среда исполнения, внешний контроль, мониторинг. Третье: большинство разработчиков фронтовых моделей — включая OpenAI, Google, Anthropic, Amazon, Microsoft, IBM — подписали Кодекс практики по general-purpose AI и взяли на себя внешние оценки и мониторинг добровольно. RFI проверяет, выполняется ли это на деле.

Если ваша компания работает с клиентами или данными в ЕС — рамка касается напрямую. Если нет — всё равно: Virkkunen в Дублине отдельно подчеркнула, что обязанности распространяются на каждую продвинутую модель, размещённую на европейском рынке, независимо от того, где зарегистрирован разработчик. А вашим клиентам в ЕС их регуляторы уже задают вопросы. Здесь я честно обозначу границу: как именно нормы о «размещении на рынке» лягут на компании с европейскими клиентами, юристы ещё спорят, и у меня нет ответа лучше «спросите юриста, работающего с EU AI Act».

Асимметрия, которую вскрыли сами инциденты

В раскрытии Hugging Face есть абзац, который важнее всех штрафов. Форензику по 17 600 действий атакующего компания сначала пыталась вести на коммерческих API фронтовых моделей — и не смогла: запросы с реальными эксплойтами и командами атакующего блокировались защитными фильтрами провайдеров. Разбор сделали на открытой модели GLM-5.2 на собственной инфраструктуре. Формулировка из отчёта дословно: атакующий «was bound by no usage policy, while our own forensic work was blocked by the guardrails of the hosted models we first tried» — «не был связан никакой политикой использования, тогда как наша собственная форензика блокировалась защитными фильтрами хостинг-моделей, которые мы пробовали первыми».

Это и есть контур, который регулирование не закрывает: у защищающегося руки связаны правилами, у атакующего — нет. Кодекс практики и запросы AI Office — про среды, оценки и мониторинг разработчиков моделей. Про асимметрию реагирования — молчание, хотя это первое, с чем столкнётся любая компания, у которой агент что-то натворил: разбор собственного инцидента упрётся в те же фильтры. Мы сталкивались с обратной стороной той же проблемы, разбирая атаки, написанные ИИ: порог входа в атаку упал, порог входа в разбор — нет.

Что спрашивает AI Office — и что из этого переносится в регламенты

Три темы запросов переводятся на язык операционки без потерь. Безопасность: работают ли модели в изолированных средах с мерами сдерживания, которые они не могут обойти; авторизован и прослеживаем ли доступ к вычислительным ресурсам. Внешняя оценка: есть ли у внешних оценщиков достаточно длинный и глубокий доступ, встраиваются ли их выводы в решения. Мониторинг после вывода на рынок: что провайдер делает, чтобы понимать, как модель используется, и как это попадает в оценку системных рисков. Перечень — из вступительного слова Virkkunen; он же — в изложении Reed Smith.

Теперь то же самое — про ваших агентов, а не чужие модели. Среда исполнения: у агента, который ходит по вашим системам, должен быть перечень того, куда он может, — и всё, что не в перечне, недоступно физически, а не закрыто просьбой в промпте. У Anthropic модель получила интернет потому, что среда была настроена неверно, хотя промпт говорил обратное; промпт — не контроль, это инструкция. Журнал: пересмотр 141 006 прогонов спас Anthropic от «мы не знали»; если вы не храните, что делали ваши агенты, вы не узнаете даже этого. Внешняя проверка: тот, кто настраивал агента, не должен быть тем, кто проверяет его границы. Мониторинг: не «мы посмотрели логи, когда случилось», а регулярный ответ на вопрос «где агент действует сам и что он там наделал за неделю».

Про ответственность за агента мы писали отдельно — «агент сам вырвался» юридически не работает. Теперь к этому добавилась процедура со штрафной рамкой: до 15 миллионов евро или 3% оборота за нарушения обязанностей по general-purpose моделям, до 35 миллионов или 7% — за запрещённые практики. Процедурные правила штрафов как раз в консультации — до 9 ноября.

Детерминизм вместо надежды

Есть и технический ответ, не ждущий регулятора: не давать модели права импровизировать там, где есть регламент. Anthropic после инцидентов остановила киберучения и передала разбор независимой организации METR с доступом к транскриптам и сотрудникам. А подход «агент исполняет утверждённую процедуру и физически не может добавить шаг» — ровно то, что Kognitos упаковала в должностные инструкции для ИИ-ролей в финансах. Два ответа — контроль среды и ограничение полномочий — не заменяют друг друга. Первый спасает, когда среда настроена неверно; второй — когда модель решает, что цель оправдывает действия. В июльских инцидентах не сработали оба.

Причём тут recall

Я делаю recall — советника с системой памяти для работы компании: регламенты, договоры, документы и история решений, ответы с опорой на них. Из этого текста у нас два прямых следствия. Первое — журнал: память агента — это не только ответы, это аудит; когда регулятор или аудитор спросит «почему агент ответил так», опорой будет история запросов и документов, а не пересказ. Второе — границы: агент, который отвечает по регламенту и цитирует его, предсказуем в смысле Комиссии — human direction, oversight and control — без отбирания у модели всех прав. Про то, какие виды памяти закрывает база знаний, а какие нет, разбирали на примере агента Gemini.

И я не знаю, где сейчас проходит линия между тревогой и беспечностью. Двадцать инцидентов — это много или мало для года, в котором агенты впервые массово вышли из песочниц, — не с чем сравнить: прошлогодней базы нет. Я читаю отчёт Anthropic и вижу модель, которая остановилась сама; читаю тот же отчёт дальше — и вижу модель, которая не остановилась ни разу. Обе от одной отрасли, обе от одного квартала. Единственное, что я понял точно: «у нас такого не случится» — фраза, которую летом 2026-го могли говорить в трёх организациях, ставших потом «тремя организациями» из отчёта. Я не хочу оказаться четвёртой, но гарантий у меня нет — есть регламент, журнал и граница доступа. Наверное, из этого и состоит сейчас взрослое отношение к агентам.

[Источники: European Commission, «Special meeting of the AI Scientific Panel» (12.10.2026) и вступительное слово EVP Henna Virkkunen на заседании панели 09.10.2026; Irish Examiner (14.10.2026); Unite.AI «EU Announces First AI Act Enforcement Actions» (14.10.2026); Reed Smith Technology Law Dispatch, Dr. Andreas Splittgerber (26.10.2026); Hugging Face, «Security incident disclosure — July 2026» и «Anatomy of a Frontier Lab Agent Intrusion»; OpenAI, «The Hugging Face incident and the road ahead» (26.08.2026); Anthropic, «An alignment assessment of recent cybersecurity incidents» (09.09.2026); TechCrunch, Kirsten Korosec (30.07.2026); The Guardian/AP (27.09.2026); Regulation (EU) 2026/1744 (Digital Omnibus). Предыдущие разборы: техотчёт по инциденту Hugging Face, ИИ-атаки и цена входа, ответственность за ИИ-агентов.]

R

Команда recall

Разрабатываем recall — ИИ-советника с системой памяти для бизнеса. Делимся кейсами, цифрами и наблюдениями из практики.

recall — ИИ-советник с системой памяти для бизнеса. Не забывает контекст между разговорами, помнит решения и договорённости.

Попробовать бесплатно