AIUC вводит квартальную сертификацию AI-агентов

Как AIUC проверяет AI-агентов

Меня здесь цепляет не сама метафора с лампочками, а механика: AIUC превращает безопасность AI-агента в повторяемую внешнюю проверку. 15 сентября компания привлекла 40 млн долларов на тестирование, сертификацию и страхование таких систем.

В публичном описании стандарта AIUC-1 компания указывает четыре этапа: определение области применения, технические проверки, независимый аудит и сертификация. Агента испытывают примерно на 5000 комбинаций рисков и атак, подобранных под конкретный сценарий внедрения.

• Проверяют утечки данных и нарушения приватности.
• Ищут галлюцинации и нестабильные ответы.
• Проводят jailbreak-атаки и prompt injection.
• Проверяют неправильное использование инструментов и выход за заданные границы.

Это не бумажная анкета с галочками. В одном из крупных внедрений таксономия охватывала 86 категорий риска и 73 категории атак. AIUC связывает стандарт с шестью областями, включая безопасность, надёжность, подотчётность и работу с данными, а также с ISO 42001, NIST AI RMF, EU AI Act, OWASP и MITRE ATLAS.

Сертификат действует квартал, а тестирование повторяется как минимум ежеквартально. На момент публикации среди сертифицированных решений были названы Harvey и платформа KPMG aIQ Capture. По данным Harvey, её система прошла более 3000 уникальных тестов без критических отказов; KPMG сообщала о более чем 900 технических проверках.

Что меняется для корпоративных внедрений

Это не гарантия безотказности, но уже полезный общий язык для разработчиков, служб безопасности, аудиторов и страховщиков. Вместо заявления поставщика о безопасном агенте появляется проверяемый набор результатов, привязанный к реальному сценарию использования.

Окей, это меняет расклад для закупок и допуска агентов к данным или инструментам. Сертификация позволяет сравнивать не только возможности моделей, но и качество защитных ограничений, устойчивость к атакам и дисциплину повторных проверок.

Слабое место тоже очевидно: поведение агента зависит от контекста, подключённых инструментов и условий развёртывания. Изменение системы после аудита способно обесценить часть результатов, поэтому квартальный цикл выглядит важнее самого значка. Главный нерешённый вопрос теперь не в наличии сертификата, а в том, насколько быстро проверка догоняет изменения агента.

Ранее мы разбирали риски безопасности и операционные риски, возникающие при внедрении AI-агентов в бизнес-процессы. Эти же риски объясняют, почему сертификация и страхование становятся частью рынка AI-агентов.