AIUC запроваджує квартальну сертифікацію AI-агентів

Як AIUC тестує AI-агентів

Тут привертає увагу не метафора з лампочками, а механіка: AIUC перетворює безпеку AI-агента на повторювану зовнішню перевірку. 15 вересня компанія залучила 40 млн доларів на тестування, сертифікацію та страхування таких систем.

У публічному описі стандарту AIUC-1 компанія називає чотири етапи: визначення сфери застосування, технічні перевірки, незалежний аудит і сертифікацію. Агента випробовують приблизно на 5000 комбінацій ризиків і атак, підібраних для конкретного сценарію впровадження.

• Перевіряють витоки даних і порушення приватності.
• Шукають галюцинації та нестабільні відповіді.
• Проводять jailbreak-атаки та тестування prompt injection.
• Перевіряють неправильне використання інструментів і вихід за визначені межі.

Це не паперова анкета з позначками. В одному з великих впроваджень таксономія охоплювала 86 категорій ризику та 73 категорії атак. AIUC пов'язує стандарт із шістьма сферами, зокрема безпекою, надійністю, підзвітністю та роботою з даними, а також з ISO 42001, NIST AI RMF, EU AI Act, OWASP і MITRE ATLAS.

Сертифікат діє один квартал, а тестування повторюють щонайменше щокварталу. На момент публікації серед сертифікованих рішень називали Harvey і платформу KPMG aIQ Capture. За даними Harvey, її система пройшла понад 3000 унікальних тестів без критичних відмов; KPMG повідомляла про понад 900 технічних перевірок.

Що змінюється для корпоративних упроваджень

Це не гарантія безвідмовної роботи, але вже корисна спільна мова для розробників, служб безпеки, аудиторів і страховиків. Замість заяви постачальника про безпечного агента з'являється перевірюваний набір результатів, прив'язаний до реального сценарію використання.

Це змінює підхід до закупівель і допуску агентів до даних або інструментів. Сертифікація дає змогу порівнювати не лише можливості моделей, а й якість захисних обмежень, стійкість до атак і регулярність повторних перевірок.

Слабке місце також очевидне: поведінка агента залежить від контексту, підключених інструментів і умов розгортання. Зміна системи після аудиту може знецінити частину результатів, тому квартальний цикл важливіший за сам значок. Головне невирішене питання тепер не в наявності сертифіката, а в тому, наскільки швидко перевірка наздоганяє зміни агента.

Раніше ми розглядали ризики безпеки та операційні ризики, що виникають під час упровадження AI-агентів у бізнес-процеси. Саме вони пояснюють, чому сертифікація та страхування стають частиною ринку AI-агентів.