Краткият отговор: САЩ подготвят доброволна рамка за тестове на най-мощните AI модели, като един от фокусите е дали те могат да улесняват кибератаки. Това не е забрана и не е класическа сертификация. По-важното е друго: за OpenAI, Google, Anthropic, Meta и следващата вълна AI компании безопасността вече става част от конкуренцията, а не само бележка под линия в системна карта.
Информацията е актуална към 5 август 2026 г. Основни източници: Reuters/US News за финализираната доброволна рамка, U.S. AI Safety Institute към NIST и AI Risk Management Framework на NIST.
Изображение: Белият дом във Вашингтон. Темата за AI тестовете вече се движи на ниво държавна политика и технологична сигурност.
Какво става
Според информация, цитирана от Reuters, американската администрация е финализирала детайлите около доброволни тестове, които трябва да оценяват киберспособностите на най-напредналите AI модели. На практика това означава, че големите лаборатории ще бъдат насърчавани да показват как моделите им се държат в сценарии, близки до реална злоупотреба: писане на експлойти, подпомагане на фишинг операции, автоматизирано търсене на уязвимости или комбиниране на отделни стъпки в по-опасна верига.
Това е различно от обичайните продуктови тестове. Тук въпросът не е дали чатботът отговаря приятно, а дали моделът може да свали прага за нападател, който има средни технически умения, но вече разполага с агент, инструменти и достатъчно контекст. Именно тази комбинация тревожи институциите: моделите не просто генерират текст, а все по-често работят с код, файлове, браузър, терминал и външни системи.
Защо точно сега
В последната година AI индустрията се премести от демонстрации към реални работни процеси. Компании внедряват AI агенти за поддръжка, разработка, анализ на документи, вътрешни бази данни и автоматизирани операции. Това носи очевидна полза, но създава и нов проблем: ако моделът може да помага на инженер да поправи сложен код, той може да помага и на нападател да разбере слаба конфигурация.
Затова доброволната рамка е важна дори без да е закон. Ако водещите лаборатории се съгласят да минават през такъв тип оценки, резултатите ще започнат да влияят върху доверието, корпоративните покупки и публичния натиск. Един модел може да е впечатляващ в бенчмарк, но ако доставчикът не може ясно да обясни как ограничава киберзлоупотреба, големи клиенти ще задават все по-трудни въпроси.
NewTechGen вече проследи сходна посока при кибер AI модела на Microsoft, инцидента около OpenAI и Hugging Face и AI подхода към Windows уязвимости. Общата нишка е ясна: AI вече е част от защитата, но и част от риска.
Къде е реалният киберриск
Най-опасният сценарий не е един модел да даде готова „магическа“ атака. По-реалистичният риск е ускорение. AI може да обясни грешка в код, да предложи payload, да преведе техническа документация, да сравни версии, да подреди стъпки и да автоматизира скучна част от разузнаването. За защитниците това е полезно; за нападателите също.
Затова тестовете трябва да гледат не само отделни отговори, а цяла задача. Модел, който отказва директна злонамерена заявка, пак може да бъде проблем, ако чрез серия невинно изглеждащи въпроси помага за същата цел. Добрата оценка трябва да проверява устойчивост срещу заобикаляне, работа с инструменти, памет, файлове, агентни цикли и способност за корекция след неуспешен опит.
Тук има и деликатен баланс. Ако правилата са прекалено груби, те ще пречат на легитимни специалисти по сигурност, които използват AI за защита. Ако са прекалено меки, моделите ще бъдат удобен ускорител за нискобюджетни атаки. Затова институционалните тестове са полезни само ако са достатъчно конкретни и се обновяват заедно с новите възможности на моделите.
Какво означава за бизнеса
За българските екипи темата не е далечна американска регулация. Ако използвате AI в разработка, поддръжка, вътрешни документи или клиентски процеси, доставчикът на модела вече трябва да се оценява по повече от цена, скорост и „колко добре пише“. Важни стават въпросите кой тества модела, как се публикуват ограниченията, как се следят злоупотреби и какво се случва при открит риск.
Практическият подход е прост. За нискорискови задачи като резюме, чернова на имейл или сортиране на идеи може да се използва по-лек контрол. За код, достъп до системи, клиентски данни, финансови операции или автоматизирани агенти трябва да има отделни права, журнал, човешко одобрение и ясна граница какво моделът може да изпълнява сам.
Тази посока се връзва и с по-широката AI инфраструктура, за която писахме при миграцията от Assistants API към Responses API и мобилния достъп до Codex. Колкото по-автономни стават инструментите, толкова по-важно е кой ги проверява и как.
FAQ: AI тестове и киберсигурност
Какво представляват доброволните AI тестове в САЩ?
Това са проверки, при които водещи AI компании предоставят модели за оценка на рискове, включително киберспособности и потенциал за злоупотреба.
Задължителни ли са тестовете?
Към момента рамката е доброволна, но може да стане важен стандарт за доверие при най-силните модели и корпоративното им внедряване.
Кои компании са най-засегнати?
Най-пряко са засегнати лаборатории като OpenAI, Google, Anthropic и Meta, но ефектът стига и до бизнесите, които използват техните модели в продукти и вътрешни процеси.
