Краткият отговор: според Financial Times, цитирана и от The Verge, OpenAI е разпуснала екипа Preparedness в края на юли. Това не означава автоматично, че компанията спира работата по безопасността, но променя начина, по който се разпределя отговорността за най-тежките рискове от AI модели.
Източници: Financial Times, The Verge и официалната страница на OpenAI за безопасност.
Изображение: The Verge, визуал към публикация за OpenAI и AI безопасността.
Какво стана
Preparedness беше един от екипите, които трябваше да гледат най-неудобната част от развитието на AI: не дали моделът пише по-хубав текст, а дали може да стане инструмент за сериозна вреда. В тази зона влизат кибератаки, биологични рискове, измами, автономно поведение и други сценарии, които не се виждат в обикновена продуктова демонстрация.
Според информацията на Financial Times, екипът е бил разпуснат в края на миналия месец, а отговорностите са прехвърлени към съществуващи групи по конкретни направления, включително био и кибер. Това е управленска промяна, но не е дребна. При AI компаниите структурата често показва кое е приоритет, кой има право да спира пускане и кой носи тежестта, когато безопасността влезе в конфликт със скоростта.
Защо е важно
OpenAI вече не е лаборатория, която показва впечатляващи демота веднъж годишно. ChatGPT, API моделите, агентните инструменти и интеграциите за работа са част от ежедневна инфраструктура за милиони потребители и разработчици. Затова въпросът не е само вътрешноорганизационен. Ако оценките за риск се разпръснат между продуктови и специализирани екипи, външният свят ще иска по-ясни сигнали: как се взема решение за пускане, как се документират откази и кой има последната дума.
Темата се връзва и с по-широката промяна в индустрията. Само през последните седмици NTG разгледа как AI Act започва да засяга големите AI модели, защо САЩ подготвят доброволни тестове за AI и киберрискове и как инциденти при AI тестове показват нови слабости в оценяването. Разпускането на Preparedness влиза точно в тази линия: безопасността вече не е странична тема за изследователи, а част от доверието към продукта.
Къде са киберрисковете
Най-практичният риск за бизнеса и потребителите е киберсигурността. По-силните модели могат да помагат за писане на код, анализ на логове и откриване на уязвимости, но същите способности могат да се обърнат и към по-бързо създаване на фишинг, автоматизирано търсене на пропуски или по-добро социално инженерство. Това не е аргумент срещу AI инструментите, а аргумент за по-сериозни проверки преди масово пускане.
Вече видяхме как Microsoft говори за нови защитни слоеве с Project Perception, а OpenAI все по-често позиционира агентите като реални работни инструменти, не просто като чат прозорец. Колкото повече задачи един модел може да изпълнява самостоятелно, толкова по-важни стават ограниченията, логовете, правата за достъп и тестовете срещу злоупотреба.
Какво да следим
Първият сигнал ще бъде прозрачността. Ако OpenAI публикува повече детайли за новото разпределение на отговорностите, за процеса на оценка и за това кои тестове са задължителни преди нови модели, напрежението може да спадне. Ако обаче структурата остане неясна, всяко следващо голямо пускане ще носи допълнителен въпрос: кой проверява риска независимо от продуктовия натиск?
Вторият сигнал е регулаторният. Европейските правила за големи модели, американските доброволни тестове и натискът от корпоративни клиенти вървят в една посока: компаниите ще трябва да доказват процес, не само намерение. За българските фирми, които използват AI през API или готови продукти, това означава да гледат не само цена и качество, а и документация за сигурност, настройки за данни, одитни следи и ясни условия при инцидент.
FAQ: OpenAI Preparedness
Това ли е краят на AI безопасността в OpenAI?
Не. По наличната информация работата е прехвърлена към други екипи. Големият въпрос е дали новата структура ще бъде достатъчно видима и независима, за да създава доверие.
Защо темата е важна за обикновени потребители?
Защото AI моделите вече обработват лични данни, документи, код, служебна информация и финансови процеси. Безопасността не е абстрактна: тя засяга акаунти, измами, поверителност и решения в реална работа.
Какво трябва да правят фирмите?
Да проверяват условията за данни, правата за достъп, логовете, възможностите за администраторски контрол и историята на доставчика при инциденти. Евтиният и силен модел не е достатъчен, ако няма ясен контрол върху риска.
Още по темата: миграцията от Assistants API към Responses API и новите модели в ChatGPT.
