OpenAI впервые признала модель «критически опасной» для кибербезопасностиOpenAI just called one of its own models a critical cybersecurity risk

OpenAI сообщила, что их модель под кодовым названием Astra стала первой, которая достигла порога «критических» киберспособностей по внутреннему Preparedness Framework — документу, где компания сама описывает, какие возможности ИИ считает достаточно опасными, чтобы требовать усиленных мер защиты. В посте компания говорит о «более сильных гарантиях безопасности» перед релизом, но конкретики — какие именно способности сработали как триггер, что это значит на практике — дигест не даёт.

Важно понимать формат такого заявления. Preparedness Framework — это собственная классификация OpenAI, не независимый внешний аудит. Компания сама определяет пороги, сама их измеряет и сама решает, что считать «критическим». С одной стороны, это шаг к прозрачности: раньше про такие пороги вообще не говорили публично так прямо. С другой — верить на слово тут особо нечему, пока нет независимой проверки методологии.

Тема не случайна: вопрос кибербезопасности ИИ обсуждается всё чаще именно потому, что модели становятся способны находить уязвимости в коде и писать эксплойты на уровне, доступном раньше только специалистам. Если Astra действительно перешагнула этот порог, то компания как минимум признаёт: инструмент, который она выпускает, может быть использован для атак, а не только для защиты.

Почему это важно

Это первый публичный случай, когда крупная лаборатория сама называет свою модель «критически» опасной по одному из параметров — а не просто говорит, что она «мощная» или «продвинутая». Стоит следить, появится ли за этим заявлением независимая проверка, или всё ограничится корпоративным пресс-релизом.