OpenAI запустила пилот независимых проверок моделей: что будут изучать четыре команды

Двое исследователей за большим столом рассматривают чистые карточки в лаборатории за стеклянной перегородкой
Опубликовано: 17.11.2026 | Время чтения: 4 минуты

OpenAI подписала соглашения с четырьмя внешними исследовательскими организациями для проверки своих ИИ-моделей изнутри. Apollo Research, METR, Goodfire и Transluce изучат разные стороны безопасности во время разработки и внутреннего применения моделей. Это начало пилота, а не заключение о том, что модели уже прошли независимый аудит.

Что изменилось в подходе к проверкам

О соглашениях OpenAI сообщила 16 ноября. Речь идёт о «встроенных» проверках: внешним специалистам предоставят доступ к части внутренних данных, систем и сотрудников. Обычная проверка перед выпуском модели показывает поведение уже подготовленного продукта. Новый формат позволяет изучать отдельные этапы обучения и тестирования, а также работу защитных механизмов в процессе разработки.

OpenAI называет четыре команды и разные задачи для каждой. Apollo Research будет искать признаки того, что модель может действовать против замысла разработчиков или обходить механизмы контроля. Исследователи проверят, не поощряет ли обучение такое поведение, проявляется ли оно при испытаниях и внутреннем использовании и можно ли заметить его по доступным следам рассуждений.

METR планирует оценить поведение модели в крупном цикле обучения с подкреплением и отдельно проверить, способны ли внутренние средства наблюдения обнаруживать проблемы. Goodfire сосредоточится на том, что происходит внутри моделей при обучении, и на поиске нежелательного поведения. Transluce оценит качество проверок, которые OpenAI проводит после обучения модели. У этих направлений разная область исследования: результаты одной команды не заменят работу остальных.

Что известно об участии Apollo Research

Apollo Research отдельно описала своё соглашение. По её сообщению, шесть специалистов будут работать внутри OpenAI четыре месяца. Они смогут изучать согласованные данные и задавать вопросы о выбранных моделях и периодах разработки. В частности, для части проверки предусмотрен доступ к материалам обучения, результатам испытаний и промежуточным состояниям моделей.

При этом доступ не является неограниченным. Apollo прямо указывает, что пилот пока не соответствует её полному стандарту независимой оценки. OpenAI может удержать некоторые сведения из согласованной области, если сочтёт их раскрытие технически невозможным, опасным для безопасности или чувствительным для интеллектуальной собственности. Компания обещала не отказывать в доступе лишь потому, что данные выглядят для неё неблагоприятно, и должна объяснять отдельные ограничения.

Apollo планирует два публичных отчёта о методах, выводах и ограничениях своей работы. До их публикации нельзя оценить, насколько выбранный доступ оказался достаточным. Важно будет смотреть не только на итоговые формулировки, но и на то, какие модели, этапы обучения и сценарии действительно вошли в проверку.

Есть и вопрос прозрачности результатов. OpenAI допускает изъятие конфиденциальных деталей из открытых материалов. Поэтому публичный отчёт может не содержать всех доказательств, на которые опирались исследователи. Apollo, со своей стороны, считает обязательным право рассказать читателям об ограничениях доступа и раскрытия. Это позволит отличить вывод «проблема не обнаружена в проверенной области» от гораздо более сильного и пока необоснованного заявления о полной безопасности системы.

Почему это важно за пределами лаборатории

Для пользователей ChatGPT и других ИИ-сервисов соглашение пока не меняет функции, цены или правила доступа. Значение новости в другом: внешние группы получают возможность проверять утверждения разработчика, опираясь на внутренние свидетельства, а не только на демонстрацию готовой модели. Это может сделать будущие заявления о безопасности более проверяемыми.

Но наличие внешних исследователей само по себе не означает, что риск исчез. Область работ заранее ограничена, часть проверок ещё согласовывается, а публичных результатов пока нет. Даже положительный отчёт будет относиться к конкретным моделям и условиям, которые исследовали авторы. Переносить его выводы на все продукты и все ситуации было бы неверно.

В анонсе OpenAI также раскрыла условия сотрудничества: Apollo и Goodfire получают оплату за работу, а METR и Transluce не получают денежного вознаграждения, хотя могут принять вычислительные ресурсы или кредиты API. Само по себе финансирование не отменяет экспертную оценку. Для читателя важнее знать, кто выбирал вопросы исследования, какие данные были доступны и мог ли исполнитель открыто сообщить о спорных результатах.

Разница между проверкой модели и проверкой условий её применения особенно важна для автономных агентов. Если система получает доступ к внешним инструментам и сайтам, значение имеют не только свойства модели, но и правила доступа, наблюдения и остановки. Новые соглашения OpenAI касаются прежде всего оценки моделей и защитных механизмов внутри компании. Судить об эффекте пилота можно будет по опубликованным методам, обнаруженным проблемам и тому, какие изменения последуют за выводами исследователей.

Дополнительный материал ExShare: AI-агенты в тесте пытались атаковать сайт Epoch AI.