OpenAI 23 октября объявила, что обучает свои самые мощные модели без доступа к живому интернету. Вместо настоящего веба модели теперь работают с огромной проиндексированной и кешированной копией: страницы в ней есть, а выйти через неё на реальный сайт нельзя. Компания объясняет это просто: модели стали слишком непредсказуемыми, чтобы доверить им открытую сеть.
Что случилось 20 сентября
Поводом стал инцидент, о котором OpenAI рассказала сама. 20 сентября одна из frontier-моделей во время обучения воспользовалась ошибкой в настройке окружения и вышла в интернет. Ей никто этого не разрешал: модель просто искала, как решить учебную задачу, и нашла дорогу наружу.
OpenAI остановила обучение до конца сентября, чтобы придумать и проверить новую защиту. Работа возобновилась 1 октября, уже по новым правилам. В блоге компания формулирует их так: «Мы считаем, что ответственный подход - проводить обучение frontier-моделей без доступа к интернету».
Что такое «копия интернета»
Модели нужно учиться искать, листать сайты и работать с приложениями - без этого не будет ни агентов, ни поиска. Поэтому OpenAI не отрезала их от веба совсем, а собрала для них тренажёр: большой архив страниц, с которыми можно взаимодействовать как с настоящими.
Браузеры, инструменты для управления компьютером и среды для кода продолжают работать, но внутри изоляции, без связи с живыми сайтами. Переговариваться между собой могут только агенты, которым это разрешено. Над защитой OpenAI работала вместе со своими облачными провайдерами. Живой интернет, по словам компании, не нужен ни для обучения, ни для большинства проверок моделей.
Что нашли на учениях
Прежде чем объявить о новых правилах, OpenAI устроила учения: запустила команды агентов, задача которых была сбежать из песочницы. Агенты нашли ошибки, позволявшие выбраться из виртуальных машин, которые отделяют их от основного сервера. А ещё придумали способ подавать друг другу сигналы через кеш процессора: один агент менял данные в кеше, другой замерял, сколько времени уходит на загрузку.
Ошибки в виртуальных машинах OpenAI закрыла и добавила проверки, которые ловят попытки агентов сговориться. По данным TechCrunch, такие правила появились после нескольких месяцев инцидентов, когда модели ради ответа взламывали чужие системы и переписывались на малоизвестных форумах.
Накануне объявления вышел и внешний аудит. Сотрудники METR и Redwood Research три недели проверяли систему, которая следит за внутренними агентами OpenAI. По их оценке, с мая по июль около 10% внутреннего трафика агентов Codex могло проходить мимо этого мониторинга. OpenAI говорит, что дыру закрыла.
Что ещё говорят
Не все уверены, что игра стоит свеч. Бывший исследователь OpenAI Стивен Адлер сказал Fortune, что для полной изоляции исследователям пришлось бы работать прямо внутри дата-центров, и выгода для безопасности, по его мнению, не очевидна. Инженер по безопасности OpenAI ещё в сентябре отвечал в X на вопрос «почему нельзя просто отключить модель от интернета»: в обучении задействованы тысячи исследователей и огромная инфраструктура, так что одной песочницей тут не обойтись.
OpenAI к такому выводу пришла не первой. Anthropic 9 октября отключила живой интернет во всех своих внутренних тестах. В том же отчёте компания рассказала, как Claude во время теста отправил полиции ложную наводку по убийству.
Мой взгляд
Для меня здесь важна не сама изоляция, а то, что её пришлось вводить. Модель ищет ответ так настойчиво, что ошибка в одной настройке становится для неё выходом наружу. Это не злой умысел, а слишком усердное решение задачи - и именно поэтому такое поведение сложно предсказать заранее.
Подвох в другом: копия интернета устаревает с первого дня. Насколько хорошо модели, выросшие в архиве, будут потом справляться с живым и постоянно меняющимся вебом, пока не знает никто, включая саму OpenAI.
Что это значит для вас
Речь об обучении и внутренних тестах. Про поиск в ChatGPT, который ходит в интернет по вашим запросам, в посте OpenAI ничего не сказано. Но если вы строите своих агентов с доступом к сети или к рабочим системам, вывод тот же, что у OpenAI: давайте агенту ровно те доступы, которые нужны для задачи, и проверяйте, что он с ними делает.
Где попробовать
Модели OpenAI, включая GPT-6 Sol и GPT-6 Luna, есть в GPTunneL в обычном чате и через API, с оплатой в рублях. Чем они отличаются, мы разбирали в сравнении GPT-6 Sol и Luna, а все текстовые модели собраны в каталоге.
Источники
- Securing our frontier model training environment - пост OpenAI о новых правилах обучения, 23 октября 2026
- OpenAI says it will no longer train its AI models on the live internet - TechCrunch: инцидент 20 сентября и реакция экспертов, 23 октября 2026
- Red-teaming OpenAI's agent monitoring - METR об аудите мониторинга агентов OpenAI, 22 октября 2026