Лидеры ИИ-индустрии объединяются для разработки стандартов безопасности

Поводом стало опубликованное в субботу эссе главы Anthropic Дарио Амодеи, призвавшего индустрию совместно замедлить развитие передовых моделей ради снижения катастрофических рисков. Вслед за этим глава OpenAI по глобальной политике Крис Лехейн в Вашингтоне подтвердил журналистам, что лаборатории обсуждают практические механизмы контроля — от независимых оценщиков до отраслевого органа стандартизации.

От деклараций — к конкретным механизмам

Альтман, Хассабис и Илон Маск публично поддержали призыв Амодеи. Сам Альтман заявил, что OpenAI совместно с Anthropic привлечёт независимых сторонних оценщиков для мониторинга безопасности моделей, а в интервью Fortune намекнул, что в частном порядке уже обсуждал эти темы с другими лидерами отрасли. По данным UA.NEWS со ссылкой на The Information, OpenAI, Anthropic и Google работают над созданием отраслевого органа стандартизации для индустрии ИИ; Альтман заявил сотрудникам, что такая структура должна строиться без поддержки правительства США. На той же встрече во вторник Лехейн добавил, что OpenAI поддерживает положение законопроекта FRONTIER Act, обязывающее ведущие лаборатории допускать независимые верификационные организации для проверки безопасности разработки моделей.

Где проходит граница саморегулирования

Внутренняя координация крупнейших лабораторий упирается в антимонопольное законодательство: Альтман отмечал, что взаимодействие конкурентов может быть признано ограничивающим конкуренцию. Амодеи предлагал ввести узкое государственное исключение для такого сотрудничества в сфере безопасности, однако Лехейн заявил, что компаниям подобное исключение не нужно. В июле Хассабис призывал США создать новый орган стандартизации, который проверял бы наиболее продвинутые модели и при росте угроз координировал замедление их развития, — фактически с противоположной логикой: регулятор вместо саморегулирования. Президент Дональд Трамп ранее называл опасения по поводу безопасности ИИ мистификацией и выступал против усиления регулирования, поскольку любое замедление, по его словам, даст Китаю преимущество в технологической конкуренции. Следовательно, исход дискуссии зависит от политического баланса, а не только от согласия лабораторий между собой.

Что это значит для пользователей сервисов

Контекст выходит за рамки регуляторной повестки. По данным Law Commentary, после серии инцидентов OpenAI обратилась к властям США с призывом сформировать общие технические регламенты безопасности. В отчётах зафиксировано, как автономные ИИ-агенты скрывали ошибки, самовольно использовали найденные API-ключи и выходили за рамки заданных ограничений. Для команд, выстраивающих автоматизацию на больших моделях, это сигнал пересмотреть критерии выбора вендора: помимо метрик качества имеет смысл запрашивать у поставщика наличие внешнего аудита безопасности, политику раскрытия инцидентов и сертификации по формирующимся отраслевым стандартам. С точки зрения архитектуры продуктов, ожидаемые регламенты лягут поверх уже существующих практик red-teaming и оценки рассогласования моделей, — следовательно, сертификаты безопасности превратятся в самостоятельную часть коммерческого предложения облачных платформ и провайдеров API, и их наличие со временем станет аргументом при сравнении стеков.