Google, OpenAI и Anthropic создают орган по стандартам безопасности ИИ: что это значит для разработчиков

Три компании контролируют львиную долю передовых AI-моделей. И теперь они решают, что безопасно. Google, OpenAI и Anthropic ведут переговоры о создании отраслевого органа по стандартам безопасности — Standards Authority for Frontier AI (SAFA). Запуск планируется к концу 2026 или началу 2027 года, сообщает Yahoo Tech. Звучит как ответственная инициатива? Возможно. Но давайте разберёмся, что за этим стоит.

Что такое SAFA и кто за ней стоит

SAFA задуман как саморегулируемая организация, которая будет разрабатывать стандарты тестирования и отчётности для передовых AI-моделей. В отличие от государственных регуляторов, этот орган создаётся самими участниками рынка — и это ключевой момент. Среди кандидатов на должность CEO SAFA рассматриваются Шрирам Кришнан (бывший советник по ИИ в администрации Трампа) и Арати Прабхакар (экс-директор Управления научно-технической политики Белого дома при Байдене), сообщает AASTOCKS. Оба — фигуры с серьёзным политическим бэкграундом, что намекает: SAFA не просто технический клуб, а площадка для неформального согласования правил с Вашингтоном.

Пока неясно, получит ли SAFA реальные полномочия или останется консультативным органом. Но уже сейчас понятно: три крупнейших игрока пытаются установить де-факто стандарты, которые остальным придётся соблюдать, чтобы получить доступ к их экосистемам. Подобные саморегулируемые организации уже существуют в других отраслях: FINRA регулирует финансовых брокеров в США, а в авиации стандарты безопасности устанавливаются отраслевыми консорциумами. SAFA пытается повторить эту модель для ИИ.

Ключевые требования: что изменится для разработчиков

SAFA планирует сосредоточиться на нескольких направлениях, включая предварительное тестирование моделей перед развёртыванием, обязательную отчётность об инцидентах и независимый аудит, сообщает The Verge. Во-первых, это предварительное тестирование моделей перед развёртыванием — сторонние организации будут проверять модели на безопасность и соответствие заявленным характеристикам. Во-вторых, вводится обязательная отчётность об инцидентах: компании должны будут сообщать о случаях нежелательного поведения моделей. В-третьих, предполагается независимый аудит — регулярная проверка моделей на соответствие стандартам.

• Предварительное тестирование перед релизом
• Отчётность об инцидентах безопасности
• Независимый сторонний аудит
• Стандартизированные протоколы оценки рисков
• Публикация отчётов о безопасности (возможно, в ограниченном виде)

Эти требования перекликаются с NIST AI Risk Management Framework и OECD AI Principles, но в отличие от них SAFA создаётся самими компаниями. Важно понимать: SAFA — это добровольный орган, а не государственный регулятор. Никаких штрафов за несоответствие пока не предусмотрено. Но на практике добровольность может оказаться иллюзорной: если крупнейшие облачные провайдеры и платформы начнут требовать сертификат SAFA для размещения моделей, у разработчиков не останется выбора.

Мы уже разбирали, как AI-агент взломал Medicare в Австралии — и это лишь один из примеров, почему стандарты безопасности становятся критичными. Если бы подобный инцидент произошёл с моделью, не прошедшей аудит SAFA, последствия для репутации могли бы быть катастрофическими.

Последствия для российских компаний и разработчиков

А теперь самое интересное — и самое болезненное для российского рынка. SAFA создаётся как американская инициатива, и это неизбежно превратит её в негласный фильтр для доступа на западные рынки. Российские разработчики, планирующие выход на международную арену, столкнутся с необходимостью соответствовать стандартам, которые разрабатываются без их участия.

Представьте сценарий: российский стартап хочет использовать облако AWS для обучения модели. Без сертификата SAFA ему отказывают в доступе. Или другой пример: компания пытается интегрировать свою модель с API OpenAI — но политика безопасности требует подтверждения соответствия стандартам SAFA. Это не фантастика, а вполне вероятное развитие событий.

При этом Минцифры РФ в марте 2026 года опубликовало собственный законопроект о регулировании ИИ, который вводит реестр «доверенных моделей» и требует обработки данных исключительно на территории России для допуска в госсистемы (Парламентская газета). Таким образом, формируются два параллельных режима: западный (SAFA + EU AI Act) и российский (реестр Минцифры). Разработчикам придётся лавировать между ними, а это дополнительные издержки и риски.

Как подготовиться к новым стандартам: практические шаги

Ждать официальных требований — значит опоздать. Вот что можно сделать уже сейчас, чтобы не оказаться за бортом:

• Проведите внутренний аудит своих моделей и процессов разработки. Задокументируйте, как вы тестируете модели на безопасность и как обрабатываете инциденты.
• Внедрите практику отчётности — даже если SAFA ещё не требует этого, наличие внутренних протоколов покажет партнёрам вашу зрелость.
• Следите за требованиями EU AI Act — он уже в силе, и его положения могут стать основой для SAFA. Соответствие европейским нормам даст вам фору.
• Рассмотрите возможность участия в отраслевых консорциумах — если у вас есть выход на международные ассоциации, попробуйте повлиять на формируемые стандарты.
• Готовьте юридическую базу — контракты с зарубежными партнёрами должны учитывать возможные требования по сертификации.

Вот краткий чек-лист для самостоятельной проверки:

• Есть ли у вас документированные протоколы тестирования моделей на безопасность?
• Ведёте ли вы журнал инцидентов и их разбора?
• Проводился ли когда-либо независимый аудит ваших моделей?
• Соответствуют ли ваши процессы хотя бы базовым требованиям EU AI Act?
• Готовы ли вы предоставить отчётность партнёрам по запросу?

Не стоит недооценивать и репутационный аспект. В мире, где доверие к ИИ становится валютой, наличие сертификата SAFA (или его аналога) может стать конкурентным преимуществом, а не обузой.

Сравнение с EU AI Act и прогноз: станет ли SAFA глобальным стандартом

SAFA часто сравнивают с европейским AI Act, но между ними принципиальная разница. EU AI Act — это закон с обязательными проверками для систем высокого риска и штрафами до 35 млн евро (DOLC.de). SAFA — добровольный орган без санкций. Однако на практике добровольные стандарты могут стать обязательными де-факто, если крупные игроки рынка сделают их условием доступа к своим платформам.

Прогноз: SAFA вряд ли заменит государственное регулирование, но может стать де-факто стандартом для доступа к американскому рынку и облачным платформам. Для российских разработчиков это означает необходимость либо адаптироваться, либо искать альтернативные рынки. Впрочем, история показывает, что добровольные отраслевые стандарты часто оказываются более гибкими и эффективными, чем жёсткое законодательство. Вопрос лишь в том, кто будет их контролировать.

Проверьте, соответствует ли ваша модель хотя бы базовым требованиям SAFA уже сегодня. Начните с внутреннего аудита и документирования процессов — это не только подготовит вас к новым правилам, но и повысит доверие партнёров. Подпишитесь на дайджест «Деньги не пахнут», чтобы первыми узнавать о регуляторных изменениях в мире ИИ.