Главные вопросы мира ИИ: Белый дом разрабатывает правила с OpenAI, Google и Anthropic

Мир искусственного интеллекта ждет разъяснений из Вашингтона.

Во вторник представители OpenAI, Anthropic, Google и других технологических компаний собрались в Вашингтоне для рассмотрения новой рамочной программы администрации по оценке передовых моделей ИИ. Теперь отрасль с нетерпением ожидает ответов на вопросы о том, что будет включено в эту структуру — упорядоченный способ для администрации президента Дональда Трампа оценивать возможности кибербезопасности моделей ИИ.

Эта рамочная программа знаменует собой поворотный момент в надзоре за ИИ. Хотя администрация Трампа придерживалась подхода с минимальным регулированием, стремительное развитие моделей ИИ для кибербезопасности и взлома начинает менять ситуацию.

Открытым остается вопрос, как будет выглядеть новый процесс и как он повлияет на выпуск и внедрение новых моделей ИИ. The New York Times сообщила во вторник, что официальные лица Белого дома заявили на встрече, что федеральное правительство планирует проверять только определенные типы моделей ИИ от таких компаний, как Anthropic и OpenAI, на предмет потенциальных рисков безопасности, и пока не планирует проверять модели с открытым исходным кодом, хотя эти планы могут измениться по мере развития технологий. Модели с открытым исходным кодом позволяют любому бесплатно загружать или модифицировать код.

Указ, изданный в начале июня, предписал должностным лицам в течение 60 дней разработать "процесс бенчмаркинга для оценки передовых кибервозможностей моделей ИИ". Срок истек.

Вот основные нерешенные вопросы.

Насколько привержена администрация Трампа своей позиции по ИИ?

Подход администрации к надзору за ИИ определялся ее позицией с минимальным регулированием. В Плане действий по ИИ, опубликованном в 2025 году, говорилось, что регулирование может "парализовать" отрасль, и предлагалось агентствам "устранить ненубарные регуляторные барьеры, которые препятствуют частному сектору".

Июньский указ признал новую реальность, в которой модели ИИ от Anthropic и OpenAI продемонстрировали заметные улучшения в написании кода, поиске уязвимостей в кибербезопасности и выполнении более долгосрочных задач.

Рамочная программа, намеченная в июньском указе, потребует от компаний предоставлять свои модели ИИ правительству на срок до 30 дней перед их выпуском для общественности, что даст правительству преимущество в оценке их возможностей в области кибербезопасности.

Ключевым моментом является то, что исполнительный указ Трампа описал эту программу как "добровольную", хотя остается открытым вопрос, как администрация будет относиться к компаниям, которые обойдут этот процесс. Джессика Джи, аналитик Центра безопасности и новых технологий Джорджтаунского университета, заявила, что, похоже, чиновники пытаются создать "мягкий режим соблюдения".

"В идеале они могут сказать, что мы не регулируем, это добровольная программа, но все компании, чьи модели, по их мнению, представляют потенциальные риски национальной безопасности, будут соблюдать ее", - сказала она.

Какие модели ИИ будут охвачены рамочной программой?

Регулирование ИИ — сложная задача. Правила могут быть нацелены на ведущие лаборатории, конкретные продукты или отдельные модели ИИ. Если регуляторы сосредоточатся на моделях, возникнет еще больше вопросов. Будут ли они основывать свои правила на размере моделей, времени их выпуска или их возможностях?

Дискуссии в Вашингтоне в последние месяцы были сосредоточены на возможностях моделей ИИ из-за новых разработок, таких как модель Mythos от Anthropic и инцидент с безопасностью OpenAI с компанией Hugging Face. Джи добавила, что поиск способов категоризации моделей ИИ является критически важным шагом для разработчиков правил.

Июньский исполнительный указ Трампа просил его агентства разработать определение "охватываемых передовых моделей", которые будут проверены его администрацией. Китайские модели с открытым исходным кодом и открытым весом, которые вызвали фурор в индустрии в последнее время из-за своих передовых возможностей, почти наверняка были частью вторничного обсуждения, сказала Джи.

Какие полномочия будут у правительства в отношении ведущих ИИ-гигантов?

Пока неясно, как рамочная программа повлияет на выпуск моделей ИИ, особенно если компании будут воспринимать ее как действительно добровольную. Джи сказала, что ей интересно, будет ли какое-либо четкое руководство о том, что администрация может предпринять, если она обнаружит опасные возможности при тестировании невыпущенных технологий.

В июне Департамент торговли Трампа отреагировал на опасения по поводу кибербезопасности модели Anthropic, выдав экспортный контроль, который запретил компании предоставлять доступ иностранным гражданам. В итоге Anthropic отозвала весь доступ к модели до достижения соглашения с администрацией.

Джи сказала, что маловероятно, что администрация будет продолжать использовать экспортный контроль, хотя неясно, какие другие рычаги они могли бы использовать для вмешательства в выпуск модели или давления на компанию с целью изменения ее продукта.

Она добавила, что встреча даст больше ясности относительно того, кто в администрации Трампа принимает решения по надзору за ИИ и кибербезопасностью.

"Мы пытаемся выяснить, кто является новым типом влиятельных игроков, кто имеет влияние в администрации по этому набору вопросов прямо сейчас", - сказала Джи.

Anthropic, Google и OpenAI не сразу ответили на запросы Business Insider о комментариях.