Канадское правительство: OpenAI усилит протоколы безопасности

Правительство Канады заявило, что генеральный директор OpenAI Сэм Альтман согласился немедленно принять меры по усилению протоколов безопасности. Это решение было принято после инцидента с массовой стрельбой в старшей школе, когда OpenAI обнаружила подозреваемого и заблокировала его аккаунт, но не уведомила об этом власти.

Ожидается, что эти изменения в первую очередь затронут взаимодействие с правоохранительными органами, включая обязательство уведомлять полицию о потенциально подозрительном использовании ChatGPT. Хотя подтверждения от компании пока нет, министр по вопросам искусственного интеллекта Канады Эван Соломон заявил, что он «попросил OpenAI предпринять ряд действий, на которые Альтман согласился».

Соломон провёл виртуальную встречу с Альтманом для обсуждения того, как компания «будет привлекать канадских экспертов по вопросам конфиденциальности, психического здоровья и правоохранительных органов к процессу выявления и рассмотрения случаев высокого риска, связанных с канадскими пользователями». Он также отметил, что OpenAI обязалась предоставить отчёт с описанием этих новых протоколов.

Министр также попросил Альтмана применить эти изменения ретроактивно и пересмотреть предыдущие подозрительные инциденты на платформе, предоставляя данные правоохранительным органам при необходимости. Пока неизвестно, дала ли OpenAI согласие на эту часть запроса.

Это не первый шаг компании к улучшению отношений с Канадой. Вице-президент OpenAI по глобальной политике Энн О’Лири ранее сообщала, что компания будет настраивать свои системы обнаружения для более эффективного предотвращения возвращения заблокированных пользователей на платформу. Изначальный аккаунт предполагаемого стрелка был заблокирован из-за «потенциальных предупреждений о совершении реального насилия», но ему удалось создать новый.