Roblox запускает ИИ-инструмент для перефразирования неприемлемой лексики в чате в реальном времени

Roblox представил новую функцию на базе искусственного интеллекта (ИИ), способную перефразировать неприемлемую лексику в чате в реальном времени. Ранее онлайн-игра уже использовала ИИ-фильтры для блокировки нецензурных выражений, но заменяла их рядом символов решетки (####). Roblox признает, что частое появление таких знаков прерывает разговор и затрудняет его понимание. Новая функция будет заменять слова и фразы на более подходящие, по мнению ИИ, аналоги.

Раджив Бхатия, директор по безопасности Roblox, отметил, что система в первую очередь будет бороться с нецензурной лексикой. Например, если пользователь отправит в чат фразу вроде «Hurry TF up», система заменит ее на «Hurry up!». Все участники чата увидят уведомление о том, что сообщение было перефразировано, а отправитель узнает, какие слова были изменены. Важно отметить, что пользователи, продолжающие использовать ненормативную лексику, по-прежнему будут получать наказания за нарушение правил Roblox, даже если ИИ перефразирует их сообщения. В своем блоге Бхатия заявил: «По мере масштабирования эти системы создают своего рода маховик вежливости, где обратная связь в реальном времени помогает пользователям учиться и применять наши стандарты сообщества».

Функция перефразирования уже внедрена в чатах между пользователями, прошедшими проверку возраста и находящимися в схожих возрастных группах, а также во всех языках, поддерживаемых инструментом перевода игры. В январе Roblox ввела обязательную систему верификации возраста после сообщений о «проблеме педофилии», когда взрослые игроки предположительно использовали игру для совращения детей. Дети до 13 лет больше не могут пользоваться внутриигровым чатом, за исключением определенных «опытов», в то время как все остальные могут общаться с игроками своего возраста.

Однако, проверка возраста не остановила судебные иски против Roblox: округ Лос-Анджелес в феврале подал иск, заявив, что Roblox знает, что ее платформа «делает детей легкой добычей для педофилов». Генеральный прокурор Луизианы также только что подал иск, утверждая, что Roblox «создал общественный парк и заполнил его сексуальными хищниками, которые охотятся на… детей».