Grammarly отключает функцию обратной связи на основе ИИ, приписываемую реальным авторам

Компания Superhuman, разработчик ассистента для письма Grammarly, столкнулась с неоднозначной ситуацией, касающейся использования инструментов искусственного интеллекта. В августе Grammarly представила функцию под названием Expert Review, которая предлагала пользователям обратную связь по их текстам. Особенностью было то, что эта обратная связь генерировалась ИИ и выглядела так, будто исходит от известных писателей или признанных ученых.

Эти "рецензии" создавались на основе "общедоступной информации от сторонних больших языковых моделей (LLM)", что наводит на мысль о возможном использовании веб-краулеров, законность применения которых не всегда очевидна. Предполагаемые "эксперты" подбирались в зависимости от тематики текста и могли быть кем угодно — от выдающихся научных умов до авторов бестселлеров или популярных технических блогеров. Имена этих писателей, как живущих, так и уже умерших, появлялись в Grammarly без их явного разрешения или даже ведома. В дисклеймере к сервису компания уклончиво заявляла: "Ссылки на экспертов в этом продукте предназначены исключительно для ознакомительных целей и не указывают на какую-либо аффилиацию с Grammarly или одобрение со стороны этих лиц или организаций".

Как и следовало ожидать, когда общественность и особенно сами авторы обратили на это внимание, значительная часть ныне живущих писателей выразила крайнее недовольство действиями Grammarly и Superhuman. Изначально компания попыталась решить проблему, предложив авторам возможность отказаться от участия в платформе. Это, конечно, было бы большим облегчением для уже умерших авторов, а также для тех живущих, кто не следит внимательно за новостями в сфере ИИ и, возможно, до сих пор не знал, что их цитирует этот инструмент.

Сегодня Шишир Меротра, генеральный директор Superhuman, сообщил в своем посте на LinkedIn, что компания отключит функцию Expert Review для ее дальнейшей переоценки. "Агент был разработан, чтобы помочь пользователям открыть для себя влиятельные перспективы и научные труды, имеющие отношение к их работе, а также предоставить экспертам значимые способы построения более глубоких отношений со своими поклонниками", — заявил он. Вероятно, Карл Саган, если бы был жив, очень бы горевал об упущенной возможности построить "глубокие отношения" со своими поклонниками из загробного мира.