Gramarly отключил функцию, которая неэтично использовала экспертов — как живых, так и умерших — для исправления ваших слов.

Материнская компания Grammarly, Superhuman , отключила функцию экспертной оценки после того, как авторы обнаружили, что искусственный интеллект генерировал предложения, якобы «вдохновленные» их опубликованными работами, без их ведома и согласия.

Функция, запущенная еще в августе, использовала сторонних лекторов для поиска вариантов текстов, стилизованных под работы влиятельных писателей и экспертов. Проблема? Эти эксперты понятия не имели, что их работы используются таким образом.

А Grammarly вообще кого-нибудь спрашивала?

Нет, Grammarly не получала разрешения от людей, чьи изображения использовались в качестве экспертных рекомендаций. Хотя другие компании, занимающиеся искусственным интеллектом, также собирают данные из онлайн-библиотек и веб-сайтов без явного запроса разрешения, они, по крайней мере, не использовали чьи-либо изображения настолько откровенно. Вот тут-то Grammarly и допустила ошибку.

Негативная реакция началась после того, как главный редактор The Verge и несколько сотрудников обнаружили, что их имена используются в качестве стилистических ориентиров в этом инструменте. Как и ожидалось, они были недовольны. Первоначальная реакция Superhuman заключалась в запуске почтового ящика для пострадавших авторов, позволяющего отказаться от получения уведомлений, но даже этого оказалось недостаточно, чтобы успокоить ситуацию.

Теперь компания полностью отключила эту функцию. «Судя по полученным отзывам, мы явно допустили ошибку. Мы приносим свои извинения и впредь будем действовать иначе», — заявила Айлиан Ган, директор по управлению продуктами Superhuman.

Что будет дальше?

Генеральный директор Superhuman Шишир Мехротра извинился в LinkedIn и изложил более добровольное видение будущего: будущее, в котором эксперты смогут сами выбирать, участвовать ли им или нет, и даже построить на этом бизнес-модель.

Он сказал: «Для экспертов это шанс установить такую ​​же повсеместную связь с пользователями, как это сделала Grammarly. Но в этом мире эксперты сами выбирают, участвовать ли им, как представлять свои знания и контролировать свою бизнес-модель».

Идея интересная, но ущерб уже нанесен. Просить прощения вместо разрешения редко выглядит хорошо, особенно когда вы выдаете себя за журналистов.

Статья "Grammarly отключает функцию, которая неэтично использовала экспертов — как живых, так и умерших — для исправления ваших слов" впервые появилась на сайте Digital Trends .