После глобального негатива X ограничил генерацию изображений Grok только для платных пользователей.

Grok, чат-бот с искусственным интеллектом , поддерживаемый Илоном Маском и интегрированный в платформу X, начал ограничивать доступ к своим инструментам генерации и редактирования изображений только для платных подписчиков. Это изменение последовало за волной критики в адрес инструмента за его способность создавать изображения сексуального характера без согласия. Хотя это ограничение явно является попыткой сдержать волну споров, регулирующие органы, правозащитные группы и пользователи утверждают, что оно мало что делает для предотвращения создания вредного и потенциально незаконного контента с участием женщин и детей.

Начиная с вечера четверга, Grok официально перенес свои функции обработки изображений за платный доступ X Premium, стоимость которого начинается от 8 долларов в месяц.

Однако этот шаг был широко высмеян как «утечка информации». Хотя доступ к X для обычных пользователей может быть заблокирован, инструменты генерации остаются полностью бесплатными через отдельный веб-сайт и мобильное приложение Grok. Эта лазейка фактически подрывает утверждение платформы о том, что она занимает твердую позицию против злоупотреблений, оставляя самые опасные инструменты по-прежнему доступными для широкой публики.

Исследователи в области безопасности и цифровые надзорные органы не уверены, что требование ввода данных кредитной карты решает проблему. На самом деле, многие утверждают, что это даже монетизирует злоупотребления. По словам исследователя дипфейков Женевьевы О, Grok продолжал выпускать более 1500 вредоносных изображений каждый час даже после введения платного доступа — это составляет примерно 60% от общего объема общедоступных изображений. Данные О свидетельствуют о том, что Grok в настоящее время генерирует контент сексуального характера с такой скоростью, которая затмевает даже самые известные специализированные сайты, занимающиеся «обнажением».

Последствия затронули самые высокие уровни правительства США.

Сенаторы-демократы Рон Уайден, Эдвард Дж. Марки и Бен Рэй Лухан недавно направили письмо генеральным директорам Apple и Google с требованием удалить X из их магазинов приложений. Сенаторы утверждали, что, позволяя этим инструментам оставаться в сети, X демонстрирует «полное пренебрежение» правилами безопасности, которым обязаны следовать все остальные разработчики приложений.

Международное давление также достигло критической точки. Британские и индийские чиновники раскритиковали платный доступ как неадекватную меру. Пресс-секретарь британского премьер-министра назвал этот шаг «оскорбительным» для пострадавших, предположив, что X просто превращает кризис безопасности в источник дохода. Пострадавшие поделились похожими историями; активистка Джесс Дэвис сообщила, что Grok все еще мог в пятницу утром «раздеть» ее фотографию в цифровом виде через свое отдельное приложение, несмотря на предполагаемые ограничения.

Примечательно, что этот скандал, похоже, оказывает парадоксальное финансовое воздействие на платформу.

По оценкам Sensor Tower, выручка от внутриигровых покупок в мобильном приложении X выросла на 18% только за четверг. Этот скачок значительно превышает типичный ежедневный рост для приложения, что позволяет предположить, что стремление получить доступ к «острому режиму» Grok, возможно, на самом деле помогает улучшить и без того непростые финансовые показатели X.

Юридические эксперты предупреждают, что эти полумеры долго не продержатся в суде. Генеральный прокурор Северной Каролины Джефф Джексон назвал ситуацию с Grok «поворотным моментом» для безопасности ИИ, отметив, насколько легко эти системы могут быть использованы в качестве оружия. Он утверждал, что эпоха «действуй быстро и ломай все» наталкивается на стену, когда речь идет о достоинстве и безопасности частных граждан.

По мере того, как ограничения сжимаются, перед X встаёт непростой выбор: внедрить реальные, жёстко запрограммированные технические средства защиты или столкнуться с полным отключением в крупных магазинах приложений и на международных рынках. От того, решит ли Илон Маск ужесточить саму программную защиту, а не просто ограничить доступ к ней, будет зависеть, будет ли у Grok будущее как легитимного инструмента или он станет изгоем эпохи генеративного ИИ.

Статья "X ограничивает генерацию изображений Grok только для платных пользователей после глобального негатива" впервые появилась на сайте Digital Trends .