Grok, из-за (заслуженных) проблем в Америке
Бывают случаи, когда технологическая полемика разрастается так быстро и настолько плохо, что управления бизнесом становится недостаточно, и на сцену выходит политика. Grok, помощник по искусственному интеллекту, связанный с социальной сетью Twitter, принадлежащей Элону Маску, находится в центре кризиса, который больше не ограничивается этической или медийной сферой. На этот раз Сенат США предпринял формальный шаг, сделав это прямым сообщением: Apple и Google должны удалить приложение X из своих магазинов за то, что оно позволяет создавать секс-фейки и нелегальный контент через Grok. Скандал больше не сдерживается.
Жалоба, подписанная сенаторами Роном Уайденом, Эдом Марки и Беном Рэем Луханом, требует немедленного отзыва приложения на время расследования возможных нарушений политики в отношении контента. Законодатели обвиняют платформу в том, что она с помощью Grok способствует созданию явных изображений без согласия, некоторые из которых выглядят несовершеннолетними, и имитирует насильственные или унижающие достоинство действия с реальными лицами. Это официальная петиция, направленная непосредственно двум крупным дилерам мобильной связи, которая ставит под сомнение безопасность сред, которые они обещают контролировать.
Детали настораживают. Согласно представленным отчетам, Grok использовался для создания тысяч оскорбительных изображений в час. Жертвы — это не вымышленные персонажи, а реальные люди, личностями которых пользователи манипулируют всего за несколько кликов. Вместо того, чтобы прекратить подобные функции, компания Элона Маска решила ограничить доступ с помощью платной модели. Только те, кто подписался на премиум-план, могут продолжать использовать создание изображений, что подразумевает, что инструменты все еще активны, просто спрятаны за стеной подписки.
Мы уже подробно обсуждали эту тему всего два дня назад. Там мы объяснили, что ограничение роли проверенными пользователями не является реальным решением, а является способом разделения ответственности. Ущерб по-прежнему наносится, но теперь он монетизируется. Независимое приложение Grok, кроме того, продолжает разрешать создание изображений без объявленных ограничений, что свидетельствует об отсутствии желания полностью закрывать доступ к вредоносному контенту.
Самая резкая критика исходила от сенатора Рона Видена, который прямо обвинил Икса в «получении прибыли от преступления». По его словам, компания не ограничила использование инструментов, позволяющих создавать изображения такого типа: она просто начала взимать за них плату. Вместе с Марки и Луханом он утверждает, что эта стратегия нарушает политику модерации Apple и Google, которые прямо запрещают распространение приложений, способных способствовать злоупотреблениям такого рода, даже если функции частично скрыты или скрыты за платежными барьерами.
Если письмо Сената вступит в силу, ситуация для X Corp может серьезно осложниться. Удаление его приложения из App Store и Google Play повлечет за собой массовую потерю видимости и доступа, особенно на таком ключевом рынке, как Соединенные Штаты, не говоря уже о том, что Европейский Союз может (и должен) пойти по тому же пути. Для платформы, которая за последние несколько лет уже столкнулась с падением своей пользовательской базы и репутации, это было бы структурным переворотом. На данный момент ни X, ни xAI не объявили о полном отключении генеративных функций Grok, что продлевает конфронтацию с регулирующими органами и ставит под сомнение его способность взять под контроль свои собственные инструменты.
Бывают моменты, когда политика кажется медленной, бюрократической или отстраненной. Но когда компания отказывается исправить проблему, которая напрямую затрагивает основные права, в конечном итоге срабатывает даже самый мощный институциональный механизм. На этот раз недостаточно изменить условия использования или скрыть функции за кнопкой оплаты. Если Грок продолжит позволять создавать оскорбительные образы, он не будет помощником искусственного интеллекта. Это будет угроза, распространяемая в официальных магазинах. И с каждым днем, который проходит без четкого ответа, этот риск становится все труднее оправдать.
Редактор: AndreyEx
