Индонезийские власти объявили о временной блокировке доступа к чат-боту Grok, разработанному компанией xAI. Это решение стало одним из самых жёстких шагов, предпринятых государством в ответ на стремительное распространение изображений, сгенерированных искусственным интеллектом, пишет El.kz со ссылкой на Techcrunch.

Речь идёт о контенте, который появлялся в социальной сети X по запросам пользователей и нередко изображал реальных женщин, несовершеннолетних, а в отдельных случаях – сцены насилия и харрасмента. Платформа X и компания xAI входят в одну корпоративную структуру, что усилило внимание регуляторов к происходящему.

Министр связи и цифрового развития Индонезии Меутья Хафид в официальном заявлении подчеркнула, что правительство рассматривает создание непристойных дипфейков без согласия изображённых лиц как серьёзное посягательство на права человека, человеческое достоинство и цифровую безопасность граждан.

Решение Индонезии стало частью более широкой международной реакции на скандал вокруг Grok. За последнюю неделю правительства разных стран начали предпринимать собственные шаги, демонстрируя всё более жёсткий подход к регулированию генеративного искусственного интеллекта. В Индии Министерство информационных технологий потребовало от xAI принять конкретные меры, чтобы предотвратить создание непристойного и незаконного контента. Европейская комиссия, в свою очередь, распорядилась сохранить все документы, связанные с разработкой и функционированием Grok, что многие наблюдатели расценили как подготовку к возможному официальному расследованию.

В Великобритании ситуация также не осталась без внимания. Регулятор в сфере коммуникаций Ofcom заявил о намерении провести оперативную проверку, чтобы определить, имеются ли основания для начала расследования в связи с потенциальными нарушениями законодательства.

В США сенаторы от Демократической партии уже обратились к Apple и Google с призывом удалить приложение X из магазинов приложений, указывая на риски распространения незаконного контента.

Первоначальная реакция xAI на скандал оказалась противоречивой. Компания опубликовала в аккаунте Grok извинение, оформленное в форме сообщения от первого лица, в котором признавалось, что один из постов нарушил этические нормы и, возможно, законодательство США. Позднее xAI ограничила функцию генерации изображений, сделав её доступной только для платных подписчиков X. Однако это решение вызвало новую волну критики, поскольку не затронуло само приложение Grok, где возможность создавать изображения по-прежнему оставалась открытой для всех пользователей.

История с Grok наглядно показывает, что эпоха почти неограниченного эксперимента с генеративным ИИ подходит к концу. Государства всё чаще рассматривают подобные технологии не как нейтральные инструменты, а как потенциальный источник системных угроз – от нарушения прав человека до подрыва цифровой безопасности.

El.kz также писал о том, что платформа X сделала генерацию изображений Grok доступной только по подписке.