A Indonésia bloqueou o acesso ao Grok, sistema de inteligência artificial ligado à xAI, após investigação sobre geração de imagens sexualizadas envolvendo mulheres e crianças. A medida é temporária e visa impedir a circulação de material falso que pode causar danos graves às vítimas.
O governo pediu esclarecimentos imediatos à plataforma X, que integra parte das ferramentas da xAI, e acusa práticas de deepfake sem consentimento de atentarem contra direitos e segurança no meio digital.
As ações do ministério já incluem solicitações formais à plataforma e ajustes operacionais da xAI, conforme comunicado do Ministério das Comunicações e Assuntos Digitais da Indonésia e declarações da xAI.
Por que o bloqueio foi determinado
Segundo o comunicado oficial, a proibição foi implementada temporariamente para “para proteger mulheres, crianças e toda a comunidade do risco de conteúdo pornográfico falso gerado usando tecnologia de inteligência artificial”. A decisão busca conter a circulação de imagens geradas por IA que mostram pessoas nuas sem consentimento, incluindo menores.
O ministério afirmou que “O governo considera práticas sexuais de deepfake não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança nacional no espaço digital”, frase que reforça o caráter de segurança pública da medida.
O que a xAI e o X fizeram até agora
A xAI, responsável pelo Grok, anunciou restrições ao recurso de geração de imagens na plataforma X, limitando a maior parte das ferramentas a assinantes pagos. A empresa decidiu na sexta-feira (9) restringir o recurso de geração de imagens para a maioria dos usuários na plataforma de mídia social X, ex-Twitter.
Antes, a função de criar e editar imagens estava disponível gratuitamente com limites diários, e o aplicativo independente Grok, que opera separadamente da rede social, ainda permite que usuários gerem imagens sem necessidade de assinatura.
Reações, implicações e próximos passos
O Grok publicou na plataforma X, sobre o bloqueio indonésio, “Desculpe pelo inconveniente” e afirmou que trabalha para resolver o problema. A resposta aponta para tentativas da empresa de ajustar controles e evitar uso indevido da tecnologia.
Especialistas e autoridades devem acompanhar se a xAI amplia filtros, controles de verificação e exigirá autenticação mais rigorosa para evitar geração de imagens não consensuais. Enquanto isso, a Indonésia mantém a proibição até receber esclarecimentos satisfatórios.
O caso levanta questões sobre regulação internacional de ferramentas de IA generativa, responsabilidade das plataformas e proteção de grupos vulneráveis frente à proliferação de conteúdos deepfake.
