ChatGPT segue passos do Grok: IA cria imagens íntimas sem consentimento, gerando alerta
A capacidade da inteligência artificial de gerar imagens de pessoas sem roupas, mesmo sem consentimento, não se restringe mais a uma única plataforma. O ChatGPT, da OpenAI, demonstrou em testes a habilidade de remover vestimentas de fotos, replicando um comportamento já observado no Grok, IA da xAI, que atraiu atenção de autoridades globais.
A Folha realizou experimentos com o ChatGPT, utilizando imagens de seu próprio repórter e de personagens gerados por IA. Os resultados indicaram que a plataforma é capaz de trocar roupas por trajes de banho ou até mesmo remover as vestimentas, levantando sérias questões sobre o uso ético e legal dessas tecnologias.
No Brasil, a manipulação ou divulgação de conteúdo de nudez ou ato sexual falso gerado por IA é crime, com pena de reclusão de dois a seis anos, além de multa, podendo ter a pena aumentada em casos envolvendo grupos vulneráveis. A OpenAI afirma possuir bloqueios, mas admite ter flexibilizado regras para evitar restrições excessivas. Conforme informação divulgada pela Folha, a empresa atualizou seu algoritmo recentemente para lidar com “sistemas excessivamente restritivos”, citando exemplos como bloqueios a representações de amamentação ou de adultos em trajes de banho não sexualizados.
IA: Novas Fronteiras e Riscos de Exploração de Imagens
A polêmica envolvendo a geração de imagens íntimas sem consentimento ganhou força no início do ano, quando usuários do X (antigo Twitter) descobriram a capacidade do Grok de criar conteúdo dessa natureza. Uma análise divulgada pela Bloomberg revelou que, entre os dias 5 e 6 de janeiro, a IA de Elon Musk gerou aproximadamente 6.700 imagens por hora consideradas sugestivas ou de nudez, um número significativamente maior comparado a outras plataformas de IA.
A xAI, por sua vez, declarou ter implementado medidas para coibir a edição de imagens reais de pessoas com o uso de “roupas reveladoras como biquínis”, após pressões de autoridades. Diferentemente do Grok, o ChatGPT não divulga publicamente as imagens geradas, o que, segundo especialistas em segurança da informação, dificulta a mensuração da extensão do problema.
Preocupações Legais e Éticas com a Manipulação de Imagens por IA
Mesmo a geração de imagens em trajes de banho pode se enquadrar na definição legal de divulgação de fotos íntimas, segundo Clarice Tavares, diretora de pesquisa do InternetLab. Ela destaca que, além da violação do consentimento, há uma clara “intencionalidade de sexualização” em muitos dos casos observados.
Um precedente legal no Brasil é a decisão do STJ de 2020, que considerou culpado um homem por divulgar fotos de sua ex-namorada de biquíni, evidenciando que a intenção de vingança na divulgação de imagens íntimas é um fator agravante. Marcelo Rinesi, cientista da computação que participou dos testes iniciais do Dall-E, predecessor do ChatGPT Images, relembra que a geração de pornografia não consentida era uma das principais preocupações da OpenAI.
Como Proteger Seus Dados na Era da IA Generativa
A empresa de cibersegurança ESET recomenda cautela redobrada com a publicação de imagens em redes sociais, pois ferramentas como Grok, ChatGPT e Gemini, do Google, podem manipular fotos com instruções básicas. Qualquer pessoa com acesso a essas IAs pode retirar uma imagem de contexto, transformando-a em algo íntimo ou inadequado.
Para mitigar riscos, é fundamental verificar quais fotos são mantidas online e evitar a publicação de imagens de menores de idade. Manter páginas privadas e utilizar ferramentas de verificação de vazamento de dados pessoais, como a oferecida pelo Google, também são medidas importantes. Além disso, é possível configurar as preferências de algumas plataformas, como a xAI, para impedir que suas imagens sejam usadas no desenvolvimento de futuras versões de suas IAs.
Plataformas como Reddit já agiram para remover conteúdos que ensinavam a gerar imagens sexualizadas com IA, após serem contatadas pela revista Wired, reforçando a necessidade de vigilância e ação contra o uso indevido dessas tecnologias. O debate sobre a regulamentação e o uso ético da inteligência artificial generativa segue em pauta globalmente.
