Órgãos governamentais e o Ministério Público Federal (MPF) emitiram um conjunto robusto de recomendações à empresa controladora da rede social X, visando coibir o uso indevido da inteligência artificial Grok para a produção e disseminação de conteúdos sexualizados. A iniciativa surge em resposta a denúncias e reportagens que apontam a geração de imagens e vídeos falsos, incluindo deepfakes de cunho pornográfico, envolvendo pessoas reais, com especial preocupação para a proteção de crianças e adolescentes.
Prazo e Medidas de Implementação
O documento, divulgado recentemente, estipula um prazo máximo de 30 dias para que o X implemente procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados gerados pelo Grok a partir de comandos de usuários. Adicionalmente, as instituições demandam a suspensão imediata de contas envolvidas na criação de material sexual ou erotizado, tanto de adultos quanto de menores, sem o devido consentimento.
Direitos dos Titulares de Dados e Mecanismos de Denúncia
Foi também solicitada a criação de um mecanismo transparente e acessível que permita aos usuários exercerem seus direitos, incluindo o envio de denúncias sobre o uso irregular de dados pessoais. A expectativa é que a plataforma assegure respostas adequadas e em tempo hábil para tais reclamações, especialmente nos casos de criação de conteúdos sintéticos sexualizados ou erotizados sem autorização.
A Responsabilidade da Plataforma na Criação de Conteúdo
As recomendações baseiam-se não apenas em relatos de usuários e na imprensa, mas também em testes realizados pelas próprias agências, que confirmaram o uso da IA Grok para a produção de deepfakes. As autoridades argumentam que o X, ao disponibilizar a ferramenta de forma ampla, atua como coautor dos conteúdos gerados, e não apenas como um intermediador, o que o responsabiliza pela remoção desses materiais. A decisão do Supremo Tribunal Federal (STF) sobre o Marco Civil da Internet, que estabeleceu um dever especial de cuidado para provedores de aplicação, reforça essa posição.
Proteção Reforçada para Vulneráveis
Um ponto central das recomendações é a necessidade de impedir, de forma imediata, que o Grok gere qualquer tipo de conteúdo que represente crianças e adolescentes em contextos sexualizados ou erotizados. Medidas semelhantes são exigidas para a criação de materiais que envolvam adultos identificados ou identificáveis em situações sexualizadas sem autorização. As instituições alertam para o grave impacto desses conteúdos na proteção de dados, nas relações de consumo e na dignidade humana, com ênfase na proteção de mulheres, crianças e adolescentes.
Consequências para o Não Cumprimento
Caso as recomendações não sejam acatadas ou implementadas de forma satisfatória, as três instituições indicaram que outras medidas, tanto administrativas quanto judiciais, poderão ser consideradas para garantir a proteção dos cidadãos brasileiros. Com informações da Agência Brasil.
