O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) avaliaram as respostas da plataforma X sobre as violações envolvendo a ferramenta de inteligência artificial Grok e concluíram que as providências informadas pela empresa são insuficientes. A plataforma vem sendo utilizada indevidamente para a geração e circulação de imagens sexualizadas de pessoas, sem autorização.
Em resposta a recomendações anteriores, o X afirmou ter removido milhares de publicações e suspendido centenas de contas, além de adotar medidas de segurança. No entanto, as instituições consideram que as informações não foram acompanhadas de evidências concretas, como relatórios técnicos ou mecanismos de monitoramento que comprovem a efetividade das ações. Testes preliminares indicam a persistência das falhas.
Em nova manifestação conjunta, divulgada nesta quarta-feira (11), os três órgãos determinaram que o X implemente, de forma imediata, medidas efetivas para impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças, adolescentes e adultos que não expressaram consentimento.
As instituições também exigiram que o X preste informações detalhadas sobre as providências já adotadas para sanar os problemas identificados. O MPF, em particular, ordenou que a plataforma forneça relatórios mensais sobre sua atuação no tema e ressaltou a falta de transparência na resposta anterior da empresa.
A ANPD, o MPF e a Senacon atuam de forma coordenada na apuração dos fatos. Cada órgão possui um procedimento administrativo em aberto contra a plataforma, de acordo com suas competências.
A ANPD exige que os recursos para impedir o uso indevido da ferramenta de IA abranjam todas as versões, planos e modalidades do Grok. Já o MPF determinou o envio de relatórios mensais detalhados, a partir de fevereiro, sobre como o X está atuando para impedir e reprimir a produção de deepfakes envolvendo menores e adultos sem autorização, incluindo o número de postagens nocivas derrubadas e contas suspensas.
O descumprimento das determinações pode levar a multas diárias para a empresa de rede social. Os envolvidos também poderão responder pelo crime de desobediência, e a empresa pode enfrentar medidas investigatórias mais severas e ações judiciais.
A Senacon, por meio de medida cautelar administrativa, cobrou a comprovação das providências já adotadas para conter os riscos e sanar os problemas apontados. Foi exigida também a remessa de um relatório métrico detalhado com dados quantitativos verificáveis sobre identificação, moderação, remoção e indisponibilização de conteúdos sexualizados relacionados ao Grok.
A reportagem tenta contato com a assessoria da Plataforma X no Brasil para obter um posicionamento sobre a nova manifestação conjunta.
Com informações da Agência Brasil
Aproveite para compartilhar clicando no botão acima!
Visite nosso site e veja todos os outros artigos disponíveis!