A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o MPF realizaram uma série de indicações para a empresa responsável pela plataforma digital X, após denúncias de produções de conteúdo sexual, mais conhecido como “deepfakes”, pela assistente de inteligência artifical, Grok, da rede social. A informação foi publicada na última terça-feira, 21.
A medida veio após denúncias realizadas em reportagens e testes realizados por intituições na plataforma, que apontam a utilização da ilegal da ferramenta Grok para criar imagens eróticas falsas de pessoas reais, a partir da inteligência artificial ordenada por usuários da rede. As principais vítimas das criações de deepfakes na rede social vem sendo mulheres, crianças e adolescentes.
A atitude vem preocupando usuários das redes sociais por afetar diretamente as vítimas, atráves da ameaça a dignidade e a porteção de dados pessoas, além de outros direitos garantidos pela Constituição.
Em publicação, os ógãos pedem a implementação das recomendações de forma imediata da interrupção de criação de novas imagens de crianças e adolescentes. O pedido também é direcionado para publicações falsas de maiores de 18 anos, sem autorização.
Confira as medidas expedidas pelos órgãos
- Criar até 30 dias procedimentos técnicos e operacionais eficazes para a fiscalização e remoção desses conteúdos que já foram produzidos e ainda permaneçam na plataforma.
- Suspensão de usuáriso e contas que produzam este tipo de conteúdo, realizando a aplicação correta das normas impostas pela plataforma. Essa medida deve ser empregada de forma contínua e comprovada para as intituições mandantes, através de realtórios mensais.
- Insitituir uma ferramenta de denúncia de fácil acesso e efetividade para os usuários realizarem a notificação de condutas irregulares e ilegais, principalmente relacionada a criação de deepfakes.
- Gerar um relatório de impacto à proteção de dados pessoais, específicos para a criação de imagens, fotos, áudios e vídeos pela inteligência artifical nativa da plataforma, solicitadas por usuários, sempre que seja possível identificar um indivíduo.
Em caso de desacato das indicações, ou implementação de forma insatisfatórias, novas medidas podem ser acrescentada ou reformuladas pelas intituições mandantes. Os processos podem ser encaminhados para a esfera administrativa e judicial.
* Com informações do Governo Federal
