A cantora Taylor Swift foi alvo de um ataque virtual que gerou imagens falsas de conteúdo sexual envolvendo sua imagem. As imagens foram criadas por inteligência artificial (IA) e faziam parte de um desafio em um fórum online.
O simples fato de ser a Taylor Swift envolvida em uma deepfake foi o suficiente para chamar a atenção de toda a comunidade sobre os perigos da prática. Porém, é preciso lembrar que qualquer pessoa pode ser alvo desse tipo de manipulação de imagem.
O episódio mais uma vez levanta questões sobre os limites éticos da geração de imagens por IA e os riscos para a privacidade e a reputação das pessoas. E é preciso entender como o caso de Taylor Swift aconteceu para elevar o nível da discussão.
O que aconteceu?
No dia 6 de janeiro, um usuário do fórum 4chan propôs um desafio aos demais participantes: criar imagens pornográficas de celebridades usando IA. O objetivo era “derrotar” os algoritmos de detecção e remoção de conteúdo impróprio das plataformas digitais.
Para quem não sabe, a grande maioria das plataformas de Inteligência Artificial contam com limites em suas diretrizes para a produção de imagens e materiais considerados inapropriados e de cunho adulto.
E o episódio envolvendo Taylor Swift deixa evidente que tais restrições não estão servindo de muita coisa, pois as mentes mais habilidosas (e maliciosas) estão encontrando meios eficientes de driblar os limites éticos das plataformas de IA.
O desafio se tornou uma competição, onde os usuários compartilhavam truques e dicas para melhorar a qualidade e a verossimilhança das imagens. E o resultado foi o material compartilhado na internet recentemente.
Taylor Swift foi uma das celebridades escolhidas para o desafio, mas não a única. Outras personalidades como Ariana Grande, Billie Eilish e Emma Watson também foram vítimas das deepfakes.
As imagens foram divulgadas inicialmente no próprio fórum, mas logo se espalharam por outras plataformas como Telegram e Twitter, causando uma grande repercussão.
Qual o impacto?
O caso de Taylor Swift e outras celebridades expõe os perigos das deepfakes para a privacidade e a reputação das pessoas.
As imagens falsas podem causar danos emocionais, morais e até legais para as vítimas, que têm sua imagem violada e difamada sem o seu consentimento. E dependendo da morosidade da plataforma em combater essa disseminação de conteúdo, os prejuízos podem ser enormes.
No caso específico de Taylor Swift, o X (Twitter) não teve a competência necessária para combater a distribuição desenfreada das imagens, e a única solução possível foi o bloqueio do nome da cantora no mecanismo de busca da rede social.
Recentemente o mesmo aconteceu aqui no Brasil, envolvendo o padre Júlio Lancelotti. Neste caso, o Instagram permitiu a disseminação do vídeo manipulado, e apenas depois que o material passou por uma perícia profissional (que concluiu que se tratava de uma montagem) é que o conteúdo foi descredibilizado pela plataforma.
Além disso, as deepfakes podem afetar a confiança do público na veracidade das informações, já que podem ser usadas para manipular ou enganar as pessoas nos mais diferentes contextos sociais.
Como prevenir?
A prevenção das deepfakes envolve tanto aspectos técnicos quanto éticos.
Do ponto de vista técnico, é preciso desenvolver mecanismos de detecção e remoção de conteúdo falso nas plataformas digitais, bem como formas de rastrear e responsabilizar os autores das imagens.
Já existem tecnologias competentes o suficiente para detectar as imagens alteradas, incluindo aquelas que se respaldam na Inteligência Artificial para aumentar o nível de precisão na identificação das manipulações.
Além disso, é fundamental que se estabeleça uma legislação que não apenas possa punir aqueles que criam e compartilham as imagens manipuladas (já que o fazem de forma consciente), mas também de responsabilizar as plataformas em não coibir essa disseminação do conteúdo criminoso.
Do ponto de vista ético, se faz necessário conscientizar os usuários sobre os riscos e as consequências das deepfakes, bem como promover uma cultura de respeito e responsabilidade no uso da IA.
Um grande grupo de internautas não conta com seletividade e senso crítico na hora de compartilhar conteúdos na internet. Hoje, bem sabemos que quem produz deepfakes e fake news faz isso por método, pois sabe que tal material gera engajamento naqueles que acreditam em qualquer bobagem que encontra nas redes.
O processo de reeducação do coletivo é longo, e exige uma enorme boa vontade daqueles que estão dispostos a tirar os mais ignorantes desse fosso de informação. Estourar a bolha da burrice dá trabalho, mas estamos trabalhando por isso.