Não demorou muito para que o Sora 2, nova ferramenta de criação de vídeos por inteligência artificial da OpenAI, entrasse no radar de todos. Para o bem, e para o mal, tal e como acontece com praticamente todas as tecnologias dessa categoria que emergem “do nada”.
A plataforma até tenta contar com normas mais rígidas para entregar os seus resultados. Logo de cara, o Sora 2 proíbe a criação de vídeos de pessoas reais sem consentimento, mas abre exceção para figuras falecidas.
Essa prática está gerando uma onda de polêmicas e críticas de familiares e especialistas, uma vez que a imagem daqueles que não estão aqui para interferir ou se defender dos absurdos criados é diretamente afetada pela criatividade dos usuários.
O que está acontecendo?
Nada de novo no front. Já vimos isso antes com outras plataformas.
Os usuários têm produzido vídeos que retratam celebridades mortas em situações absurdas ou ofensivas. Entre os casos mais comentados estão cenas com Michael Jackson, o Papa João Paulo II e Albert Einstein.
Alguns conteúdos têm tom cômico e aparentemente inofensivo, enquanto outros revelam crueldade explícita. Stephen Hawking, por exemplo, foi retratado sendo brutalmente agredido em vídeos gerados pela IA.
A filha de Robin Williams, Zelda Williams, denunciou publicamente esse tipo de uso. Ela pediu aos fãs que parem de enviar vídeos gerados de seu pai, considerando-os ofensivos e emocionalmente desgastantes.
O problema do recurso “participações especiais”
A polêmica ganhou força na medida em que a funcionalidade de “participações especiais” ficou popular. Com ela, é possível inserir figuras conhecidas em vídeos, desde que vivas e autorizem, ou falecidas, sem consentimento.
O documento de segurança da OpenAI relacionado ao Sora 2 confirma o bloqueio a representações de figuras públicas, mas não detalha diretrizes para mortos. Testes indicam que alguns bloqueios falham, permitindo vídeos de algumas personalidades já falecidas.
Nem preciso dizer que o cenário como um todo não só revela um flagrante falha nas diretrizes do Sora 2 (além da falha técnica do próprio algoritmo), mas também um problema nos aspectos morais e éticos do uso da plataforma.
Não precisa nem ter uma lei para determinar esse limite ao respeito à imagem de alguém que já partiu. O bom senso é mais do que suficiente. Porém, a OpenAI aparentemente confiou demais no bom senso alheio, algo que está cada vez mais difícil nos dias de hoje.
As possíveis consequências
Do ponto de vista legal, nos EUA não há possibilidade de processar por difamação de mortos. Quem pode fazer alguma coisa são os seus entes vivos e, ainda assim, cai no campo da subjetividade a ofensa, pois ela é indireta.
Em outros países, a defesa da honra post mortem é complexa e cheia de nuances jurídicas, o que também deixa o cenário desfavorável para aqueles que querem manter a imagem e o legado de quem já partiu com o mínimo de respeito.
Especialistas alertam que a utilização de imagens de falecidos para entretenimento é um precedente perigoso. A tecnologia pode promover banalização e desrespeito à memória dessas pessoas.
Sem falar que esses algoritmos também são treinados sem qualquer tipo de filtros morais, e a cada criação problemática se amplia a possibilidade de obter resultados positivos nos aspectos técnicos, mas extremamente prejudiciais à imagem daquela pessoa.
O fenômeno insere o Sora 2 no contexto do chamado “AI Slop”, um despejo de conteúdos gerados por IA sem filtros éticos. A diferença é que agora a produção é mais realista e impactante.
Parando para pensar friamente, desde que a tecnologia de inteligência artificial ganhou o grande público, jamais houve um momento em que alguém não fosse prejudicado com a criação de imagens ultrarrealistas.
Nenhuma legislação foi pensada neste sentido. Para toda a indústria, quem já partiu se torna “um ser de domínio público”, ignorando completamente que alguém sempre vai se importar mais com a forma que aquela pessoa é tratada no pós vida.
Há exemplos de uso profissional de deepfakes com mortos em contextos controlados, como comerciais e séries. Porém, o uso livre no Sora 2 expande o problema e desafia a regulamentação futura da IA.
Quem sabe diante dos pedidos (que são quase súplicas, na verdade) da filha do ator Robin Williams alguma coisa mude neste aspecto:
Por favor, parem de me enviar vídeos de IA com meu pai. Parem de acreditar que eu quero ver ou que eu vou entender. Eu não quero e não vou.
Se você está só tentando me trollar, já vi coisas muito piores, vou bloquear e seguir em frente. Mas, por favor, se você tiver um mínimo de decência, pare de fazer isso com ele e comigo, com todo mundo, ponto final. Isso é estupidez, é uma perda de tempo e de energia, e acredite em mim, NÃO é o que ele gostaria.
(…) E pelo amor de TUDO, parem de chamar isso de ‘o futuro’. A IA está apenas reciclando e regurgitando o passado para ser reconsumido. Vocês estão absorvendo a Centopeia Humana do conteúdo, e bem do final da fila, enquanto as pessoas na frente riem e riem, consomem e consomem.
Zelda Williams
Via TechCrunch