A ameaça das deepfakes começa a preocupar as redes sociais. Por isso, Facebook, Microsoft e outras organizações se uniram com várias instituições acadêmicas dos Estados Unidos para combater essa ameaça. O mais inusitado aqui é o paradoxo em criar o seu modelo de deepfake via inteligência artificial para combater a deepfake “do mal”.
Porém, a ideia é boa, mesmo que pareça absurda. Grandes bases de dados com imagens são utilizadas para treinar sistemas de inteligência artificial na hora de reconhecer elementos nas fotos, mas a indústria não conta com muitos dados de referência sobre as deepfakes para treinar os sistemas que vão combater esses softwares e, por tanto, poder detectá-los e combatê-los.
Facebook vai investir US$ 10 milhões para combater as deepfakes
Por isso, Facebook, Microsoft, The Partnership on AI e acadêmicos de várias (e grandes) universidades norte-americanas se uniram para construir o Deepfake Detection Challenge (DFDC).
O objetivo do desafio é produzir tecnologia que todos possam usar para detectar melhor quando foi utilizada uma inteligência artificial para alterar um vídeo para enganar as pessoas. O Deepfake Detection Challenge vai incluir um conjunto de dados e uma tabela de classificação, para estimular a indústria a criar novas formas de detectar e evitar que as mídias manipulem através da inteligência artificial as imagens para enganar as demais pessoas.
Dada a importância que resulta a disponibilidade de dados gratuitos que podem ser utilizados pela comunidade, o Facebook vai utilizar atores para gerar deepfakes para contribuir com esse desafio. E avisam (antes que alguns levantem suspeitas) que não vai utilizar dados de usuários da rede social em nenhum momento.
Entre prêmios e o financiamento de pesquisas, a empresa comandada por Mark Zuckerberg está dedicando mais de US$ 10 milhões para sustentar este projeto. O DFDC vai servir para que empresas, instituições, administrações e meios de comunicação possam fazer uso dos dados e criar as suas próprias ferramentas de detecção.