O Grok é a ferramenta de IA que permite a geração de imagens ultrarrealistas sem restrições significativas. Criado pela xAI, liderada por Elon Musk, o recurso integrado ao X usa o modelo Aurora que, em teoria, pode criar imagens a partir de praticamente qualquer descrição textual.
A ferramenta de Inteligência Artificial agora está disponível para todos os usuários do X (antigo Twitter), permitindo que qualquer pessoa crie imagens com facilidade, independentemente de ter uma assinatura premium.
Todos estão comemorando o fato de poderem criar imagens por IA sem colocar a mão no bolso, mas a falta de filtros do Grok levanta as óbvias preocupações morais, éticas e sociais sobre a veracidade das imagens criadas.
Sem filtros
Diferente de outras ferramentas de IA que impõem restrições rigorosas como a proibição do uso de nomes de personagens públicos, o Grok permite criar imagens com base em descrições que incluem figuras públicas, celebridades, personalidades políticas e famosos.
De forma mais do que esperada, a plataforma já é criticada porque possui um enorme potencial para ser uma máquina de criação de Fake News em massa.
O modelo Aurora promete um nível de realismo superior aos seus concorrentes, gerando imagens tão convincentes que podem levar os usuários a acreditar na autenticidade do conteúdo visual.
Alguns exemplos do que o Aurora pode fazer incluem representações bizarras e surrealistas envolvendo celebridades e figuras políticas de todo o mundo em situações que jamais estariam envolvidos no mundo real.
A liberdade criativa proporcionada pelo Grok gera preocupações sobre a disseminação de desinformação. Imagens geradas podem ser interpretadas como reais, levando à confusão e ao engano nas redes sociais.
Há um clamor crescente por regulamentações e limites na geração desse tipo de conteúdo, na tentativa de evitar danos maiores para indivíduos e o coletivo.
Por outro lado, alguns entendem que limitar o uso da IA pode atrasar o seu desenvolvimento, além de ferir liberdades individuais.
O debate está servido.
Censura “limitada”
O Grok possui algumas restrições, como a censura de imagens sexualmente explícitas. Tais imagens são geradas com um grande “X” no centro.
O que não impede o usuário de recorrer a outras plataformas de IA para completar a imagem que foi criada no X. E, acredite… esse nem é o ponto mais grave da questão
A introdução do Aurora no Grok rapidamente lotou o X com criações inusitadas e provocativas, gerando discussões sobre os limites da criatividade versus a responsabilidade social na era digital.
E tudo indica que Elon Musk sentiu o peso da repercussão negativa que o recurso gerou junto ao grande público.
A ferramenta foi desativada rapidamente, logo após o seu funcionamento. O X não se pronunciou sobre a sua decisão repentina, e pode até ser que o recurso foi desabilitado pela alta demanda.
Ou porque alguém dentro do X disse que continuar com ele ativo seria potencialmente perigoso para a própria plataforma.
Principalmente nos países em que legislação determina a responsabilidade legal do X pela disseminação de conteúdo enganoso produzido pelos seus usuários.