“@Grok, isso é verdade?”: Deepfakes e a automação da confiança nas redes sociais

Abstract

A pesquisa analisa a crise de credibilidade da prova visual na era digital, um fenômeno exacerbado pelo avanço das tecnologias de deepfake e pelo contexto da pós-verdade. O objetivo principal é investigar a "automação da confiança" nas redes sociais, observando como a autoridade epistêmica e a validação da realidade estão sendo transferidas do julgamento humano e institucional para mediadores algorítmicos. Como estudo de caso, a pesquisa foca na utilização do assistente de Inteligência Artificial Grok, na plataforma X, como um novo árbitro da verdade. A metodologia adotada possui natureza qualitativa e exploratória, estruturada em três etapas: revisão bibliográfica; análise documental de dois estudos de caso (vídeos da Princesa Kate Middleton e do ex-presidente Joe Biden); e análise de dados secundários sobre o uso do Grok para checagem de fatos. Os resultados demonstram a ocorrência do "dividendo do mentiroso", em que a simples existência de tecnologias de síntese permite que conteúdos autênticos sejam desacreditados sob suspeitas de anomalias técnicas ou biológicas. Diante dessa incerteza radical, os usuários delegam a capacidade crítica aos algoritmos, instaurando um ciclo de dependência tecnológica e opacidade algorítmica. Conclui-se que a automação da confiança reconfigura a relação da sociedade com a realidade, utilizando a Inteligência Artificial para combater incertezas geradas pela própria tecnologia, o que enfraquece a agência interpretativa humana.

Palavras-chave: Deepfakes; Automação da Confiança; Inteligência Artificial; Pós-verdade; Grok.

This research analyzes the crisis of visual evidence credibility in the digital age, a phenomenon exacerbated by the advancement of deepfake technologies and the context of post-truth. The main objective is to investigate the "automation of trust" on social networks, observing how epistemic authority and the validation of reality are being transferred from human and institutional judgment to algorithmic mediators. As a case study, the research focuses on the use of the Artificial Intelligence assistant Grok on the X platform as a new arbiter of truth. The methodology adopted is qualitative and exploratory, structured in three stages: bibliographic review; documentary analysis of two case studies (videos of Princess Kate Middleton and former President Joe Biden); and secondary data analysis on the use of Grok for fact-checking. The results demonstrate the occurrence of the "liar's dividend", in which the mere existence of synthetic technologies allows authentic content to be discredited under suspicion of technical or biological anomalies. Faced with this radical uncertainty, users delegate critical capacity to algorithms, establishing a cycle of technological dependence and algorithmic opacity. The study concludes that the automation of trust reconfigures society's relationship with reality, using Artificial Intelligence to combat uncertainties generated by the technology itself, which ultimately undermines human interpretive agency. Keywords: Deepfakes; Automation of Trust; Artificial Intelligence; Post-truth; Grok.