O mistério da deep fake e a “weaponização” da incerteza – Jornal da USP

Vivemos na época da pós-história como dizia Vilem Flusser já há muito tempo, e da pós-verdade, como desenvolvem os importantes estudiosos de sua obra que são Lúcia Santaella e Erick Felinto. No dicionário de Oxford o verbete “pós-verdade” ingressa como a palavra-chave de 2016, e no seu best-seller Homo Deus, como provoca Harari. É quando abandonamos a escrita linear substituídas pelas imagens técnicas, que não só representam o mundo, mas criam mundos. Isso se relacionaria com que Luciano Floridi denomina de força ontológica da IA, que ultrapassa a concepção de ser mera ferramenta já que molda até nossas subjetividades, ou seja, como pensamos, como nós relacionamos uns com os outros, como sentimos e até mesmo nossos desejos são remodelados, e ampliando, cria mundos, não apenas os representa.

Então a temática deep fake, relacionada também à fake news e filtros bolhas, é de suma importância e complexidade, merecendo ser discutida mais profundamente, em especial sob uma lente interdisciplinar, holística, sendo essencial ainda uma pesquisa científica e responsável sustentada em bases de dados quantitativos e em pesquisa qualitativa crítica. Entendemos que a temática da IA como disciplina transclássica exige tais abordagens, para fugir do “copia e cola” com respostas prontas e acabadas com um ar de dogmas inquestionáveis. Afinal, estamos todos andando de bicicleta enquanto trocamos as rodas, estamos construindo as respostas juntamente com o desenvolvimento da IA, e a melhor aposta seria uma construção coletiva, que abrace a multiplicidade do mundo e do ser humano, trazendo diversas perspectivas e pontos de vista – é a diversidade epistêmica, essencial para se falar em justiça epistêmica.

Diante do que se denomina nos meios acadêmicos de “virada não-humana” e do pós-humanismo, o deep fake e as fake news parecem apontar para a emergência de um novo paradigma intelectual necessário, uma quebra de paradigmas, contudo, embora haja uma mudança da técnica e do mundo, desde que saímos da linearidade e causalidade da escrita , contudo, a forma de produção do conhecimento parece não ter acompanhado tais alterações, e ainda pensamos em tratar problemas do século 21 com a mentalidade do século 20, ou mesmo do século anterior, quando não se tinha ainda as grandes revoluções na mecânica quântica e cosmologia relativística, isto é, com base em premissas que não mais fazem pleno sentido, então é como tentar pilotar um tesla com um manual do Ford 1912.

Infelizmente, tais questões não estão recebendo a merecida atenção no contexto acadêmico brasileiro. Não estamos diante de uma mera curiosidade tecnológica, mas de um novo regime de visibilidade, no qual desde a informação veiculada pelos meios de comunicação e as mensagens que postamos não são mais avaliadas por critérios de verdade ou pertinência, mas cada vez mais segundo o impacto calculado de sua circulação, de viralizar, pelo clique que dispara o algoritmo, já que uma notícia falsa vende mais do que uma verdadeira, e as pessoas tenderiam a prestar mais atenção a uma má notícia do que a uma boa. Afirma-se que as más notícias são as únicas notícias, pois o que é bom não vende; e a catástrofe fabricada torna-se mercadoria e vício. Notícias falsas se espalham seis vezes mais rápido que as verdadeiras no X (antigo Twitter), porque exploram vieses cognitivos humanos ligados à novidade, emoção e surpresa. O clickbait, artifício estratégico usado nas redes sociais para gerar volume de tráfego e o modelo de negócio não se importam com a veracidade das informações, mas sim com a capacidade de capturar atenção. Imagens sensacionalistas e chamadas polêmicas se multiplicam, levando a sociedade a um ciclo vicioso de atração pela superficialidade, e contribuindo para a crise de confiança em instituições, mídia, plataformas de comunicação online e quebra de valores sociais e democráticos. A fenomenologia da percepção, conforme desenvolvida por Maurice Merleau-Ponty, nos ajuda a compreender como deepfakes perturbam esquemas corporais de reconhecimento facial que evoluíram ao longo de milhões de anos. Neurociência cognitiva demonstra que processamento facial ocorre em regiões cerebrais especializadas (área fusiforme facial) que operam abaixo do limiar consciente. Quando confrontados com deepfakes de alta qualidade, cérebros humanos experimentam “vale da estranheza” neurológico – simultaneamente reconhecendo familiaridade e detectando anomalia subliminar que gera desconforto psicológico profundo.

Se os tabloides do século 19 inauguraram o sensacionalismo impresso, as plataformas digitais, alimentadas por inteligência artificial, radicalizaram a lógica: ao invés da fabricação do real, o engajamento fabricado e manipulado. As imagens técnicas são dotadas de performatividade própria jogando do lado no game em que a confiança é substituída pelo controle, e onde no lugar do Big Brother temos o Big Data a modelar-nos por dentro, o que nas palavras de Byung-Chul Han é denominado de psicopoder: não mais a disciplina do corpo, mas a colonização das emoções, desejos e percepções. Bem vindos à era da psicopolítica digital.

Nietzsche, ao desnudar a genealogia da moral, já havia antecipado esta fissura: não existem fatos, apenas interpretações. O que hoje chamamos de “pós-verdade” nada mais é que a visibilidade radical desta condição. O problema não é apenas epistemológico, mas ontológico e político: quando todo discurso se apresenta como verdade performática, o espaço público entra em crise. Casos como o da Cambridge Analytica são apenas a ponta do iceberg: a conversão da subjetividade em mercadoria, da democracia em simulacro, da verdade em clique. A genealogia nietzschiana revela que toda verdade é vontade de poder cristalizada em discurso hegemônico, mas os deepfakes tomam o campo com uma vantagem analítica, ao explicitar essa condição, demonstrando que “não há fatos, apenas interpretações” — mas radicalizando a máxima ao mostrar que também não há interpretações, apenas fabricações tecnicamente sofisticadas. Como observou Nietzsche, a verdade é “exército móvel de metáforas”, e os deepfakes recuperam essa dimensão originária da verdade como construção retórica, mas através de meios técnicos que excedem capacidades cognitivas humanas de detecção e apenas ferramentas técnicas e agir de forma reativa talvez não sejam mais suficientes.

Jean Baudrillard antecipou essa condição através de sua análise da “simulação” — regime onde simulacros precedem e determinam realidade que supostamente representam. Deepfakes representam culminação do que ele denominou “quarta fase da simulação” onde imagem não tem relação com qualquer realidade subjacente, mas se torna sua própria realidade pura. Não estamos mais lidando com falsificações de realidade preexistente, mas com produções de realidades sintéticas que reivindicam status ontológico equivalente ao “original.

É como se os deepfakes fossem os poemas visuais da era algorítmica: construções puramente técnicas que não obstante produzem verdade emocional independentemente de acurácia factual.

A crise das narrativas que Jean-François Lyotard diagnosticou como nossa condição pós-moderna encontra nos deepfakes sua radicalização tecnológica, com a dissolução das próprias condições de possibilidade da narrativa e já o humano não mais é o único portador da linguagem, nem da construção da verdade, com consequências no âmbito individual e coletivo, a exemplo, com prejuízos em termos de memória coletiva, crise de identidades, de instituições, e criação de estados permanentes de desorientação temporal.

Michel Serres antecipou essa crise ao analisar como tecnologias de comunicação reconfiguram regimes de confiança social. Deepfakes representam culminação do que ele denominou “terceiro homem” — mediações tecnológicas que se interpõem entre comunicadores e progressivamente assumem agência própria. A confiança, que sociólogos da dimensão de Niklas Luhmann e Anthony Giddens identificaram com o fundamento mesmo das instituições modernas, torna-se agora muito problemática, quando mediada por tecnologias capazes de fabricar evidências convincentes e amplificando a crise das instituições e da confiança que vivemos. É o que corrobora Jürgen Habermas, quando afirmava em sua célebre tese de livre docência que a democracia depende de “esfera pública”, onde cidadãos podem deliberar baseados em fatos compartilhados e diante da “crise tecnomoral” a velocidade de mudança tecnológica supera capacidade de adaptação das estruturas morais e epistêmicas. Assim, o deepfake não é apenas uma fraude audiovisual: é a metáfora viva de nosso tempo. Ele encarna, em uma imagem, o deslocamento completo do estatuto do real, a crise da narrativa pública e a conversão da política em espetáculo algorítmico.

Precisamos, pois, mais do que ferramentas como marcas d’água ou de checagem manual, fact-checking ou regulamentação técnica, para combater o problema, de forma reativa, e pós-fato, precisamos de ferramentas de re-existir, mais que resistir, como dizia o grande e saudoso José Celso Martinez Correa, em linha com o que propõem pensadores críticos contemporâneos. Tornar visível o invisível, pensar o impensável, não para destruir a verdade, mas para abrir clareiras onde novas formas de verdade possam emergir, mantendo a multiplicidade do mundo e do ser humano. Exige uma revolução epistemológica, ontológica e ética, diante da crise epistêmica e de sentido, diante, talvez, do advento do que Baudrillard denominou de “crime perfeito” , a morte da morte, aqui em outros termos: a eliminação da realidade pelo próprio excesso de “realidade” (de segunda ordem — fabricada). O primeiro ato de resistência – ou melhor, de “re-existência” — é tornar visível o aparato algorítmico invisível que governa nossa percepção. Isso exige desenvolvimento de nova forma de letramento que combine compreensão técnica com sensibilidade estética e consciência crítica. Como diria Oswald de Andrade, é preciso “devorar” criticamente estas imagens — oswald de andradianamente antropofagizá-las — para reverter seu veneno em potência criadora, afinal a técnica poderá ser vista também como pharmacon, veneno ou remédio, a depender da dose.

É o que aponta Demi Getschko, em entrevista realizada por Lucia Santaella para a Revista TECCOGS: “O único caminho realmente promissor seria educar os receptores para que sempre lessem tudo o que recebem “com um grão de sal”, e com mentalidade crítica”.

Dito isto, mais do que perguntar o que seria o deep fake, gostaríamos de frisar o porquê do fenômeno do deepfake ser um problema tão premente dos tempos atuais, saindo de etiquetas genéricas e de apenas uma análise opinativa, mas trazendo provocações que nos ajudem talvez a sair da nossas caixas de pensamento formal para encontrar novas soluções e novos pensamentos.

Diante dos novos regimes de verdade que demonstram mais do que nunca de que a verdade não é o reflexo do real, mas uma construção social baseada na autoridade de quem tem legitimidade para falar e ser ouvido, ou então, em outras palavras, a verdade e apenas um ponto de vista, mas diante do poder político sobretudo das plataformas digitais ao distribuirem o poder de enunciação, e sem que tenhamos filtros epistêmicos sólidos que desafiem a lógica de performance e engajamento e que reforcem os processos cognitivos a partir do reforço do pensamento crítico já que aqueles dependem de tais habilidades, é urgente que os estudos futuros preparem os cidadãos em um papel proativo, juntando a alfabetização midiática/letramento digital a um letramento imaginal — evocando com o termo o desenvolvimento de concepção preciosa da filosofia mística muçulmana devidas a Henry Corbin —, com ênfase no papel do pensamento crítico como potência para o aumento da conscientização democrática acerca das problemáticas apontadas, destacando o papel central da imaginação, de modo a resgatarmos nosso poder como seres humanos de imaginamos um futuro possível, como devir e porvir e não apenas algoritmizado.

________________
(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)