Estamos entrando na era da distopia informativa

(Imagem: memyselfaneye/Pixabay)

A sensação de que não sabemos mais no que acreditar tornou-se perturbadoramente real neste início de ano, depois que programas de inteligência artificial foram usados na produção de vídeos fake envolvendo cobrança de impostos em transações Pix e na posse de animais de estimação. Fora do Brasil, a revista norte-americana Time informou que o exército israelense usa rotineiramente programas que identificam alvos palestinos com a ajuda da IA sem uma checagem prévia para distinguir objetivos militares e instalações civis. O cenário fica ainda mais sombrio quando se sabe que metade dos 241 milhões de emails enviados por minuto em todo mundo já é operada por robôs (algoritmos).

São casos reais cujas consequências vão muito além de especulações ou conjeturas. Segundo a Receita Federal brasileira, o vídeo falso do imposto sobre Pix foi visualizado 22,5 milhões de vezes entre os dias 9 e 12 de janeiro, como parte de uma tentativa de abalar a imagem do governo numa conjuntura em que o presidente Lula enfrenta resistências do setor financeiro e da extrema direita. No caso do falso pronunciamento do ministro da Fazenda, as imagens foram produzidas com sofisticados recursos de inteligência artificial para imitar fielmente a entonação, sotaque e vocabulário de Fernando Haddad.

Ainda segundo dados oficiais, no auge da circulação do vídeo falso nas plataformas, o número de operações Pix caiu 10,9%, atingindo um total de 1,25 bilhão de transações, quando o normal é de 1,38 bilhão de operações diárias. Ficou evidente como a manipulação das percepções do público por meio de fake news pode danificar seriamente a credibilidade pública num sistema eletrônico complexo considerado absolutamente seguro e que se tornou a mais popular operação financeira tanto entre empresas como entre o público em geral.

O falso imposto sobre o Pix foi uma operação política. A maior parte da viralização aconteceu em consequência de postagens feitas por políticos oposicionistas como os deputados Osmar Terra (MDB-RS), Nikolas Ferreira (PL-MG) e Julia Zanatta (PL-SC). Só Osmar Terra compartilhou a fake news com 100 mil seguidores. O pastor Romildo Ribeiro Soares, mais conhecido como missionário R.R. Soares, da Igreja Internacional da Graça de Deus, usou seu programa na TV para disseminar a fake news do Pix.

Aqui no Brasil, a inteligência artificial na produção de fake news ainda não produziu mortes, mas em Gaza ela é responsável por muitas das mais de 38 mil vítimas fatais de bombardeios na mais populosa cidade da Palestina (dados do Hamas). No final de dezembro, a revista norte-americana Time informou que o exército israelense usa rotineiramente os programas Gospel e Lavender, ambos baseados em inteligência artificial, para selecionar alvos palestinos a serem bombardeados.

A tragédia humana na guerra tecnológica

O Gospel identifica prédios e instalações considerados suspeitos de abrigarem unidades do grupo Hamas que luta contra a ocupação israelense do território palestino. Já o programa Lavender seleciona alvos humanos, guerrilheiros, informantes e líderes do Hamas. As autoridades israelenses reconheceram que os dois programas apresentam uma margem de erro de 10% na seleção dos alvos, o que indica a possibilidade de no mínimo 3.800 palestinos terem sido mortos por engano.

Um estudo da revista científica Lancet sugere, no entanto, que o número de vítimas, consideradas “efeito colateral” da guerra,  pode chegar a 6,5 mil (10% de um total estimado de 64 mil mortos). Num cenário de guerra, é pouco provável que os estrategistas militares dediquem muito tempo para avaliar o custo humano real de um bombardeio em áreas densamente povoadas, como é a situação em Gaza. Ainda mais quando o objetivo é exterminar o grupo Hamas.

Ainda em dezembro do ano passado, os principais clubes de futebol da Inglaterra manifestaram preocupação com a intensificação dos ataques racistas a jogadores negros e latinos depois que a plataforma X passou a disponibilizar a seus usuários o programa Grok de produção de imagens falsas. A empresa Signify e o Center for Countering Digital Hate (Centro de Combate ao Ódio Digital),  ambos na Inglaterra, investigaram o problema e se alarmaram com a sofisticação da tecnologia usada pelo Grok, cujo acesso foi liberado a todos os usuários da plataforma X. Estima-se que cerca de 5 milhões de pessoas acessem o Grok diariamente em todo o mundo.

Os casos mencionados indicam que a distopia informativa (1) já é uma realidade entre nós, um fenômeno agravado pela politização crescente das plataformas digitais e da maioria dos grandes veículos de imprensa, afetados pela perda de público e pela crise no seu modelo de negócios. Trata-se de uma conjuntura favorável à desinformação em larga escala, principalmente se levarmos em conta que metade do fluxo de informações na internet já é realizado por algoritmos, que são programados por pessoas e organizações com óbvios interesses políticos, sociais e econômicos (2).

A era das incertezas

O ingresso na era da distopia informativa significa que caminhamos para um sistema de incerteza estrutural, onde conceitos como verdadeiro ou falso, certo ou errado, sobre os quais se apoia a cultura atual, já não conseguem mais dar conta dos desafios criados por novas tecnologias como a inteligência artificial, plataformas digitais e pela avalanche informativa. Parece assustador, porque afeta todos os nossos comportamentos, crenças e valores. Mas há alternativas viáveis.

A globalização, politização e algoritmização das plataformas digitais começa a desagradar um número crescente de pessoas, como mostram tanto a migração de usuários da X em direção a redes alternativas, especialmente a Bluesky (3). Duplicou o número de buscas no Google sobre como abandonar a plataforma Facebook, segundo dados divulgados pelo site Google Trends.

Donald Trump, por exemplo, criou a sua rede, a Truth, enquanto jornalistas, pesquisadores e personalidades públicas engrossam a audiência de grandes redes alternativas como Medium, Snapchat, Mastodon e Nexdoor. Aqui no Brasil, grupos de esquerda fundaram a FatoFlix, e instituições como a governamental Agência Brasileira de Desenvolvimento Industrial (ABDI) implantaram a rede UNA, para troca de mensagens entre funcionários e clientes, usando a mesma tecnologia utilizada pelo Exército brasileiro e que é semelhante à adotada pela plataforma X. Tudo isto configura uma complexa transição de hábitos informativos associada à mudança de modelos de comunicação num processo caracterizado por altas doses de incertezas tanto humanas como tecnológicas.

1. Distopia é um antônimo da expressão utopia. Expressa uma situação de pessimismo, pesadelo ou opressão. Uma utopia negativa.
2. Ver entrevista de Rodrigo Tozzi que representa no Brasil a Tools for Humanity (TFH – Ferramentas Humanitarias), braço operacional do grupo OpenAI, de Sam Altman, o criador do software de inteligência artificial ChatGPT.
3. A rede Bluesky afirma estar recebendo cerca de um milhão de imigrantes digitais oriundos das plataformas da Meta.

***

Carlos Castilho é jornalista com doutorado em Engenharia e Gestão do Conhecimento pelo EGC da UFSC. Professor de jornalismo online e pesquisador em comunicação comunitária. Mora no Rio Grande do Sul.

O post Estamos entrando na era da distopia informativa apareceu primeiro em Observatório da Imprensa.