Algoritmos viciados em cada vez mais visceralidade

Frances Haugen é uma engenheira e cientista de dados norte-americana. Ela entregou dezenas de milhares de documentos do Facebook à Comissão de Valores Mobiliários dos Estados Unidos (SEC) e ao Wall Street Journal. Frances passou pelo palco do SXSW para contar um pouco sobre tudo isso.

Ela revela que sua mãe é bióloga e costumava dizer sempre para ela: “cuidado com o que você escolhe porque você vai conseguir”. O mesmo acontece com o algoritmo.

Todos sabemos que recebemos mais conteúdos sobre os temas com os quais mais interagimos, pelos quais demonstramos algum tipo de interesse, seja dando like, comentando ou clicando. Mas além de recebermos mais e mais conteúdos mais alinhados aos temas com os quais a gente mais interage, esses conteúdos também serão sempre os mais viscerais possível, pois o algoritmo dá mais alcance e visibilidade às ideias mais extremadas.

Isso porque o algoritmo já aprendeu que sensacionalismo e polarização de opinião performa melhor, engaja mais e gera mais resultados no final do dia. Quanto mais visceral, mais engajamento. Quanto mais mexer com suas emoções mais íntimas e profundas, com suas crenças e anseios, mais vai mexer com o ponteiro de resultados de performance.

E nessa busca por taxas de visceralidade cada vez mais elevadas, não há uma análise criteriosa sendo feita sobre o teor desses conteúdos. Busca-se apenas o que mais performa pelo que mais performa. O que faz com que todo sistema de machine learning tenha vários tipos de viés. E é bastante difícil neutralizar ou eliminar esse fenômeno. Até porque esses sistemas não são tão “inteligentes” quanto se imagina. Até mesmo por isso que o que o mercado costuma chamar de “inteligência artificial” é usualmente chamado de “machine learning” por quem entende e trabalha diretamente com o tema.

Isso tudo faz com que uma fake news se dissipe 6X mais rápido do que uma informação verdadeira, conforme revelou um estudo realizado pelo MIT em parceria com o Twitter. Além dessas desinformações serem mais apelativas e mexerem mais com os ânimos de todos os lados, elas geram uma infinidade de versões mais diversas e que podem ser criadas para influenciar cada perfil diferente de pessoa. Frances diz que você pode criar facilmente mais de mil versões diferentes de uma desinformação, mas apenas uma versão da verdade. E que a verdade geralmente é mais chata, não é tão satisfatória em termos de liberação de dopamina e prazer cerebral. Assim, quanto mais deturpado, visceral e customizado um conteúdo é, mais o algoritmo aprende que ele viraliza e gera mais engajamento. E assim entra-se num ciclo extremamente nocivo para a sociedade de modo geral. O machine learning prioriza o tempo todo aqueles conteúdos que mais incendeiam e continuam a tacar querosene neles. Visceralidade gera visceralidade.

E engana-se que essa disseminação de conteúdos e desinformação está espalhada por toda a população. Frances afirma que apenas 12% dos postadores no Facebook nos EUA são responsáveis por 80% das postagens. Em outros países, esse número chega a 1%. Isso mesmo: 1% dos postadores são responsáveis por 80% das postagens em alguns países.

Tudo isso está influenciando não somente a nossa relação com os conteúdos que consumimos como também a nossa relação com marcas e produtos, com instituições, as relações humanas e os sistemas político-democráticos de modo geral.  A visceralidade tão estimulada e tracionada ferozmente pelos algoritmos transborda os limites das redes sociais para nos encharcar de intolerância e petulância, entorpecidos que estamos apenas com as opiniões alinhadas às nossas e sempre as mais radicais e ferozes.