O que é, afinal, um algoritmo?
Imagine que você está ensinando uma pessoa que nunca cozinhou na vida a fazer um bolo. Você não pode simplesmente dizer “faça a massa e asse”. Você precisa dar um passo a passo exato: “pegue 2 ovos, quebre na tigela, adicione 1 xícara de açúcar, bata por 3 minutos”.
Em essência, um algoritmo é exatamente isso: uma sequência finita de regras lógicas e passos bem definidos que transforma dados de entrada (os ingredientes) em um resultado ou saída (o bolo). A diferença é que, em vez de cozinhar, o computador usa essas regras matemáticas para decidir quais posts mostrar na sua rede social, qual rota o seu GPS deve calcular ou se o banco deve aprovar o seu cartão de crédito.
No entanto, quando os algoritmos saem da teoria matemática e começam a tomar decisões sobre a vida humana, as coisas deixam de ser simples. Aqui estão os quatro grandes “segredos” sobre os algoritmos que você precisa entender para tirar suas próprias conclusões sobre o papel deles no nosso mundo.
1. A ilusão da máquina neutra (O preconceito disfarçado)
Temos a tendência de achar que, por ser uma máquina baseada em matemática, o algoritmo é imparcial e justo. Isso é um mito. Os algoritmos aprendem a tomar decisões analisando montanhas de dados do passado. Se o nosso mundo tem desigualdades, a máquina aprende e copia essas desigualdades — um fenômeno conhecido como “entra lixo, sai lixo” ou Bias in, Bias out.
Exemplo prático: Imagine que uma empresa crie um algoritmo para selecionar currículos de emprego e, para ser justa, proíba o sistema de ler a raça ou o gênero dos candidatos. O problema é que o algoritmo pode cruzar dados e descobrir que o CEP (código postal) da pessoa está ligado a um menor rendimento no passado. Devido à divisão histórica de bairros mais ricos e mais pobres, o CEP acaba funcionando como um “substituto disfarçado” (um proxy) para a raça ou classe social. A máquina torna-se preconceituosa de forma invisível e altamente eficiente.
2. A matemática da injustiça (A síndrome do cobertor curto)
Se os algoritmos podem ser injustos, por que os programadores simplesmente não consertam a matemática para torná-los 100% justos para todos? Porque a matemática provou que a justiça perfeita é impossível.
Existe um famoso “Teorema da Impossibilidade”. Imagine um sistema usado pela justiça para prever se réus voltarão a cometer crimes (como o sistema COMPAS, usado nos EUA). Se dois grupos diferentes de pessoas têm taxas históricas diferentes de reincidência, a matemática prova que é impossível o algoritmo ter, ao mesmo tempo, a mesma taxa de acertos e a mesma taxa de alarmes falsos (pessoas inocentes punidas injustamente) para ambos os grupos. É como um cobertor curto: se você puxa a matemática para ser justa de um lado, ela inevitavelmente descobre os pés do outro. A sociedade, e não a máquina, precisa escolher qual tipo de erro é menos pior.
3. O mistério da “Caixa-Preta”
Os sistemas de inteligência artificial modernos não são apenas listas de regras escritas por humanos. Eles aprendem sozinhos através de bilhões de conexões, formando o que chamamos de “Caixa-Preta”.
Isso significa que vemos os dados que entram e as decisões que saem, mas o que acontece no meio é um mistério até para os criadores do sistema. Se um algoritmo negar um empréstimo para você ou um tratamento médico no hospital, o sistema muitas vezes não consegue “explicar” o porquê. Isso gera uma questão inquietante: se a máquina cometer um erro grave e arruinar a vida de alguém, de quem é a culpa, já que ninguém entende exatamente como ela tomou a decisão?.
4. Nossas bolhas nas redes sociais (Quem está no controle?)
Você já teve a sensação de que a internet só mostra opiniões iguais às suas? Os algoritmos de recomendação são desenhados para aprender o que você gosta e oferecer mais do mesmo, criando as chamadas “bolhas de filtro” (filter bubbles). O objetivo deles é um só: manter sua atenção presa na tela pelo maior tempo possível para gerar lucro.
Mas será que os algoritmos são os grandes vilões que estão polarizando a sociedade? Estudos recentes sugerem que o buraco é mais embaixo. Na verdade, as evidências mostram que as “bolhas” criadas pelos algoritmos são menores do que imaginamos. A polarização e a disseminação de fake news prosperam porque os algoritmos simplesmente otimizam a nossa natureza humana tribal. Nós temos uma necessidade ancestral de buscar status e nos conectarmos com nosso grupo. A máquina apenas percebeu que a raiva e o conflito prendem mais a nossa atenção do que o diálogo pacífico.
Para você refletir: No fim das contas, o algoritmo não é uma entidade mágica, nem um juiz perfeito. Ele é um espelho implacável da sociedade. Ele reflete nossos dados, nossos preconceitos e nossos desejos mais instintivos.
Sabendo que as máquinas estão tomando decisões que você não pode compreender totalmente, e que elas são incapazes de atingir uma “justiça matemática perfeita”, deixo algumas perguntas para você tirar suas próprias conclusões: Deveríamos ter o direito legal de exigir que um humano revise as decisões importantes tomadas por máquinas? Como podemos cobrar responsabilidade de empresas que usam ferramentas cujos próprios criadores não entendem completamente?