Quando a empresa vira um algoritmo, o julgamento humano vira ruído.

Quando a empresa se otimiza por algoritmo, ela torna tudo legível ao algoritmo — mensurável, modelável. E o julgamento humano, que é ilegível ao algoritmo, passa a ser tratado como ruído a eliminar. Mas é justamente esse julgamento que captura o que a métrica não vê.

Há um ensaio que descreve como o algoritmo enxerga o mundo — como uma plataforma otimizada por algoritmo passa a ver tudo através da lente do que o algoritmo mede. E ele aponta para uma transformação mais ampla: o que acontece quando a empresa inteira vira um algoritmo. Quando a empresa se otimiza por algoritmo, ela torna tudo legível ao algoritmo — mensurável, modelável. E o julgamento humano, que é ilegível ao algoritmo, passa a ser tratado como ruído a eliminar. Mas é justamente esse julgamento que captura o que a métrica não vê.

Comece pela ideia de legibilidade. Um algoritmo só pode otimizar o que consegue ler — o que é mensurável, modelável, redutível a uma métrica. Para otimizar a empresa, o algoritmo precisa torná-la legível: traduzir tudo em métricas que ele possa ler e otimizar. Essa tradução para a legibilidade é poderosa — permite a otimização —, mas tem um custo: o que não é legível ao algoritmo, o que não cabe numa métrica, fica fora da sua visão. Quando a empresa vira um algoritmo, ela torna tudo legível ao algoritmo, e o que não se deixa tornar legível — o julgamento humano — fica fora do que o algoritmo enxerga.

Aqui está por que o julgamento humano é ilegível ao algoritmo. O julgamento humano — a intuição, a percepção do contexto, a leitura do que não está na métrica — não se reduz a uma medida. Ele capta o que é difícil de mensurar: o sinal fraco, o contexto, a exceção, o que a métrica não captura. Por sua natureza, o julgamento é ilegível ao algoritmo — não cabe numa métrica que o algoritmo possa ler e otimizar. E porque é ilegível, o algoritmo não o vê como valor; ele o vê como ruído — uma interferência não mensurável na otimização das métricas que ele lê. O julgamento humano, ilegível, é tratado como ruído justamente porque não cabe na legibilidade que o algoritmo exige.

Aqui está o erro de tratar o julgamento como ruído. O julgamento humano não é ruído; é o que captura o que a métrica não vê — o sinal fraco, o contexto, a exceção, o que está fora do que o algoritmo lê. Quando a empresa, virando um algoritmo, trata o julgamento como ruído a eliminar, ela remove justamente a capacidade de captar o que o algoritmo não consegue ver. Ela fica cega ao que está fora das suas métricas — ao que o julgamento ilegível captaria, mas que a otimização algorítmica descarta como ruído. Eliminar o julgamento como ruído não limpa a empresa de interferência; remove sua defesa contra o que o algoritmo, por sua legibilidade limitada, não enxerga.

Repare na conexão com a crise fora da planilha que apontei. Apontei que as crises vêm do que está fora da planilha — do não modelado, do que a métrica não captura. O julgamento humano é justamente a defesa contra isso: a capacidade de captar o que está fora da planilha, fora da métrica, fora do que o algoritmo lê. Quando a empresa vira um algoritmo e elimina o julgamento como ruído, ela remove essa defesa — fica exposta ao que está fora da planilha, porque eliminou a faculdade humana que o captaria. A empresa-algoritmo é otimizada para o que é legível e cega ao que é ilegível — frágil justamente ao que vem de fora da métrica, que o julgamento descartado teria captado.

Veja o paradoxo da otimização algorítmica. Quanto mais a empresa se otimiza por algoritmo, melhor ela fica no que é legível — nas métricas que o algoritmo lê e otimiza — e mais cega ao que é ilegível — ao que o julgamento captaria. A otimização algorítmica melhora o mensurável e elimina o não mensurável, tornando a empresa excelente no legível e frágil ao ilegível. O paradoxo é que a busca por otimizar tudo, ao tornar tudo legível e eliminar o julgamento ilegível como ruído, cria uma cegueira ao que está fora da métrica — uma fragilidade ao não modelado que cresce quanto mais a empresa se algoritmiza. A empresa-algoritmo é mais eficiente e mais cega ao mesmo tempo.

É preciso, em equilíbrio, reconhecer o poder do algoritmo e que nem todo julgamento é valioso. O algoritmo é poderoso — ele otimiza o legível melhor que o humano, e há muito valor nisso. E nem todo julgamento humano é sinal; parte é de fato ruído — viés, erro, ineficiência. O ponto não é rejeitar o algoritmo ou romantizar o julgamento, mas reconhecer que o julgamento humano, ilegível ao algoritmo, captura o que está fora da métrica, e que eliminá-lo inteiramente como ruído remove a defesa contra o que o algoritmo não vê. A maturidade é combinar — usar o algoritmo para otimizar o legível e preservar o julgamento humano para captar o ilegível, em vez de tratar todo julgamento como ruído a eliminar em nome da otimização.

Para o investidor e o gestor, isto sugere desconfiar da empresa que eliminou o julgamento humano em nome da otimização algorítmica. A pergunta sobre uma empresa-algoritmo não é apenas 'quão bem ela otimiza suas métricas?', mas 'ela preservou o julgamento humano que capta o que está fora das métricas, ou o eliminou como ruído?'. As empresas que eliminaram o julgamento são excelentes no legível e cegas ao ilegível — frágeis ao que vem de fora da métrica; as que o preservaram mantêm a defesa contra o que o algoritmo não vê. Quem avalia a empresa só pela otimização das métricas perde a cegueira que a eliminação do julgamento cria; quem reconhece o valor do julgamento ilegível vê a fragilidade da empresa que o tratou como ruído.

A regra deste momento: o algoritmo otimiza o que é legível e trata o julgamento humano, ilegível, como ruído a eliminar — mas é justamente esse julgamento que captura o que está fora da métrica, e eliminá-lo remove a defesa contra o que o algoritmo não vê. Quando a empresa vira um algoritmo, ela ganha no legível e fica cega ao ilegível. Quem trata o julgamento como ruído otimiza o mensurável e fica frágil ao não mensurável; quem preserva o julgamento mantém a faculdade que capta o que a métrica não vê.

Quando a empresa vira um algoritmo, o julgamento humano vira ruído. A empresa otimizada por algoritmo torna tudo legível e trata o julgamento — ilegível, não mensurável — como ruído a eliminar, mas é justamente esse julgamento que captura o que está fora da métrica. Anote a transformação da empresa em algoritmo não como puro ganho de otimização, mas como uma troca perigosa — a demonstração de que tornar tudo legível ao algoritmo elimina o julgamento humano ilegível que captura o que a métrica não vê, de que eliminá-lo como ruído remove a defesa contra o que está fora da planilha, e de que a empresa-algoritmo, excelente no legível e cega ao ilegível, fica frágil justamente ao que vem de fora da métrica — ao sinal fraco que só o julgamento, descartado como ruído, teria captado.

Leo Bentier