O recuso é humano. A inteligência, artificial.

Em 1979, um manual de treinamento da IBM trazia um ensinamento que segue atual: "um computador não pode ser responsabilizado. Logo, um computador nunca deve fazer uma decisão gerencial".

A lição se mostrou sábia já em 1983: um computador soviético identificou que os EUA haviam lançado um ataque nuclear. Stanislav Petrov, engenheiro militar Russo, suspeitou que o alarme era falso. Ao invés de avisar seus superiores, optou por ignorar o alerta e esperar por mais evidências, que nunca vieram. Ao firmar sua decisão a despeito da máquina, salvou o mundo de uma guerra atômica.

Mas a lição da IBM foi rapidamente esquecida, em parte graças à própria IBM. Já na década de 80, bancos passaram a utilizar sistemas de avaliação de crédito para aprovar ou negar empréstimos sem análise caso a caso; companhias aéreas adotaram algoritmos para definir preços de passagens de forma dinâmica, sem intervenção humana direta; e fábricas confiaram em sistemas automatizados para alocar máquinas e turnos de trabalho. Hoje, empresas sedentas por se tornarem "AI First" (e, consequentemente, "Humans Second") alegam que a decisão final sempre caberá a um ser humano. Mas será mesmo?

Imagine a cena. A empresa paga caro por uma IA e a recebe sob elogios da diretoria e entusiasmo de todos. O CEO aguarda ansioso para mostrar aos acionistas o magnífico retorno de sua aquisição. E então, em plena mesa de operação, uma analista suspeita que a máquina tenha cometido um erro – que o melhor é não vender a ação que o algoritmo acusa que vai cair. Quem ousaria desobedecer a máquina em um caso desses? Quem correria o risco de desobedecer a máquina e estar errado?

Uma atitude desse tipo exige uma segurança psicológica que poucas empresas dão a seus colaboradores. Além da segurança psicológica, exige uma convicção moral que poucas pessoas possuem.

Em 1960, Stanley Milgram, professor da Universidade de Yale, conduziu um experimento histórico. Pessoas comuns, sentadas diante de um painel de botões, eram instruídas por um pesquisador em jaleco branco a causar choques elétricos cada vez mais intensos em outro ser humano, ouvindo gritos, súplicas, depois silêncio. Mãos tremiam, vozes falhavam, alguns riam nervosamente, outros imploravam para parar... mas, diante da ordem fria e insistente do pesquisador de que aplicassem o choque, muitos continuaram até atingirem voltagens letais. Dos 40 participantes do experimento, apenas 14 contestaram a autoridade e, ainda assim, com visível angústia e sofrimento por fazê-lo.

Questionar a autoridade é muito difícil. Não porque tememos o confronto, mas porque quem obedece a autoridade racionaliza que está apenas cumprindo ordens. Se cabe culpa a alguém, é à autoridade que deu a ordem, não àquele que meramente a executou. Não surpreende, portanto, que um artigo recente da Nature revele que humanos são mais propensos a engajarem em comportamentos antiéticos se o comportamento vem por sugestão da IA. É a banalização do mal, de Hannah Arendt, viva nos tempos da IA.

Às vezes, isso sequer é consciente. Décadas de pesquisa sobre viés de automação mostram que as pessoas tendem a seguir recomendações de sistemas automatizados mesmo quando elas contradizem um julgamento próprio que estava correto. Em um exemplo emblemático da literatura especializada, um cirurgião experiente abandonou um diagnóstico inicialmente correto após ser exposto a uma sugestão de IA confiante, porém errada. Esse comportamento é reforçado pela percepção da IA como um especialista imparcial. Quando sistemas se expressam com fluidez e segurança quase humanas, ativam em nós reflexos sociais de confiança e autoridade, reduzindo o senso crítico e, consequentemente, a nossa eficácia em identificar e corrigir erros desses sistemas.

É fantasia, portanto, acreditar que o funcionário médio das empresas vá desobedecer às decisões de uma IA cara e respeitada. Também é fantasia acreditar que a empresa padrão reagirá bem quando alguém o fizer. Após o incidente, Petrov foi muito elogiado, mas também interrogado, deslocado para um posto menos relevante, e aposentado prematuramente sem jamais ter recebido prêmio algum. Pode-se argumentar que as empresas de hoje dão mais voz a seus colaboradores do que as forças armadas soviéticas, mas quantas empresas, ainda hoje, contratam consultorias para dizer exatamente o mesmo que seus empregados sempre disseram? Se não ouvem seus colaboradores hoje, ouvirão após terem afundado o custo de aquisição de uma vangloriada IA?

A presença de um humano na tomada de decisões é importante, mas de nada adianta sem a segurança psicológica (e a consciência da importância) de contrariar a IA sempre que julgar necessário. A construção deste ambiente de segurança e valorização profissional deveria ser priorizada ainda que não houvesse a IA batendo à porta. Infelizmente, não é.

A NR-1, prevista para entrar em vigor em maio de 2026, melhora essa situação ao obrigar empresas a incluírem riscos psicossociais no Programa de Gerenciamento de Riscos (PGR). Ainda assim, não resolve o problema por completo, o que exigiria não apenas adesão à formalidade da lei, mas uma mudança cultural no que diz respeito à relação com o poder. Nos estudos antropológicos de cultura, o Brasil apresenta uma elevada distância de poder. Isso explica por que a NR-1, apesar de obrigatória, terá impacto limitado: alta distância de poder perpetua deferência à autoridade (entre as quais a IA), limitando mudanças reais contra medos enraizados de represálias em caso de erro.

Talvez motive notar que um estudo recente do MIT encontrou que 95% dos projetos de IA generativa nas empresas falham, mas os 5% bem-sucedidos são justamente aqueles feitos por empresas que cuidaram de suas pessoas, processos e governança antes de adotar a nova tecnologia. Para se tornar "AI First", é preciso ser "AI Last": organizar os processos, definir a governança, capacitar e empoderar os colaboradores e, somente após ter feito tudo isso, trazer a empresa à era da IA.

A presença humana na tomada de decisão só é significativa se vier acompanhada de autonomia, segurança psicológica e responsabilidade real – condições que, em muitas empresas, já estão ausentes hoje, e não há motivos para supor que isso vá mudar quando tiverem implementado IA no dia a dia. Poucas empresas têm essa consciência. Percebe-se na linguagem que elas usam: as pessoas são "recursos humanos"; os sistemas, "inteligência artificial".

Siga-me no LinkedIn!