Uma IA mais forte requer um julgamento humano mais forte

Uma declaração do Business Physics AI Lab para estudantes, educadores e líderes empresariais

No Business Physics AI Lab, acreditamos que os alunos devem aprender a ver a IA com clareza.

Não devemos tratar a IA avançada como mágica. Também não devemos reduzi-la ao medo. Um ponto de partida melhor é entender a IA como um conjunto de sistemas em rápida mudança que pode criar tanto oportunidades quanto riscos. Em todos os materiais públicos dos principais laboratórios de IA, órgãos de padronização e organizações de políticas, um padrão aparece repetidamente: à medida que os sistemas de IA se tornam mais capazes, a necessidade de testes, salvaguardas, supervisão e responsabilidade também aumenta (Anthropic, 2023; Google DeepMind, 2025; National Institute of Standards and Technology [NIST], 2023; OpenAI, 2025; Organisation for Economic Co-operation and Development [OECD], 2019).

Organizações diferentes expressam essa ideia de maneiras diferentes. A Anthropic (2023) descreve a segurança da IA como um ato de equilíbrio. A OpenAI (2025) explica que o desenvolvimento de recursos deve ser acompanhado pela mitigação proativa de riscos. O Google DeepMind (2025) adverte que os recursos avançados podem apresentar novos riscos. O NIST (2023) descreve a IA confiável usando conceitos como segurança, proteção, resiliência, responsabilidade, transparência, explicabilidade, privacidade e justiça. A OCDE (2019) promove a IA que é inovadora e confiável. A linguagem é diferente, mas a direção é semelhante: sistemas mais fortes exigem maior responsabilidade.

Para nós, a lição é simples: Uma IA mais forte requer um julgamento humano mais forte.

Isso não significa que todo sistema de IA mais forte seja automaticamente perigoso. Significa algo mais prático. Quando um sistema pode fazer mais, as consequências de erros, uso indevido, supervisão deficiente ou governança deficiente também podem se tornar maiores. É por isso que a capacidade mais forte não pode ser a única questão. Também precisamos perguntar como o sistema está sendo avaliado, quais são as salvaguardas existentes, quem é o responsável e se o contexto é apropriado para seu uso (Google DeepMind, 2025; OpenAI, 2025).

Para os estudantes de administração, isso não é principalmente uma questão de codificação. É uma questão de julgamento. Se os alunos aprenderem apenas que a IA pode economizar tempo, gerar conteúdo, resumir materiais ou automatizar o trabalho de rotina, eles estarão aprendendo apenas metade da história. Eles também precisam entender que uma IA mais forte pode criar problemas maiores quando é errada, manipulada, usada de forma descuidada ou confiada muito rapidamente. O NIST (2023) é especialmente útil aqui porque explica que o risco da IA é sociotécnico. Em uma linguagem simples, isso significa que os riscos não vêm apenas da tecnologia. Eles também vêm das pessoas, das organizações, das decisões e dos sistemas que a cercam.

Isso é importante nos negócios porque muitas falhas de IA não permanecem técnicas por muito tempo. Elas podem se tornar rapidamente problemas de gerenciamento, problemas éticos, problemas legais, problemas de comunicação ou problemas de reputação. Um resultado ruim pode ser detectado, ignorado, mal interpretado ou resolvido rápido demais. Em todos os casos, o julgamento humano é importante. É por isso que os alunos não devem se perguntar apenas: “O que essa IA pode fazer?” Eles também devem se perguntar: Qual é o objetivo? Quem usará isso? Quais são os riscos existentes? Como isso foi testado? Quem verifica o resultado? Quem é responsável pela decisão final?

Uma resposta educacional útil a esse desafio vem de Hormaza Dow e Nassi (2025). Eles argumentam que, se os alunos forem usar a IA de forma responsável, o julgamento não deve permanecer vago. Ele deve ser ensinado diretamente. Sua estrutura REACT oferece aos alunos uma maneira estruturada de fazer isso. REACT significa Motivo para usar ou não usar a IA, plano de aceitação e verificação de evidências, responsabilidade, restrições e compensações (Hormaza Dow & Nassi, 2025). Em termos práticos, a estrutura pede que os alunos expliquem por que estão usando IA, como verificarão os resultados, quem é o responsável, quais regras ou limites se aplicam e quais compensações estão fazendo entre velocidade, qualidade e julgamento humano.

Isso é importante porque transforma o julgamento em algo visível e ensinável. Em vez de apenas dizer aos alunos para serem cuidadosos, o REACT oferece a eles uma maneira de pensar com cuidado. Ele muda a conversa de conselhos abstratos para a tomada de decisões reais na sala de aula e na vida profissional (Hormaza Dow & Nassi, 2025).

Uma contribuição prática igualmente útil vem da estrutura Human-AI Complementarity Skills do Business Physics AI Lab. Essa estrutura torna o argumento principal deste artigo mais concreto ao mostrar que um julgamento humano mais forte pode ser dividido em habilidades específicas que os alunos podem aprender, praticar e melhorar com o tempo (Business Physics AI Lab, 2025). Em vez de tratar o julgamento como um traço de personalidade, a estrutura o apresenta como um conjunto de hábitos repetíveis organizados em cinco temas.

O primeiro tema, Saiba quando fazer uma pausa, A habilidade “We Can... But Should We?” é especialmente importante porque coloca o julgamento antes do prompt, e não depois dele. A habilidade "We Can... But Should We?" (Podemos... Mas devemos?) pede que os alunos parem antes de usar a IA e considerem se a tarefa deve ser automatizada ou assistida por IA. O objetivo não é deixar tudo mais lento sem motivo. O objetivo é evitar o uso descuidado, proteger a integridade e evitar a transferência de trabalho em situações em que o julgamento humano é essencial (Business Physics AI Lab, 2025). Essa é uma das partes mais fortes da estrutura porque lembra aos alunos que o uso responsável da IA começa com um ponto de controle. Antes de usar a IA, eles devem se perguntar: Qual é o objetivo? Quem usará isso? Quais são os riscos existentes? Se as respostas não forem claras, a resposta certa não é a velocidade. É fazer uma pausa e esclarecer (Business Physics AI Lab, 2025).

O segundo tema, Construa a base correta, A habilidade “Curate the Data” enfatiza o controle de qualidade das entradas: as definições devem ser claras, as fontes devem ser verificadas, as datas devem ser verificadas, as duplicatas e as exceções óbvias devem ser removidas e as lacunas ou os riscos conhecidos devem ser tornados visíveis (Business Physics AI Lab, 2025). Isso é importante porque a IA não corrige entradas fracas. Ela geralmente os amplifica. Em termos simples, a regra “entra lixo, sai lixo” se torna ainda mais perigosa quando a IA pode produzir respostas polidas rapidamente. A habilidade relacionada "Prompt & Polish" também é importante porque mostra que a IA pode ajudar a redigir rapidamente, mas os seres humanos ainda precisam adicionar contexto, prioridades, nuances e consciência do público. A IA pode gerar opções com rapidez, mas as pessoas ainda precisam comparar, mesclar, reescrever e refinar com sua própria voz (Business Physics AI Lab, 2025).

O terceiro tema, Mantenha o poder em mãos humanas, A habilidade “Don't Accept - Inspect” reforça um dos princípios mais importantes do artigo: a responsabilidade humana deve permanecer intacta. A habilidade “Don't Accept - Inspect” (Não aceite - inspecione) lembra aos alunos que a IA pode produzir erros confiáveis, portanto, os resultados devem ser revisados quanto à precisão, parcialidade, clareza e relevância, em vez de serem aceitos pelo valor de face (Business Physics AI Lab, 2025). A habilidade "Bot Handles Basics, You Call the Shots" expressa o mesmo ponto de outra forma. Tarefas rotineiras, como resumos, formatação e primeiros rascunhos, podem ser delegadas à IA, mas a estratégia, o enquadramento, o sequenciamento, as compensações e as decisões finais devem continuar sendo humanas. A estrutura capta isso com um guardrail memorável: “A IA propõe. Eu descarto.” A propriedade final fica com uma pessoa, não com um sistema (Business Physics AI Lab, 2025).

O quarto tema, Dê significado a dados confusos, A habilidade “Read Between Lines of Data” (Ler nas entrelinhas dos dados) é especialmente útil para estudantes de administração porque conecta o julgamento da IA à tomada de decisões. A habilidade “Read Between the Lines of the Data” (Ler nas entrelinhas dos dados) lembra aos alunos que a IA pode identificar padrões, mas não entende automaticamente as causas, os incentivos, os eventos únicos, a sazonalidade, as mudanças de política ou as restrições do mundo real (Business Physics AI Lab, 2025). A interpretação humana ainda é necessária. A habilidade “Data to Story” se baseia nisso, mostrando que os tomadores de decisão não precisam de um despejo de dados. Eles precisam de clareza. Os alunos devem ser capazes de responder a três perguntas: O que aconteceu? Por quê? E agora? (Business Physics AI Lab, 2025). A habilidade relacionada "Cut the Noise" (eliminar o ruído) é igualmente importante porque o excesso de informações pode retardar ou inviabilizar a ação. Se uma métrica não puder influenciar uma decisão, ela não deve estar no painel (Business Physics AI Lab, 2025).

O quinto tema, Lidere a mudança - não fique para trás, A habilidade “Governar & Corrigir” amplia a conversa do julgamento individual para a responsabilidade organizacional. A habilidade “Governar e Corrigir” enfatiza a privacidade, a segurança, a acessibilidade, a justiça, a explicabilidade, a revisão de vieses e a responsabilidade humana. Ela também enfatiza a importância de documentar prompts, versões, trocas e propriedade da decisão, em vez de tratar a governança como uma atividade de última hora (Business Physics AI Lab, 2025). A última habilidade, "Learn on the Fly", reforça que o bom uso da IA não é estático. As equipes devem refletir sobre o que funcionou, o que falhou e quais padrões ou prompts foram eficazes e, em seguida, transformar essas lições em pequenos manuais que podem ser compartilhados e aprimorados ao longo do tempo (Business Physics AI Lab, 2025). O ciclo de aprendizagem é simples e poderoso: Experimentar → Inspecionar → Ajustar → Codificar → Compartilhar (Business Physics AI Lab, 2025).

Esses detalhes fortalecem o artigo porque mostram que um julgamento humano mais forte não é apenas um slogan. Ele pode ser ensinado. Ele pode ser operacionalizado por meio de notas racionais curtas, especificações de entrada de uma página, alterações rastreadas, registros de verificação, memorandos de decisão, trilhas de auditoria e manuais vivos (Business Physics AI Lab, 2025). Em outras palavras, o julgamento pode se tornar visível. Isso é importante para a educação porque, uma vez que o julgamento se torna visível, ele também pode se tornar treinável, avaliável e melhorável.

Essa preocupação mais ampla também aparece fora das estruturas das empresas. Em junho de 2025, Yoshua Bengio anunciou a LawZero, uma organização de pesquisa de segurança de IA sem fins lucrativos que, segundo ele, foi criada para priorizar a segurança em relação aos imperativos comerciais (Bengio, 2025). Nesse anúncio, ele argumentou que os modelos de IA de fronteira estavam mostrando capacidades e comportamentos cada vez mais perigosos, como engano, hacking, autopreservação e desalinhamento de objetivos (Bengio, 2025). Independentemente de concordarmos ou não com todas as preocupações levantadas por ele, o ponto principal é claro: à medida que a capacidade da IA aumenta, mais pesquisadores argumentam que são necessárias instituições e formas de supervisão mais fortes.

Para os alunos, isso leva a uma lição importante. O desafio não é apenas criar sistemas mais fortes. É também criar hábitos mais sólidos de julgamento, processos de decisão mais sólidos e formas mais sólidas de responsabilidade em torno desses sistemas. A segurança institucional e o julgamento educacional não são ideias concorrentes. Elas são respostas complementares à mesma realidade.

No Business Physics AI Lab, portanto, incentivamos os alunos a ir além de duas reações fracas. A primeira é a empolgação cega, em que a IA é tratada como se automaticamente soubesse o que é melhor. A segunda é o medo vago, em que a IA é tratada como muito misteriosa ou perigosa para ser compreendida. Nenhuma dessas reações prepara os alunos para o trabalho real. O melhor caminho é o julgamento informado. Os alunos devem aprender o que a IA pode fazer, onde estão seus limites, quais riscos podem aumentar com uma capacidade maior e por que a supervisão humana deve permanecer em vigor.

É por isso que nossa posição continua sendo simples: Uma IA mais forte requer um julgamento humano mais forte.

Os alunos devem aprender a usar a IA, mas também a verificá-la, supervisioná-la, questioná-la e permanecer responsáveis pelas decisões tomadas com ela. Na educação empresarial, isso não é um pequeno extra. Faz parte da formação profissional responsável. O futuro não pertence apenas aos alunos que podem usar ferramentas de IA. Ele pertence aos alunos que podem usá-las com discernimento.

Referências

Antrópico. (2023, 8 de março). Principais visões sobre a segurança da IA: Quando, por que, o que e como. https://www.anthropic.com/news/core-views-on-ai-safety

Bengio, Y. (2025, 3 de junho). Apresentando o LawZero. https://yoshuabengio.org/2025/06/03/introducing-lawzero/

Laboratório de IA de física empresarial. (2025). Habilidades de complementaridade entre humanos e IA. https://businessphysics.ai/human-ai-complementarity-skills/

Google DeepMind. (2025, 4 de fevereiro). Atualização da Frontier Safety Framework. https://deepmind.google/blog/updating-the-frontier-safety-framework/

Hormaza Dow, T., & Nassi, M. (2025, 27 de novembro). Estrutura para o ensino de julgamento no uso de IA. Édutivo. https://eductive.ca/en/resource/framework-for-teaching-judgment-in-the-use-of-ai/

Instituto Nacional de Padrões e Tecnologia. (2023). Estrutura de gerenciamento de riscos de inteligência artificial (AI RMF 1.0) (NIST AI 100-1). Departamento de Comércio dos EUA. https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf

OpenAI. (2025). Como pensamos sobre segurança e alinhamento. https://openai.com/safety/how-we-think-about-safety-alignment/

OpenAI. (2025, 15 de abril). Estrutura de preparação (Versão 2). https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf

Organização para Cooperação e Desenvolvimento Econômico. (2019). Recomendação do Conselho sobre Inteligência Artificial. https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449