Une IA plus forte nécessite un jugement humain plus fort

Une déclaration du Business Physics AI Lab pour les étudiants, les éducateurs et les chefs d'entreprise

Au Business Physics AI Lab, nous pensons que les étudiants devraient apprendre à voir l'IA clairement.

Nous ne devons pas considérer l'IA avancée comme de la magie. Nous ne devons pas non plus la réduire à la peur. Un meilleur point de départ est de comprendre l'IA comme un ensemble de systèmes en évolution rapide qui peut créer à la fois des opportunités et des risques. Dans les documents publics émanant des principaux laboratoires d'IA, des organismes de normalisation et des organisations politiques, un modèle apparaît de manière récurrente : à mesure que les systèmes d'IA deviennent plus performants, le besoin de tests, de garanties, de surveillance et de responsabilité augmente également (Anthropic, 2023 ; Google DeepMind, 2025 ; National Institute of Standards and Technology [NIST], 2023 ; OpenAI, 2025 ; Organisation de coopération et de développement économiques [OCDE], 2019).

Les organisations expriment cette idée de différentes manières. Anthropic (2023) décrit la sécurité de l'IA comme un exercice d'équilibre. OpenAI (2025) explique que le développement des capacités doit s'accompagner d'une atténuation proactive des risques. Google DeepMind (2025) prévient que les capacités avancées peuvent présenter de nouveaux risques. Le NIST (2023) décrit l'IA digne de confiance à l'aide de concepts tels que la sûreté, la sécurité, la résilience, la responsabilité, la transparence, l'explicabilité, la protection de la vie privée et l'équité. L'OCDE (2019) encourage une IA à la fois innovante et digne de confiance. Le langage diffère, mais l'orientation est similaire : des systèmes plus solides nécessitent une responsabilité plus forte.

Pour nous, la leçon est simple : Une IA plus forte nécessite un jugement humain plus fort.

Cela ne signifie pas que tout système d'IA plus puissant est automatiquement dangereux. Cela signifie quelque chose de plus pratique. Lorsqu'un système peut en faire plus, les conséquences d'erreurs, d'une mauvaise utilisation, d'une supervision insuffisante ou d'une mauvaise gouvernance peuvent également devenir plus importantes. C'est pourquoi le renforcement des capacités ne peut être la seule question à se poser. Nous devons également nous demander comment le système est évalué, quelles sont les garanties existantes, qui est responsable et si le contexte est approprié pour son utilisation (Google DeepMind, 2025 ; OpenAI, 2025).

Pour les étudiants en gestion, il ne s'agit pas principalement d'une question de codage. Il s'agit d'une question de jugement. Si les étudiants apprennent seulement que l'IA peut faire gagner du temps, générer du contenu, résumer des documents ou automatiser des tâches routinières, ils n'apprennent que la moitié de l'histoire. Ils doivent également comprendre qu'une IA plus puissante peut créer de plus gros problèmes lorsqu'elle est erronée, manipulée, utilisée sans précaution ou qu'on lui fait confiance trop rapidement. Le NIST (2023) est particulièrement utile à cet égard, car il explique que le risque lié à l'IA est d'ordre socio-technique. En clair, cela signifie que les risques ne proviennent pas uniquement de la technologie. Ils proviennent également des personnes, des organisations, des décisions et des systèmes qui l'entourent.

C'est important pour les entreprises, car de nombreuses défaillances de l'IA ne restent pas longtemps des problèmes techniques. Ils peuvent rapidement devenir des problèmes de gestion, d'éthique, de droit, de communication ou de réputation. Un mauvais résultat peut être détecté, ignoré, mal compris ou pris en compte trop rapidement. Dans tous les cas, le jugement humain compte. C'est pourquoi les étudiants ne doivent pas se contenter de demander : “Que peut faire cette IA ?”. Ils doivent également se demander : "Quel est l'objectif ? Qui l'utilisera ? Quels sont les risques ? Comment cela a-t-il été testé ? Qui vérifie les résultats ? Qui reste responsable de la décision finale ?

Hormaza Dow et Nassi (2025) apportent une réponse pédagogique utile à ce défi. Ils affirment que si les étudiants doivent utiliser l'IA de manière responsable, le jugement ne doit pas rester vague. Il doit être enseigné directement. Leur cadre REACT offre aux étudiants un moyen structuré d'y parvenir. REACT signifie Raison d'utiliser ou de ne pas utiliser l'IA, plan d'acceptation et de vérification des preuves, responsabilité, contraintes et compromis. (Hormaza Dow & Nassi, 2025). En termes pratiques, le cadre demande aux étudiants d'expliquer pourquoi ils utilisent l'IA, comment ils vérifieront les résultats, qui reste responsable, quelles règles ou limites s'appliquent et quels compromis ils font entre la vitesse, la qualité et le jugement humain.

C'est important parce que cela transforme le jugement en quelque chose de visible et d'enseignable. Au lieu de se contenter de dire aux étudiants d'être prudents, REACT leur donne un moyen de réfléchir attentivement. Il fait passer la conversation d'un conseil abstrait à une prise de décision réelle en classe et dans la vie professionnelle (Hormaza Dow & Nassi, 2025).

Une contribution pratique tout aussi utile est apportée par le cadre des compétences complémentaires entre l'homme et l'IA du Business Physics AI Lab. Ce cadre rend plus concret l'argument principal de cet article en montrant qu'un jugement humain plus solide peut être décomposé en compétences spécifiques que les étudiants peuvent apprendre, pratiquer et améliorer au fil du temps (Business Physics AI Lab, 2025). Plutôt que de considérer le jugement comme un trait de personnalité, le cadre le présente comme un ensemble d'habitudes reproductibles organisées autour de cinq thèmes.

Le premier thème, Savoir quand faire une pause, La compétence “Nous pouvons... mais devons-nous ?” est particulièrement importante parce qu'elle place le jugement avant l'invite, et non après. La compétence "Nous pouvons... mais devons-nous ?" demande aux élèves de s'arrêter avant d'utiliser l'IA et de se demander si la tâche doit être automatisée ou assistée par l'IA. L'objectif n'est pas de tout ralentir sans raison. L'objectif est d'empêcher une utilisation imprudente, de protéger l'intégrité et d'éviter de décharger le travail dans des situations où le jugement humain est essentiel (Business Physics AI Lab, 2025). C'est l'une des parties les plus fortes du cadre, car elle rappelle aux étudiants que l'utilisation responsable de l'IA commence par un point de contrôle. Avant d'utiliser l'IA, ils doivent se poser les questions suivantes : Quel est l'objectif ? Qui l'utilisera ? Quels sont les risques ? Si les réponses ne sont pas claires, la bonne réponse n'est pas la vitesse. Il faut faire une pause et clarifier les choses (Business Physics AI Lab, 2025).

Le deuxième thème, Construire les bonnes fondations, La compétence “Curate Data” (contrôle des données) indique clairement que le jugement s'applique également aux données d'entrée. La compétence “Curate the Data” met l'accent sur le contrôle de la qualité des données : les définitions doivent être claires, les sources doivent être vérifiées, les dates doivent être vérifiées, les doublons et les valeurs aberrantes évidentes doivent être supprimés, et les lacunes ou risques connus doivent être rendus visibles (Business Physics AI Lab, 2025). Cela est important car l'IA ne corrige pas les données faibles. Elle les amplifie souvent. En d'autres termes, le principe "garbage in, garbage out" devient encore plus dangereux lorsque l'IA peut produire rapidement des réponses polies. La compétence connexe "Prompt & Polish" est également importante car elle montre que l'IA peut aider à rédiger rapidement, mais que les humains doivent toujours ajouter le contexte, les priorités, les nuances et la conscience de l'auditoire. L'IA peut générer des options rapidement, mais les personnes doivent encore comparer, fusionner, réécrire et affiner avec leur propre voix (Business Physics AI Lab, 2025).

Le troisième thème, Garder le pouvoir entre les mains de l'homme, L'aptitude “Ne pas accepter - Inspecter” rappelle aux étudiants que l'IA peut produire des erreurs en toute confiance. La compétence “Don't Accept - Inspect” rappelle aux étudiants que l'IA peut produire des erreurs en toute confiance, et qu'il convient donc de vérifier l'exactitude, la partialité, la clarté et la pertinence des résultats plutôt que de les accepter tels quels (Business Physics AI Lab, 2025). La compétence "Bot Handles Basics, You Call the Shots" exprime le même point d'une autre manière. Les tâches de routine telles que les résumés, le formatage et les premières versions peuvent être déléguées à l'IA, mais la stratégie, le cadrage, le séquençage, les compromis et les décisions finales doivent rester du ressort de l'homme. Le cadre de référence illustre ce point à l'aide d'un garde-fou mémorable : “L'IA propose. Je dispose”.” La propriété finale reste entre les mains d'une personne, et non d'un système (Business Physics AI Lab, 2025).

Le quatrième thème, Donner du sens à des données hétéroclites, La compétence “Lire entre les lignes des données” est particulièrement utile pour les étudiants en gestion, car elle relie le jugement de l'IA à la prise de décision. La compétence “Read Between the Lines of the Data” rappelle aux étudiants que l'IA peut identifier des modèles, mais qu'elle ne comprend pas automatiquement les causes, les incitations, les événements ponctuels, la saisonnalité, les changements de politique ou les contraintes du monde réel (Business Physics AI Lab, 2025). L'interprétation humaine reste nécessaire. La compétence “Data to Story” s'appuie sur ce point en montrant que les décideurs n'ont pas besoin d'une masse de données. Ils ont besoin de clarté. Les étudiants devraient être en mesure de répondre à trois questions : Que s'est-il passé ? Pourquoi ? Quelle est la prochaine étape ? (Business Physics AI Lab, 2025). La compétence connexe "Couper le bruit" est tout aussi importante, car trop d'informations peuvent ralentir ou faire dérailler l'action. Si une mesure ne peut pas influencer une décision, elle n'a pas sa place sur le tableau de bord (Business Physics AI Lab, 2025).

Le cinquième thème, Mener le changement - Ne pas rester à la traîne, La compétence “Gouverner et corriger” élargit la conversation du jugement individuel à la responsabilité de l'organisation. La compétence “Gouverner et corriger” met l'accent sur la confidentialité, la sécurité, l'accessibilité, l'équité, l'explicabilité, l'examen des préjugés et la responsabilité humaine. Elle souligne également l'importance de documenter les invites, les versions, les compromis et l'appropriation des décisions plutôt que de traiter la gouvernance comme une activité de dernière minute (Business Physics AI Lab, 2025). La dernière compétence, "Apprendre à la volée", renforce le fait qu'une bonne utilisation de l'IA n'est pas statique. Les équipes doivent réfléchir à ce qui a fonctionné, à ce qui n'a pas fonctionné et aux modèles ou aux messages-guides qui ont été efficaces, puis transformer ces leçons en petits manuels de jeu qui peuvent être partagés et améliorés au fil du temps (Business Physics AI Lab, 2025). La boucle d'apprentissage est simple et puissante : Essayer → Inspecter → Ajuster → Codifier → Partager (Business Physics AI Lab, 2025).

Ces détails renforcent l'article car ils montrent qu'un jugement humain plus fort n'est pas un simple slogan. Il est possible de l'enseigner. Il peut être opérationnalisé par de courtes notes de justification, des spécifications d'entrée d'une page, des changements suivis, des journaux de vérification, des mémos de décision, des pistes d'audit et des livres de jeu vivants (Business Physics AI Lab, 2025). En d'autres termes, le jugement peut être rendu visible. C'est important pour l'éducation, car une fois que le jugement devient visible, il peut également être encadré, évalué et amélioré.

Cette préoccupation plus large apparaît également en dehors des cadres de l'entreprise. En juin 2025, Yoshua Bengio a annoncé la création de LawZero, un organisme de recherche à but non lucratif sur la sécurité de l'IA qui, selon lui, a été créé pour donner la priorité à la sécurité par rapport aux impératifs commerciaux (Bengio, 2025). Dans cette annonce, il a fait valoir que les modèles d'IA d'avant-garde présentaient des capacités et des comportements de plus en plus dangereux, tels que la tromperie, le piratage, l'autoconservation et le désalignement des objectifs (Bengio, 2025). Que l'on soit ou non d'accord avec toutes les préoccupations qu'il soulève, le point le plus important est clair : à mesure que les capacités de l'IA augmentent, de plus en plus de chercheurs affirment que des institutions et des formes de contrôle plus fortes sont nécessaires.

Pour les étudiants, cela conduit à une leçon importante. Le défi n'est pas seulement de construire des systèmes plus solides. Il s'agit également de renforcer les habitudes de jugement, les processus de décision et les formes de responsabilité autour de ces systèmes. La sécurité institutionnelle et le jugement pédagogique ne sont pas des idées concurrentes. Ce sont des réponses complémentaires à une même réalité.

Au Business Physics AI Lab, nous encourageons donc les étudiants à dépasser deux réactions faibles. La première est l'excitation aveugle, où l'IA est traitée comme si elle savait automatiquement tout ce qu'il y a de mieux. La seconde est une peur vague, où l'IA est considérée comme trop mystérieuse ou trop dangereuse pour être comprise. Aucune de ces réactions ne prépare les étudiants au travail réel. La meilleure voie est celle du jugement éclairé. Les étudiants devraient apprendre ce que l'IA peut faire, où sont ses limites, quels risques peuvent augmenter avec le renforcement des capacités, et pourquoi la supervision humaine doit rester en place.

C'est pourquoi notre position reste simple : Une IA plus forte nécessite un jugement humain plus fort.

Les étudiants devraient apprendre à utiliser l'IA, mais aussi à la vérifier, à la superviser, à la remettre en question et à rester responsables des décisions prises à l'aide de l'IA. Dans l'enseignement commercial, il ne s'agit pas d'un petit plus. Cela fait partie d'une formation professionnelle responsable. L'avenir n'appartient pas seulement aux étudiants qui peuvent utiliser les outils d'IA. Il appartient aux étudiants qui peuvent les utiliser avec discernement.

Références

Anthropique. (2023, 8 mars). Points de vue fondamentaux sur la sécurité de l'IA : Quand, pourquoi, quoi et comment. https://www.anthropic.com/news/core-views-on-ai-safety

Bengio, Y. (2025, 3 juin). Présentation de LawZero. https://yoshuabengio.org/2025/06/03/introducing-lawzero/

Laboratoire d'IA pour la physique des affaires. (2025). Compétences en matière de complémentarité entre l'homme et l'intelligence artificielle. https://businessphysics.ai/human-ai-complementarity-skills/

Google DeepMind. (2025, 4 février). Mise à jour du cadre de sécurité des frontières. https://deepmind.google/blog/updating-the-frontier-safety-framework/

Hormaza Dow, T., et Nassi, M. (2025, 27 novembre). Cadre pour l'enseignement du jugement dans l'utilisation de l'IA. Éducatif. https://eductive.ca/en/resource/framework-for-teaching-judgment-in-the-use-of-ai/

Institut national des normes et de la technologie. (2023). Cadre de gestion des risques liés à l'intelligence artificielle (AI RMF 1.0) (NIST AI 100-1). Département du commerce des États-Unis. https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf

OpenAI. (2025). Notre conception de la sécurité et de l'alignement. https://openai.com/safety/how-we-think-about-safety-alignment/

OpenAI. (2025, 15 avril). Cadre de préparation (Version 2). https://cdn.openai.com/pdf/18a02b5d-6b67-4cec-ab64-68cdfbddebcd/preparedness-framework-v2.pdf

Organisation de coopération et de développement économiques. (2019). Recommandation du Conseil sur l'intelligence artificielle. https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449