Jeunesse, IA et responsabilité de construire une technologie digne de confiance

L’enregistrement du webinaire est disponible ici : https://www.pm4the.world/previousevents

L’intelligence artificielle est souvent évoquée comme une force lointaine qui s’approcherait de nous depuis l’extérieur. Pourtant, pour les jeunes en particulier, elle fait déjà partie du quotidien. Elle est présente dans les salles de classe, les moteurs de recherche, les réseaux sociaux, le divertissement, la communication politique, les services publics et un nombre croissant de décisions qui influencent la manière dont les personnes apprennent, travaillent, communiquent et comprennent le monde qui les entoure.

Cette réalité a constitué le point de départ du webinaire de PM4TheWorld, « Jeunesse, IA et responsabilité de construire une technologie digne de confiance », avec Long Nguyen, fondateur de Truth in Tech. Bien qu’il soit encore lycéen, Long a déjà participé à des échanges internationaux sur les politiques publiques lors de la Semaine de haut niveau de l’Assemblée générale des Nations Unies et du Forum des Nations Unies sur la science, la technologie et l’innovation. Par l’intermédiaire de Truth in Tech, il aide les jeunes à comprendre l’intelligence artificielle non seulement comme un ensemble d’outils, mais comme une force sociale, politique et éthique qu’ils devraient contribuer à façonner.

Cette distinction était centrale dans la conversation. Les jeunes sont fréquemment décrits comme la génération qui héritera de l’avenir. Pourtant, lorsque les gouvernements, les entreprises, les écoles et les institutions discutent des règles qui devraient encadrer les technologies émergentes, ils sont encore trop souvent traités comme des utilisateurs à former, des consommateurs à protéger ou des populations à étudier. Ils sont bien plus rarement reconnus comme des participants légitimes à la gouvernance de systèmes qui affectent déjà leur éducation, leur vie privée, leur engagement civique, leur bien-être mental et leur futur emploi.

L’expérience personnelle de Long illustre pourquoi cela compte. Lorsque l’IA générative a commencé à pénétrer rapidement la vie publique et l’éducation, il était encore au collège. Comme beaucoup d’élèves, il a vu ces outils se banaliser à grande vitesse, tandis que les enseignants, les responsables scolaires, les décideurs et les régulateurs tentaient encore de déterminer comment ils devaient être utilisés, quels risques ils créaient et quelles formes de supervision pourraient s’avérer nécessaires.

Au lieu de se concentrer uniquement sur la question de savoir si les élèves devaient ou non utiliser l’IA, il a commencé à poser des questions plus larges. Qui était responsable de la conception de ces systèmes ? Quelles données utilisaient-ils ? Comment étaient-ils évalués ? Que se passait-il lorsqu’ils reproduisaient des discriminations, généraient de fausses informations ou permettaient la surveillance ? Et surtout, pourquoi les jeunes directement exposés à ces technologies étaient-ils si rarement présents dans les échanges où ces questions étaient traitées ?

Ces préoccupations ont finalement conduit à la création de Truth in Tech, une initiative à but non lucratif dirigée par des jeunes qui œuvre en faveur d’une gouvernance technologique transparente, éthique, responsable et centrée sur l’humain. Son objectif n’est ni de s’opposer à l’innovation, ni de transformer chaque jeune en développeur de logiciels. Il s’agit plutôt de donner aux élèves suffisamment de compréhension pour reconnaître comment les systèmes d’IA les affectent, identifier les risques ou biais potentiels, dialoguer avec les décideurs et défendre des approches plus responsables.

Cela élargit de manière importante ce que doit signifier la culture de l’IA. Savoir utiliser un outil, rédiger une instruction ou générer du contenu ne suffit plus. Les jeunes doivent aussi comprendre comment les systèmes automatisés sont entraînés, où les biais peuvent apparaître, comment les données peuvent être collectées et utilisées, comment les droits numériques peuvent être affectés et à qui revient la responsabilité lorsqu’un système cause un préjudice.

Tout au long du webinaire, Long est revenu sur l’écart croissant entre le développement technologique et la supervision institutionnelle. L’intelligence artificielle progresse à un rythme que les gouvernements locaux et nationaux ont du mal à suivre, tandis que la responsabilité réglementaire reste fragmentée entre des agences, des juridictions et des cadres juridiques souvent créés avant que la génération actuelle de technologies puisse être imaginée.

Il en résulte une incertitude croissante. L’IA peut soutenir l’éducation, améliorer l’accès à l’information, accélérer la recherche, renforcer le suivi environnemental et aider les organisations à traiter des problèmes complexes. Dans le même temps, elle peut permettre une surveillance intrusive, reproduire les inégalités sociales, diffuser de fausses informations, produire des contenus trompeurs et automatiser des décisions dans des domaines où la vie et les possibilités des personnes sont directement en jeu.

Le défi n’est donc pas de choisir entre innovation et réglementation, comme si l’une devait nécessairement se faire au détriment de l’autre. Il consiste à veiller à ce que l’innovation se développe dans un cadre de responsabilité, de reddition de comptes publique et de respect des droits humains.

Long a décrit une grande partie du développement actuel de l’IA comme se déroulant dans une « boîte noire ». Le public voit les produits et en subit les conséquences, mais dispose souvent de très peu de visibilité sur les données utilisées pour les entraîner, les normes appliquées pour les tester, les risques identifiés pendant le développement ou les protections établies avant le déploiement. On demande de plus en plus aux personnes de faire confiance à des systèmes qu’elles ne peuvent pleinement comprendre et à des institutions dont les processus internes restent largement cachés.

C’est l’une des raisons pour lesquelles la transparence a pris une telle importance dans la discussion. Mais la conversation a également reconnu qu’elle ne pouvait être considérée comme une solution simple ou absolue. Une plus grande ouverture peut renforcer la responsabilité, tout en exposant des vulnérabilités de sécurité ou des informations propriétaires. Un accès plus large peut réduire les inégalités et simultanément accroître les possibilités d’abus. La réglementation peut protéger les personnes, mais des règles mal conçues peuvent restreindre des libertés légitimes ou empêcher une innovation utile.

Une gouvernance responsable exige donc du discernement plutôt que des slogans. Elle demande aux institutions de reconnaître que transparence, vie privée, sécurité, accès, innovation et liberté peuvent parfois entrer en conflit, et que ces tensions doivent être traitées par des processus ouverts, une participation réelle et une révision continue.

Pour Long, c’est pourquoi les connaissances locales et les retours permanents comptent autant. Un cadre de gouvernance ne peut pas être établi une fois pour toutes et supposé rester indéfiniment adapté. Les technologies évoluent, leurs usages changent et leurs effets diffèrent selon les communautés. Un système qui semble acceptable dans un environnement peut avoir des conséquences très différentes ailleurs.

La gouvernance doit donc rester connectée aux personnes affectées par la technologie. Les jeunes, les éducateurs, les organisations communautaires, les groupes de la société civile, les experts indépendants, les responsables publics et les entreprises ont tous un rôle à jouer pour évaluer si un système produit réellement les résultats qu’il promet. La gouvernance devient ainsi moins une décision ponctuelle qu’un processus continu d’écoute, d’examen, d’adaptation et de correction.

L’une des contributions les plus importantes de Truth in Tech est son cadre TRANSPARENT, une méthodologie en onze parties conçue pour rendre ces questions plus accessibles aux jeunes. Plutôt que de leur demander de maîtriser chaque détail technique, il leur donne un langage permettant d’examiner les systèmes d’IA et de participer avec davantage d’assurance à des conversations qui, autrement, pourraient leur sembler hors de portée.

Le cadre commence par la vérité et l’intégrité, en encourageant les jeunes à comprendre comment un système est entraîné, déployé et utilisé. Il aborde ensuite la représentation, l’accès, les réseaux, les protections, la précision, la responsabilité, la résilience, l’équité, l’innovation et la confiance. Ensemble, ces principes soulignent que l’IA responsable ne concerne pas seulement la performance technique, mais aussi les questions de savoir qui est inclus, qui est protégé, qui a accès, qui bénéficie et qui reste responsable.

Le cadre est volontairement large parce qu’il est conçu pour fonctionner dans différents contextes nationaux et locaux. Sa valeur ne réside pas dans une réponse unique à chaque défi de gouvernance, mais dans sa capacité à aider les jeunes à poser des questions mieux informées et à relier les principes éthiques à l’action concrète.

Cette connexion entre prise de conscience et action était un autre thème récurrent. Les discussions publiques sur l’IA restent souvent au stade de l’inquiétude. Les personnes reconnaissent l’existence des biais, admettent l’importance de la vie privée et expriment leur anxiété face à la désinformation, à la surveillance ou aux contenus préjudiciables, mais l’échange s’arrête fréquemment avant que quiconque détermine ce qui devrait se passer ensuite.

Le plan d’action sur l’IA de Truth in Tech cherche à dépasser ce point en guidant les jeunes dans un processus structuré. La première étape consiste à cartographier le système : définir ce qu’il fait, où il est utilisé, qui l’a conçu, qui a autorisé son déploiement, quelles données il collecte, où le jugement humain continue d’intervenir et qui peut être affecté si quelque chose tourne mal.

L’étape suivante consiste à évaluer les effets en dialoguant avec les utilisateurs et les communautés concernées, en recueillant des éléments probants et en déterminant si les résultats varient entre groupes. Les participants sont ensuite encouragés à identifier les lacunes de supervision et à proposer des solutions pratiques : renforcement de l’examen humain, limites à la collecte de données, audits indépendants, politiques plus claires, modifications de conception ou nouveaux mécanismes de responsabilité.

La dernière étape est le plaidoyer. Une proposition bien élaborée produit peu d’effet si elle n’atteint jamais une personne ayant le pouvoir d’agir. Les jeunes doivent donc aussi comprendre comment dialoguer avec les enseignants, les responsables d’établissement, les entreprises, les régulateurs, les élus et les organisations communautaires.

C’est ici que l’éducation à l’IA devient une forme de participation civique. Les élèves n’apprennent pas seulement à connaître une technologie ; ils apprennent à comprendre un système, documenter un problème, élaborer une réponse et dialoguer avec les personnes responsables des décisions.

La question de la responsabilité est devenue particulièrement importante pendant la discussion qui a suivi la présentation de Long. Lorsqu’un système d’IA discrimine, permet la surveillance, diffuse de fausses informations ou contribue à une décision préjudiciable, la responsabilité peut rapidement se diluer. Elle peut incomber en partie au développeur, à l’entreprise qui a vendu le système, à l’institution qui l’a déployé, au régulateur qui n’est pas intervenu ou à la personne qui s’est fiée à son résultat.

Dans la pratique, la responsabilité peut être partagée, mais elle ne peut être autorisée à disparaître.

Long a soutenu que les entreprises qui développent et déploient ces technologies doivent être plus transparentes et soumettre régulièrement leurs systèmes à des évaluations indépendantes. Les audits de biais et les examens par des tiers ne devraient pas être des réactions exceptionnelles introduites seulement après une controverse publique ; ils devraient faire partie d’un développement et d’un déploiement responsables.

Les gouvernements ont aussi la responsabilité d’établir des protections applicables, notamment en matière de vie privée, de données biométriques, de surveillance et de discrimination. Dans le même temps, les institutions utilisant l’IA ne peuvent traiter la technologie comme un décideur indépendant, puis se distancier de ses conséquences.

Une entreprise ne peut prétendre qu’une décision de recrutement était neutre simplement parce qu’un logiciel l’a produite. Une école ne peut s’appuyer sur un système automatisé pour un jugement lourd de conséquences, puis considérer le résultat comme échappant à l’examen humain. Un organisme public ne peut utiliser un algorithme tout en refusant d’expliquer comment les personnes concernées peuvent contester ses conclusions.

La technologie peut éclairer des décisions, mais elle ne peut en assumer la responsabilité morale. Les algorithmes n’ont aucune obligation fiduciaire, n’expliquent pas de choix moraux, ne répondent pas devant les communautés et ne réparent pas les préjudices. Les êtres humains et les institutions restent responsables des systèmes qu’ils choisissent de créer, d’acheter et d’utiliser.

Le webinaire a également abordé la relation entre l’intelligence artificielle, le bien-être mental, les contenus préjudiciables, l’exposition aux écrans et l’anxiété chez les jeunes utilisateurs. Ces questions sont particulièrement difficiles parce que l’IA n’entre pas dans leur vie par un seul canal isolé ; elle est de plus en plus intégrée à l’éducation, au divertissement, aux interactions sociales et à la communication.

Limiter l’exposition peut parfois être approprié, notamment pour les enfants les plus jeunes, mais l’évitement à lui seul ne préparera pas les jeunes à l’environnement dans lequel ils vivent déjà. L’éducation doit donc commencer avant que le préjudice ne survienne.

Les jeunes doivent comprendre comment les contenus synthétiques sont produits, pourquoi une réponse générée par l’IA peut être inexacte, comment les biais pénètrent les systèmes automatisés et pourquoi certaines informations personnelles ne doivent pas être partagées. Ils doivent également savoir quoi faire lorsqu’ils rencontrent un contenu préjudiciable, comment documenter un problème, qui informer, quels sont leurs droits et à qui revient la responsabilité.

Ce ne sont pas seulement des questions techniques. Elles relèvent de l’éthique, de la citoyenneté, de l’éducation, du leadership et des droits humains. Les technologies continueront de changer, mais les principes nécessaires à leur gouvernance — vie privée, équité, vérité, responsabilité, dignité et devoir de répondre de ses actes — sont bien plus durables.

La société n’a pas suffisamment préparé les jeunes à de nombreuses conséquences des réseaux sociaux. L’intelligence artificielle offre l’occasion, et impose l’obligation, de ne pas répéter la même erreur.

L’une des conclusions les plus claires du webinaire était que la confiance ne peut être considérée comme une fonctionnalité supplémentaire que l’on ajoute à un système une fois son développement terminé. Elle doit être construite dès le départ, à travers les hypothèses retenues lors de la conception, les communautés consultées, les données sélectionnées, les risques identifiés, les protections établies et les mécanismes créés pour examiner et corriger.

La confiance n’exige pas de croire qu’un système ne faillira jamais. Elle exige l’assurance que ses responsables ont pris des mesures raisonnables pour prévenir les préjudices, qu’ils seront transparents lorsque des problèmes surviendront et que les personnes concernées disposeront d’une véritable voie pour obtenir une explication et une réparation.

Cela fait de l’IA responsable une entreprise collective. Les entreprises technologiques, les gouvernements, les écoles, les universités, les entreprises, les organisations à but non lucratif, les groupes de la société civile, les responsables de projet et les décideurs organisationnels portent chacun une part de responsabilité. Les jeunes doivent également bénéficier de possibilités réelles de participation, non parce qu’ils devraient résoudre les problèmes créés par les institutions, mais parce qu’aucun système de gouvernance ne peut prétendre représenter l’avenir tout en excluant celles et ceux qui y vivront le plus longtemps.

Le travail de Long Nguyen offre un exemple convaincant de ce que la participation des jeunes peut devenir lorsqu’elle est soutenue par l’éducation, la structure, les réseaux et l’accès aux décideurs. Par des événements internationaux, des initiatives éducatives, des hackathons, des partenariats et des discussions sur les politiques, Truth in Tech a déjà mobilisé des milliers d’élèves et créé des voies leur permettant de passer de l’inquiétude à une action éclairée.

L’importance de ce travail ne réside pas seulement dans le nombre d’élèves touchés, mais dans le modèle qu’il représente. Les jeunes sont encouragés à ne pas se considérer comme des destinataires passifs du changement technologique, mais comme des personnes ayant le droit et la capacité d’interroger les systèmes, d’en comprendre les conséquences et de participer à la construction de meilleures solutions.

Cela reflète la mission plus large de PM4TheWorld. Les défis créés par l’intelligence artificielle ne seront pas résolus par des déclarations ou de bonnes intentions seules. Ils exigent des personnes capables de transformer l’inquiétude en analyse, l’analyse en propositions et les propositions en action responsable et durable.

L’avenir de l’IA ne devrait pas être déterminé uniquement par ceux qui disposent des plus grandes capacités techniques, des ressources financières les plus importantes ou de l’autorité institutionnelle. Il doit aussi inclure les personnes dont la vie sera façonnée par les décisions prises aujourd’hui.

Les jeunes n’attendent pas à l’extérieur de l’avenir technologique ; ils y vivent déjà. La responsabilité des institutions ne consiste pas seulement à les préparer à ce qui vient, mais à leur donner un rôle significatif dans sa construction.

Poursuivre la conversation

Construire une technologie digne de confiance exigera une participation durable des éducateurs, des décideurs publics, des professionnels de la technologie, des organisations à but non lucratif, des responsables communautaires, des parents et des jeunes eux-mêmes.

PM4TheWorld invite ses lecteurs à regarder l’enregistrement complet du webinaire, à découvrir le travail de Truth in Tech et à réfléchir à ce que pourrait être une participation significative des jeunes dans leurs écoles, organisations, institutions et communautés.

Cette réflexion peut commencer par quelques questions pratiques : Quels systèmes d’IA affectent déjà les personnes que vous servez ? Dans quelle mesure ces systèmes sont-ils transparents ? Qui répond lorsqu’ils causent un préjudice ? Comment les jeunes sont-ils aujourd’hui associés aux décisions qui les concernent ? Et quelle action concrète pourrait être engagée dès maintenant pour que confiance, responsabilité et dignité humaine soient intégrées à la technologie dès le départ ?

L’avenir de l’intelligence artificielle n’est pas prédéterminé. Il se construit à travers les choix que les institutions et les individus font aujourd’hui, et ces choix devraient inclure la voix de la génération qui vivra le plus longtemps avec leurs conséquences.