Juventud, IA y la responsabilidad de construir tecnología en la que podamos confiar

La grabación del seminario web está disponible aquí: https://www.pm4the.world/previousevents

La inteligencia artificial suele presentarse como si fuera una fuerza lejana que se aproxima desde algún lugar exterior a nosotros, pero para los jóvenes, en particular, ya forma parte de la vida cotidiana. Está presente en las aulas, los motores de búsqueda, las redes sociales, el entretenimiento, la comunicación política, los servicios públicos y un número creciente de decisiones que influyen en cómo las personas aprenden, trabajan, se comunican y comprenden el mundo que las rodea.

Esta realidad fue el punto de partida del seminario de PM4TheWorld «Juventud, IA y la responsabilidad de construir tecnología en la que podamos confiar», con Long Nguyen, fundador de Truth in Tech. Aunque todavía estudia en la escuela secundaria, Long ya ha participado en conversaciones internacionales sobre políticas durante la Semana de Alto Nivel de la Asamblea General de las Naciones Unidas y el Foro de la ONU sobre Ciencia, Tecnología e Innovación. A través de Truth in Tech, trabaja para que los jóvenes comprendan la inteligencia artificial no solo como un conjunto de herramientas, sino también como una fuerza social, política y ética en cuya configuración deberían participar.

Esa distinción fue central en la conversación. Con frecuencia se describe a los jóvenes como la generación que heredará el futuro, pero cuando gobiernos, empresas, escuelas e instituciones hablan de las reglas que deberían regir las tecnologías emergentes, todavía se les trata demasiado a menudo como usuarios a los que hay que educar, consumidores a los que hay que proteger o poblaciones que deben estudiarse. Se les reconoce con mucha menos frecuencia como participantes legítimos en la gobernanza de sistemas que ya afectan su educación, privacidad, participación cívica, bienestar mental y futuro laboral.

La propia experiencia de Long demuestra por qué esto importa. Cuando la IA generativa empezó a incorporarse rápidamente a la vida pública y a la educación, él todavía estaba en la escuela intermedia. Como muchos estudiantes, vio la velocidad con la que estas herramientas se normalizaban mientras docentes, administradores escolares, responsables políticos y reguladores seguían intentando determinar cómo debían utilizarse, qué riesgos planteaban y qué formas de supervisión podían ser necesarias.

En lugar de centrarse únicamente en si los estudiantes debían o no utilizar IA, empezó a plantear preguntas más amplias. ¿Quién era responsable del diseño de estos sistemas? ¿Qué datos utilizaban? ¿Cómo se evaluaban? ¿Qué ocurría cuando reproducían discriminación, generaban desinformación o facilitaban la vigilancia? Y, sobre todo, ¿por qué los jóvenes más directamente expuestos a estas tecnologías rara vez estaban presentes en las conversaciones donde se abordaban esas cuestiones?

Estas preocupaciones acabaron conduciendo a la creación de Truth in Tech, una iniciativa sin fines de lucro liderada por jóvenes y dedicada a promover una gobernanza tecnológica transparente, ética, responsable y centrada en las personas. Su propósito no es oponerse a la innovación ni convertir a todos los jóvenes en desarrolladores de software. Busca dar a los estudiantes conocimientos suficientes para reconocer cómo les afectan los sistemas de IA, identificar posibles riesgos o sesgos, relacionarse con quienes toman decisiones y defender enfoques más responsables.

Esto amplía de manera importante lo que debería significar la alfabetización en IA. Ya no basta con aprender a utilizar una herramienta, escribir una instrucción o generar contenido. Los jóvenes también necesitan entender cómo se entrenan los sistemas automatizados, dónde puede introducirse el sesgo, cómo pueden recopilarse y utilizarse los datos, cómo pueden verse afectados los derechos digitales y dónde reside la responsabilidad cuando un sistema causa daño.

Durante todo el seminario, Long volvió a la brecha cada vez mayor entre el desarrollo tecnológico y la supervisión institucional. La inteligencia artificial avanza a un ritmo que los gobiernos locales y nacionales tienen dificultades para igualar, mientras la responsabilidad regulatoria sigue fragmentada entre agencias, jurisdicciones y marcos legales creados a menudo antes de que la generación actual de tecnologías pudiera siquiera imaginarse.

El resultado es una sensación creciente de incertidumbre. La IA puede apoyar la educación, mejorar el acceso a la información, acelerar la investigación, fortalecer el monitoreo ambiental y ayudar a las organizaciones a procesar problemas complejos. Al mismo tiempo, puede facilitar una vigilancia intrusiva, reproducir desigualdades sociales, difundir información falsa, generar contenidos engañosos y automatizar decisiones en ámbitos donde la vida y las oportunidades de las personas están directamente afectadas.

Por tanto, el desafío no consiste en elegir entre innovación y regulación, como si una tuviera que producirse a costa de la otra. Consiste en garantizar que la innovación se desarrolle dentro de un marco de responsabilidad, rendición de cuentas pública y derechos humanos.

Long describió buena parte del desarrollo actual de IA como algo que ocurre dentro de una «caja negra». El público ve los productos y experimenta sus consecuencias, pero suele tener muy poca visibilidad sobre los datos utilizados para entrenarlos, las normas aplicadas para probarlos, los riesgos identificados durante su desarrollo o las salvaguardas establecidas antes de su despliegue. Cada vez se pide más a las personas que confíen en sistemas que no pueden comprender plenamente y en instituciones cuyos procesos internos permanecen en gran medida ocultos.

Esta es una de las razones por las que la transparencia surgió como un tema tan importante. Pero la conversación también reconoció que la transparencia no puede tratarse como una solución simple o absoluta. Una mayor apertura puede reforzar la rendición de cuentas, pero también revelar vulnerabilidades de seguridad o información protegida. Un acceso más amplio puede reducir desigualdades y, a la vez, aumentar las oportunidades de uso indebido. La regulación puede proteger a las personas, pero unas normas mal diseñadas pueden limitar libertades legítimas o impedir innovaciones útiles.

Una gobernanza responsable exige criterio, no eslóganes. Requiere que las instituciones reconozcan que la transparencia, la privacidad, la seguridad, el acceso, la innovación y la libertad pueden entrar en conflicto, y que esas tensiones deben abordarse mediante procesos abiertos, participación significativa y revisión continua.

Para Long, esta es la razón por la que el conocimiento local y la retroalimentación constante son tan importantes. Un marco de gobernanza no puede establecerse una vez y suponerse adecuado indefinidamente. Las tecnologías evolucionan, cambian sus usos y sus efectos varían entre comunidades. Un sistema que parece aceptable en un entorno puede tener consecuencias muy distintas en otro.

Por eso la gobernanza debe mantenerse conectada con las personas afectadas por la tecnología. Jóvenes, educadores, organizaciones comunitarias, grupos de la sociedad civil, expertos independientes, responsables políticos y empresas tienen un papel en evaluar si un sistema produce realmente los resultados que promete. La gobernanza se convierte así menos en una decisión única que en un proceso continuo de escucha, revisión, adaptación y corrección.

Una de las contribuciones más importantes de Truth in Tech es su Marco TRANSPARENT, una metodología de once componentes concebida para hacer estas cuestiones más accesibles a los jóvenes. En lugar de pedirles que dominen todos los detalles técnicos, les proporciona un lenguaje con el que examinar sistemas de IA y participar con más confianza en conversaciones que, de otro modo, podrían parecer fuera de su alcance.

El marco comienza con la verdad y la integridad, y anima a los jóvenes a entender cómo se entrena, despliega y utiliza un sistema. Después aborda la representación, el acceso, las redes, las salvaguardas, la precisión, la rendición de cuentas, la resiliencia, la equidad, la innovación y la confianza. En conjunto, estos principios subrayan que una IA responsable no trata solo del rendimiento técnico, sino también de quién está incluido, quién está protegido, quién tiene acceso, quién se beneficia y quién sigue siendo responsable.

El marco es intencionadamente amplio porque está diseñado para funcionar en distintos contextos nacionales y locales. Su valor no reside en proporcionar una única respuesta a cada desafío de gobernanza, sino en ayudar a los jóvenes a formular preguntas mejor informadas y conectar principios éticos con acciones prácticas.

Esa conexión entre conciencia y acción fue otro tema recurrente. Los debates públicos sobre IA suelen quedarse en la preocupación. Las personas reconocen la existencia del sesgo, admiten la importancia de la privacidad y expresan inquietud ante la desinformación, la vigilancia o los contenidos perjudiciales, pero la conversación termina con frecuencia antes de que alguien decida qué debería ocurrir a continuación.

El Plan de Acción sobre IA de Truth in Tech busca ir más allá guiando a los jóvenes a través de un proceso estructurado. El primer paso es mapear el sistema: definir qué hace, dónde se utiliza, quién lo diseñó, quién autorizó su despliegue, qué datos recopila, dónde sigue interviniendo el juicio humano y quién puede verse afectado si algo sale mal.

El siguiente paso consiste en evaluar el impacto hablando con usuarios y comunidades afectadas, reuniendo pruebas e identificando si los resultados varían entre grupos. Después, se anima a los participantes a identificar lagunas de supervisión y proponer soluciones prácticas, ya sea mediante una revisión humana más sólida, límites a la recopilación de datos, auditorías independientes, políticas más claras, cambios de diseño o nuevos mecanismos de rendición de cuentas.

La etapa final es la defensa de propuestas. Una recomendación bien elaborada tiene poco efecto si nunca llega a alguien con autoridad para actuar, por lo que los jóvenes también necesitan aprender a relacionarse con docentes, responsables escolares, empresas, reguladores, cargos electos y organizaciones comunitarias.

Aquí la educación sobre IA se convierte en una forma de participación cívica. Los estudiantes no solo aprenden sobre tecnología; aprenden a comprender un sistema, documentar un problema, desarrollar una respuesta y relacionarse con quienes son responsables de tomar decisiones.

La cuestión de la responsabilidad adquirió especial importancia durante la discusión posterior a la presentación de Long. Cuando un sistema de IA discrimina, facilita la vigilancia, difunde información falsa o contribuye a una decisión perjudicial, la rendición de cuentas puede diluirse rápidamente. La responsabilidad puede recaer parcialmente en el desarrollador, la empresa que vendió el sistema, la institución que lo desplegó, el regulador que no intervino o la persona que confió en sus resultados.

En la práctica, la responsabilidad puede compartirse, pero no puede permitirse que desaparezca.

Long defendió que las empresas que desarrollan y despliegan estas tecnologías deben ser más transparentes y someter sus sistemas a evaluaciones independientes periódicas. Las auditorías de sesgo y las revisiones de terceros no deberían ser respuestas excepcionales introducidas solo después de una controversia pública, sino parte del desarrollo y despliegue responsables.

Los gobiernos también tienen la responsabilidad de establecer protecciones aplicables, especialmente en materia de privacidad, datos biométricos, vigilancia y discriminación. Al mismo tiempo, las instituciones que utilizan IA no pueden tratar la tecnología como una instancia decisoria independiente y luego distanciarse de las consecuencias.

Una empresa no puede afirmar que una decisión de contratación fue neutral simplemente porque la produjo un programa. Una escuela no puede confiar en un sistema automatizado para emitir un juicio con consecuencias y después considerar el resultado ajeno a toda revisión humana. Un organismo público no puede utilizar un algoritmo y negarse a explicar cómo pueden las personas afectadas impugnar sus conclusiones.

La tecnología puede informar las decisiones, pero no asumir responsabilidad moral por ellas. Los algoritmos no tienen obligaciones fiduciarias, no explican elecciones morales, no responden ante las comunidades ni reparan daños. Los seres humanos y las instituciones siguen siendo responsables de los sistemas que deciden crear, comprar y utilizar.

El seminario también abordó la relación entre inteligencia artificial, bienestar mental, contenidos perjudiciales, exposición a pantallas y ansiedad entre usuarios jóvenes. Estas cuestiones son particularmente difíciles porque la IA no entra en la vida de los jóvenes a través de un único canal aislado, sino que está cada vez más integrada en la educación, el entretenimiento, las relaciones sociales y la comunicación.

Limitar la exposición puede ser apropiado en algunos casos, sobre todo para los niños más pequeños, pero la evitación por sí sola no prepara a los jóvenes para el entorno en el que ya viven. Por ello, la educación debe comenzar antes de que se produzca el daño.

Los jóvenes deben comprender cómo se crean los contenidos sintéticos, por qué una respuesta generada por IA puede ser incorrecta, cómo entra el sesgo en los sistemas automatizados y por qué no conviene compartir ciertos datos personales. También necesitan saber qué hacer cuando encuentran algo perjudicial, cómo documentar un problema, a quién informar, qué derechos tienen y dónde reside la responsabilidad.

No son únicamente preguntas técnicas. Pertenecen a la ética, la ciudadanía, la educación, el liderazgo y los derechos humanos. Las tecnologías seguirán cambiando, pero los principios necesarios para gobernarlas —privacidad, equidad, verdad, rendición de cuentas, dignidad y responsabilidad— son mucho más duraderos.

La sociedad no preparó adecuadamente a los jóvenes para muchas de las consecuencias de las redes sociales. La inteligencia artificial ofrece la oportunidad, y la obligación, de no repetir el mismo error.

Una de las conclusiones más claras fue que la confianza no puede tratarse como una característica adicional que se incorpora al sistema una vez terminado el desarrollo. Debe construirse desde el principio mediante las premisas adoptadas en el diseño, las comunidades consultadas, los datos seleccionados, los riesgos identificados, las salvaguardas establecidas y los mecanismos creados para revisar y corregir.

Confiar no exige creer que un sistema nunca fallará. Exige tener la seguridad de que sus responsables han tomado medidas razonables para evitar daños, serán transparentes cuando surjan problemas y ofrecerán a las personas afectadas una vía significativa para obtener explicaciones y reparación.

Esto convierte la IA responsable en una tarea colectiva. Empresas tecnológicas, gobiernos, escuelas, universidades, empresas, organizaciones sin fines de lucro, grupos de la sociedad civil, líderes de proyectos y responsables de decisiones organizacionales comparten parte de la responsabilidad. Los jóvenes también deben recibir oportunidades reales de participación, no porque deban resolver problemas creados por las instituciones, sino porque ningún sistema de gobernanza puede afirmar con credibilidad que representa el futuro si excluye a quienes vivirán en él durante más tiempo.

El trabajo de Long Nguyen ofrece un ejemplo convincente de lo que puede llegar a ser la participación juvenil cuando cuenta con educación, estructura, redes y acceso a quienes deciden. Mediante eventos internacionales, iniciativas educativas, hackatones, alianzas y conversaciones sobre políticas, Truth in Tech ya ha involucrado a miles de estudiantes y creado caminos para que los jóvenes pasen de la preocupación a la acción informada.

La importancia de esta labor no reside únicamente en el número de estudiantes alcanzados, sino en el modelo que representa. Se anima a los jóvenes a no verse como receptores pasivos del cambio tecnológico, sino como personas con el derecho y la capacidad de cuestionar sistemas, comprender sus consecuencias y participar en la creación de mejores alternativas.

Esto refleja la misión más amplia de PM4TheWorld. Los desafíos generados por la inteligencia artificial no se resolverán solo con declaraciones o buenas intenciones. Requieren personas capaces de convertir la preocupación en análisis, el análisis en propuestas y las propuestas en una acción responsable y sostenible.

El futuro de la IA no debería ser determinado únicamente por quienes poseen la mayor capacidad técnica, recursos financieros o autoridad institucional. También debe incluir a las personas cuyas vidas estarán marcadas por las decisiones que se toman hoy.

Los jóvenes no están esperando fuera del futuro tecnológico; ya viven dentro de él. La responsabilidad de las instituciones no consiste solo en prepararlos para lo que viene, sino en darles un papel significativo en su construcción.

Continuar la conversación

Construir tecnología en la que podamos confiar exigirá la participación sostenida de educadores, responsables políticos, profesionales de la tecnología, organizaciones sin fines de lucro, líderes comunitarios, familias y los propios jóvenes.

PM4TheWorld invita a los lectores a ver la grabación completa del seminario, explorar el trabajo de Truth in Tech y considerar cómo podría ser una participación juvenil significativa en sus escuelas, organizaciones, instituciones y comunidades.

Esa reflexión puede comenzar con algunas preguntas prácticas: ¿Qué sistemas de IA afectan ya a las personas a las que sirven? ¿Hasta qué punto son transparentes? ¿Quién responde cuando causan daño? ¿Cómo se incluye actualmente a los jóvenes en las decisiones que los rodean? ¿Y qué acción concreta podría emprenderse ahora para garantizar que la confianza, la responsabilidad y la dignidad humana formen parte de la tecnología desde el principio?

El futuro de la inteligencia artificial no está predeterminado. Se está configurando mediante las decisiones que instituciones e individuos toman hoy, y esas decisiones deben incluir las voces de la generación que vivirá con ellas durante más tiempo.