青年、人工智能，以及建设可信技术的责任

网络研讨会录像可在这里观看：https://www.pm4the.world/previousevents

人们经常把人工智能谈成一股从远方逼近的力量，但对于年轻人而言，它早已融入日常生活。它存在于课堂、搜索引擎、社交媒体、娱乐、政治传播、公共服务，以及越来越多影响人们学习、工作、交流和理解周围世界的决策之中。

这正是 PM4TheWorld 网络研讨会 “青年、人工智能，以及建设可信技术的责任” 的起点。本次研讨会邀请了 Truth in Tech 创始人 Long Nguyen。尽管还是一名高中生，Long 已在联合国大会高级别周和联合国科学、技术与创新论坛期间参与国际政策对话。通过 Truth in Tech，他正帮助青年理解人工智能不仅是一组工具，也是一股社会、政治和伦理力量；他们应当参与塑造它。

这个区别贯穿整场对话。年轻人常被称为将继承未来的一代，但当政府、企业、学校和机构讨论新兴技术应当遵循的规则时，青年仍然太常被当作需要教育的用户、需要保护的消费者或需要研究的人群，而很少被承认为治理这些系统的正当参与者——尽管系统已经影响他们的教育、隐私、公民参与、心理健康和未来就业。

Long 自己的经历说明了这一点为何重要。生成式人工智能迅速进入公共生活与教育时，他还在读初中。和许多学生一样，他看到这些工具以惊人的速度被常态化，而教师、学校管理者、政策制定者和监管者仍在判断应如何使用它们、会带来哪些风险，以及可能需要什么形式的监督。

他没有只关注学生是否应该使用人工智能，而是开始提出更广泛的问题：谁负责设计这些系统？它们使用什么数据？如何接受评估？如果它们复制歧视、生成虚假信息或助长监控，会发生什么？最重要的是，为什么直接接触这些技术的年轻人，很少出现在处理这些问题的讨论中？

这些担忧最终促成了 Truth in Tech 的成立。这是一个由青年领导的非营利倡议，致力于推动透明、合乎伦理、可问责且以人为本的技术治理。它并不反对创新，也不是要把每个年轻人变成软件开发者，而是希望让学生获得足够的理解，以识别人工智能系统如何影响自己、发现潜在风险或偏见、与决策者沟通并倡导更负责任的方法。

这显著拓展了人工智能素养的含义。学习使用工具、撰写提示词或生成内容已经不够。年轻人还需要理解自动化系统如何训练、偏见可能从哪里进入、数据如何被收集和使用、数字权利可能受到怎样的影响，以及系统造成伤害时责任在哪里。

Long 在研讨会中反复谈到技术发展与机构监督之间不断扩大的差距。人工智能的发展速度让地方和国家政府难以跟上，而监管责任仍然分散在不同机构、司法辖区和法律框架之中；其中不少规则建立于当前这一代技术尚无法想象的年代。

结果是不确定性日益增长。人工智能可以支持教育、改善信息获取、加速研究、加强环境监测并帮助组织处理复杂问题；与此同时，它也可能助长侵入性监控、复制社会不平等、传播虚假信息、生成欺骗性内容，并在直接影响人们生活和机会的领域自动作出决策。

因此，挑战不是在创新与监管之间二选一，仿佛一方必然以牺牲另一方为代价，而是确保创新在责任、公共问责和人权框架内发展。

Long 把当今很多人工智能开发描述为发生在“黑箱”之中。公众看得到产品，也承受其后果，却很少能了解训练所用的数据、测试采用的标准、开发中确认的风险或部署前建立的保护措施。人们越来越被要求信任无法完全理解的系统，以及内部流程基本不可见的机构。

这正是透明度成为讨论重点的原因之一。但对话也承认，透明度并非简单或绝对的解决方案。更开放能够加强问责，却也可能暴露安全漏洞或专有信息；更广泛的访问能够减少不平等，却也可能增加滥用机会；监管能够保护公众，但设计不当的规则可能限制正当自由或阻碍有益创新。

因此，负责任的治理需要判断，而不是口号。机构必须承认透明、隐私、安全、可及性、创新和自由有时会彼此冲突，而这些张力必须通过开放流程、有意义的参与和持续审查来处理。

对 Long 而言，这也是本地知识和持续反馈如此重要的原因。治理框架不能只建立一次，之后便被假定永远合适。技术会演化、用途会改变、影响也因社区而异；在一个环境中看似可以接受的系统，在另一个地方可能产生完全不同的后果。

治理必须始终连接受到技术影响的人。青年、教育者、社区组织、公民社会团体、独立专家、政策制定者和企业，都应参与判断系统是否真正实现了声称的结果。治理因此不是一次性决定，而是持续倾听、审查、调整和纠正的过程。

Truth in Tech 最重要的贡献之一，是包含十一个部分的 TRANSPARENT 框架，旨在让年轻人更容易理解这些问题。它不要求学生掌握每一个技术细节，而是提供一种语言，使他们能够审视人工智能系统，并更自信地参与原本可能感觉遥不可及的讨论。

该框架从真相与诚信开始，鼓励青年理解系统如何训练、部署和使用；随后涵盖代表性、可及性、网络、安全保障、准确性、问责、韧性、公平、创新与信任。这些原则共同强调，负责任的人工智能不仅关乎技术性能，也关乎谁被纳入、谁受保护、谁能够使用、谁获益，以及谁始终需要负责。

该框架被有意设计得相当宽泛，以便适用于不同国家和地方环境。它的价值不在于为每项治理挑战提供唯一答案，而在于帮助青年提出更有依据的问题，并把伦理原则连接到实际行动。

意识与行动之间的连接，也是研讨会反复出现的主题。关于人工智能的公共讨论往往停留在担忧层面。人们承认偏见存在、隐私重要，也对虚假信息、监控或有害内容感到焦虑，但讨论常常在任何人决定下一步怎么办之前便结束了。

Truth in Tech 的人工智能行动计划希望突破这一点，以结构化流程引导青年。第一步是绘制系统图谱：定义它做什么、在哪里使用、由谁设计、谁批准部署、收集哪些数据、哪些环节仍有人类判断，以及发生问题时谁可能受到影响。

下一步是通过与用户和受影响社区交流、收集证据并判断不同群体是否面临不同结果来评估影响。之后，参与者会识别监督缺口并提出实际解决方案，例如加强人工审查、限制数据收集、开展独立审计、制定更清晰的政策、改变设计或建立新的问责机制。

最后一个阶段是倡导。再完善的建议，如果从未到达有权行动的人手中，也不会产生多少影响。因此，年轻人还需要了解如何与教师、学校领导、企业、监管者、民选官员和社区组织沟通。

人工智能教育由此成为一种公民参与。学生不只学习一项技术，还学习理解系统、记录问题、提出应对方案并与负责决策的人沟通。

Long 演讲后的讨论尤其突出了责任问题。当人工智能系统歧视、助长监控、传播虚假信息或促成有害决定时，问责可能迅速被稀释。责任可能部分属于开发者、销售系统的公司、部署它的机构、未能干预的监管者，或依赖其输出的人。

在实践中，责任可以由多方承担，却不能因此消失。

Long 主张，开发和部署这些技术的企业必须更加透明，并定期接受独立评估。偏见审计与第三方审查不应只是公共争议出现后的例外反应，而应成为负责任开发和部署的一部分。

政府同样有责任建立可执行的保护措施，尤其涉及隐私、生物识别数据、监控和歧视。同时，使用人工智能的机构不能把技术当作独立决策者，然后与后果撇清关系。

公司不能因为软件生成了就业决定，就声称它是中立的。学校不能依赖自动化系统作出后果重大的判断，又把结果视为无需人类复核。公共机构不能使用算法，却拒绝说明受影响者如何质疑其结论。

技术可以为决策提供信息，却不能承担道德责任。算法不负有受托义务，不能解释道德选择，不向社区负责，也无法修复伤害。人类与机构仍须为自己选择创造、购买和使用的系统负责。

研讨会还谈到人工智能与心理健康、有害内容、屏幕暴露以及年轻用户焦虑之间的关系。这些问题特别困难，因为人工智能并非通过某个孤立渠道进入年轻人的生活，而是日益嵌入教育、娱乐、社交互动和通信之中。

在某些情况下，限制接触可能是适当的，尤其对年幼儿童如此；但单纯回避无法帮助青年适应他们已经身处的环境。因此，教育必须在伤害发生之前开始。

青年需要理解合成内容如何产生、人工智能生成的答案为何可能不准确、偏见如何进入自动化系统，以及为什么某些个人信息不应分享。他们还需要知道遇到有害内容时该怎么办、如何记录问题、应当通知谁、自己拥有哪些权利，以及责任落在何处。

这些不只是技术问题，也属于伦理、公民素养、教育、领导力与人权。技术本身会持续变化，但治理它们所需的原则——隐私、公平、真相、问责、尊严和责任——要持久得多。

社会未能充分帮助年轻人应对社交媒体带来的许多后果。人工智能给了我们一次机会，也提出了一项义务：不要重蹈覆辙。

研讨会最明确的结论之一，是信任不能在系统开发完成后才被当作附加功能装上去。它必须从一开始就建立在设计假设、咨询的社区、选择的数据、确认的风险、设置的保障措施，以及审查与纠正机制之中。

信任并不要求人们相信系统永远不会失败，而是相信责任方已采取合理步骤防止伤害，问题发生时会保持透明，受影响者也拥有寻求解释和补救的有效途径。

这使负责任的人工智能成为共同事业。科技企业、政府、学校、大学、企业、非营利组织、公民社会团体、项目负责人和组织决策者都承担部分责任。青年也必须获得真正的参与机会，不是因为他们应该解决机构制造的问题，而是因为任何治理系统，如果排除将在未来生活最久的人，就无法可信地宣称自己代表未来。

Long Nguyen 的工作生动说明，当教育、结构、网络和接触决策者的机会为青年参与提供支持时，它能够达到什么程度。通过国际活动、教育倡议、黑客松、伙伴关系和政策对话，Truth in Tech 已经接触数千名学生，并为年轻人建立了从担忧走向知情行动的路径。

这项工作的意义不仅在于参与学生的数量，也在于它所代表的模式。青年被鼓励不要把自己看作技术变革的被动接受者，而是拥有权利和能力去质疑系统、理解后果并参与塑造更好替代方案的人。

这与 PM4TheWorld 更广泛的使命一致。人工智能带来的挑战，不能只依靠宣言或善意解决；它需要有人把担忧转化为分析，把分析转化为建议，再把建议转化为负责任、可持续的行动。

人工智能的未来不应只由拥有最强技术能力、最多资金资源或最大机构权力的人决定，也必须包括那些人生将被今天的决定所塑造的人。

年轻人并没有站在技术未来之外等待，他们已经生活其中。机构的责任不只是让他们为即将发生的事情做好准备，也要让他们在建设未来的过程中发挥有意义的作用。

继续对话

建设可信技术需要教育者、政策制定者、技术专业人士、非营利组织、社区领导者、家长和青年自身持续参与。

PM4TheWorld 邀请读者观看完整的网络研讨会录像，了解 Truth in Tech 的工作，并思考在自己的学校、组织、机构和社区中，有意义的青年参与可以是什么样子。

这种思考可以从几个实际问题开始：哪些人工智能系统已经影响您服务的人？这些系统有多透明？它们造成伤害时谁负责？青年目前如何参与相关决策？现在可以采取什么具体行动，确保信任、责任与人的尊严从一开始就被纳入技术？

人工智能的未来并非注定不变。它正由机构和个人今天作出的选择塑造，而这些选择应当包括将与其后果相处最久的那一代人的声音。