Jugend, KI und die Verantwortung, Technologie zu entwickeln, der wir vertrauen können

Die Aufzeichnung des Webinars finden Sie hier: https://www.pm4the.world/previousevents

Künstliche Intelligenz wird häufig so diskutiert, als sei sie eine ferne Kraft, die von irgendwo außerhalb auf uns zukommt. Besonders für junge Menschen ist sie jedoch längst in den Alltag eingewoben. Sie ist in Klassenzimmern, Suchmaschinen, sozialen Medien, Unterhaltung, politischer Kommunikation und öffentlichen Diensten präsent und beeinflusst immer mehr Entscheidungen darüber, wie Menschen lernen, arbeiten, kommunizieren und die Welt um sich herum verstehen.

Diese Realität bildete den Ausgangspunkt des PM4TheWorld-Webinars „Jugend, KI und die Verantwortung, Technologie zu entwickeln, der wir vertrauen können“ mit Long Nguyen, Gründer von Truth in Tech. Obwohl Long noch die Highschool besucht, hat er bereits an internationalen politischen Gesprächen während der hochrangigen Woche der Generalversammlung der Vereinten Nationen und beim UN-Forum für Wissenschaft, Technologie und Innovation teilgenommen. Mit Truth in Tech hilft er jungen Menschen, künstliche Intelligenz nicht nur als Werkzeugsammlung, sondern als gesellschaftliche, politische und ethische Kraft zu verstehen, an deren Gestaltung sie mitwirken sollten.

Diese Unterscheidung stand im Zentrum des Gesprächs. Junge Menschen werden häufig als jene Generation beschrieben, die die Zukunft erben wird. Wenn Regierungen, Unternehmen, Schulen und Institutionen jedoch über Regeln für neue Technologien beraten, werden sie noch zu oft als zu schulende Nutzer, zu schützende Konsumenten oder zu untersuchende Bevölkerungsgruppe behandelt. Weitaus seltener gelten sie als legitime Beteiligte an der Governance von Systemen, die bereits ihre Bildung, Privatsphäre, politische Teilhabe, ihr seelisches Wohlbefinden und ihre künftige Beschäftigung beeinflussen.

Longs eigene Erfahrung zeigt, warum dies wichtig ist. Als generative KI rasch in Öffentlichkeit und Bildung Einzug hielt, besuchte er noch die Mittelschule. Wie viele Schülerinnen und Schüler erlebte er, wie schnell diese Werkzeuge zur Normalität wurden, während Lehrkräfte, Schulverwaltungen, Politik und Regulierungsbehörden noch zu bestimmen versuchten, wie sie eingesetzt werden sollten, welche Risiken sie schaffen und welche Aufsicht erforderlich sein könnte.

Statt sich allein darauf zu konzentrieren, ob Schüler KI nutzen sollten oder nicht, begann er umfassendere Fragen zu stellen. Wer war für die Gestaltung dieser Systeme verantwortlich? Welche Daten nutzten sie? Wie wurden sie bewertet? Was geschah, wenn sie Diskriminierung reproduzierten, Falschinformationen erzeugten oder Überwachung ermöglichten? Und vor allem: Warum waren gerade die jungen Menschen, die diesen Technologien am unmittelbarsten ausgesetzt waren, kaum in den Gesprächen vertreten, in denen solche Fragen behandelt wurden?

Aus diesen Sorgen entstand schließlich Truth in Tech, eine von Jugendlichen geführte gemeinnützige Initiative für transparente, ethische, rechenschaftspflichtige und menschenzentrierte Technologie-Governance. Ihr Ziel ist weder, Innovation abzulehnen, noch jeden jungen Menschen zum Softwareentwickler zu machen. Vielmehr sollen Schülerinnen und Schüler genug Verständnis gewinnen, um zu erkennen, wie KI-Systeme sie beeinflussen, mögliche Risiken oder Verzerrungen zu bestimmen, Entscheidungsträger anzusprechen und verantwortungsvollere Ansätze einzufordern.

Dies erweitert auf wichtige Weise, was KI-Kompetenz bedeuten sollte. Es genügt nicht mehr zu lernen, wie man ein Werkzeug nutzt, einen Prompt formuliert oder Inhalte erzeugt. Junge Menschen müssen auch verstehen, wie automatisierte Systeme trainiert werden, wo Verzerrungen entstehen können, wie Daten gesammelt und verwendet werden, wie digitale Rechte betroffen sein können und wo die Verantwortung liegt, wenn ein System Schaden verursacht.

Im gesamten Webinar kam Long auf die wachsende Lücke zwischen technologischer Entwicklung und institutioneller Aufsicht zurück. Künstliche Intelligenz entwickelt sich in einem Tempo, mit dem lokale und nationale Regierungen kaum Schritt halten können. Gleichzeitig bleibt regulatorische Verantwortung über Behörden, Rechtsräume und Regelwerke verteilt, die oft entstanden, bevor die heutige Technologiegeneration überhaupt vorstellbar war.

Das Ergebnis ist wachsende Unsicherheit. KI kann Bildung unterstützen, den Zugang zu Informationen verbessern, Forschung beschleunigen, Umweltbeobachtung stärken und Organisationen bei komplexen Problemen helfen. Zugleich kann sie invasive Überwachung ermöglichen, gesellschaftliche Ungleichheiten reproduzieren, Falschinformationen verbreiten, täuschende Inhalte erzeugen und Entscheidungen in Bereichen automatisieren, die Leben und Chancen von Menschen unmittelbar betreffen.

Die Herausforderung besteht daher nicht darin, zwischen Innovation und Regulierung zu wählen, als müsse die eine zulasten der anderen gehen. Vielmehr muss Innovation innerhalb eines Rahmens von Verantwortung, öffentlicher Rechenschaft und Menschenrechten stattfinden.

Long beschrieb einen großen Teil der heutigen KI-Entwicklung als „Blackbox“. Die Öffentlichkeit sieht die Produkte und erlebt ihre Folgen, hat jedoch oft wenig Einblick in die Trainingsdaten, die angewandten Teststandards, die während der Entwicklung erkannten Risiken oder die vor dem Einsatz vorgesehenen Schutzmaßnahmen. Menschen sollen zunehmend Systemen vertrauen, die sie nicht vollständig verstehen, und Institutionen, deren interne Prozesse weitgehend verborgen bleiben.

Deshalb wurde Transparenz zu einem so wichtigen Thema der Diskussion. Zugleich erkannte das Gespräch an, dass Transparenz keine einfache oder absolute Lösung ist. Größere Offenheit kann die Rechenschaft stärken, aber auch Sicherheitslücken oder geschützte Informationen offenlegen. Breiterer Zugang kann Ungleichheit verringern und gleichzeitig Missbrauch erleichtern. Regulierung kann Menschen schützen, doch schlecht gestaltete Regeln können legitime Freiheit einschränken oder nützliche Innovation verhindern.

Verantwortungsvolle Governance verlangt deshalb Urteilskraft statt Schlagworte. Institutionen müssen anerkennen, dass Transparenz, Privatsphäre, Sicherheit, Zugang, Innovation und Freiheit manchmal in Konflikt geraten und dass diese Spannungen durch offene Verfahren, echte Beteiligung und fortlaufende Überprüfung bearbeitet werden müssen.

Für Long sind lokales Wissen und kontinuierliches Feedback deshalb so wichtig. Ein Governance-Rahmen kann nicht einmal festgelegt und dann dauerhaft als angemessen vorausgesetzt werden. Technologien entwickeln sich, ihre Nutzungen verändern sich und ihre Auswirkungen unterscheiden sich zwischen Gemeinschaften. Ein System, das in einem Umfeld akzeptabel erscheint, kann andernorts völlig andere Folgen haben.

Governance muss daher mit den von Technologie betroffenen Menschen verbunden bleiben. Junge Menschen, Lehrkräfte, Gemeinschaftsorganisationen, zivilgesellschaftliche Gruppen, unabhängige Fachleute, Politik und Unternehmen tragen gemeinsam dazu bei zu prüfen, ob ein System tatsächlich die versprochenen Ergebnisse hervorbringt. Governance ist damit weniger eine einmalige Entscheidung als ein fortlaufender Prozess des Zuhörens, Prüfens, Anpassens und Korrigierens.

Einer der wichtigsten Beiträge von Truth in Tech ist das TRANSPARENT Framework, eine elfteilige Methodik, die jungen Menschen diese Fragen zugänglicher macht. Es verlangt nicht, dass sie jedes technische Detail beherrschen, sondern gibt ihnen eine Sprache, mit der sie KI-Systeme untersuchen und selbstbewusster an Gesprächen teilnehmen können, die ihnen sonst möglicherweise unzugänglich erscheinen.

Das Framework beginnt mit Wahrheit und Integrität und ermutigt junge Menschen zu verstehen, wie ein System trainiert, eingesetzt und genutzt wird. Danach folgen Repräsentation, Zugang, Netzwerke, Schutzmaßnahmen, Präzision, Rechenschaft, Resilienz, Gerechtigkeit, Innovation und Vertrauen. Zusammen zeigen diese Grundsätze, dass verantwortungsvolle KI nicht nur technische Leistung betrifft, sondern auch die Fragen, wer einbezogen und geschützt wird, wer Zugang hat, wer profitiert und wer verantwortlich bleibt.

Das Framework ist bewusst breit angelegt, damit es in verschiedenen nationalen und lokalen Kontexten eingesetzt werden kann. Sein Wert liegt nicht in einer einzigen Antwort auf jede Governance-Herausforderung, sondern darin, jungen Menschen fundiertere Fragen zu ermöglichen und ethische Grundsätze mit praktischem Handeln zu verbinden.

Diese Verbindung zwischen Bewusstsein und Handeln war ein weiteres wiederkehrendes Thema des Webinars. Öffentliche KI-Diskussionen bleiben oft bei der Sorge stehen. Menschen erkennen Verzerrungen, räumen die Bedeutung der Privatsphäre ein und äußern Angst vor Falschinformationen, Überwachung oder schädlichen Inhalten; doch häufig endet das Gespräch, bevor jemand bestimmt, was als Nächstes geschehen soll.

Der AI Action Plan von Truth in Tech soll über diesen Punkt hinausführen und junge Menschen durch einen strukturierten Prozess begleiten. Zuerst wird das System kartiert: Was tut es, wo wird es eingesetzt, wer hat es entworfen und seinen Einsatz genehmigt, welche Daten sammelt es, wo bleibt menschliches Urteil beteiligt und wer kann betroffen sein, wenn etwas schiefgeht?

Als Nächstes werden die Auswirkungen bewertet, indem mit Nutzern und betroffenen Gemeinschaften gesprochen, Belege gesammelt und unterschiedliche Ergebnisse zwischen Gruppen untersucht werden. Anschließend sollen Lücken in der Aufsicht bestimmt und praktische Lösungen vorgeschlagen werden, etwa stärkere menschliche Prüfung, Grenzen für Datensammlung, unabhängige Audits, klarere Richtlinien, Designänderungen oder neue Mechanismen der Rechenschaft.

Die letzte Phase ist Interessenvertretung. Selbst ein gut entwickelter Vorschlag bewirkt wenig, wenn er nie jemanden mit Entscheidungsmacht erreicht. Junge Menschen müssen deshalb auch lernen, wie sie Lehrkräfte, Schulleitungen, Unternehmen, Regulierungsstellen, gewählte Vertreter und Gemeinschaftsorganisationen ansprechen.

Hier wird KI-Bildung zu einer Form politischer Teilhabe. Schülerinnen und Schüler lernen nicht nur etwas über Technologie; sie lernen, ein System zu verstehen, ein Problem zu dokumentieren, eine Antwort zu entwickeln und jene einzubeziehen, die für Entscheidungen verantwortlich sind.

Die Frage der Verantwortung wurde in der Diskussion nach Longs Vortrag besonders wichtig. Wenn ein KI-System diskriminiert, Überwachung ermöglicht, Falschinformationen verbreitet oder zu einer schädlichen Entscheidung beiträgt, kann sich Rechenschaft schnell verflüchtigen. Verantwortung kann teilweise bei Entwicklern, dem verkaufenden Unternehmen, der einsetzenden Institution, einer untätigen Regulierungsstelle oder einer Person liegen, die sich auf das Ergebnis verlassen hat.

In der Praxis kann Verantwortung geteilt sein, doch sie darf nicht verschwinden.

Long argumentierte, dass Unternehmen, die diese Technologien entwickeln und einsetzen, transparenter werden und ihre Systeme regelmäßig unabhängig bewerten lassen müssen. Bias-Audits und externe Prüfungen sollten keine außergewöhnlichen Reaktionen nach öffentlicher Kontroverse sein, sondern Bestandteil verantwortungsvoller Entwicklung und Einführung.

Auch Regierungen müssen durchsetzbare Schutzvorschriften schaffen, insbesondere für Privatsphäre, biometrische Daten, Überwachung und Diskriminierung. Gleichzeitig dürfen Institutionen, die KI nutzen, die Technologie nicht als eigenständigen Entscheidungsträger behandeln und sich dann von den Folgen distanzieren.

Ein Unternehmen kann eine Personalentscheidung nicht allein deshalb als neutral bezeichnen, weil Software sie erzeugt hat. Eine Schule darf bei einer folgenreichen Beurteilung nicht auf ein automatisiertes System vertrauen und das Ergebnis dann menschlicher Überprüfung entziehen. Eine Behörde darf einen Algorithmus nicht einsetzen und zugleich verschweigen, wie Betroffene seine Schlussfolgerungen anfechten können.

Technologie kann Entscheidungen unterstützen, aber keine moralische Verantwortung übernehmen. Algorithmen haben keine Treuepflichten, erklären keine moralischen Entscheidungen, antworten nicht gegenüber Gemeinschaften und reparieren keinen Schaden. Menschen und Institutionen bleiben für die Systeme verantwortlich, die sie entwickeln, kaufen und nutzen.

Das Webinar berührte auch die Beziehung zwischen KI, seelischem Wohlbefinden, schädlichen Inhalten, Bildschirmnutzung und Angst bei jüngeren Nutzern. Diese Fragen sind besonders schwierig, weil KI nicht über einen einzigen, isolierten Kanal in das Leben junger Menschen gelangt, sondern zunehmend in Bildung, Unterhaltung, soziale Beziehungen und Kommunikation eingebettet ist.

Eine Begrenzung der Nutzung kann manchmal angemessen sein, insbesondere für jüngere Kinder. Vermeidung allein bereitet junge Menschen jedoch nicht auf die Umgebung vor, in der sie bereits leben. Bildung muss deshalb einsetzen, bevor Schaden entsteht.

Junge Menschen müssen verstehen, wie synthetische Inhalte entstehen, warum eine KI-generierte Antwort falsch sein kann, wie Verzerrungen in automatisierte Systeme gelangen und warum bestimmte persönliche Informationen nicht geteilt werden sollten. Sie müssen zudem wissen, was bei schädlichen Inhalten zu tun ist, wie ein Problem dokumentiert wird, wen sie informieren können, welche Rechte sie besitzen und wer Verantwortung trägt.

Dies sind nicht nur technische Fragen. Sie gehören zu Ethik, Staatsbürgerschaft, Bildung, Führung und Menschenrechten. Technologien werden sich weiter verändern; die Grundsätze, nach denen sie regiert werden müssen – Privatsphäre, Gerechtigkeit, Wahrheit, Rechenschaft, Würde und Verantwortung – sind wesentlich beständiger.

Die Gesellschaft hat junge Menschen unzureichend auf viele Folgen sozialer Medien vorbereitet. Künstliche Intelligenz bietet die Gelegenheit und die Pflicht, denselben Fehler nicht zu wiederholen.

Eine der klarsten Schlussfolgerungen des Webinars war, dass Vertrauen kein Zusatzmerkmal sein darf, das nach Abschluss der Entwicklung an ein System angehängt wird. Es muss von Anfang an entstehen: durch Annahmen im Design, die einbezogenen Gemeinschaften, ausgewählte Daten, erkannte Risiken, eingerichtete Schutzmaßnahmen sowie Mechanismen für Prüfung und Korrektur.

Vertrauen verlangt nicht die Überzeugung, dass ein System nie scheitern wird. Es verlangt Zuversicht, dass die Verantwortlichen angemessene Schritte zur Schadensvermeidung unternommen haben, bei Problemen transparent handeln und Betroffenen einen wirksamen Weg zu Erklärung und Abhilfe geben.

Damit wird verantwortungsvolle KI zu einer gemeinsamen Aufgabe. Technologieunternehmen, Regierungen, Schulen, Universitäten, Unternehmen, gemeinnützige Organisationen, zivilgesellschaftliche Gruppen, Projektverantwortliche und organisatorische Entscheidungsträger tragen jeweils Verantwortung. Auch junge Menschen brauchen echte Beteiligungsmöglichkeiten – nicht weil sie die von Institutionen geschaffenen Probleme lösen sollen, sondern weil kein Governance-System glaubwürdig die Zukunft vertreten kann, wenn es jene ausschließt, die am längsten in ihr leben werden.

Long Nguyens Arbeit zeigt eindrucksvoll, was Jugendbeteiligung werden kann, wenn sie durch Bildung, Struktur, Netzwerke und Zugang zu Entscheidungsträgern gestützt wird. Durch internationale Veranstaltungen, Bildungsinitiativen, Hackathons, Partnerschaften und politische Gespräche hat Truth in Tech bereits Tausende Schülerinnen und Schüler erreicht und Wege geschaffen, auf denen junge Menschen von Sorge zu informiertem Handeln gelangen.

Die Bedeutung dieser Arbeit liegt nicht nur in der Zahl der erreichten jungen Menschen, sondern in dem Modell, das sie verkörpert. Sie werden ermutigt, sich nicht als passive Empfänger technologischer Veränderungen zu sehen, sondern als Menschen mit dem Recht und der Fähigkeit, Systeme zu hinterfragen, ihre Folgen zu verstehen und bessere Alternativen mitzugestalten.

Dies spiegelt die breitere Mission von PM4TheWorld wider. Die Herausforderungen der künstlichen Intelligenz werden nicht durch Erklärungen oder gute Absichten allein bewältigt. Es braucht Menschen, die Sorge in Analyse, Analyse in Vorschläge und Vorschläge in verantwortungsvolles, nachhaltiges Handeln übersetzen können.

Die Zukunft der KI darf nicht allein von jenen bestimmt werden, die über die größte technische Kapazität, die meisten finanziellen Mittel oder institutionelle Autorität verfügen. Sie muss auch die Menschen einbeziehen, deren Leben durch die heutigen Entscheidungen geprägt wird.

Junge Menschen warten nicht außerhalb der technologischen Zukunft. Sie leben bereits in ihr. Institutionen tragen daher nicht nur die Verantwortung, sie auf das Kommende vorzubereiten, sondern ihnen eine sinnvolle Rolle bei dessen Gestaltung zu geben.

Das Gespräch fortsetzen

Vertrauenswürdige Technologie zu entwickeln verlangt dauerhafte Beteiligung von Lehrkräften, Politik, Technologiefachleuten, gemeinnützigen Organisationen, Gemeinschaftsverantwortlichen, Eltern und jungen Menschen selbst.

PM4TheWorld lädt Leserinnen und Leser ein, die vollständige Webinaraufzeichnung anzusehen, die Arbeit von Truth in Tech kennenzulernen und darüber nachzudenken, wie echte Jugendbeteiligung in ihren Schulen, Organisationen, Institutionen und Gemeinschaften aussehen könnte.

Diese Reflexion kann mit einigen praktischen Fragen beginnen: Welche KI-Systeme beeinflussen bereits die Menschen, denen Sie dienen? Wie transparent sind sie? Wer trägt Verantwortung, wenn sie Schaden verursachen? Wie werden junge Menschen derzeit in Entscheidungen über diese Systeme einbezogen? Und welche konkrete Maßnahme könnte jetzt ergriffen werden, damit Vertrauen, Verantwortung und Menschenwürde von Beginn an in Technologie eingebaut werden?

Die Zukunft der künstlichen Intelligenz ist nicht vorbestimmt. Sie wird durch Entscheidungen geformt, die Institutionen und Einzelne heute treffen, und diese Entscheidungen sollten die Stimmen jener Generation einbeziehen, die am längsten mit ihnen leben wird.