Zukunft des künstlichen Intelligenz und der globale UN-Diskurs über die Governance von KI: Wendepunkt in der Geschichte der Menschheit

Am 6. Juli 2026 wurde in Genf, der schweizerischen Hauptstadt, der erste globale UN-Diskurs über die Governance von künstlicher Intelligenz (Global Dialogue on AI Governance) eröffnet. Dieses Ereignis, das durch eine Resolution der Generalversammlung der UNO ins Leben gerufen wurde, versammelte Vertreter von Regierungen, technologischen Unternehmen, der wissenschaftlichen Gemeinschaft, der Zivilgesellschaft und internationaler Organisationen, um einheitliche Ansätze zur Regulierung einer der einflussreichsten Technologien des 21. Jahrhunderts zu entwickeln. Das Ereignis, das vom 6. bis 7. Juli stattfand, zog mehr als 4.000 Delegierte aus 170 Ländern an und erhielt über 1.500 schriftliche Anfragen. Dies wurde nicht nur eine weitere internationale Konferenz, sondern ein Punkt der Bifurkation, an dem entschieden wurde, ob die Menschheit die Transformation, die der KI mitbringt, steuern wird oder ihr erlaubt, sich selbst zu steuern.

Warnsignal: Warnungen der unabhängigen internationalen wissenschaftlichen Gruppe zu KI

Die Eröffnung des Dialogs erfolgte mit der Präsentation des ersten Berichts der unabhängigen internationalen wissenschaftlichen Gruppe zu KI, deren Mitvorsitzende der bekannte Wissenschaftler Yoshua Bengio und der Friedensnobelpreisträgerin Maria Ressa sind. Der Dokument enthielt drei Hauptwarnungen, die die Grundlage für alle folgenden Diskussionen bildeten.

Das erste Warnsignal – über die Geschwindigkeit. Das Internet benötigte 15 Jahre, um eine Milliarde Nutzer zu erreichen. KI erreichte dies in zwei Jahren. UN-Generalsekretär António Guterres sagte bei der Eröffnung des Dialogs: «KI entwickelt sich mit rasantem Tempo – schneller als die Menschheit ihr folgen kann. Ein Experiment wird an unseren Gesellschaften durchgeführt – ohne Plan und ohne Einwilligung». Systeme sind nicht mehr nur Instrumente, die Anweisungen erwarten – sie schreiben Code, handeln im Netzwerk und treffen Entscheidungen mit immer weniger menschlicher Kontrolle. Unsere Institute, die für die Steuerung von Maschinen gebaut wurden, die Befehle befolgen, sind nicht auf Maschinen vorbereitet, die Entscheidungen treffen.

Das zweite Warnsignal – über die Konzentration von Macht. Die Rechenleistung, Daten und Talente hinter den fortschrittlichsten Systemen konzentrieren sich in den Händen weniger Unternehmen und weniger Länder. Die meisten Staaten, einschließlich vieler Entwicklungsländer, hatten kein Mitspracherecht in den Entscheidungen, die ihre Zukunft prägen werden. «Wenn das Ungleichgewicht der Macht in die Technologie eingebettet ist, wird Ungleichheit Teil des Codes», warnte Guterres.

Das dritte Warnsignal – über die Wahrheit. Maschinelle Lügen können so effizient überzeugen wie die Wahrheit, und wahre Beweise können als Fälschung abgelehnt werden. Dies untergräbt die Integrität unserer Informationsökosystem und das Vertrauen in sie. Wie Maria Ressa sagte: «Wenn du nicht unterscheiden kannst, zwischen Fakt und Fiktion, kannst du keine Demokratie haben».

Vier Prioritäten Guterres: Sicherheit, Menschenrechte, Potenzial und Transparenz

In seiner Rede nannte Guterres vier entscheidende Prioritäten der Governance von KI: Sicherheit, Menschenrechte, Potenzial und Transparenz. Diese Prinzipien sollen das breite globale Engagement in konkrete Maßnahmen umsetzen und KI «sicherer, gerechter, zugänglicher und ethischer» machen.

Der Generalsekretär betonte: «Die Frage ist nicht mehr, ob KI unsere Welt verändert – sie tut es bereits. Die Frage ist, ob wir diese Transformation gemeinsam steuern werden oder ihr erlaubt, uns zu steuern». Er sagte auch: «Wir sind die letzte Generation, die Regeln für das Zusammenleben von Mensch und Maschine setzen kann». Der Dialog sollte nicht auf die Unterzeichnung eines formellen Vertrags abzielen, sondern sollte den Grundstein für zukünftige Verhandlungen legen und ein gemeinsames Verständnis dafür schaffen, wie eine Technologie, die schneller wächst als die Regeln, die sie einzuschränken sollen, gesteuert werden kann.

Schlüsselthemen des Dialogs: Aufteilung, Sicherheit und menschliche Kontrolle

Während der zweitägigen Sitzung wurde ein breites Spektrum von Fragen diskutiert, die sieben thematische Cluster widerspiegeln, die durch die Resolution der Generalversammlung definiert wurden. Das zentrale Thema war die Überwindung des «digitalen Spaltes». Wie der estnische Botschafter Rein Tammsaar betonte, «sind die Entwickler fortschrittlicher Systeme in zwei Ländern [USA und China] konzentriert», was andere Staaten mit vielen Fragen zurücklässt. Entwicklungsländer sind insbesondere besorgt, dass der Spalt im Bereich der KI sie endgültig zurücklassen könnte.

Die Sicherheit der KI wurde ebenfalls eine weitere Schlüsselthema. Bengio warnte, dass die Wissenschaft derzeit nicht garantieren kann, dass der KI mit zunehmenden Möglichkeiten nicht «katastrophalen Schaden verursacht». Die Teilnehmer betonten, dass Schutzmechanismen während des gesamten Lebenszyklus der Systeme erforderlich sind, nicht nur im Trainingsstadium der Modelle. Besondere Aufmerksamkeit wurde auf den Schutz der Kinder vor Risiken im Zusammenhang mit KI gelegt.

Menschliche Kontrolle und Rechenschaftspflicht standen ebenfalls im Mittelpunkt der Diskussionen. Wie die Präsidentin der Generalversammlung, Annalena Baerbock, betonte, «war der Tempt und Umfang der Veränderungen nie so blinding» und «war es nie so schwer, diese Veränderungen zu verstehen und sich an sie anzupassen». Sie betonte, dass «etwas mit so viel Kraft, mit so tiefem Einfluss auf unsere Wirtschaft, unsere sozialen Systeme, unsere Verteidigung und daher auf unseren Welt und unsere Sicherheit, aber auch in unseren Häusern, unserer Ernährung und in den Kinderzimmern – kann nur gemeinsam sinnvoll und sicher gesteuert werden».

Zukunft der KI: Von der «Generation» zum «Planen» und autonomen Agenten

Während Diplomaten über Regeln diskutierten, veränderte sich der technologische Landschaft rasant. 2026 wurde ein Wendepunkt im Bereich der KI. Der Haupttrend war der Übergang von einfachen generativen Modellen zu «agentischer KI» – autonomen Systemen, die ohne ständige menschliche Beteiligung mehrstufige Aufgaben erledigen können: von personalisiertem Planen bis hin zur Sicherstellung der Cybersicherheit und der Bewertung des Gesundheitszustands. Mehr und mehr führende KI-Unternehmen konzentrieren sich auf die Erhöhung der Fähigkeit der Modelle, zu argumentieren und Aufgaben zu erledigen, und bewegen den KI von der «Fähigkeit zu generieren» zur «Fähigkeit zu planen» voran.

Laut Prognosen von IDC werden bis 2026 70% der Organisationen «kompositen KI» verwenden, der generative, prozessuelle, prädictive und agentische Technologien kombiniert. Bis 2027 wird die Nutzung von KI-Agenten in globalen Unternehmen um das Zehnfache zunehmen, und die Anzahl der Herausforderungen wird um das Tausendfache wachsen. Die globalen Ausgaben für KI werden 2026 2,59 Billionen Dollar erreichen, und bis 2029 werden sie nur im Bereich IT auf 700 Milliarden Dollar steigen.

Herausforderungen der Zukunft: Energie, Beschäftigung und Souveränität

Allerdings bringen die Möglichkeiten auch neue Herausforderungen mit sich. Der Energieverbrauch der KI wird zu einer kritischen Problem. Wie Sally Radwan, die Hauptdigitale Direktorin des UN-Umweltprogramms, betonte, «ist die Zukunft der KI untrennbar mit der Zukunft des Planeten verbunden». Die massive Einführung der KI erfordert «das Eindämmen des mit der KI verbundenen Energieverbrauchs, der Emissionen von Treibhausgasen sowie des Verbrauchs von Wasser und Materialien».

Die Auswirkungen auf den Arbeitsmarkt geben ebenfalls Anlass zu Besorgnis. Studien zeigen, dass 48% der Unternehmen bereits Stellenabbau aufgrund von KI verzeichnet haben. Gleichzeitig entstehen neue Berufe und Anforderungen an Fähigkeiten: bis 2027 werden 75% der Einstellungsprozesse das Testen von Fähigkeiten im Bereich KI umfassen. Generative KI und KI-Agenten werden den ersten bedeutenden Herausforderung für Massenleistungsinstrumente seit 30 Jahren darstellen, was zu marktweiten Veränderungen in Höhe von 58 Milliarden Dollar führen wird.

Ein weiterer wichtiger Trend ist der «souveräne KI». Bis 2027 werden 35% der Länder regionale KI-Plattformen auf Basis eigener proprietärer Daten nutzen. Dies spiegelt das Bestreben der Staaten, Kontrolle über ihre Daten und technologische Infrastruktur zu behalten, in einer wachsenden geopolitischen Konkurrenz.

Schlussfolgerung: Der Entscheidungszeitpunkt, der die Zukunft der Menschheit bestimmen wird

Der globale UN-Diskurs über die Governance von KI ist eine Antwort auf die Herausforderung, die Guterres mit großer Klarheit formuliert hat: «Die Wahl vor uns ist zwischen projektorientierter Governance und default Drift». Die Präsidentin der Generalversammlung, Annalena Baerbock, erinnerte daran, dass die Charta der Vereinten Nationen, die vor 81 Jahren angenommen wurde, uns verpflichtet, «internationale Zusammenarbeit bei der Lösung internationaler Probleme wirtschaftlicher, sozialer, kultureller oder humanitärer Art zu erreichen». KI ist genau solche Problematik.

«Etwas mit so viel Kraft braucht eine globale Plattform. Sie braucht die Vereinten Nationen», sagte Baerbock. Und das ist wahr. Eine Technologie, die die Wirtschaft umkrempeln kann, den Arbeitsmarkt verändern, Wahlen beeinflussen und den Machtgegensatz ändern kann, darf nicht dem Ermessen weniger Länder oder Unternehmen überlassen werden.

Der globale Dialog ist der Beginn eines langen Weges. Er hat keine fertigen Lösungen geliefert, sondern hat Raum für ihre Entwicklung geschaffen. Er hat bestätigt, dass die Zukunft der KI nicht nur von technologischen Möglichkeiten, sondern auch von politischer Willenskraft, internationalem Engagement und dem Engagement für grundlegende Werte – Menschenrechten, Gerechtigkeit und demokratischer Kontrolle – bestimmt wird. Wie Joshua Bengio sagte: «Wir brauchen einen koordinierten internationalen und demokratischen Ansatz, bei dem Wissenschaft und Mitgefühl unser Kompass bei der Navigation durch die KI bleiben».

Die Frage ist nicht mehr, ob KI unsere Welt verändern wird. Sie tut es bereits. Die Frage ist, ob wir diese Transformation gemeinsam steuern werden oder ihr erlaubt, uns zu steuern. Und die Antwort auf diese Frage wird nicht nur die Zukunft der Technologie, sondern auch die Zukunft selbst der Menschheit bestimmen.

Permanent link to this publication: