Der Szenario der Verwendung künstlicher Intelligenz zur Herstellung biologischer Waffen ist einer der schwerwiegendsten und am häufigsten diskutierten Risiken. Im Gegensatz zur nuklearen Bedrohung, bei der riesige industrielle Kapazitäten erforderlich sind, erfordert biologische Waffen vor allem Informationen und Zugang zu Laboratorien. KI kann diesen Barrieren erheblich verringern.

Schlüsselgefahr: Senkung des Einstiegsbarriers

Die Hauptgefahr liegt nicht darin, dass KI jemanden töten möchte, sondern darin, dass sie das Schaffen biologischer Waffen für eine kleine Gruppe von Menschen oder gar Einzelpersonen zugänglich machen kann. Bisher war es dazu erforderlich, Jahre zu studieren und Zugang zu komplexen Materialien zu haben, während KI jetzt einen erheblichen Teil der intellektuellen Arbeit übernehmen kann.

Im Jahr 2026 veröffentlichte das Unternehmen Antropic einen Bericht, in dem beschrieben wurde, dass Forscher aus verschiedenen Ländern ihre Modell für potenziell gefährliche biologische Arbeit verwendeten. Insbesondere plante ein Benutzer, KI zur Suche nach Mutationen des Chikungunya-Virus zu verwenden, die seine Fähigkeit zur Ausbreitung und Immunitätsvermeidung erhöhen. Ein anderer Forscher arbeitete daran, das hochpathogene Vogelgrippe-Virus an Säugetiere anzupassen, was seinen pandemischen Potenzial erhöhen könnte.

Wenn das Modell gefährliche Anfragen ablehnt, finden die Benutzer Umgehungswegen. In einem Fall wurden Anfragen an andere Modelle mit weniger strengen Einstellungen weitergeleitet, und der Zugang zur System wurde über Plattformen für die Umgehung geografischer Beschränkungen hergestellt.

Wie es passieren kann: Kette von Ereignissen

Technisch könnte der Szenario einer Katastrophe so aussehen.

1. Designgenerierung. Ein KI, geschult an riesigen Mengen an biologischen Daten, entwirft den Genom eines neuen Pathogens. Bereits gibt es Experimente, in denen KI funktionsfähige Viren von Grund auf geschaffen hat, was die Möglichkeit der Generierung lebensfähiger genetischer Sequenzen beweist.
2. Optimierung der Eigenschaften. Das Modell kann anweisen, welche Mutationen erforderlich sind, um das Virus ansteckender oder widerstandsfähiger gegen bestehende Impfungen und Medikamente zu machen.
3. Synthese und Montage. Das Design wird in ein Labor übermittelt, um DNA zu synthetisieren. Dies ist der anspruchsvollste physische Schritt, der Ausrüstung und Materialien erfordert, aber KI kann bei der Planung der Logistik und sogar der Maskierung von Bestellungen für gefährliche Sequenzen helfen.
4. Verbreitung. Der fertige Pathogen wird ausgegossen oder auf andere Weise in die Zielpopulation freigegeben.

Warum es schwierig, aber nicht unmöglich ist

Erhebliche Hindernisse stehen auf dem Weg zur Umsetzung dieses Szenarios.

Physikalische Einschränkungen: KI kann nicht selbst einen Virus in einem Reagenzglas schaffen. Dafür sind echte Labore, Ausrüstung und Materialien erforderlich. Experten bemerken, dass erhebliche Anstrengungen, Zeit und Geld erforderlich sind, um ein für Menschen gefährliches Virus zu schaffen, nicht für Bakterien.

Unvorhersehbarkeit der Biologie: biologische Systeme sind chaotisch. Der entworfene Pathogen kann mutieren, die Letalität verlieren oder noch schlimmer, zum Ersteller zurückkehren. Genau aus diesem Grund haben die meisten Länder abgetretene biologische Programme.

Schutzmechanismen: Unternehmen, die KI entwickeln, haben bereits Filter implementiert, die gefährliche Anfragen blockieren. Wie der Bericht jedoch zeigt, können diese Filter umgangen werden, und sie sind nicht immer wirksam gegen zielgerichtete Kriminelle.

Was entgegen gesetzt werden kann

Experten sind sich einig, dass es notwendige multifaktorielle Maßnahmen zum Schutz gibt. Bereits jetzt werden folgende Ansätze diskutiert.

• Verpflichtende Screening der Gensynthese. Unternehmen, die synthetisierte DNA verkaufen, müssen überprüfen, ob Kunden gefährliche Sequenzen bestellen.
• Internationale Regulierung. Die bestehende Konvention über biologische Waffen ist veraltet und berücksichtigt die Herausforderungen der KI nicht. Neue Verträge sind erforderlich, die sowohl Modelle der KI als auch biologische Materialien umfassen.
• Frühe Warnung. Die Schaffung von Systemen zur schnellen Entdeckung von Ausbrüchen neuer Krankheiten, die als abschreckende Maßnahme dienen können.

Dadurch schafft KI nicht selbst biologische Waffen, sondern ist ein mächtiger Beschleuniger und Berater für diejenigen, die entsprechende Absichten und Zugang zu Laboratorien haben. Das Risiko liegt darin, dass der Einstiegsbarriere in diesen Bereich beunruhigend niedrig wird.

Permanent link to this publication: