KI kann jetzt den Zwilling eines Erregers entwerfen, der jeden DNA-Sicherheits-Scan umgeht — Google DeepMinds Plan dagegen
KI kann jetzt den Zwilling eines Erregers entwerfen, der jeden DNA-Sicherheits-Scan umgeht — Google DeepMinds Plan dagegen
Jedes relevante DNA-Syntheseunternehmen führt vor der Herstellung denselben Grundcheck durch: die angefragte Sequenz gegen eine Datenbank bekannter gefährlicher Erreger abgleichen und alles zu Nahe-Treffer markieren oder blockieren. Das ist die wichtigste technische Schutzmaßnahme zwischen "irgendjemand mit einem Browser" und "irgendjemand mit einer bedenklichen DNA-Sequenz". Am 16. Juli 2026 erklärte Google DeepMind in eigenen Worten, dass genau diese Schutzmaßnahme Risse bekommt — und stellte vor, was das Unternehmen dagegen unternimmt.
Die Lücke: Gleiche Gefahr, andere Sequenz
Hier das konkrete Eingeständnis, das es in sich hat: KI kann inzwischen DNA-Sequenzen entwerfen helfen, die eine ähnlich gefährliche Funktion wie ein bekannter Erreger tragen, ohne dessen tatsächliche Sequenz nah genug zu treffen, um bestehende Scans auszulösen. Screening-Systeme vergleichen Zeichenketten genetischer Buchstaben mit einer Referenzliste — sie wurden nie dafür gebaut, etwas zu erkennen, das über einen völlig anderen genetischen Weg dasselbe Schadenspotenzial erreicht. KI-gestütztes Protein- und Sequenz-Design ist genau die Art von Werkzeug, die solche anderen Wege findet, ob beabsichtigt oder nicht.
Das ist keine Hypothese, die DeepMind sich ausgedacht hat, um verantwortungsbewusst zu klingen. Laut dem offiziellen DeepMind-Blogbeitrag zur Ankündigung des Programms führen führende Screening-Anbieter in Nordamerika, Europa und Teilen des asiatisch-pazifischen Raums bereits standardmäßig Sequenzabgleich-Prüfungen durch — und DeepMind sagt explizit, dass dieser Standard allein nicht mehr ausreicht.
Drei Säulen, ein Programm
DeepMind und sein Wirkstoffforschungs-Spin-off Isomorphic Labs (gegründet von DeepMind-CEO Demis Hassabis im November 2021) haben ihre Antwort auf drei Säulen aufgebaut:
- Prävention — verhindern, dass KI-Modelle selbst missbraucht werden, um schädliche Biologie zu entwerfen
- Erkennung — Forschenden helfen, neue Ausbrüche schneller zu erkennen, allein aus Sequenzdaten
- Reaktion — beschleunigen, wie schnell Gegenmaßnahmen entwickelt werden können, sobald eine Bedrohung identifiziert ist
In den vergangenen 12 Monaten haben die beiden Organisationen mehr als 15 Partnerschaften mit Regierungsstellen, Biosicherheits-Organisationen und Forschungsgruppen aufgebaut, um das in die Praxis umzusetzen — ein Koordinationsumfang, der für die Sicherheitsinitiative eines einzelnen Unternehmens ungewöhnlich ist.
Das Werkzeugset: AlphaFold, SynthID und ein neues DNA-Wasserzeichen
Die Präventionsseite stützt sich auf Techniken, die DeepMind bereits für seine Endnutzer-Modelle einsetzt: Expert-Red-Teaming, Post-Training-Methoden, die Modellen beibringen, schädliche Anfragen abzulehnen ohne legitime Forschung zu blockieren, Echtzeit-Klassifikatoren, die riskante Aktivität markieren, und Log-Analyse, die auf subtile statt offensichtliche Missbrauchsmuster abgestimmt ist.
Bei Erkennung und Reaktion werden DeepMinds bestehende Forschungswerkzeuge gezielt für die Biosicherheit umgewidmet:
- AlphaFold — DeepMinds System zur Proteinstruktur-Vorhersage wurde bereits in mehr als 10.000 Publikationen zu Infektionskrankheiten über fünf Jahre zitiert, darunter Arbeiten zu Tuberkulose- und Malaria-Übertragung sowie Zielkartierung für Bedrohungen wie Mpox und das Nipah-Virus
- AlphaFold 3 — veröffentlicht im Mai 2024, erweitert über Proteine hinaus auf die Modellierung von Interaktionen zwischen Proteinen, DNA, RNA und kleinen Molekülen; eine Partnerschaft mit Lawrence Livermores eigenem Bioresilience-Programm nutzt es für breitbandiges Antikörper-Design, einschließlich eines Pan-Filovirus-Antikörper-Projekts
- AlphaGenome und Protein-Function-Annotationswerkzeuge — werden darauf geprüft, Erreger direkt aus Sequenzdaten zu erkennen und zu charakterisieren, um neuartige Muster schneller zu erkennen als klassische Labormethoden
- AlphaEvolve — ein Coding-Agent, der eingesetzt wird, um die Genauigkeit der metagenomischen Sequenzierung zu verbessern
- IsoDDE, Isomorphic Labs' Drug-Design-Engine — in einer eigenen Einheit aufgestellt, um bei einem neuartigen Ausbruch schnell einsatzbereit zu sein
- SynthID — DeepMinds Wasserzeichen-System, bereits Industriestandard zur Markierung KI-generierter Bilder und Texte, wird nun angepasst, um biologische Sequenzen zu markieren und eine nachvollziehbare Verbindung zwischen einem KI-System und jedem von ihm erzeugten DNA-Design herzustellen
Das Geld und die genannten Partner
Isomorphic Labs hat 7 Millionen US-Dollar an Health for Human Potential zugesagt, für Infektionskrankheiten-Forschung in ganz Asien. Diese Zusage steht neben einem deutlich größeren Signal, wohin sich das Unternehmen entwickelt: Isomorphic Labs sammelte im Mai 2026 eine Series-B-Runde über 2,1 Milliarden US-Dollar ein, und KI-entworfene Medikamente aus seinen Kooperationen sollen bis Ende des Jahres in klinische Studien gehen.
Neben Health for Human Potential nennt DeepMind das Lawrence Livermore National Laboratory, das UK AI Security Institute, CEPI (die Coalition for Epidemic Preparedness Innovations), das Francis Crick Institute und Pacific Biosciences als Bioresilience-Partner — eine Mischung aus nationalen Laboren, staatlichen Sicherheitsbehörden und Genomik-Infrastrukturunternehmen, die genau die Prävention-Erkennung-Reaktion-Aufteilung abdeckt, auf der das Programm aufbaut.
DeepMind betreibt auch Lobbyarbeit — das unterstützt das Unternehmen konkret
DeepMinds Bioresilience-Vorstoß kommt mit expliziten politischen Forderungen, zugeordnet zu denselben drei Säulen, alle anhängige US-Gesetzesvorhaben:
| Säule | Gesetzesvorhaben | Was es bewirkt |
|---|---|---|
| Prävention | AI-Ready Bio-Data Standards Act (H.R. 7907) | Standardisiert biologische Daten für KI-Systeme |
| Prävention | Biosecurity Modernization and Innovation Act (S. 3741) | Modernisiert Biosicherheits-Infrastruktur |
| Prävention | SCALE Biology Act (H.R. 8981) | Skaliert Biosicherheits-Screening-Kapazität |
| Erkennung | America's Living Library Act (S. 4023) | Erweitert biologische Referenzdaten + DARPA-/HHS-Förderung |
| Reaktion | Web of Biological Data Act (H.R. 9307 / S. 4770) | Baut gemeinsame biologische Dateninfrastruktur + Fertigungskapazität auf |
Das ist ein Unternehmen, das aktiv versucht, das regulatorische Umfeld mitzugestalten, in dem es selbst operiert — relevant, wenn man einschätzen will, wie viel Gewicht man DeepMinds eigener Risikodarstellung gegenüber einer unabhängigen Einschätzung geben sollte.
Der ehrliche Teil: DeepMind sagt selbst, das ist nicht fertig
Der glaubwürdigste Satz in DeepMinds gesamter Ankündigung ist zugleich der am wenigsten beruhigende: Das Unternehmen beschreibt diese Schutzmaßnahmen explizit als "einen fortlaufenden Prozess statt ein fertiges System". Es weist konkret darauf hin, dass Klassifikatoren, die auf bekannte Jailbreak-Muster abgestimmt sind, keine Garantie für die Leistung gegen neuartige Angriffe im Live-Betrieb bieten — schlicht gesagt: Die Sicherheitssysteme sind auf die Angriffsmuster von gestern kalibriert, und es gibt keine Garantie, dass sie die von morgen erkennen.
Das ist kein Kritikpunkt am Programm. Es ist ein ungewöhnlich offenes Eingeständnis eines Unternehmens, das stattdessen leicht eine "gelöst"-Erzählung hätte verkaufen können — und es ist der Punkt, den man sich merken sollte, wenn die nächste Schlagzeile zum DNA-Synthese-Screening über den Feed läuft.
Quellen
Häufig gestellte Fragen
Was ist Google DeepMinds Bioresilience-Programm?
Eine gemeinsame Initiative mit Isomorphic Labs, vorgestellt am 16. Juli 2026, aufgebaut auf drei Säulen — Prävention (KI-Missbrauch in der Biologie eindämmen), Erkennung (Ausbrüche schneller identifizieren) und Reaktion (Gegenmaßnahmen schneller entwickeln). Dahinter stehen mehr als 15 Partnerschaften mit Regierungsstellen und Biosicherheits-Organisationen, aufgebaut über die vorangegangenen 12 Monate.
Was ist die DNA-Synthese-Screening-Lücke, die DeepMind beschreibt?
Bevor eine DNA-Sequenz hergestellt wird, prüfen Syntheseunternehmen sie gegen Datenbanken bekannter gefährlicher Erreger. DeepMind erklärt, dass KI inzwischen DNA-Sequenzen mit ähnlich gefährlicher Funktion wie ein bekannter Erreger entwerfen kann, ohne dessen Sequenz nah genug zu treffen, um bestehende Scans auszulösen — wodurch funktionsbasiertes statt rein sequenzbasiertes Screening notwendig wird.
Wie passt DeepMind SynthID für die Biosicherheit an?
SynthID, DeepMinds bestehendes Wasserzeichen-System für KI-generierte Bilder und Texte, wird angepasst, um biologische Sequenzen zu markieren — eine Möglichkeit nachzuvollziehen, ob ein bestimmtes DNA-Design von einem KI-System stammt, was sowohl für die Zuordnung als auch fürs Screening relevant ist.
Mit welchen Organisationen arbeitet DeepMind bei Bioresilience zusammen?
Genannte Partner sind das Lawrence Livermore National Laboratory, das UK AI Security Institute, CEPI (Coalition for Epidemic Preparedness Innovations), das Francis Crick Institute, Pacific Biosciences und Health for Human Potential — Letzteres erhielt eine Zusage von 7 Millionen US-Dollar von Isomorphic Labs für Infektionskrankheiten-Forschung in Asien.
Unterstützt DeepMind konkrete Biosicherheits-Gesetzgebung?
Ja. DeepMinds politische Empfehlungen unterstützen fünf anhängige US-Gesetzesvorhaben entlang der drei Säulen: den AI-Ready Bio-Data Standards Act (H.R. 7907), den Biosecurity Modernization and Innovation Act (S. 3741) und den SCALE Biology Act (H.R. 8981) für Prävention; den America's Living Library Act (S. 4023) für Erkennung; und den Web of Biological Data Act (H.R. 9307 / S. 4770) für Reaktion.