Das Virus, das die Evolution nie erschuf

Virale Halluzinationen

Eine KI, die auf dem genetischen Code trainiert wurde, hat gerade etwas getan, was keine Evolution je zustande brachte.

Sie entwarf ein funktionsfähiges Virus, keine Nahkopie eines existierenden, sondern ein Genom mit Merkmalen, die natürliche Mutation mit hoher Wahrscheinlichkeit nie hervorbringen würde. Einer der Outputs verlor ein ganzes Protein und blieb lebensfähig. Ein anderer fügte ein neues Gen hinzu, das in der Natur kein Gegenstück hat. Ein dritter tauschte ein Gen gegen eines aus einem entfernt verwandten Virus aus, als leihe man sich ein Ersatzteil.

Die Forscher in Stanford, die die Evo-Modelle gebaut haben, nennen diese Outputs das, was sie sind: virale Halluzinationen. Und die Biosicherheitsfrage im Kern dieses Durchbruchs ist nicht, ob die KI es kann; sie hat es bereits getan. Die Frage ist, wer die nächste Person davon abhält, dasselbe mit Viren zu tun, die uns infizieren.

Wie man ein Virus von Grund auf baut

Die Evo-1- und Evo-2-Modelle sind große Sprachmodelle, die statt auf Text auf DNA trainiert wurden. Ausreichend viele Gensequenzen vorausgesetzt, lernen sie die Grammatik des Lebens: welche Basenpaare typischerweise aufeinander folgen, wo Gene beginnen und enden, wie eine funktionale Proteinsequenz aussieht. Die Modelle sind als Open Weights seit Anfang 2025 auf Hugging Face verfügbar.

Für dieses Experiment fütterten die Stanford-Forscher Evo 1 und Evo 2 mit über zwei Millionen zusätzlichen Basenpaaren von Bakteriophagen-DNA und verfeinerten sie dann auf Microviridae, die Familie, zu der das Testvirus Phi X174 gehört.

Phi X174 ist ein winziges, gut charakterisiertes Virus mit elf Genen auf rund 5.400 Basenpaaren. Es infiziert E. coli. Sein Genom endet mit einer kurzen, wiederkehrenden Sequenz, die das Team als Prompt nutzte. Die richtige Prompt-Länge lag bei vier bis neun Basen: genug, um dem Modell zu signalisieren, was es produzieren soll, aber nicht genug, um einfach nur zurückzukopieren.

Die rohen Outputs wurden durch harte Filter gejagt: Das Spike-Protein, mit dem Phi X174 an Bakterien andockt, musste mindestens 60 Prozent Übereinstimmung mit dem echten haben; das Genom musste zwischen 4.000 und 6.000 Basen lang sein; keine Basenwiederholungen länger als zehn; GC- und AT-Verhältnisse mussten plausibel sein. Diese Filter reduzierten die Kandidaten von Tausenden auf 302 plausible Virus-Sequenzen.

Das Team konnte 285 von ihnen chemisch synthetisieren und in E. coli einschleusen.

16 funktionsfähige Viren, keines davon normal

Die meisten der 285 synthetisierten Sequenzen taten nichts. Aber 16 hemmten das Bakterienwachstum, der Beweis, dass sie als Viren funktionierten. Neun waren die ursprünglichen KI-Outputs; sieben hatten nach dem Einschleusen zusätzliche Mutationen erworben.

In mancher Hinsicht sahen diese Viren exakt wie ihr natürliches Gegenstück aus. Diejenigen mit 98 Prozent Sequenzähnlichkeit oder mehr hatten eine Überlebensrate von 46 Prozent. Die Gesamtüberlebensrate über alle 285 Outputs hinweg lag bei nur 5,6 Prozent.

Aber die interessanten waren die, die dem Original kaum ähnelten.

Ein KI-designtes Virus hatte ein ganzes Protein verloren und dies mit Veränderungen an anderer Stelle im Genom kompensiert. Ein anderes trug ein völlig neues Gen, das kein natürlicher Phi-X174-Stamm besitzt. Ein drittes hatte eines seiner eigenen Gene gegen ein Gen aus einem entfernt verwandten Bakteriophagen ausgetauscht. Viele hatten Gene, die länger oder kürzer waren als ihre natürlichen Äquivalente.

Die Forscher führten eine bemerkenswerte Analyse durch. Bei Phi X174 hat selbst eine einzelne Aminosäure-Veränderung grob eine 20-prozentige Chance, das Virus abzutöten. Jedes Virus mit weniger als 25 Veränderungen hat nur eine 2,3-prozentige Überlebenswahrscheinlichkeit durch Zufallsmutation. Doch fast ein Viertel der KI-Outputs mit mehr als 25 Veränderungen war noch lebensfähig, darunter zwei mit über 50 Aminosäure-Veränderungen.

Die KI hat die Zufallsmutation nicht nur nachgeahmt. Sie hat sie übertroffen, indem sie konsequent Kombinationen von Veränderungen fand, die das Virus funktionsfähig hielten, wo die Evolution es abgetötet hätte.

Ein Cocktail, der Resistenzen überwand

Bakteriophagen werden seit Jahren als Behandlung gegen antibiotikaresistente Infektionen erforscht. Das Problem: Bakterien entwickeln schnell Resistenzen gegen einzelne Phagen, und Cocktails aus natürlichen Phagen versagen oft bei bereits resistenten Stämmen.

Das Stanford-Team testete einen Cocktail aus den 16 KI-designten Viren gegen einen resistenten E. coli-Stamm und verglich ihn mit einem Cocktail aus natürlichen Phagen. Der natürliche Cocktail versagte. Der KI-generierte Cocktail überwand die Resistenz: die Viren tauschten DNA-Abschnitte aus und akkumulierten neue Mutationen, die es ihnen ermöglichten, Wirte zu infizieren, die die natürlichen Phagen nicht erreichen konnten.

Dies ist noch keine einsatzbereite Therapie. Die Phagentherapie kämpft seit Jahrzehnten mit regulatorischen Hürden und Herstellungsproblemen. Aber das Ergebnis deutet darauf hin, dass KI-designte Phagen ein Problem lösen könnten (die evolvierte bakterielle Resistenz) an dem natürliche Ansätze immer wieder scheitern.

Die Vorsichtsmaßnahme, die keine Mauer ist

Das Stanford-Team traf eine bedeutende Vorsichtsmaßnahme während dieser Arbeit. Sie schlossen alle Sequenzen von Viren, die Wirbeltiere infizieren, aus den Trainingsdaten des Modells aus. Der Gedanke: Wenn das Modell noch nie ein Wirbeltier-Virus gesehen hat, kann es keins halluzinieren.

Das ist nicht die Sicherheitsmaßnahme, für die es gehalten wird.

Die Evo-Modelle sind Open Weights. Jeder mit ausreichenden Rechenressourcen kann sie herunterladen, auf jeder beliebigen DNA-Sequenz verfeinern und das Experiment wiederholen. Der Ausschluss aus den Trainingsdaten ist eine Wahl, keine technische Barriere. Die Studie selbst schließt mit einem Aufruf zu besserer Governance in diesem Bereich, einschließlich der Bestellung maßgeschneiderter DNA-Sequenzen, die nötig wäre, um solche Outputs im Labor zu synthetisieren.

Es wäre an der Zeit, darüber nachzudenken, dass jemand eine verwandte KI entwickeln könnte, die Viren entwerfen kann, die Wirbeltiere angreifen, schreiben die Forscher in der Science-Publikation.

Die KI-Biosicherheit hat jahrelang darüber diskutiert, ob Sprachmodelle Anleitungen für Biowaffen generieren könnten. Das Evo-Experiment ist eine unbequeme Erinnerung daran, dass das tatsächliche Risiko nicht von einer KI ausgeht, die jemandem erklärt, wie man ein Virus baut. Es könnte von einer KI ausgehen, die das Virus selbst baut.

Quellen

• Ars Technica: Large genome models used to design new viruses
• Nature: World’s first AI-designed viruses a step towards AI-generated life
• New York Times: This A.I. Just Created Viruses Not Found in Nature
• Washington Post: Inside the debate over a tech breakthrough raising questions about life itself
• Engadget: AI Is Now Making New Viruses
• Science (Originalstudie): DOI: 10.1126/science.aec2657