In een laboratorium aan de Stanford University zagen onderzoekers heldere vlekken zich verspreiden over een petrischaal vol bacteriën — het onmiskenbare teken dat iets wat zij volledig binnen een computer hadden gebouwd zojuist tot leven was gekomen. De organismen die die bacteriën uitroeiden, waren niet uit de natuur gehaald. Het waren door AI ontworpen virussen, gegenereerd door een computationeel model genaamd Evo en vervolgens chemisch vanaf nul opgebouwd, en de resultaten roepen nu vragen op die veel verder reiken dan één kelderlaboratorium in Stanford.
Summary
Belangrijkste punten
- Evo, een AI-model ontwikkeld door Stanford University en het Arc Institute, stelde 700.000 mogelijke virale genomen voor, waarvan er 285 chemisch werden gesynthetiseerd en 16 virussen opleverden die zich konden repliceren en bacteriën konden doden.
- Evo werd eerst getraind op ongeveer negen biljoen nucleotiden van miljoenen dieren, planten, microben en virussen, en daarna gespecialiseerd op de 11 genen van de bacteriofaag Phi X-174 en ongeveer 15.000 verwante genomen.
- De door AI gegenereerde virussen waren even robuust als natuurlijke virussen, en sommige replikeerden sneller dan de natuurlijke faag Phi X-174 zelf.
- De huidige bioveiligheidsregels van de US National Institutes of Health verbieden experimenten die ziekteverwekkers gevaarlijker maken, maar dekken niet duidelijk het puur computationeel ontwerpen van virussen, tenzij het een “entity of concern” betreft.
- Deskundigen, waaronder Moritz Hanke van het Johns Hopkins Center for Health Security, waarschuwen voor een groeiende kloof tussen wat AI nu kan doen en de regels die dat moeten reguleren.
AI-model Evo ontwerpt nieuwe virale genomen voor bacteriën
Evo werkt als een genetische versie van een groot taalmodel en voorspelt DNA-sequenties zoals ChatGPT het volgende woord in een zin voorspelt. In plaats van taal leerde het echter de patronen die zijn vastgelegd in de genetische code van het leven zelf. Het team erachter, gevestigd aan Stanford en het Arc Institute, wilde nagaan of dat soort patroonherkenning een stap verder kon gaan dan het ontwerpen van individuele eiwitten of antibiotica — en daadwerkelijk een werkend virus kon produceren.
Hoe Evo werd getraind
De opleiding van het model vond in twee fasen plaats. Evo’s initiële training maakte gebruik van ongeveer negen biljoen nucleotiden, afkomstig van miljoenen organismen uit de dieren-, planten-, microben- en virale rijken, waarbij het patronen absorbeerde die door de hele levensboom heen lopen. Pas na die brede basis volgde een tweede, gespecialiseerde trainingsronde, ditmaal nauw gericht op de 11 genen van de bacteriofaag Phi X-174 en ongeveer 15.000 van zijn naaste verwanten. Voor Samuel King, promovendus aan Stanford en coauteur van het onderzoek, voelde het gelaagd trainen op deze manier als de voor de hand liggende keuze. “Het voelde gewoon als de voor de hand liggende volgende stap,” zei hij.
Van 700.000 kandidaten naar 16 werkende virussen
Eenmaal getraind stelde Evo 700.000 mogelijke virale genomen voor. De onderzoekers brachten die enorme pool terug tot de meest veelbelovende kandidaten en lieten 285 sequenties chemisch synthetiseren als DNA, dat vervolgens in bacteriën werd ingebracht om te zien wat er zou gebeuren. Zestien van die sequenties produceerden virussen die zich konden repliceren — en, cruciaal, in staat waren de doelbacterie, E. coli, in het proces te doden. King en zijn collega’s beseften naar verluidt in de vroege ochtenduren dat de faag werkte, terwijl ze zagen hoe heldere vlekken op de petrischalen verschenen. “We begonnen deze heldere vlekken te zien en het was gewoon extreem opwindend,” zei King. Toen het bredere team de resultaten zag, “barstte de kamer spontaan in applaus uit,” aldus Stanford-assistent-professor Brian Hie.
Hoe door AI ontworpen virussen daadwerkelijk presteerden in het lab
De 16 virussen die uit het experiment naar voren kwamen, waren geen fragiele labcuriosa. Ze evenaarden de prestaties van natuurlijk voorkomende virussen en overtroffen die in sommige gevallen zelfs — een resultaat dat zelfs onderzoekers die niet bij het werk betrokken waren, verraste.
Robuustheid, snelheid en wetenschappelijke mijlpalen
De ontworpen virussen bleken even robuust als natuurlijke varianten, en sommige replikeerden zelfs sneller dan Phi X-174 zelf. “Het zijn niet zomaar zwakke versies van dingen die al bestaan,” zei Oliver Crook, eiwitchemicus aan de Universiteit van Oxford, die niet bij de studie betrokken was. Patrick Cai, synthetisch bioloog aan de Universiteit van Manchester, noemde het werk een “belangrijke mijlpaal” en voegde eraan toe dat “de betekenis veel verder reikt dan faagonderzoek — het suggereert dat genometaalmodellen beginnen de ontwerpprincipes te leren die door evolutie zijn gecodeerd, waardoor de deur opengaat naar door AI ondersteund schrijven van genomen.” Marc Güell, van het synthetische-biologielab aan de Pompeu Fabra Universiteit, beschreef het als een “zeer belangrijk keerpunt” omdat we voor het eerst “biologie beginnen te ontwerpen op een computer.”
Toch was Crook voorzichtig met het temperen van de verwachtingen. De AI heeft niets fundamenteel nieuws uitgevonden — de resulterende virussen lijken sterk op natuurlijke soorten en steunen op dezelfde onderliggende biologie in plaats van op een nieuw mechanisme. Of Evo hetzelfde kunstje kan flikken met andere virusfamilies blijft een open vraag. Als de aanpak inderdaad generaliseert, zei Crook, kan dat echt nuttige hulpmiddelen opleveren voor geneeskunde en biotechnologie: “Veel van onze wetenschap steunt op virussen als technologie.” Ter context: het faaggenoom waarmee het team werkte telt ongeveer 5.400 baseparen, vergeleken met ruwweg 500.000 baseparen in de kleinste levende cel en ongeveer drie miljard in het menselijk genoom — een kloof waarvan Hie zegt dat die het ontwerpen van een eenvoudig levend organisme “waarschijnlijk veel werk, maar niet onmogelijk” maakt, en iets waar het team “zeker in geïnteresseerd is om naartoe te werken.”
Hiaten in bioveiligheid rond computationeel virusontwerp
De doorbraak komt op een moment dat het Amerikaanse bioveiligheidsbeleid de mogelijkheden van wat AI-modellen nu op een scherm kunnen genereren nog niet heeft ingehaald. Die mismatch staat centraal in het debat rond door kunstmatige intelligentie gestuurde virusgenoomsynthese.
Wat de Amerikaanse bioveiligheidsregels niet dekken
Eind juli presenteerden de National Institutes of Health een beleid met betrekking tot hoogrisico-levenswetenschappelijk onderzoek dat het creëren van gevaarlijkere pathogene varianten verbiedt. Werk dat volledig via computationele methoden wordt uitgevoerd — het ontwerpen van viraal DNA op een computer zonder het fysiek te bouwen — valt echter niet onder de regels “tenzij het een entity of concern betreft”, aldus het agentschap. Dat onderscheid is eenvoudig toe te passen op iets als pokken, dat duidelijk als gevaarlijk is geclassificeerd. Het wordt veel onduidelijker wanneer het virus in kwestie uit een AI-model komt in plaats van uit een bekende pathogenenlijst, precies het soort ambiguïteit dat nu de debatten vormgeeft over bioveiligheidsregulering waar AI-beleid moeite mee heeft om gelijke tred te houden.
Voorzorgsmaatregelen en waarschuwingen van experts
Het team van Stanford en het Arc Institute wachtte niet tot toezichthouders waren bijgebeend. Tijdens de hele trainingsfase werd Evo niet blootgesteld aan enige informatie over virussen die mensen infecteren of aanverwante pathogene organismen die dieren, planten of schimmels aantasten — wat betekent dat het model die genetische sequenties simpelweg niet kan produceren. “Onze bedoeling was simpelweg om maximale voorzichtigheid te betrachten,” zei Brian Hie. Moritz Hanke van het Johns Hopkins Center for Health Security noemde die beslissing “zeer prijzenswaardig”, vooral omdat er geen officiële regels waren die dit vereisten: “Omdat ze nergens enige richtlijn krijgen over wat ze zouden moeten doen.”
Hanke en Thomas Inglesby, eveneens van Johns Hopkins, gingen nog verder in een commentaar dat samen met het onderzoek in het tijdschrift Science werd gepubliceerd, waarin ze waarschuwen dat de bevindingen “dringende vragen over bioveiligheid en biosecurity oproepen.” De echte kwestie, zo betoogden zij, is niet of generatief ontwerp van virale genomen in de toekomst zal bestaan — dat doet het duidelijk al — maar of het kan worden gebruikt zonder “ernstige schade mogelijk te maken.” Hanke formuleerde de zorg onomwonden: “Wat is het risico van iets wat ik nog nooit eerder heb gezien?” vroeg hij, waarbij hij sprak van “een enorme kloof” tussen hoe snel de wetenschap zich ontwikkelt en hoe langzaam de vangrails volgen. Zijn worstcasescenario is eenvoudig voor te stellen: “Je zou kunnen zeggen: ‘Hé, genometaalmodel, maak voor mij een influenzagenoom dat is aangepast om beter overdraagbaar of dodelijker te zijn.'”
Waarom dit ertoe doet: dezelfde computationele snelkoppeling die Evo in staat stelde om in enkele maanden 16 werkende bacteriofagen te ontwerpen, met gebruik van negen biljoen nucleotiden aan trainingsdata en een gerichte vervolgronde op Phi X-174, is een methode met een algemeen toepassingsbereik. Niets aan de onderliggende techniek beperkt haar tot onschuldige bacteriedoders. Precies dat gat wijzen Hanke en Inglesby aan: een onderzoeksmethode die sneller vooruitgaat dan het beleid dat haar moet inperken, in een veld waar onderzoek in de synthetische biologie de grens tussen het ontwerpen van nieuwe medicijnen en het ontwerpen van nieuwe risico’s steeds verder doet vervagen.
Voorlopig zeggen de onderzoekers dat de waarborgen die zij toepasten — het uitsluiten van data over virussen die mensen infecteren, uitsluitend werken met bacteriofagen en alles uitvoeren in een beveiligd laboratorium — een grote bijdrage leveren aan het richten van de technologie op voordeel in plaats van schade. Hie stelt dat de aanpak het potentieel heeft om “de menselijke gezondheid enorm te verbeteren” via nieuwe geneesmiddelen en therapieën, waaronder faag-gebaseerde behandelingen voor antibioticaresistente infecties. Of die belofte standhoudt buiten Phi X-174, en of toezichthouders in actie komen voordat de volgende versie van dit experiment zich op een minder beheersbaar doel richt, zijn de twee vragen die waarschijnlijk zullen bepalen wat de volgende stap wordt voor door AI ontworpen virussen.
FAQ
Hoe effectief waren de door AI ontworpen virussen in laboratoriumtests?
Van de 285 gesynthetiseerde virale genoomsequenties produceerden er 16 virussen die zich konden repliceren en bacteriën in het lab konden doden.
Welke data werd gebruikt om het AI-model Evo te trainen?
Evo werd eerst getraind op ongeveer negen biljoen nucleotiden van miljoenen dieren, planten, microben en virussen, en vervolgens specifiek op de 11 genen van faag Phi X-174 en ongeveer 15.000 verwante genomen.
Waarom reguleren de huidige Amerikaanse bioveiligheidsregels door AI ontworpen virussen niet?
Omdat puur computationeel ontwerp van viraal DNA niet onder de huidige Amerikaanse NIH-regels valt, tenzij het een entity of concern betreft, waardoor een regelgevend gat ontstaat voor door AI ontworpen virussen.
Welke voorzorgsmaatregelen namen de wetenschappers tijdens de training van Evo?
Ze sloten data uit over virussen die mensen infecteren en verwante pathogenen, om te voorkomen dat de AI mogelijk schadelijke, menseninfecterende virale genomen zou genereren.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Hoe effectief waren de door AI ontworpen virussen in laboratoriumtests?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Van de 285 gesynthetiseerde virale genoomsequenties produceerden er 16 virussen die zich konden repliceren en bacteriën in het lab konden doden.”}},{“@type”:”Question”,”name”:”Welke data werd gebruikt om het AI-model Evo te trainen?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Evo werd eerst getraind op ongeveer negen biljoen nucleotiden van miljoenen dieren, planten, microben en virussen, en vervolgens specifiek op de 11 genen van faag Phi X-174 en ongeveer 15.000 verwante genomen.”}},{“@type”:”Question”,”name”:”Waarom reguleren de huidige Amerikaanse bioveiligheidsregels door AI ontworpen virussen niet?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Omdat puur computationeel ontwerp van viraal DNA niet onder de huidige Amerikaanse NIH-regels valt, tenzij het een entity of concern betreft, waardoor een regelgevend gat ontstaat voor door AI ontworpen virussen.”}},{“@type”:”Question”,”name”:”Welke voorzorgsmaatregelen namen de wetenschappers tijdens de training van Evo?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Ze sloten data uit over virussen die mensen infecteren en verwante pathogenen, om te voorkomen dat de AI mogelijk schadelijke, menseninfecterende virale genomen zou genereren.”}}]}
Artikel geproduceerd met behulp van kunstmatige intelligentie en beoordeeld door de redactie.
