Ga naar inhoud
  • BTC $60.134 +1,8%
  • ETH $1.687 +3,6%
  • SOL $70,32 +2,1%
  • BNB $549,61 +1,8%
  • XRP $0,9317 +2,1%
  • DOGE $0,0551 +0,8%
  • ADA $0,1440 +0,2%

OpenAI en Anthropic dringen bij het Congres aan op regelgeving voor synthetisch DNA door AI

OpenAI en Anthropic steunen regelgeving voor synthetisch DNA door AI en dringen er bij het Congres op aan om screening, klantverificatie en risicoanalyses voor synthesediensten verplicht te stellen.

AI synthetic DNA regulation
AI synthetic DNA regulation: OpenAI and Anthropic urge Congress

Twee van de machtigste bedrijven op het gebied van kunstmatige intelligentie hebben iets zeldzaams gedaan in de technologiesector: ze hebben de overheid gevraagd een sector te reguleren waarin ze zelf niet actief zijn. OpenAI en Anthropic hebben samen een brief ondertekend waarin ze het Amerikaanse Congres oproepen om strikte nieuwe regels op te leggen voor regulering van synthetische AI-DNA, niet om hun eigen modellen te beperken, maar om te voorkomen dat die modellen iemand helpen een biologisch wapen te synthetiseren.

De stap valt op om een eenvoudige reden. Sam Altman en Dario Amodei leiden bedrijven die fel concurreren om talent, rekenkracht, kapitaal en klanten. Toch hebben ze dezelfde brief ondertekend, en dat is belangrijk omdat het laat zien hoe serieus beide bedrijven het risico nemen. In de praktijk is hun overeenstemming een signaal dat de dreiging verder is gegaan dan louter theorie.

AI-leiders dringen er bij het Congres op aan om de verkoop van synthetisch DNA te reguleren

De brief richt zich op de toeleveringsketen van synthetisch DNA, het commerciële netwerk van leveranciers dat op maat gemaakte genetische sequenties produceert voor onderzoek, geneeskunde en industriële biologie. Op dit moment kan iedereen met genoeg geld en een afleveradres gesynthetiseerd DNA bestellen bij een groeiende lijst van aanbieders. Ondertussen wordt het proces steeds meer geautomatiseerd en betaalbaarder.

Wat OpenAI en Anthropic zorgen baart, is wat er gebeurt wanneer krachtige taalmodellen in die workflow terechtkomen. AI kan een gebruiker helpen complexe biologische processen te begrijpen, syntheseproblemen op te lossen, gevaarlijke ziekteverwekkers te evalueren en sequenties met specifieke eigenschappen te identificeren. Daardoor creëert de combinatie van toegankelijke AI en toegankelijke DNA-synthese een pad dat vijf jaar geleden nog niet in betekenisvolle mate bestond.

De brief vraagt het Congres niet om AI-modellen zelf te beperken. In plaats daarvan richt hij zich op het fysieke knelpunt: het moment waarop een synthese-order een faciliteit van een leverancier verlaat.

Voorgestelde regels voor leveranciers van DNA- en RNA-synthese

Het raamwerk dat in de brief wordt geschetst, is specifiek en operationeel. Het is geen brede oproep tot “meer toezicht”. In plaats daarvan formuleert het drie concrete vereisten voor leveranciers van DNA- en RNA-synthese.

Verplichte screening aan de hand van databases met gevaarlijke sequenties

Elke synthese-order zou moeten worden gescreend aan de hand van gevestigde databases met bekende gevaarlijke sequenties voordat deze wordt uitgevoerd. In feite zouden leveranciers elke aangevraagde sequentie door een biosecurityfilter halen om te controleren of deze lijkt op of overeenkomt met genetisch materiaal dat is gekoppeld aan geselecteerde agentia, toxines of andere biologische dreigingen.

Klantenverificatie voor DNA-synthese-orders

Klantenverificatie zou verschuiven van optioneel naar verplicht. Op dit moment verschillen syntheseleveranciers sterk in hoe zorgvuldig ze nagaan wie een order plaatst. Onder het voorgestelde raamwerk voor naleving van DNA-synthese zou dat verificatieproces worden gestandaardiseerd en verplicht worden gesteld in de hele sector.

Uitgebreide risicoanalyses vóór verzending

Voordat een order wordt verzonden, zouden leveranciers uitgebreide risicoanalyses op orderniveau moeten uitvoeren. Dat betekent dat niet alleen de sequentie zelf wordt beoordeeld, maar ook de context van het verzoek, inclusief wie bestelt, het opgegeven doel en of het volledige geheel aan details signalen afgeeft die extra controle of weigering vereisen.

Samen zouden deze maatregelen de DNA-synthesesector verschuiven van grotendeels zelfgereguleerde praktijken naar een door de federale overheid verplicht nalevingssysteem.

Waarom OpenAI en Anthropic biowapenrisico zien in AI

De oproep tot regulering komt niet voort uit vage bezorgdheid. OpenAI voert sinds begin 2024 interne red-teaming-oefeningen uit om te testen of zijn grote taalmodellen iemand op betekenisvolle wijze kunnen helpen bij het evalueren van biologische dreigingen. De resultaten waren zorgwekkend genoeg om het bedrijf ervan te overtuigen dat vrijwillige sectornormen niet langer volstaan.

Dat punt is belangrijk omdat red-teaming bedoeld is om een systeem onder vijandige omstandigheden te stresstesten. Met andere woorden, het vraagt wat het ergste misbruik zou kunnen zijn. De eigen evaluaties van OpenAI brachten geloofwaardige biowapenscenario’s aan het licht, en die bevindingen hielpen de argumentatie voor regulering vorm te geven.

Dario Amodei heeft zich ook uitgesproken over biologische risico’s van AI. Onderzoek van Anthropic heeft gewezen op het potentieel van grote taalmodellen om betekenisvolle “uplift” te bieden — een biosecurityterm voor hulp die iemand dichter bij een gevaarlijke capaciteit brengt die hij of zij anders niet zou kunnen bereiken — aan mensen die proberen complexe biologische processen te doorlopen. Daardoor weerspiegelt het feit dat Amodei en Sam Altman hetzelfde document mede hebben ondertekend een zeldzaam moment van consensus in de sector.

Die afstemming tussen concurrenten stuurt een boodschap naar het Congres. Wanneer de twee toonaangevende AI-labs het erover eens zijn dat een dreiging ernstig genoeg is om overheidsingrijpen te vereisen, wordt het argument om niets te doen zwakker.

Wat regulering van synthetisch AI-DNA kan betekenen voor biotechmarkten

Als het voorstel wordt aangenomen, zou het verschillende markten tegelijk kunnen hervormen, zij het niet op dezelfde manier.

Voor DNA-synthesebedrijven zouden screeningsystemen, tools voor klantenverificatie en risicoanalyses op orderniveau reële kosten met zich meebrengen. Kleinere leveranciers met smalle marges zouden het bijzonder moeilijk kunnen krijgen om aan die nalevingsvereisten te voldoen. Daardoor zou de markt kunnen consolideren, waarbij grotere bedrijven die al over nalevingsinfrastructuur beschikken een voordeel krijgen ten opzichte van kleinere concurrenten. Nieuwe toetreders zouden ook met hogere drempels worden geconfronteerd.

Tegelijkertijd zou het voorstel een rugwind kunnen creëren voor een andere groep bedrijven. Biosecuritytechnologiebedrijven, vooral diegenen die platforms voor sequentieanalyse, databases met biologische dreigingen en screeningtools bouwen, zouden een sterkere vraag kunnen zien als federale regels een formele behoefte aan hun producten creëren. In die zin zou verplichte naleving van DNA-synthese een nieuwe markt voor investeringen in biosecuritytechnologie kunnen openen.

Het beeld is ingewikkelder voor gedecentraliseerde wetenschap. Verschillende blockchain-gebaseerde DeSci-projecten bevinden zich op het snijvlak van AI en biologisch onderzoek en bieden open platforms voor het delen van genomische data, geneesmiddelenontdekking en tooling voor synthetische biologie. Verplichte screening op de laag van DNA-synthese zou echter wrijving kunnen veroorzaken voor open-toegankelijke workflows die afhankelijk zijn van een soepele overgang tussen onderzoeksstappen. Projecten die zijn opgebouwd rond toestemmingloze toegang tot biologische data moeten mogelijk worden herontworpen rond nalevingscontrolepunten waarvoor ze niet zijn ontworpen.

De bredere beleidscontext is ook van belang. Deze oproep past binnen de bredere AI-beleidsdynamiek van 2026 rond toezicht op dual-use-technologie. De overlap tussen synthetische biologie en AI maakt het tot een van de duidelijkste voorbeelden van dual-use-risico: technologie die essentieel is voor legitieme wetenschap maar potentieel catastrofaal in verkeerde handen. In die context maakt de brief van OpenAI en Anthropic deel uit van een groter debat over waar de grens moet worden getrokken.

Of het Congres snel, langzaam of helemaal niet in actie komt, zal bepalen of de brief een beleidsmijlpaal wordt of een historische voetnoot. De screeningsinfrastructuur, verificatiesystemen en protocollen voor risicoanalyse bestaan al in delen van de sector. De open vraag is of ze wettelijk verplicht, universeel toegepast en consequent gehandhaafd zullen worden.

FAQ

Waarom vragen OpenAI en Anthropic om regulering van de verkoop van synthetisch DNA?

Beide bedrijven zeggen dat AI-modellen mensen op betekenisvolle wijze kunnen helpen bij het evalueren en mogelijk ontwikkelen van biologische dreigingen. In combinatie met de toegankelijkheid van commerciële DNA-synthese stellen ze dat dit een ernstig biosecurityrisico creëert dat vrijwillige sectornormen niet zelfstandig kunnen opvangen. Hun brief aan het Amerikaanse Congres roept op tot federale actie in de synthese-toeleveringsketen.

Welke specifieke regulerende maatregelen worden in de brief voorgesteld?

De brief stelt drie hoofdvereisten voor: verplichte screening van alle DNA- en RNA-synthese-orders aan de hand van databases met bekende gevaarlijke sequenties, verplichte klantenverificatie voor elke synthese-order en uitgebreide risicoanalyses voor elke order voordat deze wordt verzonden.

Hoe heeft AI potentiële risico’s bij het ondersteunen van de ontwikkeling van biowapens aangetoond?

OpenAI zei dat het begin 2024 interne red-teaming-oefeningen is gestart om te testen of zijn grote taalmodellen iemand op betekenisvolle wijze konden helpen bij het beoordelen van biologische dreigingen. Die oefeningen leverden resultaten op die ernstig genoeg waren om het bedrijf richting regulerende actie te duwen in plaats van uitsluitend te vertrouwen op zelfregulering.

Welke impact kan de regulering hebben op biotechbedrijven en technologiemarkten?

Nalevingskosten zouden tot consolidatie onder DNA-syntheseleveranciers kunnen leiden, vooral bij kleinere bedrijven. Ondertussen zouden bedrijven die zich richten op sequentieanalyse, screeningsystemen en databases met biologische dreigingen kunnen profiteren als federale regels een bredere vraag naar hun tools creëren.

Hoe kunnen deze regels gedecentraliseerde wetenschapsprojecten met synthetische biologie beïnvloeden?

Blockchain-gebaseerde DeSci-projecten die afhankelijk zijn van open biologische data-uitwisseling en tooling voor synthetische biologie kunnen met nieuwe wrijving te maken krijgen. Verplichte screening op de laag van DNA-synthese kan hen dwingen nalevingsstappen toe te voegen aan workflows die zijn ontworpen rond open, toestemmingloze toegang.

Francesco Antonio Russo

Alle artikelen van Francesco Antonio Russo