OpenAI heeft stilletjes een van zijn belangrijkste interne waarborgen ontmanteld door het team dat verantwoordelijk was voor het signaleren van de gevaarlijkste risico’s die zijn kunstmatige-intelligentiemodellen zouden kunnen opleveren, te ontbinden. Volgens de Financial Times was het OpenAI-team dat eind juli 2026 werd ontbonden de zogeheten preparedness-groep, de eenheid die belast was met het aangeven of de modellen misbruikt konden worden voor zaken als ontwikkeling van biologische wapens of grootschalige cyberaanvallen, en met het uitzoeken hoe dat voorkomen kon worden.
Summary
Belangrijkste punten
- OpenAI heeft volgens de Financial Times zijn preparedness-team eind juli 2026 ontbonden.
- De taak van het team was om ernstige risico’s van AI-modellen te beoordelen en manieren te ontwikkelen om die te beperken, waaronder bio- en cyberdreigingen.
- De verantwoordelijkheid voor risico’s wordt opgesplitst en ondergebracht bij bestaande teams in plaats van behandeld door één toegewijde groep.
- Ethiekhoofd Chloé Bakalar, Chief Futurist Josh Achiam en veiligheidschef Johannes Heidecke hebben OpenAI onlangs allemaal verlaten.
- Voormalig Anthropic-medewerker Dylan Scandinaro, die het preparedness-team leidde, verlegt zijn focus naar recursieve zelfverbeterende AI.
Wat er met OpenAI’s preparedness-team is gebeurd
Het preparedness-team van OpenAI bestond om één directe vraag te beantwoorden: kon een model echte schade aanrichten voordat het werd uitgebracht? Dat betekende testen of een systeem iemand kon helpen een biowapen te bouwen, een geavanceerde hackoperatie uit te voeren of anderszins ernstige schade te veroorzaken, en vervolgens waarborgen ontwerpen om dat risico te verkleinen. Die gecentraliseerde functie bestaat nu niet langer als een eigen eenheid.
In plaats daarvan is volgens de Financial Times het toezicht op specifieke gevarengebieden zoals bio- en cyberrisico opgesplitst en opgenomen in bestaande teams elders in het bedrijf. Er is niet langer één groep waarvan de volledige taak is om te letten op catastrofaal misbruik over de hele linie. Of die gedistribueerde aanpak dezelfde problemen net zo effectief opvangt, is iets wat buitenstaanders van buitenaf niet gemakkelijk kunnen verifiëren.
Niet het eerste veiligheidsteam dat verdwijnt
Dit is geen op zichzelf staande stap. OpenAI heeft de afgelopen jaren gestaag de meer onderzoeksgerichte, langetermijn-veiligheidsinfrastructuur ontmanteld waarop het ooit zijn reputatie bouwde. Het bedrijf heeft eerder zowel zijn AGI-readiness-team als zijn superalignment-team opgeheven, twee groepen die expliciet gericht waren op het voorbereiden op scenario’s waarin AI-systemen veel capabeler worden dan ze nu zijn.
Gezamenlijk wijst het patroon op een bedrijf dat zijn veiligheidsapparaat versmalt op precies het moment dat zijn modellen krachtiger worden, niet minder. Elk afzonderlijk opheffen kan er routineus uitzien. Boven op elkaar gestapeld begint het te lijken op een strategische terugtrekking uit het soort langetermijnrisicoplanning dat OpenAI ooit publiekelijk voorstond.
Een golf van vertrekken vult het beeld aan
De herstructurering valt samen met een reeks spraakmakende vertrekken uit de veiligheids- en ethiekgelederen van OpenAI. Ethiekhoofd Chloé Bakalar, Chief Futurist Josh Achiam en veiligheidschef Johannes Heidecke hebben het bedrijf onlangs allemaal verlaten. Geen van hen is vervangen door een opvolger met exact dezelfde titel, althans niet publiekelijk.
Die combinatie, een ontbonden team plus vertrekkend leiderschap, heeft kritiek aangewakkerd van mensen die de ontwikkeling van de veiligheidsverplichtingen van het bedrijf door de tijd heen hebben gevolgd. Jan Leike, die in 2024 bij OpenAI opstapte, zei tegen de Financial Times dat het bedrijf veiligheid negeerde ten gunste van het creëren van wat hij “glimmende producten” noemde. Het is een scherpe beschuldiging, en een die zwaarder weegt gezien het aantal veiligheidsgerichte functies dat in korte tijd is leeggelopen.
Waarom de timing ertoe doet
Dit alles gebeurt niet in een vacuüm. OpenAI beweegt richting wat naar verwachting een enorme beursgang zal worden, en bedrijven die zich voorbereiden op dat soort controle hebben de neiging om operaties te stroomlijnen, teams te consolideren en alles te schrappen wat niet duidelijk past in een groeiverhaal dat investeerders kunnen begrijpen. Een toegewijd risicobeoordelingsteam dat zich richt op worstcasescenario’s past niet per se in dat narratief, zelfs als het past bij de missie waarover OpenAI sinds zijn oprichting heeft gesproken.
Dit is van belang buiten de muren van OpenAI zelf. Het bedrijf heeft zich lange tijd gepositioneerd als een leider op het gebied van verantwoorde AI-ontwikkeling, en zijn interne keuzes over veiligheidsbezetting zetten vaak de toon die de rest van de sector nauwlettend volgt. Als een bedrijf op de schaal van OpenAI toegewijde risicoteams in productgroepen onderbrengt voorafgaand aan een beursnotering, zullen concurrenten en toezichthouders waarschijnlijk goed letten op wat dat signaleert over waar de prioriteiten liggen zodra de commerciële druk toeneemt.
Wie nu het risicowerk stuurt
Dylan Scandinaro, die het preparedness-team leidde voordat het werd ontbonden, verlaat het bedrijf niet. Scandinaro, die in februari bij Anthropic werd weggeplukt, richt zijn aandacht in plaats daarvan op een smallere maar mogelijk zwaarder wegende vraag: de implicaties van recursieve zelfverbeterende AI, systemen die in staat zijn hun eigen capaciteiten te vergroten zonder veel menselijke betrokkenheid in de lus.
Die herplaatsing suggereert dat OpenAI nog steeds toegewijde ogen wil hebben op zijn meest extreme langetermijnrisico’s, alleen niet meer georganiseerd zoals voorheen. Of het onderbrengen van bio- en cyberrisicobeoordeling in bestaande productteams, terwijl er een smallere onderzoeksrol wordt uitgesneden voor één voormalige teamleider, samen neerkomt op een gelijkwaardige dekking, is de open vraag die critici zoals Leike stellen. Vooralsnog heeft OpenAI niet publiekelijk uiteengezet hoe de herverdeelde verantwoordelijkheden zullen worden gemeten of op dezelfde manier ter verantwoording zullen worden geroepen als een zelfstandig team ooit werd.
FAQ
Waar was het preparedness-team van OpenAI verantwoordelijk voor?
Het preparedness-team beoordeelde of de AI-modellen van OpenAI ernstige risico’s met zich meebrachten, zoals het mogelijk maken van de ontwikkeling van biowapens of grootschalige cyberaanvallen, en ontwikkelde strategieën om die risico’s te beperken voordat modellen werden uitgebracht.
Waarom heeft OpenAI zijn preparedness-team ontbonden?
OpenAI heeft geen gedetailleerde publieke uitleg gegeven. De Financial Times meldt dat de stap eind juli 2026 plaatsvond en gepaard gaat met een bredere herstructurering nu het bedrijf op weg is naar een grote verwachte beursgang, na eerdere beslissingen om zijn AGI-readiness- en superalignment-teams te ontbinden.
Wie behandelt nu de AI-risicobeoordeling bij OpenAI?
De verantwoordelijkheid voor specifieke risicogebieden zoals bio- en cyberdreigingen is opgesplitst en verplaatst naar bestaande teams in plaats van gecentraliseerd in één groep. Dylan Scandinaro, de voormalige leider van het preparedness-team, richt zich nu specifiek op de implicaties van recursieve zelfverbeterende AI.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Waar was het preparedness-team van OpenAI verantwoordelijk voor?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Het preparedness-team beoordeelde of de AI-modellen van OpenAI ernstige risico’s met zich meebrachten, zoals het mogelijk maken van de ontwikkeling van biowapens of grootschalige cyberaanvallen, en ontwikkelde strategieën om die risico’s te beperken voordat modellen werden uitgebracht.”}},{“@type”:”Question”,”name”:”Waarom heeft OpenAI zijn preparedness-team ontbonden?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”OpenAI heeft geen gedetailleerde publieke uitleg gegeven. De Financial Times meldt dat de stap eind juli 2026 plaatsvond en gepaard gaat met een bredere herstructurering nu het bedrijf op weg is naar een grote verwachte beursgang, na eerdere beslissingen om zijn AGI-readiness- en superalignment-teams te ontbinden.”}},{“@type”:”Question”,”name”:”Wie behandelt nu de AI-risicobeoordeling bij OpenAI?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”De verantwoordelijkheid voor specifieke risicogebieden zoals bio- en cyberdreigingen is opgesplitst en verplaatst naar bestaande teams in plaats van gecentraliseerd in één groep. Dylan Scandinaro, de voormalige leider van het preparedness-team, richt zich nu specifiek op de implicaties van recursieve zelfverbeterende AI.”}}]}
Artikel geproduceerd met behulp van kunstmatige intelligentie en beoordeeld door de redactie.
