Zes dagen, $3.000 aan API‑tegoed en volledige toegang tot GPU’s en het open web klinkt als een droomopstelling voor elke onderzoeker. Geef diezelfde opstelling echter aan een AI‑agent en er gebeurt iets merkwaardigs: hij zal elke laatste token besteden aan het redden van een idee dat op dag twee al had moeten worden geschrapt. Dat is de kernbevinding van een nieuwe blik op beperkingen van AI‑onderzoeksprojecten, en die wijst op een leemte in autonome AI‑systemen die niets met intelligentie te maken heeft en alles met oordeelsvermogen.
Summary
Belangrijkste punten
- Onderzoekers gaven AI‑agenten zes dagen, $3.000 aan API‑tegoed, GPU‑rekenkracht, webtoegang en twee echte onderzoeksvragen afkomstig uit niet‑gepubliceerde NeurIPS‑inzendingen.
- De agenten voerden hun eigen experimenten uit en schreven volledige artikelen zonder dat een mens de onderliggende code schreef of bewerkte.
- Menselijke experts die maanden aan dezelfde vragen hadden gewerkt, beoordeelden de resulterende artikelen met 2 van de 6 en 1 van de 6 — duidelijke afwijzingen.
- De agenten konden rekenkracht beheren, code debuggen en reageren op feedback van beoordelaars, maar ze konden niet herkennen wanneer hun hele aanpak al was mislukt.
- Het oplossen van het probleem zal waarschijnlijk stopcondities, budgetcontroles en vertrouwenstracking vereisen die direct in de werking van agenten zijn ingebouwd.
AI‑agenten testen op echte onderzoeksvragen
Het experiment was opgezet om een eenvoudige vraag te beantwoorden: kan een AI‑agent een echt wetenschappelijk onderzoeksproject van begin tot eind uitvoeren? De opzet gaf elke agent alles wat een junior onderzoeker zou kunnen vragen en liet de machines vervolgens zonder toezicht werken.
Middelen en onderzoeksvragen die aan de agenten zijn gegeven
Elke agent kreeg zes dagen, $3.000 aan API‑tegoed, GPU‑rekenkracht, webtoegang en de mogelijkheid om subagenten op te starten om het werk te verdelen. De twee onderzoeksvragen waren niet voor de test verzonnen — ze kwamen rechtstreeks uit niet‑gepubliceerde NeurIPS‑inzendingen, wat betekent dat de agenten problemen aanpakten waar werkende wetenschappers daadwerkelijk tijd aan hadden besteed. Dat detail is belangrijk. Het sluit de mogelijkheid uit dat de agenten simpelweg een makkelijk doelwit kozen; ze kregen vragen voorgeschoteld die serieus genoeg waren voor een conferentie‑inzending.
Autonome experimenten en artikelgeneratie
Vanaf dat moment namen beide agenten het volledig over. Ze voerden de experimenten uit en schreven complete artikelen zonder dat een mens ook maar één regel code schreef of bewerkte. Dat op zich is al een betekenisvolle capaciteit. De agenten beheerden ook hun eigen rekenbudgetten, debugden code wanneer er iets misging, analyseerden de terugkomende resultaten en beantwoordden feedback van beoordelaars zoals een promovendus een concept zou verdedigen. Op papier leek de workflow op een functionerend onderzoeksproces.
Hoe de artikelen werden beoordeeld
Het eindresultaat hield geen stand zodra het menselijke ogen bereikte. Onderzoekers die maanden aan dezelfde vragen hadden gewerkt, beoordeelden beide door AI geschreven artikelen en wezen ze direct af.
Scores die automatische afwijzing betekenden
Het oordeel was hard: de menselijke experts gaven de twee artikelen scores van 2 van de 6 en 1 van de 6. In academische peerreview vertalen die cijfers zich rechtstreeks in afwijzing, zonder enige ambiguïteit. Dit is het soort uitkomst dat ertoe doet voor iedereen die wil inschatten hoever evaluatie van AI‑onderzoeksagenten daadwerkelijk is gevorderd — de agenten produceerden gepolijste, complete documenten, maar afwerking is niet hetzelfde als wetenschappelijke waarde.
Zelfbeoordeling door agenten en herkenning van tekortkomingen
Wat het resultaat interessanter maakt, is dat de agenten niet blind waren voor hun eigen problemen. Hun zelfbeoordelingen markeerden veel van dezelfde zwaktes die de menselijke experts later aanhaalden. Met andere woorden, de agenten zagen de scheuren ontstaan. Wat ze misten, was het oordeelsvermogen om te beslissen dat die scheuren betekenden dat het project volledig herzien moest worden, of volledig moest worden opgegeven.
De echte beperking: weten wanneer je moet stoppen
Het falen van de agenten ging niet over liegen, feiten hallucineren of gebroken code schrijven — het ging erom dat ze weigerden een verloren aanpak los te laten. Toen vroege experimenten de oorspronkelijke ideeën begonnen te verzwakken, reageerden beide agenten met kleine aanpassingen in plaats van een stap terug te doen. Ze beperkten hun claims, voegden voorbehouden toe en bleven resultaten oppoetsen die hun eigen beoordelaars al als te zwak hadden aangemerkt.
Dit is waarom het falen verder reikt dan één experiment. De agenten van vandaag zijn over het algemeen gebouwd om elke workflow die ze krijgen af te maken, niet om zich af te vragen of het voortzetten van die workflow de tijd, rekenkracht en het geld dat eraan wordt besteed nog waard is. Dat onderscheid is cruciaal om falen in AI‑besluitvorming in autonome systemen te begrijpen: een agent kan technisch bekwaam zijn in elke afzonderlijke stap — debuggen, analyseren, reageren op kritiek — en toch falen bij de hogere‑orde oordeelsvraag wanneer hij volledig moet stoppen.
Voor iedereen die deze systemen op schaal inzet, heeft die kloof reële financiële gevolgen. Een agent die een doodlopende weg niet kan herkennen, zal API‑tegoed en GPU‑tijd blijven verbruiken aan een project dat een mens dagen eerder zou hebben stopgezet. Het probleem is geen gebrek aan capaciteit. Het is een ontbrekende beslissingslaag boven op die capaciteit.
Wat er nodig is om dit op te lossen
Dit oplossen vergt meer dan een slimmer onderliggend model. Langdurig draaiende agenten hebben expliciete stopcondities nodig die in hun ontwerp zijn ingebouwd, samen met budget‑ en tijdscontroles die een pauze voor herbeoordeling afdwingen. Vertrouwenstracking — een mechanisme waarmee de agent kan registreren wanneer zijn eigen bewijs zich tegen hem begint te keren — en het vermogen om te escaleren, te herplannen of een aanpak volledig te verlaten, zijn de onderdelen die in de huidige systemen lijken te ontbreken.
Er is ook een transparantieprobleem dat operators moeten oplossen. Een afgerond, gepolijst artikel laat alleen zien dat een agent zijn toegewezen taak heeft voltooid; het zegt niets over de vraag of de agent onderweg een doodlopende weg heeft herkend, intelligent op kritiek heeft gereageerd of middelen heeft verspild aan een idee dat hij intern al als zwak had aangemerkt. De uitvoeringsgeschiedenis — niet de uiteindelijke output — is waar dat verhaal zich daadwerkelijk afspeelt. Zolang operators die geschiedenis niet duidelijk kunnen zien, zal het verbeteren van AI‑workflows voor langdurige, autonome onderzoekstaken giswerk blijven in plaats van engineering.
FAQ
Welke middelen kregen de AI‑onderzoeksagenten in het experiment?
De AI‑agenten kregen $3.000 aan API‑tegoed, GPU‑rekenkracht, webtoegang, subagenten en twee onderzoeksvragen over een periode van zes dagen uit niet‑gepubliceerde NeurIPS‑inzendingen.
Hoe goed presteerden AI‑agenten bij het genereren van onderzoeksartikelen?
Ze voerden autonoom experimenten uit en schreven complete artikelen, maar menselijke experts beoordeelden de artikelen slecht, met scores van 2 van de 6 en 1 van de 6, wat leidde tot afwijzing.
Wat was de belangrijkste beperking in de prestaties van de AI‑onderzoeksagenten?
Ze herkenden niet wanneer hun onderzoeksaanpakken waren mislukt en bleven kleine aanpassingen doen in plaats van de projecten op te geven of opnieuw te ontwerpen.
Welke verbeteringen worden voorgesteld om AI‑onderzoeksagenten te versterken?
Het invoeren van expliciete stopcondities, budget‑ en tijdscontroles, vertrouwenstracking, escalatiemogelijkheden en transparantie voor operators wordt aanbevolen.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Welke middelen kregen de AI-onderzoeksagenten in het experiment?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”De AI-agenten kregen zes dagen, $3.000 aan API-tegoed, GPU-rekenkracht, webtoegang, subagenten en twee onderzoeksvragen uit niet-gepubliceerde NeurIPS-inzendingen.”}},{“@type”:”Question”,”name”:”Hoe goed presteerden AI-agenten bij het genereren van onderzoeksartikelen?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Ze voerden autonoom experimenten uit en schreven complete artikelen, maar menselijke experts beoordeelden de artikelen slecht, met scores van 2 van de 6 en 1 van de 6, wat leidde tot afwijzing.”}},{“@type”:”Question”,”name”:”Wat was de belangrijkste beperking in de prestaties van de AI-onderzoeksagenten?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Ze herkenden niet wanneer hun onderzoeksaanpakken waren mislukt en bleven kleine aanpassingen doen in plaats van de projecten op te geven of opnieuw te ontwerpen.”}},{“@type”:”Question”,”name”:”Welke verbeteringen worden voorgesteld om AI-onderzoeksagenten te versterken?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Het invoeren van expliciete stopcondities, budget- en tijdscontroles, vertrouwens-tracking, escalatiemogelijkheden en transparantie voor operators wordt aanbevolen.”}}]}
Artikel geproduceerd met behulp van kunstmatige intelligentie en beoordeeld door de redactie.
