Ga naar inhoud
  • BTC $57.986 −6,0%
  • ETH $1.639 −6,2%
  • SOL $68,02 −5,7%
  • BNB $525,10 −8,1%
  • XRP $0,8944 −6,8%
  • DOGE $0,0532 −6,9%
  • ADA $0,1394 −6,2%

Uitlijning van query-sleutels onthult dat LLM’s vaak antwoorden kennen die ze verkeerd geven

Grote taalmodellen kunnen een meerkeuzevraag op de pagina fout beantwoorden terwijl ze het juiste antwoord toch ergens in hun eigen schakelingen hebben opgeslagen. Dat is het opvallende uitgangspunt van een nieuwe studie over query-key-uitlijning, die laat zien dat de mismatch tussen wat een model “weet” en wat het daadwerkelijk produceert bij het beantwoorden van meerkeuzevragen,…

query key alignment
Query Key Alignment Reveals Hidden Answers in LLMs

Grote taalmodellen kunnen een meerkeuzevraag op de pagina fout beantwoorden terwijl ze het juiste antwoord toch ergens in hun eigen schakelingen hebben opgeslagen. Dat is de opvallende premisse achter een nieuwe studie over query-key alignment, die laat zien dat de mismatch tussen wat een model “weet” en wat het daadwerkelijk uitspuugt bij meerkeuzevraagbeantwoording (MCQA) geen doodlopende weg is — het is een signaal dat rechtstreeks kan worden uitgelezen uit het aandachtmechanisme van het model, nog voordat er één token wordt gedecodeerd.

Belangrijkste punten

  • Grote taalmodellen coderen vaak intern het juiste MCQA‑antwoord, zelfs wanneer hun uiteindelijke output fout is.
  • Een nieuwe metriek, de Query-Key score of QK‑score, meet de uitlijning tussen de query van het laatste token en de key die aan elke antwoordoptie is gekoppeld, berekend voordat rotary positional embedding (RoPE) wordt toegepast.
  • Getest op 24 modellen variërend van 1,5B tot 72B parameters, overtrof de QK‑score van één enkele attention head de zero‑shot‑nauwkeurigheid van het model zelf met tot wel +27,4 procentpunten op HellaSwag en +49,8 punten op HaluDialogue.
  • Een ongecontroleerde tool genaamd HeadScore kan deze kritieke heads vinden zonder gelabelde data, en evenaart de resultaten van gecontroleerde methoden op elk getest model.
  • Onderzoekers hebben een HeadScore‑script van één regel uitgebracht, samen met per‑model head‑indices, zodat resultaten met één enkel commando kunnen worden gereproduceerd.

Latente kennis ontdekken in grote taalmodellen

De kernbevinding is eenvoudig te formuleren maar groots in reikwijdte: LLM’s falen er routinematig in om de juiste optie te produceren bij MCQA‑taken, ook al is het juiste antwoord ergens in hun interne representaties gecodeerd. Die kloof tussen interne “kennis” en externe output heeft onderzoekers die modelgedrag bestuderen al lang voor een raadsel gesteld, en roept een praktische vraag op — als het antwoord erin zit, kan het dan worden geëxtraheerd zonder te wachten tot het model tekst genereert?

Dit is belangrijk omdat MCQA‑benchmarks een standaardmaatstaf zijn voor het evalueren van de prestaties van grote taalmodellen bij MCQA, van academische ranglijsten tot productie‑evaluaties. Als modellen hun daadwerkelijke competentie onderschatten door output‑eigenaardigheden in plaats van echte redeneerfouten, dan kunnen nauwkeurigheidsscores die puur op gegenereerde tekst zijn gebaseerd het hele veld misleiden over wat deze systemen werkelijk begrijpen.

Query-Key score en select‑and‑copy attention heads

Om deze latente informatie bloot te leggen introduceren de onderzoekers een metriek die zij de Query-Key score, of QK‑score, noemen. Voor een specifieke attention head wordt die berekend als het inwendig product tussen de query van het laatste token en de key die overeenkomt met het end‑of‑line‑token na een gegeven antwoordoptie, waarbij deze berekening wordt uitgevoerd vóór de toepassing van rotary positional embedding. In praktische termen is het een manier om in de aandachtsmachine van het model te kijken om te zien naar welke optie het model stilletjes neigt, los van welke tekst het uiteindelijk uitprint.

Het nemen van de argmax van deze score over opties onthult iets wat het artikel beschrijft als een universele klasse van select‑and‑copy attention heads die in de middenlagen van deze modellen zitten. Deze heads voeren optieselectie uit via semantische query‑key‑uitlijning, en ze gedragen zich op manieren die hen mechanistisch onderscheiden van eerder gedocumenteerde inductie‑ en copy‑suppression‑heads.

Twee eigenschappen springen eruit. Ten eerste zijn deze heads invariant voor labelsymbolen — wat betekent dat ze niet simpelweg bijhouden welke letter of welk nummer bij een antwoord hoort, maar iets dat dichter bij de semantische inhoud van de optie zelf ligt. Ten tweede lossen ze een synthetische taak op met nul oppervlakkige overlap, een test die zo is ontworpen dat geen enkele verklaring op basis van positionele kopie het gedrag kan verklaren. Beide eigenschappen, zo merkt de studie op, vereisen cruciaal dat RoPE wordt verwijderd om ze te kunnen observeren — zonder die laag voor positionele codering te verwijderen blijft het onderliggende uitlijningssignaal verborgen.

Prestatieverbeteringen over meerdere modellen

De schaal van de tests achter deze beweringen is breed. De onderzoekers voerden hun analyse uit op 24 modellen met 1,5B tot 72B parameters, waaronder LLaMA‑2, LLaMA‑3, LLaMA‑3.1, LLaMA‑3.3, Qwen‑2.5, Gemma, Phi‑3.5 en DeepSeek‑R1‑Distill. Over dat hele bereik presteerde de QK‑score van één enkele head consequent beter dan de eigen zero‑shot‑nauwkeurigheid van elk model — met tot wel +27,4 procentpunten op de HellaSwag‑benchmark en +49,8 procentpunten op HaluDialogue.

Dat tweede cijfer verdient een moment van bezinning. Bijna 50 punten verschil tussen wat een model uitspuugt en wat zijn interne attention head “zegt” via query‑key‑alignment is een aanzienlijke kloof — groot genoeg om te suggereren dat bij bepaalde taken de bottleneck helemaal niet het redeneervermogen is, maar iets dat dichter bij een output‑ of decodeerprobleem ligt.

Om te bevestigen dat deze heads niet alleen gecorreleerd zijn met juiste antwoorden maar daadwerkelijk verantwoordelijk zijn voor het produceren ervan, voerden de onderzoekers causale zero‑ablation‑experimenten uit — waarbij de geïdentificeerde heads opzettelijk werden uitgeschakeld. Het resultaat: de MCQA‑nauwkeurigheid stortte in tot bijna willekeurig niveau, wat sterk bewijs is dat juist deze specifieke heads echt causaal werk verrichten in het antwoordselectieproces in plaats van het slechts te weerspiegelen.

Ongecontroleerde HeadScore en reproduceerbaarheid

De juiste heads vinden om te bestuderen vereist doorgaans gelabelde validatiedata, wat de praktische toepasbaarheid van een methode buiten een onderzoekslab beperkt. Om dat op te lossen introduceerde het team een ongecontroleerde methode genaamd HeadScore, die attention heads rangschikt met alleen ongelabelde input. Ondanks dat het geen toegang heeft tot grondwaarheidslabels, wist HeadScore dezelfde best presterende heads terug te vinden als de gecontroleerde aanpak — en dat bij elk afzonderlijk getest model.

De studie plaatst de QK‑score ook naast bestaande technieken voor positionele debiasing, zoals PriDe, Wiegrefe en Wang, die zijn ontworpen om de neiging van modellen te corrigeren om bepaalde antwoordposities te bevoordelen ongeacht de inhoud. Het artikel positioneert QK‑score als complementair in plaats van concurrerend met deze baselines: debiasing‑methoden werken door outputlogits achteraf te herwegen, terwijl QK‑score de selectie van het model rechtstreeks uitleest uit een head in een middenlaag, nog voordat er überhaupt wordt gedecodeerd. Dat onderscheid — ingrijpen op het outputniveau versus het signaal uitlezen vóór decodering — maakt van de twee benaderingen tools die in principe samen zouden kunnen worden gebruikt.

Voor de reproduceerbaarheid hebben de onderzoekers een HeadScore‑script van één regel uitgebracht, samen met per‑model head‑indices, waardoor het mogelijk wordt om elk resultaat met één enkel commando te reproduceren over alle 24 modellen en vier benchmarks die in de studie zijn getest.

Waarom deze onderzoekslijn belangrijk is

Mechanistische interpretabiliteitsstudies als deze gaan minder over het bouwen van een betere chatbot en meer over het begrijpen van wat er daadwerkelijk gebeurt binnen systemen die al op grote schaal zijn ingezet. Als selectie van attention heads antwoorden kan onthullen die bij standaarddecodering worden gemist, heeft dat gevolgen voor hoe evaluatiebenchmarks worden geïnterpreteerd — een model dat slecht scoort op een ranglijst kan intern nog steeds het juiste antwoord uitrekenen, maar slaagt er niet in dat via normale generatie naar boven te brengen.

Het opent ook de deur naar efficiëntere modelaudits. Een ongecontroleerde tool als HeadScore betekent dat onderzoekers die selectie van attention heads bestuderen geen zorgvuldig samengestelde gelabelde datasets nodig hebben om te identificeren welke delen van een model het zware werk doen bij een bepaalde taak — een betekenisvolle praktische snelkoppeling voor iedereen die modelinterne processen wil onderzoeken zonder voor elke architectuur eigen evaluatiesets te hoeven bouwen.

Artikel geproduceerd met behulp van kunstmatige intelligentie en beoordeeld door de redactie.

Francesco Antonio Russo

Alle artikelen van Francesco Antonio Russo