Een veertig jaar oude moordzaak in Utah staat op het punt onontgonnen juridisch terrein te testen: de vraag of een jury een synthetische replica van de stem van een overleden vrouw mag horen, opgebouwd uit een AI‑stemclone met behulp van ElevenLabs‑software, als bewijs in een doodstrafzaak. Aanklagers in Weber County zeggen dat de technologie de juryleden in staat kan stellen opnieuw Joyce Yosts eigen woorden te horen. Advocaten van de verdediging en onafhankelijke tech‑experts zeggen dat het iets veel gevaarlijkers kan doen — de mensen misleiden die moeten beslissen of een man leeft of sterft.
Summary
Belangrijkste punten
- Aanklagers in Weber County willen tijdens de komende herstrafzitting van Douglas Lovell een AI‑gegenereerde stemclone van moordslachtoffer Joyce Yost laten horen.
- Yost werd in 1985 door Lovell vermoord om te voorkomen dat zij tegen hem zou getuigen in een verkrachtingszaak; haar lichaam is nooit gevonden.
- De clone werd gemaakt met ElevenLabs-software, op basis van geluidsfragmenten en een transcript van Yosts getuigenis tijdens de voorbereidende zitting.
- Twee experts van de Universiteit van Utah waarschuwden dat de AI‑stem de juryleden op oneerlijke wijze kan beïnvloeden en niet kan worden geverifieerd op juistheid.
- Rechter Michael DiReda zal naar verwachting uiterlijk medio november beslissen over de toelaatbaarheid, terwijl de strafoplegging momenteel gepland staat voor eind februari 2027.
Aanklagers stellen gebruik voor van AI‑stemclone van moordslachtoffer
Aanklagers in Farmington, Utah, hebben een rechter gevraagd om toestemming om een synthetische reconstructie van de stem van Joyce Yost af te spelen voor de jury die zal beslissen over het lot van Douglas Lovell. Het verzoek draait om een deel van de getuigenis die Yost decennia geleden aflegde, voordat zij werd gedood en nooit meer in de getuigenbank kon plaatsnemen.
Volgens de aanklagers ontvoerde en vermoordde Douglas Lovell Yost in de nacht van 10 augustus 1985 om te voorkomen dat zij tegen hem zou getuigen in een afzonderlijk verkrachtingsproces. Yosts lichaam is nooit teruggevonden, maar Lovell bekende de moord tijdens plea‑onderhandelingen in 1993. Hij is twee keer ter dood veroordeeld, en beide vonnissen zijn later in hoger beroep vernietigd. Een jury staat nu gepland om hem komende februari opnieuw te veroordelen.
Creatie van AI‑stemclone met ElevenLabs‑software
Om de reconstructie te maken, wendde het team van de aanklager zich tot ElevenLabs, een bedrijf voor AI‑stemsynthese. De software werd gevoed met echte geluidsfragmenten van Yost en een schriftelijk transcript van de getuigenis die zij kort voor haar verdwijning aflegde tijdens een voorbereidende zitting. De combinatie stelde de tool in staat nieuwe gesynthetiseerde audio te genereren die bedoeld is te klinken als Yost die dezelfde woorden uitspreekt. Het is een van de eerste bekende pogingen om een gekloneerde stem via AI te gebruiken als bewijs in de rechtszaal dat is gekoppeld aan een moordslachtoffer.
Verdedigingsdeskundigen benadrukken risico’s en beperkingen van AI‑stembewijs
Twee informatici die door Lovells verdediging zijn opgeroepen, stellen dat een ElevenLabs‑AI‑stemreconstructie, hoe overtuigend ook, niet kan worden vertrouwd zoals een levende getuige of een echte opname dat kan — en dat juryleden mogelijk niet in staat zijn het verschil te zien.
Sameer Patil, universitair hoofddocent informatica aan de Universiteit van Utah en houder van een PhD van de University of California Irvine, vertelde de rechtbank dat mensen routinematig emotionele banden vormen met AI‑gegenereerde inhoud, zelfs wanneer ze weten dat die niet menselijk is. “Iedereen weet dat het AI is,” zei Patil, verwijzend naar tools zoals ChatGPT. “Er is geen mens bij betrokken, maar mensen ontwikkelen er emotionele banden mee. Mensen schelden het uit alsof ze boos zijn. Of wanneer ze beschrijven wat het doet, beschrijven ze het alsof het een levend iets is.” Hij waarschuwde dat juryleden op dezelfde manier kunnen reageren op de synthetische stem van Yost — die behandelen als echte getuigenis in plaats van een machinaal gegenaderde benadering, zelfs nadat hun is verteld dat dit niet zo is.
Patil wees ook op een technischer probleem: het transcript dat is gebruikt om de clone te bouwen, legt alleen Yosts woorden vast, niet hoe zij die daadwerkelijk uitsprak. Zonder intonatie, cadans of toon — wat onderzoekers paralinguïstische signalen noemen — is er geen manier om te controleren of de AI‑uitvoer overeenkomt met hoe Yost werkelijk klonk in de getuigenbank. “Klinken als Joyce Yost betekent niet per se dat het accuraat is, en betekent absoluut niet dat het accuraat is wat betreft hoe zij die woorden tijdens die getuigenis uitsprak,” zei Patil. “Dat kan simpelweg niet worden gevalideerd omdat de geluidsopname niet bestaat.”
Zorgen over niet‑openbaar gemaakte trainingsdata door ElevenLabs
De tweede getuige van de verdediging, Kenneth Marino, universitair docent machine learning aan de Universiteit van Utah en voormalig onderzoeker bij Google DeepMind, legde de rechtbank uit hoe tekst‑naar‑spraak‑systemen doorgaans worden gebouwd. AI‑bedrijven, zei hij, hebben de neiging hun modellen te trainen op welke audio dan ook die in bulk gemakkelijk online te vinden is. “Voor audio zijn dat waarschijnlijk dingen als podcasts en YouTube‑video’s,” zei Marino. De uitvoer kan vervolgens worden verfijnd met behulp van interne parameters, zogenaamde gewichten — maar ElevenLabs, merkte Marino op, maakt noch zijn trainingsdata noch die gewichten openbaar. “Dus we hebben in wezen geen idee op welke data het is getraind,” zei hij.
Die ondoorzichtigheid is een juridisch twistpunt geworden. Het verdedigingsteam van Lovell heeft een dagvaarding aan ElevenLabs uitgebracht met het verzoek om details over hoe de stemclone‑tool is getraind en verfijnd. Tot nu toe heeft het bedrijf niet gereageerd, waardoor de rechtbank geen onafhankelijke verificatie heeft van hoe de synthetische audio van Yost daadwerkelijk is gegenereerd.
Ongekende juridische vragen rond AI‑gebruik bij strafoplegging in moordzaak met doodstraf
Rechtbanken staan al lang toe dat menselijke plaatsvervangers het transcript van een overleden of niet‑beschikbare getuige hardop voorlezen wanneer die persoon niet opnieuw kan getuigen. Wat volgens het dossier nog niet eerder is gebeurd, is het presenteren van de beëdigde getuigenis van een moordslachtoffer via een AI‑gegenereerde stemclone in een zaak waarin de doodstraf mogelijk is. Dat onderscheid is de reden dat dit geschil over een ElevenLabs‑AI‑stemreconstructie veel verder reikt dan Weber County — het kan een blauwdruk, of een waarschuwingssignaal, worden voor hoe rechtbanken elders met synthetisch bewijs omgaan.
Rechter Michael DiReda heeft gezegd dat hij verwacht uiterlijk medio november te beslissen of de AI‑stemclone aan de jury mag worden voorgelegd. De strafoplegging voor Lovell staat momenteel gepland om eind februari 2027 te beginnen, al heeft zijn verdedigingsteam al aangegeven waarschijnlijk om uitstel te zullen vragen — wat betekent dat de tijdlijn, net als de onderliggende rechtsvraag, onzeker blijft.
Waarom dit ertoe doet buiten één rechtszaal in Utah: naarmate generatieve stemtools goedkoop en breed toegankelijk worden, zullen zowel aanklagers als verdedigers onder toenemende druk komen te staan om te bepalen wanneer een synthetische reconstructie de grens overschrijdt van nuttige illustratie naar onbetrouwbaar — of oneerlijk overtuigend — bewijs. Een uitspraak in deze zaak kan een van de eerste praktijkvoorbeelden worden voor hoe Amerikaanse rechtbanken omgaan met AI‑gegenereerde spraak in kwesties van leven en dood.
FAQ
Waarom willen aanklagers een AI‑gegenereerde stemclone van Joyce Yost gebruiken?
Aanklagers willen de AI‑stemclone gebruiken om gesynthetiseerde audio van Yosts eerdere getuigenis af te spelen tijdens de komende strafzitting, met het argument dat dit de jury in staat stelt haar eigen woorden te horen, ook al kan zij zelf niet getuigen.
Welke zorgen hebben experts geuit over het gebruik van de AI‑stemclone in de rechtszaal?
Experts waarschuwen dat AI‑stemcloning de juryleden emotioneel kan beïnvloeden en de paralinguïstische signalen, zoals toon en cadans, mist die nodig zijn om de juistheid ten opzichte van de oorspronkelijke getuigenis te verifiëren.
Is AI‑gegenereerd stembewijs eerder gebruikt in zaken met de doodstraf?
Nee. Het gebruik van een AI‑stemclone van de getuigenis van een moordslachtoffer in een zaak met de doodstraf is ongekend, waardoor dit geschil een mogelijk juridisch precedent van de eerste orde kan worden.
Wanneer beslist de rechter of het AI‑stembewijs toelaatbaar is?
Rechter Michael DiReda zal naar verwachting uiterlijk medio november een beslissing nemen, voorafgaand aan de strafzitting van Lovell die momenteel gepland staat voor eind februari 2027.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Waarom willen aanklagers een AI‑gegenereerde stemclone van Joyce Yost gebruiken?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Aanklagers willen de AI‑stemclone gebruiken om gesynthetiseerde audio van Yosts eerdere getuigenis af te spelen tijdens de komende strafzitting, met het argument dat dit de jury in staat stelt haar eigen woorden te horen, ook al kan zij zelf niet getuigen.”}},{“@type”:”Question”,”name”:”Welke zorgen hebben experts geuit over het gebruik van de AI‑stemclone in de rechtszaal?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Experts waarschuwen dat AI‑stemcloning de juryleden emotioneel kan beïnvloeden en de paralinguïstische signalen, zoals toon en cadans, mist die nodig zijn om de juistheid ten opzichte van de oorspronkelijke getuigenis te verifiëren.”}},{“@type”:”Question”,”name”:”Is AI‑gegenereerd stembewijs eerder gebruikt in zaken met de doodstraf?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Nee. Het gebruik van een AI‑stemclone van de getuigenis van een moordslachtoffer in een zaak met de doodstraf is ongekend, waardoor dit geschil een mogelijk juridisch precedent van de eerste orde kan worden.”}},{“@type”:”Question”,”name”:”Wanneer beslist de rechter of het AI‑stembewijs toelaatbaar is?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Rechter Michael DiReda zal naar verwachting uiterlijk medio november een beslissing nemen, voorafgaand aan de strafzitting van Lovell die momenteel gepland staat voor eind februari 2027.”}}]}
Artikel geproduceerd met behulp van kunstmatige intelligentie en beoordeeld door de redactie.
