Stel je voor dat je door de spiritualiteitssectie van Amazon scrolt op zoek naar een boek over wiccarituelen of hindoeïstische filosofie, om er vervolgens achter te komen dat het overgrote deel van wat er in het virtuele schap staat mogelijk nooit is aangeraakt door een menselijke schrijver. Dat is het verontrustende beeld dat wordt geschetst door een nieuwe studie naar door AI geschreven religieuze boeken, waaruit blijkt dat machinaal gegenereerde tekst stilletjes een enorm aandeel van de religieuze en spirituele uitgaven op het platform heeft overgenomen.
Het onderzoek, deze week gepubliceerd door AI-detectiebedrijf Originality.ai, nam een steekproef van meer dan 2.000 recent uitgegeven titels in 14 religieuze en geloofscategorieën die op Amazon worden verkocht. De conclusie: bijna twee op de drie boeken zijn waarschijnlijk geschreven door kunstmatige intelligentie in plaats van door een persoon.
Summary
Belangrijkste bevindingen
- Originality.ai markeerde 1.272 van de 2.034 geanalyseerde religieuze boeken op Amazon — 63% — als waarschijnlijk door AI geschreven.
- De categorie hekserij noteerde het hoogste percentage met 78%, waarbij het hindoeïsme 76% bereikte en het taoïsme 74%.
- Onderzoekers markeerden 53% van de verifieerbare beweringen in boeken over hekserij als mogelijk onjuist.
- Amazon vertrouwt op een eer-systeem waarbij auteurs zelf moeten aangeven of hun werk door AI is geschreven, zonder openbare gegevens over hoeveel dat daadwerkelijk doen.
- Amazon heeft bevestigd dat het fysieke boeken via commerciële kanalen inkoopt om hun pagina’s te scannen voor AI-trainingsdata.
Meerderheid van religieuze boeken op Amazon is waarschijnlijk door AI geschreven
De cijfers achter deze studie zijn op zichzelf al opvallend: 63% van de onderzochte religieuze boeken scoorde hoog genoeg in het detectiemodel van Originality.ai om te worden geclassificeerd als waarschijnlijk machinaal geschreven. Dat is geen randverschijnsel in een obscure hoek van de winkel — het vertegenwoordigt de uitkomst voor de meerderheid binnen een volledige commerciële categorie die meerdere wereldreligies omvat.
Onderzoek en methodologie van Originality.ai
Rapportauteur Michael Fraiman zei dat zijn team boekbeschrijvingen, auteursbiografieën en tekstfragmenten uit elke titel analyseerde en deze door een scoringsmodel haalde. Alles wat 50 of hoger scoorde, werd geclassificeerd als “Waarschijnlijk AI”. Van de 2.034 beoordeelde boeken overschreden 1.272 die drempel.
Fraiman was voorzichtig om de bevindingen als waarschijnlijkheid en niet als bewijs te presenteren. “We claimen geen zekerheid over de vraag of boeken definitief door AI zijn geschreven,” zei hij tegen Decrypt. “Ons model bepaalt de waarschijnlijkheid dat iets door AI is geschreven tot op een bepaalde mate van zekerheid.” Hij voegde eraan toe dat onderzoekers gemarkeerde titels handmatig steekproefsgewijs controleerden, en zei dat het team op dit punt in hun werk “het verschil kan zien tussen waarschijnlijk door AI geschreven inhoud en door mensen geschreven inhoud.”
Mate van AI-auteurschap per religieuze categorie
Niet elke geloofstraditie werd in gelijke mate getroffen. De categorie hekserij — samengesteld uit Amazon’s lijsten voor Wicca, hekserij en paganisme — stond bovenaan met 78%, en omvatte titels over helende kristallen, kruidengeneeskunde en het reinigen van negatieve energie. Fraiman suggereerde dat de aantrekkingskracht voor uitgevers duidelijk is: deze boeken kunnen oplossingen beloven voor mentale gezondheid of “ontgifting” zonder aan enige wetenschappelijke norm te hoeven voldoen.
Het hindoeïsme volgde met 76%, en het taoïsme kwam uit op 74%. Het sikhisme, boeddhisme, de islam, het katholicisme, het protestantisme, de orthodoxe christenheid en het jodendom zaten daar ergens tussenin. Het mormonisme noteerde 42%, atheïsme 40% en satanisme 22% — het laagste van de onderzochte categorieën. Onderzoekers waarschuwden dat de steekproefgroottes per categorie sterk uiteenliepen, wat beperkt in hoeverre de percentages rechtstreeks met elkaar kunnen worden vergeleken.
Verificatie-uitdagingen en vals-positieven bij AI-detectie
Een hoge AI-detectiescore betekent niet automatisch dat een boek misleidend is — maar in de categorie hekserij vond de studie een zorgwekkende overlap tussen die twee. Onderzoekers markeerden 53% van de verifieerbare beweringen in titels over hekserij als mogelijk onjuist, wat zorgen oproept over lezers die zich wenden tot door AI gegenereerde spirituele begeleiding voor gezondheids- of welzijnsadvies dat door niemand is gecontroleerd.
Beperkingen van tools voor detectie van AI-teksten
Detectietools zoals het model van Originality.ai zijn ontworpen om waarschijnlijkheid te schatten, niet om een definitief oordeel te vellen. Dat onderscheid is belangrijk, omdat AI-detectietechnologie als categorie een reputatie heeft van inconsistentie. Fraimans eigen formulering — dat het model “een mate van zekerheid” biedt in plaats van sluitend bewijs — weerspiegelt een bredere erkenning in de sector dat geen enkele detector momenteel nauwkeurigheid kan garanderen.
Voorbeelden van tegenstrijdige uitkomsten bij AI-detectie
De onbetrouwbaarheid van AI-detectors is niet hypothetisch. In oktober 2024 leverde een test van vier afzonderlijke tools die de Amerikaanse Onafhankelijkheidsverklaring analyseerden sterk uiteenlopende oordelen op: ZeroGPT beoordeelde het document als 97,93% door AI gegenereerd, QuillBot bestempelde het als volledig door mensen geschreven, en GPTZero gaf het een kans van 89% op menselijk auteurschap — drie tools, drie tegenstrijdige antwoorden over hetzelfde achttiende-eeuwse document.
De inzet werd serieuzer in maart, toen het Hooggerechtshof van Colombia een juridische indiening afwees nadat een detector deze als door AI gegenereerd had aangemerkt. In een ironische wending kwam, toen een advocaat later de uitspraak van het hof zelf door dezelfde detector haalde, deze terug met een score van 93% door AI gegenereerd. Die episode onderstreept waarom het juridisch wankel blijft om detectiescores als bewijs te behandelen dat klaar is voor gebruik in de rechtszaal.
De rol van Amazon en ethische vragen rond AI-inhoud en training
Amazon staat centraal in twee afzonderlijke maar verwante controverses: hoe het door AI geschreven boeken op zijn marktplaats controleert, en hoe het ruwe tekstdata verzamelt om zijn eigen AI-modellen te trainen. Geen van beide praktijken gaat momenteel gepaard met veel publieke transparantie.
Het eer-systeem van Amazon voor het melden van AI-inhoud
Volgens Fraiman “is Amazon zich ervan bewust hoe gebruikelijk door AI geschreven inhoud op hun platform is, en gebruikt het een eer-systeem waarbij auteurs zichzelf moeten identificeren als hun werk door AI is geschreven.” Originality.ai deelde zijn bevindingen niet met Amazon vóór publicatie, en Fraiman merkte nuchter op: “We hebben geen gegevens over hoeveel auteurs dat daadwerkelijk melden.” Amazon reageerde niet onmiddellijk op het verzoek van Decrypt om commentaar.
Dit is van belang omdat zelfrapportage zonder verificatie een grote kloof laat tussen wat technisch vereist is en wat er in de praktijk gebeurt. Als het aandeel door AI geschreven religieuze boeken inderdaad in de buurt komt van twee derde, vangt een puur op eer gebaseerd systeem daar mogelijk slechts een fractie van.
Gebruik van fysieke boeken voor AI-training en ethische zorgen
Afzonderlijk daarvan heeft Amazons honger naar trainingsdata geleid tot kritiek op de manier waarop het met fysieke boeken omgaat. Een onderzoek volgde een zending zeldzame boeken naar een Amazon-faciliteit in Las Vegas — waar werknemers de kaften van boeken sneden en de pagina’s inscanden in AI-trainingsdatasets.
Amazon bevestigde dat het “boeken via commerciële kanalen inkoopt om te helpen bij het ontwikkelen en verbeteren van de producten en diensten die onze klanten gebruiken”, al ging de verklaring van het bedrijf niet zo ver om AI-training expliciet te bevestigen.
Gezamenlijk wijzen deze twee lijnen op dezelfde onderliggende spanning. Aan de ene kant overspoelt door AI gegenereerde tekst categorieën zoals religieuze uitgaven met inhoud die niet is geverifieerd en in sommige gevallen onjuiste beweringen bevat. Aan de andere kant is het ruwe materiaal waarmee diezelfde AI-systemen worden gebouwd afkomstig uit fysieke boeken die worden vernietigd met beperkte publieke verantwoording. Noch het zelfmeldingssysteem van Amazon voor verkopers, noch de inkoopketen van boeken voor trainingsdata biedt momenteel veel zicht op de schaal — waardoor lezers, auteurs en boekverkopers grotendeels zijn aangewezen op externe onderzoeken om te begrijpen wat er werkelijk achter de etalage gebeurt.
FAQ
Hoe betrouwbaar is de detectie van door AI geschreven religieuze boeken op Amazon?
Originality.ai gebruikt een scoringssysteem dat waarschijnlijkheid aangeeft in plaats van zekerheid. De onderzoekers benadrukken dat de resultaten wijzen op waarschijnlijke AI-auteurschap, niet op sluitend bewijs.
Welke categorie religieuze boeken had het hoogste aandeel waarschijnlijk door AI geschreven boeken?
De categorie hekserij had het hoogste percentage, met 78% van de onderzochte titels die als waarschijnlijk door AI geschreven werden aangemerkt.
Welke ethische zorgen worden opgeroepen door Amazons gebruik van fysieke boeken voor AI-training?
Amazon koopt en scant fysieke boeken, soms zeldzame, voor AI-training en gooit ze daarna weg, wat ethische zorgen oproept over de vernietiging van bronmateriaal en het gebrek aan expliciete toestemming van auteurs.
Verplicht Amazon auteurs om te melden als hun boeken door AI zijn geschreven?
Amazon gebruikt een eer-systeem waarbij auteurs zelf aangeven of inhoud door AI is geschreven, maar er zijn geen openbare gegevens over hoeveel dit daadwerkelijk melden.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Hoe betrouwbaar is de detectie van door AI geschreven religieuze boeken op Amazon?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Originality.ai gebruikt een scoringssysteem dat waarschijnlijkheid aangeeft in plaats van zekerheid. De onderzoekers benadrukken dat de resultaten wijzen op waarschijnlijke AI-auteurschap, niet op sluitend bewijs.”}},{“@type”:”Question”,”name”:”Welke categorie religieuze boeken had het hoogste aandeel waarschijnlijk door AI geschreven boeken?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”De categorie hekserij had het hoogste percentage, met 78% van de onderzochte titels die als waarschijnlijk door AI geschreven werden aangemerkt.”}},{“@type”:”Question”,”name”:”Welke ethische zorgen worden opgeroepen door Amazons gebruik van fysieke boeken voor AI-training?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon koopt en scant fysieke boeken, soms zeldzame, voor AI-training en gooit ze daarna weg, wat ethische zorgen oproept over de vernietiging van bronmateriaal en het gebrek aan expliciete toestemming van auteurs.”}},{“@type”:”Question”,”name”:”Verplicht Amazon auteurs om te melden als hun boeken door AI zijn geschreven?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Amazon gebruikt een eer-systeem waarbij auteurs zelf aangeven of inhoud door AI is geschreven, maar er zijn geen openbare gegevens over hoeveel dit daadwerkelijk melden.”}}]}
Artikel geproduceerd met behulp van kunstmatige intelligentie en beoordeeld door de redactie.
