Een nieuwe studie gepubliceerd door het AI Disclosures Project roept cruciale vragen op over de transparantie en de ethiek van de trainingsmethoden die door OpenAI worden gehanteerd. Centraal in het onderzoek staat GPT-4o, het nieuwste taalmodel van het bedrijf, dat ervan wordt beschuldigd om bull en bear inhoud te herkennen en te gebruiken die beschermd is door copyright, afkomstig van vertrouwelijk materiaal van de uitgever O’Reilly Media.
Summary
Een onderzoek om de transparantie in de race naar kunstmatige intelligentie te vergroten
Het onderzoek is uitgevoerd in het kader van het AI Disclosures Project, een initiatief geleid door technoloog Tim O’Reilly en econoom Ilan Strauss. Het doel van het project is duidelijk: het bevorderen van meer verantwoordelijkheid in de sector van de kunstmatige intelligentie, met de nadruk op de noodzaak van transparante praktijken door bedrijven die LLM (Large Language Models) ontwikkelen.
Het document, een working paper, analyseert hoe het huidige gebrek aan formele verplichtingen bij de openbaarmaking van de gegevens die worden gebruikt om deze modellen te trainen, serieuze problemen van vertrouwen en legaliteit kan veroorzaken. De onderzoekers stellen dat, net zoals in de financiële markten regels voor disclosure zijn ontstaan om robuuste markten te bevorderen, er ook in het veld van AI een soortgelijke regulering nodig is om misbruik en systemische schade te voorkomen.
OpenAI voert tests uit op inhoud die auteursrechtelijk beschermd is: de gegevens spreken voor zich
Om hun onderzoek uit te voeren, hebben de onderzoekers een dataset legaal verkregen van 34 boeken beschermd door copyright gepubliceerd door O’Reilly Media. Door middel van een techniek die bekend staat als DE-COP membership inference attack, hebben ze gemeten of de taalmodellen in staat waren om teksten geschreven door mensen te onderscheiden van geparafraseerde versies gegenereerd door LLM. De resultaten wijzen de vinger naar GPT-4o.
De AUROC-scores (een maatstaf die het vermogen van een model meet om twee klassen te onderscheiden) spreken duidelijke taal:
- GPT-4o behaalde een score van 82% in het vermogen om niet-openbare inhoud van O’Reilly Media te herkennen — een waarde die wijst op een sterke waarschijnlijkheid dat die inhoud is opgenomen in de trainingsgegevens.
- Ter vergelijking, het model GPT-3.5 Turbo toonde een veel zwakkere herkenning (ongeveer 50%), terwijl GPT-4o Mini, een lichtere versie van het model, noch publieke noch niet-publieke inhoud herkende.
- De gegevens tonen ook aan dat GPT-4o beter niet-publiek toegankelijke materialen herkent (82% AUROC) in vergelijking met vrij beschikbare O’Reilly-inhoud (64% AUROC).
- Integendeel, GPT-3.5 Turbo toont een grotere vertrouwdheid met openbare inhoud (64%) in vergelijking met vertrouwelijke inhoud (54%).
Een mogelijke bron van toegang tot de inhoud die onder copyright valt, suggereren de onderzoekers, zou LibGen kunnen zijn, een bekend online platform dat ongeautoriseerde digitale kopieën van auteursrechtelijk beschermde boeken herbergt. Alle boeken die in de studie zijn geanalyseerd, zijn namelijk aanwezig in die virtuele bibliotheek.
De AI-industrie tussen legaliteit, economie en duurzaamheid van de inhoud
De resultaten roepen een bredere vraag op: het systematisch gebruik van auteursrechtelijk beschermde gegevens om taalmodellen te trainen kan de economische duurzaamheid van professionals die originele inhoud creëren in gevaar brengen. Als bedrijven niet worden gecompenseerd voor het gebruik van hun publicaties, loopt het hele informatiesysteem — inclusief uitgeverijen — het risico te verarmen.
Volgens het rapport, het ongeoorloofd gebruik van eigendomsgegevens zonder compensatie draagt bij aan de vermindering van de kwaliteit en diversiteit van online inhoud. En het is niet alleen een ethische kwestie maar ook een economische: zonder inkomsten kunnen uitgeverijen en professionele makers geen waardevolle inhoud blijven produceren.
De bezorgdheid van de onderzoekers: de modellen weten meer dan ze beweren
Een ander aspect dat door de studie wordt benadrukt, is de verbetering van het vermogen van de nieuwste taalmodellen om de subtiele verschillen tussen menselijke taal en door kunstmatige intelligentie gegenereerde taal te begrijpen en te reproduceren. Bovendien wijzen de onderzoekers op de mogelijke aanwezigheid van een “tijdelijke bias”, aangezien talen in de loop van de tijd evolueren. Om dit soort vertekening te neutraliseren, zijn de tests uitgevoerd op twee modellen (GPT-4o en GPT-4o Mini) die in dezelfde periode zijn getraind.
Ondanks dat het bewijs beperkt is tot een specifiek geval — OpenAI en de teksten van O’Reilly — zijn de auteurs van mening dat het fenomeen wijdverbreid en systemisch kan zijn in de sector van generatieve kunstmatige intelligentie.
Op weg naar een legale markt voor trainingsgegevens?
De studie eindigt met een bredere overweging: het is noodzakelijk om een systeem op te bouwen waarin ontwikkelaars van AI legaal toegang kunnen krijgen tot gegevens voor training, via licentieovereenkomsten en transparante vergoedingen voor de makers van inhoud.
Sommige bedrijven ontwikkelen al bedrijfsmodellen in deze richting. Dit is het geval bij Defined.ai, een platform dat gegevens verkoopt voor training met garantie van de toestemming van de auteurs en het verwijderen van alle persoonlijk identificeerbare informatie. Een gereguleerde industrie zou een legaal en duurzaam alternatief kunnen vormen voor het huidige ondoorzichtige gedrag van sommige grote IA-bedrijven.
De rol van de politiek: Europa kan als voorloper dienen
Het rapport biedt ook een regelgevend perspectief: de inwerkingtreding van de nieuwe AI Act van de Europese Unie, die openbaarmakingsverplichtingen voor de training van modellen omvat, zou een positieve spiraal kunnen veroorzaken. Als de regels goed gespecificeerd en daadwerkelijk toegepast worden, kunnen rechthebbenden eindelijk weten wanneer en hoe hun werken worden gebruikt.
Het zou een fundamentele stap zijn voor de creatie van legale markten waarin de inhoud van de makers daadwerkelijk wordt erkend als economische goederen die door AI worden gebruikt.
Niet alleen OpenAI: een studie die de vinger wijst naar een steeds vaker voorkomende praktijk
Door middel van een gedetailleerde analyse van 34 boeken van de uitgever O’Reilly Media, hebben de onderzoekers empirisch bewijs geleverd dat suggereert dat OpenAI waarschijnlijk zijn GPT-4-model ook heeft getraind op niet-openbare en auteursrechtelijk beschermde gegevens.
Indien bevestigd, zou het een potentieel ernstige schending zijn, niet alleen van de copyrightregels, maar ook van de principes van transparantie, toestemming en billijkheid die de grote techbedrijven zouden moeten respecteren in een tijdperk waarin kunstmatige intelligentie steeds dieper ingrijpt in onze samenleving en onze economie.
