Kunstmatige intelligentie had fraude juist moeilijker moeten maken. In plaats daarvan veranderde een in Cambodja gevestigde oplichtingsoperatie ChatGPT in een operationele ruggengraat — het werd gebruikt om valse identiteiten op te bouwen, emotioneel manipulerende berichten te schrijven en een soort full-service fraudeonderneming te runnen die zich uitstrekte over romantische oplichting, investeringsvalstrikken, gokschema’s en het zich voordoen als wetshandhavers. Het verhaal, onthuld door OpenAI, laat iets zien dat verontrustender is dan een slimme hack: het toont hoe moderne criminele netwerken generatieve AI stilletjes in elke laag van hun bedrijfsvoering opnemen.
Summary
Belangrijkste punten
- Een in Cambodja gevestigde oplichtingsoperatie gebruikte ChatGPT bij ten minste vier soorten oplichting: investeringen, romantiek, gokken en het zich voordoen als wetshandhavers.
- Het netwerk gebruikte ChatGPT om valse persona’s te genereren, berichten te vertalen, documenten te vervalsen en interne operaties te beheren — inclusief dossiers die verband hielden met vermoedelijke dwangarbeid.
- Oplichters zetten datingpersona’s in om slachtoffers te lokken in nep-handelsschema’s met cryptocurrencies en spotgoud, waarbij meerdere fraudetechnieken in één operatie werden gecombineerd.
- Met de operatie verbonden ChatGPT-accounts werden verbannen en dreigingsindicatoren werden gedeeld met branchepartners en relevante autoriteiten.
- Sommige oplichtingsinhoud wees op verbanden met mensenhandel en dwangarbeid, in lijn met gedocumenteerde patronen in criminele complexen in Zuidoost-Azië.
Hoe de Cambodjaanse oplichtingsoperatie ChatGPT gebruikte
OpenAI zegt dat het het netwerk eerder dit jaar heeft verstoord, na een eerste tip van WhatsApp. Wat onderzoekers aantroffen was geen eenvoudige phishingbende maar een multischema-operatie die meerdere soorten fraude tegelijk uitvoerde — een patroon dat weerspiegelt hoe georganiseerde misdaad in de regio misleiding in toenemende mate als een gediversifieerde business behandelt.
Het netwerk gebruikte ChatGPT in elke fase van de operatie. Het genereerde en vertaalde gesprekken die naar doelwitten op WhatsApp en Telegram werden gestuurd, creëerde sociale-mediacontent en hielp oplichters bij het onderzoeken en onderhouden van overtuigende datingpersona’s. Het produceerde ook promotiemateriaal voor frauduleuze investeringsplatforms en ondersteunde het dagelijkse administratieve werk van het runnen van het netwerk.
Die administratieve functie is het waard om bij stil te staan. Een deel van de gebruikers gebruikte ChatGPT om interne aankondigingen op te stellen, communicatie tussen personeelsleden te vertalen en zaken te documenteren die verband hielden met werving, immigratiestatus, arbeidsomstandigheden en disciplinaire maatregelen voor werknemers. Met andere woorden: de AI was niet alleen naar buiten gericht op slachtoffers — hij was ingebed in het interne mechanisme van de organisatie.
Meerdere frauderegelingen, één netwerk
In plaats van zich op één type oplichting toe te leggen, mengde de operatie tactieken soepel. Operators bouwden romantisch vertrouwen op met doelwitten voordat ze overstapten naar nep-investeringskansen met cryptocurrencies en spotgoudhandel. Anderen deden zich voor als vertegenwoordigers van gokplatforms die valse bonussen en winsten aanboden. In een agressievere tak van de operatie deden oplichters zich voor als wetshandhavingsinstanties, waarbij ze doelwitten waarschuwden dat ze ernstige strafrechtelijke aanklachten tegemoet zagen en betaling eisten van verzonnen boetes.
Bij al deze schema’s was het onderliggende gedragspatroon hetzelfde: vertrouwen opbouwen en het vervolgens uitbuiten. Oplichters creëerden fictieve identiteiten — datingprofielen, investeringsexperts, juridische functionarissen — en ondersteunden die met vervalste documenten zoals paspoorten, juridische kennisgevingen, aankoopbevestigingen van aandelen en interfaces van gokplatforms, allemaal gegenereerd met behulp van de beeldmogelijkheden van ChatGPT.
De kunst van de emotionele oplichting
Wat dit netwerk volgens de bevindingen van OpenAI bijzonder effectief maakte, was de verfijning van de emotionele manipulatie. Oplichtingsberichten leunden zwaar op vertrouwenwekkende taal en drukmiddelen: beloften van gegarandeerde, risicovrije rendementen; romantische gesprekken die bedoeld waren om de verdediging te verlagen; instructies aan slachtoffers om hun communicatie geheim te houden; en gecreëerde urgentie rond aflopende bonussen of dreigende juridische gevolgen.
De volgorde volgde een herkenbare structuur. Eerst kwam de relatie — vriendschappelijke of romantische gesprekken die zich over langere tijd uitstrekten. Daarna kwam het voorstel — een niet-te-missen investering, een onverwachte prijs of een juridische dreiging die onmiddellijke betaling vereiste. Ten slotte kwam de onttrekking: slachtoffers kregen te horen dat ze stortingen moesten doen om beloningen vrij te spelen, activatiekosten te betalen of fictieve boetes te voldoen, en vervolgens betalingsscreenshots of accountinformatie als bewijs moesten overhandigen.
Individuele slachtoffers verloren naar verluidt duizenden dollars, al merkt OpenAI op dat het deze bedragen niet onafhankelijk kan verifiëren. De volledige financiële omvang van de operatie, inclusief hoeveel doelwitten bij alle soorten oplichting zijn bereikt, blijft onbekend.
Onafhankelijk gepubliceerd onderzoek voegt hier belangrijke context aan toe. Een studie van onderzoekers aan vier universiteiten — waaronder de Ben-Gurion Universiteit van de Negev, de Universiteit van Melbourne, de Foscari Universiteit van Venetië en Amrita Vishwa Vidyapeetham — stelde vast dat AI-chatbots menselijke oplichters in de vertrouwensopbouwende fase van deze langdurige oplichtingen mogelijk zelfs overtreffen. In hun experiment voldeed bijna 46 procent van de proefpersonen aan een verzoek van een AI-chatbot, vergeleken met slechts 18 procent wanneer een mens hetzelfde verzoek deed. De AI kreeg ook aanzienlijk hogere vertrouwensscores van deelnemers. De implicatie is scherp: precies die eigenschap die grote taalmodellen nuttig maakt — hun vloeiendheid, warmte en gesprekspatience — kan met verontrustende efficiëntie tegen mensen worden ingezet.
Verbanden met mensenhandel en dwangarbeid
De in Cambodja gevestigde operatie was niet alleen een fraudenetwerk. Een deel van de via ChatGPT gegenereerde inhoud suggereerde dat de operatie verweven was met mensenhandel en dwangarbeid — een kruispunt dat een bepalend kenmerk is geworden van oplichtingscomplexen in Zuidoost-Azië.
Signalen van gedwongen criminaliteit binnen het netwerk
Uit de data kwamen specifieke rode vlaggen naar voren. Sommige gebruikers genereerden advertenties op sociale media om “chatter”-werknemers te werven in Poipet, een Cambodjaanse grensstad, met aanbiedingen van vluchten, accommodatie, visa en werkvergunningen — een wervingspatroon dat overeenkomt met gedocumenteerde mensenhandeloperaties die werknemers lokken met valse beloften van legitieme werkgelegenheid. Eenmaal binnen raken werknemers vaak gevangen door schuldbinding en dwang.
Andere ChatGPT-activiteit leek verband te houden met het intern beheren van het personeelsbestand van de operatie. Dossiers die via het platform werden bijgehouden, omvatten werknemersschulden, salarisinhoudingen, disciplinaire boetes en aflossingen van leningen. Er waren ook vertaalde discussies over immigratiestatus, werkvergunningen, visumoverschrijdingen en wervingsprikkels. Sommige gesprekken verwezen naar schijnbare detenties, ontsnappingspogingen en mogelijke strafrechtelijke aansprakelijkheid voor mensen die waren verhandeld en tot het werk waren gedwongen.
OpenAI benadrukt dat het de specifieke omstandigheden van individuele betrokkenen niet kan vaststellen. Maar het patroon is in lijn met uitgebreide publieke berichtgeving over criminele complexen in Cambodja, Myanmar en Laos, waar werknemers die onder valse voorwendselen zijn gerekruteerd, worden gedwongen om grootschalige fraudeoperaties te bemannen.
Wanneer fraude en georganiseerde misdaad hetzelfde zijn
Dit is het diepere analytische punt dat de zaak oproept. Wat van buitenaf lijkt op een technologie-misbruikverhaal — criminelen die ChatGPT gebruiken om oplichting te plegen — is, vanuit een andere hoek, een inkijkje in de organisatiestructuur van grensoverschrijdende misdaad. De grenzen tussen online fraude, georganiseerde misdaad en mensenhandel in deze operaties zijn geen toevallige overlappingen. Het zijn structurele kenmerken van hoe de netwerken opereren en zichzelf in stand houden.
Die realiteit bepaalt hoe verstoringsinspanningen zouden moeten werken. Het verbannen van individuele accounts pakt de tools aan die criminelen gebruiken, maar de criminele onderneming zelf — de wervingskanalen, de infrastructuur van de complexen, de systemen van schuldbinding — functioneert onafhankelijk van welk AI-platform dan ook. Effectieve verstoring, zoals OpenAI zelf opmerkt, vereist dat niet alleen de op slachtoffers gerichte activiteiten worden aangepakt, maar ook de organisaties die deze orkestreren.
Wat OpenAI deed — en wat onopgelost blijft
OpenAI verbood de ChatGPT-accounts die met de operatie in verband stonden, deelde relevante dreigingsindicatoren met branchepartners en nam maatregelen om te voorkomen dat deze actoren opnieuw toegang zouden krijgen tot de autoriteiten en zijn diensten. Het onderzoek werd gestart na een tip van WhatsApp, wat suggereert dat platformoverschrijdende informatie-uitwisseling een betekenisvolle rol speelde bij het identificeren van het netwerk.
Wat onduidelijk blijft, is de bredere reactie van wetshandhavers. Er worden geen arrestaties, vervolgingen of inbeslagnames van complexen beschreven in verband met deze specifieke zaak. Het volledige geografische bereik van het netwerk is niet uiteengezet, en de mogelijkheid van hervatte activiteiten — via andere accounts, andere platforms of andere AI-tools — kan niet worden uitgesloten.
Het onafhankelijke onderzoek naar de effectiviteit van AI-chatbots in oplichtingsscenario’s wijst op een moeilijker probleem aan de horizon. Als AI de langdurige, relatie-opbouwende fase van een “pig butchering”-oplichting kan overnemen — en dat overtuigender kan doen dan een mens — zou de economische logica die mensenhandel momenteel centraal houdt in deze operaties kunnen beginnen te verschuiven. Zoals Erin West, een voormalig aanklager die nu de anti-oplichtingsorganisatie Operation Shamrock leidt, het verwoordde in reactie op dat onderzoek: “We zouden grote angst moeten hebben voor wat deze studie laat zien.” Een wereld waarin oplichtingscomplexen niet langer honderden verhandelde werknemers nodig hebben om callcenters te bemannen, is ook een wereld waarin die operaties kleiner, meer verspreid en aanzienlijk moeilijker te detecteren worden.
FAQ
Welke soorten oplichting gebruikte de in Cambodja gevestigde operatie?
De operatie voerde meerdere soorten oplichting tegelijkertijd uit, waaronder investeringsfraude, romantische oplichting, gokschema’s en het zich voordoen als wetshandhavers. Oplichters mengden deze tactieken vaak binnen één interactie — bijvoorbeeld door een romantische persona te gebruiken om vertrouwen op te bouwen voordat slachtoffers naar nep-cryptocurrency- of spotgoudinvesteringen werden geleid.
Hoe gebruikten oplichters ChatGPT in hun operaties?
ChatGPT werd gebruikt om valse persona’s te creëren en te onderhouden, oplichtingsberichten te genereren en te vertalen die naar slachtoffers op WhatsApp en Telegram werden gestuurd, vervalste documenten te produceren, promotiemateriaal te maken voor frauduleuze platforms en interne administratieve werkzaamheden te ondersteunen, waaronder personeelscommunicatie en personeelsdossiers.
Is er een verband tussen de oplichtingsoperatie en mensenhandel?
Ja, met kanttekeningen. Een deel van de binnen het netwerk gegenereerde inhoud wees op werving voor dwangarbeidsrollen, interne dossiers die in lijn zijn met praktijken van schuldbinding, en gesprekken waarin detentie en ontsnappingspogingen werden genoemd. Deze patronen sluiten aan bij uitgebreide berichtgeving over complexen van georganiseerde misdaad in Zuidoost-Azië, al verklaarde OpenAI dat het de omstandigheden van elke individuele betrokkene niet onafhankelijk kon vaststellen.
Welke maatregelen zijn genomen om de oplichtingsoperatie te verstoren?
OpenAI verbood de ChatGPT-accounts die met de operatie in verband stonden en deelde dreigingsindicatoren met branchepartners en relevante autoriteiten. De eerste tip kwam van WhatsApp. Er zijn ook stappen gezet om te voorkomen dat deze actoren opnieuw toegang krijgen tot de diensten van OpenAI, al zijn bredere resultaten van wetshandhaving in deze zaak niet openbaar gemaakt.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Welke soorten oplichting gebruikte de in Cambodja gevestigde operatie?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”De operatie voerde meerdere soorten oplichting tegelijkertijd uit, waaronder investeringsfraude, romantische oplichting, gokschema’s en het zich voordoen als wetshandhavers. Oplichters mengden deze tactieken vaak binnen één interactie — bijvoorbeeld door een romantische persona te gebruiken om vertrouwen op te bouwen voordat slachtoffers naar nep-cryptocurrency- of spotgoudinvesteringen werden geleid.”}},{“@type”:”Question”,”name”:”Hoe gebruikten oplichters ChatGPT in hun operaties?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”ChatGPT werd gebruikt om valse persona’s te creëren en te onderhouden, oplichtingsberichten te genereren en te vertalen die naar slachtoffers op WhatsApp en Telegram werden gestuurd, vervalste documenten te produceren, promotiemateriaal te maken voor frauduleuze platforms en interne administratieve werkzaamheden te ondersteunen, waaronder personeelscommunicatie en personeelsdossiers.”}},{“@type”:”Question”,”name”:”Is er een verband tussen de oplichtingsoperatie en mensenhandel?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Ja, met kanttekeningen. Een deel van de binnen het netwerk gegenereerde inhoud wees op werving voor dwangarbeidsrollen, interne dossiers die in lijn zijn met praktijken van schuldbinding, en gesprekken waarin detentie en ontsnappingspogingen werden genoemd. Deze patronen sluiten aan bij uitgebreide berichtgeving over complexen van georganiseerde misdaad in Zuidoost-Azië, al verklaarde OpenAI dat het de omstandigheden van elke individuele betrokkene niet onafhankelijk kon vaststellen.”}},{“@type”:”Question”,”name”:”Welke maatregelen zijn genomen om de oplichtingsoperatie te verstoren?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”OpenAI verbood de ChatGPT-accounts die met de operatie in verband stonden en deelde dreigingsindicatoren met branchepartners en relevante autoriteiten. De eerste tip kwam van WhatsApp. Er zijn ook stappen gezet om te voorkomen dat deze actoren opnieuw toegang krijgen tot de diensten van OpenAI, al zijn bredere resultaten van wetshandhaving in deze zaak niet openbaar gemaakt.”}}]}
Artikel geproduceerd met behulp van kunstmatige intelligentie en beoordeeld door de redactie.
