Een beveiligingsonderzoeker in Kansas City voerde een jaar lang steeds dezelfde test uit, in de hoop iets te bouwen dat stilletjes de camera’s die de Amerikaanse straten bewaken te slim af kon zijn. Het resultaat is een reeks AI-camouflagepatronen die, eenmaal geprint op kleding of om een auto gewikkeld, surveillancesoftware lijken te stoppen van herkennen waarnaar het kijkt. Bill Swearingen noemt het project noRecognition, en het heeft zojuist zijn eerste publieke test gehad op Def Con in Las Vegas.
Summary
Belangrijkste punten
- Bill Swearingen’s noRecognition-project gebruikt AI-camouflagepatronen die zijn ontworpen om te voorkomen dat surveillancesoftware van camera’s mensen, gezichten of voertuigen identificeert.
- De patronen versloegen alle 11 open-source detectie-algoritmen die Swearingen testte, inclusief software die is gekoppeld aan Flock-kentekenlezers, Axon-bodycams en Clearview AI.
- Er waren ongeveer 31 miljoen testruns nodig om het model te trainen om consequent effectieve patronen te genereren.
- De eerste publieke demonstratie vond vrijdag plaats op Def Con, waar een omwikkelde Toyota Yaris uit 2009 onopgemerkt langs een Flock-camera reed.
- De patronen bedekken de carrosserie van voertuigen in plaats van kentekenplaten, een bewuste keuze om wetten tegen het afdekken van kentekens te omzeilen.
AI-gestuurde camouflage om surveillancercamera’s te ontwijken
noRecognition werkt door een kloof uit te buiten tussen menselijk zicht en machinevisie — een wrap die voor een persoon lijkt op luidruchtig grafisch ontwerp kan voor een detectie-algoritme helemaal nergens op slaan. Die kloof is de hele premisse achter Swearingen’s project, en het is de reden waarom de patronen ertoe doen buiten één enkele stunt langs de weg.
Het noRecognition-project en technische aanpak
Swearingen, medeoprichter van de SecKC-securitymeetup, bouwde noRecognition met behulp van een reinforcement learning-model dat in feite zijn eigen huiswerk nakijkt. Een patroon wordt gedetecteerd, het model past zich aan en probeert het opnieuw, een lus die Swearingen heeft omschreven als het systeem leren “hoe te schilderen”. Volgens TechCrunch begon hij met een proof-of-concept-lab dat stap voor stap één open-source detectie-algoritme na het andere uitschakelde, waarna hij de rekenkracht opschaalde om de resultaten in de loop van een jaar te verfijnen.
Dat proces doorliep uiteindelijk 31 miljoen tests, aldus Decrypt, voordat Swearingen betrouwbaar patronen op aanvraag kon produceren. De opbrengst: alle 11 open-source detectie-algoritmen die hij testte, werden verslagen door de patronen, waaronder de technologie achter Flock-kentekenlezers, Axon-bodycams en Clearview AI. Hij zegt nu dat het model ongeveer elke minuut nieuwe patronen kan uitspugen, en hij houdt de sterkste bewust offline zodat cameraleveranciers hun systemen er niet tegen kunnen trainen.
Publieke demonstratie op Def Con
Het idee verschoof vrijdag van labexperiment naar bewijs in de echte wereld, toen Swearingen samenwerkte met het YouTube-kanaal Donut Media om een Toyota Yaris uit 2009 te wrappen in een van zijn nieuwste patronen en deze langs een Flock-camera op Def Con te rijden. TechCrunch meldde dit als de eerste publieke test van het patroon toegepast op een voertuig, en het liet zien dat de AI-camouflagepatronen standhouden buiten een gecontroleerde testomgeving, niet alleen in simulatie.
Motivaties rond privacy en context
Voor Swearingen is het project niet alleen een technische oefening — het wordt gepresenteerd als een reactie op wat hij ziet als ongebreidelde uitbreiding van surveillance. “Privacy is een fundamenteel recht,” vertelde hij aan verslaggevers, waarbij hij de patronen omschreef als een manier voor mensen om zich “af te melden voor het gevolgd worden”.
Privacyrechten en zorgen over surveillance
Swearingen zei dat het idee vorig jaar vorm kreeg nadat hij een protest wilde bijwonen maar zich ongemakkelijk begon te voelen over het aantal camera’s dat iedereen die aanwezig was kon registreren. Hij is er open over dat hij, als middelbare blanke man in het midden van de Verenigde Staten, persoonlijk niet de soort controle of discriminatie heeft ervaren die anderen mogelijk wel meemaken. Maar hij stelde dat als hij zich al ongemakkelijk voelde, anderen die hun recht op vrije meningsuiting uitoefenen waarschijnlijk hetzelfde — of erger — voelden.
Dit is een deel van de reden waarom het verhaal ertoe doet buiten het thuiskabinet van één onderzoeker: het valt precies binnen een lopend debat over geautomatiseerde surveillance in de VS. Flock wordt omschreven als een controversieel surveillancesysteem dat momenteel in het hele land wordt uitgerold, en het ligt onder een vergrootglas dat veel verder reikt dan alleen privacykringen. Interne documenten die in berichtgeving worden aangehaald, laten zien dat het bedrijf heeft voorgesteld om 350.000 Uber- en Lyft-dashcams te veranderen in een rijdende kentekenscannende vloot, een plan dat de tegenreactie op Capitol Hill heeft aangewakkerd.
Bestaande adversariële pogingen tegen detectie
noRecognition is niet de eerste poging om algoritmische detectie te ontwijken, maar het richt zich op een scherpere lijst systemen dan de meeste voorgangers. Activisten in San Francisco hebben verkeerskegels op de motorkappen van Waymo- en Cruise-robotaxi’s geplaatst om ze te immobiliseren — geen code nodig. Tijdens de immigratierazzia’s in Los Angeles vorig jaar gingen sommige demonstranten nog verder en staken meerdere Waymo-voertuigen in brand. Maskers, capuchons en petten met klep blijven de standaarduitrusting op protestlijnen, en adversariële kledingmerken verkopen al jaren gezichtsverwarrende prints, hoewel anti-herkenningsbrillen weinig bewijs hebben geleverd dat ze echt werken.
Wat Swearingen’s aanpak onderscheidt, is precisie: in plaats van een generieke anti-herkenningsgimmick, is noRecognition getest tegen de specifieke detectiestacks die al op grote schaal zijn ingezet, inclusief de software die draait binnen Flocks cameranetwork.
Juridische en praktische overwegingen
Een auto in een adversarieel patroon wrappen roept een juridische vraag op die niets met het algoritme te maken heeft en alles met de weg. Wetten rond het afdekken van kentekens verschillen per staat, en Swearingen bouwde het project rond die realiteit in plaats van ertegenin.
Bedekking van carrosserie om wetten rond kentekenbelemmering te vermijden
De noRecognition-patronen worden aangebracht op de carrosserie, niet op de kentekenplaten, een ontwerpkeuze die er expliciet op is gericht het project uit juridische problemen te houden die verband houden met het verduisteren van een kenteken. Het is een klein maar belangrijk onderscheid: de technologie richt zich op hoe camera’s vormen en objecten classificeren, niet op de zichtbaarheid van een kentekennummer zelf, waar de meeste bestaande obstructiewetten zich op richten.
Voortdurende juridische en privacyzorgen rond surveillance
De bredere juridische en politieke achtergrond is niet tot stilstand gekomen. Geautomatiseerde kentekenlezers hebben in gedocumenteerde gevallen al onschuldige bestuurders onder schot laten aanhouden, en immigranten en demonstranten zijn meegesleurd in federale, door AI aangestuurde surveillancenetten die zijn gekoppeld aan ICE. Wetgevers zetten Meta afzonderlijk onder druk vanwege gezichtsherkenningsfuncties in zijn slimme brillen, een parallel gevecht dat laat zien hoeveel regelgevende aandacht algoritmische detectie inmiddels krijgt.
Waarom dit ertoe doet: naarmate geautomatiseerde detectietools zich vermenigvuldigen in politieoptreden en particuliere beveiliging, bevinden tools die specifiek zijn gebouwd om ze te verslaan — zelfs als ze worden gepresenteerd als wettige privacybescherming — zich in het hart van een juridische grijze zone die toezichthouders nog niet volledig in kaart hebben gebracht.
Swearingen stopt niet bij Def Con. noRecognition voert een crowdfundingcampagne voor vroege merchandise, te beginnen met T-shirts en hoodies en uiteindelijk richting voertuigwraps, met als verklaard doel de resolutie hoog genoeg te houden om op afstand te werken en de ontwerpen zodanig te maken dat mensen ze ook echt willen dragen. “Elke mislukking verbetert mijn model, en dus worden de patronen steeds beter en beter,” zei Swearingen — een uitspraak die ook geldt als waarschuwing aan cameraleveranciers die deze wapenwedloop in realtime volgen.
FAQ
Wat is het noRecognition-project?
noRecognition is een AI-gebaseerd systeem, ontwikkeld door Bill Swearingen, dat patronen genereert die zijn ontworpen om te voorkomen dat surveillancesoftware van camera’s mensen, gezichten of voertuigen detecteert.
Hoe effectief is het noRecognition-patroon tegen surveillancercamera’s?
De patronen versloegen 11 open-source detectie-algoritmen, waaronder software die wordt gebruikt door Flock, Axon-bodycams en Clearview AI, na ongeveer 31 miljoen tests tijdens de ontwikkeling.
Is het legaal om voertuigen te rijden die in deze AI-gegenereerde camouflagepatronen zijn gewikkeld?
De patronen bedekken de carrosserie van voertuigen in plaats van de kentekenplaten, specifiek om problemen rond kentekenbelemmering te vermijden, al verschilt de bredere legaliteit van het rijden met een gewrapte auto per staat.
Wat motiveerde de creatie van noRecognition?
Bill Swearingen zei dat hij noRecognition bouwde zodat mensen zich konden “afmelden voor het gevolgd worden” door surveillancesystemen, een zorg die hij voor het eerst voelde toen hij overwoog een protest bij te wonen onder zware camerabewaking.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”Wat is het noRecognition-project?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”noRecognition is een AI-gebaseerd systeem, ontwikkeld door Bill Swearingen, dat patronen genereert die zijn ontworpen om te voorkomen dat surveillancesoftware van camera’s mensen, gezichten of voertuigen detecteert.”}},{“@type”:”Question”,”name”:”Hoe effectief is het noRecognition-patroon tegen surveillancercamera’s?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”De patronen versloegen 11 open-source detectie-algoritmen, waaronder software die wordt gebruikt door Flock, Axon-bodycams en Clearview AI, na ongeveer 31 miljoen tests tijdens de ontwikkeling.”}},{“@type”:”Question”,”name”:”Is het legaal om voertuigen te rijden die in deze AI-gegenereerde camouflagepatronen zijn gewikkeld?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”De patronen bedekken de carrosserie van voertuigen in plaats van de kentekenplaten, specifiek om problemen rond kentekenbelemmering te vermijden, al verschilt de bredere legaliteit van het rijden met een gewrapte auto per staat.”}},{“@type”:”Question”,”name”:”Wat motiveerde de creatie van noRecognition?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”Bill Swearingen zei dat hij noRecognition bouwde zodat mensen zich konden “afmelden voor het gevolgd worden” door surveillancesystemen, een zorg die hij voor het eerst voelde toen hij overwoog een protest bij te wonen onder zware camerabewaking.”}}]}
Artikel geproduceerd met behulp van kunstmatige intelligentie en beoordeeld door de redactie.
