Ga naar inhoud
  • BTC $60.428 +2,6%
  • ETH $1.687 +4,0%
  • SOL $70,50 +3,0%
  • BNB $548,87 +1,9%
  • XRP $0,9301 +3,0%
  • DOGE $0,0552 +2,9%
  • ADA $0,1449 +2,4%

Beveiligingsinbreuk bij Anthropic legde salarissen en berichten bloot, niet de modelgewichten

Volgens het bedrijf heeft het beveiligingslek bij Anthropic salarissen, interne berichten en zakelijke informatie blootgelegd via externe software die door de AI-ontwikkelaar werd gebruikt—niet via toegang tot de modelgewichten. Onderzoekers van Cathedral kregen toegang tot delen van de commerciële, HR- en IT-systemen van Anthropic, wat een geschil veroorzaakte over de aard van de test en de…

Anthropic security breach
Anthropic Security Breach Exposes Internal Systems in Research Test

Volgens het bedrijf heeft het beveiligingsincident bij Anthropic via externe software die door de AI-ontwikkelaar wordt gebruikt, salarissen, interne berichten en bedrijfsinformatie blootgelegd—maar niet via toegang tot de modelgewichten. Onderzoekers van Cathedral drongen door tot delen van de commerciële, HR- en IT-systemen van Anthropic, wat leidde tot een conflict over de aard van de tests en de implicaties voor de nationale veiligheid.

Belangrijkste punten

  • Cathedral kreeg toegang tot interne bedrijfssystemen via applicaties van derden.
  • Anthropic stelt dat klantprompts en modelcomponenten niet zijn benaderd.
  • Getroffen applicaties bleven uitgeschakeld totdat leveranciers bevestigden dat de problemen waren opgelost.
  • De bedrijven verschillen van mening over de rapportage en het belang van het incident.

Wat het beveiligingsincident bij Anthropic heeft blootgelegd

De benaderde systemen bevatten personeelsdossiers en interne communicatie, naast commerciële informatie. Cathedral verklaarde dat AI-agenten die tijdens het onderzoek zijn gebruikt, routes vonden naar notulen van vergaderingen, salarisinformatie, baanvoorstellen en Slack-berichten.

De getroffen systemen bevatten ook commerciële contactgegevens van sommige klanten en partners, evenals basisaccountinformatie. Anthropic zei dat de onderzoekers geen toegang kregen tot klantprompts, modelantwoorden, broncode of AI-modelgewichten.

De toegang verliep via kwetsbaarheden in externe administratieve en zakelijke applicaties die Anthropic gebruikt. De betrokken leveranciers werden niet genoemd. De toegang had dus betrekking op software ter ondersteuning van de bedrijfsvoering, en niet op de modelcomponenten waarvan Anthropic aangaf dat die buiten het bereik van de onderzoekers bleven.

Cathedral voerde de tests uit binnen het External Researchers Program van Anthropic, dat een kanaal biedt voor het melden van kwetsbaarheden. De startup, opgericht door voormalige DOGE-leden, ontwikkelt AI-cybersecuritytools voor overheids- en zakelijke klanten.

Hoe Anthropic de toegang ontdekte en indamde

Anthropic verklaarde dat zijn monitoring bepaalde activiteiten detecteerde voordat Cathedral het bedrijf op de hoogte stelde, en dat de toegang diezelfde dag werd afgesloten. De reactie op het beveiligingsincident bij Anthropic omvatte ook het uitschakelen van de getroffen applicaties.

Die applicaties werden pas hersteld nadat hun leveranciers hadden bevestigd dat zij de kwetsbaarheden hadden verholpen. Het afsluiten van de toegang van de onderzoekers en het repareren van de software vormden afzonderlijke onderdelen van de reactie.

Anthropic gaf aan geen bewijs te hebben van misbruik door iemand anders dan Cathedral.

Discussie over rapportage gaat verder dan de blootgestelde gegevens

Anthropic en Cathedral verschillen van mening over de volledigheid van de onderzoeksrapportage en over het belang van het incident voor de nationale veiligheid. Anthropic beschuldigde Cathedral ervan niet alle activiteiten te hebben gerapporteerd die het op de systemen van het bedrijf heeft uitgevoerd.

Het beveiligingsincident bij Anthropic laat een onderscheid zien tussen het beschermen van AI-modellen en het beveiligen van de infrastructuur eromheen: personeelsdocumenten, vergaderingsverslagen en interne berichten bleven blootgesteld, ook al stelde Anthropic dat modelcomponenten niet zijn benaderd.

Het hoofd red teaming van Anthropic pleitte ook voor continue beveiligingstests en het herontwerpen van softwaresystemen om hun blootstelling te verkleinen.

Artikel geproduceerd met hulp van kunstmatige intelligentie en beoordeeld door de redactie.

Francesco Antonio Russo

Alle artikelen van Francesco Antonio Russo