Hundratals ChatGPT-jailbreaks till salu i dark web

En ny rapport från säkerhetsföretaget Kaspersky avslöjar att det finns flera sårbarheter i den populära AI-applikationen ChatGPT, vilket kan möjliggöra brottslig användning. Rapporten visar att under 2023 ökade användningen av GPT för att skapa skadlig kod som kan användas på ChatGPT-plattformen.

Även om ingen sådan skadlig kod har hittats än, pekar rapporten på att det kan vara en framtida hotbild. Dessutom kan ChatGPT användas för att underlätta brottsliga handlingar genom att generera kod för att stjäla användardata. Detta sänker tröskeln för att använda AI för ondskefulla ändamål. Rapporten påpekar också att det finns en ökning av försök att lura och stjäla användardata genom att sälja stulna ChatGPT Plus-konton på den mörka webben. Kaspersky varnar för att möjligheterna med språkmodeller snart kan nå en nivå där sofistikerade attacker blir möjliga.

ChatGPT jailbreak på dark web

Säkerhetsexperter från Kaspersky har också funnit mer än 3 000 inlägg på dark web där hotaktivitet tilltänker att missbruka eller otillbörligt exploatera ChatGPT. Detta inkluderar försäljning av jailbreak-versioner av populära AI-verktyg och diskussioner kring användning av ChatGPT för olaglig verksamhet, som utveckling av skadlig kod eller spridning av desinformation.

Över 100 000 komprometterade konton för OpenAIs språkmodell ChatGPT har upptäckts på illegala dark web-marknader. Detta inkluderar känslig information som kan utnyttjas för kriminell verksamhet om threat actors får tillgång till dessa konton, eftersom ChatGPT:s standardkonfiguration behåller alla konversationer.

”Grandma”exploiten var en sårbarhet i ChatGPT som blev känd förra året. Även om många av sådana sårbarheter har åtgärdats av OpenAI, finns det fortfarande sådana sårbarheter som säljs på olika platser. Kasperskys rapport visar att det under 2023 fanns 249 erbjudanden om att distribuera och sälja sådana sårbarheter.

Leave a Reply

Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *