AI och cybersäkerhet: AI förändrar cybersäkerhetslandskapet 2025 – från AI-driven phishing och deepfakes till avancerade sociala ingenjörsattacker. I det här inlägget skriver vi om hur svenska företag kan skydda sig mot LLM-attacker, skugg-AI och andra AI-relaterade cyberhot, samt varför tydliga strategier och säkerhetsrutiner är viktigare än någonsin. Men först, några andra cybersäkerhetsnyheter från vår omvärld.
Storpolitik och cybersäkerhet
I USA fortsätter DOGE sin ”kamp mot byråkratin” och vi lovade att ta upp detta med Data Privacy Framework i ett kommande nyhetsbrev, men detta kommer få vänta lite. Dock kan man konstatera att de händelser som nu sker, kopplat till efterlevnad och kontroll av bland annat personuppgiftsintegritet får EU-kommissionen att agera. Kommissionen ger nämligen vissa anställda som besöker USA i tjänsten, så kallade ”burner”-datorer och -telefoner för att undvika spionageförsök, enligt Financial Times. Användningen av ren och låst hårdvara är en vanlig praxis för alla som besöker Kina, Ryssland och andra länder där aggressiv elektronisk övervakning förväntas. Tydligen har Europeiska unionen lagt till USA på den listan. Man kan väl lugnt påstå att den transatlantiska alliansen fortsatt är i gungning.
Ransomware på uppgång, lösensummor på nergång
Telekom-giganten Verizon har i sin rapport ”2025 Data Breach Investigations” analyserat över 12 000 bekräftade dataintrång och fann att Ransomware förekom i 44 % av incidenterna. Detta är en ökning från 33% förra året. Däremot slår man fast att 64% av offren valt att inte att betala lösensummor (jämfört med 50 % för två år sedan). Medianbetalningen sjönk dessutom till 115 000 dollar från 150 000 dollar, året innan. En intressant del gäller små och medelstora företag, där Ransomware enligt rapporten förekommer i 88 % av intrången.
Siffrorna tyder enligt Recorded Future, som studerat rapporten, på framgångsrikt motstånd och medvetenhet, då färre organisationer betalar lösensummor trots ökade attacker. Detta samtidigt som lösensummornas storlek minskar. Rapporten visar att 95 % av lösensummorna nu ligger under 3 miljoner dollar, en minskning från toppnivån för några år sedan, på 9,9 miljoner dollar.
AI och cybersäkerhet
Fokus på AI som ”aspekt” inom cybersäkerhet varierar väldigt mycket, i vissa rapporter får AI-relaterade risker stor uppmärksamhet, medan andra inte ens nämner AI som begrepp. I Googles rapport ”Cybersecurity Forecast 2025” kan man läsa att:
- Vi kommer att se ett fortsatt användande av AI och stora språkmodeller (LLMs) för att utveckla och skapa mer övertygande phishing, vishing, SMS och andra sociala ingenjörsattacker.
- Vi förväntar oss att cyberspionage- och cyberbrottsaktörer fortsätter att använda deepfakes för identitetsstöld samt bedrägerier.
Ur ett försvarsperspektiv börjar vi se någon form av andra våg avseende AI, dvs. där AI kan bli ett stöd för säkerhetsexperter. Google anser att AI under 2025 ytterligare kommer att ”demokratisera” säkerhet genom att automatisera komplexa uppgifter och förbättra arbetsflöden. Detta innebär att vi kommer få se semi-autonoma säkerhetsoperationer där AI stöder mänskliga beslutsfattare i att prioritera och hantera hot mer effektivt.
AI och cybersäkerhet – LLM-tjänster
Under rubriken ”Cybersäkerhetschefer måste förbereda sig för LLM-attacker”, skrev Brad Jones en opinionstext som nättidningen ”Aktuell Säkerhet” publicerade. Några utvalda korn (guld eller inte) följer nedan. Detta kan vara väl värt att tänka på oavsett om man är en ”cybersäkerhetschef” eller har en annan ledande roll inom verksamheten…vi vet nämligen att väldigt få av våra kunder har personer med titeln ”cybersäkerhetschef”.
- AI-system kräver ytterligare lager av skydd utöver grundläggande cybersäkerhet.
- Företag måste vara uppmärksamma på användningen av LLM-tjänster.
- Skugg-AI kan leda till att känsliga uppgifter delas med icke godkända tjänster.
- Cyberkriminella kan utnyttja AI-drivna säkerhetslösningar.
- Säkerhetsansvariga måste etablera tydliga strategier för att skydda sig mot AI-hot.
- Generativ AI kan höja kompetensen hos säkerhetsanalytiker och hjälpa till att identifiera sårbarheter snabbare.
Du surfar inte ensam
TV4 rapporterar att säkerhetsforskaren John Tuckner från Secure Annex har identifierat flera Chrome-tillägg som kan övervaka användare utan deras vetskap. Dessa tillägg, tillgängliga via Chrome Web Store, har möjligheten att spåra allt som sker i webbläsaren, inklusive åtkomst till kakor, lokal lagring och de flikar som är öppna.
Tuckner har hittills upptäckt 35 tillägg som tillsammans har laddats ner fyra miljoner gånger, men de är nästintill omöjliga att analysera på djupet. Den svenska IT-säkerhetsexperten Marcus Murray (på Truesec) understryker att många av dessa tillägg är svåra att upptäcka och gömmer sig effektivt.
”Det är en oroande utveckling. Tilläggen verkar kunna utföra skadliga aktiviteter, som att avlyssna användare, kartlägga deras beteenden och kanske till och med påverka deras aktivitet i webbläsaren”, säger Marcus Murray.
Se vilka tillägg detta gäller på denna sida.
Riktig digital plånbok på väg
Myndigheten för Digital Förvaltning (Digg) utvecklar digital id-plånbok enligt EU:s Eidas2-förordning, med målet att lansera den i december 2026. Den digitala id-plånboken ska inte bara bevisa identitet utan även samla andra identitetshandlingar som körkort, pass och vaccinationsbevis.
Digg har fått i uppdrag att utveckla funktionalitet för identitetsmatchning och kvalificerade elektroniska underskrifter, samt att skapa en nationell certifieringsordning för digitala identitetsplånböcker. Budgeten är cirka 60 miljoner kronor för 2025 och prognosen för 2026 är cirka 80 miljoner kronor, med möjlighet till ytterligare medel.
Tidiga piloter har genomförts och nya piloter startar, där erfarenheter och lärdomar från tidigare projekt tas tillvara. För att använda den digitala id-plånboken krävs en e-legitimation på högsta tillitsnivå eller motsvarande elektronisk identifiering.
Digg ska ta hänsyn till tillgänglighetsaspekter och säkerhetskrav, med fokus på att skapa en användarvänlig och säker tjänst.
MSB:s årsrapport 2024
MSB släppte sin årsrapport för 2024 i mitten av mars. Rapporten tas fram med underlag av inlämnade incidentrapporter och vi kan i rapporten läsa att cirka hälften av alla IT-incidenter orsakades av misstag eller systemfel, ofta i samband med uppdateringar eller konfigureringar. Till detta kommer angrepp, som står för 20% av samtliga rapporterade incidenter. Det finns ett stort antal rapporterade incidenter (21% av totalen) där orsaken är ”okänd”.
Totalt rapporterades 319 IT-incidenter från 163 av de cirka 900 rapporteringspliktiga organisationerna.
Man belyser också i rapporten ”leverantörskedjeperspektivet” även om man konstaterar att det under 2024 har förekommit ett fåtal större digitala leveranskedjeincidenter som uppmärksammats nationellt såväl som internationellt.
De leveranskedjeincidenter som fått störst spridning i Sverige har ofta uppstått som konsekvens av en händelse hos en leverantör av infrastruktur, inkluderande telekommunikationslösningar och IT-drift. Det är dock ytterst få av dessa som resulterat i långvariga störningar för ett större antal rapporteringspliktiga organisationer.
Den enskilt största IT-incidenten som förekom under året, är incidenten som drabbade leverantören TietoEvry i januari 2024. MSB skriver att just denna incident tydligt illustrerar risken som uppstår när ett stort antal samhällsviktiga verksamheter är beroende av samma digitala infrastruktur.
I rapporten står även att mörkertalet för IT-incidenter bedöms vara högt, och ökad efterlevnad av rapporteringsplikten är nödvändig för att stärka det civila försvaret. MSB betonar vikten av att organisationer rapporterar och informerar sig om bakomliggande orsaker till IT-incidenter.
Hela rapporten finns att läsa på MSB:s webbplats.
Denna blogg bygger på JSC:s nyhetsmail för informationssäkerhet. Vill du få månatliga uppdateringar med omvärldsbevakning i ämnet? Prenumerera på JSC Cure Nyhetsbrev.
Och läs mer om vårt arbete med IT-säkerhet för företag.