AI-REASON: AI-assisterad tillförlitlig och förklarbar analys för säkerhetsoperationer

Syfte och mål

Projektets syfte är att utveckla ett AI-assisterat, tillförlitligt och förklarbart beslutsstödsystem för säkerhetsbeslut i security operation centers (SOC) i industriella miljöer. Målet är att stödja SOC-analytiker i att prioritera och analysera stora mängder säkerhetsdata genom att minska falsklarm, förbättra situationsförståelsen och möjliggöra snabbare, mer konsekventa och tillförlitliga beslut vid cyberincidenter.

Förväntade effekter och resultat

Projektet kommer att leverera en prototyp av ett AI-assisterat beslutsstödsystem för SOC-miljöer, som möjliggör snabbare säkerhetsbeslut, mer tillförlitlig incidentbedömning och förklarbar AI-baserad analys. Systemet genererar kontext-rika incidentrapporter, förklarbara utdata och konkreta åtgärdsrekommendationer. Effekterna inkluderar minskad larmbelastning, ökad operativ effektivitet samt stöd för förbättrad cybersäkerhet i industriella miljöer.

Planerat upplägg och genomförande

Projektet följer en iterativ utvecklingsprocess som inleds med kravanalys i samarbete med SOC-analytiker för att identifiera arbetsflöden, begränsningar och datakällor. Baserat på detta designas ett system som kombinerar regelbaserad detektion (IoC), maskininlärning och LLM-baserad resonemangsförmåga. Data samlas in och annoteras för modellträning, varefter lösningen integreras i en SOC-miljö och förbättras kontinuerligt genom testning och användarfeedback.