ThreMoLIA: Hotmodellering för LLM-integrerade applikationer

Syfte och mål

Projektet syftar till att utveckla en metod för hotmodellering för RAG-baserade LLM-integrerade applikationer (LIA) och ett verktyg som drivs av en specialiserad LLM som kan generera och kontinuerligt underhålla hotmodeller.

Förväntade effekter och resultat

Projektets resultat kommer att ge ny kunskap som är nödvändig för att använda LLM-teknologier bäst för att förbättra hotmodellering, särskilt av applikationer som använder RAG-baserade LLM-komponenter. Den tekniska lösningen och medföljande metodik kommer att göra det möjligt för intressenter som saknar expertis inom AI, såsom utvecklare och arkitekter, att utföra hotmodellering av sådana applikationer.

Planerat upplägg och genomförande

För att nå projektets mål kommer konsortiet att samarbeta för att utveckla tekniska lösningar och ny kunskap. Experterna på AI och mjukvarusäkerhet från BTH och Ericsson ska anpassa och förfina en stor språkmodell (LLM) för hotmodellering. Därefter kommer BTH att utveckla ett tillvägagångssätt för löpande kvalitetskontroller av de genererade hotmodellerna. Därefter kommer resultaten att utvärderas på Ericsson med hjälp av akademisk bästa praxis. I slutändan borde verktyget vara redo för integration i Ericssons operativa miljö och bli en industriellt gångbar produkt.