LEAKPRO II: Operativ integritetsriskhantering för AI-system

Syfte och mål

LeakPro är ett ramverk med öppen källkod som utvärderar hur AI-modeller, syntetiska data och federated learning-modeller kan läcka känslig information genom avancerade integritetsattacker. Projektet bygger vidare på detta genom att utöka attackmetoder, lägga till verktyg för skadebedömning och stärka kopplingen till regelverk. Målet är att göra LeakPro till ett tillförlitligt och praktiskt stöd för DPIA-processer och för säker delning av data och modeller i linje med gällande regelverk.

Förväntade effekter och resultat

Projektet kommer att leverera ett utökat LeakPro-ramverk med bredare täckning av integritetsattacker och verktyg för att bedöma risker för individer. Projektet ger även tydligare kopplingar mellan tekniska resultat och regulatoriska krav, så att organisationer kan genomföra mer objektiva och reproducerbara DPIA-processer. Den förväntade effekten är säkrare och mer medveten delning av data och modeller, starkare efterlevnad av gällande regelverk och ökat förtroende för AI-system över sektorer.

Planerat upplägg och genomförande

Projektet kommer att vidareutveckla LeakPro genom nya integritetsattacker och att integrera metoder för att uppskatta risker för enskilda individer. Tekniska komponenter, regulatorisk anpassning och organisatoriska behov utvecklas parallellt för att säkerställa enhetliga resultat. Implementeringen omfattar iterativa tester med partnercase, framtagning av riktlinjer och att förbereda LeakPro för praktisk användning i DPIA-processer och säkra arbetsflöden för datadelning.