SAFE-CARE: Säkra Agent-ramverk och kodbaser genom AI-driven Red-Teaming miljöer
| Diarienummer | |
| Koordinator | Lindholmen Science Park AB - AI Sweden |
| Bidrag från Vinnova | 1 000 000 kronor |
| Projektets löptid | juli 2026 - juni 2027 |
| Status | Pågående |
| Utlysning | Avancerad digitalisering - Industriell behovsdriven innovation |
| Ansökningsomgång | USA-samarbeten inom AI, digital infrastruktur och cybersäkerhet Steg 2 |
Syfte och mål
SAFE-CARE är ett bilateralt innovationssamarbete Sverige–USA som syftar till att utveckla ett modulärt ramverk för AI-driven säkerhetsbedömning av kritisk programvara och agentiska AI-system. Projektet möter ett akut behov: proaktivt identifiera sårbarheter innan angripare utnyttjar samma generativa AI. Via två spår—AI-SAST i CI/CD och adversariell red-teaming av vårdassistenter—levererar vi validerade proof-of-concept, en säkerhetsguide och återanvändbara komponenter för svenska aktörer.
Förväntade effekter och resultat
Projektet levererar två validerade proof-of-concept: en AI-SAST-pipeline i CI/CD och en red-teaming-miljö för agentiska vårdassistenter. Resultatet inkluderar en säkerhetsguide, återanvändbara sandboxarkitekturer och öppen källkod där det är möjligt. Effekten blir minskade falska larm, verifierade sårbarheter utöver baslinjeverktyg och praktisk vägledning för svenska företag och offentlig sektor att bedöma AI-relaterad cybersäkerhetsrisk och stärka långsiktigt Sverige–USA-samarbete.
Planerat upplägg och genomförande
Projektet genomförs i tre arbetspaket under tolv månader. WP1 bygger en isolerad AI-SAST-pipeline i CI/CD med baslinjeverktyg, verifierande AI-agenter och selektiv onboarding av svenska use cases via AI Sweden. WP2 utvecklar en sandboxad red-teaming-miljö för agentiska vårdassistenter med syntetiska data. WP3 syntetiserar resultat till en säkerhetsguide, öppna komponenter och riktad spridning. Samarbetet sker digitalt med planerade Sverige–USA-möten och expertråd.