Du har inte javascript påslaget. Det innebär att många funktioner inte fungerar. För mer information om Vinnova, ta kontakt med oss.

SAFE-CARE: Säkra Agent-ramverk och kodbaser genom AI-driven Red-Teaming miljöer

Diarienummer
Koordinator Lindholmen Science Park AB - AI Sweden
Bidrag från Vinnova 1 000 000 kronor
Projektets löptid juli 2026 - juni 2027
Status Pågående
Utlysning Avancerad digitalisering - Industriell behovsdriven innovation
Ansökningsomgång USA-samarbeten inom AI, digital infrastruktur och cybersäkerhet Steg 2

Syfte och mål

SAFE-CARE är ett bilateralt innovationssamarbete Sverige–USA som syftar till att utveckla ett modulärt ramverk för AI-driven säkerhetsbedömning av kritisk programvara och agentiska AI-system. Projektet möter ett akut behov: proaktivt identifiera sårbarheter innan angripare utnyttjar samma generativa AI. Via två spår—AI-SAST i CI/CD och adversariell red-teaming av vårdassistenter—levererar vi validerade proof-of-concept, en säkerhetsguide och återanvändbara komponenter för svenska aktörer.

Förväntade effekter och resultat

Projektet levererar två validerade proof-of-concept: en AI-SAST-pipeline i CI/CD och en red-teaming-miljö för agentiska vårdassistenter. Resultatet inkluderar en säkerhetsguide, återanvändbara sandboxarkitekturer och öppen källkod där det är möjligt. Effekten blir minskade falska larm, verifierade sårbarheter utöver baslinjeverktyg och praktisk vägledning för svenska företag och offentlig sektor att bedöma AI-relaterad cybersäkerhetsrisk och stärka långsiktigt Sverige–USA-samarbete.

Planerat upplägg och genomförande

Projektet genomförs i tre arbetspaket under tolv månader. WP1 bygger en isolerad AI-SAST-pipeline i CI/CD med baslinjeverktyg, verifierande AI-agenter och selektiv onboarding av svenska use cases via AI Sweden. WP2 utvecklar en sandboxad red-teaming-miljö för agentiska vårdassistenter med syntetiska data. WP3 syntetiserar resultat till en säkerhetsguide, öppna komponenter och riktad spridning. Samarbetet sker digitalt med planerade Sverige–USA-möten och expertråd.

Texten på den här sidan har projektgruppen själv formulerat. Innehållet är inte granskat av våra redaktörer.

Senast uppdaterad 6 juli 2026

Diarienummer 2026-01570