Digital resiliens, AI och cybersäkerhet för konkurrenskraftig industri

I denna utlysning vill vi finansiera projekt som använder AI för att förebygga, upptäcka och hantera cyberhot eller utvecklar lösningar som gör AI-system tillförlitliga och säkra mot angrepp och störningar.  De ska drivas av industrins behov och genomföras i samverkan mellan minst två aktörer, varav minst ett svenskt företag. 

Utlysningen har två tematiska inriktningar och ditt projekt ska adressera en av dessa:  

• AI som möjliggörare för cybersäkerhet  
• Tillförlitlig och säker AI 

I avsnitt 11 finns en mer utförlig beskrivning av inriktningarna. 

Utlysningen riktar sig till konsortier med minst två projektparter, där minst en är ett svenskt företag. Övriga projektparter kan komma från industri, näringsliv, akademi, forskningsinstitut, offentlig verksamhet eller myndighet. Projekten ska drivas av industrins behov, och behovsägaren ska vara aktivt engagerade. 

Projekten ska vara mellan 12 och 24 månader. Varje projekt kan söka mellan  1 och 10 miljoner och utlysningens totala budget är 50 miljoner kronor. Vinnova kan finansiera upp till 50 % av projektets totala stödberättigande kostnader. För detaljerad information om villkor för respektive projektpart hänvisas till avsnitt 5, ”Hur stort bidrag kan vi ge?”.

Utlysningen är en del av programmet Avancerad digitalisering, ett industridrivet program för att främja Sveriges och den svenska industrins förmåga att skapa framtidens digitala lösningar. Projekten som finansieras ska bidra till Sveriges gemensamma förmåga att skapa och nyttja digitaliserings möjligheter. 

Viktiga datum

• Utlysningen stänger: 9 april
• Beslut meddelas: 17 juni
• Projektstart tidigast: 22 juni
• Projektstart senast: 1 september 2026
• Projektslut senast: 1 september 2028

I denna utlysning vill vi finansiera projekt som utvecklar ny kunskap inom avancerad digitalisering för svensk industri. Utlysningen fokuserar på projekt som:

• Använder AI för att stärka cybersäkerhet genom automatiserad övervakning, riskhantering och självlärande säkerhet.
• Utvecklar tillförlitliga och robusta AI-lösningar med hög spårbarhet och säkerhet.  

Projekten ska öka industrins förmåga att implementera avancerad digitalisering på ett säkert sätt, och samtidigt stärka Sveriges konkurrenskraft och digitala motståndskraft. De ska främja förnyelse och innovation inom och vara relevanta för någon av utlysningens två tematiska inriktningar.

Projektens resultat ska ha god potential till nationell och internationell genomslagskraft och spridning för att ge kompetenshöjande effekter hos fler än de parter som medverkar.

Utlysningens två inriktningar är:

1. AI som möjliggörare för cybersäkerhet. Projekt inom denna inriktning ska använda AI för att förebygga, upptäcka och hantera cyberhot. De ska främja utvecklingen av AI-baserade lösningar som stärker cybersäkerhet och automatiserar hantering av komplexa dataflöden. Med innovation och ökad användning av avancerade AI-verktyg ska projekten stimulera utvecklingen av tekniska lösningar för automatiserad övervakning och riskhantering samt organisatoriska modeller för effektiva och säkra processer. I fokus är självlärande säkerhet som möjliggör sömlös autentisering, behörighetskontroll och incidentrespons – utan mänsklig inblandning. De finansierade projekten ska bidra till att forma och möjliggöra nästa generations cybersäkerhet.
2. Tillförlitlig och säker AI. Projekt inom denna inriktning ska utveckla robusta och säkra AI-lösningar som tål angrepp och störningar. Projekten ska möjliggöra säker och tillförlitlig AI-användning i industrin. Den snabba ökningen av AI i olika tillämpningar skapar ett grundläggande behov av tillförlitlighet, säkerhet och kontroll, till exempel i komplexa miljöer där flera AI-agenter samverkar. När beroendet av metoder som inte uppfyller krav på säkerhet, spårbarhet och tillit minska kan implementering av AI accelereras på ett ansvarsfullt sätt. Det kan också ge näringslivet tillgång till expertis och innovativa lösningar som höjer den generella säkerhetsnivån.

För detaljerad information om respektive inriktning, läs avsnitt 11 längre ner i texten.

Programmet Avancerad digitalisering

Utlysningen är en del av programmet Avancerad digitalisering, en satsning från Vinnova i samverkan med industrin, som mobiliserar aktörer från olika delar av samhället mot gemensamma mål.

Avancerad digitalisering vill stärka den svenska forskningen och ska göra Sverige mer attraktivt när det gäller forsknings- och innovationsinvesteringar, och stimulera utvecklingen av avancerad digital teknik. Programmet ska genomföras med långsiktighet och bidra till nyskapande, möjliggörande teknologier och utveckling av centrala kompetensområden som möter industrins behov.

Läs mer om programmet på Avancerad digitaliserings webbplats.

Bidra till en hållbar systemomställning

Eftersom Vinnova har i uppdrag att främja hållbar tillväxt och systemomställning, ska ert projekt också bidra till ökad jämställdhet och klimatomställning. Vi utgår från FN:s globala hållbarhetsmål, definierade i Agenda 2030. Där fokuserar vi på två perspektiv: jämställdhet och klimatomställning.

Det betyder att jämställdhet och klimatsomställning ska integreras i både hur er projektgrupp är sammansatt och i det tänkta resultatet av ert projekt.

Jämställd finansiering av innovationer

En innovativ kraft i hållbar värld

Tillgängliggöra vetenskapliga publikationer och resultat

Den här utlysningen ska även bidra till att tillgängliggöra resultat för alla. Därför ska all vetenskaplig publicering ske med öppen tillgång. När resultat från forskning och innovation görs fritt tillgängliga kan fler bidra till att lösa samhällsutmaningar.

Utlysningen riktar sig till konsortier med minst två deltagare där aktörer från industri, näringsliv, akademi, forskningsinstitut, offentlig verksamhet, myndigheter eller ekonomiska föreningar kan ingå. 

Projekten ska utgå från industrins behov och genomföras av svenska företag. Andra aktörer kan ingå i konsortiet, till exempel akademi, forskningsinstitut och offentlig sektor. Alla deltagande parter kan vara företag. 

Med industri avses i denna utlysning hela produktionskedjan – från utvinning av råvaror till färdiga produkter, samt industrinära tjänstesektorer och tekniksektorer som behövs för att produktionskedjan ska fungera. Det innefattar till exempel energi, logistik och transport, telekommunikation, vatten/luft/ventilation och återvinning. Även försvarsindustrin omfattas.

Varje projektpart som söker bidrag ska vara en svensk juridisk person. Utländska organisationer med filial eller driftställe i Sverige likställs med svensk juridisk person, under förutsättning att projektkostnaderna kan hänföras till filialens eller driftställets verksamhet. 

Vi finansierar aktiviteter för forsknings- och innovationsprojekt inom en av utlysningens inriktningar. Läs om inriktningarnas syfte i avsnitt 2.  

Exempel på aktiviteter som är stödberättigande:  

• Utreda tekniska och designmässiga förutsättningar. 
• Utveckla prototyper eller demonstrationsversioner av produkter och tjänster. Det kan innefatta pilotarbete, testning och validering.  
• Undersöka och utveckla produktionsmetoder.  
• Planera och genomföra studier och tester för att verifiera en innovation.  
• Utreda marknadsmässiga förutsättningar, till exempel identifiera kunder, kundbehov, möjliga samarbetspartners och konkurrenter.  

Vi finansierar inte rutinmässiga eller återkommande ändringar av befintliga produkter, tjänster, tillverkningsmetoder eller tillverkningsprocesser. 

Vi finansierar inte heller utbildningsinsatser, kurser, marknadsföring, försäljning, löpande drift, kvalitetssäkring, certifiering, investering i utrustning och verktyg samt immaterialrättsliga strategier och skydd. 

Projektens längd ska vara mellan 12 och 24 månader. 

Vilka kostnader kan vi finansiera?

Vår finansiering omfattas av regler om statligt stöd. Reglerna styr vilka slags kostnader som vi kan finansiera. Dessa kallas stödberättigande kostnader.

I den här utlysningen är dessa typer av kostnader stödberättigande:

• Lönekostnader: Lönekostnader, inklusive arbetsgivaravgifter och andra lönebikostnader.
• Utrustning, mark och byggnader: Instrument, utrustning och hyra för annan lokal än ordinarie verksamhetslokal.
• Konsult- och licenskostnader: Konsulttjänster, kunskap och patent som köpts eller används på licens från en utomstående aktör. Kostnader för konsulttjänster får utgöra maximalt 20 procent av en projektparts budget. Vi kan godta en högre andel än 20 procent vid särskilda behov. Ni måste då motivera behovet av konsultinsatser i ansökan. Denna motivering vägs in i vår bedömning.
• Övriga direkta kostnader: Till exempel materiel, förrådsartiklar och resor som är nödvändiga för att genomföra projektet.
• Indirekta kostnader (overhead): Kostnader som inte uppkommit som en omedelbar följd av men kan relateras till projektet, till exempel ordinarie lokaler och städning. Indirekta kostnader får utgöra maximalt 30 procent av lönekostnader. Universitet, högskolor samt vissa forskningsorganisationer och statliga myndigheter har högre maxgränser beroende på typ av verksamhet.

För mer detaljerad information om vilka kostnader vi kan finansiera, se Anvisning till stödberättigande kostnader

Vilka krav gäller för kostnader vi finansierar?

För att en kostnad ska vara stödberättigande måste den vara:

• nödvändig för aktiviteterna i projektet
• bokförd korrekt och separat från organisationens övriga kostnader.

En organisation får heller inte ta upp någon annans kostnader som sina egna.

För mer detaljerad information om vilka krav, begränsningar och undantag som gäller, se Anvisning till stödberättigande kostnader

Reglerna om statligt stöd styr hur stor andel av kostnaderna som vi kan finansiera. Detta bestäms individuellt för varje organisation. Vi skiljer därför på hur stort bidrag projektet kan få, och hur mycket varje projektpart kan få.

Hur stort bidrag kan en projektpart få?

Vinnovas bidrag kan uppgå till mellan 1 och 10 miljoner kronor per projekt, och kan maximalt uppgå till 50 procent av projektets totala stödberättigande kostnader. 

Hur stort bidrag varje deltagande projektpart kan få beror främst på:

• partens storlek och verksamhet
• vilka aktiviteter som parten ska genomföra i projektet.

Beskrivningar i kommande avsnitt om vilket stöd vi kan ge är förenklade. För fullständig information, se Stödgrunder och stödnivåer för bidrag.

Stöd till företag som bedriver forskning och utveckling

I den här utlysningen ger vi stöd till industriell forskning eller experimentell utveckling.

Industriell forskning kan förenklat beskrivas som att söka ny kunskap genom planerad forskning eller kritisk analys för att utveckla eller markant förbättra produkter, processer eller tjänster.

Experimentell utveckling kan förenklat beskrivas som att kombinera, forma och använda befintliga kunskaper för att ta fram nya eller förbättrade produkter, processer eller tjänster.

Hur stor andel av kostnaderna kan vi finansiera?

Organisationens storlek och typ av aktivitet avgör hur stor andel av kostnaderna vi kan finansiera, det vill säga den maximala stödnivån. Vi kan finansiera mer om projektet omfattar faktiskt samarbete eller spridning av resultat, eller uppfyller annan bonusgrund.

Stöd till icke-ekonomisk verksamhet

I den här utlysningen ger vi även stöd till organisationer som inte bedriver ekonomisk verksamhet. Med det menas att organisationen inte erbjuder en tjänst eller produkt på en marknad. Hit räknas oftast universitet och högskolor, forskningsinstitut och andra organisationer.

Vi kan finansiera upp till 100 procent av en sådan organisations kostnader.

Hur avgörs om en organisation bedriver ekonomisk verksamhet?

En organisation som erbjuder någon form av tjänst eller produkt på en marknad anses bedriva ekonomisk verksamhet och kan inte beviljas den här formen av stöd. Det har ingen betydelse hur organisationen finansieras: om den är offentlig eller privat, eller om den har ett vinstsyfte. Det spelar heller ingen roll vilken rättslig form verksamheten har. Till exempel om det är ett aktiebolag, ett handelsbolag, en ekonomisk förening, en ideell förening eller en stiftelse.

Är ni osäkra på om en organisation i ert projekt bedriver ekonomisk verksamhet, kontakta utlysningsansvarig. Organisationen ansvarar dock själv för att bedöma om den bedriver ekonomisk verksamhet.

För att vi ska bedöma er ansökan måste den uppfylla vissa formella krav. Är kraven inte uppfyllda, avslår vi ansökan direkt.

Krav på organisationsform hos projektparter: 

• Alla projektets parter ska vara juridiska personer. Fysiska personer eller enskilda firmor kan alltså inte delta.
• Den koordinerande parten ska vara en svensk juridisk person och bedriva verksamhet i Sverige.
• Minst två projektparter ska medverka i projektet. Detta inkluderar den koordinerande parten.
• Minst en projektpart ska vara ett svenskt företag. Projektparter från samma koncern räknas inte som olika projektparter. 

Krav på ansökan

• Ansökan ska vara skriven på svenska eller engelska.
• Ansökan ska följa de anvisningar som ges i avsnitt 9.
• Ansökan ska innehålla alla efterfrågade bilagor.

De ansökningar som uppfyller våra krav går vidare till bedömning. I bedömningen tittar vi på hur stor potential er idé har, hur realistisk den är och vilka som ska genomföra projektet.

Vad bedömer vi?

Ansökan bedöms utifrån nedanstående bedömningskriterier. Observera att kriteriet om relevans fungerar som en förutsättning för övriga kriterier. En ansökan som inte bedöms tillräckligt relevant kommer inte beviljas, oavsett om övriga kriterier bedöms väl uppfyllda. 

När vi bedömer ansökningar tittar vi på tre huvudkriterier:

• Potential: Vi analyserar vilka effekter och vilket värde vi kan förvänta oss av projektet.
• Aktörer: Vi bedömer deltagarnas kompetens och förmåga att genomföra projektet och nå önskade resultat och effekter.
• Genomförbarhet: Vi bedömer hur realistisk och trovärdig projektplanen är, både för att genomföra projektet och för att uppnå önskade resultat.

Eftersom Vinnova har i uppdrag att bidra till ökad jämställdhet och klimatomställning följer vi också alltid upp och bedömer dessa perspektiv.

Potential

• Projektets potential att inom vald inriktning utveckla lösningar, kunskap och kompetens som kan främja avancerad digitalisering som förnyar svensk industri i linje med vald inriktning som beskrivs i avsnitt 2.
• Hur nytänkande projektförslaget är i relation till existerande lösningar och pågående större satsningar inom området.
• Hur sannolikt det är att projektförslaget leder till ny kunskap och nya färdigheter som kan användas till uppskalning eller implementering av nya lösningar som kan påverka svensk industri.
• Hur väl perspektiv kring kön, genus och klimatomställning har integrerats i projektförslaget, och vilken betydelse dessa har för projektets resultat.

Aktörer

• Projektparternas kompetens, trovärdighet och förmåga att genomföra projektet.
• Konsortiets förankring i svensk industri inom vald inriktning. 
• Uppfyllelse av kravet på att minst en projektpart är en behovsägare från industri/svensk företag
• Projektparternas förmåga att sprida, nyttiggöra, kommersialisera och vidareutveckla de resultat och kunskaper som genereras i projektet, både inom de egna organisationerna och utanför konsortiet.
• Hur väl det ekonomiska bidraget, deltagande, makt och inflytande fördelas på ett jämställt sätt i projektteamet.
• Hur väl behovet av konsulttjänster och licenser motiveras. Detta gäller bara om en projektparts konsult- och licenskostnader överstiger 20 procent av projektpartens totala budgeterade kostnader.

Genomförbarhet

• Hur väl projektplanens realism i förhållande till uppsatta mål, metoder, aktiviteter och budget.
• De angivna projektparternas delaktighet och relevans i projektets olika arbetspaket och aktiviteter.  
• Hur väl projektplanen visar hur resultaten förankras och sprids till viktiga aktörer inom området.
• Hur goda förutsättningarna är för att projektets resultat tas vidare och kommer till användning efter projektets slut.
• Hur väl risker beskrivs och hanteras i projektets genomförande.  
• Hur väl jämställdhet integrerats i projektplanen. 

Hur bedömer vi?

Ansökningarna bedöms i konkurrens och baseras på den elektroniska ansökan som skickas in via Vinnovas e-tjänster.

När vi har fått in ansökningarna granskar vi dem. Vi sorterar bort alla ansökningar som är ofullständiga eller som inte uppfyller våra krav.

De ansökningar som är korrekta och fullständiga fördelas mellan olika förordnade bedömare och bedöms i konkurrens med varandra. Bedömarna är utsedda av oss utifrån deras expertis inom området. Varje ansökan bedöms av minst tre bedömare.

När bedömarna gått igenom ansökningarna har vi ett bedömningsmöte där bedömarna rekommenderar vilka ansökningar som ska beviljas. Vi kommer även vid behov att kalla till intervju innan vi fattar beslut.

Hur påverkar en organisations finansiella status?

Innan vi beslutar om finansiering gör vi också en samlad bedömning av den organisatoriska och finansiella statusen hos de som får finansiering. Vi använder oss av information som vi får från kreditupplysningar, för närvarande från Dun & Bradstreet.

För att vi ska bevilja finansiering gäller detta:

• Organisationer som söker finansiering för lönekostnader måste vara registrerade som arbetsgivare hos Skatteverket. Organisationer får inte vara på obestånd, eller genomgå likvidation eller företagsrekonstruktion. De får heller inte ha obetalda skulder av betydelse hos Kronofogdemyndigheten.
• Organisationer får inte täcka projektkostnader i den här utlysningen med offentliga bidrag eller egna medel avsedda för andra projekt.

• Aktiebolag får inte ha förbrukat hälften eller mer av sitt aktiekapital.
• Om vi begär, måste små och medelstora företag kunna visa att de har ekonomisk täckning att genomföra projektet enligt sin budget i ansökan.

När vi bedömt alla ansökningar, skickar vi ett beslut där vi antingen beviljar eller avslår er ansökan. Eftersom ansökningarna bedöms i konkurrens kan ni få avslag trots att ni uppfyller alla krav och kriterier.

I beslutet anger vi hur stor andel av kostnaderna vi täcker för varje organisation.

Ni kan inte överklaga vårt beslut, men ni är välkomna att ansöka till oss igen vid ett annat tillfälle.

Vad gäller om ni beviljas finansiering?

Om vi beviljar er ansökan måste ni följa våra allmänna villkor för bidrag. Villkoren innehåller bland annat detta:

• Att ni ska underteckna ett särskilt dokument där ni godkänner er medverkan och åtar er att genomföra projektet.
• Att ni ska rapportera hur det går, era kostnader och uppnådda resultat till oss regelbundet under projekttiden.
• Är ni flera parter måste ni komma överens om era inbördes rättigheter och skyldigheter i projektet i ett avtal. Det kan ta tid att få ett projektavtal på plats, så sätt gärna i gång detta innan projektet startar.
• Hur resultatet ska komma till användning samt hur vetenskaplig publicering ska ske.

Se våra allmänna villkor samt få hjälp med att förstå och uppfylla dem

Ni behöver även följa de särskilda villkor som gäller för den här utlysningen:

Projektet ska vid inbjudan från programchefen delta i relevanta evenemang inom programmet Avancerad digitalisering och på så sätt bidra till kunskapsspridning inom svensk industri i enlighet med programmets syfte. 

Vid information om projektet och vid varje offentliggörande av projektresultat ska det anges att arbetet utförts med stöd från Vinnova (på engelska återges namnet med Sweden’s Innovation Agency) inom programmet Avancerad digitalisering. Med offentliggörande avses till exempel publicering, oavsett medium, och muntliga presentationer. 

Vi kan även besluta att lägga till kompletterande särskilda villkor för enskilda projekt. De framgår i så fall av beslutet. 

Kan ni behöva betala tillbaka bidrag?

Om ni fått mer pengar än vad ni har rätt till eller om ni inte följer våra villkor kan ni bli återbetalningsskyldiga.

För att söka finansiering fyller ni i en ansökan i vår e-tjänst. Ansökan innehåller frågor om projektet, deltagande projektparter och budget. 

Till ansökan bifogar ni även dessa bilagor: 

• Projektbeskrivning: Får maximalt omfatta 10 stående A4-sidor med enspaltig 12 punkters text. Projektbeskrivningen ska följa mallen som finns längre ned på denna webbsida. 
• Projektsammanfattning: Bifogas i särskild bilaga. Får maximalt omfatta 1 stående A4-sida. Projektsammanfattningen ska kunna delas med programmets externa programråd och ska därför inte innehålla konfidentiella eller andra känsliga uppgifter. Bilagan ingår inte i bedömningsprocessen. Projektsammanfattningen ska följa mallen som finns längre ned på denna webbsida. 
• CV-bilaga: CV:n för projektledaren och samtliga nyckelpersoner. Bilagan förväntas inkludera minst ett CV per projektpart. Varje CV får maximalt vara 1 A4-sida med 12 punkters text. CV-bilagan ska följa mallen som finns längre ned på denna webbsida. 

Hur lång tid tar ansökan?

Tänk på att det tar tid att göra en ansökan. Att fylla i mallar kan ta flera dagar, eftersom det bygger på analyser ni ska göra.

I vår e-tjänst kan ni börja fylla i uppgifter och sedan fortsätta vid ett senare tillfälle. Ni kan också dela ut behörigheter till andra som ni vill ska bidra i ansökan. När ansökan är färdig klarmarkerar ni den.

Ni kan när som helst låsa upp ansökan och göra ändringar, ända fram till sista ansökningsdag. Om ni låser upp ansökan, måste ni sedan klarmarkera den igen för att den ska registreras när utlysningen stänger.

Projekt som beviljas medel i utlysningen ska möta de utmaningar inom cybersäkerhet och tillförlitlig AI som uppstår vid införandet av avancerade digitala lösningar. Projektens resultat ska stärka industrins förmåga att skapa robusta och säkra system som klarar dagens och framtidens hotbilder. Med digitaliseringen kommer stora möjligheter, men sammankopplade teknologier, som molntjänster, AI och Internet of Things, innebär också ökade risker. Cybersäkerhet är därför avgörande för Sveriges industriella konkurrenskraft och samhällssäkerhet.

Utlysningen har två inriktningar:

1. AI som möjliggörare för cybersäkerhet. Projekt inom denna inriktning ska använda AI för att förebygga, upptäcka och hantera cyberhot.
2. Tillförlitlig och säker AI. Projekt inom denna inriktning ska utveckla robusta och säkra AI lösningar som tål angrepp och störningar.

1. AI som möjliggörare för cybersäkerhet

Bakomliggande behov

Svensk industri har behov av AI-baserade lösningar som stärker cybersäkerhet och automatiserar hantering av säkra komplexa dataflöden. Behovet ökar i takt med det stigande antalet sofistikerade attacker och det allt större beroendet av digitala system. AI-teknik har potential att spela en central roll i att höja säkerheten i komplexa digitala system.

Med innovation och ökad användning av avancerade AI-verktyg ska  utlysningen stimulera utvecklingen av tekniska lösningar för automatiserad övervakning och riskhantering. Den ska också bana väg för organisatoriska modeller för effektiva och säkra processer. Fokus ska ligga på självlärande säkerhet som möjliggör sömlös autentisering, behörighetskontroll och incidentrespons – utan mänsklig inblandning.

Förväntade effekter

Projekten som finansieras inom denna inriktning ska visa vägen mot nästa generations cybersäkerhet. De ska, genom AI-teknik och innovativa metoder, utveckla lösningar för avancerade hot- och riskanalyser, automatiserade upptäckter och autonom säkerhet för att skydda mot hot och rusta Sverige för framtidens utmaningar.

På kort sikt ska projektens resultat:

• Utnyttja potentialen i ny teknik, till exempel AI, automatisering och avancerade analysverktyg, för att effektivisera cybersäkerhetsarbetet och höja skyddsnivån.
• Minska risken för störningar i digitala system genom att identifiera och åtgärda sårbarheter redan innan de leder till incidenter.
• Förbättra hanteringen av konsekvenser vid störningar genom snabbare respons och återställning för att minimera påverkan på verksamheter.
• Reducera mänsklig inblandning i kritiska digitala processer med hjälp av självlärande säkerhetslösningar som automatiserad autentisering, behörighetskontroll och incidentrespons.
• Stimulera innovation inom cybersäkerhet genom att främja samarbete mellan industri, akademi och teknikleverantörer.

På lång sikt ska projektens resultat:

• Stärka Sveriges förmåga att utveckla robusta och säkra digitala lösningar för att öka konkurrenskraft och samhällssäkerhet.
• Skapa synergier mellan AI och cybersäkerhet och utveckla och integrera AI och cybersäkerhet som samverkande teknikområden.
• Öka tillgången till cybersäkerhetsexpertis för industri och näringsliv, och skapa en kompetensbas som möter framtidens behov.

2. Tillförlitlig och säker AI

Bakomliggande behov

Den snabba ökningen av AI i olika tillämpningar skapar ett grundläggande behov av tillförlitlighet, säkerhet och kontroll, till exempel i komplexa miljöer där flera AI-agenter samverkar. För att nå dit krävs både tekniska och organisatoriska lösningar som säkerställer att AI implementeras och används på ett säkert och ansvarsfullt sätt.

Tillförlitlig och säker AI förutsätter robusta agentsystem, metoder för validering och certifiering av modellernas säkerhet. Det krävs också tekniker som gör det möjligt att strukturera och specialisera eget data för säker användning av stora, generella modeller.

För att implementera AI på ett säkert sätt, och säkerställa skydd mot AI-baserade attacker och systemfel, krävs utveckling av nya säkerhetslösningar och metoder, till exempel hot- och riskanalyser.

Några centrala behov är:

• Skydda träningsdata för att säkerställa integritet och förhindra att känslig information återskapas ur generativa modeller, samtidigt som de skapade modellerna måste skyddas mot obehörig åtkomst och manipulation.
• Spårbarhet och robusthet i datakällor, med möjlighet att verifiera ursprung och kvalitet samt härleda slutsatser till säkra datakällor.
• Mäta riktighet, robusthet och tillit i svar från AI-modeller för att säkerställa korrekta och förutsägbara resultat.
• Utvärdera AI-systems förutsägelser och beslut, särskilt i takt med att systemen blir mer autonoma, vilket ökar behov av kontroll och skydd kring beslutsfattande.
• Metoder för att validera och certifiera av hur robusta och säkra system är.
• Felkontroll i sammansatta AI-system, där klassisk AI, generativ AI och traditionell hårdvara eller mjukvara samverkar. I det ingår också att förstå och hantera uppkomst och spridning av fel.
• Motverka partiskhet i data med hjälp av AI för att minska risken för osäkra eller oönskade systembeteenden. 

Förväntade effekter

Projekten som finansieras inom denna inriktning ska möjliggöra tillförlitlig och säker AI-användning i industrin. Genom att minska beroendet av metoder som inte uppfyller krav på säkerhet, spårbarhet och tillit kan implementering av AI accelereras på ett ansvarsfullt sätt. Resultaten förväntas också bidra till näringslivet får tillgång till expertis och innovativa lösningar som höjer den generella säkerhetsnivån.

På kort sikt ska projektens resultat:

• Öka industrins användning av säker och tillförlitlig AI genom att integrera säkerhetsaspekter från start, och därmed minska beroendet av osäkra metoder.
• Säkerställa industrins tillgång till avancerade cybersäkerhetslösningar som kan implementeras i befintliga och framtida AI-system.
• Minimera risken för störningar i AI-användning och hantera konsekvenser av störningar bättre.
• Accelerera ansvarsfull implementering av AI med hjälp av spårbarhet, tillit och robusta lösningar.
• Stimulera fortsatt utveckling av befintlig spetskompetens i takt med behovsägarnas AI-utveckling.
• Utveckling av cybersäkerhetslösningar utifrån tekniska och organisatoriska perspektiv

På lång sikt ska projektens resultat leda till:

• Ökad digital motståndskraft genom säkra och robusta dataflöden i industrin och samhällskritisk infrastruktur.
• Högre effektivitet när industrin tryggt implementerar ny teknik.
• Ett innovativt ekosystem för digital resiliens och cybersäkerhet som främjar kunskapsöverföring och kompetensspridning.
• Stärkt kapacitet hos svenska industriföretag och forskningsmiljöer att utveckla säker digital teknik genom riktade projekt och samverkan.