STAR-eAI: Säker och manipuleringsresistent inbyggd AI
| Diarienummer | |
| Koordinator | Kungliga Tekniska Högskolan - DIVISION OF ELECTRONICS AND EMBEDDED SYSTEMS |
| Bidrag från Vinnova | 4 554 000 kronor |
| Projektets löptid | juni 2023 - maj 2026 |
| Status | Avslutat |
| Utlysning | Avancerad digitalisering - Möjliggörande tekniker |
| Ansökningsomgång | Avancerad och innovativ digitalisering 2023 - första utlysning |
Viktiga resultat som projektet gav
Projektet uppnådde sina mål genom att utveckla nya metoder för ökad säkerhet och manipuleringsmotstånd i inbyggda AI-system. Viktiga resultat inkluderar nya metoder för att detektera klonade neurala nätverk med hjälp av hybrida fingeravtryckstekniker, mjukvaruintegritetsverifiering baserad på sidokanalsanalys, samt säker implementering av FPGA-baserade system utan IP-avslöjande. Tillsammans bidrar dessa resultat till att föra forskningsfronten framåt inom hårdvarusäkerhet och tillförlitlig AI.
Långsiktiga effekter som förväntas
Projektet bidrar till utvecklingen av säkerhetsmedvetna inbyggda AI-system där skydd mot fysiska attacker integreras redan i designfasen. Resultaten kan påverka framtida designmetoder, procedurer för säkerhetsutvärdering samt certifieringsramverk för inbyggda AI-produkter. De förväntas bidra till ökad robusthet i framtida digital infrastruktur inom sektorer som telekommunikation, transport, energi, försvar och industriell automation.
Upplägg och genomförande
Projektet genomfördes i nära samarbete mellan KTH och Ericsson och kombinerade teoretisk forskning, metodutveckling och experimentell validering i realistiska scenarier. Resultat spreds genom publikationer, patentansökningar och masteruppsatser. Arbetet följde i stort planen, med vissa resultat som utvidgade projektets ursprungliga omfattning. Samarbetet fungerade mycket väl och möjliggjorde kontinuerlig återkoppling samt en stark koppling mellan forskning och industriella behov.