STAR-eAI: Säker och manipuleringsresistent inbyggd AI

Syfte och mål

Målet med detta projekt är att säkra implementeringar av Deep Neural Networks (DNN) i inbyggda enheter från fysiska attacker. För att uppnå detta mål planerar vi att: (1) utveckla avancerade tekniker för DNN-säkerhetsanalys, (2) designa motåtgärder mot fysiska attacker på DNN-implementeringar och (3) validera resultaten på prototyper.

Förväntade effekter och resultat

Projektet förvåntas leverera nya metoder för att analysera informationsläckage från DNN-modeller implementationer och utforma försvarsmekanismer för att mildra detta läckage. Den utmaningen är att skapa motåtgärder som motstår attacker även när angriparnas kapacitet växer. Detta är endast möjligt om säkerheten införlivas i en DNN i designfasen snarare än korrigeras in i den senare, när en sårbarhet upptäcks. Våra resultat förväntas ge vägledning om hur DNN-modelldesign, optimering och implementeringsmetoder bör ändras för att säkerställa manipuleringsmotstånd.

Planerat upplägg och genomförande

Projektet är planerat att vara klart om 3 år. Parterna är KTH och Ericsson. Teamet har all nödvändig kunskap, utrustning och infrastruktur för att genomföra projektet. Våra starka preliminära resultat visar att projektet har stora chanser att lyckas. VINNOVA:s finansiering kommer att göra det möjligt för vårt team att påskynda arbetet.