A Sovereign AI Stack for Portable European Cloud Services
| Diarienummer | |
| Koordinator | RISE Research Institutes of Sweden AB - RISE AB - Digitala System |
| Bidrag från Vinnova | 1 997 349 kronor |
| Projektets löptid | november 2023 - maj 2025 |
| Status | Avslutat |
| Utlysning | Avancerad digitalisering - Möjliggörande tekniker |
| Ansökningsomgång | AI för avancerad digitalisering, 2 |
Viktiga resultat som projektet gav
Projektet uppnådde sina mål och har demonstrerat ett dussin ledande LLM-modeller och AI-ramverk på minst två ledande AI-acceleratorer -- från en och samma mjukvarustack. Projektet utforskade heterogenitet både inom AI-acceleratorer och CPU:er och har demonstrerat stacken på både ARM och X86, NVIDIA och AMD. Testbädden har i 10000+ GPU-timmar utvärderat AI-acceleratorer och AI-ramverk för att identifiera och åtgärda prestandaskillnader i olika hårdvaror, för att skapa en portabel mjukvarustack.
Långsiktiga effekter som förväntas
Förmågan att hantera AI-acceleratorer från skiftande leverantörer är viktigt för att säkerställa oberoende och robusthet mot leveransstörningar. Över tid säkerställer den förmågan tillgången till de mest lönsamma och prestandamässigt bästa alternativen. När satsningar på kiselproduktion i Europa skalas upp, där AI-chip kan förväntas vara en viktig del, blir på sikt förmågan att kunna driftsätta AI på nyuppkomna acceleratortyper både en kritisk efterfrågad kompetens men även en marknadsfördel.
Upplägg och genomförande
Projektet genomfördes i fyra faser över 19 månader. I första fasen upphandlades och driftsattes en initial testbädd för att välja ut de mest lovande komponenterna. I den andra fasen genomfördes en djupdykning i implementation av effektiva AI-operationer över de olika acceleratorerna. I den tredje fasen på 10+ månader genomfördes huvudarbetet med att utveckla AI-stacken och implementera insikterna från de två första faserna. Den sista fasen behandlade prestandatest och rapportering.