6G Masteruppsats: Resurseffektiva stora språkmodeller i kantnätverk
Diarienummer | |
Koordinator | RISE Research Institutes of Sweden AB - RISE AB - Digitala System |
Bidrag från Vinnova | 100 000 kronor |
Projektets löptid | januari 2025 - juni 2025 |
Status | Avslutat |
Utlysning | 6G - Kompetensförsörjning |
Ansökningsomgång | 6G - Handledning av examensarbete |
Viktiga resultat som projektet gav
Projektet har i stort uppfyllt sina mål, även om slutrapporten försenats. Det har bidragit till ökad kunskap om hur LLMs kan optimeras för edge-miljöer och stärkt samarbetet mellan RISE och LTU inom TinyML.
Långsiktiga effekter som förväntas
Projektet förväntas bidra till utvecklingen av energieffektiva AI-lösningar för 6G. Det öppnar för nya forskningsspår inom kvantiserad träning och stärker infrastrukturen för framtida samarbetsprojekt.
Upplägg och genomförande
Studenten studerade tillgänglig forskning inom området, använde kod från ett tidigare projekt och tränade modeller på RISE:s GPU-kluster. Handledning skedde varje vecka med RISE och varannan vecka med LTU. Projektet följde i stort sett planen, men slutrapporten är försenad till september 2025.