Research visit to Mila-Quebec AI
Diarienummer | |
Koordinator | RISE Research Institutes of Sweden AB - RISE AB - Digitala System |
Bidrag från Vinnova | 254 148 kronor |
Projektets löptid | september 2022 - mars 2023 |
Status | Avslutat |
Utlysning | AI - Kompetens, förmåga och tillämpning |
Ansökningsomgång | Individrörlighet för tillämpad AI, automation och datadelning - våren 2022 |
Viktiga resultat som projektet gav
Projektets huvudsakliga mål vara att initiera forskningssamarbete mellan RISE och Mila-Quebec AI Institute, primärt inom området kontinuerlig (maskin)inlärning. Detta mål uppnåddes genom att genomföra en experimentell studie om kontinuerlig inlärning för språkmodeller. Ett annat mål var att öppna en kommunikationskanal mellan RISE och Mila-Quebec AI, för att främja framtida samarbete i form av workshops för kunskapsöverföring och innovationsprojekt. Denna interaktion planeras fortsätta även efter forskningsvistelsens slut.
Långsiktiga effekter som förväntas
Det huvudsakliga resultatet av projektet är en forskningsstudie av s.k. katastrofal glömska i samband med kontinuerlig träning of språkmodeller på olika språk. Studiens resultat tyder på att modellerna förlorar tidigare inlärd kunskap i olika utsträckning beroende på likhet mellan språken. Vidare har denna forskningsvistelse gett forskare från båda organisationerna tillfälle att tillsammans generera nya forskningsidéer, som kan leda till gemensamma innovationsprojekt i framtiden.
Upplägg och genomförande
Den huvudsakliga projektaktiviteten var en fyra månaders forskningsvistelse av en RISE-forskare på Mila-Quebec AI i Montreal. Under forskningsvistelsen, samarbetade forskaren med forskare från värdorganisationen inom forskningsområdet kontinuerlig (maskin)inlärning för språkmodeller. Förutom praktiskt forskningssamarbete, hade forskaren också möjlighet att delta i läsgrupper om maskininlärning och att presentera både på interna och externa seminarier som organiserades av Mila-Quebec AI.