Abstract

Questa presentazione introduce Apertus, un'iniziativa completamente trasparente per lo sviluppo di modelli linguistici di grandi dimensioni, nata dalla collaborazione tra EPFL, ETH Zürich e CSCS. Si tratta di una significativa risposta del settore pubblico alla concentrazione dello sviluppo dell'IA nelle mani di aziende private. L'intervento esamina le origini dell'iniziativa e le sfide fondamentali nell'attuale diffusione degli LLM, tra cui l'opacità dei dati di addestramento, la limitata rappresentazione multilingue e il controllo proprietario. L'iniziativa dimostra come le istituzioni di ricerca pubbliche possano sviluppare modelli linguistici competitivi nel rispetto di rigorosi standard etici, tra cui l'addestramento esclusivo su dati pubblici con conformità al diritto d'autore e il supporto a oltre 1.000 lingue.

Biografia

Il Dr. Imanol Schlag è ricercatore in intelligenza artificiale presso l'ETH AI Center, dove co-lead Apertus, il progetto LLM dell'Iniziativa svizzera per l'IA. Ha studiato presso la FHNW e l'Università di St Andrews prima di conseguire il dottorato presso l'USI/IDSIA sotto la supervisione di Jürgen Schmidhuber. La sua ricerca si concentra sugli LLM open-source, sulle innovazioni nell'architettura delle reti neurali (in particolare i programmatori di pesi veloci come DeltaNet) e sullo sviluppo responsabile dell'IA. Ha condotto ricerche presso Meta FAIR, Google Research e Microsoft Research, e attualmente insegna Ingegneria dell'IA su Larga Scala presso l'ETH Zürich.

Host

David Huber, Ricercatore senior, Area apprendimento automatico, Istituto Dalle Molle di studi sull’intelligenza artificiale USI-SUPSI.

L'evento si svolgerà in lingua inglese.