Fatima Ezzeddine è una studentessa Ph.D. presso l'Istituto sistemi informativi e networking (ISIN) del Dipartimento tecnologie innovative della SUPSI e la Facoltà di scienze informatiche dell'USI, sotto la supervisione della Prof.ssa Silvia Giordano e del Dr. Omran Ayoub (SUPSI), e del Prof. Marc Langheinrich (USI). 

Nella sua ricerca di dottorato dal titolo Privacy Implications of Explainable AI in Data-Driven Systems, Fatima indaga le implicazioni della spiegabilità del machine learning sulla privacy dei dati e dei modelli. 

Più specificamente, la ricerca è incentrata sull'esame di come le spiegazioni dei modelli, derivate utilizzando tecniche di intelligenza artificiale spiegabile (explainable Artificial Intelligence), possano essere sfruttate per dedurre informazioni sensibili dai dati di addestramento e facilitare vari attacchi agli algoritmi di Machine Learning (ML). Investigando le vulnerabilità esposte attraverso le spiegazioni dei modelli, Fatima cerca di sviluppare strategie per mitigare questi rischi. Il suo obiettivo finale è trovare il giusto equilibrio tra la comprensione del processo decisionale del ML e la preservazione della privacy.

“Fatima è una studentessa eccellente e questi ultimi riconoscimenti si aggiungono agli ottimi risultati già ottenuti durante la sua tesi” commenta la Prof.ssa Giordano.