Transparency on Paper, Black Box in Practice

Voice Assistants, the GDPR and the AI Act

Abstract

Il presente lavoro esamina il quadro regolatorio dell’Unione europea in materia di trasparenza, concentrandosi in particolare sulla dimensione della spiegabilità con specifico riferimento agli assistenti vocali. L’analisi prende in considerazione le principali fonti giuridiche rilevanti, ossia il Regolamento generale sulla protezione dei dati e il Regolamento sull’intelligenza artificiale, con l’obiettivo di chiarire l’ambito e il contenuto degli obblighi di trasparenza ed esplicabilità previsti da entrambi i regolamenti. Il contributo indaga poi il funzionamento concreto di tali obblighi, applicando il quadro giuridico a una specifica categoria di dispositivi di consumo basati sull’intelligenza artificiale: gli assistenti vocali. In questo contesto, Amazon Alexa è utilizzato come caso di studio per individuare il regime giuridico applicabile e valutare in che modo gli obblighi di trasparenza si traducano nelle interazioni reali tra utenti e sistemi di intelligenza artificiale. L’analisi considera infine Alexa+, la più recente evoluzione della tecnologia, le cui funzionalità avanzate e la maggiore autonomia sollevano nuove questioni regolatorie. In particolare, il lavoro esamina se tali caratteristiche possano condurre alla classificazione del sistema come intelligenza artificiale ad alto rischio ai sensi dell’AI Act, con conseguente applicazione di obblighi più stringenti.