Il Garante ha esaminato un sistema di IA capace di analizzare comunicazioni e ricavare indicatori relativi, tra l’altro, a linguaggio, emozioni e stress. L’intervento evidenzia i limiti che operano quando tali funzionalità vengono proposte nel contesto lavorativo.
Il divieto di inferire emozioni
Il Garante richiama l’art. 5 dell’AI Act, che vieta l’uso di sistemi di IA per inferire emozioni nell’ambito del luogo di lavoro, salve le limitate eccezioni previste dal Regolamento.
Le inferenze possono produrre informazioni ulteriori rispetto ai dati iniziali e incidere sulla dignità, sulla valutazione o sulle opportunità professionali.
Datore e medico competente
Finalità di medicina preventiva, diagnosi e assistenza non possono essere autonomamente perseguite dal datore di lavoro. La disciplina mantiene una separazione tra datore e medico competente anche a tutela dei dati sanitari.
Privacy by design e controllo umano
L’Autorità richiama la disattivazione delle funzioni prive di base giuridica o incompatibili con le finalità. Affidabilità, qualità dei dati, trasparenza, spiegabilità e controllo umano sono garanzie sostanziali.
Verifiche preventive
- descrivere finalità e destinatari degli output;
- individuare dati e inferenze;
- verificare divieti e basi giuridiche;
- valutare necessità e proporzionalità;
- definire ruoli, accessi e conservazione.
In sintesi
Prima di introdurre un sistema di IA nel lavoro occorre stabilire quali informazioni produce, chi può conoscerle e se la finalità è consentita. Le funzioni vietate o prive di base devono essere escluse fin dalla progettazione.
Il contributo ha finalità esclusivamente informative, si riferisce alla normativa indicata e non costituisce consulenza né parere legale. La disciplina applicabile e le fonti devono essere verificate rispetto al caso concreto e al momento della consultazione.