Garante Privacy: servono limiti e garanzie per l'uso dell'IA e del riconoscimento facciale
Pasquale Stanzione avverte contro il rischio di sorveglianza di massa e chiede misure per ridurre falsi positivi, errori d'identificazione e discriminazioni
Il Garante della Privacy, Pasquale Stanzione, ha richiamato l'attenzione sul corretto impiego del riconoscimento facciale e dell'intelligenza artificiale nelle attività di polizia e nelle indagini.
"Il riconoscimento facciale ha una rilevante utilità investigativa se utilizzato in maniera circoscritta e con ogni garanzia. Non deve trasformarsi, però, in uno strumento di sorveglianza massiva e indiscriminata", afferma Stanzione, ribadendo la richiesta al legislatore di prevedere "limiti e garanzie affinché l'IA possa dare un contributo prezioso a indagini e sicurezza, senza rinunciare alla libertà su cui si fonda la nostra democrazia".
Il Garante sottolinea la necessità di misure mirate a contenere il rischio di errori: "misure che possano ridurre pericoli di falsi positivi, errori di identificazione e risultati discriminatori".
Sulla discriminazione algoritmica Stanzione osserva: "Il rischio di discriminazione algoritmica che spesso caratterizza i sistemi di Intelligenza artificiale, è tanto più inaccettabile se correlato all'attività di polizia, che incide in maniera così rilevante sulla libertà e la dignità personale - aggiunge Stanzione - È dunque necessario tracciare un confine netto tra uso legittimo della tecnica a fini investigativi e accettazione di una progressiva, quanto ingiustificata, perdita di libertà. Se superassimo questa soglia, negheremmo il senso stesso della democrazia".
In chiusura il Garante richiama ancora i rischi connessi all'uso dell'IA: "Con l'intelligenza artificiale si estende rischio di uso indebito o anche solo scorretto di banche dati, oltre che di errori nell'identificazione, conseguenza della straordinaria capacità analitica dell'IA, tanto potente quanto non immune dal rischio di sbagliare - conclude Stanzione - Per questo, chiediamo l'introduzione di misure che possano ridurre il pericolo di falsi positivi, errori di identificazione e risultati discriminatori, evitando la degenerazione di legittime e utili risorse investigative in strumenti di sorveglianza di massa".
A livello europeo, ricorda la nota del Garante, il riferimento più avanzato sulla materia è l'AI Act, il regolamento Ue sull'intelligenza artificiale, che introduce limiti stringenti all'uso del riconoscimento facciale, vietando alcune pratiche considerate particolarmente invasive. Tra queste sono citati lo scraping indiscriminato di immagini per creare database biometrici e, salvo eccezioni, l'identificazione biometrica remota in tempo reale negli spazi pubblici da parte delle forze dell'ordine. A completare il quadro normativo intervengono inoltre il GDPR e la normativa nazionale sulla privacy.