Chi guarda il guardiano? La nuova legge spagnola di AI punisce a malapena l’amministrazione | Tecnologia

Una delle caratteristiche più applaudite del regolamento europeo di intelligenza artificiale (AI) è il regime sanzionatorio concordato da 27. Per garantire che le domande di ad alto rischio proibite o qualificate non vengano utilizzate, il regolamento fornisce forti multe fino a 35 milioni di euro o 7% del fatturato annuale globale della società di offerta. Ma il regolamento lascia la discrezione di ciascuno Stato membro quale tipo di sanzioni si applica quando la persona che viola i regolamenti è l’amministrazione.

Il progetto di legge spagnolo per il buon uso e la governance dell’IA, che sviluppa la regolamentazione europea, è manifestamente tiepida con il controllo del settore pubblico. Questo è almeno ciò che pensano otto organizzazioni e associazioni in difesa dei diritti digitali, che sono preoccupati che il testo preparato dal governo preveda solo in quei casi “ammonizioni”, “avvertimenti” e “azioni disciplinari”, come stabilito nella sezione 4 dell’articolo 30 della legge preliminare. Cioè, un uso improprio dell’amministrazione della tecnologia proibita, come i sistemi di identificazione biometrica remoti in tempo reale, comporterebbe solo un tocco di attenzione.

In the allegations that these groups have presented together, they complain that the exclusion of the public sector authorities and agencies of the imposition of administrative fines, “copied from the Organic Law on Data Protection, not only represents a comparative grievance with respect to companies, but also a lack of public exemplarity and, above all, a serious risk for citizens’ rights, because, in practice, it leaves without sanctioning, leaves the use of the use of citizens. of AI by le autorità e gli enti pubblici ”.

Pertanto, propongono che le multe amministrative siano applicate a causa dei cattivi usi (proibiti o ad alto rischio) dell’IA e che le “prestazioni disciplinari” di cui parla il testo. Chiedono inoltre che l’avvertimento delle autorità e del personale di gestione sia sostituito dalla squalifica (temporanea o definitiva) per esercitare un carico pubblico.

Il progetto di legge è ora in una fase di consultazione pubblica. Secondo fonti del Ministero della trasformazione digitale e della funzione pubblica, “è stato ricevuto un volume molto elevato di accuse”, che vengono studiate. Alcuni di loro sono molto tecnici, spiegano quelle stesse fonti, quindi è difficile sapere quanto tempo impiegheranno per elaborarli. Una volta completato questo processo, il ministero deve giudicare se nel testo finale le proposte ricevute in questo modo. Quando è pronto, il disegno di legge verrà elaborato al Congresso dei deputati, dove deve essere approvato dalla maggioranza.

Impunità o agilità amministrativa?

Il progetto di legge stabilisce una laurea di sanzioni che vanno dalle “molto gravi” al “lieve”. Il più grave comporterà una multa compresa tra 7,5 e 35 milioni di euro, ovvero tra il 2% e il 7% del volume annuale globale della società offensiva. L’uso di tecnologie proibite, sistemi di identificazione biometrica remoti in tempo non autorizzato, non eliminando i dati da tale identificazione se richiesto dalle autorità o non notificando che questa tecnologia viene utilizzata.

Ma, se l’autore del reato è un organo pubblico, l’entità attore sarà avvertita e “le misure da adottare in modo che il comportamento cessi o gli effetti dell’infrazione che erano stati commessi, esclusi l’imposizione di multe amministrative”. Allo stesso modo, “Le azioni disciplinari sono prese in considerazione quando ci sono indicazioni sufficienti per questo”. E nel caso in cui alcune autorità pubbliche abusiranno dell’intelligenza artificiale che interrompono le precedenti rapporti tecnici, i responsabili saranno “ammoniti”.

“La mia principale preoccupazione per il progetto di legge è la seguente: chi protegge i miei diritti di cittadino? Sappiamo che l’amministrazione sta usando l’IA per monitorare. Perché non possiamo monitorare l’amministrazione?” Riassume Borja Adsuara, esperto di diritto digitale. Questo avvocato è stato il promotore delle accuse incentrate sull’assenza di punizioni tangibili al settore pubblico presentato da otto associazioni ed entità, tra cui Odiseia, Enatic, Association of Privacy Professionals (APEP), Spagna digitale o Internet.

Per Adsuara, il problema sottostante non è che l’amministrazione non dovrebbe pagare quando abusino della tecnologia. “Non è una questione di denaro, ma quegli usi cattivi sono noti. Se una legge non ha un regime sanzionatorio, non è una legge, ma una canzone al sole”, aggiunge. L’avvocato pensa che dovrebbe esserci un giudice che interviene i sistemi di sorveglianza dei cittadini, proprio come ce n’è uno che si occupa del CNI, per vedere se il settore pubblico sta rompendo le norme o meno.

“È molto legittimo che le sanzioni siano rivendicate dalla società civile, ma forse dovrebbe essere un ulteriore preavviso nelle capacità d’azione quando viene rilevato che vi sono possibili violazioni e soprattutto nella prevenzione”, afferma Lorenzo Cotino, presidente dell’agenzia spagnola per la protezione dei dati (AEPD). “Ci interesseremo molto più di quanto ci siano record di questi sistemi per rilevarli in tempo. E cercare la collaborazione e la partecipazione per farlo prima che questi sistemi vengano impiantati, perché se non dopo sarebbe necessario paralizzarli.”

Cotino ha difeso in un’intervista con El País la creazione di una registrazione di algoritmi pubblici, che potrebbe servire da base per monitorare questi strumenti digitali. “Se un sistema non è conforme alla destra, dal momento in cui viene rilevato, può essere sospeso e paralizzato. Anche che ci sia o meno una sanzione può essere importante, ma penso che ciò che deve preoccuparsi di un cittadino sia che ci sono garanzie per poter agire dal minuto zero”, dice.