La Commissione europea, con atto COM(2021) 206 del 21 aprile 2021, ha pubblicato la proposta di regolamento del Parlamento europeo e del Consiglio contenente regole armonizzate in materia di intelligenza artificiale (Artificial Intelligence Act).

La bozza di regolamento si è resa necessaria dal momento che sistemi di intelligenza artificiale, anche ad alto rischio, sono già utilizzati in numerosi settori e in altri appaiono vicini al poter essere utilizzati nel prossimo futuro.

La definizione di sistemi di intelligenza artificiale (IA) adoperata dalla proposta di regolamento è appositamente molto ampia, oltre che “tecnologicamente neutrale”, in modo da poter resistere alle rapidissime evoluzioni cui questi sistemi andranno incontro nei prossimi anni.

La regolamentazione si pone l’obiettivo di consentire lo sviluppo di queste tecnologie e di supportarle, assicurando al contempo la sicurezza dei prodotti che ne facciano uso, dai software agli autoveicoli, dai macchinari industriali alle apparecchiature mediche, dai sistemi dai giocattoli ai sistemi di sicurezza, e via di seguito.

La proposta contiene le misure strettamente necessarie ad assicurare il rispetto dei diritti fondamentali e le esigenze di sicurezza sottese all’impiego dell’intelligenza artificiale.

La Commissione, stante il carattere trasversale di queste esigenze, che vanno oltre i singoli mercati nazionali, ha ritenuto necessaria una regolamentazione a livello di Unione, prevedendo altresì dei meccanismi attraverso cui estenderne ulteriormente l’ambito di applicabilità, anche al di là dei confini dell’Unione.

Sul modello del GDPR, si tratta di una proposta di regolamento e non di direttiva, dal momento che la diretta applicabilità del regolamento in tutti gli Stati membri potrà meglio evitare il rischio di una frammentazione.

Ancora sul modello del GDPR, la proposta di regolamento contiene forme di tutela sia ex ante sia ex post.

Alcune forme di IA risultano essere state vietate in radice, sulla base di una valutazione dei rischi, quando appaia che esse possano contravvenire i valori dell’Unione e i diritti fondamentali degli individui. Tra i sistemi di IA vietati (prohibited artificial intelligence practices), a titolo di esempio, possono citarsi:

• sistemi di IA che utilizzino tecniche subliminali al fine di coartare il comportamento di una persona in un modo che possa causare a quella persona o a un’altra persona danni fisici o psichici;
• sistemi di IA che sfruttino le vulnerabilità di uno specifico gruppo di persone a causa della loro età, disabilità fisica o mentale;
• sistemi di IA che, in determinate circostanze, consentano alle pubbliche amministrazioni la valutazione o la classificazione dell’affidabilità delle persone fisiche sulla base di un punteggio sociale (social scoring);
• sistemi di identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico, a meno che e nella misura in cui tale uso sia strettamente necessario per uno degli obiettivi chiariti dalla proposta.

Vi è poi una regolamentazione analitica dei sistemi di IA ad alto rischio (high-risk AI systems), per i quali viene privilegiata una tutela ex ante ma sono previste anche forme di tutela ex post particolarmente rafforzate.

Tra i sistemi di intelligenza artificiale ad alto rischio, si pensi, per il loro impatto sui diritti fondamentali, alle apparecchiature mediche dotate di IA (che potrebbero compromettere o favorire, a seconda dei casi, il diritto alla salute) ovvero ai cosiddetti giocattoli intelligenti (smart toys), per la loro attitudine ad essere utilizzati da soggetti particolarmente vulnerabili come i bambini.

Le sanzioni previste dall’Artificial Intelligence Act possono essere particolarmente elevate.

Infatti, la non conformità del sistema di AI è passibile di sanzioni amministrative fino a 20.000.000 euro o, se l’autore del reato è una società, fino al 4% del suo fatturato annuo totale a livello mondiale per l’esercizio finanziario precedente, a seconda di quale sia il più alto. È sanzionato anche l’operatore che renda informazioni inesatte, incomplete o fuorvianti in risposta a una richiesta delle autorità: in tal caso, le sanzioni amministrative ammonteranno fino a 10.000.000 euro o, se l’autore del reato è una società, fino al 2% del suo fatturato annuo totale a livello mondiale per l’esercizio finanziario precedente, a seconda di quale sia il più alto.

Dunque, anche nel caso delle sanzioni amministrative, l’impostazione e perfino gli importi ricalcano quelli del GDPR.

La proposta della Commissione, se si concretizzerà in un regolamento, impatterà, oltre che sulla protezione dei diritti fondamentali, anche su numerosi settori produttivi, dei quali si immagina un ruolo economicamente sempre più rilevante, e potrà essere decisiva nell’ottica di uno sviluppo antropocentrico dei sistemi di intelligenza artificiale.

Contributo a cura del Dipartimento di Diritto civile e commerciale

Categorie