Durante il Car Carrozzeria Summit con l’Avv. Talamazzi abbiamo affrontato l’impatto dell’Intelligenza Artificiale nel contesto del lavoro e della possibilità per il dipendente di opporsi alla nuova tecnologia che qui approfondiamo

Avvocato Talamazzi, qual è l’impatto che l’Intelligenza Artificiale avrà sul settore automotive? Le imprese devono prepararsi a nuovi obblighi?

«Con l’introduzione dell’Intelligenza Artificiale gli operatori del settore automotive da un lato sono agevolati dalle innovazioni tecnologiche che possono ottimizzare certe procedure ma, dall’altro lato, devono anche confrontarsi con nuovi obblighi. Oggi ne parliamo con riguardo al settore automotive, ma è un discorso che comunque ha valenza generale: come sappiamo, infatti, il 1° agosto 2024 è entrato in vigore il Regolamento europeo sull’Intelligenza Artificiale (n. 1689/2024), noto come AI Act, rivolto a tutti i soggetti pubblici e privati (fornitori, utilizzatori, importatori, fabbricanti) che producono strumenti con tecnologia di Intelligenza Artificiale rivolti al mercato europeo.
Non potendo entrare nel dettaglio dell’AI Act, mi limiterò a evidenziarvi due aspetti che, a mio avviso, è importante conoscere. Il primo è la definizione di IA, individuato come un “un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”. Il secondo è che l’approccio del legislatore UE per l’AI Act è stato lo stesso adottato per il Regolamento sulla Privacy, noto come GDPR, ossia: prevenire. In quest’ottica, il Regolamento divide i sistemi di IA secondo 4 livelli di rischio: minimo, limitato, alto ed inaccettabile. Come sempre, maggiore è il livello di rischio maggiori saranno le responsabilità e i limiti per chi avrà a che fare con sistemi di Intelligenza Artificiale. Parlando di obblighi, quindi, le imprese dovranno compiere un censimento dei propri sistemi di Intelligenza Artificiale per capire se e in quale livello di rischio rientrano i propri dispositivi e per comprendere, di conseguenza, quali azioni dovranno intraprendere per adeguarsi al nuovo Regolamento europeo. Per i sistemi di Intelligenza Artificiale ad alto rischio (come possono essere i sistemi destinati a essere utilizzati come componenti di sicurezza integrati nei veicoli a motore) il Regolamento ha imposto obblighi più severi e specifici, come valutazioni e test di conformità, adozione di misure di sicurezza e gestione del rischio, nonché trasparenza sulla modalità di funzionamento del sistema e supervisione umana».

Entriamo più nel concreto: quali passi pratici devono compiere le aziende del settore automotive?

«Il primo passo, come detto, sarà quello di avviare un censimento per capire che livello di rischio dovranno gestire e quali obblighi e che misure dovranno adottare, sapendo che maggiore sarà il rischio del sistema di Intelligenza Artificiale e maggiori saranno le responsabilità sia verso terzi sia verso i propri dipendenti. Una volta stabilito il tipo di sistema di Intelligenza Artificiale, e a maggior ragione se si tratta di un sistema ad alto rischio, le imprese e i loro lavoratori dovranno effettuare verifiche operative sul sistema, monitorando il corretto funzionamento ed intervenendo in caso di malfunzionamenti o segnalando immediatamente eventuali errori al fornitore. Questo a maggior ragione se le tecnologie IA vengono utilizzate per valutazioni di danni, analisi strutturali o altre applicazioni legate alla sicurezza dei veicoli a motore. Parlando di obblighi connessi ai sistemi di IA, in secondo luogo, inviterei a riflettere sulla problematica della Privacy: l’utilizzo dell’IA comporta anche il trattamento di dati personali, spesso raccolti dai veicoli più avanzati. Le imprese devono garantire il rispetto del GDPR, ad esempio informando i clienti sull’accesso ai dati e adottando misure di sicurezza per proteggerli nonché integrando le proprie informative Privacy. La mancata protezione dei dati personali, infatti, può portare a multe significative che sono calcolate, come quelle previste dall’AI Act, in percentuale rispetto al fatturato annuo delle imprese. Un terzo tipo di obbligo che ravviso (tra i tanti di cui sarebbe opportuno parlare) è, poi, quello della formazione del personale: l’art. 26 del Regolamento UE prevede che, prima di mettere in servizio o utilizzare un sistema di IA ad alto rischio sul luogo di lavoro, i datori di lavoro devono informare i lavoratori che saranno soggetti all’uso del sistema di IA ad alto rischio, adottando misure tecniche e organizzative idonee per garantire un utilizzo di tali sistemi conforme alla legge e alle istruzioni e facendoli utilizzare solo a persone fisiche che dispongono della competenza, della formazione e del sostegno necessario. I dipendenti che lavoreranno su sistemi di IA dovranno conoscere tali sistemi ed essere messi in condizione di monitorarli e valutare se intervenire sul loro funzionamento, se necessario forzandone l’arresto. Il personale, pertanto, deve essere adeguatamente addestrato per comprendere il funzionamento dei sistemi IA e sapere come intervenire in caso di necessità: questo rientra nel c.d. principio di “alfabetizzazione in materia di IA” previsto dall’art. 4 del Regolamento».

E per quanto riguarda i lavoratori? Possono rifiutarsi di lavorare con l’IA?

«Questa è una domanda molto attuale, ma anche molto delicata ed avrebbe bisogno di ragionamenti ben più approfonditi per potere essere esauriente. In via preliminare e sintetizzando alcuni dei punti principali di tali ragionamenti, possiamo considerare che l’articolo 2104 del Codice Civile italiano prevede che i lavoratori sono tenuti a usare la diligenza richiesta dalla natura della prestazione dovuta e dall’interesse dell’impresa per cui lavorano, osservando le disposizioni impartite dal datore di lavoro. Pertanto, se l’uso di sistemi di Intelligenza Artificiale è richiesto da ragionevoli esigenze organizzative e rientra nelle mansioni del lavoratore, il dipendente potrebbe essere obbligato a utilizzare tali sistemi per non rischiare di incorrere nella c.d. insubordinazione, salvo che ciò ovviamente comporti rischi per la salute o violazioni di norme di sicurezza. Ma, a fronte di un obbligo generale dei dipendenti di rimettersi alle indicazioni dei datori di lavoro, ci saranno altrettanti obblighi dei datori di lavoro di fare lavorare i propri dipendenti in condizioni di sicurezza. Ricollegandoci agli obblighi che le imprese dovranno rispettare parlando di sistemi di Intelligenza Artificiale, abbiamo visto infatti che c’è quello di formare il proprio personale. Sicuramente il coinvolgimento dei rappresentanti sindacali diventerà importante per affrontare eventuali preoccupazioni sui potenziali impatti dell’IA sui posti di lavoro».

In conclusione, avvocato Talamazzi, quali sono le principali sfide per le imprese?

«Le imprese del settore automotive, e non solo, sono chiamate ad affrontare il duplice compito di cogliere le opportunità offerte dall’IA e al contempo rispettare il complesso quadro normativo già esistente e futuro e, per riuscirci, è fondamentale adottare un approccio strategico e ben strutturato. Ciò significa, tra le altre cose, mappare i sistemi di Intelligenza Artificiale per valutarne i rischi, formare il personale, aggiornare la documentazione aziendale (ad esempio implementando le proprie informative Privacy). Affrontare per tempo queste questioni, anche con il confronto di un legale specializzato, può essere consigliato per proteggere le proprie imprese e prepararle alle sfide future».