AI Act: cosa cambia per le aziende che utilizzano l’Intelligenza Artificiale e quali sono i passi per adeguarsi?

L’intelligenza artificiale è sempre più presente nei processi aziendali: dall’automazione delle attività amministrative all’analisi dei dati, fino ai sistemi di assistenza clienti e alle applicazioni integrate nei software gestionali. Con l’entrata in applicazione progressiva dell’AI Act europeo (Regolamento UE 2024/1689), le imprese devono prestare maggiore attenzione alle modalità con cui vengono adottate, sviluppate e controllate.

Il Regolamento europeo introduce un quadro normativo basato sul livello di rischio dei sistemi AI, distinguendo le responsabilità di chi li sviluppa e immette sul mercato da quelle delle organizzazioni che li utilizzano.

AI Act: non tutti i sistemi di intelligenza artificiale sono uguali

Il principio alla base dell’AI Act è che gli obblighi devono essere proporzionati ai rischi associati all’utilizzo della tecnologia.

L’articolo 6 del Regolamento UE 2024/1689, definisce i criteri per identificare i sistemi AI considerati ad alto rischio. Tra questi rientrano, a determinate condizioni, applicazioni utilizzate nella selezione del personale, nella valutazione del merito creditizio o nella gestione di infrastrutture critiche.

Per le aziende diventa quindi fondamentale identificare quali sistemi AI vengono utilizzati, comprenderne le finalità e verificarne la classificazione normativa.

Un chatbot che supporta il servizio clienti e un sistema che interviene nella valutazione automatizzata dei candidati, per esempio, possono comportare responsabilità molto differenti.

Le responsabilità delle aziende che utilizzano sistemi AI

L’AI Act non riguarda soltanto chi sviluppa intelligenza artificiale. Anche le imprese che adottano soluzioni realizzate da fornitori esterni, definite deployer dal Regolamento, possono essere soggette a specifici obblighi.

L’articolo 4 introduce disposizioni sull’alfabetizzazione in materia di intelligenza artificiale, richiedendo ai fornitori e agli utilizzatori di adottare misure per garantire un livello adeguato di competenza del personale coinvolto.

Per i sistemi classificati ad alto rischio, l’articolo 26 prevede ulteriori responsabilità, tra cui l’utilizzo conforme alle istruzioni del fornitore, la supervisione umana e il monitoraggio del funzionamento.

Dal punto di vista tecnologico, questo si traduce in alcune attività fondamentali:

  • Protezione dei dati e gestione degli accessi: verificare quali informazioni vengono elaborate, dove sono trattate e chi può accedervi, anche nel rispetto del GDPR (Regolamento UE 2016/679).
  • Controllo dei risultati: predisporre adeguate modalità di verifica degli output, soprattutto quando l’intelligenza artificiale supporta decisioni rilevanti.
  • Tracciabilità delle operazioni: conservare, nei casi previsti, i registri di funzionamento generati automaticamente dal sistema.
  • Formazione del personale: assicurare che gli utilizzatori conoscano le potenzialità, i limiti e i rischi degli strumenti AI adottati.

A queste misure si aggiungono gli obblighi di trasparenza previsti dall’articolo 50, applicabili a determinate tipologie di sistemi. In alcuni casi, ad esempio, gli utenti devono essere informati quando interagiscono con un’intelligenza artificiale o quando determinati contenuti sono stati generati artificialmente.

Utilizzare una soluzione AI fornita da terzi non significa quindi essere automaticamente esonerati da ogni responsabilità.

Chi sviluppa sistemi AI: sicurezza e conformità fin dalla progettazione

Per le aziende che sviluppano e commercializzano sistemi di intelligenza artificiale, gli adempimenti possono essere più articolati, soprattutto quando le soluzioni rientrano nelle categorie ad alto rischio.

Gli articoli dal 9 al 15 dell’AI Act definiscono una serie di requisiti tecnici che devono essere integrati durante il ciclo di vita dei sistemi interessati:

  • Gestione dei rischi: identificare, valutare e ridurre i rischi associati al sistema.
  • Qualità e governance dei dati: assicurare una gestione adeguata dei dati utilizzati per addestramento, validazione e test.
  • Documentazione tecnica e registrazione degli eventi: predisporre le informazioni necessarie a dimostrare la conformità e consentire la tracciabilità del funzionamento.
  • Supervisione umana: progettare sistemi che possano essere adeguatamente controllati da persone.
  • Accuratezza, robustezza e cybersecurity: adottare misure per garantire prestazioni affidabili e resistenza a errori, malfunzionamenti e attacchi informatici.

La sicurezza informatica assume quindi un ruolo particolarmente importante. Un sistema AI può presentare vulnerabilità specifiche, come la manipolazione dei dati di addestramento (data poisoning) o l’utilizzo di istruzioni malevole per condizionarne il comportamento (prompt injection).

Un aspetto importante riguarda anche chi sviluppa applicazioni basate su modelli AI di terze parti. L’articolo 25, relativo alle responsabilità lungo la catena del valore dell’intelligenza artificiale, chiarisce che determinate modifiche, integrazioni o cambiamenti di destinazione d’uso possono comportare l’assunzione degli obblighi previsti per i fornitori di sistemi ad alto rischio.

Integrare un modello AI esistente in un software aziendale non esclude quindi automaticamente responsabilità per chi realizza e distribuisce la soluzione finale.

Come adeguarsi all’AI Act: cosa devono fare concretamente le aziende

Per affrontare gli adempimenti previsti dall’AI Act, le imprese devono innanzitutto comprendere come l’intelligenza artificiale viene utilizzata nei propri processi e quali responsabilità derivano dalle diverse applicazioni.

Non è necessario sviluppare direttamente sistemi AI per essere interessati dal regolamento: anche un’azienda che utilizza strumenti di intelligenza artificiale per attività amministrative, marketing, assistenza clienti o gestione del personale deve valutare quali disposizioni siano applicabili.

Il percorso di adeguamento può partire da alcune attività concrete:

  1. Censire gli strumenti di intelligenza artificiale utilizzati: il primo passo consiste nell’identificare le applicazioni AI presenti in azienda, comprese quelle integrate nei software già in uso. ChatGPT, Microsoft Copilot, sistemi di generazione automatica dei contenuti, chatbot e strumenti di analisi dei dati sono alcuni esempi.

Realizzare un registro interno che riporti le finalità di utilizzo, i fornitori, le categorie di dati trattati e le persone autorizzate permette di conoscere meglio le tecnologie adottate e individuare eventuali criticità.

  1. Identificare il ruolo dell’azienda e classificare i rischi: per ogni sistema occorre verificare se l’impresa agisce come semplice utilizzatore (deployer), fornitore (provider) o assume altri ruoli previsti dal Regolamento.

È inoltre necessario individuare eventuali applicazioni vietate e verificare se determinati sistemi rientrino nelle categorie ad alto, ad esempio in alcuni ambiti della selezione e gestione del personale. Questa valutazione permette di distinguere gli obblighi già applicabili da quelli specifici per determinate categorie di sistemi.

  1. Formare il personale sull’utilizzo consapevole dell’AI: l’articolo 4 dell’AI Act richiede ai fornitori e agli utilizzatori di adottare misure per favorire un’adeguata alfabetizzazione in materia di intelligenza artificiale.

Le aziende dovrebbero quindi prevedere attività formative proporzionate agli strumenti utilizzati e alle competenze dei dipendenti, affrontando aspetti come l’affidabilità delle risposte, la protezione delle informazioni riservate e i rischi di un utilizzo non controllato. Documentare le attività svolte costituisce una buona pratica per dimostrare l’attenzione dedicata alla formazione, senza che il Regolamento imponga uno specifico certificato.

  1. Definire una policy aziendale e verificare gli obblighi di trasparenza: una policy interna può stabilire quali strumenti AI siano autorizzati, quali informazioni possano essere condivise e quali attività richiedano una verifica umana. È importante anche valutare i rapporti con i fornitori, verificando le condizioni di utilizzo, il trattamento dei dati e le rispettive responsabilità.

L’AI Act prevede inoltre specifici obblighi di trasparenza, tra cui l’informazione agli utenti che interagiscono con determinati sistemi AI e la riconoscibilità di alcune categorie di contenuti generati o manipolati artificialmente.

  1. Integrare la gestione dell’AI nei processi di sicurezza informatica: l’adeguamento all’AI Act non dovrebbe essere gestito come un’attività isolata. Il censimento delle applicazioni, la valutazione dei rischi, la protezione dei dati e il controllo degli accessi possono essere integrati nelle procedure di sicurezza informatica già adottate dall’azienda.

Prepararsi all’AI Act è un’occasione per comprendere meglio come l’intelligenza artificiale entra nei processi aziendali, quali dati utilizza e quali rischi introduce. Una gestione strutturata dell’AI, accompagnata da adeguate misure di cybersecurity e protezione delle informazioni, permette alle imprese di adottare queste tecnologie in modo più consapevole, sicuro e controllato.

NEW può aiutarti a valutare le soluzioni AI presenti nella tua infrastruttura IT e a individuare le misure tecnologiche necessarie per un utilizzo sicuro e conforme alle normative.

    Autorizzo il trattamento dei miei dati personali, ai sensi delle vigenti normative privacy (Regolamento Europeo n.679/16), secondo le finalità e le modalità indicate nella Vostra informativa. Leggi l'informativa

    Vorrei iscrivermi alla newsletter per restare aggiornato su novità, promozioni e iniziative.