Il termine Intelligenza Artificiale (“AI”) indica quei sistemi che tramite algoritmi analizzano il proprio ambiente compiendo azioni, con un certo grado di autonomia, per raggiungere specifici obiettivi. I sistemi di AI possono essere strumenti solo software (es. software per l’analisi clientela) o anche hardware (es. robot avanzati o applicazioni IoT). Utilizziamo l’AI quotidianamente, per esempio per tradurre le lingue, per bloccare lo spam e-mail oppure migliorare i servizi offerti dalla nostra azienda.
Dalla quotidianità è nata, infatti, l’esigenza a livello nazionale ed europeo di regolare i possibili sviluppi di quella che si può definire la quarta rivoluzione industriale o nuova RenAIssance.
Dal 2015 ad oggi le Istituzioni europee hanno cominciato ad organizzarsi per un piano regolatorio: il piano, da ultimo, ha portato alla redazione del Libro Bianco sull’intelligenza artificiale, documento che definisce le linee guida per l’adozione sicura di sistemi AI e per abbattere i rischi associati ad essi. In Italia, sulla scia dei comportamenti delle Istituzioni europee, il Ministero dello Sviluppo Economico ha elaborato alcune proposte per una Strategia Italiana per l’Intelligenza Artificiale .
Ma perché questa esplosione d’interesse verso l’AI? L’Europa, fanalino di coda rispetto alla Cina e gli Stati Uniti, si è resa finalmente conto che l’utilizzo dell’AI può determinare una forte crescita del PIL. Ad oggi il 3,3% del PIL degli Stati Uniti è determinato dall’utilizzo di sistemi di AI, mentre in Italia la percentuale è pari solo all’1,2%.
Questa corsa verso la digitalizzazione dell’industria porta, però, con sé conseguenze etiche con un forte impatto sui diritti e sulle libertà degli interessati correlate ad utilizzi dolosi e/o colposi dell’AI. Tra gli utilizzi dolosi annoveriamo, ad esempio, gli attacchi informatici, mentre tra quelli colposi rientrano l’utilizzo di dataset non rappresentativi che possono causare bias sociali: si pensi, ad esempio, alle forti discriminazioni in campo sanitario che possono causare ritorsioni sulla salute dell’individuo e che sono cagionate da decisioni automatizzate prese a causa di dataset errati.
Per affermarsi sul mercato senza incorrere in rischi etici, economici e mediatici, le imprese devono quindi sviluppare un piano di “privacyðic by design” prima di adottare un sistema di AI: l’impresa è tenuta, pertanto, ad effettuare una coscienziosa analisi del sistema che intende adottare al fine di comprendere se questo risulti in linea con i principi dell’etica e della protezione dei dati.
Ad oggi, l’unico spunto normativo che consente questo tipo di analisi è dato dall’art. 35 Regolamento UE per la protezione dei dati personali n. 679/2016, che richiede al Titolare del trattamento una valutazione sui rischi e gli impatti derivanti dal trattamento di dati personali (“DPIA”). Per un sistema di AI che implichi l’utilizzo di un dataset di dati personali sarà quindi necessaria questa valutazione.
Tuttavia, un’analisi dei rischi sui dati personali non è sufficiente a garantire un sistema “ethic&privacy by design”. Per questo è stata già predisposta a livello europeo una griglia di valutazione denominata Trustworthy AI Impact Assessment (“TAIA”) – ancora in corso di piloting dall’High Level Group – che, unita alla DPIA, potrà essere un valido strumento di valutazione per l’affidabilità degli algoritmi prodotti dalla macchina. Per minimizzare i rischi e gli impatti potenzialmente derivanti dal sistema di AI, si dovranno aggiungere alle misure di cui sopra anche: (i) contratti B2B che regolino gli standard qualitativi e le misure di sicurezza del prodotto o servizio offerto; (ii) contratti B2C volti a tutelare il consumatore che potrebbe risultare svantaggiato dall’utilizzo dell’algoritmo: e (iii) certificazioni private di cui potrà dotarsi l’impresa che adotti un sistema di AI per dimostrare la sua affidabilità e creare fiducia nel cliente.
L’Umanesimo Digitale è quindi, ormai, alle porte e le imprese dovranno inevitabilmente iniziare a convivere con l’AI.
È bene quindi non farsi trovare impreparati.
*Junior Associate di Roedl & Partners
