“Gli scenari legati all’avvento dell’Intelligenza Artificiale e della superintelligenza assumono spesso toni fantascientifici, tipo 2001 Odissea nello spazio, Matrix o Terminator. Spesso si allude alla possibilità che l’IA sia già dotata, o sia sul punto di dotarsi, di coscienza, intenzionalità, volontà, emozioni e desiderio di dominio. Non vi sono però ragioni solide per ritenere che gli attuali sistemi artificiali possiedano simili proprietà né che stiano sul punto di acquisirle. Ciò non significa, naturalmente, che essi non possano comunque risultare pericolosi per ragioni di altro genere”. Mario De Caro, Professore Ordinario di Filosofia Morale all’Università di Roma Tre e titolare della Cattedra UNESCO su “Ethics of AI and practical wisdom”, è uno dei filosofi che in Italia studia maggiormente le implicazioni etiche dell’IA.
Professore, quali sono i rischi concreti dell’intelligenza artificiale che già esistono e non devono essere sottovalutati?
Alcuni sono già evidenti: discriminazione algoritmica, esasperazione dei meccanismi di sorveglianza, disinformazione, criminalità informatica, incremento delle disuguaglianze economiche, danni ambientali, violazioni della privacy e dei diritti fondamentali. Altri rischi sono in rapida crescita, come la trasformazione del mercato del lavoro, lo sviluppo di armi letali autonome e la progressiva riduzione del controllo umano su decisioni di grande rilevanza. Occorre però distinguere questi problemi documentabili dagli scenari ipotetici di lungo periodo, come l’avvento di una superintelligenza capace di minacciare l’esistenza dell’umanità. La retorica dell’apocalisse futura rischia infatti di distogliere l’attenzione dai danni che l’IA produce già oggi.
Perché secondo lei, allora, ci si concentra più sulla prima?
Sono anni che i CEO delle Big Tech lanciano annunci dai toni vagamente apocalittici sugli sviluppi dell’intelligenza artificiale che le loro stesse aziende promuovono a ritmi frenetici. Questi annunci non sono neutrali: dietro i reiterati allarmi si intravedono anche precise ragioni economiche e strategiche.
Quali?
In primo luogo, le grandi aziende devono mantenere alta l’attenzione sull’IA, così da continuare ad attrarre investimenti e finanziamenti. Se si verificasse un nuovo «inverno dell’IA» (ossia una crisi di profonda sfiducia nelle prospettive di questa tecnologia, analoga a quelle già verificatesi in passato), le conseguenze economiche e finanziarie potrebbero essere devastanti. Inoltre, la serrata competizione con la Cina induce le grandi aziende statunitensi a chiedere che eventuali limitazioni normative coinvolgano anche le imprese cinesi, così da non alterare gli equilibri competitivi. Infine, presentarsi come coloro che denunciano i rischi della tecnologia conferisce ai dirigenti di queste aziende un’immagine di responsabilità e dirittura morale, con notevoli vantaggi reputazionali. Questi allarmi, dunque, non frenano necessariamente il mercato dell’IA: possono anche alimentarlo e consentire ai suoi protagonisti di stabilire i termini del dibattito pubblico.
In questo modo, poi, si dimenticano gli aspetti positivi dell’Intelligenza Artificiale.
Esatto. Non possiamo trascurare le straordinarie potenzialità positive dell’intelligenza artificiale. Per fare un solo esempio, si pensi al campo medico, nel quale siamo di fronte alla più grande rivoluzione dalla nascita della fisiologia moderna. Nei prossimi anni assisteremo a enormi progressi in ambito farmacologico, diagnostico e chirurgico, con la possibilità di sviluppare terapie personalizzate, individuare precocemente patologie oggi difficili da riconoscere e rendere gli interventi più precisi e meno invasivi. Se utilizzata responsabilmente, l’intelligenza artificiale potrà dunque contribuire non soltanto a curare meglio, ma anche a prevenire le malattie, ampliare l’accesso alle cure e migliorare sensibilmente la qualità della vita.
Chi, secondo lei, dovrebbe preoccuparsi di arginare le derive pericolose dell’IA?
Talvolta si sostiene che soltanto i programmatori e gli informatici possano occuparsi dei rischi dell’IA. È una tesi insostenibile: sarebbe come affermare che solo gli ingegneri nucleari siano legittimati a discutere dei rischi della bomba atomica. Le competenze tecniche sono indispensabili, ma devono essere affiancate da quelle di altri studiosi ed esperti – i quali, naturalmente, devono conoscere i fondamenti dell’IA – come giuristi, filosofi, sociologi, economisti, psicologi, educatori e studiosi delle istituzioni democratiche. Servono gruppi di lavoro realmente interdisciplinari, organismi di controllo indipendenti e una chiara attribuzione delle responsabilità.
E la politica?
Ovviamente occorre una politica capace di comprendere la portata di queste trasformazioni e di governarle: una politica che, almeno per il momento, non sembra ancora all’altezza del compito. Tornando al rischio dell’apocalisse ripeto: il problema è che possibilità altamente speculative vengono spesso presentate come previsioni scientificamente fondate, attribuendo alle macchine intenzioni e capacità che non è affatto dimostrato possano acquisire.