Distinguere un contenuto autentico da uno prodotto da un algoritmo è sempre più difficile. Un tempo un filmato costituiva una prova; oggi non è più così.
Una possibile soluzione consisterebbe nell’obbligare i programmi di generazione a inserire filigrane riconoscibili nelle immagini prodotte, ma non è affatto certo che ciò sia tecnicamente o giuridicamente realizzabile. (…)
I modelli linguistici rispondono alle domande e svolgono ricerche in Rete, ma la loro metodologia di apprendimento introduce limiti strutturali. Essendo stati addestrati a predire la parola successiva in una frase, tendono letteralmente a “tirare a indovinare” quando non dispongono dell’informazione necessaria. Accade dunque che forniscano risposte inventate con apparente sicurezza. In diverse occasioni, di fronte a risposte anomale, ho chiesto conferma al modello, che ha ammesso di aver tentato un’ipotesi in assenza di dati precisi. In un caso, cercando di conoscere le dimensioni di una piazza di Firenze, il modello restituiva valori privi di senso e, dopo vari tentativi, concludeva suggerendo di telefonare al Comune di Firenze per ottenere l’informazione corretta. Prima di arrivare a tale ammissione, però, aveva fornito risultati completamente errati. Questo limite non e particolarmente grave finché non si attribuisce ai modelli linguistici il ruolo di fonti di informazione completamente affidabili. Il rischio emerge quando si presume che tali sistemi forniscano dati verificabili al cento per cento. Ciò che si osserva sempre più spesso è che, durante una ricerca complessa,
Google propone direttamente un sommario generato dall’Intelligenza artificiale. Se si approfondisce cliccando sulla risposta sintetica, si viene reindirizzati al sito di Gemini, che fornisce un’esposizione più dettagliata. Da lì è possibile chiedere chiarimenti, integrare informazioni, richiedere ulteriori fonti e ottenere risposte più articolate. Di fatto, Google sta progressivamente sostituendo la ricerca diretta delle fonti con una ricerca mediata dall’Intelligenza artificiale. Quando tali sintesi sono corrette, presentano il vantaggio di essere più concise delle fonti originali e di integrare informazioni provenienti da documenti diversi. Tuttavia, questa dinamica solleva un problema molto serio. Occorre infatti interrogarsi sulle fonti utilizzate da Google, o da altre aziende, per addestrare i propri modelli linguistici. Alcune scelte sono esplicite: ad esempio, l’IA sviluppata da Musk utilizza deliberatamente fonti politicamente orientate verso destra, escludendo contenuti definiti “woke”. Ne consegue che temi come l’uguaglianza di genere o l’uguaglianza tra gruppi etnici vengono completamente rimossi dal corpus di addestramento del modello. Se si procede verso una situazione di fatto monopolistica – come avviene, considerando che una larga parte degli utenti utilizza Google come motore di ricerca – l’impatto informativo può diventare estremamente preoccupante.
L’evoluzione recente mostra che l’informazione tende a essere mediata dall’Intelligenza artificiale: essa legge giornali e libri, ne produce versioni semplificate e le restituisce agli utenti. Le grandi case editrici si stanno già preparando a vendere i propri testi per l’addestramento dei modelli, previo consenso degli autori. Ma se giornali, riviste, libri e persino Wikipedia dovessero avere come principale lettore – e finanziatore – una singola Intelligenza artificiale, il pluralismo informativo verrebbe meno. Si tratta di una questione estremamente delicata. Le statistiche mostrano che Google detiene una posizione quasi monopolistica nelle ricerche online. Esistono tentativi di spezzare questa concentrazione, ma è altrettanto naturale che, in un settore dominato dall’efficienza, il sistema più performante finisca per essere adottato dalla maggior parte degli utenti. A differenza di altri mercati, come quello automobilistico, in cui i limiti produttivi impediscono a un singolo produttore di soddisfare tutta la domanda, nell’ambito dell’Intelligenza artificiale una volta addestrato un modello esso può essere distribuito a milioni o miliardi di utenti senza particolari difficoltà. Il rischio di un monopolio informativo diventa quindi un problema strutturale di grande rilevanza.
Un ulteriore problema riguarda l’esaurimento delle fonti. L’Intelligenza artificiale ricava molte delle proprie risposte da siti di domanda e risposta – come Quora, Reddit o altri portali tecnici – nei quali utenti reali forniscono contributi e soluzioni. Tali siti sopravvivono in parte grazie alla pubblicità, ma soprattutto grazie al fatto che vi siano persone che pongono domande, generando così contenuti aggiornati. Un esempio italiano è il sito di Salvatore Aranzulla, blogger e divulgatore informatico che fornisce risposte a una grande varietà di quesiti tecnici. Se gli utenti smettono di rivolgersi a queste piattaforme e interrogano esclusivamente l’Intelligenza artificiale, tali siti finiscono per perdere la loro funzione: non essendoci nuove domande, non vengono prodotte nuove risposte. Di conseguenza, anche l’Intelligenza artificiale si ritroverebbe priva di questo tipo di fonti aggiornate. (…)
Un altro tema di grande rilevanza riguarda l’occupazione. L’Intelligenza artificiale eliminerà inevitabilmente una serie di lavori ripetitivi. È plausibile che emergano nuove professioni, come quelle legate all’addestramento dei modelli, alla loro valutazione o allo sviluppo di nuovi algoritmi. Molte attività monotone scompariranno. Basti considerare che gran parte delle traduzioni di livello non specialistico – ad esempio la traduzione di documenti legali o tecnici – può già oggi essere svolta in modo preciso dai modelli linguistici, rendendo superfluo l’intervento di traduttori professionisti per compiti di routine. Allo stesso modo, attività come la redazione di riassunti, la preparazione di brevi memo o di documentazione standardizzata saranno progressivamente automatizzate. Sebbene il lavoro non sia destinato a scomparire completamente, poiché sarà comunque necessario supervisionare e controllare il funzionamento dell’Intelligenza artificiale, la quantità complessiva di lavoro umano richiesta tenderà a ridursi in modo significativo. Come affrontare questo problema? Le soluzioni prospettate sono essenzialmente due. La prima conduce verso una possibile disoccupazione di massa; la seconda consiste in una riduzione dell’orario di lavoro. Si può immaginare che, in diversi settori, l’orario settimanale passi dalle attuali quaranta a trentadue ore. (…)
Non e plausibile immaginare risposte esclusivamente tecniche a un problema di tale natura: è necessario che i decisori politici affrontino seriamente l’eventualità di un aumento strutturale della disoccupazione. Alcune categorie professionali potrebbero infatti scomparire e risultare difficilmente reintegrabili. Un esempio emblematico è quello del trasporto pubblico individuale. La diffusione progressiva delle automobili a guida autonoma – i robotaxi – sta già prendendo forma. Anche se tali veicoli non sono ancora perfetti, alcune statistiche indicano che comporterebbero un numero di incidenti dieci volte inferiore rispetto a quelli dei conducenti umani. Quando i robotaxi diventeranno più economici ed efficienti, la pressione per sostituire il lavoro umano con sistemi automatizzati potrebbe diventare molto forte. Questo rappresenta solo uno dei possibili casi in cui una categoria professionale rischia di scomparire a causa dell’automazione. Il problema principale, a questo punto, è la necessità di una regolamentazione adeguata, poiché le criticità sollevate rendono evidente che non si può lasciare il settore privo di norme. (…) Ogni nuova tecnologia richiede quindi un apparato regolatorio che ne disciplini l’uso. Ritengo fondamentale lo sviluppo di una ricerca pubblica nel campo dell’Intelligenza artificiale, sia per motivi generali sia perché, qualora si rendesse necessario definire una nuova regolamentazione, questa potrebbe essere elaborata solo da persone competenti, in grado di comprendere ciò che accade nel settore.
