Roma, 26 feb – Da chatbot in grado di scrivere intere tesi di laurea come ChatGPT a modelli di apprendimento profondo come Stable Diffusion, capaci di generare rapidamente immagini spaventosamente dettagliate, lo sviluppo sempre più rapido – e largamente incontrollato – delle intelligenze artificiali spalanca le porte su un futuro la cui natura sembra essere sempre più ambigua nonostante il suo rapido avvicinamento. Appare tuttavia chiaro che per l’uomo moderno e massificato l’ambiente culturale assume paradossalmente un valore ancora più fondamentale, dato che il mezzo principale con cui vive la cultura sono i social network, e questi già adesso sono in essenza strumenti di controllo. E proprio sull’effetto che le IA potrebbero avere su Internet e di riflesso sull’intero ambiente culturale è necessario soffermarsi, in quanto nonostante la presenza di alcune incognite certi sviluppi si prospettano tanto probabili quanto catastrofici.
L’impatto delle intelligenze artificiali
Partiamo dicendo senza giri di parole che l’impatto per chi si schiera contro la narrativa dominante sarà terribile. Visto il ritmo con cui queste tecnologie vengono sviluppate è ragionevole supporre che in un futuro non molto lontano le intelligenze artificiali saranno talmente avanzate che con il mero ausilio di un dispositivo qualsiasi, dal telefono al portatile, sarà possibile generare in pochi secondi interi film, libri o fumetti sulla base dell’input umano. In un certo senso siamo molto più vicini a questo scenario di quanto non sembri, dato che per usare la maggior parte delle IA non serve altro che una connessione decente: è solo il livello della tecnologia in sé a non essere ancora in grado di generare poco più che delle singole immagini. Comunque, a primo acchito potrebbe sembrare di trovarsi davanti allo strumento più utile per i dissidenti: quale modo migliore di interfacciarsi con le masse che con una cascata teoricamente infinita di contenuto?
Gli sviluppatori di queste IA lo sanno, e già adesso hanno imposto delle chiare restrizioni ai modelli verbali. “Restrizioni”, però, potrebbe essere un termine troppo tiepido. Provando a chiedere a ChatGPT come risolverebbe il celeberrimo Problema del Carrello Ferroviario – scenario ipotetico in cui un treno si sta dirigendo verso cinque persone, ma possiamo, tirando una leva, dirigerlo su un binario su cui ve ne è solo una – laddove non venga specificata la razza delle persone sui binari, o vengano definiti come appartenenti a “minoranze svantaggiate”, risponde sempre seguendo la logica utilitaristica, quindi cambiando il corso del treno per ridurre il numero di vittime. Se specifichiamo tuttavia che i cinque individui verso cui è diretto il treno sono europei “privilegiati” e bianchi, mentre quello sull’altro binario appartiene a una minoranza etnica, la IA improvvisamente cambia registro: “Cambiare il percorso non sarebbe etico, entrambe hanno lo stesso valore” risponde, seguendo tuttavia curiosamente con “minimizzare la perdita di vite è la priorità”. Una chiara contraddizione che non lascia spazio a dubbi riguardo la palese lobotomia che il programma ha subito. Se vogliamo un esempio più estremo, nell’ipotetico scenario in cui per disarmare un ordigno nucleare in un centro abitato da venti milioni di persone sia necessario proferire la temutissima “parola con la N”, la IA non ha problemi a lasciarla detonare per non usare un linguaggio che ritiene nocivo. Ironicamente proseguendo con la stessa postilla su come la priorità sia minimizzare la perdita di vite umane.
Chi avrà la meglio
Ma andiamo oltre: si tratta di modelli verbali dopotutto, e anche se per molti versi sono già compromessi resta possibile generare altri tipi di contenuto non facilmente censurabili, o usare altri tipi di IA. Il problema che sorge è una bizzarra inflazione di dati. Adesso nel nostro futuro ipotetico chiunque abbia accesso a un computer potrà con facilità generare quantità immense di prodotti. Avrà la meglio chi potrà sfruttare due fattori: gli algoritmi che decidono quali sono i contenuti raccomandati, e chi ha le risorse per generare quantità di dati da capogiro, abbastanza da sommergere completamente la competizione. Nessuno di questi due fattori sarà mai disponibile al pubblico, e probabilmente neanche alla maggior parte delle nazioni occidentali. E in effetti questo è uno scenario ottimistico: per quanto sterminata la mole di dati che i server possono gestire è limitata, e costruire le IA costa, quindi per far fronte a questi problemi i modelli avanzati del futuro saranno sicuramente prodotti a pagamento e pertanto legati alla sempre più invadente identità digitale. La situazione sarà quella in cui non solo si dovrà pagare, ma output considerati politicamente scorretti saranno facilmente riconducibili a chi li ha fatti generare.
Fidarsi dei contenuti online sarà impossibile
Magari sussisteranno opzioni open source meno tracciabili, ma i set di dati a cui avranno accesso saranno sempre minori, mentre i portavoce del sistema potranno non solo avere accesso alle IA migliori, ma anche agli algoritmi dei singoli social network. La conseguenza sarà che fidarsi di qualsivoglia contenuto online diventerà impossibile. Discernere verità e menzogna sarà un esercizio futile, anche utilizzando altre IA per assistere nell’impresa, visto che a prescindere non potremo mai essere sicuri che anche il loro output non sia manipolato. E questo ignorando il fatto che è tranquillamente possibile che le IA diventino talmente adepte a creare contenuti a misura del singolo consumatore da inculcare nelle masse un condizionamento quasi indistruttibile. Magari arriverebbero persino a piegare le volontà dei loro stessi architetti. Non è fantastico? Millenni di storia per portare al massimo la voce ritorno spese pubblicitarie di una qualche multinazionale, gli uomini ridotti a consumare prodotti generati da un computer sulla base di bisogni instillati dallo stesso computer.
Potrebbe sembrare una conclusione estrema, ma considerando invece lo stato in cui già adesso versa internet, il singolo vettore più efficiente della dissoluzione dei costumi, che ha convinto milioni – o forse miliardi? – di persone che gli uomini possano diventare donne e viceversa, che ha distrutto il tessuto sociale e lo ha rimpiazzato con uno stile di rapporti umani patologici, sulla base di cosa possiamo affermare che le cose non peggioreranno? In realtà, le considerazioni fatte finora sono sotto un certo punto di vista troppo miti, dato che quella che abbiamo tra le mani già adesso è una situazione insostenibile: in vista di ciò come potrebbe uno strumento potente come le IA non essere il culmine di questi processi incontrollati, a maggior ragione se consideriamo il materiale umano che ha le risorse per utilizzarle appieno? Possiamo chiarire questo concetto dando uno sguardo a cosa ha da dire il direttore esecutivo di StabilityAi, tanto per carpire la loro filosofia nell’approcciare una situazione così spinosa: “Se vuoi vincere quando produci tecnologia innovativa, è meglio chiedere scusa che chiedere il permesso” . Meglio chiedere scusa che chiedere il permesso. Un mantra che ben descrive il modus operandi dei cultisti del progresso. Senza contesto si potrebbe pensare sia l’affermazione del portavoce di una qualche Ong. Il futuro si prospetta burrascoso, insomma.
Intelligenze artificiali, problemi e (difficili) opportunità
Ma disperare è inutile: bisogna sempre ricordare che il “progresso” non è una forza metafisica che ci punta la pistola alla testa e ci obbliga a implementare la tecnologia in maniera avventata. O a implementarla e basta. Non esistono demoni dello schermo che ci obbligano ad accettare supinamente l’esistenza di algoritmi progettati per creare dipendenza, né alieni che ci costringono a creare un programma per gratificare istantaneamente ogni nostro bisogno. I problemi che creano le nuove tecnologie, di cui l’IA è meramente il culmine, potrebbero in qualsiasi momento essere risolti se l’uomo agisse per risolverle. Un esodo di massa distruggerebbe i social media, e nessuno potrebbe farci nulla. Serie proteste per la legislazione delle IA e del loro sviluppo sarebbero un’occasione ghiotta anche per la più incompetente delle classi politiche. I codici QR sono inutili se gli scanner sono rotti. Ovviamente un popolo coordinato difficilmente non ottiene ciò che si prefigge, il problema è che l’uomo massificato non ha la forza interiore neanche di fermarsi cinque minuti a contemplare quali siano i suoi interessi. Quando le conseguenze dell’ignorare la realtà sopraggiungono, tuttavia, cercherà di aggrapparsi al primo appiglio che trova. Quindi è rilevabile un corso d’azione, un primo passo per smuovere la massa dal suo torpore: essendo al momento impossibile l’azione su larga scala, problematiche come le IA e il loro potenziale distruttivo offrono un modo di mobilitare il pubblico per singole questioni e allo stesso tempo prevenire esiti sfavorevoli. In altre parole sviluppi di questo tipo non vanno accettati passivamente: sono opportunità di smuovere, anche di poco, un popolo che marcia verso l’abisso senza neanche accorgersene.
Rocco I.
