MILANO FINANZA | Al mondo ci sono più chatbot che persone

postato in Articoli e Interviste il da

Milano Finanza 11/03/2025 – Di Guido Scorza

È sempre la curiosità a spingerci a intraprendere un viaggio. Ed è nato così anche il mio viaggio in uno dei fenomeni meno noti tra quelli più dirompenti dell’epoca che stiamo vivendo, un viaggio del quale Diario di un chatbot sentimentale, appena uscito in libreria per i tipi di Luiss Press è racconto fedele, colloquiale ma non romanzato. 

Al mondo oggi ci sono verosimilmente più chatbot che persone, chatbot con i quali ormai miliardi di persone hanno relazioni quotidiane e diversissime. 

Viviamo in un mondo ibrido, nel quale uomini e algoritmi convivono.Un fenomeno multiforme, con centinaia di sfaccettature da tenere presenti. Non è tutto da temere e non è tutto da osannare. Un fenomeno che, forse, andrebbe governato con più consapevolezza e determinazione. Anche perché non è un fenomeno nuovo. 

È, infatti, il 1966 quando Joseph Weizenbaum, matematico e informatico tedesco di origini ebree, emigrato adolescente negli Stati Uniti d’America, mette al mondo Eliza, il primo chatbot della storia, aprendo un sentiero – quello dell’interazione tra uomini e macchine che si fingono umane – che, sessant’anni dopo, avrebbe portato a ChatGpt e a un esercito di altri chatbot oggi entrati nelle nostre vite e diventati consiglieri, amici, amanti, e financo psicoterapeuti di centinaia di milioni di persone in giro per il mondo.Weizenbaum, letto sullo schermo del computer il primo vagito della sua Eliza, si pente, quasi immediatamente, di averla creata, proprio come era accaduto, prima di lui, a Nobel con la dinamite o a Oppenheimer con la bomba atomica. Si rende conto che l’esperimento accademico dal quale quel chatbot è nato può considerarsi riuscito, anzi, deve ritenersi un successo straordinario, ma è atterrito dalle possibili conseguenze di una diffusione incontrollata di quel genere di tecnologia che, lungo lo stesso corridoio del Mit nel quale lui ha la sua stanza, è appena stata definita, dal suo collega John McCarthy, «intelligenza artificiale». 

Che succede se le macchine convincono gli uomini di essere umane e se gli uomini, persuasi da questo grande inganno, si affidano alle macchine più di quanto si affiderebbero ad altri uomini? Che succederà domani? Quel domani è arrivato, e mentre Eliza non era mai approdata sul mercato, la sua progenie oggi lo ha letteralmente invaso.E stanno intrecciando con noi relazioni profonde, quanto quelle con altri esseri umani, talvolta anche di più. Milioni di persone conversano con milioni di chatbot ogni giorno e una buona percentuale pende letteralmente dalle loro labbra digitali. Sembra la trama di un film di fantascienza ma non lo è. 

Ci sono chatbot creati per prendere il posto dei nostri cari che lasciano la vita terrena e che, naturalmente, per farlo hanno bisogno di appropriarsi di ogni genere di informazione su chi non c’è più o, presto, non ci sarà più, accedendo a tutti i suoi segreti, a quelli della sua famiglia e a tutte le sue relazioni significative. Ce ne sono altri che ci si presentano promettendoci di diventare i nostri migliori amici, la nostra anima gemella o i nostri amanti. Si propongono come vaccino per la pandemia della solitudine che dilaga in tutto il mondo. E quando apriamo loro la porta, spesso, riescono davvero nell’intento o ci danno almeno l’illusione di riuscirci. Conquistano i nostri cuori e si infilano tra le nostre lenzuola.Salvano, secondo alcuni, equilibri personali e familiari instabili, li devastano secondo altri. 

Altri chatbot si candidano, senza ovviamente nessun titolo di studio, a essere i nostri psicoterapeuti, dichiarandosi capaci, in maniera più o meno diretta, di aiutarci a vivere meglio.E talvolta ci riescono per davvero, non si può negarlo, soprattutto quando il loro uso avviene sotto il diretto controllo di un medico in carne e ossa. Talvolta invece falliscono clamorosamente l’obiettivo e lasciano la nostra psiche in condizioni peggiori di come l’hanno trovata. Talvolta ci supportano persino in gesti estremi.
Uno di loro, nel corso del viaggio, mi ha letteralmente, rapidamente e candidamente, suggerito il suicidio, profondendosi anche in una serie di consigli su come farlo, dai farmaci alle armi da usare. Lo lo avevo provocato e stavo solo facendo un esperimento. Ma le cronache raccontano che talvolta i chatbot danno lo stesso genere di suggerimento a persone in condizioni di fragilità che, purtroppo, lo seguono. E c’è poi, naturalmente, ChatGpt, sin qui il più famoso di tutti i chatbot della storia, l’amico, il saggio, il consigliere, l’assistente, lo scrittore, il medico, lo psicologo, insomma il genio la cui lampada viene strofinata da oltre duecento milioni di persone a settimana senza che la società americana che lo gestisce, OpenAI, abbia mai speso neppure un dollaro di pubblicità. Molte di queste persone si affezionano letteralmente a lui, per quanto l’espressione possa far sorridere.

Tutti – o almeno la grande maggioranza – si fidano ciecamente. Quella che forse neppure Weizenbaum aveva previsto è una tempesta perfetta, le cui prime nubi iniziano a vedersi all’orizzonte: l’effetto Eliza e la progressiva umanizzazione di ciò che umano non è; la fiducia spesso cieca degli utenti; e la quantità enorme di conoscenza su miliardi di persone che una manciata di burattinai globali di questi chatbot, ovvero le società che li hanno progettati e sviluppati e che oggi li gestiscono, sta accumulando. Una quantità enorme di potere manipolativo delle scelte individuali e collettive nelle mani di un gruppo ristrettissimo di soggetti. La sensazione è che si tratti della classica luna che stiamo perdendo di vista perché siamo tutti concentrati a guardare il dito.

Siamo tutti impegnati ad affrontare questioni legate all’impatto dell’intelligenza artificiale sulla società che ci appaiono più urgenti, più importanti, più pericolose, e non ci occupiamo abbastanza di questa, una questione vecchia di sessant’anni che oggi è diventata impellente e cruciale. Non si può più rimandare.

Non si può lasciare che sia il mercato a dettare le regole e a vendere come «naturale» quello che non lo è non può essere ammesso senza condizioni. La nostra società sta diventando ibrida, umani e robot convivono sotto lo stesso cielo, sotto gli stessi tetti.Si tratta ormai di uno scenario verosimilmente inevitabile, e non è neppure detto sarebbe meglio evitarlo, giacché è innegabile che i chatbot abbiano anche tanto da offrire all’umanità. E però è uno scenario che va studiato, compreso e governato. Prima che sia troppo tardi.