GOOD MORNING PRIVACY! | La tentazione dell’AI non risparmia nessuno

La notizia sta facendo il giro del mondo: Deloitte restituirà al Governo australiano una parte del compenso da quest’ultimo ricevuto per l’elaborazione di uno studio.
Il motivo?
Il rapporto sembra pieno di errori commessi dall’intelligenza artificiale generativa usata dalla società di consulenza per elaborarlo.
Meglio mandare la sigla e parlarne tra poco per decidere se ridere o piangere.

La storia è tragicomica.
Il Governo australiano chiede alla Deloitte, una delle società di consulenza più autorevole e famosa del mondo di elaborare un rapporto e lo fa, evidentemente, scommettendo sulle competenze e esperienze dei professionisti che ci lavorano.
Deloitte accetta l’incarico, si mette al lavoro, consegna il rapporto e stacca la sua fattura.
Giusto il tempo che il rapporto venga pubblicato e il Governo di Sidney inizia a ricevere una serie di commenti e osservazioni precisi e concordanti: il rapporto è pieno di inesattezze, sembrano allucinazioni figlie dell’intelligenza artificiale.
Il Governo chiede conto alla Deloitte che capitola anche se minimizza: abbiamo usato l’intelligenza artificiale generativa per redigerlo e, evidentemente, non abbiamo verificato come sarebbe stato necessario il risultato.
Restituiremo quattrocentoquarantamila dollari dice Deloitte, una parte, non è dato sapere quanto rilevante, del compenso ricevuto per il lavoro svolto.
Ma il punto non è questo.
Il punto è che persino un gigante del calibro di Deloitte, persino in una consulenza commissionata addirittura da un Governo, evidentemente, non è più in grado di resistere alla tentazione di chiedere un aiutino agli algoritmi.
E, forse, anzi, il punto non è neppure questo.
Il punto è che dopo aver deciso di chiedere l’aiutino in questione, evidentemente, i professionisti della società di consulenza non hanno, avvertito l’esigenza di verificare il risultato e di informare il loro cliente della circostanza che erano ricorsi a un aiutino artificiale.
Se accade a quel livello, in una consulenza commissionata da un Governo a un gigante come Deloitte, cosa sta accadendo qualche gradino più in basso?
Quanti sono i professionisti in giro per il mondo che hanno già ceduto alla stessa tentazione?
E quanti sono gli errori commessi dall’intelligenza artificiale che hanno già influito sulla vita delle persone, delle aziende e delle pubbliche amministrazioni?
Impossibile a dirsi ma certamente non sono pochi.
E quanto ci metteranno i clienti dei professionisti delle discipline più diverse a mangiare la foglia e a convincersi che se è così che vanno le cose, allora tanto vale far da soli e chiedere direttamente all’intelligenza artificiale generativa?
E, a quel punto, che succederà?
Ma ancora prima di allora: quante sono le informazioni, dati personali, segreti industriali, bancari, professionali e, magari, anche di Stato già finiti sui server delle società che forniscono servizi di intelligenza artificiale per consentire a questi servizi di dare gli aiutini richiesti?
Non si può andare avanti così.
Il rischio di farsi male, tutti, nessuno escluso, è troppo alto.
Ma questo è il momento nel quale il caffè del mattino diventa stretto e bisogna fermarsi.
Buona giornata, continuiamo a rifletterci e, naturalmente, good morning privacy.