AI e rischi per l'umanità. Il parere di Geoffrey Hinton
© DepositphotosGeoffrey Hinton, vincitore del Premio Turing nel 2018 nonché ex dipendente di Google licenziatosi per poter esprimere con maggiore libertà le sue posizioni sullo sviluppo delle Intelligenze Artificiali, ha recentemente espresso alcune preoccupazioni riguardo all'evoluzione dei modelli generativi. Come per esempio quello alla base del chatbot ChatGPT.
Considerato uno dei maggiori esperti mondiali in tema di Deep Learning, Hinton ha lavorato per Mountain View a partire dal 2013 per poi lasciare la compagnia lo scorso aprile. La DNNresearch, azienda di cui fu cofondatore, venne acquisita da Big G nel 2012 e annovarava tra i suoi creatori anche Ilya Sutskever, uno dei padri del progetto OpenAI.
Noto in particolare per gli studi sulla retropropagazione (backpropagation) nell'addestramento delle AI, lo scienziato britannico concentra oggi la sua analisi sui rischi di una sostituzione degli esseri umani in vari compiti. A suo parere infatti, per quanto le aziende possano agire in modo responsabile, la perdita di milioni di posti di lavoro è alquanto probabile.
Per Hinton i maggiori pericoli deriverebbero soprattutto da una mancata collaborazione tra gli scienziati. Negli ultimi 5 anni si sarebbe fatto molto per accelerare la crescita dei modelli generativi e pochissimo per contrastare alcuni utilizzi impropri di questi ultimi, come per esempio la possibilità di impegarli nelle campagne di disinformazione e fake news.
Da notare che nonostante le sue convinzioni Hinton non è uno dei firmatari della lettera con cui a marzo 2023 Elon Musk, Steve Wozniak e diversi scienziati avevano richiesto lo stop temporaneo (per almeno 6 mesi) dello sviluppo di modelli generativi dalle capacità superiori a quelle di GPT (Generative Pre-trained Transformer) proprio per questioni di sicurezza.
