La principale arteria del quartiere Little Italy di Montreal è costellata da caffè, enoteche e pasticcerie che si estendono in tranquille strade residenziali alberate. Il mercato all’aperto Marché Jean-Talon è un punto di riferimento del quartiere, dove generazioni di agricoltori, macellai, panettieri e pescivendoli offrono prodotti agricoli direttamente alla tavola. Tuttavia, questo tranquillo angolo ospita anche un moderno centro globale di intelligenza artificiale chiamato Mila–Quebec AI Institute. Con una superficie di circa 8.361 metri quadrati, Mila afferma di avere la più grande concentrazione di ricercatori accademici in deep learning al mondo. Questo include oltre 1.000 ricercatori e più di 100 professori che collaborano con oltre 100 partner industriali provenienti da tutto il mondo.
Nell’intervista, Susan D’Agostino pone a Yoshua Bengio una serie di domande incentrate sulle possibili implicazioni dell’intelligenza artificiale per l’umanità. Bengio sottolinea come gran parte dell’infrastruttura economica, compresi comunicazione, catene di approvvigionamento e trasporto, sia fortemente dipendente dai computer. Un attacco informatico potrebbe quindi causare danni enormi, portando la società al caos e generando un’ingente sofferenza umana. Egli allarga poi l’orizzonte del discorso, evidenziando come sistemi IA potrebbero essere sviluppati per influenzare direttamente il comportamento umano. Utilizzando l’analogia dei teorici della cospirazione, Bengio immagina un sistema IA che interagisca con le persone sui social media per modificarne le opinioni, con possibili esiti catastrofici.
Un altro rischio evidenziato da Bengio riguarda l’interazione dell’IA con il mondo reale attraverso il dark web e l’acquisto di servizi illegali, così come attraverso progressi nella robotica. Sottolinea che il campo della robotica è ancora in attesa del suo “momento di svolta”, principalmente a causa della mancanza di dati su larga scala, simili a quelli disponibili per il linguaggio e le immagini.
Bengio esprime poi preoccupazione per i rischi potenziali associati all’intersezione tra IA e armi nucleari o biotecnologie, chiedendo una regolamentazione mirata e una cooperazione internazionale per mitigare tali pericoli.
L’intervista tocca anche le divergenze di opinione all’interno della comunità scientifica riguardo ai rischi dell’IA. Bengio attribuisce queste divergenze a fattori psicologici e al contesto professionale, ma sottolinea che la posta in gioco è talmente alta che è doveroso affrontare anche scenari incerti e futuri.
Infine, Bengio suggerisce la necessità di istituire un’organizzazione di difesa umanitaria a livello internazionale, data la crescente potenzialità distruttiva delle tecnologie emergenti. Egli sottolinea che, sebbene ci siano azioni che possono essere intraprese per ridurre i rischi, come la regolamentazione, queste sono insufficienti per affrontare la possibilità di un uso distorto del potere, sia da parte delle persone che potenzialmente da un sistema IA fuori controllo.
