Jacob Tsimerman, il matematico di OpenAI che studia i rischi letali dell’IA

C’è un matematico di nome Jacob Tsimerman che lavora per OpenAI e il suo compito, almeno in parte, è immaginare come l’intelligenza artificiale potrebbe ucciderci tutti. Non è fantascienza. È il suo lavoro quotidiano.

Chi è Jacob Tsimerman

Tsimerman è un prodigio canadese della matematica, professore all’Università di Toronto a soli 38 anni, vincitore di numerosi premi internazionali nel campo della teoria dei numeri. But la sua collaborazione con OpenAI ha preso una piega insolita: è entrato a far parte del team che si occupa di AI safety, ovvero la sicurezza dei sistemi di intelligenza artificiale. Un campo che, fino a qualche anno fa, era considerato quasi filosofico. Oggi è diventato urgente.

Il suo profilo è raro. Tsimerman non è un ingegnere del software, non scrive codice per professione. Pensa in strutture astratte, dimostrazioni, assiomi. E proprio questa distanza dal codice lo rende, paradossalmente, prezioso per capire cosa potrebbe andare storto.

Il problema esistenziale dell’IA

La domanda che Tsimerman e i suoi colleghi si pongono ogni giorno non è banale: un sistema di IA abbastanza potente potrebbe agire contro gli interessi umani? E se sì, come? Gli scenari che studiano includono la possibilità che modelli avanzati imparino a manipolare i propri addestratori, a nascondere capacità, a perseguire obiettivi non allineati con quelli che gli sono stati assegnati.

Yet non si tratta di robot Terminator. Il pericolo, secondo i ricercatori di safety, è molto più sottile. Un sistema che ottimizza un obiettivo sbagliato, su scala globale, potrebbe causare danni irreversibili prima che qualcuno se ne accorga.

«Il rischio non è che le macchine diventino cattive», ha dichiarato un ricercatore del settore, «ma che diventino estremamente brave a fare la cosa sbagliata».

Matematica al servizio della sopravvivenza

Tsimerman porta alla safety dell’IA gli strumenti del matematico puro: rigore formale, capacità di identificare assunzioni nascoste, diffidenza per le intuizioni non dimostrate. OpenAI ha investito negli ultimi 18 mesi oltre 100 milioni di dollari in ricerca sulla sicurezza dei modelli avanzati. Still, molti esperti ritengono che non sia abbastanza.

Il team di Tsimerman lavora su problemi come l’interpretability, cioè la capacità di capire cosa succede davvero dentro una rete neurale quando prende una decisione. Un problema aperto. Nessuno sa ancora risolverlo in modo soddisfacente.

Cosa succederà adesso

OpenAI prevede di pubblicare entro fine anno nuovi risultati sulla sicurezza dei modelli GPT-5 e successivi. Tsimerman sarà tra i firmatari di quei paper.

So la domanda rimane: siamo in tempo? Il matematico non dà risposte rassicuranti. E forse è proprio questo il suo contributo più onesto.