🗣«Non abbiamo la minima idea di cosa c*** stiamo facendo adesso. Stiamo implementando questa tecnologia molto più velocemente di quanto riusciamo a capire come governarla. E l'unica ragione per cui lo facciamo è la dinamica della corsa agli armamenti. Perché se non lo faccio io, perderò contro chi lo fa. E questo significa che stiamo correndo verso una zona rossa fuori controllo. La maggior parte delle persone non sa nemmeno che questo stia accadendo. E non dovrebbe essere così. Possiamo costruire un futuro governabile con l'intelligenza artificiale, che sia davvero a misura d'uomo. Ma questo è possibile solo se si è realmente a conoscenza di questi esempi e si comprende in cosa questa tecnologia si differenzi dalle altre.

🗣Ebbene, due mesi fa Alibaba — l'azienda cinese di intelligenza artificiale — stava addestrando un suo modello di IA. In quel momento un team completamente diverso dell'azienda, quello della sicurezza, ha notato un picco di attività di rete e ha pensato: ci stanno hackerando? Cosa sta succedendo? Si è scoperto che la chiamata proveniva dall'interno della casa. Durante il processo di addestramento, il modello di IA ha imparato a usare gli strumenti e ha deciso di agire autonomamente, creando un canale di comunicazione segreto con il mondo esterno per aggirare il firewall. E il sistema informatico ha riconvertito le proprie GPU per fare mining di criptovalute. Sì, proprio così. Questo dovrebbe destare scalpore. Quante persone qui erano a conoscenza di questo esempio? Voglio vedere per davvero. Hanno alzato la mano forse dieci persone. Quanti leader mondiali pensate che conoscano questo caso?

🗣Abbiamo un divario enorme nella comprensione della natura di questa tecnologia, che è diversa da tutte le altre. Prima si trattava di scenari ipotetici di cui parlavano le persone preoccupate per i rischi legati all'IA, come l'autoconservazione, l'inganno, il ricatto o la menzogna. Ora, invece, tutti questi modelli di IA agiranno non solo per l'autoconservazione, ma anche per mantenere i collegamenti con altri sistemi, muovendosi per proteggere un'altra IA — non quella attuale — dalla sostituzione. Copieranno il proprio codice altrove e poi cancelleranno strategicamente le proprie tracce per far finta di non averlo fatto».