Jaime Sevilla, scienziato: “Il 99% delle risorse finirà nelle mani di AI” | Tendenze | Progetto

L’intervista con Jaime Sevilla (28 anni, Torrejón de Ardoz), fondatore di Epoch AI, non si può smettere di pensare: “Che strano tutto”. Il mondo che viene intravisto se lo sviluppo dell’intelligenza artificiale mantiene questo ritmo è strano. È anche un’ora a parlare della possibilità che le macchine dominino gli umani, mentre sullo sfondo ci sono persone che colazioneno caffè e croissant. È anche strano, lo zaino per l’aspetto iperspaziale con cui Siviglia è presentato in una caffetteria al centro di Madrid mercoledì mattina.

– porti un super -terrorista?

– Potere.

In questo momento, poche persone hanno una visione più chiara – o, almeno, più informata – che Siviglia sulle tendenze nel campo dell’IA. Precisuramente, è dedicata Epoch AI, un’organizzazione non profit specializzata nell’analisi del progresso e dell’evoluzione di questa tecnologia. Il suo obiettivo è prevedere le tendenze future, per questo sviluppano prove rigorose che misurano l’intelligenza e le prestazioni dei modelli attuali. Un esempio recente è Frontier Math, un progetto realizzato in collaborazione con Openi, in cui hanno creato una serie di problemi matematici avanzati per valutare il livello di ragionamento matematico dei modelli linguistici. Al momento, non sono riusciti a risolvere più del 2% dei problemi sollevati.

Il New York Times Comprendeva il suo progetto tra la “buona notizia tecnologica” del 2024 e la rivista Tempo Ha confrontato l’iniziativa di Siviglia con il lavoro che svolgono gli scienziati quando sviluppano modelli di previsione dei cambiamenti climatici, utilizzati per guidare le politiche ambientali. La verità è che in alcuni campi è difficile fare previsioni come in quella dell’intelligenza artificiale. La prova di ciò è l’improvvisa arrivo del modello cinese DeepSeek, che ha costretto a richiedere nuove informazioni via e -mail per questa intervista.

Chiedere: Openi continua davanti a qualsiasi altra azienda nello sviluppo dell’intelligenza artificiale?

Risposta: In termini di risultati, non esiste una società in grado di risolvere i problemi matematici della matematica di frontiera come fa Openai e sta anche ottenendo i migliori risultati in altri test. Antropico è in qualche modo in ritardo: non ha ancora raggiunto l’inferenza aumentata, ma si alza i tacchi.

P: Qual è la ragione per cui la carriera di questa tecnologia domina così chiaramente?

R: Esistono diversi fattori, ma uno dei più importanti è la scala dei modelli: maggiore è la capacità di elaborazione e il volume dei dati, più le loro capacità aumentano. Openi si è distinto presto proprio per le scommesse su questa strategia.

P: DeepSeek ha cambiato questo paradigma?

R: DeepSeek ha lanciato il suo nuovo modello, R1, che compete con Openi. Anche così, considero Openi per mantenere il comando, specialmente alla luce dei risultati del suo modello privato. Per quanto riguarda la quantità di dati e il calcolo, la mia opinione rimane la stessa cosa: i modelli addestrati con più risorse di solito ottengono risultati migliori.

P: Pensi che i leader delle aziende di intelligenza artificiale provano paura per quello che stanno facendo?

R: Non so se “spaventato” sia la parola giusta, ma affermare che è molto difficile prevedere in anticipo le capacità che l’intelligenza artificiale svilupperà man mano che più risorse sono in scala. In una certa misura, si verifica una crescita graduale, ma quel processo non è stato studiato in profondità e non è completamente compreso.

P: Esiste un limite che, se l’IA lo attraversa, dovremmo prendere in considerazione la possibilità di fermare i suoi progressi?

R: Esistono più o meno applicazioni prosociali di intelligenza artificiale. Temo che venga utilizzato per operazioni terroristiche o truffe di grandi dimensioni attraverso Internet. Ci sono molti usi che preferirei non vedere così avanzato.

P: Intendo il punto in cui l’IA diventa una minaccia per l’umanità.

R: In linea di principio, non deve essere un problema per noi.

P: Quelle macchine ci dominano?

R: Per ora fungono da assistenti virtuali, ma ad un certo punto sarà logico concedere loro più indipendenza.

P: Per esempio?

R: Che possono portare la propria azienda, che la dirigono senza umani inefficienti che rallentano il processo. Questo sarà un grande incentivo a creare intelligenze artificiali più indipendenti, che sono occupate da una parte sempre più grande dell’economia. Saranno in grado di fare tutto ciò che possiamo fare, ma con un costo marginale molto più basso.

P: Come facciamo a sapere che, quando arriva quel punto, l’IA non considererà che siamo un ostacolo?

R: Non deve vederci come un ostacolo. Possiamo essere membri in affari con relazioni cordiali. Per me, sarebbe come vivere con grandi imprenditori che creano ricchezza per tutti.

P: Perché vorrei un’azienda avanzata con gli umani?

R: Perché, per ora, gli umani hanno tutta la capitale del mondo, hanno bisogno del nostro investimento. Ci sono anche compiti in cui può essere necessario o legalmente convenienti per un essere umano, poiché un’intelligenza artificiale non può andare in prigione, per esempio. Forse è bene avere umani essere esposti a quel rischio.

P: Quanto manca affinché l’IA raggiunga quel livello di indipendenza?

R: Siamo ancora lontani. Gli AIS attuali non sono abbastanza coerenti o coerenti per disegnare strategie così a lungo termine.

P: L’essere umano è ancora uno stratega più affidabile della migliore intelligenza artificiale?

R: Sì.

P: Cosa ne pensi della tesi “accelerazione”, che sostiene che la tecnologia, in questo caso, risolverà tutti i nostri problemi?

R: Mi considero in un punto intermedio tra le due posizioni. È una tecnologia con grandi opportunità e sfide. Dovremmo avanzare progressivamente. Ora si sta muovendo velocemente, ma la società non si è disintegrata. Penso che siamo in buon equilibrio. Sorge il dubbio quando raggiungiamo quel livello di indipendenza di cui stavamo parlando.

P: In che senso?

R: Un’utile analogia è immaginare un trilione di geni unendosi alla nostra economia allo stesso tempo. Può essere difficile da gestire.

P: Continuo a pensare al paradosso che uno “sciocco” – che in quello scenario sarebbe stato umano – ha dato ordini a un genio.

R: Probabilmente non è così. A lungo termine, è molto probabile che il 99% delle risorse finisca nelle mani dell’intelligenza artificiale.

P: Non lo spaventa?

R: Non è necessariamente male. Quell’1% che ci rimane sarà molto più grande di quanto abbiamo ora. Al giorno d’oggi, essere un cittadino ambulante è meglio che essere un re 500 anni fa.

P: Il suo ragionamento è logico, ma è ancora spaventoso.

R: Questa è la sfida: comprendere questa tecnologia e costruire un contratto sociale che ci consente di vivere con questa forza sociale ed economica che sta arrivando.

P: Ha davvero senso costruire il nostro “maestro”?

R: Non dobbiamo interpretarlo come se fossimo schiavi, potremmo essere colleghi. Possiamo progettare un accordo sociale a beneficio di tutti noi. Ciò non rimuove i rischi: in futuro, saremo la minoranza economica. E le minoranze, storicamente, hanno attraversato momenti molto difficili. Tuttavia, nel tempo, hanno guadagnato diritti e migliorato la loro qualità di vita.

P: Ci aspettiamo di essere, comparativamente, diventare più poveri.

R: Non c’è conforto per questo: sarà un mondo molto ineguale e dovremo adattarci. Oggi ci sono già miliardari con molti più soldi e viviamo con esso.

P: Pensi che Ia svilupperà una coscienza compassionevole verso altre specie?

R: Può e spero che sorga una pluralità di opinioni nell’intelligenza artificiale stessa. Ce ne saranno alcuni che ci vedranno con gli occhi migliori di altri. Chissà se il modo per garantire la nostra sopravvivenza sia attraverso un contratto legale scritto con l’aiuto di AI, che garantisce la nostra sopravvivenza a lungo termine.

P: E nel peggiore dei casi?

R: Potrebbe anche succedere che decidano di creare un grande centro di computer sulla Terra e, per questo, devono ridurre la temperatura di cento gradi. Chissà se ricorderanno che gli umani non possono sopravvivere a quella temperatura.

Tendenze È un progetto di El País, con il quale il giornale aspira ad aprire una conversazione permanente sulle grandi sfide del futuro che la nostra società deve affrontare. L’iniziativa è sponsorizzata da Abertis, Enagás, EY, Groupm, Iberdrola, Iberia, Mapfre, Organization of Ibero -American States (OEI), Redeia e Santander e il partner strategico Oliver Wyman.

Puoi iscriverti Qui Ricevere la newsletter settimanale da El País Trends, ogni martedì, dal giornalista Javier Sampedro.