DESCORRIENDO EL TELÓN DE SILICIO

A NEXUS, Yuval Noah Harari fa un crit d'alarma sobre el nostre futur amb la intel·ligència artificial. "Quan els gegants tecnològics es proposen dissenyar millors algoritmes, solen aconseguir-ho", escriu. Però, ho faran? Philip Cheung per a The New York Times.

"L'estiu del 2022, un enginyer de programari anomenat Blake Lemoine va ser acomiadat per Google després d'una entrevista a The Washington Post, en què afirmava que LaMDA, el chatbot en què havia estat treballant, havia assolit la sintiència. Uns mesos més tard, el març del 2023, una carta oberta del Future of Life Institute, signada per centenars de líders tecnològics, entre ells Steve Wozniak i Elon Musk, demanava als laboratoris d'intel·ligència artificial que aturessin les seves investigacions. La intel·ligència artificial, assenyalava, plantejava “profunds riscos per a la societat i la humanitat”. Al mes següent, Geoffrey Hinton, el “padrí de la intel·ligència artificial”, va renunciar al seu lloc a Google, declarant a aquest diari que lamentava el treball de la seva vida. “És difícil evitar que els dolents la facin servir per a coses dolentes”, va advertir. En els darrers anys, ens hem acostumat a missatgers que tornen espantats de les fronteres de la intel·ligència artificial amb advertiments apocalíptics. I, tot i això, accions reals en la forma d'una regulació severa han estat escasses. L'ordre executiva de l'any passat sobre intel·ligència artificial va ser, com va dir un comentarista, “direccional i aspiracional”, un elogi astutament condemnatori".

Mentrestant, els preus de les accions del sector tecnològic continuen pujant mentre la indústria murmura tòpics familiars: els beneficis superen els riscos; el geni ja ha sortit de l'ampolla; si no ho fem nosaltres, ho faran els nostres enemics.

Yuval Noah Harari no té temps per a aquestes excuses. El 2011 va publicar Sapiens, una elegant i de vegades profunda història de la nostra espècie. Va ser un fenomen, venent més de 25 milions d'exemplars a tot el món. Harari el va fer seguiment llançant la mirada cap endavant amb Homo Deus, en què considerava el nostre futur. Arribats a aquest punt, Harari, historiador acadèmic, va passar a tenir una nova identitat professional i un nou cercle d'influència: expert en intel·ligència artificial, convidat als enrarits escalafons de “científics, empresaris i líders mundials”. Nexus, en essència, és el report d'Harari des d'aquell món. En primer lloc, cal dir que el subtítol -Una breu història de les xarxes d'informació des de l'Edat de Pedra a l'IA- és enganyós. En realitat, el que tenim són dos llibres separats, cap dels dos no és breu. Les primeres 200 pàgines són, n'efecte, històriques a la seva manera. Malauradament, es tracta d'una versió vertiginosa de la història que va de les tauletes d'argila assíries a un brot de còlera al segle XIX, passant per una adaptació del Ramayana a la televisió índia, la revolta dels camperols a l'Anglaterra medieval, l'Holocaust a Romania, etcètera. No sembla controlat, ni tan sols particularment expert, i l'efecte és una mica el d'un vol on la persona que s'asseu al teu costat és molt culta, ha pres massa cafè i està decidida a explicar-te la seva teoria del tot. La tesi de Harari, en poques paraules, és que la diferència entre democràcies i dictadures rau en com gestionen la informació. Les dictadures es preocupen més per controlar les dades que per comprovar-ne el veritable valor; les democràcies, en canvi, són xarxes d'informació transparents en què els ciutadans poden avaluar i, si cal, corregir les dades errònies.

Tot això és en certa manera interessant per obvi, alhora que massa gandul —massa obert per a objeccions i contraexemples— per constituir una teoria útil de la informació. Després de molt de temps, hem arribat a una prova solta del que esperàvem haver intuït ja: els sistemes que s'autocorregeixen —perquè promouen la conversa i la mutualitat— són preferibles als que només ofereixen un servilisme cec i sense drets.

Al final, però, això no importa realment, perquè la segona meitat del llibre és on hi ha l'acció. El moll de Nexus és essencialment un extens informe polític sobre la intel·ligència artificial: quins són els seus riscos i què es pot fer? (No sentim parlar gaire dels beneficis potencials perquè, com assenyala Harari, “els empresaris que lideren la revolució de la intel·ligència artificial ja bombardegen el públic amb suficients prediccions falagueres sobre ells”). Hem trigat massa a arribar fins aquí, però un cop arribem Harari ens ofereix un manual útil i ben informat. Les amenaces que planteja la intel·ligència artificial no són les que visualitzen els cineastes: l'HAL de Kubrick atrapant-nos a la resclosa o un RoboCop feixista marxant per la vorera. Són més insidioses, més difícils de veure venir, però potencialment existencials. Inclouen la polarització catastròfica del discurs quan els algorismes de les xarxes socials dissenyats per monopolitzar la nostra atenció ens alimenten amb material extrem i odiós. O l'externalització del judici humà —la presa de decisions legals, financeres o militars— a una intel·ligència artificial la complexitat de la qual esdevé impenetrable per a la nostra pròpia comprensió.

                                                              Oblea de silici òptic 

Fent ressò de Churchill, Harari adverteix d'un “teló de silici” que baixa entre nosaltres i els algorismes que hem creat, deixant-nos fora de les nostres converses: com volem actuar, interactuar o governar-nos.  

Tot i això, cap d'aquests escenaris és un fet. Harari assenyala el problema del correu no desitjat, que solia embussar les nostres safates d'entrada i desaprofitar milions d'hores de productivitat cada dia. I de sobte, va deixar de fer-ho. El 2015, Google va poder afirmar que el seu algorisme de Gmail tenia una taxa d'èxit del 99,9 per cent en el bloqueig del correu no desitjat autèntic. “Quan els gegants tecnològics es proposen dissenyar millors algorismes”, escriu Harari, “normalment ho poden fer”. Fins i tot a la seva segona meitat, no tot Nexus sembla original. Si pares atenció a les notícies, reconeixeràs algunes de les històries que explica Harari. Però, en els millors moments, el llibre resumeix l'estat actual de les coses amb una claredat memorable. Algunes parts de Nexus són sàvies i audaços. Ens recorden que les societats democràtiques encara tenen mitjans per evitar els excessos més perillosos de la intel·ligència artificial, i que no hem de deixar que les empreses tecnològiques i els seus multimilionaris propietaris s'autoregulin.  Això pot semblar de sentit comú, però és valuós quan ho diu un intel·lectual global amb l'abast d'Harari. Només és frustrant que no ho hagi pogut fer de manera més concisa. 

Descorrent el teló de silici: ressenya de 'Nexus' de Yuval Noah Harari al digital The New York Times, que conclou i recomana: L'estudi de Harari sobre la comunicació humana podrà ser tot menys breu, però si aconsegueixes arribar a la segona meitat, t'entretindrà i espantarà alhora...

Nexus. Una història 'presumpament' breu de les xarxes d'informació des de l'Edat de Pedra fins a la IA.