Superintel·ligència artificial (1)

L'altra dia, mentre dinava al restaurant tot fullejant el suplement Magazine del diumenge 15 d'abril, em va cridar l'atenció l'entrevista a Nick Bostrom, professor de la Universitat d'Oxford i director de l'Institut per al Futur de la Humanitat. Després de llegir-la vaig estar temptat d'endur-me'l a casa, però em sabia greu fer una cosa així i em vaig limitar a copiar l'entrada de l'entrevistador Fèlix Badia i la frase de l'entrevistat que encapçalava l'article:
"El dia en què la intel·ligència artificial superi a la humana pot ser que encara estigui lluny, però ja hi ha qui pensa com ens hi hem de preparar. El filòsof suec Nick Bostrom és un dels pensadors més reputats en la matèria. ¿Les màquines ens duran un futur brillant o la distopia definitiva per a l'espècie?
'És molt important que dirigim la intel·igència artificial cap a un bon fi, però podem fracassar en l'intent.'"

En síntesi, venia a dir que, havent donat els primers pasos cap a una intel·ligència artificial (IA) que aprengués de les pròpies experiències i prengués decisions en conseqüència, incloent-hi l'adopció de canvis en la seva arquitectura per interactuar millor amb cada nou descobriment, només era qüestió de temps desenvolupar ginys que igualessin les capacitats humanes i, en una segona etapa, les superessin. I és aquí on no cal tenir una imaginació enfebrada per intuir que una tal superintel·ligència podria actuar al marge de les previsions dels seus creadors, i eventualment en contra. Només heu de recordar la reacció de l'ordinador HAL 9000 (impagable la veu de l'actor Felip Peña, en la versió doblada a l'espanyol) quan descobreix que els tripulants de la nau espacial volen desconnectar-lo, en el film "2001: una odissea de l'espai", estrenada fa cinquanta anys!

L'ultim llibre d'aquest filòsof, "Superinteligencia: caminos, peligros y estrategias", de 2014, va ser traduït a l'espanyol i publicat en 2016 per TEEL Editorial, S.L. No l'he llegit, però crec que aquest paràgraf de la presentació és prou significatiu:
"Si els cervells artificials arribessin algun dia a superar els cervells humans en intel·ligència general, llavors aquesta nova intel·ligència podria ser molt poderosa. Igual que a hores d'ara el destí dels goril·les depèn més dels humans que d'ells mateixos, també el destí de la nostra espècie passaria a dependre de les accions de la superintel·ligència artificial. Però nosaltres tenim un avantatge: podem fer el primer moviment. ¿Serà possible construir una IA seminal o preparar les condicions inicials perquè poguem sobreviure a l'explosió d'intel·ligència? ¿Com podríem assolir una detonació controlada?"

Fins aquí el context. D'ara endavant, el relat de Ciència-Ficció, que numeraré amb 1 per si de cas en seguissin d'altres.

Aquest primer relat gairebé no es mourà del terreny especulatiu.

Si abans rememorava l'estrena de la pel·licula més ambiciosa de Kubrick (no dic "la millor" perquè no vull entrar en polèmiques) era perquè recordava una xerrada informal amb Joan Margarit (de segur que els relataires el coneixeran com a poeta, però ara parlo del jove catedràtic d'Estructures i director del Centre de Càlcul de l'ETS d'Arquitectura de Barcelona) a propòsit de l'ordinador HAL 9000. Deia que probablement aquesta ficció algun dia esdevindria realitat, però que haurien de passar molts anys perquè les màquines imitessin acceptablement el comportament dels humans; més anys que els 33 que llavors faltaven per al 2001.

I, com que a hores d'ara sembla que això dels vehicles autònoms (sense conductor) és el súmmum, si deixem de banda aquests simpàtics robotets domèstics que progressivament van ocupant les llars japoneses, ¿es pot afirmar, per exemple, que són més que sistemes experts, perquè incorporen algorismes d'aprenentatge automàtic? Si hem de fer cas a l'article Vehicle autònom de la Viquipèdia, resulta que sí. Però llavors em pregunto: quan el passat 19 de març es va produir a Tempe (Arizona, EUA) el primer atropellament mortal per part d'un vehicle autònom Volvo XC90, ¿si no l'haguessin retirat de circulació, l'automòbil hauria estat capaç, per ell mateix (sense intervenció humana sobre el software), de processar aquest esdeveniment i evitar l'accident en un cas idèntic de comportament imprudent d'una vianant?