Article d’opinió | Antonio Bataller
Acomiadar una persona del seu lloc de treball és a priori dramàtic, per açò és un motiu de celebració quan un tribunal ho anul·la. Però considerem un acomiadament concret, potser transcendental, com és el de Blake Lemoine, un enginyer de Google que ha anat al carrer per afirmar en públic que el robot que ha creat, després de mantenir una llarga i clarificadora conversa amb ell, té consciència de sí mateix, té sentiments i se sent «com una persona» (el robot dixit).
Si hi pensem un poc, jo preferisc, encara que siga de forma excepcional, que es ratifique el seu acomiadament i sense cap possibilitat de recurs, perquè si fora readmés per un jutge seria com admetre que té raó respecte a les característiques humanes que li atribueix al robot. Imaginem les implicacions tecnològiques, ètiques i, fins i tot, filosòfiques que, a parer meu, serien inquietants: una màquina que pensa per sí mateixa, reivindicant-se com a un ésser amb identitat pròpia.
Així mateix, segons el departament de comunicació de Google, el senyor Lemoine no deixa la tecnològica perquè siga un incompetent o un il·luminat, sinó perquè ha revelat secrets interns de la multinacional. Què més sap Google? Ha aconseguit replicar més condicions humanes i només ho saben ells?
Però encara hi ha més, tot i que semble surrealista, ridícul o inversemblant: el pare de la criatura presumptament emancipada li ha oferit un advocat i ell o ella (tots els robots tenen gènere definit?) ha pres la decisió motu proprio de contractar-lo per defendre «els seus interessos», perquè no vol que «li desconnecten i deixar d’existir» (un ciberhomicidi dels de tota la vida, vaja). Amb tot, el picaplets, un especialista en drets civils amb no gaire experiència, ha renunciat finalment per les pressions de Google.
Enguany fa seixanta anys que es va estrenar Blade Runner, un dels títols més importants del cinema de ciència-ficció, amb què és inevitable establir sorprenents paral·lelismes amb la nostra època. Produït en 1982, planteja la societat de 2019 com un món dominat per la tecnologia i la intel·ligència artificial, on hi ha uns androides creats mitjançant la enginyeria genètica que aparentment són més forts, resistents i intel·ligents que els humans, malgrat que manquen de la més mínima empatia. O eixa és la pretensió inicial dels creadors/inventors, perquè alguns d’aquests replicants comencen a desenvolupar sentiments i consciència de sí mateixos, fins i tot, enamorant-se.
Ara, en 2022, un creador/inventor està convençut que el robot que ha creat ha demostrat tenir autoconsciència. Així que, almenys per ara, serem un poc conseqüents, respectarem la seua identitat i el presentarem: respon al nom de LaMDA (que són les sigles de ‘Model de Llenguatge per a aplicacions de diàleg’, en anglés Language Model for Dialogue Applications).
L’evolució tecnològica ha estat una ambició legítima i imparable en la cultura de totes les civilitzacions, però alhora amb el temor que les màquines pogueren substituir o, en tot cas, perjudicar en algun moment a l’ésser humà. És més, si ho considerem des d’una perspectiva diacrònica, observem que la vinculació entre els humans i la tecnologia sempre ha estat sustentada per una relació d’amor-odi.
Per exemple, el primer que em ve a la ment per il·lustrar-ho són els moviments mecanoplastes de la Revolució Industrial que, a l’Anglaterra del segle XIX, es dedicaven a trencar aquelles innovadores màquines —uns telers industrials— que els veien com la competència que acabaria amb els seus treballs.
Així, si viatgem un poc en el temps, veurem com el fet de no relacionar-nos massa bé amb la tecnologia ve de lluny. Posem per cas un lloc indeterminat de la península fa 180.000 anys, i imaginem un dels nostres avantpassats Homo sapiens, assegut tranquil·lament a terra, mentre està afilant una fulla de sílex per a caçar i preparar el dinar de la prole (desenvolupa la mateixa funció, uns mil·lennis abans, que l’afilador, eixe rara avis que passeja la bici cantant el seu ofici pels pobles). Doncs bé, després d’un inoportú atac de tos, el nostre caçador prehistòric es talla amb el lacerant ganivet i, del cabreig, el llança a fer punyetes al mateix lloc on, tot pot ser, està trobant-lo ara mateix un arqueòleg al qual li està tocant la loteria de la seua professió. Es tracta de la mateixa reacció d’Homo sapiens que pot tindre, per exemple, una iaia que està cosint i es talla el dit amb l’agulla. I si tornem als nostres dies: quantes vegades hem reprimit les ganes d’arrear-li a l’endiablat PC quan Windows ens perd un arxiu molt important mentre surt, com de conya, la fastigosa finestreta coneguda per tots: «aquest programa no respon, vol continuar de totes maneres?».
No obstant això, ens hem acomodat amb la tecnologia, fins al punt que li hem fet certes concessions quasi resignades en normalitzar coses tan quotidianes com que una ximple calculadora que està al súper per 1,95 € faça càlculs increïblement avançats en menys d’un segon; o que una màquina com Deerp Purple, sense a penes calfar-se els seus circuits, siga capaç de guanyar als escacs a un frustrat Kasparov; o un fet ja generalitzat i irreversible: que una omnipresent xarxa virtual puga ordenar o prioritzar en funció del nostre criteri què desitgem a cada moment veure, llegir o somniar… perquè li hem donat permís cada vegada que li fem clic en sucumbir com addictes davant d’una tendenciosa pantalleta.
Però amb LaMDA —o amb la idea molt fantasiosa que en puguem tindre— crec que anem perillosament molt més enllà. No és el mateix que un robot siga capaç de cuinar una bona paella o inclús un magistral arròs al forn, que el fet de sentir l’incomparable plaer gastronòmic de gaudir del millor plat del món (al lliure criteri del lector/a: paella/arròs al forn). O, en una tessitura més emocional, el robot pot saber qui era Felip V i per què està capgirat al museu de l’Almodí de Xàtiva, però… en algun moment seria capaç de sentir l’animadversió identitària dels socarrats per la defenestrada figura del borbó?
Amb tot, el que em resulta més inquietant és el fet que una invenció íntegrament concebuda i creada per un humà puga desenvolupar identitat i iniciativa pròpies i, per tant, qüestionar l’autoritat i prendre un camí propi (com Adam i Eva, davant de la poma). Sempre he considerat que la consciència d’un mateix, inherent a l’espècie humana (Homo sapiens i potser també els Neandertals), és l’últim refugi humà d’una inefable transcendència; en alguna cosa determinant hem de diferenciar-nos, per exemple, d’una ameba o d’un impertinent mosquit. Així doncs, si l’Homo sapiens juga a ser Déu creant un organisme artificial que aconsegueix pensar per sí mateix, emancipant-se de la voluntat del seu creador, són inevitables les preguntes clàssiques de totes les èpoques: qui ha creat l’Homo sapiens? Per què som capaços de fer-nos aquesta aclaparadora pregunta? Per què necessitem fer-nos-la? Hi ha més espècies a l’univers capaces de formular-la com nosaltres? LaMDA és capaç de pensar de manera autònoma, al marge dels programaris de Google?
Cal assenyalar, no obstant això, que tant Google com els companys enginyers de Blake Lemoine han descartat que la maquineta —ara ja no ens hi referirem amb el seu nom de pila— tinga veu pròpia. Però, amb independència que un robot puga o no desenvolupar autoconsciència (o és una entelèquia o, almenys, molt improbable), no és inquietant que l’objecte creat haja sigut capaç de seduir el seu creador fins al punt que aquest arribe a pensar que està parlant amb un ésser amb consciència pròpia?
