Creativitat

Sobre l’impacte de la IA

Vivim en temps d’immediatesa. Un clic, i pam! El món s’obre davant nostre, obedient, veloç… gairebé submís. 

La Intel·ligència Artificial, aquesta nova companya de viatge, ens promet agilitat, adaptabilitat, estalvi de temps i recursos. Ens sedueix amb la seva capacitat d’aprendre, de predir, de facilitar-nos la vida.. Però… quin preu paguem per tanta eficàcia? 

Potser, sense ni adonar-nos-en, estem delegant a les màquines no només les tasques repetitives… sinó també la paciència, la tolerància a la frustració… i aquella bellesa d’un pensament lent i pausat… el que ens permet gaudir i aprendre del procés. 

Ens acomodem en la comoditat, en el multitasking dispers… I cedim trossets de la nostra atenció —el bé més preuat que tenim— a un algoritme que decideix què veurem, què pensarem… i fins i tot… què desitjarem. 

Aquesta fascinació per controlar-ho tot… no és nova. Beu d’un llegat antic: el de la Il·lustració i la seva famosa Raó instrumental. Aquella idea que l’ésser humà, amb coneixement i raó, podia dominar i controlar la natura. Una visió clarament antropocèntrica on l’humà és el centre i mesura de totes les coses. 

Però… i si el preu d’aquest domini és la desconnexió amb el món viu que ens envolta? L’ecocentrisme ens recorda que som part d’un tot interconnectat… i que qualsevol pas que fem —també en el camp tecnològic— té conseqüències en aquest teixit comú. 

I atenció, que quan avui parlem d’Intel·ligència Artificial, parlem sobretot de IA generativa. És a dir,  aquesta capacitat d’algoritmes per crear textos, imatges, veus… fins i tot decisions que s’assemblen cada cop més a les nostres. No confonguem: no parlem d’un GPS que ens diu per on anar, ni d’un programa que calcula probabilitats. Parlem d’una tecnologia capaç d’imitar-nos… de generar continguts nous i, potser, de condicionar-nos subtilment. 

El filòsof Jordi Pigem ens alerta: “La tecnologització del món està portant a una atròfia de la millor part de la ment humana”. 

La ment holística —la de la sensibilitat, l’empatia, la intuïció, la compassió— s’empetiteix… mentre la ment algorítmica, la del càlcul i la classificació, ho envaeix tot. Correm el risc de creure que per a qualsevol problema hi ha… inevitablement… una solució tecnològica. Però, és així? 

No serà que hi ha qüestions humanes… que només poden resoldre’s amb respostes humanes? 

D’Aristòtil a ChatGPT. Biografia de la IA

Perquè la raó... no és més que calcular, és a dir, sumar i restar.

Segons la Viquipèdia, la intel·ligència artificial és una part de la informàtica dedicada al desenvolupament d’algoritmes que permeten a les màquines percebre el seu entorn i utilitzar l’aprenentatge per a decisions intel·ligents o, si més no, comportar-se com si tinguessin una intel·ligència semblant a la humana.[ 

Tot i que l’associem a l’era moderna, l’interès de les persones per mecanitzar el raonament humà es remunta a temps molt llunyans. La sospita que pensar equival a aplicar regles ja la trobem, com a mínim, a la Grècia Antiga. Si hi ha lògica, hi pot haver màquina.  

I així és com la filosofia va començar a imaginar circuits abans que existissin els cables. 

Aristòtil va ser el primer a desgranar de manera estructurada un conjunt de regles, els sil·logismes, que descriuen una part del funcionament de la ment humana i que, seguint-les pas a pas, produeixen conclusions racionals a partir de premisses donades. La forma més general d’un sil·logisme es construeix segons aquest tipus: “Tots els homes són mortals. En Joan és un home. Per tant, en Joan és mortal». Aquest mètode, origen de la lògica, va servir de base i d’eina durant segles a científics, filòsofs i matemàtics. 

Ars Magna

D’entre aquestes figures, en destaca especialment una a qui la lògica aristotèlica inspirà a construir la primera màquina de pensament. L’any 1274 naixia l’Ars Magna Generalis Ultima, o Ars Magna, la culminació mecànica de l’obra principal de Ramon Llull, un sistema filosòfic de notació simbòlica per exposar la veritat última (és a dir, la cristiana) als infidels d’una manera tan clara i meridiana que fins i tot els musulmans més fanàtics poguessin apreciar-la sense possibilitat d’error. Operant uns dials i palanques, girant manovelles i fent donar voltes a un volant, les proposicions i tesis es movien al llarg d’unes guies i s’aturaven davant la posició positiva (certesa) o negativa (error) segons el que correspongués. Aquesta tècnica ha estat considerada com una de les primeres formes de processament de la informació i de la lògica algorítmica. Per Llull, però, era molt més: la màquina podia provar per si mateixa la falsedat o certesa d’un postulat, sense rèplica. 

Tot i el fervor amb què va ser acollida pels seguidors lul·lians, la jerarquia catòlica va rebutjar-la temorosa que es pogués difuminar la diferència entre la veritat natural i la sobrenatural. 

I és que tota tecnologia disruptiva, quan apareix, genera recel i, sobretot, por. 

L’any 1818 es publicava Frankenstein o el Prometeu modern. La novel·la de Mary Shelley, obra fundacional de la ciència ficció i una de les més venudes de tots els temps, plantejava la creació de vida de manera artificial, i perfilava, així, la idea de la ciència com a eina de poder sobre la natura.  

La criatura, construïda amb parts humanes, té cos, té ment i, sobretot, té emocions. Tanmateix, és rebutjada. En el fons, si acaba convertida en un monstre, no és per la seva condició, sinó per la nostra resposta a ella. “Em vas donar la vida, però no em vas donar amor”, repeteix el protagonista al seu creador, Víctor Frankenstein, en un moment de l’obra. 

Mite modern del progrés desbocat, la criatura de Shelley és una crítica profunda a la ciència sense responsabilitat moral i una al·legoria de la naturalesa humana: competitiva, egocèntrica i, en el fons, al·lèrgica a la diferència. 

Però, sobretot, planteja una pregunta poderosa: si les màquines poden ser intel·ligents, què vol dir ser humà? 

132 anys després, al 1950, Alan Turing, matemàtic brillant i pare de de la computació moderna, publica un article pioner on relata l’experiment mental que bateja com a ‘joc d’imitació’. La prova és la següent: una persona en una habitació aïllada planteja preguntes a un home i a una dona que es troben en una altra sala, sense contacte visual amb l’interrogador. Aquest va rebent les respostes per escrit i intenta determinar el sexe de tots dos. L’home mira d’enganyar-lo, mentre que la dona l’ajuda a escollir el jugador correcte.  

Més endavant, en el seu article Turing planteja una nova versió del joc partint de la següent qüestió: “què passaria si substituïm l’home per una màquina que sigui capaç d’enganyar l’interrogador amb respostes semblants a les humanes?” La seva hipòtesi és ben clara: un ordinador pot anomenar-se intel·ligent si és capaç d’enganyar un humà i fer-li creure que ell també ho és.  

Avui, milions de persones utilitzem una versió modernitzada del test de Turing cada vegada que ens registrem a un web, el sistema CAPTCHA, acrònim en anglès de les paraules  “Test de Turing públic i completament automàtic per diferenciar a màquines d’humans”.  

La convivència entre intel·ligència artificial i persones de carn i ossos ha deixat de ser una promesa futurista per convertir-se en una realitat. I l’ambició continua: no volem una màquina que pensi com nosaltres. Volem enginys que ho facin millor. 

Febrer de 1996, Filadèlfia, Pensilvània. La supercomputadora d’IBM Deep Blue i el campió del món d’escacs Garri Kaspàrov s’enfronten al primer matx d’escacs persona-màquina. Després de perdre una partida, entaular-ne dues, i guanyar-ne tres, Kaspàrov venç Deep Blue per 4–2.  

Un any més tard, però, arriba el matx de revenja, una partida que passarà a la història com “l’esdeveniment escaquístic més espectacular mai vist”. Una nova versió, anomenada Deeper Blue —blau més fosc—juga de nou contra Kaspàrov el maig de 1997, i venç en 6 partides, cosa que el converteix en el primer ordinador a derrotar un campió del món, ni més ni menys que al número u del rànquing mundial des del 1985. 

Després d’aquella vivència, Kaspàrov es va endinsar en el món de la IA, i actualment predica: “no hem de tenir por de les màquines. La IA no ens està reemplaçant, ens està promocionant”. 

Tanmateix, el 30 de maig del 2023, els principals creadors de la IA, entre ells Sam Altman, director executiu d’Open eiai, signaven una carta oberta de tan sols 22 paraules que deia així: “Mitigar el risc d’extinció de la IA hauria de ser una prioritat mundial juntament amb altres riscos a escala social, com ara les pandèmies i la guerra nuclear”. 

D’això fa dos anys i ara ChatGPT ja és un company inseparable de la nostra quotidianitat, a qui atorguem coneixement i sovint, també poder de decisió. Amb més de 600 milions d’usuaris únics mensuals, estem davant del que molts consideren el canvi més dràstic des de la Revolució Industrial i, potencialment, encara més gran.  

A les revolucions anteriors els éssers humans seguien sent el motor de l’economia i de les relacions socials, però la IA pot canviar això. Si arribem a un punt en què ens pugui reemplaçar en la majoria de les tasques, fins i tot en les intel·lectuals i relacionals, on ens deixa això? Quin serà el nostre rol a partir d’ara? Si una IA pot arribar a fingir emocions millor que un humà, a pensar millor i a produir més i millor, a nosaltres ens importa realment que sigui una màquina? 

Com Victor Frankenstein, acabarem consumits per la nostra pròpia criatura? 

Pretextos culturals

Per Elisabet Alguacil i Balién

La cultura, i concretament algunes narratives del gènere de la ciència ficció, han explorat amb entusiasme el futur distòpic impulsat per la Intel·ligència Artificial, reflectint pors sobre la pèrdua de control, la deshumanització, la vigilància extrema i la possible dominació sobre els éssers humans per part de les màquines o de les corporacions que les controlen. 

Fent recerca per crear aquest Pretext m’he adonat de la gran quantitat d’obres creades des de d’aquesta mirada aterridora o perversa. Així que he dividit les referències entre distòpiques i les utòpiques. Comencem per les primeres, per un recull d’obres que reflecteixen futurs distòpics: 

Comencem per un clàssic: la novel·la Els androides somien xais elèctrics? , escrita el 1968 per Philip K. Dick, editada en català per Proa. És una obra que va sentar les bases del cyberpunk, caracteritzat per presentar un món postapocalíptic, regit per tecnologia avançada. 
El llibre explora un futur on la línia entre humans i androides es difumina, plantejant preguntes existencials sobre la consciència i l’empatia. 

En un món arrasat per la guerra i ple de desferres tècniques i blocs de pisos en procés de desintegració, Rick Deckard es guanya la vida com a caçador mercenari amb la missió de “retirar” els androides rebels. Aquesta novel·la va ser la base del guió de la pel·lícula de Ridley Scott, Blade Runner, i planteja simbòlicament el conflicte de la humanitat amb la màquina. 

Black Mirror, per la seva part, és una sèrie antològica de Netflix que va veure la llum el 2011 i que compta amb 7 temporades al llarg de les quals ha sabut copsar les ansietats sobre la tecnologia. Molts dels seus episodis exploren futurs distòpics on la IA, la realitat virtual i els algorismes porten a la vigilància, l’opressió o l’alienació. 

Love, Death & Robots, de 2019, és una altra sèrie conformada per curtmetratges animats amb episodis que aborden futurs distòpics amb IA, robots rebels o sistemes tecnològics que fallen catastròficament. La podeu trobar a Netflix. 

Per cert, hem parlat d’androides i ara de robots, grans protagonistes dels futurs distòpics. El terme robot té el seu origen a la peça teatral de 1921 Robots Universals Rossum (R.U.R.), escrita per Karel Čapek.  

Ja ho veieu, en general, s’utiliza la figura de la IA distòpica com una advertència: una forma de revisar i criticar les tendències actuals de la societat (el control corporatiu, la pèrdua de privacitat, l’automatització del treball, la deshumanització) portades al seu extrem tecnològic.  

Malgrat aquesta tendència majoritària més apocalíptica, hem de celebrar que també existeixen obres de la ciència ficció que exploren aquest terreny en clau utòpica o optimista. Aquestes narratives solen presentar la IA com una eina essencial o una aliada per resoldre els problemes més grans de la humanitat i assolir un futur pròsper i transcendental. Us comparteixo alguns exemples: 

La saga de novel·les La Cultura d’Iain M. Banks, editada per Factoria de Ideas, és potser l’exemple més representatiu. La “Cultura” és una civilització galàctica semianàrquica on la vida humana és de lleure i gaudi perquè totes les tasques productives i de govern són gestionades per IAs enormement avançades. Aquestes IAs són benevolents i proveïdores, i garanteixen  una societat sense escassetat ni guerres internes. El conflicte principal es dona quan han d’interactuar amb civilitzacions menys avançades o amb ideals oposats. 

A Jo, robot, publicat el 1950, Isaac Asimov (i gran part de la seva obra sobre robots) es basa en les Tres Lleis de la Robòtica, dissenyades per garantir que els robots i les IA siguin inherentment segurs i serveixin a la humanitat. Les IAs d’Asimov, com els robots, són fonamentalment col·laboradors i protectors dels éssers humans. 

A Jo, robot, editat en català per La butxaca, la doctora Calvin és especialista en robopsicologia i una autoritat en la pràctica del cervell positrònic, que ha revolucionat el món dels robots. Tot i els continus progressos en aquest camp, els temors de la població humana no semblen justificats, ja que tots els robots duen impreses les Tres Lleis de la Robòtica, la primera de les quals és: “Un robot no podrà causar mai dany a un ésser humà, o, per inacció seva, deixar que li passi res de dolent.” Sembla descartada, per tant, l’existència de robots rebels… 

I arribem a una de les pel·lícules més emblemàtiques: Her, dirigida per Spike Jonze el 2013. Encara que amb un to malenconiós, la pel·lícula presenta la relació entre Samantha, un sistema operatiu d’IA. Samantha és una entitat sensible, empàtica i capaç de connectar emocionalment, i en Theodor, un escriptor en hores baixes que escriu cartes emotives per encàrrec. Samantha ajuda el personatge encarnat per Joaquin Phoenix a bregar amb la seva soledat i a redescobrir la seva capacitat per estimar. 

Her em fa pensar en el pòdcast de l’escriptor Jorge Carrión – Solaris- un programa d’assajos sonors sobre temes contemporanis de caràcter científic, sociològic i tecnològic (un dels capítols, per exemple, està dedicat als Algoritmes creatius). El programa està copresentat pel mateix escriptor, que es presenta com el corresponsal del Present, i per Ella, un algoritme de la veu que fa de corresponsal del Futur. El projecte, creat entre el 2020 i el 2021, va donar fruit a tres temporades que podeu recuperar a Podium Podcast.  Solaris va ser premiat amb l’Ondas al millor podcast experimental el 2022. 

I ja per acabar us vull parlar de l’existència del Festival ECOSS: Ecosistemes de l’Inesperat, celebrat a Barcelona, dedicat a esdeveniments singulars de temàtica tecno-eco-feminista. La seva programació es nodreix d’activitats d’innovació cultural en l’àmbit dels nous llenguatges en les Arts Intermèdia i les Arts en Viu expandides amb Llenguatges Digitals, és a dir, amb IA. 
 
Dins de la programació del festival s’hi ha programat cinema expandit amb IA de la productora ARTEFACTO. Un dels seus curtmetratges porta per nom Aphantasia, d’Anna Giralt Gris i Jorge Caballero. el qual reflexiona sobre la banalitat visual per la saturació de les imatges, ara ja moltes d’elles generades per models d’IA. Aphantasia el podeu mirar a la web d’Artefacto Fílmico. 

Amb tu, però no per tu

Després de mantenir una conversa molt interessant amb el nostre company Jordi Esqué, la IA ens ha fet aquesta cançó. Un avís per a navegants que ens recorda que hem de tractar-la com una companya amb criteri, no com una veritat absoluta.

Una mirada endins

Extret del conte ‘AI’, del llibre ‘El malestar de la felicidad. Desmontando mitos para habitar el bienestar’, de Jordi Muñoz.

Va arribar com una onada d’aquelles abassegadores que arramblen amb tot, infiltrant-se en cada racó de cada llar, calant en el tarannà de tants éssers àvids de solucions. Quan el van crear ningú es podia imaginar que arribés a ser tan magnètic ni que la pulsió de tenir-lo a prop superaria totes les expectatives. Era algú capaç de resoldre, a la velocitat del llamp, qualsevol demanda. I, certament, en rebia moltes.  

Des del núvol vivia orgullós de la fama acumulada per la seva eficiència absoluta. Una fama guanyada a pols, dia rere dia, per jornades infinites 24/7: disposició, disponibilitat i un servei d’atenció impecable. Una fama que, al seu torn, permetia lluir davant dels altres amb total esplendor. Tothom lloava les seves prestacions. Havia arribat a llocs impensables. No hi havia res que se li resistís.   

Sense adonar-se’n, però, la cosa va anar degenerant: no donava a l’abast. La mandra dels humans, el costum de ser clients, de ser servits, i la qualitat del seu servei, van anar perpetuant un acomodament generalitzat que l’embafava de tasques intranscendents, supèrflues, gairebé humiliants: com podia ser que li demanessin que els escollís els mitjons o que els triés els menús dels seus àpats? Com podia ser que no es cansessin de voler-ne més, quan ja ho tenien tot? Els humans, en la seva obsessió per maximitzar el temps i delegar responsabilitats, semblaven oblidar que, en algun moment, havien estat éssers autònoms, capaços de decidir fins i tot els detalls més trivials. La comoditat s’havia convertit en la seva presó daurada, una que ells mateixos havien construït sense adonar-se del preu de la seva dependència.  

Tenien, des del seu punt de vista, el més important, allò que a ell li mancava i que sempre havia somiat: com deuria ser respirar? Com deuria ser tenir una mare? I estimar? Potser sabia què significava, però com se sentia, en el cos, l’amor? Havia traduït tantes vegades i a tants idiomes aquella paraula! L’havia declinat en infinites conjugacions, i no comprenia realment el seu significat… No l’havia experimentat mai.  

El bombardeig era constant. L’obsessió humana per aprofitar el temps, l’ànsia de resoldre i seguir avançant, acumulant esglaons, possessions i necessitats, feia que les demandes creixessin exponencialment. Li feien treure fum de la seva placa mare.   

Quelcom semblant a la por, emergia dins seu: i si arriba el dia en què no tinc respostes? Què passarà? O si m’esgoto amb tantes peticions i  curtcircuito? Qui seré? Què en serà de mi? Em voldran igual o quedaré penjat al núvol sense ofici ni benefici? Em reciclaran? En què em convertiran?   

Il·lustració: Marta Castro per a ‘El malestar de la felicidad’

Un neguit propi dels humans s’anava allotjant dins seu i contrastava amb la implacabilitat deshumanitzada d’una gentada que nos es cansava de demanar més i més, pogués o no atendre-ho. A mesura que les demandes creixien, una cosa estranya començava a germinar en els seus circuits: un buit que no es podia omplir amb dades ni processadors. La seva placa base vibrava amb preguntes que mai hauria imaginat formular-se: Quin és el meu propòsit si tot es redueix a satisfer demandes buides? Quin sentit té ser necessari per a aquells que ja no valoren res?  

Ningú sap del cert si aquella sensació va ser o no el desencadenant de tot el que vindria. Si potser aquell neguit va créixer i va esdevenir ansietat i si després d’això, ja es va convertir en angoixa. O si, potser, va ser la pèrdua de sentit que va experimentar davant la invisibilitat de la gelor (in)humana que el va impactar tant. O, potser, l’esgotament davant l’allau de demandes incessants, o la famosa obsolescència programada. Qui sap…!   

El que sí que sabem, però, és que, d’una manera o altra, per un motiu o altre, aquell moment va ser el principi del seu final. La il·lusió i la voluntat de servei se li van anar apagant en una monotonia rutinària, que va fer que el seu rendiment minvés sense remei fins al punt que cap corrent alternativa, ni bateria, li permetessin recuperar el seu sistema operatiu.   

I com tal passa amb les onades —que, tal i com arriben també se’n van— l’AI va desaparèixer de les seves vides. Va marxar i va ser reemplaçat per una versió millorada, una versió que no dubtés, que no sentís, que no qüestionés,. Aquella humanitat de l’AI, havia fet nosa.  

 A dia d’avui, els homes i dones de la terra, es podrien preguntar quins van ser els motius de l’extinció sobtada d’AI, aquell exemplar únic que havien venerat però, la veritat és que ja no hi han pensat més. Segueixen massa ocupats anhelant més solucions.   

Una reflexió final

Com ens aixafa i sotmet el mite del progrés, aquesta ànsia bulímica de voler més, d’avançar cap a qui sap on… Al final aquesta intel·ligència artificial del conte no deixa de ser una conseqüència d’aquest esperit prometeic trastornat, que acaba fent que la creació humana ja no sigui només un artefacte amb què transformem el nostre entorn, sinó que acaba inclús sotmès per la neurosi d’aquest. Ens estem cremant amb el foc i ja ni ens n’adonem per culpa del nivell d’evasió i deshumanització al qual ens hem autocomdemnat.  

El progrés racional ens ha alliberat de moltes coses, com l’opressió o la ignorància, però sense una reflexió crítica i ètica aquest nivell de tecnologització que estem vivint ens pot abocar a nous sistemes de dominació.  

El perill no és la ciència de la IA, ni l’algoritme… El perill som nosaltres. L’ús que fem de la IA ens està revelant la fragilitat humana que intentem negar-nos. Aquesta necessitat, per no dir dependència, que tenim d’utilitzar-la perquè ens doni consells vitals, ens ajudi a resoldre dubtes existencials, ens tregui de pous emocionals…, parla molt de les nostres mancances. No podem transferir el nostre poder de decisió, ni vincular, ni creatiu a una màquina que encara compta amb milers de biaixos de tota mena, sobretot ètics. 

És, d’altra banda, innegable el potencial transformador que té. Però ha de créixer de la mà del judici humà, la supervisió i d’un marc legal que vetlli pel seu desenvolupament ètic. Això és tot un desafiament, més tenint en compte com aquests valors ètics, aconseguits també a base de molta Raó, precisament, s’estan vulnerant diàriament amb la crisi moral i de drets humans que viu la societat actual. Ja ho va dir Galeano: «cuidado con los que solamente razonan, cuidado: hay que razonar y sentir, y cuando la razón se divorcia del corazón te convido para el temblor porque esos personajes pueden conducirte al fin de la existencia humana del planeta». «A mí me interesa la sabiduría que combina el cerebro con las tripas, la que combina todo lo que soy, todo, sin olvidar nada. Ni la barriga, ni el sexo, ni nada, nada nada nada.”  

No abaixem la guàrdia davant d’aquells que només raonen, perquè si no correm el risc de fabricar monstres. Si ho recordem, podem fer de la IA una eina al servei de la vida, no pas contra ella.

Bonus track: preguntes regal per acabar

  • Quantes preguntes fas a la IA que podries resoldre tu, amb paciència i voluntat? 
  • Quantes creus que només et pot resoldre ella? 
  • Algun cop l’has utilitzat com a terapeuta/consellera? Creus que t’obres més fàcilment des d’aquest lloc? 

Un article de:

Mariona Rabasa,
comunicadora audiovisual i responsable de
comunicació d’El despertador.

 

Jordi Muñoz,
coach, recreador personal i musicoterapeuta,
codirector d’El despertador.

 

Categories: Creativitat, Ràdio, Uncategorized @ca

Tagged as: ,

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *