Les màquines simulen que empatitzen i això és perillós

Els humans tenim la capacitat d'antrofomoritzar-ho tot, també el ChatGPT / imatge: Davi J. (IA) Una dada curiosa: el 70% dels usuaris europeus del ChatGPT són amables quan interactuen amb ell. Bé, amb ella, amb la màquina. Perquè el ChatGPT és només una màquina. Es veu que quan som amables amb ella, la màquina també ho és amb nosaltres. O sigui, quan afegim a una petició paraules com gràcies o si us plau, la màquina també afegeix paraules a les respostes. I això, des del punt de vista tècnic, té un impacte important. Intento explicar-me. Cada paraula que escrivim és el que anomenen un token, una unitat mínima de text. Gràcies és un token. I moltes gràcies, de debò, quatre tokens. Com més quantitat de tokens hi ha en un text, més temps necessita la màquina per processar la resposta. I, per tant, més despesa energètica. Per això, l’han volgut canviar. Perquè el ChatGPT sigui menys amable. I, per tant, més barat. Xavier Sala i Martín ha publicat Entre el paradís i l’apocalipsi (Rosa dels Vents, 2025). Hi ha treballat set anys per esbrinar l’impacte de la intel·ligència artificial (IA) en l’economia global. El vaig entrevistar. I va ser molt clar. D’entrada, defineix el que és ser intel·ligent. Per a ell, la capacitat de solucionar problemes que no hem vist mai. Si aquests problemes ja els hem vist, no som intel·ligents sinó uns memoritzadors. O sigui, uns empollons. Capaços de resoldre els problemes que coneixen i memoritzen però incapaços de solucionar absolutament res quan els canvies el problema. Per tant, amb aquesta definició, la IA no és intel·ligent. El ChatGPT és un empollón. Una màquina que han posat a llegir tots els textos d’internet relacionats amb la consulta feta, copien els textos i uns robots intenten aprendre a escriure de forma predictiva, intentant predir la successió de paraules amb l’objectiu de donar una resposta convincent i amb un text final que s’assembli al màxim a com escriuria un humà. És només una màquina que prediu paraules des del punt de vista estadístic. No empatitzarà amb ningú, mai. Però com que els humans fem allò que els psicòlegs anomenen paraidòlia, que és la capacitat d’antrofomorfitzar-ho tot, de veure humans a tot arreu, ho fa creïble. Però quan una màquina empatitza, només ho sembla, ho simula i això és perillós. Explica un cas dramàtic: el d’un enginyer belga obsessionat amb el medi ambient i el canvi climàtic a qui la màquina va convèncer que era superintel·ligent i podria resoldre els grans problemes si rebia sacrificis humans i el tio es va suïcidar per salvar la humanitat. Una bestiesa extrema, és clar. Però que evidencia que, amb la màquina, res de bones paraules. Per evitar l’apocalipsi.

Les màquines simulen que empatitzen i això és perillós

L’amabilitat