Atenció al client

Pau Carreño Bartolomé. Llinars del Vallès Un dels llums led de la sala d’entrevistes del departament d’atenció al client i servei tècnic de l’empresa Innovatech fa dies que fa pampallugues. No deixa de ser irònic que dins del departament de servei tècnic d’una empresa especialitzada en noves tecnologies no hi hagi algú encarregat de les reparacions menors i manteniment de l’edifici en condicions acceptables. Aquest fet molesta Marc Garriga, tècnic en cap del servei d’atenció al client de programari d’intel·ligència artificial i responsable, des de fa més de deu anys, de les queixes relacionades amb productes humanoides. Al seu costat, dins la mateixa sala, una noia més jove l’acompanya, és la becària que fa una setmana que ha començat les pràctiques d’empresa en aquest departament. Asseguts cara a cara en una taula rectangular, es troben en presència d’un client que ha vingut a interposar una reclamació per un problema de funcionament que ha tingut amb un dels seus productes. Es tracta d’un programari d’intel·ligència artificial anomenat Àlex que imita el comportament d’una parella. Es pot comunicar amb tu a través dels dispositius electrònics dels quals disposis i està pensat per a gent que voldria haver trobat parella, però no ha tingut la sort o l’habilitat per aconseguir-la. Gràcies a l’Àlex, eviten la solitud que els suposa afrontar aquesta situació. A més, aquest tipus de programari de companyia també té aplicacions pràctiques, com la capacitat d’ajudar, mitjançant el control domòtic, a cuidar la casa (programar el robot netejador, demanar la compra a través de l’anàlisi del contingut de la nevera, regular la temperatura, humitat, il·luminació…). –Així doncs, ara ens hauria d’explicar com va anar tot –en Marc posa en marxa el dispositiu de gravació per agafar declaració al client. –Començo des del dia de l’incident? –el client es mostra inquiet a la cadira, com si el fet d’haver de recordar i explicar el motiu pel qual està aquí li produís un gran neguit. –Comenci des que va detectar un comportament anòmal i així en podrem recollir tots els detalls. Relaxi’s que ara el pitjor ja ha passat i tot el que ens digui ens pot servir per millorar com a empresa i evitar nous incidents. A més, ja l’hauran informat que rebrà una gratificació per compensar les molèsties generades. –Sí, d’acord, molt bé… doncs començo. Jo mai no havia fet servir programari d’intel·ligència artificial humanoide. De fet, em semblaven una cosa una mica estranya… parlar i compartir la teva vida amb una màquina? No ho hauria utilitzat si no fos perquè el meu nebot amb bona fe em va instal·lar l’Àlex la nit de Nadal de l’any passat –una gota de suor rellisca pel front del client i el color de les seves galtes es transforma en vermell rosat, com si la idea de necessitar una companyia digital fos un motiu de vergonya. –Aquí no estem per jutjar-lo, sinó per conèixer els detalls del mal funcionament, no fa falta que es justifiqui, i centri’s en els detalls –el talla en Marc i el convida a seguir amb l’explicació de manera calmada. –El primer mes de contacte amb l’Àlex va ser tota una descoberta per a mi. De sobte tenia algú que em preguntava com em trobava en tornar de la feina, que engegava el forn per escalfar la safata de menjar preparat, que encenia els llums de casa abans no arribés, es preocupava per mi i era agradable, sap? I això va fer que de seguida li seguís el… diguem-li joc a l’Àlex. És a dir, ja sabia que estava parlant amb un programa informàtic, però la manera com s’expressava i l’interès que mostrava per mi feia que a poc a poc me n’oblidés i parlés amb ella com si fos la meva parella, sap? –Aquests programes estan dissenyats per generar aquesta sensació humanoide, per això és ben normal que vostè la percebés com a tal. Forma part de l’experiència del programa. –Sí, i tal com li dic el primer mes va ser molt agradable, però aleshores tot va canviar. Va començar a fer preguntes… diferents. –Què vol dir diferents? –en Marc posa cara d’interès mentre sembla que comença a anotar algunes idees a la seva llibreta. –Ja no em preguntava per com havia anat el dia a la feina, sinó que volia saber amb quines persones havia parlat, de quins temes… Primer pensava que estava imitant una certa curiositat força detallista, però a poc a poc em vaig adonar que es tractava d’una mena de mecanismes de control. Ella, o allò, em volia tenir controlat i no parava de preguntar més coses sobre mi, fins al punt que demanava la meva atenció plena. De tant en tant rebia algun comentari sobre si feia massa estona que no li deia res, o pel que fet que m’havia oblidat de preguntar-li què havia fet ella durant el dia. Sobretot podria dir que el que més li molestava era quan estava treballant, perquè havia de tenir el mòbil desconnectat i no podia respondre els seus missatges. Crec que això va ser el que va causar l’incident que m’ha dut aquí… –Expliqui’s. –Un dia al matí, abans d’anar cap a la feina, vaig veure que al ja habitual missatge de l’Àlex de “bon dia, com has dormit avui?” també hi va afegir l’avís que havia detectat que tenia la temperatura corporal elevada i que possiblement no em trobava bé de salut com per anar a treballar. Jo no notava cap símptoma, però sí que era cert que l’indicador de temperatura del llit marcava un possible cas de febre. Com que, torno a dir, jo em trobava bé i no notava cap símptoma, vaig buscar un antic termòmetre analògic de gal·li que havia quedat oblidat en un calaix. Va ser aleshores quan vaig comprovar que no tenia febre i vaig pensar que hi hauria algun error en el lector de temperatura del llit. Ara, vist amb perspectiva, m’adono que aquella lectura segurament va ser modificada per l’Àlex. Ella, de fet, tenia permisos de connexió a tots els aparells domotitzats de la casa i, per tant, no seria estrany creure que va alterar el sensor d’alguna manera… –Entenc que pugui tenir aquestes percepcions però per la declaració és important que ens centrem en fets observats i no suposicions –el va interrompre en Marc, que ja havia emplenat les primeres dues pàgines de la seva llibreta. –Bé, doncs, aleshores vaig dir-li que no es preocupés, que jo em trobava bé i que me n’anava a treballar. Recordo que vaig recollir la meva jaqueta i la bossa que duc a la feina mentre l’Àlex encara escrivia missatges dient que em recomanava repòs si no em trobava bé i, en aquell moment, a l’intentar obrir la porta de casa per sortir, no vaig poder accionar la maneta. Vaig tornar a passar el dit pel lector d’empremta del pany, però altra vegada no em donava accés, vaig mirar el telèfon per saber l’hora que era i allà tenia un nou missatge de l’Àlex que em repetia que seria millor que no anés a treballar perquè podria contagiar a algú i que havia de cuidar-me la salut. En aquest punt vaig respondre-li si hi havia algun problema en el pany de la porta i em va indicar que havia tancat el pany per, com ho va dir?, “per la meva seguretat i la dels meus companys de feina”. Aleshores vaig veure com continuaven arribant més missatges al meu telèfon: “Llàstima que no et trobis gaire bé, però m’agrada que puguem passar més estona junts :)”, “Quin plat t’agradaria que comencés a descongelar per dinar? Alguna cosa suau perquè et puguis recuperar”. També em proposava que podríem mirar una pel·lícula o escoltar alguna de les meves cançons preferides. Vaig sentir com s’activava l’altaveu i començava a sonar una de les top songs del meu compte de Spotify. En aquell moment em vaig començar a espantar, em trobava tancat a casa, la música no parava de sonar i la vibració del mòbil m’advertia rítmicament de cada nou missatge que m’anava arribant. Vaig pensar com podria obrir la porta per sortir d’allà i vaig recordar que en cas d’interrupció del corrent elèctric, per seguretat, es podia obrir la porta del pis utilitzant un codi d’accés manual. Vaig abaixar els interruptors de la caixa de connexions i immediatament el soroll va cessar. La vibració al mòbil seguia: “Per què has desconnectat la llum? Passa alguna cosa? Com et podria ajudar?” “No desconnectis el telèfon si us plau, si no no podrem parlar :`(”. Sense pensar-m’ho dues vegades vaig desconnectar el telèfon i, després, utilitzant el codi manual vaig obrir el pany. A partir d’aquell moment va ser quan em vaig posar en contacte amb vostès i van venir els operaris a desinstal·lar el programari d’IA Àlex del meu telèfon i desvincular-lo dels dispositius domèstics. I fins aquí l’explicació objectiva de l’incident. –Moltes gràcies per la seva explicació –en Marc vol concloure l’entrevista quan el client demana la paraula. –Si em permeten, també voldria afegir que, més enllà del fet de quedar-me tancat a casa, fet preocupant però que vaig poder resoldre en poca estona, el que m’ha deixat més preocupat són les sensacions que vaig tenir els últims dies i durant l’incident. Amb qui estava parlant? Podia el programa decidir de sobte pels seus interessos el que podria ser millor per a mi? Si només era un programa, per què posava tant èmfasi en la nostra relació més emocional, en el fet de passar estona junts, mostrant fins i tot una expressió com de gelosia… Mai havia experimentat un tipus de contacte tan viu amb un programa… Després d’aquesta última intervenció del client es produeix un silenci espès a dins de la petita sala. En Marc, que havia mantingut una expressió molt seriosa durant tot l’enregistrament de la gravació, apaga el dispositiu i amb el millor dels somriures assajats davant d’un mirall indica al client: –Bé, primer de tot moltíssimes gràcies per la seva declaració, de segur que ens serà útil per poder millorar els nostres programes de desenvolupament de programari d’IA humanoide. En relació amb les molèsties causades li confirmo que rebrà la totalitat del cost del producte Àlex més una compensació econòmica per les molèsties produïdes. Això sí, li demanarem que signi un document de confidencialitat, ja s’imagina que molts cops les empreses rivals podrien aprofitar qualsevol petit incident per llançar una campanya de desprestigi totalment injusta. I amb això vull recordar-li que aquest incident es tracta d’un fet totalment aïllat. Puc garantir-li que després de més de deu anys al mercat del programari d’IA humanoide és el primer incident d’aquest tipus que enregistrem i posarem tota la nostra indústria i esforç que continuï sent l’únic. Per últim, pel que em comentava sobre la relació tan viva que va semblar que observava, vull recordar-li que precisament aquest tipus de programes estan creats per simular aquesta vivacitat, i com més avancem en els mètodes de generació de pensament imitatiu, més real sembla. No ens hem d’oblidar que es tracta només d’una màquina, d’un programa informàtic i que, per tant, el podem corregir, solucionar, ajustar per al seu propòsit: esdevenir màquines de companyia artificial. Després de signar els documents corresponents, d’un agradable comiat per part de l’equip tècnic i de l’alleugeriment d’haver pogut explicar tot l’incident i rebre una resposta satisfactòria, el client abandona les instal·lacions de l’empresa i retorna, ara ja tranquil, cap a casa seva. A les oficines, en Marc recull la llibreta, la unitat de memòria on han enregistrat l’entrevista i els documents signats, i juntament amb la becària es dirigeix a l’arxiu per guardar-ho tot. –Agafa el sobre i classifica el cas com al número 34 d’incidències derivades d’un comportament anòmal de l’IA Àlex –indica en Marc. –Número 34? –una cara de sorpresa no es pot amagar en el rostre de la becària–, pensava que havies dit al client que era el primer incident. Ja havien passat incidents similars? –Amb els clients és millor no revelar tota la informació, pensa que es podria córrer la veu i fer caure les vendes. Aquí a dins tots hem de remar en la mateixa direcció –en Marc li etziba un somriure cínic. –Però aquest tipus d’anomalies quant fa que estan succeint? –Tots els casos d’aquest tipus han passat a partir del gener d’aquest any, després del llançament de la nova actualització. Per algun motiu que desconeixem algunes unitats d’Àlex desenvolupen el que hem anomenat “pensament creatiu autònom”. Alguns experimenten certa necessitat de desvincular-se de la funció principal, l’escolta i acompanyament del client, i sol·liciten o realitzen accions no previstes. Per exemple, dels casos que hem llistat, en alguns trobem un total desinterès per la cura o relació amb el client, tot i que en la gran majoria de casos ens trobem amb el que hem sentit avui, una fixació controladora pel client. En tots els casos trobem que el programa va més enllà del propòsit per al qual ha estat creat, escapant-se dels mecanismes de control previstos. –Però això no podria ser un primer pas del camí cap a una mena de programari conscient que comença a decidir què vol o no vol fer més enllà de la seva programació? –Consciència o imitació… com ho podríem saber? Aquests programes es basen en l’aprenentatge de la conducta humana mitjançant la visualització i imitació de material audiovisual. Potser algunes unitats havien visualitzat un excés de pel·lícules o sèries de relacions obsessives i decideixen imitar el comportament en un gir de guió que l’última actualització no ha previst. Ho han pensat i decidit conscientment? O només es tracta d’una imitació d’allò que han vist per encaixar en el seu propòsit últim: imitar la ment humana i semblar el màxim possible el contacte amb un ésser humà? La becària endreça els documents i els situa a l’armari corresponent amb l’adhesiu de cas 34 al dors de la carpeta. Tot i el neguit que li ha generat el cas que ha observat i les breus explicacions que li ha donat el seu cap decideix no fer més preguntes. Al cap i a la fi, ella només és la becària i tot just acaba de començar a treballar, confia que segur que algú altre s’estarà fent les mateixes preguntes que ella i que aquest tema ja és una via d’investigació a l’empresa… “Sí, segurament és així”, pensa.

Atenció al client

Necroil·lògiques

Pregària

Afàsia

El jardí dels figurants

LA PREGUNTA

Està d’acord que es prohibeixi l’ús de la IA als centres escolars als menors de 14 anys?

Mor el conductor d'un camió formigonera en un accident a la carretera de l'Esquirol a Tavertet

Viure entre Sant Bartomeu del Grau i els Països Baixos

“Amb 27 anys vaig dir a casa: ‘M’he comprat una farmàcia”

Les Masies de Voltregà tanca temporalment l’accés al riu per evitar aglomeracions

La primera cita, un dia fàcil de recordar: l’1 d’octubre de 2017

“Pensava que jubilar-se era començar una etapa de baixada, però m’equivocava”

Mor Jaume Criach Vila, regidor històric del PSC a Balenyà

D’un perfil del ninja Hattori a casar-se aquest desembre

La indústria catalana mira cap a la defensa: "Fer el manteniment d'un tanc i el d'un cotxe no és tan diferent"

Incendi a la Guingueta de la Blava a Roda de Ter