On estalvia hores de debò
El primer i el més clar: les preguntes repetides. Les mateixes deu consultes arriben cada dia i moltes fora d’horari i en idiomes diferents. Un assistent ben muntat les contesta i et deixa les converses que valen la pena.
El segon: esborranys. Traduir la carta a quatre idiomes, redactar la descripció de trenta productes, convertir unes notes en un pressupost presentable. El que estalvia no és escriure: és el full en blanc. La revisió continua sent teva i no és negociable.
El tercer: ordenar el que arriba en munt. Classificar correus, extreure les dades d’un formulari llarg, resumir vint ressenyes en el que es repeteix. Són tasques avorrides, freqüents i amb poc risc si alguna cosa surt malament.
On no
No per decidir preus, descomptes ni res que tingui conseqüències econòmiques sense que una persona ho confirmi. No per publicar textos sense revisar, pel mateix motiu pel qual no publicaries una traducció automàtica: un error petit en un preu o en una condició et costa un client o una reclamació.
I no per substituir qui atén. En un negoci petit l’atenció personal sol ser justament l’avantatge davant del gran. Automatitzar la part que ja era mecànica té sentit; automatitzar la conversa que et diferencia és tirar pedres contra la teva pròpia teulada.
La fonamentació, que és tota la diferència
Un model de llenguatge, per defecte, produeix una resposta plausible. Si no sap alguna cosa, moltes vegades l’omple amb alguna cosa que sona bé. En una conversa general això és una curiositat; a la web d’un restaurant és un client davant d’una porta tancada un diumenge.
La solució tècnica s’anomena fonamentació: l’assistent només pot respondre a partir d’un conjunt de documents que tu controles — la teva carta, els teus preus, els teus horaris, les teves condicions — i té instrucció explícita de dir que no ho sap quan no hi és.
Això canvia dues coses pràctiques. Una, que mantenir l’assistent al dia és mantenir els documents al dia, no reentrenar res. Dues, que quan s’equivoca pots veure de quin document va sortir, que és el que converteix un error en una cosa arreglable en comptes d’en un misteri.
El que demana la llei
Dues coses, i cap és complicada. La primera: si una persona està interactuant amb un sistema d’IA, ho ha de saber. El Reglament europeu d’IA estableix obligacions de transparència precisament per als sistemes pensats per parlar amb persones. Una línia al principi del xat ho resol.
La segona: les converses contenen dades personals, i el RGPD s’aplica igual que a qualsevol altre tractament. Cal una base jurídica, informació clara sobre què es desa i quant temps, i saber on es processa. Si el teu proveïdor no sap respondre a això amb precisió, aquella és la resposta.