Consentiment, responsabilitat i algorismes: dret dels pagaments

El sector dels pagaments es troba en un nou punt d'inflexió.

La intel·ligència artificial està a punt d'entrar en un mercat que representa el 65,7 % de les transaccions de pagament efectuades amb instruments no monetaris: 195.000 milions d'euros cada semestre. Tots coneixem ChatGPT, Claude o Gemini. Aviat podrem fer compres directament a través d'aquestes (i altres) eines. Per exemple, podrem demanar-li que ens recomani uns auriculars i comprar els que triïn directament dins de la conversa, o fins i tot els que la IA ens selecciona segons els nostres gustos.

De fet, és l'adveniment de la intel·ligència artificial agentiva el que impulsa aquesta nova revolució en la manera de comprar. A diferència dels assistents virtuals convencionals, que responen a preguntes o generen contingut, aquesta nova generació d'IA és capaç de prendre decisions i dur a terme accions específiques amb una intervenció humana mínima.

En l'àmbit dels pagaments, això implica un canvi substancial, ja que obre la possibilitat que la IA no només ens recomani un producte, sinó que també completi la transacció en nom nostre. Els grans actors del sector, com ara Visa, Mastercard i American Express, ja estan treballant per integrar aquesta tecnologia en els seus serveis. L'objectiu és avançar cap a models en què el procés de compra es vagi automatitzant progressivament, reduint la intervenció humana al mínim: la decisió de comprar un producte. Aquest desenvolupament tecnològic forma part d'un procés més ampli en què la intel·ligència artificial està simplificant un nombre cada vegada més gran de tasques quotidianes. Si els usuaris ja confien avui dia en algorismes per obtenir informació, gestionar les seves agendes o rebre recomanacions personalitzades, el pas següent és estendre aquesta confiança al món de les transaccions. Delegar el procés de compra a les màquines planteja una qüestió crítica des d'una perspectiva legal i reguladora. Qui assumeix la responsabilitat en cas d'error: la màquina que ha fet la compra o l'usuari que ha pres la decisió?

No hi ha una resposta senzilla a aquestes preguntes. La normativa vigent no va ser dissenyada tenint en compte els agents d'intel·ligència artificial autònoms. El Reglament d'Intel·ligència Artificial de la Unió Europea 2024/1689 (la legislació més completa sobre aquesta matèria del món) no esmenta aquests agents, sinó que els classifica en la categoria general de «sistemes d'intel·ligència artificial».

Al mateix temps, les normes que regulen els serveis de pagament s'estan actualitzant actualment. La nova directiva europea sobre aquesta qüestió (PSD3) i el seu reglament d'aplicació (PSR) encara estan en procés parlamentari. I, malgrat aquesta actualització, no aborden explícitament els escenaris que impliquen l'automatització completa de les decisions de compra.

El marc regulador actual es basa en una premissa que comença a veure's sotmesa a pressió, és a dir, que la persona que fa la compra és la que pren la decisió. L'adveniment de la IA agentiva qüestiona aquesta suposició i obliga a repensar conceptes tradicionals com el consentiment o la responsabilitat. Les empreses tecnològiques avancen a un ritme que els legisladors no poden seguir, deixant els consumidors en una situació en què les normes aplicables encara no estan clarament definides, però la tecnologia ja hi està preparada. No obstant això, hi ha un principi que probablement és clar i que hauria de servir de guia. En cap cas s'haurien d'utilitzar els sistemes d'IA per eximir les empreses de les seves responsabilitats envers els consumidors i usuaris. L'automatització progressiva de les compres és una tendència creixent.

El repte serà garantir que aquest avenç tecnològic s'integri en un marc legal segur i fiable al mercat.

Llegiu l'article complet aquí.