Fraude ā€œagĆ©nticoā€, la gran oportunidad

Entretenidos como estamos en la vorĆ”gine de las IA, y sin que todavĆ­a hayamos superado algunas limitaciones de persistencia en la conexión a Internet y de acceso a las redes de telefonĆ­a celular (cualquier tiempo pasado fue peor, todo hay que decirlo), los CISOs cuyas ocupaciones del dĆ­a a dĆ­a les permiten dedicar un tiempo a los anĆ”lisis prospectivos, ya tiemblan ante una posible amenaza nunca antes vista: la explosión del comercio ā€œagĆ©nticoā€ asistido y autónomo, que vendrĆ” acompaƱado de la correspondiente explosión de fraude ā€œagĆ©nticoā€ asistido y autónomo.

La industria de la ciberseguridad no estĆ” madura –al menos a efectos pĆŗblicos– para ofrecer plataformas orientadas a las ciberseguridades en comercio ā€œagĆ©nticoā€. Y tampoco sabemos cómo se va a ir desarrollando, porque es el propio comercio el que se va a ver sacudido por la IA, y con Ć©l, las legislaciones, regulaciones, contratos y prĆ”cticas. Es una buena oportunidad para emprendedores en ambos frentes, el de la ciberseguridad y el del derecho.

Lo que los expertos sospechan es que el comercio ā€œagĆ©nticoā€ tiene todas las papeletas para provocar el siguiente apretón en ciberseguridad, en privacidad y, en general, en la forma de gestionar los riesgos y el aseguramiento en las empresas a efectos globales.

Imaginemos a los hoy sujetos de derecho (personas fĆ­sicas y jurĆ­dicas) haciendo operaciones de comercio electrónico y digital, conviviendo con órdenes automĆ”ticas de compra, sistemas de trading algorĆ­tmico (valores, divisas, futuros, opciones, criptomonedas…), adhesión a servicios de renovación automĆ”tica, intermediaciones y delegaciones ā€œagĆ©nticasā€ā€¦ Ā”Reclamaciones ā€œagĆ©nticasā€, devoluciones ā€œagĆ©nticasā€, call centers ā€œagĆ©nticosā€ en las nubes, sanciones ā€œagĆ©nticasā€! Y todo a toda velocidad y en todas partes.

La cosa puede (debe) funcionar. Pero hay que diseƱar bien el modelo, y, sobre todo, hay que saber gestionar un delicado multiconstructo que operarƔ a efectos globales a la velocidad de la luz en el medio que toque, generando derechos y obligaciones a personas (por ahora) de una forma muy diferente a aquellos bitubƭ y bitusƭ que se abrieron camino allƔ por el aƱo 2000.

Inmadurez ā€œagĆ©nticaā€

En lĆ­neas generales sabemos los frentes por los que es mĆ”s factible que den la cara los chorizos sueltos y en manada (manipulación de agentes, suplantación, datos falsos, secuestro de credenciales y robo de permisos, fraude conversacional, colusión entre agentes, generación de agentes fraudulentos, desinformación y autorizaciones falsas, fraude de agente contra agente, escalado masivo de ataques, personalización de engaƱos, ataques a la cadena de herramientas propias y de terceros, orquestación de explotación de vulnerabilidades muy complejas...), y, por tanto, con asistencia ā€œagĆ©nticaā€ de calidad podremos amplificar la observabilidad, la verificación de identidades, la detección de anomalĆ­as, la consulta automĆ”tica a inteligencia multifuente accionable, la ponderación de intenciones, el reajuste de polĆ­ticas, ...

Al fin y al cabo, lector, este es el desarrollo de las TIC en esta fase de la sociedad algorítmica, en la que hasta el matemÔtico y actual Papa, León XIV, ha considerado oportuno escribir su Carta Encíclica Magnífica Humanitas sobre la custodia de la persona humana en el tiempo de la IA, cuya lectura recomiendo.

Eso sĆ­, mientras se va desenrollando esta revolución, vamos a tener que seguir gestionando la ciberseguridad en el dĆ­a a dĆ­a –que todavĆ­a no es tan ā€œagĆ©nticoā€ como parece el futuro– y, si acaso, pensar en el plan criptogrĆ”fico poscuĆ”ntico y criptoĆ”gil, el impacto de las carteras de identidad europeas en la empresa, el impacto en el acortamiento de los tiempos de descubrimiento, detección y explotación de vulnerabilidades de dĆ­a cero y sin dĆ­a cero, la supresión de brechas, la mejora del sistema de ciberseguridad para que las pólizas de ciberseguros cuesten menos y tengan mĆ”s coberturas y… Ā”la obtención del presupuesto!

Y en el tiempo que quede, criar un agente inteligente deseoso de quedar bien con su dueño y preguntarle si alguna vez tendremos una ley mediante la que, al menos, se trasponga a la legislación española la NIS2. Aunque no la necesitemos.