Consideraciones sociales sobre el futuro de la Ciberseguridad frente a la IA

Durante muchas décadas hemos visto cambiar la economía, el mercado de trabajo y nos hemos mantenido al margen porque no eran cosas de nuestro negociado, pero si pretendemos saber algo de lo que nos depara el futuro, la cosa cambia porque todo está relacionado con todo. Si estamos preocupados por el futuro de la Ciberseguridad, en general o frente a las IAs, deberíamos preguntarnos qué modelo sigue, de qué se alimenta y cómo se preparan los (¿humanos?) que harán la ciberseguridad en ese momento del futuro. En esta ocasión, en esta columna nos planteamos precisamente esto: ¿Qué podemos esperar del futuro a medio plazo (una generación) de la Ciberseguridad en un escenario gobernado por la Inteligencia Artificial? Desde la perspectiva social cabe hace diversas consideraciones.

Una de las ventajas que tiene hacerse viejo, es como estar en una isla y subir a su montaña más alta para, desde su cima, mirar hacia el mar. Después de tal tiempo y esfuerzo, logramos ver un horizonte que está muchos más allá del que ven los que de él disfrutan en la playa y, desde allí, atisbar cosas que se ocultan bajo del horizonte de los confiados bañistas.

Normalmente, lo angustioso es intentar ver qué es lo que nos depara el porvenir, y sólo nos ocupamos de lo que ya ha pasado para intentar entender el cómo hemos llegado hasta donde estamos. En cualquiera de los casos, cuanto más lejos llegue el horizonte o la prospectiva, más tranquilos estaremos a la hora de explicar nuestra realidad.

Si quisiésemos entender dónde está la ciberseguridad de principios del Siglo XXI y por dónde evolucionará ésta a medio plazo, debido a factores emergentes como es el uso generalizado de la denominada Inteligencia Artificial, lo que tendríamos que tener muy claro 1) el qué es la ciberseguridad actual, y 2) cómo le afectaría la consolidación de esa nueva tecnología y practica que conocemos como Inteligencia Artificial (IA).

De los muchos derroteros por los que podría haber ido la Ciberseguridad en todos estos años, el elegido ha sido el más reactivo y menos definitivo de los posibles. Me explico. Teniendo en cuenta que esto viene de algo que se llamaba Seguridad Informática o de las TIC, y que a su vez en aquel momento del amanecer digital los sistemas informáticos carecían de cualquier viso de seguridad (antes de los cortafuegos1 y cuando todavía creíamos que había ‘perímetro’ y no había redes). La necesidad de seguridad ha venido después cuando veíamos qué efectos podría en él que alguien no autorizado cambiase algo en el sistema digital. Al principio había que poder acceder físicamente a la instalación, pero pronto llegaron las redes (de cualquier tipo, incluso las de impresoras) y ese acceso podía ser remoto.

Lo que la comunidad pensó que era lo mejor fue hacer en el mundo digital lo mismo que en el mundo analógico; montar cosas que combatieran el incipiente delito digital y la ciberdelincuencia en general. Después de todo ese recurrir la seguridad de ciber-vigilantes generaría un nuevo mercado del que muchos podrían sacar pingües beneficios. Podría haberse optado por hacer las cosas mejor hechas (enfoque preventivo) y haberlas diseñado, implementado y utilizado de modo seguro, pero eso no daría un mercado en el que obtener beneficios monetarios y estratégicos.

La solución elegida fue una estrategia netamente reactiva: amurallar el perímetro físico y lógico, montar puertas suficientemente inteligentes como para distinguir propios de ajenos, buenos de malos, etc., pero una vez dentro, las cosas seguirían tan ‘en claro’, tan desprotegidas, como fueran necesarias para su correcto cumplimiento de las normas o de los procedimientos de negocio. Los atacantes evolucionaron, y las defensas también, pero eran siempre ellos, los malos, los que traían nuevas técnicas para romper el perímetro o engañar a los verificadores de las puertas y, por si eso fuera poco, utilizar a los usuarios legítimos como vectores de entrada (insider attacks2 e Ingeniería Social3).

Al poco de iniciarse esa batalla (informática) quedó claro que 1) las defensas siempre evolucionaban después de los ataques, siguiendo a éstos, y 2) que era mejor jugar el papel de víctima que preguntarse por qué uno era susceptible a esos ataques. Las ventajas económicas de lo digital elevaron las digitalizaciones hasta niveles nunca imaginados, llegándose incluso a poblar el mundo occidental de generaciones que lo desconocían casi todo de lo analógico (Milenials4 y Generación Z5).

Por aquel entonces, todo era manejable

Pero, por aquel entonces, todo era manejable, los atacantes eran humanos y atacaban con los mismos recursos y capacitaciones que los defensores. La única diferencia es que los atacantes se salían al principio con las suyas y las pérdidas económicas de los atacados se podrían encajar dentro del modelo Capitalista Neoliberal6 dominante en aquellas décadas (1983- 2008). En esta tranquilidad de facto transcurrieron los años en que todo cambió.

Además de los diferentes amaneceres digitales que nos son habituales (a nosotros) por movernos en los ciber-dominios, también ocurrieron cambios importantes en la economía mundial que justifican la disyuntiva en la que hoy estamos.

El Capitalismo7 clásico (Adam Smith8 1723-1790) de que el mercado se autorregula y que lo importante es la producción de bienes y el consumo de éstos, es algo que murió en Occidente en la década de los ochenta con la llegada de Margaret Thatcher9 (1979) y Ronald Reagan10 (1981), a sus respectivos tronos. El desembarco del Liberalismo a ultranza en la economía mundial y la deslocalización de todo que llega con la Globalización11, convirtió nuestra economía en un Mercado Financiero (El Minotauro Global12) en el que las rentas del capital pasaron a ser lo más importante, junto con un consumo desaforado.

En ese periodo, lo importante era tener dinero (capital) para poderlo invertir en el sector productivo y de ahí extraer unas rentas cada vez más grandes. Fueron los años de oro de las bolsas, de Wall Street, de los ‘tiburones financieros’13 y del 1% de la población que tenía el capital que había que mover constantemente para evitar que lo royese los embates de la inflación14. Fue la época de la austeridad para los pobres, para los que habíamos vivido por encima de nuestras posibilidades (según ellos, claro), fue la época de los PIGS15 (según la prensa anglosajona) del sur de Europa, etc., sin embargo, lo que tenía que pasar pasó, llego septiembre de 200816.

El neoliberalismo había hurtado a los bancos centrales la potestad exclusiva de imprimir dinero físico y contable, es decir, abandono “las reglas de juego” que había propuesto John Maynard Keynes17 en la década de los años veinte del siglo pasado. Todo ello, sin atender a ninguna reserva de oro18 (197119) o plata, ni a ninguna convertibilidad fija respecto al dólar, porque EEUU abandonó, para su conveniencia, los acuerdos de Bretton Woods20 (1944-1973). Esa capacidad para generar dinero se la dejaron, de facto, a las empresas financieras mediante la concesión de hipotecas y otros productos derivados complejos (algunos tan oscuros, que ni ellos mismos entendían).

Como en esa fiesta de la desregularización que trajo el Neoliberalismo21 de personajes como Milton Friedman22 y la Escuela de Chicago23, el único límite estaba en la codicia de los agentes económicos activos en el sistema. Pasó el tiempo y llego el 15 de septiembre de 200824, fecha en la que quebró Lehman Brothers (4º mayor banco de inversión de los EEUU), y con ello el riesgo del colapso económico25 occidental y del colapso global del sistema financiero occidental26. La solución fue la de siempre, generar tanto dinero nuevo como fuese necesario para evitar el colapso de los bancos y del sistema financiero global, y que el erario público27 corriese con todas las deudas creadas por esos aprendices de brujos de los ochenta que ahora se verían salvados por tsunamis de dinero nuevo.

Al final, aparentemente no le pasó nada al sistema, la codicia financiera se fue de rositas y la pagaron los ciudadanos; sin embargo, había demasiado dinero en circulación y los viejos modos de enriquecerse (la especulación financiera del capital) no eran la solución más recomendable, por lo que se abrió una época en la que había demasiado dinero privado buscando donde ubicarse.

Compañías esenciales, crecimiento desmesurado

Por aquel entonces, principios del Siglo XXI, Internet se había consolidado, incluso ya había sobrevivido a su primer pufo28 en el año 2000, y aparecieron nuevas compañías (Microsoft, Amazon, Google/ Alphabet, Apple, PayPal, etc.) en las que poner ese dinero desubicado e invertirlo en algo prometedor económica y estratégicamente. Estas compañías crecieron desorbitadamente hasta convertirse en esenciales para la vida planetaria moderna y hasta llegar a generar su propio ‘El dorado’29 en Silicon Valley30, que sería referencia del nuevo mito laboral que fueron los emprendedores31. Con este acaecer, además del cambio económico también cambió otro elemento fundamental que es el trabajo asalariado 32. Durante las fases anteriores de la economía los trabajadores eran necesarios para 1) producir las mercancías con las que se mercadeaba, y 2) además, ser un consumidor voraz que precisa de hipotecas y préstamos para satisfacer sus propias existencias. Con la abundancia de dinero en los bancos, las empresas del Internet crecieron desmesuradamente a la sombra del antes denominado ‘Comercio Electrónico’ 33 y con ello nació un nuevo modelo económico que podríamos llamar Capitalismo Extractivo (del capital), Capitalismo de la Rentas, o el Tecnofeudalismo como lo bautizó Yanis Varoufakis 34 en 2024. En este modelo la riqueza económica, los beneficios, no nacen de la producción, y/o del consumo de bienes, sino de su mera existencia. De ahí la referencia al feudalismo 35, que fue un periodo en el que lo importante eran dos Clases Sociales 36 (Aristocracia y Pueblo llano) y sus relaciones económicas; una se dedicaba a producir (con significativas dificultades) y la otra cobraba diezmos (por la fuerza si era necesario 37). La razón de esa explotación (vasallaje 38) era que la fuerza militar y la propiedad de la tierra eran prerrogativas exclusivas de la Aristocracia. En este nuevo escenario donde el beneficio son las rentas del Capital, 1) La Internet Global del siglo XXI es su medio ideal de existencia, y 2) el trabajo asalariado productivo pasa a no ser atractivo para el Capital y los ciudadanos sólo quedan como meros consumidores. Cuando Amazon, por poner un ejemplo, logra acordar una compra entre un cliente y un proveedor, Bezos 39, la 4ª persona más rica del mundo 40, y sus grandes accionistas cobran una comisión por el mero hecho de existir. La red telemática que es Amazon. com, como mero intermediario que es, hoy en día, ya existe desde el primer día, no se crea para esa transacción ni se consume en ella, por lo que sólo participa en ella (como un catalizador 41 que es) y, probablemente, sea necesario para que la transacción llegue a buen puerto. Esta nueva economía digital no requiere de trabajadores asalariados por cuenta ajena, sino de trabajadores eventuales para atender, cuando sea necesario, las necesidades logísticas (Personal de almacén, Riders de todo tipo, Conductores de Uber, Cabify o Camioneros freelance, etc,) o lo que podríamos llamar Siervos/Proletarios de la Nube 42 (por su analogía con los Siervos de la gleba 43 que eran la población no aristocrática de la Edad Media). El problema que nos ocupa ahora es que en esta nueva economía hacen falta muchos consumidores, pero no tantos trabajadores productivos, ya que el que gana aquí es el Capital por el hecho de existir y estar disponible, todo ello en una concentración/ disponibilidad suficientemente alta.

La automatización y globalización, a escena

La automatización y globalización que aporta la Internet actual, ha hecho que el trabajo cambie, deje de ser necesariamente presencial y hemos ya pasado a soluciones hibridas (presencial + on-line) en muchas ocasiones. Si a eso le unimos la llegada y muy celebrada (por algunos) Inteligencia Artificial 44, la demanda de trabajadores se hunde y nuestro sistema no permite que haya suficientes consumidores (de vivienda, de servicios, de capital, de consumo, etc.) para que el sistema económico actual funcione. Ahora la innovación del mercado laboral será, si es posible, la semana de 4 días laborales trabajados (manteniendo el mismo sueldo): De este modo se repartiría un poco (20%) el trabajo disponible ente una demanda importante de nuevos trabajadores, con la esperanza de que se convirtiesen automáticamente en consumidores auto-financiados (sostenibles) que mantengan en pie (como consumidores) el tinglado económico en el que vivimos. La inteligencia Artificial no es inteligente, pero es un artefacto mediocre indistinguible o que supera a la mayoría de ciudadanos/humanos sin las limitaciones de estos, según los ojos de un departamento de Recursos Humanos. Las IAs 1) no tienen derechos ni existencia, 2) no pagan impuestos, 3) soportan jornadas laborales eternas, 4) tienen capacidades escalables según demanda, 5) no hacen huelgas 6) ni se sindican, etc., y sus únicas necesidades reales son 1) entrenarlas con datos buenos, abundantes y auténticos de lo que tiene que aprender, y 2) ponerlas en funcionamiento con silicio, electricidad y agua en cantidades ingentes.

Me recuerda un poco este posible desembarco de las IAS en el mercado laboral, a aquellas partidas de huérfanos45 que se llevaban a las primeras fábricas a limpiar y operar los primeros telares y máquinas de la primera Revolución Industrial en Inglaterra (1760-1840). Situación actualmente muy bien descrita gracias al trabajo de múltiples organizaciones benéficas, filántropos u autores de aquella época como es el caso de Charles Dickens46.

La Ciberseguridad, un ámbito en alza

Si nos centramos en el subapartado de la seguridad de los sistemas, Internet ya ha demostrado durante décadas que 1) es hija del devenir histórico y 2) que es esencialmente insegura, porque nadie pretendió en ningún momento que lo fuera. Por ello la Ciberseguridad es un ámbito en alza y casi todo el mundo acepta que su relevancia técnica y social seguirá a la de la digitalización del mundo. Sin embargo, quizás eso no signifique numerosas oportunidades de trabajo para humanos, sino que éstos podrían ser sustituidos por IAs tanto en la parte de la defensa (ciberseguridad) como en al del ataque (ciberdelincuencia), tal y como corresponde a un escenario “reactivo” como el actual.

El efecto de la Inteligencia Artificial puede terminar siendo más grave. Aunque ahora reconociésemos que son fallos de concepción/programación del software que va vida a la realidad digital, la única fuente (significativa) de riesgos digitales, podríamos volver a empezar e intentar una aproximación más segura “por diseño”. En ese caso habría que revisar/reprogramar todo lo que utilizamos y lo que utilizaremos y para ello necesitamos trabajadores muy listos.

Sin embargo, a la sombra de las propagandas (muchas veces infundadas) de los evangelistas de la IA, muchas empresas han corrido a seguir una moda dominante, y buscar en sus jerarquías y estructuras internas, qué puestos de trabajo podrían ser sustituidos/asistidos por Inteligencias Artificiales especialmente entrenadas para ellos por los vendedores de IA que proliferan como hongos.

Por supuesto de la calidad no hablamos todavía; pero 1) los ilustradores parecen haber perdido su trabajo gracias a la IAs generativas, y los siguientes que afrontan serios riesgos son 2) los profesores particulares, 3) los intérpretes 4) los traductores, 5) los asistentes de cualquier tipo, 6) los representantes de ventas de servicios (vendedores), 7) los escritores y autores de cualquier tipo, 8) los representantes de servicio al cliente (chatBots evolucionados), 9) los programadores de cualquier tipo, 10) los operadores telefónicos, 11) los agentes de viajes y billetería, 12) los agentes de bolsa y bancarios en general, 13) los educadores de cualquier tipo, 14) los conserjes, 15) los científicos, 16) los políticos, 17) los matemáticos, 18) los periodistas de noticias y los reporteros, 19) los escritores técnicos, 20) los correctores de pruebas y copistas, 21) los y las azafat@s, y 22) los Editores, entre algunos otros.

Los médicos radiólogos encargados de estudiarse las mamografías a la búsqueda de tumores, son una de las actividades más amenazadas ya que en este ámbito sanitario ha sido una de las primeras playas en los que ha desembarcado la IA, y el gran público lo ve como lógico y conveniente.

También hay mucho de inteligencia artificial en las actividades militares, tal es así, que hay riqueza suficiente, y muertos suficientes, para que empresas como Palantir47 sean una de las más rutilantes estrellas de la IA destructiva. En ejemplo de ello lo tenemos en el Proyecto Maven48 para la toma de decisiones (en principio) del ejército norteamericano, pero hay otros como Gospel y Lavender utilizados por el ejército israelí49 para llevar a cabo su genocida carpet bombing50 de la franja de Gaza51.

El futuro, hipotecado

Con todo esto ya sería terrible el efecto de la IA sobre la seguridad de todos, pero los efectos comentados no van más allá del presente, pero hay otros modos en los que ya se está hipotecando el futuro.

Casi todo el mundo acepta que el uso de las IAs es imparable. Los claustros universitarios se agitan para encontrar el modo de operar frente al fraude académico que supone que sean las IAs las que realmente aprueben los exámenes (presenciales o no) o hagan los ejercicios que se les En ningún caso quedarán seres humanos (como los actuales) encargados de manejar, programar y corregir el tejido digital que compondrá toda nuestra realidad de entonces en la que seremos todos meros consumidores (dormidos en los brazos de Matrix). manda a los estudiantes para su formación. Es conocido el miedo de algunas administraciones el efecto que pueden tener los “pinganillos invisibles”, el Bluetooth y los móviles, en sus codiciadas oposiciones.

Sin embargo, el problema más duradero vendrá de la facilidad con la que jóvenes (y adultos) recurren a las IAs para hacer algo que ellos tendrían que o deberían hacer. Que los hagan los adultos no es muy grave, aunque sea un fraude, pero que lo hagan los niños, los jóvenes en formación, significa que nunca adquirirán esas capacidades. Y llegara el día en que todos ellos constituyan la mayoría de la sociedad, de la fuerza de trabajo, de la fuerza de consumo, de la realidad en última instancia. Ese día la Humanidad estará en manos de los proveedores de las IAs, de sus entrenadores y de sus propietarios; y el mundo será muy distinto a este.

La Ciberseguridad del ecosistema digital no será más que un caso más entre todos los que compondrán la futura sociedad, y en él las IAs de un lado y de otro, gastarán ingentes cantidades de recursos (electricidad, agua, silicio, tierras raras, etc.) para ganar y perder sus pequeñas batallas, y ambos lados (ciberseguridad y ciberdelincuencia) seguirán extrayendo sus beneficios/rentas de nuestro Sociedad que, en última instancia, es la suma de todos sus ciudadanos. Pero en ningún caso quedarán seres humanos (como los actuales) encargados de manejar, programar y corregir el tejido digital que compondrá toda nuestra realidad de entonces en la que seremos todos meros consumidores (dormidos en los brazos de Matrix52). ¡Ojalá nos equivoquemos!.


1 Ver https://en.wikipedia.org/wiki/Firewall_(computing)
2 Ver https://www.incibe.es/empresas/blog/insiders-como-atacan-desde-dentro
3 Ver https://en.wikipedia.org/wiki/Social_engineering_(security)
4 Ver https://en.wikipedia.org/wiki/Millennials
5 Ver https://en.wikipedia.org/wiki/Generation_Z
6 Ver https://en.wikipedia.org/wiki/Neoliberalism
7 Ver https://en.wikipedia.org/wiki/Capitalism
8 Ver https://en.wikipedia.org/wiki/Adam_Smith
9 Ver https://en.wikipedia.org/wiki/Margaret_Thatcher
10 Ver https://en.wikipedia.org/wiki/Ronald_Reagan
11 Ver https://en.wikipedia.org/wiki/Globalization
12 Ver https://capitanswing.com/catalogo/el-minotauro-global/
13 Ver https://economipedia.com/definiciones/tiburon-financiero.html
14 Ver https://en.wikipedia.org/wiki/Inflation y https://en.wikipedia.org/wiki/Purchasing_power
15 Ver https://www.eleconomista.es/economia/noticias/13659153/11/25/la-venganza-de-lospigs-no-tiene-fin-espana-portugal-grecia-e-italia-arrasan-a-alemania-francia-o-austria-conlas-subidas-de-rating.html
16 Ver https://en.wikipedia.org/wiki/2008_financial_crisis
17 Ver https://en.wikipedia.org/wiki/John_Maynard_Keynes
18 Ver https://en.wikipedia.org/wiki/Gold_standard
19 Aitken, J: “Nixon: A Life. Washington, D.C.”: Regnery Publishing (1996). ISBN 978-0-89526-720-7
20 Ver https://en.wikipedia.org/wiki/Bretton_Woods_system
21 Ver https://en.wikipedia.org/wiki/Neoliberalism
22 Ver https://en.wikipedia.org/wiki/Milton_Friedman
23 Ver https://en.wikipedia.org/wiki/Chicago_school_of_economics
24 Ver https://en.wikipedia.org/wiki/Bankruptcy_of_Lehman_Brothers
25 Ver https://en.wikipedia.org/wiki/Economic_collapse
26 Ver https://en.wikipedia.org/wiki/Global_financial_system
27 Ver https://economipedia.com/definiciones/erario.html
28 Ver https://en.wikipedia.org/wiki/Dot-com_bubble
29 Ver https://es.wikipedia.org/wiki/El_Dorado
30 Ver https://en.wikipedia.org/wiki/Silicon_Valley
31 Ver https://en.wikipedia.org/wiki/Entrepreneurship
32 Ver https://es.wikipedia.org/wiki/Trabajo_asalariado_y_capital tener en cuenta que “The value or worth of a man, is as of all other things his price — that is to say, so much as would be given for the use of his power.” (Th. Hobbes: “Leviathan” in Works, Ed. Molesworth. Lond. 1839-44, v. iii. p. 76.)”
33 Ver https://en.wikipedia.org/wiki/E-commerce
34 Ver https://es.wikipedia.org/wiki/Yanis_Varoufakis
35 Ver https://es.wikipedia.org/wiki/Economía_feudal
36 Ver https://en.wikipedia.org/wiki/Social_class
37 Ver https://en.wikipedia.org/wiki/Tax_collector
38 Ver https://en.wikipedia.org/wiki/Vassal
39 Ver https://en.wikipedia.org/wiki/Jeff_Bezos
40 Ver https://en.wikipedia.org/wiki/List_of_wealthiest_Americans_by_net_worth
41 Ver https://en.wikipedia.org/wiki/Catalysis
42 Ver https://www.ctxt.es/es/20240701/Politica/46983/yanis-varoufakis-tecnofeudalismocapitalismo-capital-nube-entrevista.htm
43 Ver https://psicologiaymente.com/cultura/siervos-de-gleba
44 Ver https://en.wikipedia.org/wiki/Artificial_intelligence
45 Ver https://www.worldhistory.org/trans/es/2-2216/trabajo-infantil-en-la-revolucionindustrial-brita/
46 Ver https://en.wikipedia.org/wiki/Charles_Dickens
47 Ver https://www.palantir.com/
48 Ver https://en.wikipedia.org/wiki/Project_Maven
49 Ver https://en.wikipedia.org/wiki/AI-assisted_targeting_in_the_Gaza_Strip
50 Ver https://en.wikipedia.org/wiki/Carpet_bombing
51 Ver https://en.wikipedia.org/wiki/Gaza_genocide
52 Ver https://en.wikipedia.org/wiki/The_Matrix