āVamos a ser tontos, pero muy tontos...ā
MĆ”quinas contra mĆ”quinas, equipos de IAs como asistentes de los CISOs, IAs parando ataques e infiltrĆ”ndose en las redes criminales para rescatar información empresarial, SOCs de IAs -jefas de departamentos de IAs-, en jornadas laborales de 24x7, recorriendo las redes y comunicaciones en busca de indicios de incidentes, de posibles insiders, incluso identificando a los que lo van a ser en el mĆ”s puro estilo de āMinority Reportā (2002). La imaginación permite vislumbrar un mundo inquietante plagado de IAs, no siempre al servicio de las personas. Y donde la seguridad de la información, la ciberseguridad, se va a convertir en la āĆŗltima fronteraā frente a los desmanes con datos, identidades, operaciones de negocio, despliegue de tecnologĆa a cargo de sistemas autónomos que seguramente precisarĆ”n, incluso, de un ābotón rojoā para apagarlos en caso de riesgo crĆtico āla propia Google reconoció que habĆa patentado algo parecidoā.

JosƩ Manuel Vera
Redactor
Revista SIC
ĀæCiencia o ficción? Recientemente, Sam Altman, el CEO de OpenAI, dijo que āno hay bunker que te libre de una IA fuera de controlā. Lógicamente, luego matizó sus palabras. Porque da que pensar que el responsable de una de las IA Generativas mĆ”s usadas del mundo plantee el concepto de āIA fuera de controlā āĀæQuĆ© habrĆ” visto en sus laboratorios de pruebas?ā. Y no es el Ćŗnico: Geoffrey Hinton, el cientĆfico estadounidense que ganó el Premio Nobel de FĆsica en 2024, junto a John Hopfield, por sus trabajos en este campo ha reconocido que ve āmuy preocupantesā los avances tecnológicos en esa materia y advirtió de una catĆ”strofe si no se controlan. Y ese control darĆ” pie a una nueva familia de lo que denominamos ciberseguridad, pero aplicada al control de las āmĆ”quinas pensantesā, tĆ©rmino con el que se denominaba esta tecnologĆa hasta que, en 1956, el matemĆ”tico e informĆ”tico teórico, John McCarthy en la āConvención de Dartmouthā, enunció lo que entendemos por IA: āla ciencia e ingenio de hacer mĆ”quinas inteligentes, especialmente programas de cómputo inteligentesā.
Esperando la singularidad, cibersegura
Y es que no hay dĆa que alguien no se plantee cuĆ”ndo podrĆa alcanzarse la temida āĀæy esperada?ā āsingularidad tecnológicaā. Dos palabras que marcan el momento en el que la IA creada por el hombre sea mucho mĆ”s āinteligenteā que Ć©l, bautizada como Superinteligencia Artificial (ASI). Que sea capaz de hacer cosas que nunca llegaremos a comprender. Elon Musk sitĆŗa este mismo aƱo la IA general (AGI), la que nos iguala. Otros como Ray Kurzweil ven posible la ASI en 2030, muchos otros para 2040 ācuando consideran que conviviremos con robotsā. LlegarĆ”. MĆ”xime si se tiene en cuenta que son las IAs las que estĆ”n trabajando en su propio código, ademĆ”s de muchos humanos.
Uno de los cofundadores de OpenAI, Ilya Sutskever, abandonó en 2024 la compaƱĆa y fundó Safe Superintelligence Inc. (SSI), que en menos de un aƱo ha recibido una inversión de mĆ”s de 900 millones de euros para desarrollar una Superinteligencia que, ademĆ”s, asegura, sea cibersegura. Para ello, para ādomarlaā, para evitar que haga cosas fuera de nuestra comprensión tendrĆ” que partir de la ciberseguridad actual pero desarrollar una nueva que pueda detectar y parar riesgos y lĆmites de la ASI que no alcanzamos a imaginar. ĀæLlegarĆ” la āSuperCiberseguridadā?
De momento, usar la IA sin control nos vuelve tontos āĀæquizĆ” como los ocupantes de la nave de la pelĆcula Wall-e?ā, āpero muy tontosā, como dice JosĆ© Mota. AsĆ lo destaca una investigación de Microsoft Research y la Universidad Carnegie Mellon que alerta de que la dependencia de herramientas de IA, sin cuestionar su validez, reduce el esfuerzo cognitivo aplicado al trabajo. Lo dicho: nos hace tontos.
En 1947 muchos de los cientĆficos del āProyecto Manhattanā āque creó la primera bomba atómicaā āpusieron en marchaā un simbólico āReloj del Apocalipsisā (a siete minutos de la medianoche). Este aƱo se adelantó un segundo, quedĆ”ndose a 89. Muchos han defendido que la IA es un hype, una moda que pasarĆ” (como ya hizo en los aƱos 50 y 80), que estĆ” cerca de su āinviernoā... Pero cada vez mĆ”s cientĆficos consideran que vive su primera gran primavera y que lo que viene, sin ācibersegurIAdadā, no tiene pinta de terminar bien...