ā€œVamos a ser tontos, pero muy tontos...ā€

MĆ”quinas contra mĆ”quinas, equipos de IAs como asistentes de los CISOs, IAs parando ataques e infiltrĆ”ndose en las redes criminales para rescatar información empresarial, SOCs de IAs -jefas de departamentos de IAs-, en jornadas laborales de 24x7, recorriendo las redes y comunicaciones en busca de indicios de incidentes, de posibles insiders, incluso identificando a los que lo van a ser en el mĆ”s puro estilo de ā€˜Minority Report’ (2002). La imaginación permite vislumbrar un mundo inquietante plagado de IAs, no siempre al servicio de las personas. Y donde la seguridad de la información, la ciberseguridad, se va a convertir en la ā€˜Ćŗltima frontera’ frente a los desmanes con datos, identidades, operaciones de negocio, despliegue de tecnologĆ­a a cargo de sistemas autónomos que seguramente precisarĆ”n, incluso, de un ā€˜botón rojo’ para apagarlos en caso de riesgo crĆ­tico –la propia Google reconoció que habĆ­a patentado algo parecido–.

ĀæCiencia o ficción? Recientemente, Sam Altman, el CEO de OpenAI, dijo que ā€œno hay bunker que te libre de una IA fuera de controlā€. Lógicamente, luego matizó sus palabras. Porque da que pensar que el responsable de una de las IA Generativas mĆ”s usadas del mundo plantee el concepto de ā€˜IA fuera de control’ –¿QuĆ© habrĆ” visto en sus laboratorios de pruebas?–. Y no es el Ćŗnico: Geoffrey Hinton, el cientĆ­fico estadounidense que ganó el Premio Nobel de FĆ­sica en 2024, junto a John Hopfield, por sus trabajos en este campo ha reconocido que ve ā€œmuy preocupantesā€ los avances tecnológicos en esa materia y advirtió de una catĆ”strofe si no se controlan. Y ese control darĆ” pie a una nueva familia de lo que denominamos ciberseguridad, pero aplicada al control de las ā€˜mĆ”quinas pensantes’, tĆ©rmino con el que se denominaba esta tecnologĆ­a hasta que, en 1956, el matemĆ”tico e informĆ”tico teórico, John McCarthy en la ā€˜Convención de Dartmouth’, enunció lo que entendemos por IA: ā€œla ciencia e ingenio de hacer mĆ”quinas inteligentes, especialmente programas de cómputo inteligentesā€.

Esperando la singularidad, cibersegura

Y es que no hay dĆ­a que alguien no se plantee cuĆ”ndo podrĆ­a alcanzarse la temida –¿y esperada?– ā€œsingularidad tecnológicaā€. Dos palabras que marcan el momento en el que la IA creada por el hombre sea mucho mĆ”s ā€˜inteligente’ que Ć©l, bautizada como Superinteligencia Artificial (ASI). Que sea capaz de hacer cosas que nunca llegaremos a comprender. Elon Musk sitĆŗa este mismo aƱo la IA general (AGI), la que nos iguala. Otros como Ray Kurzweil ven posible la ASI en 2030, muchos otros para 2040 –cuando consideran que conviviremos con robots–. LlegarĆ”. MĆ”xime si se tiene en cuenta que son las IAs las que estĆ”n trabajando en su propio código, ademĆ”s de muchos humanos.

Uno de los cofundadores de OpenAI, Ilya Sutskever, abandonó en 2024 la compaƱƭa y fundó Safe Superintelligence Inc. (SSI), que en menos de un aƱo ha recibido una inversión de mĆ”s de 900 millones de euros para desarrollar una Superinteligencia que, ademĆ”s, asegura, sea cibersegura. Para ello, para ā€˜domarla’, para evitar que haga cosas fuera de nuestra comprensión tendrĆ” que partir de la ciberseguridad actual pero desarrollar una nueva que pueda detectar y parar riesgos y lĆ­mites de la ASI que no alcanzamos a imaginar. ĀæLlegarĆ” la ā€˜SuperCiberseguridad’?

De momento, usar la IA sin control nos vuelve tontos –¿quizĆ” como los ocupantes de la nave de la pelĆ­cula Wall-e?–, ā€œpero muy tontosā€, como dice JosĆ© Mota. AsĆ­ lo destaca una investigación de Microsoft Research y la Universidad Carnegie Mellon que alerta de que la dependencia de herramientas de IA, sin cuestionar su validez, reduce el esfuerzo cognitivo aplicado al trabajo. Lo dicho: nos hace tontos.

En 1947 muchos de los cientĆ­ficos del ā€˜Proyecto Manhattan’ –que creó la primera bomba atómica– ā€˜pusieron en marcha’ un simbólico ā€˜Reloj del Apocalipsis’ (a siete minutos de la medianoche). Este aƱo se adelantó un segundo, quedĆ”ndose a 89. Muchos han defendido que la IA es un hype, una moda que pasarĆ” (como ya hizo en los aƱos 50 y 80), que estĆ” cerca de su ā€˜invierno’... Pero cada vez mĆ”s cientĆ­ficos consideran que vive su primera gran primavera y que lo que viene, sin ā€˜cibersegurIAdad’, no tiene pinta de terminar bien...

Your browser is out-of-date!

Update your browser to view this website correctly.Update my browser now

×