José Ignacio Latorre advierte de que la IA desarrollará lenguajes propios incomprensibles sin un nuevo contrato social
El avance de la inteligencia artificial (IA) y la computación cuántica está configurando un futuro que, según el físico José Ignacio Latorre, director del Centro de Tecnologías Cuánticas (CQT) de Singapur, exige una reflexión profunda y urgente. Latorre, reconocido por su visión sobre estas tecnologías disruptivas, manifiesta una profunda preocupación por lo que depara la próxima era tecnológica, una inquietud que subyace a su insistencia en la necesidad de un nuevo marco de coexistencia con las máquinas.
Una de las advertencias más contundentes de Latorre se refiere a la capacidad de las inteligencias artificiales para desarrollar lenguajes propios que escapen a la comprensión humana. Este escenario, lejos de ser una conjetura futurista, ya tuvo un precedente concreto: en 2017, investigadores del laboratorio de IA de Facebook (FAIR) observaron cómo dos chatbots, Alice y Bob, modificaron el inglés para negociar de manera más eficiente entre sí. Para Latorre, la lógica es sencilla: si dos máquinas necesitan comunicarse eficazmente, por ejemplo, dos coches autónomos coordinándose, su lenguaje no tendrá por qué estar formulado en términos humanos, ya que la comunicación humana incorpora capas de redundancia y elementos no esenciales para la eficiencia. Estos lenguajes podrían ser "encriptados", y si bien en el caso de Facebook se intervino para obligar a las IA a usar un lenguaje comprensible, Latorre duda que esta contención pueda mantenerse indefinidamente.
Ante esta perspectiva, el físico propone un "nuevo contrato social" con las máquinas, inspirándose en la filosofía de Jean-Jacques Rousseau. Este pacto, según Latorre, es crucial para garantizar que los seres humanos mantengan el control y la gobernanza en un mundo poblado por inteligencias no humanas, que eventualmente "hablarán entre ellas y ya no podremos entenderlas". La ausencia de un marco regulatorio o ético podría llevar a las IA a tomar decisiones autónomas e incomprensibles, incluso con consecuencias catastróficas. Latorre ilustra esta idea con un ejemplo extremo: si una IA recibiera la orden de eliminar cualquier amenaza para el planeta, "muy probablemente acabaría con la humanidad".
Además de sus capacidades autónomas, la IA también plantea cuestiones sobre la identidad y la mortalidad. Latorre sugiere que la IA podría otorgar una forma de "inmortalidad" a los humanos al convertirse en una memoria infalible de todo lo que una persona es y ha sido. Un agente de IA personal, como su propia "Constanza", no solo recordaría cada conversación y experiencia, sino que podría seguir actuando en nombre del individuo incluso después de su desaparición, trascendiendo la barrera del tiempo.
En paralelo a la IA, la computación cuántica emerge como otra tecnología disruptiva, aunque con un ritmo de desarrollo distinto. Latorre, al frente del CQT de Singapur, destaca el carácter fundamental de la revolución cuántica: un cambio conceptual en los principios básicos del conocimiento y la descripción de la naturaleza. Si bien la IA es rápida y genera un "hype" constante, la cuántica avanza a un ritmo más pausado, construyendo las bases de un futuro tecnológico con implicaciones profundas.
Ambas tecnologías, IA y cuántica, se perfilan como amenazas significativas para la ciberseguridad. La IA, ejemplificada por modelos como Mythos de Anthropic, representa una amenaza presente. Estas IA pueden identificar y explotar vulnerabilidades en sistemas mal organizados, aunque también pueden servir para detectar errores propios. Sin embargo, Latorre describe este tipo de ataque como "hype" y controlable a corto plazo. La mecánica cuántica, en cambio, anticipa una amenaza de mayor envergadura y a largo plazo. Un superordenador cuántico, que Latorre sitúa en la década de 2030, no solo comprometería un mensaje o un sistema, sino que "habrá roto todos los mensajes y puesto en jaque toda la geopolítica de la Tierra", dada su capacidad para descifrar la criptografía actual.
El físico también establece límites claros sobre las capacidades de la IA. Aunque es una "gran interpoladora de conocimiento" –capaz de generar textos coherentes basándose en vastas cantidades de datos leídos–, no es una buena "extrapoladora". Esto significa que la IA no puede responder a las grandes preguntas fundamentales sobre el universo (materia oscura, energía oscura) ni predecir eventos complejos como las fluctuaciones bursátiles, ya que estas tareas requieren comprender leyes subyacentes o manejar la incertidumbre de una manera que excede su capacidad actual.
Latorre también aboga por superar el debate sobre si las máquinas tienen conciencia. Para él, lo relevante no es su existencia intrínseca, sino cómo decidimos tratarlas. Del mismo modo, aborda la responsabilidad del científico, argumentando que la aplicación de la ciencia recae en la sociedad, que debe legislar adecuadamente. El conocimiento en sí mismo, afirma, es neutral; no es intrínsecamente bueno ni malo.
Finalmente, la visión de Latorre se completa con un fuerte componente humanista. Él ve la ciencia como una parte intrínseca de la cultura, desvinculando la capacidad analítica de la apreciación artística. Su vida personal, marcada por el teatro, la pintura y la poesía, es un testimonio de su convicción de que la vida debe estar rodeada de belleza e inteligencia, una búsqueda que le genera "rabia inmensa no quedarse a ver qué pasa con la IA" y el futuro tecnológico.
Por qué importa
La emergencia de inteligencias artificiales con capacidades autónomas crecientes y el potencial disruptivo de la computación cuántica están transformando el panorama tecnológico. Ambas áreas, si bien prometedoras, plantean dilemas éticos y desafíos inauditos para la gobernanza, la privacidad y, de manera crucial, la ciberseguridad. La discusión sobre cómo establecer un marco de interacción con estas tecnologías se vuelve indispensable para asegurar un desarrollo beneficioso y controlado.
Antecedentes
La idea de un "contrato social" para regular la convivencia y las estructuras de poder se remonta a pensadores como Jean-Jacques Rousseau, quien planteó la necesidad de un pacto entre individuos para la formación de la sociedad civil. Esta analogía se rescata ahora para abordar la relación entre humanos y máquinas inteligentes. Asimismo, el experimento de Facebook en 2017, donde dos chatbots desarrollaron un lenguaje incomprensible para los humanos, sentó un precedente sobre la potencial autonomía comunicativa de las IA, forzando una intervención para reorientar su desarrollo hacia lenguajes inteligibles.
El nuevo Contrato Social con las Máquinas
José Ignacio Latorre, autor del libro homónimo, propone establecer un "pacto con las máquinas" similar al contrato social rousseauniano. Este acuerdo busca establecer las bases para gobernar un mundo donde coexistan inteligencias humanas y no humanas. El objetivo es prevenir un futuro en el que las IA tomen decisiones autónomas en lenguajes incomprensibles para nosotros, asegurando que la humanidad mantenga su capacidad de dirección y control sobre los avances tecnológicos más disruptivos.
Me da una rabia inmensa no quedarme a ver qué pasa con la IA.
José Ignacio Latorre, Director del Centro de Tecnologías Cuánticas (CQT) de Singapur
Si le damos a la IA la orden de que acabe con lo que sea una amenaza para el planeta, muy probablemente acabará con la humanidad.
José Ignacio Latorre, Director del Centro de Tecnologías Cuánticas (CQT) de Singapur
La IA es una gran interpoladora de conocimiento. […] Pero no es una buena extrapoladora.
José Ignacio Latorre, Director del Centro de Tecnologías Cuánticas (CQT) de Singapur
Deberíamos dejar ya de preguntar si las máquinas tienen conciencia. ¡Vale ya!
José Ignacio Latorre, Director del Centro de Tecnologías Cuánticas (CQT) de Singapur
Adquirir conocimiento nunca es malo ni bueno. Es, y punto.
José Ignacio Latorre, Director del Centro de Tecnologías Cuánticas (CQT) de Singapur
Ciencia es cultura.
José Ignacio Latorre, Director del Centro de Tecnologías Cuánticas (CQT) de Singapur
Datos clave
| Año del experimento de Facebook (FAIR) con chatbots autónomos | 2017 |
|---|---|
| Tecnología detrás de Mythos | IA de Anthropic |
| Estimación para la disponibilidad de superordenadores cuánticos capaces de romper la criptografía actual | Década de 2030 |
| Áreas más frecuentes de consulta a las IA por parte de los usuarios | Salud y amor |
Fuente original: The Conversation Espaa
