ia

La computación óptica y un nuevo entrenamiento buscan la eficiencia en la IA

Científicos de la Universidad de Tokio redefinen el aprendizaje de redes neuronales y la arquitectura para reducir el consumo computacional.

El avance exponencial de la inteligencia artificial (IA) ha conllevado un incremento sustancial en la demanda de potencia computacional. Este requisito, que se traduce en mayor consumo energético y disipación de calor durante el entrenamiento y la ejecución de modelos sofisticados, plantea un desafío para la sostenibilidad del sector. Ante esta situación, investigadores de la Universidad de Tokio han presentado un método que redefine el paradigma de aprendizaje de las redes neuronales, empleando la luz para efectuar cálculos en lugar de la electrónica tradicional.

Según informa Hackster.io, este enfoque, detallado en un artículo publicado en Nature Computational Science, combina una nueva técnica de entrenamiento con una arquitectura de red neuronal simplificada. El objetivo es incrementar la eficiencia de los sistemas de IA sin comprometer su rendimiento.

La metodología de entrenamiento propuesta, denominada state-skipping direct feedback alignment (SS-DFA), se distancia del proceso convencional de retropropagación. A diferencia de este, que requiere almacenar resultados intermedios para ajustar los parámetros de la red, SS-DFA utiliza el error final para guiar el aprendizaje sin necesidad de acceder a esos estados intermedios. Este diseño reduce de forma considerable la cantidad de computación, medición y almacenamiento de datos durante la fase de entrenamiento.

Paralelamente, el equipo ha desarrollado una arquitectura de ‘mapa único’ que simplifica las conexiones internas complejas, sustituyéndolas por dinámicas unidimensionales. En lugar de una red elaborada de componentes interconectados, el sistema se basa en la aplicación repetida de una estructura computacional más sencilla.

Para validar su planteamiento, los investigadores construyeron una plataforma de computación optoelectrónica que aprovecha el comportamiento físico de la luz para procesar información. A diferencia de los procesadores que manipulan señales eléctricas, los sistemas de computación óptica utilizan la velocidad de la luz y su capacidad para procesar múltiples señales de manera simultánea. En simulaciones y experimentos físicos, este marco simplificado alcanzó un rendimiento equiparable al de las redes neuronales profundas convencionales, pero con un número menor de parámetros entrenables y una reducción significativa en la carga computacional. Cuando se integró en arquitecturas de redes neuronales existentes, el método mejoró el rendimiento y disminuyó los requisitos computacionales en aproximadamente un 40%.

No obstante, la tecnología se encuentra en una etapa temprana de desarrollo y requiere más trabajo antes de su aplicación práctica. El equipo no ha probado el enfoque en los grandes modelos de lenguaje actuales ni en sistemas de IA multimodales. Asimismo, la miniaturización del hardware óptico, la mejora de su estabilidad y el desarrollo de técnicas de fabricación escalables son desafíos pendientes.

Estos resultados sugieren que el camino hacia una IA más eficiente no radica exclusivamente en el desarrollo de procesadores cada vez más potentes. La simplificación del proceso de aprendizaje y el aprovechamiento de las propiedades naturales de la luz podrían permitir que futuros sistemas de IA ofrezcan un rendimiento comparable con un menor coste computacional.

Fuente original: Hackster.io

Publicaciones Similares

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *