Inteligencia artificial ejecutada cerca del usuario o del dispositivo, con mayor control, privacidad y autonomía.
Un nuevo dispositivo denominado IronEar busca ofrecer una alternativa a los sistemas de seguridad basados en vídeo, centrándose en la detección de sonidos. Este nodo sensor procesa el audio localmente, abordando preocupaciones sobre la privacidad y las limitaciones inherentes a la vigilancia visual.
La ejecución de grandes modelos de lenguaje (LLMs) ha estado tradicionalmente asociada a la disponibilidad de unidades de procesamiento gráfico (GPU) de alto rendimiento. Sin embargo, un reciente informe de Hackaday ha puesto de manifiesto la viabilidad de desplegar LLMs avanzados en infraestructura de servidor más antigua y sin capacidad GPU dedicada, abriendo nuevas vías para la implementación local de estas tecnologías.
Un experimento reciente demuestra la viabilidad de utilizar servidores antiguos con capacidad de memoria masiva para el despliegue local de modelos de inteligencia artificial, priorizando la capacidad sobre la velocidad de procesamiento. Esta aproximación aborda el principal obstáculo para operar modelos de IA emblemáticos fuera de la nube: la disponibilidad de memoria.
Alif Semiconductor ha presentado dos nuevas placas de desarrollo, los StartKits Ensemble y Balletto, diseñadas para simplificar la experimentación con sus microcontroladores de bajo consumo optimizados para el aprendizaje automático (tinyML). Estos kits buscan expandir la accesibilidad a la tecnología de IA en el borde.
LattePanda ha presentado el Mu Ultra, su más reciente módulo de computación (COM) diseñado para el procesamiento de alto rendimiento en el borde. Este dispositivo incorpora procesadores Intel Core Ultra 5 o Core Ultra 7 y 16GB de memoria RAM, orientándose a aplicaciones de inteligencia artificial en entornos con restricciones de espacio y energía.
Un novedoso proyecto ha logrado integrar un modelo de lenguaje de reducidas dimensiones en un microcontrolador, creando un acuario virtual autónomo. Esta implementación subraya el potencial de la inteligencia artificial especializada para operar en dispositivos con recursos limitados, sin necesidad de conexión a la red.
Brenpoly ha desarrollado PolyMO, un innovador dispositivo que busca ofrecer una alternativa a los sistemas convencionales de control del tiempo de pantalla. A través de una conexión Bluetooth con el teléfono, la mascota virtual reacciona negativamente al uso prolongado de aplicaciones, buscando que el impacto emocional fomente un uso más consciente.
Michael Klements ha presentado un cyberdeck diseñado para recrear una experiencia de internet completa, pero operando de forma autónoma y sin dependencia de una conexión externa. El sistema se basa en un mini PC y una pila de software de código abierto.
Raul Muñoz ha desarrollado un sistema que permite integrar funcionalidades inteligentes en cintas de correr sin necesidad de modificar su hardware. La solución aborda la limitación de equipos antiguos o alquilados al transformarlos en dispositivos conectados compatibles con aplicaciones de fitness.
Un proyecto reciente ha logrado ejecutar un modelo de lenguaje grande (LLM) de 135 millones de parámetros de forma completamente local en un microcontrolador ESP32-S3, valorado en aproximadamente 10 dólares. Este desarrollo, aunque lento, ilustra la capacidad de adaptar tecnologías de inteligencia artificial a hardware de muy bajo coste mediante técnicas avanzadas de optimización.
