La complejidad no resuelta: límites de la IA generativa en ingeniería

La adopción creciente de herramientas de inteligencia artificial generativa, como ChatGPT o Claude, ha generado una percepción de que el desarrollo de software es más sencillo y rápido de lo que los equipos de ingeniería han demostrado hasta ahora. Esta perspectiva ha llevado a cuestionamientos sobre la productividad de los ingenieros, incluso en un contexto donde algunos roles han enfrentado reestructuraciones o despidos.

Un análisis publicado en IEEE Spectrum destaca que esta ilusión de simplicidad surge a menudo de lo que denomina el ‘desarrollo impulsado por demostraciones’. Las herramientas de IA generativa y el marketing asociado pueden crear la impresión de que el trabajo de ingeniería es menos complejo. Una demostración funcional de un sitio web, por ejemplo, puede ocultar las profundas complejidades subyacentes, llevando a la convicción de que los ingenieros ya no son necesarios o que su trabajo es excesivamente lento.

Sin embargo, la realidad de un sistema en producción difiere sustancialmente de una demo controlada. Un producto real debe integrarse en sistemas preexistentes que a menudo contienen millones de líneas de código, cumplir con requisitos legales, adherirse a estándares de accesibilidad y ser desplegado mediante procesos complejos. La creencia de que la escritura de código es el único cuello de botella en el desarrollo de software es una simplificación excesiva, comparada por la publicación con la visión del iceberg solo por su punta.

En este escenario, los ingenieros poseen una posición única. Su capacidad para comprender el funcionamiento de los modelos de IA, incluyendo su naturaleza probabilística, la función de los tokens o la importancia de los datos de entrenamiento, les permite desmitificar las capacidades y limitaciones de estas herramientas. La propuesta es que los ingenieros capitalicen este conocimiento para educar a los equipos de liderazgo sobre la distinción entre una demo y un sistema productivo robusto. Además, se les insta a examinar críticamente los procesos internos y a encontrar su voz para defender las metodologías que aseguran la construcción de productos seguros y útiles para los usuarios.

El objetivo último, según la fuente, es evitar que las organizaciones sucumban completamente a la euforia de la IA, lo que podría llevarlas a perseguir objetivos equivocados. La construcción de productos fiables y funcionales sigue siendo la misión principal, una tarea para la cual la experiencia ingenieril continúa siendo fundamental.