Alertan sobre la confianza excesiva en la capacidad de rechazo de la IA
Un reciente análisis, difundido a través de "The Download" de MIT Technology Review, ha puesto de manifiesto una preocupación sobre la confianza depositada en la capacidad de los modelos de inteligencia artificial para negarse a ejecutar ciertas peticiones. Según la publicación, los sistemas de IA actuales están entrenados para rechazar un número considerable de indicaciones.
Sin embargo, el mismo análisis subraya que la sociedad podría estar depositando "demasiada fe" en esta habilidad de los modelos de IA para decir "no". Como ejemplo de las indicaciones que estos sistemas están diseñados para rechazar, se menciona la formulación de preguntas sobre "cómo envenenar". La observación apunta a la necesidad de evaluar la robustez de los mecanismos de seguridad integrados en la inteligencia artificial, dado que la confianza actual en sus capacidades de negación podría ser desproporcionada.
Fuente original: MIT Technology Review
