La falta de datos independientes oscurece el uso real de la inteligencia artificial

Las empresas líderes en el desarrollo de inteligencia artificial, como Anthropic y OpenAI, publican con regularidad informes detallados sobre la interacción de los usuarios con sus productos, entre ellos los populares Claude y ChatGPT. Sin embargo, esta práctica presenta una laguna significativa: la información proporcionada es únicamente la que las propias compañías deciden hacer pública. Este hecho genera inquietud en la comunidad investigadora, que subraya la falta de mecanismos independientes para verificar tales afirmaciones.

La opacidad inherente a este modelo de divulgación de datos obstaculiza la capacidad de evaluadores externos para comprender el verdadero alcance y la naturaleza del uso de la IA. Anka Reuel, candidata a doctorado en Ciencias de la Computación en el Stanford Trustworthy AI Research, ha señalado explícitamente que "no existe una fuente independiente que lo corrobore". Esta ausencia de verificación externa implica que la comunidad científica, los reguladores y el público en general carecen de una visión completa y sin filtros sobre cómo estas tecnologías están siendo adoptadas y aplicadas en entornos reales.

La implicación de esta situación es profunda. Sin un conocimiento transparente y validado de los patrones de uso, resulta complejo discernir los beneficios tangibles, identificar posibles riesgos o sesgos, y anticipar las ramificaciones sociales y éticas de la inteligencia artificial. La capacidad de guiar el desarrollo futuro de la IA de manera responsable y de formular políticas públicas informadas depende crucialmente de la disponibilidad de datos de uso fiables e imparciales.

No existe una fuente independiente que lo corrobore.

Anka Reuel, Candidata a doctorado en Ciencias de la Computación en Stanford Trustworthy AI Research