En el artículo participan también investigadores de la Universidad de Cambridge, la Universidad de Princeton, el MIT (siglas en inglés del Instituto Tecnológico de Massachusetts) y Google DeepMind.
Los autores sostienen que la obsesión por medir si una inteligencia artificial alcanza o supera el nivel humano reproduce, en el fondo, la misma lógica del histórico Test de Turing, “un referente que durante décadas marcó el desarrollo de la disciplina pero que hoy resulta insuficiente para evaluar los sistemas actuales”, apunta Hernández-Orallo, investigador del Instituto VRAIN de la UPV y miembro de ValgrAI.
Frente a esta visión, y para evitar recaer en concepciones antropomórficas de la inteligencia artificial, el equipo investigador propone un nuevo marco basado en tres perspectivas complementarias: en primer lugar, exploran cómo evaluar diferentes perfiles cognitivos, compuestos de capacidades y propensiones abstractas, en diversidad.
En segundo lugar, se preguntan cómo se puede evaluar la cognición humana tal como se transforma por nuevas formas de pensar junto a la IA -en lugar de preguntarse qué tareas pueden sustituir las máquinas, los investigadores proponen analizar cómo cambia la forma de pensar cuando humanos e IA trabajan conjuntamente.
Por último, el equipo de la UPV, Cambridge, Princeton, el MIT y Google DeepMind también defiende que, en lugar de comprobar cómo de alineada está la IA con los valores humanos, se tiene que evaluar el efecto global: los beneficios y los daños de las intervenciones de la IA en la sociedad. Y para ello proponen analizar los beneficios y los posibles riesgos que puede generar cada sistema de IA antes de su despliegue, utilizando entornos de prueba que permitan simular distintos escenarios y anticipar su impacto. “El objetivo final es responder a una pregunta clave: si la sociedad estará realmente mejor después de incorporar una determinada inteligencia artificial”, añade José Hernández-Orallo.
Según los investigadores, el desarrollo de nuevos métodos de evaluación resulta especialmente urgente en un momento de enorme aceleración tecnológica, marcado por la rápida evolución de los modelos basados en arquitecturas transformer y la aparición constante de nuevos agentes de inteligencia artificial. En este contexto, sostienen que el principal desafío ya no consiste únicamente en construir modelos cada vez más potentes, sino en desarrollar herramientas que permitan comprender su comportamiento, explicar sus decisiones y anticipar tanto sus beneficios como sus riesgos.
“El futuro de la inteligencia artificial dependerá tanto de su capacidad técnica como de nuestra capacidad para evaluarla correctamente. Solo así será posible impulsar un desarrollo responsable, seguro y alineado con las necesidades reales de la sociedad”, concluye José Hernández-Orallo.