¿Debemos dejar que la inteligencia artificial optimice la sociedad?

(Raúl Jiménez, Universitat de Barcelona; Licia Verde, Universitat de Barcelona y Rabih Zbib, Massachusetts Institute of Technology

La gran innovación del siglo XXI ha sido el advenimiento del big data y el aprendizaje automático profundo. Un ejemplo es la inteligencia artificial (IA). ¿Alguien podría haber imaginado en 1990 que una computadora derrotaría a cualquier humano en ajedrez o Go? El libro The Emperor’s New Mind, publicado ese mismo año por el matemático y ganador del premio Nobel Roger Penrose, argumentaba enérgicamente contra esta posibilidad. Hoy, cualquiera puede traducir otro idioma desde su móvil sobre la marcha.

Image description

Esta revolución tiene dos componentes. Primero, la disponibilidad de enormes cantidades de datos sobre todos los aspectos de nuestra sociedad: nuestra ubicación, la frecuencia de nuestras transacciones bancarias, nuestras preferencias cuando vemos películas… Segundo, la capacidad de la inteligencia artificial de dar sentido a estos datos.

Para entender el poder de la IA, imagínese tener un modelo para un fenómeno: si este es exacto, se pueden hacer predicciones con él. Por ejemplo, consideremos la teoría física de la relatividad general de Einstein. Si queremos construir una red GPS necesitamos aplicar esta teoría para desarrollar dicho dispositivo.

Por otro lado, considere el lector fenómenos para los cuales no tenemos un modelo eficaz, como las interacciones sociales y el lenguaje. Hasta el siglo XXI se creía que sin un modelo no se podía predecir nada. Sin embargo, la red neuronal resuelve esto buscando y utilizando patrones y correlaciones en los datos. A saber: no tenemos una idea clara de qué es el lenguaje, pero tenemos algoritmos casi perfectos para traducir idiomas. Tampoco tenemos una teoría sobre los gustos cinéfilos de la gente, pero los servicios de streaming nos aconsejan películas que nos pueden gustar.

Dada la capacidad de la IA para gestionar y dar sentido a cualquier cantidad de datos, ¿por qué no dejamos que la IA optimice la sociedad? ¿Suena a herejía? Un caso concreto: La gestión global de la pandemia de COVID-19 no ha sido óptima por los gobiernos del mundo.

Si bien casi todos reconocen la importancia primordial de los datos científicos, y algunos han intentado utilizarlos de la manera más eficiente, otros simplemente no han podido digerir lo que decían los datos. Incluso el país más exitoso en vacunar a sus ciudadanos, Israel, se ha visto afectado por una enorme mala gestión y errores en el manejo de la pandemia. Otros países tienen campañas de vacunación erráticas o populistas; ninguno ha podido optimizar su estrategia. Estamos jugando con vidas humanas. ¿Podría la IA haberlo gestionado mejor?

La manera en que la IA aprende los patrones y aprovecha las correlaciones encontradas en cantidades masivas de datos es minimizando un conjunto de aspectos y cantidades y maximizando otros. En lenguaje técnico, optimizando una función de coste (cost function). Por ejemplo, en el caso de un banco, la IA proporciona la manera óptima de maximizar el retorno de beneficios.

Ningún país ha intentado utilizar la IA para decidir quién debe vacunarse y cuándo. El uso de algoritmos no implica necesariamente mejor toma de decisiones. Uno mal diseñado siempre dará malos resultados: el probado en el Centro Médico de Stanford (EE. UU.) dejó fuera a los médicos que se enfrentaban a la pandemia en primera línea y puso por delante a algunos que trabajaban desde casa.

¿Pueden los algoritmos superar nuestros sesgos?

El siguiente paso sería argumentar que tal vez la IA no solo debería optimizar las respuestas de la sociedad a las pandemias, sino también otros aspectos de nuestras vidas. ¿Por qué no? Después de todo, en la mayoría de los casos, los políticos están tratando de optimizar sus opciones: ¿cuántas carreteras construir? ¿Cuánto pagar en el sistema nacional de salud o pensiones? ¿Cómo hacer la economía más verde?

Se podría argumentar que se trata de decisiones políticas en las que los datos y hechos “cuantitativos” y concretos no juegan ningún papel. En realidad, estas decisiones se toman maximizando una función de costes que inevitablemente será sesgada por factores humanos e intereses como el enriquecimiento del político y sus electores. Por ejemplo, la política del pork barrel, esa que se refiere a la contribución de dinero público que los miembros del Congreso y los Senadores de Estados Unidos tienen a disposición para financiar proyectos de interés local, y que frecuentemente se utiliza para ganar votos.

Idealmente, en una democracia (incluso robotizada), la función de costes debería optimizar el bienestar de la sociedad y todos sus miembros. Una ventaja de los algoritmos es que pueden remover los sesgos humanos del proceso de toma de decisiones. Entonces, ¿por qué no dar a los algoritmos la capacidad de gestionar y digerir los datos, proponiendo soluciones óptimas desde un punto de vista objetivo?

Con una reserva importante: sesgos y prejuicios pueden estar empotrados en el algoritmo mismo. Esconderse detrás de la IA no garantiza una toma de decisiones ética e igualitaria: la ética tiene que estar incorporada en el algoritmo.

¿Podemos llegar a pensar que todo el proceso de optimizar la sociedad lo pueda hacer, mucho más eficientemente, un algoritmo? ¿Es posible construir una IA ética? ¿Cómo? ¿Quién controla los algoritmos y la función de coste? ¿En qué casos y bajo qué condiciones los humanos podrían dejar completamente la toma de decisiones a los algoritmos? ¿Cuándo deben intervenir los humanos?

Estas son las cuestiones clave a las que se enfrenta la sociedad contemporánea: deberíamos responderlas lo antes posible mientras todavía controlamos al robot.

Raúl Jiménez, Profesor ICREA de Cosmologia y Fisica Teorica y Profesor Visitante en el Imperial College, Universitat de Barcelona; Licia Verde, Profesor ICREA de Cosmologia en el ICCUB de la Universidad de Barcelona, Universitat de Barcelona y Rabih Zbib, Director de Investigacion de Inteligencia Artificial y Procesamiento Natural del Lenguaje en Avature, Massachusetts Institute of Technology

Este artículo fue publicado originalmente en The Conversation. Lea el original.

The Conversation

Tu opinión enriquece este artículo:

Cataluña entra en el top 3 de las comunidades autónomas con mayor potencial para aprovechar las oportunidades de la economía sénior

Cataluña ha logrado un importante avance en la clasificación de comunidades con mayor potencial para aprovechar las oportunidades de la economía sénior, escalando de la 6ª posición (en la última edición) al tercer puesto. Así lo ha puesto de manifiesto la tercera edición del ‘Ranking de Territorios por la Economía Sénior’ realizado por el Centro de Investigación Ageingnomics de Fundación MAPFRE, informe que analiza la realidad de la economía sénior en los diferentes territorios de España y su evolución, con el objetivo de conocer las condiciones y oportunidades que ofrecen a la población mayor de 55 años, integrada por 16,3 millones de personas, el 34% de la población total, y que incrementa su presencia cada año.

MasOrange, Parlem, Telefónica y Vodafone confirman su candidatura al arbitraje de consumo

Los operadores de telefonía e internet MasOrange, Parlem, Telefónica y Vodafone han confirmado su apuesta por el arbitraje de consumo como mecanismo para resolver los conflictos con sus clientes. Coincidiendo con la celebración de la edición 2025 del Mobile World Congress, representantes de las cuatro compañías se han reunido esta semana con el director de la Agencia Catalana de Consumo del Departamento de Empresa y Trabajo, Isidor García, para firmar su continuidad dentro del Sistema de Consumo, sin ninguna determinación de reclamaciones por razón de materia, cantidad o territorio. En el acto estuvieron presentes Julián Vinué, Gerente de Relaciones Institucionales de Telefónica; Jordi Alcalde, representante de las Administraciones Públicas Territoriales de Vodafone; Montserrat Cereza, directora territorial de relaciones institucionales en Cataluña de MasOrange, y Montserrat Lavilla, directora del Departamento de Marketing y Producto de Parlem Telecom.

Crece un 23% la expectativa de volumen de negocio para las empresas catalanas que han participado en el MWC de la mano del Govern

Las 93 empresas, centros tecnológicos, entidades y startups catalanas que han participado en el MWC y en el 4YFN mediante los espacios habilitados por el Gobierno de la Generalidad de Cataluña en el congreso prevén generar 22,7 millones de euros de volumen de negocio o inversión levantada en los próximos meses gracias a su actividad durante el evento, según datos de ACCIÓ un aumento de más del 23% respecto a la del año pasado.

UDON Asian Food certifica la sostenibilidad de sus restaurantes con el sello Barcelona Sustainable Gastronomy

UDON Asian Food, compañía líder en restauración asiática en España, ha sido reconocida hoy con el sello Barcelona Sustainable Gastronomy, un distintivo que certifica su compromiso con un modelo de negocio responsable con la sociedad y el medio ambiente. El acto de entrega se ha celebrado en el Palau de la Música de Barcelona y ha estado presidido por representantes de la Cambra de Comerç de Barcelona y el Ajuntament de Barcelona.

“El mercado inmobiliario muy caliente, con una demanda en máximos y una oferta de vivienda insuficiente”

El Índice de Precios (IPV) correspondiente al último trimestre de 2024, publicado hoy por el Instituto Nacional de Estadística (INE), refleja una subida trimestral del 1,8%, un incremento anual del 11,3%. “Estos datos reflejan la velocidad a la que se está encareciendo el precio de la vivienda. Un ritmo de crecimiento muy significativo, propio de una demanda fuerte y sostenida presionando una oferta de vivienda insuficiente y propiciado por la combinación de una transformación económica con un nuevo ciclo de condiciones hipotecarias favorables. El calentamiento experimentado en 2024 hace que el año cierre con subidas similares a las de 2007, aunque la situación ahora no indica burbuja”, explica María Matos, directora de Estudios de Fotocasa.

CaixaBank abre el debate sobre la inclusión del talento sénior en las ciudades del futuro

El estand de la Fundación Mobile World Capital, en el MWC25, ha explorado esta mañana el potencial de que ofrece la tecnología para fortalecer la conexión de las personas mayores con su entorno, facilitar su participación en la vida comunitaria y aprovechar su talento para mejorar las ciudades del futuro. CaixaBank, como muestra de su compromiso con el segmento sénior, ha querido poner de relieve esta temática en el principal evento tecnológico del país. 

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.