Si un vehículo autónomo choca, ¿quién es el responsable: la fábrica, el programador, el dueño?

(Por Iñigo A. Navarro Mendizabal, Universidad Pontificia Comillas¿Usaría dispositivos con inteligencia artificial (IA) que no resarcieran los daños que causaran? Si un vehículo autónomo atropellara a un viandante, si un detector inteligente de fuego no funcionara y se produjera un incendio o si un robot quirúrgico fallara en plena operación, ¿debería haber indemnización? La respuesta es claramente sí. Lo contrario sería devastador para la confianza que podamos tener en la IA.

Image description

En este contexto, la responsabilidad civil es una pieza clave porque garantiza que quien sufra un daño sea resarcido y reciba una indemnización. Así se promueve la innovación en sistemas IA que sean más eficientes al evitar que causen daños.

El pasado 20 de octubre de 2020, el Parlamento Europeo emitió una resolución con recomendaciones para elaborar un régimen de responsabilidad civil en materia de inteligencia artificial. Es adecuado que la normativa sea europea. La única manera para poder tener un mercado europeo digital es que no se rompa a través de normativas nacionales que fragmenten la unidad.

¿Quién es el responsable en caso de accidente?

No es necesario cambiar todas las normas de responsabilidad civil de todos los países de la UE, pero sí es necesario afrontar las nuevas realidades que no están reguladas en las normas tradicionales. Todos sabemos que quien conduce un coche es responsable de los daños que causa, pero, en un coche autónomo, ¿quién es realmente el conductor?

Las categorías que solemos usar no valen. Puede hablarse de dos tipos de operadores, que serán los responsables de acuerdo con la resolución:

  • Un operador inicial (fabricante, programador…) “que define, de forma continuada, las características de la tecnología y proporciona datos y un servicio de apoyo final de base esencial y, por tanto, ejerce tambie?n grado de control sobre un riesgo asociado a la operación y el funcionamiento del sistema de IA” (art. 3 f).

  • Un operador final (por ejemplo, quien mantiene el sistema, quien lo ejecuta…) “que ejerce un grado de control sobre un riesgo asociado a la operación y el funcionamiento del sistema de IA y se beneficia de su funcionamiento” (art. 3 e).

Tecnologías de alto riesgo

También hay que tener en cuenta que todos los dispositivos que incorporan IA no son iguales. Algunos no pueden causar graves daños al usuario, como una aplicación que nos sugiere música que nos gusta.

En cambio, hay otros como un vehículo autónomo o un robot quirúrgico que pueden considerarse de “alto riesgo”, que es “el potencial significativo en un sistema de IA que funciona de forma autónoma para causar dan?os o perjuicios a una o más personas de manera aleatoria y que excede lo que cabe esperar razonablemente. La magnitud del potencial depende de la relación entre la gravedad del posible daño o perjuicio, el grado de autonomía de la toma de decisiones, la probabilidad de que el riesgo se materialice y el modo y el contexto en que se utiliza el sistema de IA” (art. 3 c).

En la resolución se propone una responsabilidad objetiva para los sistemas de IA de alto riesgo. De esta forma, los operadores que hemos mencionado antes no podrán eludir su responsabilidad “alegando que actuaron con la diligencia debida o que el daño o perjuicio fue causado por una actividad, un dispositivo o un proceso autónomos gobernados por su sistema de IA” (art. 4. 3). Solo podrán exonerarse si ocurre un suceso de fuerza mayor: un suceso imprevisible e inevitable (más allá de la diligencia exigible para prever y evitar) que es exterior al sistema de inteligencia artificial.

Junto a lo anterior, el operador final de un sistema de alto riesgo, como un coche autónomo, deberá tener un seguro de responsabilidad civil adecuado para cubrir las posibles responsabilidades (art. 4. 4). La recomendación aventura una limitación de la cuantía de la indemnización de dos millones de euros para los supuestos de fallecimiento y daños a la salud o la integridad física y de 1 millón de euros para el resto de daños morales y patrimoniales.

Sistemas de bajo riesgo

Para el resto de sistemas de IA la recomendación plantea una responsabilidad subjetiva. El operador no tendrá que rendir cuentas si “se observo? la diligencia debida a través de la realización de las siguientes acciones: la selección de un sistema de IA adecuado para las tareas y las capacidades pertinentes, la correcta puesta en funcionamiento del sistema de IA, el control de las actividades y el mantenimiento de la fiabilidad operativa mediante la instalación periódica de todas las actualizaciones disponibles” (art. 8. 2 b).

Igualmente hay una exoneración o reducción de la responsabilidad si el daño se debe total o parcialmente a la actuación de la persona afectada o de alguien que actúa bajo su responsabilidad.

Todavía queda mucho por hacer y regular, pero dos cuestiones deben quedar claras:

  1. Hay que favorecer la innovación tecnológica con seguridad, porque una IA sin control será dañina y producirá una innovación ineficiente lastrando la confianza en la tecnología, lo que sería un error mayúsculo.

  2. La normativa existente no basta y la nueva debe ser europea si queremos tener un mercado único que sea robusto y sitúe a Europa en una posición en la que pueda competir con el resto de gigantes tecnológicos.

Iñigo A. Navarro Mendizabal, Profesor Ordinario de Derecho civil, Universidad Pontificia Comillas

Este artículo fue publicado originalmente en The Conversation. Lea el original.

Tu opinión enriquece este artículo:

Emirates se convierte en socio oficial de la Copa Mundial de Rugby Femenina 2025

Emirates continuará apoyando el arbitraje de partidos con el patrocinio de los Oficiales de Partido de World Rugby durante la Copa Mundial de Rugby Femenina 2025, impulsando el crecimiento y desarrollo de oficiales de partidos de primer nivel y el ascenso de las mujeres en las competiciones más importantes. La equipación " Fly Better" de Emirates se usará en todos los partidos.  

Las nuevas fórmulas de vivienda asequible, el comportamiento del mercado de capitales y los activos con mayores perspectivas marcarán The District 2025

The District 2025, el mayor evento inmobiliario en Europa desde la perspectiva del capital, continúa desvelando novedades para convertir Barcelona en el principal epicentro del Real Estate a nivel comunitario del 30 de septiembre al 2 de octubre. La cuarta edición recibirá a más de 14.000 directivos internacionales que descubrirán las macrotendencias y casos de éxito referentes que están marcando el sector, a la vez que conocerán la radiografía completa del momentum actual a fin de definir sus próximas operaciones.

Empresariado y entes locales de Sabadell conocen la nueva estrategia de Ventanilla Única para simplificar la burocracia empresarial

El secretario general del Departamento de Empresa y Trabajo, Pol Gibert, ha presentado este miércoles en Sabadell el nuevo Plan de Facilitación de la Actividad Económica 2025-2028. En un acto celebrado en el auditorio de Fira de Sabadell, Gibert ha expuesto ante un público formado por empresarios y representantes institucionales del Vallès Occidental los principales ejes de esta estrategia, enmarcada dentro de la Ventanilla Única Empresarial (FUE). El objetivo principal es transformar la relación entre las empresas y las administraciones públicas en Cataluña, haciéndola más ágil, eficiente y menos costosa.

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.