Derechos digitales para proteger a los ciudadanos de los riesgos de la tecnología

(Por David Pastor Escuredo, Universidad Politécnica de Madrid (UPM); Annalyn Bachmann, Massachusetts Institute of Technology y Ricardo Vinuesa, KTH Royal Institute of TechnologyLa humanidad va a afrontar nuevos escenarios complejos en una era donde la digitalización va a ser especialmente relevante. Estas circunstancias exigen que pensemos los derechos de los ciudadanos desde un nuevo prisma.

Image description

Tradicionalmente, los derechos han sido fundamentalmente protectores. En algunos casos, garantizar estos derechos ha supuesto la necesidad de crear instituciones y garantías negativas. La transgresión de estos derechos suponía una pena por parte de quien los agredía. Los nuevos derechos implican repensar ciertos aspectos fundamentales de la vida y la realidad.

Las relaciones entre derechos y una era compleja social y tecnológicamente implican dos importantes aspectos:

  • El primero es si la compleja nueva realidad supone la necesidad de establecer derechos adicionales. Hasta ahora, la digitalización ha supuesto nuevas formas de hacer tareas humanas ya existentes. La posibilidad de nuevas formas de interacción y comportamiento exige reflexionar sobre nuevos derechos.

  • El segundo es si la computación puede ayudar a garantizar los derechos de las personas para evitar transgresiones de derechos y otras extensiones o derechos que fuera necesario aplicar.

Una sociedad cada vez más digital

La conectividad va a cambiar notablemente en los próximos años. La computación va a ser, cada vez más, responsable de decisiones importantes. Van a cambiar muchos procesos de decisión y formas de relación entre personas.

Al reflexionar sobre los derechos en una sociedad, es necesario predecir su alcance. El desarrollo de derechos en una era con alto nivel de incertidumbre necesita de un proceso no sesgado, experimental y reflexivo a futuro para poder ampliar su alcance.

Los aspectos más importantes a tener en cuenta en este análisis son:

  • Barreras para un uso más social y humano de la tecnología, ya que ciertas limitaciones pueden a priori dificultar su aplicación. Estas limitaciones pueden ser en el acceso a datos, a la mejora de algoritmos o a la implantación de un algoritmo en un proceso de decisión complejo que pueda tener un impacto altamente positivo.

  • Vacíos en términos de recomendación y exploración que pueden usarse para usos menos éticos y responsables de la inteligencia artificial. Están relacionados fundamentalmente con qué instituciones deben usar algoritmos para ciertos casos de uso y bajo qué condiciones deben hacerlo. Los algoritmos tienen un gran impacto social si son aplicados en el ámbito público, pero también desde el sector privado.

  • Un análisis de sugerencia de acciones y normativo que parte de un análisis descriptivo y exploratorio limitado en cuanto al verdadero potencial positivo de la tecnología digital puede tener consecuencias realmente nefastas para la sociedad. Puede ser una barrera para realizar una transformación digital más humana y que sirva de catalizador de los Objetivos de Desarrollo Sostenible y el futuro de la humanidad. Puede suponer que toda la inversión y economía generada en torno a la digitalización se desaproveche y tenga un impacto negativo en el desarrollo global.

Derechos complejos para una tecnología compleja

Sin caer en un solucionismo tecnológico o un exacerbado optimismo digital, es necesario recalcar que estamos empezando ahora a diseñar las verdaderas soluciones digitales del futuro.

La regulación necesaria es compleja, ya que la tecnología tiene que venir asociada a una reflexión ética. Una normativa sobre la digitalización, si no se hace de forma cuidadosa y rigurosa, puede caer afectando a la actividad científica y de generación de conocimiento en la sociedad.

Es necesario que los marcos de derechos digitales destaquen de qué forma estos pueden ser vulnerados por la actividad científica o por una actividad industrial, un problema que atañe a todo tipo de tecnologías.

El camino hacia la digitalización

La digitalización siempre ha sido una oportunidad para mejorar los sistemas humanos que no funcionan correctamente. Existe una falsa idea de que la tecnología estropea los sistemas humanos actuales en esencia.

Gran parte de los riesgos pueden deberse a que la tecnología amplifica problemas existentes. Por tanto, es necesario vigilar y mitigar, pero sobre todo es necesario diseñar el camino correcto a la digitalización.

La digitalización puede mejorar las capacidades humanas. Permite mejorar su inteligencia de diversas maneras: ofreciendo formas de entender relaciones, juntando y sintetizando información, identificando problemas y sesgos en toma de decisión o ayudando a las personas a potenciar sus capacidades cognitivas.

Entender qué está mal en la digitalización, qué se puede solucionar y qué problemas son realmente arriesgados y difíciles supone un reto serio que no se ha afrontado apropiadamente.

El derecho minimiza los riesgos de la tecnología

El valor de los derechos digitales puede estar, por tanto, en generar un marco general que motive a implementar una digitalización positiva. Pero necesita ir acompañado de más instrumentos, como pueden ser mecanismos de evaluación. La inexistencia de estos instrumentos es la principal causa de los riesgos de la digitalización. La tecnología se usará negativamente si no hay mecanismos que aseguren que se emplea positivamente.

El mayor trabajo, además de la experimentación, es generar las garantías necesarias para que estos derechos sean procesados universalmente. Deberán implementarse con agilidad ciertos mecanismos protectores en respuesta a los problemas de la digitalización, tanto efectivos como potenciales. Estos mecanismos deberán ser diseñados teniendo en cuenta criterios científicos concretos basados en la experiencia.

Finalmente, la digitalización es sistémica. Dar sentido a los derechos que se definen en torno al individuo con las diferentes estructuras y escalas de los sistemas es uno de los trabajos más importantes a realizar. Sin esta visión sistémica, el contenido de una carta de derechos digitales es necesariamente limitada.


Este artículo ha sido escrito en colaboración con Dionisio Escuredo Hogan, de H.44 Abogados, profesor asociado de la Universidad Camilo José Cela.


David Pastor Escuredo, Experto en Inteligencia artificial y datos para el desarrollo, acción humanitaria y gobernanza público-privada. Experto en innovación digital biomédica, Universidad Politécnica de Madrid (UPM); Annalyn Bachmann, Research Affiliate for MIT Center for Collective Intelligence (CCI), Massachusetts Institute of Technology y Ricardo Vinuesa, Associate professor, KTH Royal Institute of Technology

Este artículo fue publicado originalmente en The Conversation. Lea el original.

The Conversation

Tu opinión enriquece este artículo:

Catalonia Hotels & Resorts compra dos establecimientos en Málaga y Barcelona (175 habitaciones en total)

Catalonia Hotels & Resorts ha alcanzado un acuerdo con Hotel Investment Partners (HIP), uno de los mayores propietarios de hoteles vacacionales del sur de Europa perteneciente a los fondos gestionados por Blackstone y GIC, para la compra de estos dos activos. Incluye un hotel de cuatro estrellas en Málaga, el primero de la cadena en esta ciudad, y otro de tres en el centro de Barcelona. Con esta operación, Catalonia confirma su interés por consolidar su presencia en destinos estratégicos a nivel nacional.

Prime Day celebra su décima edición los días 16 y 17 de julio (con cientos de miles de ofertas exclusivas para clientes Prime)

Prime Day vuelve los días 16 y 17 de julio, dos días de ofertas increíbles en los que los clientes Prime en España tendrán acceso exclusivo a cientos de miles de ofertas, tanto en grandes marcas como ASUS, Cecotec, Dodot, ghd, Levi's o Samsung, entre otras, como en pequeñas y medianas empresas como Create, Fisura, Natulim, Nutralie, Olistic Science o Siroko, entre otras. Además, los clientes Prime podrán descubrir algunos de los mejores precios del año hasta la fecha en Amazon en productos de marcas como Ariel, CeraVe, Lenovo, PlayStation, Under Armour o Xiaomi, entre otras.

ALDI ha aumentado en más de un 24% su número de tiendas en España desde 2022 (la cadena ha abierto cerca de 90 tiendas desde la fecha)

ALDI ha intensificado su expansión en España en los últimos dos años con cerca de 90 nuevos establecimientos, incrementando en un 24% su número de tiendas desde 2022. Estas aperturas han implicado la llegada a nuevos territorios como Canarias, Asturias o Melilla y la consolidación en regiones como Andalucía, Cataluña y la Comunidad Valenciana. Además, se han reforzado también con un incremento de su músculo logístico, con nuevas inauguraciones y ampliaciones de centros de distribución.

Se pone en marcha la unidad ELLIS Barcelona, ​​clave para el impulso de la búsqueda de excelencia en Inteligencia Artificial en Cataluña

La secretaria de Políticas Digitales, Gina Tost y Faus, y la directora de Transferencia y Sociedad del Conocimiento, Laia Arnal y Arasa, han inaugurado esta mañana la jornada de presentación de la nueva unidad ELLIS Barcelona, ​​clave para consolidar Cataluña como referente en la investigación y la innovación en el ámbito de la Inteligencia Artificial (IA) en Europa.

Con 204 empresas socias, el Clúster Audiovisual de Catalunya ya es el más grande de Europa

El Clúster Audiovisual de Catalunya ha sumado en esta primera mitad del año una treintena de nuevos socios, cifra que consolida la entidad como la más potente de Europa en número de empresas e instituciones. Con 204 compañías socias, el Clúster Audiovisual de Catalunya se sitúa por delante de los clústeres de referencia en el continente como los suecos, los franceses o los belgas. Entre las nuevas compañías y entidades asociadas se encuentran Rakuten, Sonar, CCCB, KPMG, Selecta Vision, Triodos Bank, Cinemes Texas, Sonilab, Algam Ibérica y Blanco y negro. 

Caja Ingenieros Gestión ha sido reconocida en los premios “ALAS20 2024” por su compromiso con la inversión responsable

Caja Ingenieros Gestión, gestora del Grupo Caja Ingenieros, ha destacado en la última edición de los premios “ALAS20 2024”, siendo premiada en las dos categorías más prestigiosas: "Inversionista Líder en España en Inversión Responsable" y "Grand Prix", que premia a la organización con más liderazgo, y excelencia ESG a nivel hispanoamericano. Reconocimientos que, tras analizar las 14 gestoras de activos nominadas en el caso español, han premiado el compromiso de Caja Ingenieros Gestión con la inversión socialmente responsable.

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.