Derechos digitales para proteger a los ciudadanos de los riesgos de la tecnología

(Por David Pastor Escuredo, Universidad Politécnica de Madrid (UPM); Annalyn Bachmann, Massachusetts Institute of Technology y Ricardo Vinuesa, KTH Royal Institute of TechnologyLa humanidad va a afrontar nuevos escenarios complejos en una era donde la digitalización va a ser especialmente relevante. Estas circunstancias exigen que pensemos los derechos de los ciudadanos desde un nuevo prisma.

Image description

Tradicionalmente, los derechos han sido fundamentalmente protectores. En algunos casos, garantizar estos derechos ha supuesto la necesidad de crear instituciones y garantías negativas. La transgresión de estos derechos suponía una pena por parte de quien los agredía. Los nuevos derechos implican repensar ciertos aspectos fundamentales de la vida y la realidad.

Las relaciones entre derechos y una era compleja social y tecnológicamente implican dos importantes aspectos:

  • El primero es si la compleja nueva realidad supone la necesidad de establecer derechos adicionales. Hasta ahora, la digitalización ha supuesto nuevas formas de hacer tareas humanas ya existentes. La posibilidad de nuevas formas de interacción y comportamiento exige reflexionar sobre nuevos derechos.

  • El segundo es si la computación puede ayudar a garantizar los derechos de las personas para evitar transgresiones de derechos y otras extensiones o derechos que fuera necesario aplicar.

Una sociedad cada vez más digital

La conectividad va a cambiar notablemente en los próximos años. La computación va a ser, cada vez más, responsable de decisiones importantes. Van a cambiar muchos procesos de decisión y formas de relación entre personas.

Al reflexionar sobre los derechos en una sociedad, es necesario predecir su alcance. El desarrollo de derechos en una era con alto nivel de incertidumbre necesita de un proceso no sesgado, experimental y reflexivo a futuro para poder ampliar su alcance.

Los aspectos más importantes a tener en cuenta en este análisis son:

  • Barreras para un uso más social y humano de la tecnología, ya que ciertas limitaciones pueden a priori dificultar su aplicación. Estas limitaciones pueden ser en el acceso a datos, a la mejora de algoritmos o a la implantación de un algoritmo en un proceso de decisión complejo que pueda tener un impacto altamente positivo.

  • Vacíos en términos de recomendación y exploración que pueden usarse para usos menos éticos y responsables de la inteligencia artificial. Están relacionados fundamentalmente con qué instituciones deben usar algoritmos para ciertos casos de uso y bajo qué condiciones deben hacerlo. Los algoritmos tienen un gran impacto social si son aplicados en el ámbito público, pero también desde el sector privado.

  • Un análisis de sugerencia de acciones y normativo que parte de un análisis descriptivo y exploratorio limitado en cuanto al verdadero potencial positivo de la tecnología digital puede tener consecuencias realmente nefastas para la sociedad. Puede ser una barrera para realizar una transformación digital más humana y que sirva de catalizador de los Objetivos de Desarrollo Sostenible y el futuro de la humanidad. Puede suponer que toda la inversión y economía generada en torno a la digitalización se desaproveche y tenga un impacto negativo en el desarrollo global.

Derechos complejos para una tecnología compleja

Sin caer en un solucionismo tecnológico o un exacerbado optimismo digital, es necesario recalcar que estamos empezando ahora a diseñar las verdaderas soluciones digitales del futuro.

La regulación necesaria es compleja, ya que la tecnología tiene que venir asociada a una reflexión ética. Una normativa sobre la digitalización, si no se hace de forma cuidadosa y rigurosa, puede caer afectando a la actividad científica y de generación de conocimiento en la sociedad.

Es necesario que los marcos de derechos digitales destaquen de qué forma estos pueden ser vulnerados por la actividad científica o por una actividad industrial, un problema que atañe a todo tipo de tecnologías.

El camino hacia la digitalización

La digitalización siempre ha sido una oportunidad para mejorar los sistemas humanos que no funcionan correctamente. Existe una falsa idea de que la tecnología estropea los sistemas humanos actuales en esencia.

Gran parte de los riesgos pueden deberse a que la tecnología amplifica problemas existentes. Por tanto, es necesario vigilar y mitigar, pero sobre todo es necesario diseñar el camino correcto a la digitalización.

La digitalización puede mejorar las capacidades humanas. Permite mejorar su inteligencia de diversas maneras: ofreciendo formas de entender relaciones, juntando y sintetizando información, identificando problemas y sesgos en toma de decisión o ayudando a las personas a potenciar sus capacidades cognitivas.

Entender qué está mal en la digitalización, qué se puede solucionar y qué problemas son realmente arriesgados y difíciles supone un reto serio que no se ha afrontado apropiadamente.

El derecho minimiza los riesgos de la tecnología

El valor de los derechos digitales puede estar, por tanto, en generar un marco general que motive a implementar una digitalización positiva. Pero necesita ir acompañado de más instrumentos, como pueden ser mecanismos de evaluación. La inexistencia de estos instrumentos es la principal causa de los riesgos de la digitalización. La tecnología se usará negativamente si no hay mecanismos que aseguren que se emplea positivamente.

El mayor trabajo, además de la experimentación, es generar las garantías necesarias para que estos derechos sean procesados universalmente. Deberán implementarse con agilidad ciertos mecanismos protectores en respuesta a los problemas de la digitalización, tanto efectivos como potenciales. Estos mecanismos deberán ser diseñados teniendo en cuenta criterios científicos concretos basados en la experiencia.

Finalmente, la digitalización es sistémica. Dar sentido a los derechos que se definen en torno al individuo con las diferentes estructuras y escalas de los sistemas es uno de los trabajos más importantes a realizar. Sin esta visión sistémica, el contenido de una carta de derechos digitales es necesariamente limitada.


Este artículo ha sido escrito en colaboración con Dionisio Escuredo Hogan, de H.44 Abogados, profesor asociado de la Universidad Camilo José Cela.


David Pastor Escuredo, Experto en Inteligencia artificial y datos para el desarrollo, acción humanitaria y gobernanza público-privada. Experto en innovación digital biomédica, Universidad Politécnica de Madrid (UPM); Annalyn Bachmann, Research Affiliate for MIT Center for Collective Intelligence (CCI), Massachusetts Institute of Technology y Ricardo Vinuesa, Associate professor, KTH Royal Institute of Technology

Este artículo fue publicado originalmente en The Conversation. Lea el original.

The Conversation

Tu opinión enriquece este artículo:

TAG Heuer inaugura su primera boutique en Barcelona (con Patrick Dempsey, y en una noche memorable)

TAG Heuer, el renombrado fabricante suizo de relojes de lujo, ha marcado un antes y un después en su historia gracias a la gran apertura de su primera boutique en Barcelona, situada en el prestigioso Passeig de Gràcia, 59. La celebración ha sido una fusión perfecta de sofisticación, lujo y arte, y ha contado con la presencia del embajador internacional de TAG Heuer, la estrella de Hollywood Patrick Dempsey, que ha celebrado su décimo aniversario junto a la marca.

La economía española incrementa su capacidad de financiación a 5,2 mil millones de euros en septiembre de 2024

El saldo de las cuentas corriente y de capital (que determina la capacidad o necesidad de financiación de la nación) fue de 5,2 mm, según los datos estimados de avance de septiembre de 2024. Esta cifra es superior a la de 4,3 mm del mismo mes de 2023. El saldo de la balanza por cuenta corriente (que incluye los ingresos y pagos con el exterior por las exportaciones e importaciones de bienes y servicios, y por las rentas primaria y secundaria1) registró un superávit de 4,1 mm (frente a los 3,1 mm de un año antes).

Solo el 8% de los españoles vive en la casa de sus sueños (y el 97% considera importante que su casa sea sostenible y energéticamente eficiente)

¿Quién no ha soñado alguna vez con la casa de sus sueños? ¿A quién no le gustaría vivir en el cottage de Kate Winslet en la película ‘The Holiday’ o en el apartamento neoyorkino de Carrie Bradshaw en ‘Sexo en Nueva York’? Según el estudio ‘La Casa Soñada’ de HomeExchange, plataforma mundial líder en intercambio de casas, tan solo el 8% de los españoles vive en la casa de sus sueños. Sin embargo, hay buenas noticias: el 66% de ellos la ha visto en una revista, película o incluso durante sus vacaciones.

Fragrance Science, empresa de perfumería, se establece en el polígono Can Parera de Castellolí

La empresa catalana del sector de la perfumería Fragrance Science ha iniciado el pasado mes de noviembre la construcción de unas nuevas instalaciones en el sector industrial de Can Parera de Castellolí. Actualmente la empresa tiene su sede en Olesa de Montserrat y prevé poder trasladarse a Castellolí a finales del próximo año. La construcción de la nueva sede en Anoia le permitirá ampliar la plantilla y pasar de los 170 trabajadores actuales hasta cerca de 250, y poder desarrollar su actividad en unas instalaciones más modernas y más amplias.

Glovo modifica su modelo laboral: empleará a sus repartidores en España

La tecnológica española Glovo ha decidido impulsar un nuevo modelo en España que permitirá a la compañía de 'delivery' operar con repartidores laborales en vez de trabajadores autónomos, según ha anunciado este lunes la compañía, que explica su decisión como parte de su "firme compromiso con España y con el impulso de la economía digital en el país".

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.