Derechos digitales para proteger a los ciudadanos de los riesgos de la tecnología

(Por David Pastor Escuredo, Universidad Politécnica de Madrid (UPM); Annalyn Bachmann, Massachusetts Institute of Technology y Ricardo Vinuesa, KTH Royal Institute of TechnologyLa humanidad va a afrontar nuevos escenarios complejos en una era donde la digitalización va a ser especialmente relevante. Estas circunstancias exigen que pensemos los derechos de los ciudadanos desde un nuevo prisma.

Image description

Tradicionalmente, los derechos han sido fundamentalmente protectores. En algunos casos, garantizar estos derechos ha supuesto la necesidad de crear instituciones y garantías negativas. La transgresión de estos derechos suponía una pena por parte de quien los agredía. Los nuevos derechos implican repensar ciertos aspectos fundamentales de la vida y la realidad.

Las relaciones entre derechos y una era compleja social y tecnológicamente implican dos importantes aspectos:

  • El primero es si la compleja nueva realidad supone la necesidad de establecer derechos adicionales. Hasta ahora, la digitalización ha supuesto nuevas formas de hacer tareas humanas ya existentes. La posibilidad de nuevas formas de interacción y comportamiento exige reflexionar sobre nuevos derechos.

  • El segundo es si la computación puede ayudar a garantizar los derechos de las personas para evitar transgresiones de derechos y otras extensiones o derechos que fuera necesario aplicar.

Una sociedad cada vez más digital

La conectividad va a cambiar notablemente en los próximos años. La computación va a ser, cada vez más, responsable de decisiones importantes. Van a cambiar muchos procesos de decisión y formas de relación entre personas.

Al reflexionar sobre los derechos en una sociedad, es necesario predecir su alcance. El desarrollo de derechos en una era con alto nivel de incertidumbre necesita de un proceso no sesgado, experimental y reflexivo a futuro para poder ampliar su alcance.

Los aspectos más importantes a tener en cuenta en este análisis son:

  • Barreras para un uso más social y humano de la tecnología, ya que ciertas limitaciones pueden a priori dificultar su aplicación. Estas limitaciones pueden ser en el acceso a datos, a la mejora de algoritmos o a la implantación de un algoritmo en un proceso de decisión complejo que pueda tener un impacto altamente positivo.

  • Vacíos en términos de recomendación y exploración que pueden usarse para usos menos éticos y responsables de la inteligencia artificial. Están relacionados fundamentalmente con qué instituciones deben usar algoritmos para ciertos casos de uso y bajo qué condiciones deben hacerlo. Los algoritmos tienen un gran impacto social si son aplicados en el ámbito público, pero también desde el sector privado.

  • Un análisis de sugerencia de acciones y normativo que parte de un análisis descriptivo y exploratorio limitado en cuanto al verdadero potencial positivo de la tecnología digital puede tener consecuencias realmente nefastas para la sociedad. Puede ser una barrera para realizar una transformación digital más humana y que sirva de catalizador de los Objetivos de Desarrollo Sostenible y el futuro de la humanidad. Puede suponer que toda la inversión y economía generada en torno a la digitalización se desaproveche y tenga un impacto negativo en el desarrollo global.

Derechos complejos para una tecnología compleja

Sin caer en un solucionismo tecnológico o un exacerbado optimismo digital, es necesario recalcar que estamos empezando ahora a diseñar las verdaderas soluciones digitales del futuro.

La regulación necesaria es compleja, ya que la tecnología tiene que venir asociada a una reflexión ética. Una normativa sobre la digitalización, si no se hace de forma cuidadosa y rigurosa, puede caer afectando a la actividad científica y de generación de conocimiento en la sociedad.

Es necesario que los marcos de derechos digitales destaquen de qué forma estos pueden ser vulnerados por la actividad científica o por una actividad industrial, un problema que atañe a todo tipo de tecnologías.

El camino hacia la digitalización

La digitalización siempre ha sido una oportunidad para mejorar los sistemas humanos que no funcionan correctamente. Existe una falsa idea de que la tecnología estropea los sistemas humanos actuales en esencia.

Gran parte de los riesgos pueden deberse a que la tecnología amplifica problemas existentes. Por tanto, es necesario vigilar y mitigar, pero sobre todo es necesario diseñar el camino correcto a la digitalización.

La digitalización puede mejorar las capacidades humanas. Permite mejorar su inteligencia de diversas maneras: ofreciendo formas de entender relaciones, juntando y sintetizando información, identificando problemas y sesgos en toma de decisión o ayudando a las personas a potenciar sus capacidades cognitivas.

Entender qué está mal en la digitalización, qué se puede solucionar y qué problemas son realmente arriesgados y difíciles supone un reto serio que no se ha afrontado apropiadamente.

El derecho minimiza los riesgos de la tecnología

El valor de los derechos digitales puede estar, por tanto, en generar un marco general que motive a implementar una digitalización positiva. Pero necesita ir acompañado de más instrumentos, como pueden ser mecanismos de evaluación. La inexistencia de estos instrumentos es la principal causa de los riesgos de la digitalización. La tecnología se usará negativamente si no hay mecanismos que aseguren que se emplea positivamente.

El mayor trabajo, además de la experimentación, es generar las garantías necesarias para que estos derechos sean procesados universalmente. Deberán implementarse con agilidad ciertos mecanismos protectores en respuesta a los problemas de la digitalización, tanto efectivos como potenciales. Estos mecanismos deberán ser diseñados teniendo en cuenta criterios científicos concretos basados en la experiencia.

Finalmente, la digitalización es sistémica. Dar sentido a los derechos que se definen en torno al individuo con las diferentes estructuras y escalas de los sistemas es uno de los trabajos más importantes a realizar. Sin esta visión sistémica, el contenido de una carta de derechos digitales es necesariamente limitada.


Este artículo ha sido escrito en colaboración con Dionisio Escuredo Hogan, de H.44 Abogados, profesor asociado de la Universidad Camilo José Cela.


David Pastor Escuredo, Experto en Inteligencia artificial y datos para el desarrollo, acción humanitaria y gobernanza público-privada. Experto en innovación digital biomédica, Universidad Politécnica de Madrid (UPM); Annalyn Bachmann, Research Affiliate for MIT Center for Collective Intelligence (CCI), Massachusetts Institute of Technology y Ricardo Vinuesa, Associate professor, KTH Royal Institute of Technology

Este artículo fue publicado originalmente en The Conversation. Lea el original.

The Conversation

Tu opinión enriquece este artículo:

"Compartí una Coca-Cola", el regreso de las botellas y latas personalizadas del icónico refresco 10 años después

Después de 10 años, Coca-Cola vuelve con su icónica campaña "Compartí una Coca-Cola", invitando a una nueva generación a conectar con lo que realmente importa: las amistades y relaciones genuinas. La campaña original, que se convirtió en un fenómeno mundial al cambiar el logo de Coca-Cola por nombres, vuelve con todo para celebrar las amistades auténticas, tal como las vive la Generación Z.

La IA como aliada para potenciar las capacidades de los equipos de ciberseguridad

A las organizaciones puede resultarles difícil seguir el ritmo a la ciberdelincuencia en pleno auge del uso de la IA para crear malware más inteligente, automatizar ataques y atacar a personas con mayor precisión. De hecho, el pasado año el 52% de los directores de consejos de administración en España afirmó ver esta tecnología como un riesgo para su organización, según un informe de Proofpoint. Al mismo tiempo que sucede este cambio, las empresas deben gestionar datos complejos en distintas plataformas y cumplir con nuevas regulaciones. Sin olvidar que los métodos de seguridad tradicionales ya no son suficientes para adelantarse a amenazas en constante evolución. No obstante, desde la compañía líder de ciberseguridad y cumplimiento normativo recuerdan que la IA también puede reforzar las defensas de una organización, identificar y prevenir ataques mediante el análisis de grandes cantidades de datos, predecirlos o detenerlos antes de que se produzcan.

Expo Foodtech 2025. De la circularidad al consumidor consciente: el futuro del sector hortofrutícola se debatirá en F4F – Expo FoodTech 2025

La tecnología está transformando el sector de las frutas y vegetales, impulsando su eficiencia y productividad a través de herramientas como la agricultura de precisión, el uso de sensores, la inteligencia artificial o el análisis de datos, entre otros. Gracias a estas innovaciones el segmento está fortaleciendo su competitividad, al reducir el desperdicio, minimizar los costes operativos y mejorar tanto la calidad del producto final como su trazabilidad.

Éste sitio web usa cookies, si permanece aquí acepta su uso. Puede leer más sobre el uso de cookies en nuestra política de cookies.