El Foro de la Sociedad Civil e IE Law School reclaman que la ciudadanía se implique y sea escuchada en el establecimiento de las bases de un nuevo contrato social que marque los límites de la exposición de los individuos al poder de las nuevas tecnologías de la inteligencia artificial, las máquinas con capacidad de aprendizaje y el ‘big data’. Ésta es una de las principales conclusiones del informe Ciudadanía inteligente: hacia un nuevo contrato social en la era de la Inteligencia Artificial, elaborado por el Foro de la Sociedad Civil e IE Law School de IE University y presentado el 16 de marzo.
Este documento, dirigido por Pablo García Mexía, miembro del Foro de la Sociedad Civil y director de Derecho Digital de Herbert Smith Freehills, y por Argyri Panezi, profesora de Derecho y Tecnología de IE University,analiza en profundidad el fenómeno de la ciberciudadanía y reclama que los individuos sean informados de la existencia de algoritmos en sus relaciones con terceros.
“El nuevo contrato social que exigen las nuevas tecnologías no puede depender en exclusiva de la iniciativa institucional o del desarrollo de un marco legislativo estable, puesto que la dinámica extremadamente volátil de la propia evolución tecnológica hace muy difícil la existencia de marcos normativos estables. Nadie mejor que la sociedad civil, y cada uno de nosotros como ciudadanos, para marcar cuál queremos que sea el perímetro de nuestra intimidad y cómo queremos que nuestros datos sean utilizados”, ha afirmado Jesús Banegas, presidente del Foro durante la presentación del documento.
Banegas ha estado acompañado en la presentación de Ciudadanía inteligente por Soledad Atienza, decana de IE Law School de IE University, y por los directores del documento, en cuya elaboración ha participado un consejo asesor integrado por destacadas personalidades del mundo del Derecho y las nuevas tecnologías.
“Desde IE Law School, estamos muy orgullosos de haber participado en el informe Ciudadanía inteligente: hacia un nuevo contrato social en la era de la Inteligencia Artificial. Somos una escuela de Derecho global, diversa e interdisciplinar y nuestros valores están reflejados en este trabajo, que se centra en la intersección del Derecho y la tecnología. Además, tenemos la satisfacción de haber trabajado en su elaboración desde nuestra clínica jurídica, cumpliendo la función de formar a través de la experiencia profesional a estudiantes de grado y master y promover el trabajo jurídico pro bono”, ha señalado Soledad Atienza, decana de IE Law School de IE University.
Conciencia ciudadana en la sociedad de los algoritmos
El estudio, que pretende fomentar la importancia de una conciencia ciudadana en la sociedad de los algoritmos, analiza las principales oportunidades y retos que plantean las nuevas tecnologías y propone una serie de principios para garantizar su buen uso.
Este informe ha trazado la forma en que los algoritmos han penetrado en nuestra vida cotidiana, en nuestro hogar, en nuestro lugar de trabajo y en nuestro mercado. Escrito antes de la pandemia de Covid-19, no podría ser más relevante hoy, así como en la era pospandémica. A los viejos desafíos en torno al uso de big data, la privacidad, la confianza y la ética, hay nuevos desafíos, pero también nuevas oportunidades, como los efectos progresivos de las trazas algorítmicas a escala masiva, pero también los usos beneficiosos de los algoritmos y los datos para administrar y mitigar los efectos de las crisis (de salud y de otro tipo).
“Los ciudadanos vivimos inmersos en un universo de datos e información digital que condiciona decisivamente nuestras vidas. El algoritmo inteligente acentuará está tendencia. Aun cuando la sociedad social nos reporta enormes ventajas, todos hemos de ser bien conscientes de sus importantes riesgos”, señala Pablo García Mexía, experto en Derecho digital y codirector de Ciudadanía inteligente: hacia un nuevo contrato social en la era de la Inteligencia Artificial.
En definitiva, “de este trabajo hemos aprendido que la única forma de avanzar es la participación de abajo hacia arriba: la sociedad civil debe mantenerse bien informada y exigir transparencia en el uso de datos y algoritmos en todos los ámbitos de su vida”, asegura Argyri Panezi, responsable del informe y profesora de IE Law School de IE University.
En Ciudadanía inteligente: hacia un nuevo contrato social en la era de la Inteligencia Artificial, el Foro de la Sociedad Civil recuerda que ningún avance en materia tecnológica puede menoscabar el valor supremo de la dignidad humana, sean cuales fueran las potenciales ventajas de dicha tecnología.
Según el informe, los ciudadanos debemos conocer las ventajas e inconvenientes relativos a cada proceso algorítmico en particular, más allá del conocimiento general sobre este tipo de herramientas.
El documento muestra la preocupación del Foro de la Sociedad Civil y de IE Law School por el uso de los datos generados por las nuevas tecnologías. Según el informe, “para prevenir malos usos o decisiones contaminadas, es necesario cuidar especialmente de la calidad de los datos que entran en los procesos, datos que deben ser accesibles, modificables por sus dueños y ajustarse a parámetros éticos”.
Según el Foro e IE Law School, “el perfil de los datos en la Red debe ajustarse según el nivel de privacidad que cada usuario decida para sí mismo, excepto en aquellas cuestiones que la Justicia decida para proteger a la sociedad”.
Ciudadanía inteligente: hacia un nuevo contrato social en la era de la Inteligencia Artificial recoge una serie de herramientas prácticas que permitirán al ciudadano conocer las ventajas e inconvenientes relativas a cada proceso algorítmico, con el objetivo de defender los derechos civiles y las libertades públicas.
Para descargar el informe completo, pinche aquí.
