Inteligencia artificial: ¿una amenaza para nuestras democracias?

Por: Léana Peyron

Esta imagen de Vladimir Putin arrodillado ante Xi Jinping fue generada por una inteligencia artificial.

La reciente difusión en las redes de imágenes del Papa Francisco con chaqueta blanca paseando por la calle, del presidente francés Emmanuel Macron como un basurero en medio de una protesta contra la reforma de las pensiones o de Putin arrodillado frente a Xi Jinping llegó a ser tan masiva en Internet que las redes sociales tuvieron que alertar a los internautas de que se trataba de imágenes falsas creadas por una Inteligencia Artificial y no de fotografías reales.

La generación de imágenes falsas que parecen fotografías, la producción instantánea de contenidos periodísticos o de opinión, tales son las capacidades de la IA  visibles actualmente en las redes sociales. Presente en muchos ámbitos de la vida cotidiana, como la salud o el comercio, el uso de la IA está cada vez más extendido, desde la asistencia personal por voz hasta el apoyo a la toma de decisiones en el ámbito de la defensa. Sin embargo, el crecimiento exponencial e incontrolable de este nuevo lenguaje similar al humano dificulta la distinción entre información falsa y verdadera, al tiempo que se cuestiona la legitimidad de la toma de decisiones asistida por IA en democracia. En efecto, la IA tiende por sus habilidades a reproducir mecanismos próximos a los del razonamiento humano.

Según la Comisión Europea, la inteligencia artificial es toda máquina o algoritmo capaz de observar su entorno, aprender y, sobre la base de los conocimientos y la experiencia adquiridos, tomar medidas inteligentes y proponer decisiones

Sin embargo, si a través del apoyo a la toma de decisiones, el aprendizaje profundo y el análisis de datos la IA puede facilitar nuestra vida cotidiana y puede servir a la democracia; la opacidad de la IA y la falta de transparencia de los algoritmos pueden, por el contrario, ir en contra de los requisitos democráticos o incluso convertirse en una verdadera herramienta de propaganda. 

En efecto, las crecientes capacidades de la IA y su accesibilidad pueden conducir no sólo a la desinformación, sino más globalmente a la manipulación de la opinión pública y del discurso a escala democrática. Además, desde un punto de vista ético, el desarrollo de usos ilícitos y el uso no regulado de la IA pueden alimentar aún más la violación de los derechos humanos. En este sentido, la carta abierta para detener temporalmente el avance de la inteligencia artificial habla de profundos riesgos para la sociedad y la humanidad, mientras que Michelle Bachelet, Alta Comisionada de la ONU para los Derechos Humanos, describe la venta y el uso de la IA como un grave riesgo de violación de los derechos humanos.

La IA puede constituir un peligro en el tratamiento de la información dentro del proceso democrático

Si la IA entraña riesgos desde el punto de vista ético, también puede amplificar las crisis democráticas actuales al conducir a un estado de desconfianza generalizada. Por lo tanto, es esencial comprender las amenazas potenciales de la IA para las democracias con el fin de preguntarse cómo conciliar el desarrollo tecnológico de la IA con las exigencias democráticas.

1- La IA, ¿una amenaza potencial para la participación democrática de los ciudadanos?

Si la Inteligencia Artificial a través de las nuevas tecnologías puede constituir una nueva herramienta favorable a la democratización del conocimiento y, por tanto, a fortiori al bienestar democrático, el uso de la IA dentro de las democracias puede, sin embargo, poner en entredicho la capacidad de los ciudadanos para tomar decisiones políticas informadas y autónomas.

En efecto, la IA puede constituir un peligro en el tratamiento de la información dentro del proceso democrático. En este sentido, la digitalización de la información y su creciente expansión en la esfera mediática están transformando las redes sociales en gigantescos espacios de debate público. Si la IA permite la producción de un nuevo lenguaje similar al humano alimentando las plataformas digitales, esta producción permanente de información no verificada mezcla de hecho opiniones, conocimientos y puede conducir a la difusión de noticias falsas. Por ejemplo, la producción de fotografías, vídeos y sonidos falsos creados por IA que parecen reales pero que en realidad muestran escenas en las que las personas se encuentran en situaciones que nunca existieron. Esto puede utilizarse peligrosamente con fines de desinformación y para distorsionar la opinión pública. Asimismo, los contenidos periodísticos no verificados creados realmente por una IA pueden distorsionar e influir significativamente en el debate público y amenazar la libertad de opinión.

El uso de la IA dentro de las democracias puede, sin embargo, poner en entredicho la capacidad de los ciudadanos para tomar decisiones políticas informadas y autónomas.

Si la IA y su acceso no regulado permiten la proliferación de la información compartida en línea, este supuesto aumento de la libertad de expresión que permite la IA puede, por tanto, perjudicar en realidad a la libertad de opinión. Más que la difusión de contenidos no verificados, la recolección de nuestros datos personales por la tecnología de la IA es también un impedimento para la libertad de opinión y el acceso a una información completa y transparente. De hecho, los rastros de nuestros datos personales que dejan en la red las tecnologías digitales se utilizan para dirigirse a los ciudadanos ofreciéndoles contenidos personalizados. Esto lleva a una situación en la que los ciudadanos sólo tienen acceso a información en línea preseleccionada por algoritmos en función de sus datos personales, y ello en la más absoluta opacidad. Así, sin regulación, los ciudadanos sólo tienen una libertad de opinión parcial, ya que no pueden evaluar la veracidad de la información en línea al no poder identificar su fuente real.

Este tratamiento de la información digital por parte de las tecnologías puede así amenazar el debate público al atrofiar las redes sociales con información no verificada y adaptada a cada individuo, donde la formación de opinión y luego las decisiones políticas informadas estarían sesgadas. Este uso de la IA puede así amenazar la democracia al sesgar la formación de la opinión de los ciudadanos, pero también al amenazar la participación política en sentido estricto: el voto.

La IA puede así amenazar la democracia al sesgar la formación de la opinión de los ciudadanos, pero también al amenazar la participación política en sentido estricto: el voto.

En efecto, la preselección de información dirigida puede conducir a la manipulación de la opinión pública al difuminar la capacidad de discernimiento de los ciudadanos. Tal es el caso del asunto Cambridge Analytica, empresa que prestó sus servicios a la campaña de Donald Trump con el fin de analizar los datos de los ciudadanos estadounidenses para influir en el voto.

2- ¿Quién controla las IA?

Para poner de relieve el peligro que suponen las IA para nuestra democracia, es importante preguntarse a quién pertenecen. El papel creciente de las IA en el debate público en Internet y su utilización por los poderes públicos con fines democráticos, como el análisis de los comentarios tras el gran debate ciudadano en Francia por un algoritmo para seguir las tendencias de opinión, dan testimonio de una acumulación de poder por parte del dominio digital. Las grandes empresas digitales controlan así el desarrollo de la IA y condicionan su uso. Sin embargo, estas empresas no tienen el interés general como las democracias, sino intereses lucrativos privados. Aunque la IA está disponible públicamente, este nuevo lenguaje, aparentemente involuntario, que distribuye información en Internet está, por tanto, gobernado por empresas privadas con fines comerciales. Como resultado, las empresas propietarias están controlando gradualmente no sólo los espacios de debate público, sino también el entorno digital de los votantes.

Para poner de relieve el peligro que suponen las IA para nuestra democracia, es importante preguntarse a quién pertenecen.

La incorporación de las IAs a nuestra vida cotidiana y a las democracias cuestiona entonces la legitimidad de la toma de decisiones de las IAs, por ejemplo, la toma de decisiones de un dron en el ámbito de la defensa. Asimismo, el uso de las IA choca con los principios de legalidad democrática, especialmente en lo que respecta a la recopilación de datos de los ciudadanos, lo que constituye una violación del derecho a la intimidad.

3- Necesidad de un control democrático de la IA frente a los problemas éticos  

La dependencia de la IA de la gran tecnología y de las grandes empresas tecnológicas conduce así a un control del entorno digital con numerosos peligros en términos de derechos humanos, lo que exige una regulación legal de la IA.

En 2021, la Alta Comisionada de la ONU para los Derechos Humanos, Michelle Bachelet, pidió una moratoria sobre la IA para “poner en marcha un mecanismo que proteja los derechos humanos en su uso”. El impacto de la aplicación de la IA por parte de Estados y empresas no se ha evaluado suficientemente, y la IA a través de la elaboración de perfiles, la toma de decisiones automatizada y las capacidades de vigilancia afecta al derecho a la intimidad, pero también a la libertad de expresión y movimiento. Por ejemplo, el uso de métodos predictivos de previsión y vigilancia por parte de herramientas de IA, incluida la recuperación de información sobre patrones de comportamiento humano, es extremadamente peligroso en términos de cuestiones éticas humanas. Este es particularmente el caso cuando la IA se utiliza para apoyar la toma de decisiones en la prestación de atención médica o en el ejército.

Así pues, en vista del nuevo potencial de violación de los derechos humanos mediante el uso de la IA, Michelle Bachelet subraya finalmente que “cuantos mayores sean los riesgos para los derechos humanos, más estrictos deberán ser los requisitos legales para el uso de las tecnologías de IA”.


Referencias

  • Duberry, J. (2021). Liberté de penser et d’avoir une opinion politique : menaces numériques à la participation politique dans les démocraties libérales. Dans : Bernard F., et Morin J.H. Human rights and cyberspace. Oxford, Royaume-Uni: Harts Publishing.

Deja un comentario