¿El año de la Inteligencia Artificial? Los riesgos y beneficios para la democracia ante su uso en futuras elecciones

La Inteligencia Artificial (IA) llegó a nuestras vidas para transformar la forma en que vivimos, trabajamos y nos relacionamos con nuestro entorno. Sin embargo, en los últimos años, esta tecnología ha dado pasos agigantados al punto de permitirnos generar contenido desde cero, como audios, imágenes o videos a partir de datos que le proporcionamos.

Al respecto, la ingeniera de sistemas peruana Natalie Gil explica que la IA lleva desarrollándose desde hace varias décadas, pero la novedad vista en los últimos años surge de la capacidad de esta tecnología de crear contenido 'aparentemente' nuevo al gestionar y procesar grandes volúmenes de información.

“La Inteligencia Artificial como tal tiene 70 años investigándose, pero por otro lado, también tenemos la inteligencia artificial generativa que lo que hace es que las cosas parezcan nuevas, creativas. Entonces, más de lo que vemos es eso: generación de imágenes, generación de música, generación de resúmeme este libros... esa parte es importante porque tenemos un gran poder ahora, entonces tenemos una gran responsabilidad finalmente. Entonces, cualquier cosa que nosotros hagamos se va a amplificar mucho”, sostiene.

Natalie Gil también CEO de Darshana Inc., precisa que otra de las acciones que la sociedad civil puede realizar consiste en fiscalizar la labor del Gobierno y, tras analizarla, plantear propuestas constructivas. Ello, al ser posible que la ciudadanía tenga acceso a data que proporcionan las instituciones públicas.

Te recomendamos

Elecciones

Inteligencia Artificial, el próximo desafío: ¿cómo identificar imágenes o voces creadas con esta tecnología?

Congreso

Transparencia sobre dictamen que modifica las PASO: "Están quitando un derecho que la ciudadanía ya había ganado"

Elecciones

¿Es posible un impacto positivo y buen uso de la Inteligencia Artificial en la democracia?

Estado

Inteligencia Artificial: ¿qué es la 'inmunidad social' y cómo puede ayudarnos a reconocer contenido falso?

¿Inteligencia Artificial en elecciones?

Durante el 2023 El Poder en tus Manos analizó qué rol tendrá la Inteligencia Artificial en eventos tan importantes como los próximos procesos electorales. Y, aunque esta herramienta puede ser usada para procesar información que permita entender a los candidatos y que estos identifiquen mejor el perfil de sus votantes y sus intereses, además de formular mejores campañas electorales, existe la posibilidad de que la IA sea usada para desinformar a la población, según Edgar Huaranga, director de Tecnología de Hiperderecho.

“El rol [de la IA] también puede tener un lado amenazante para la democracia. Con la generación de imágenes, videos que son más difíciles de identificar si son verdaderos o falsos (...) puede afectar la democracia o la forma en que se dialoga en este espacio”, señala.

En medio de este panorama es posible avizorar que la Inteligencia Artificial pueda tener un rol importante en contextos electorales futuros en el Perú, así como el papel que cumplió Tik Tok durante las Elecciones Regionales y Municipales 2022, periodo en que esta herramienta cobró protagonismo al ser utilizada por los partidos políticos y candidatos para difundir contenido de campaña electoral en redes sociales. 

Un ejemplo de cómo la Inteligencia Artificial puede ser empleada para distorsionar el debate abierto a nivel político tuvo lugar meses atrás con la difusión de imágenes muy realistas, pero generadas con IA, del presidente de Francia, Enmanuel Macron, y el exmandatario norteamericano Donald Trump en situaciones que nunca han ocurrido.

En las imágenes difundidas en redes sociales se observaba a Trump y Macron siendo arrestados por agentes policiales de sus respectivos países. Asimismo, se publicaron fotografías falsas del Papa Francisco usando zapatillas o un abrigo no visto con anterioridad. Estos registros se viralizaron rápidamente al tratarse de personajes relevantes en el debate público.

Para crear la mayoría de estas imágenes se utilizó Midjourney, un programa de Inteligencia Artificial que genera contenido a partir de descripciones sencillas que el usuario ingresa.

Ante lo visto en contextos internacionales, diversos expertos han señalado los riesgos que existe de un uso negativo de la Inteligencia Artificial en futuros contextos electorales, caracterizados por ser polarizantes. Y es que en este periodo se podrían difundir audios, videos y fotos falsos, pero con acabados "sofisticados" para atacar y deslegitimar a determinados candidatos.

Así lo señala el abogado experto en tecnología Miguel Morachimo: "En definitiva, en esta campaña vamos a ver bastante uso de estas herramientas de Inteligencia Artificial. Algunas pueden tener impactos muy positivos, la posibilidad de explicar mejor un tema, comunicar en otra lengua, la traducción automatizada (...) Pero también es cierto que puede tener un impacto muy negativo, desde la generación de contenido sintético para hacer decir a una persona algo que no dijo, se pueden crear noticias muy detalladas, con lujos de detalles con cosas absolutamente falsas".

Te recomendamos

Congreso

¿Cuánto cambian las Primarias Abiertas tras el dictamen aprobado que se discutirá en el Congreso?

Lima

Ciudadanos marcharon por las calles del centro de Lima y exigieron la renuncia de la fiscal de la Nación

Congreso

Martha Moyano niega ser agente encubierta de Fiscalía que entregó chats y audios con Jaime Villanueva

Judiciales

Excongresista Yesenia Ponce fue capturada por presentar una requisitoria por falsedad genérica

La llegada de la IA a nuestro entorno digital

En el Perú, ¿estamos preparados para hacer frente al contenido generado por Inteligencia Artificial? Navegar hoy en entornos digitales exige una formación básica que le permita al usuario diferenciar información útil e importante para él y su comunidad. Una apuesta de este corte debería ser encabezada desde el Estado a través de los colegios, precisa el abogado experto en Derecho Digital, Erick Iriarte.

“Las herramientas digitales en general son de tan fácil acceso que cualquier usuario las puede tener. Esto significa que hemos dado herramientas de libertad de expresión a todos sin haberles dado discernimiento, conciencia, valores democráticos. En algunos casos la van a usar bien, en otros casos, ya hemos visto que se usan bastante mal”, comenta.

Iriarte recalca que la necesidad de que exista una alfabetización digital promovida desde el Estado. Esta apuesta, considere, debe estar enfocada sobre todo pautas referidas a acceso a la información pública, ciberseguridad y protección de datos personales.

"No solamente (hace falta) una alfabetización mediática, sino una alfabetización digital en general. Esta capacitación tendría que venir ligada a temas de acceso a la información pública, ciberseguridad, protección de datos personales, que son los frentes que uno tiene cuando está en el entorno digital. Para eso se requiere una decisión de Estado. Podemos hacerlo desde la sociedad civil, academia, el sector privado, pero si no se crea desde el Estado una visión de uso de herramientas tecnológicas, de comunicación desde la democracia, terminamos afectando los procesos democráticos", indica.

"Las personas no llevan un curso de cómo gestionar Facebook o de cómo se utiliza la IA o Twitter, simplemente las usan a su leal saber y entender, no tenemos valores democráticos. Lo que tienes son bombas de tiempo y polarizaciones muy fáciles y sencillas sin crear grandes zanjas de troles", precisa.

Especialistas han advertido la necesidad de que la ciudadanía esté preparada para hacer frente a los nuevos desafíos y riesgos que surgen con la llegada de nuevas tecnologías. La Inteligencia Artificial puede convertirse en una aliada importante para el desarrollo de nuestra sociedad, pero promover su uso responsable es clave para dar el primer paso en este proceso.