La IA generativa es una máquina de generar desinformación. Y al menos 16 países ya la están utilizando
En China existe un competidor de Midjourney. Desarrollado por Baidu, la herramienta permite generar imágenes a partir de un ‘prompt’. El problema es que los ciudadanos no pueden generar ciertas imágenes: un mecanismo de censura filtra palabras sensibles en el ámbito político y evita que, por ejempo, la Plaza de Tinananmen no exista según esa plataforma. En Midjourney, por ejemplo, Xi Jingping también está censurado. Son ejemplos claros de lo que está pasando con la libertad en internet, sobre todo en la nueva era de la IA generativa.
Ejemplos por doquier. En septiembre de 2022 Irán bloqueó el acceso a las redes móviles a sus ciudadanos, que de repente vieron cómo apenas podían utilizar WhatsApp o Instagram. En Birmania el uso de internet está en estos momentos tan restringido que el país ya casi está al nivel de China. En Filipinas el expresidente Rodrigo Duterte aprovechó una ley antiterrorista para bloquear sitios web que según su gobierno critican su administración. Son malas noticias para la libertad en internet, y a ellas contribuye un peligroso uso de la IA generativa.
IA generativa para el mal. Un nuevo informe de Freedom House, un grupo de defensa de los derechos humanos, revela cómo al menos 16 países han usado sistemas de IA generativa “para sembrar dudas, desprestigiar a los adversarios o influir en el debate público”. El objetivo de esta investigación anual es construir una clasificación según la libertad en internet en los distintos países del mundo. Entre los factores están la limitación de la liberad de expresión, los apagaones en ese acceso a internet o la toma de represalias por la forma de expresarse online.
Vamos a peor. En la última edición del informe se destacaba cómo la libertad en internet a nivel global ha caído por 13º año consecutivo. La razón, al menos en parte, es la proliferacion de los sistemas de inteligencia artificial generativa. según Allie Funk, una de las responsables del proyecto, “los avances en IA están haciendo que esta crisis sea aún peor”.
El lado oscuro. El acceso masivo a herramientas de IA generativa ha hecho que la barrera para generar campañas de desinformación casi desaparezca. Los sistemas automatizados permiten crear campañas precisas y formas más sutiles de censura online, y este nuevo informe denuncia cómo estos sistemas ya están siendo usados en al menos 16 países.
Control del mensaje. Al menos 47 gobiernos han hecho uso de expertos que manipulan debates online a su favor, el doble de los que lo hacían hace una década, indica este informe. En él se explica cómo “los marcos legales de al menos 21 países obligan o incentivan a las plataformas digitales a desplegar el aprendizaje automático para eliminar el discurso político, social y religioso desfavorecedor”.
En EEUU y Europa también sucede. Esta tipo de herramientas se usan en todo el mundo, y de hecho “incluso en entornos más democráticos, como Estados Unidos y Europa, los gobiernos consideraron o impusieron de hecho restricciones al acceso a sitios web y plataformas de medios sociales destacados”. Tenemos un ejemplo reciente en Francia, donde se planteó la restricción a redes sociales como una manera de luchar contra los disturbios de las protestas que se produjeron en el país en julio de 2023.
Dividendo del mentiroso. Según Funk, ese fácil acceso a estos sistemas de IA generativa puede minar la confianza en los hechos verificables. Según el informe este es el fenómeno llamado “dividendo del mentiroso” por el cual la gente se muestra más escéptica ante la información veraz, sobre todo en tiempos de crisis o conflicto político, cuando la información falsa puede proliferar.
Imagen | Freedom House
–
La noticia
La IA generativa es una máquina de generar desinformación. Y al menos 16 países ya la están utilizando
fue publicada originalmente en
Xataka
por
Javier Pastor
.