La inteligencia artificial es la mayor revolución tecnológica desde internet, pero también trae consigo riesgos concretos y ya documentados: manipulación electoral, discriminación algorítmica, un costo ambiental oculto y una concentración de poder de mercado sin precedentes en manos de un puñado de empresas.
Fuente: AlgorithmWatch (Alemania/Suiza) · Publicado: 5 de junio de 2025 · Licencia: CC BY 4.0 · Enlace original: https://algorithmwatch.org/en/risks-and-hazards-of-ai/
IA y democracia: algoritmos de redes sociales y elecciones
La buena noticia primero: hasta ahora, las “noticias falsas” generadas por IA y otro contenido engañoso apenas han influido en los resultados electorales. Muchos otros factores, además del contenido en línea, determinan el comportamiento de voto. Sin embargo, la IA generativa ya se usa para engañar votantes. Los llamados deepfakes imitan tan bien la voz de los políticos que apenas se nota la diferencia, y las imágenes de ellos pueden verse asombrosamente auténticas, lo que puede usarse para desacreditar a políticos concretos con declaraciones falsas y apariciones inventadas. En el curso de varias investigaciones, AlgorithmWatch ha encontrado que los chatbots de IA ofrecen información falsa e inexacta —como datos sobre elecciones— e incluso inventan escándalos políticos presentándolos como hechos reales.
AlgorithmWatch investigó los grandes modelos de lenguaje (LLM) en el contexto electoral en distintos momentos. En su tercer informe de investigación, explican cómo los chatbots de IA afectan la información que reciben los votantes.
El público está expuesto a campañas de desinformación diseñadas para manipular opiniones a partir de los algoritmos de las redes sociales. El contenido que dispara emociones genera, por lo general, más interacciones. Por eso, el contenido polarizante se muestra con más frecuencia y llega a más usuarios en las plataformas, lo cual puede influir en cómo el público percibe ciertos temas. Las redes sociales ganan dinero con la polarización: cuanto más tiempo pasan los usuarios activos en las plataformas, más publicidad se les muestra.
AlgorithmWatch mantiene una postura clara sobre la difusión de desinformación y contenido polarizante en las redes sociales.
Nota: aunque el término “fake news” describe noticias deliberadamente falseadas y engañosas, AlgorithmWatch no lo usa porque suele emplearse mal para difamación, calumnia y propaganda.
La IA y los algoritmos en sí mismos no son una amenaza para la democracia. Lo peligroso es la polarización social que la IA y los algoritmos refuerzan. A menudo, a los usuarios solo se les muestra información que coincide con el contenido que ya preferían antes, mientras las plataformas bloquean contenido diferente en sus feeds. A esto se le llama “burbuja de filtros”.
Para evitar que la IA se convierta en una herramienta de polarización y manipulación, debe controlarse eficazmente. Una medida para lograrlo es la Ley de IA de la Unión Europea, que prohíbe los sistemas de IA con muy alta probabilidad de causar daños significativos, como aquellos que pueden usarse para manipular o engañar a las personas.
IA y discriminación: por qué el reconocimiento facial y la vigilancia son problemáticos
Los sistemas de IA son propensos al error e incluso a la discriminación. El infame escándalo neerlandés de las ayudas por hijos llevó a que muchas personas inocentes fueran tratadas como fraudulentas, lo que las arruinó financieramente. Los sistemas de reconocimiento facial son otro ejemplo: han sido causa de que personas fueran acusadas injustamente de un delito y encarceladas.
Sin embargo, el problema va más allá de estos errores. Identificar y monitorear a personas en espacios públicos con IA en todo momento no solo viola su derecho a la privacidad. La vigilancia por IA también puede disuadir a las personas de participar en manifestaciones o visitar lugares que, por ejemplo, podrían revelar su orientación política o sexual, restringiendo así derechos fundamentales como la libertad de expresión o la libertad de reunión.
El reconocimiento facial supuestamente debería aportar más seguridad, pero en cambio estos sistemas ponen en riesgo derechos fundamentales, discriminan e incluso pueden abrir camino a la vigilancia masiva.
Los gobiernos represivos, en particular, confían en ese efecto disuasorio, como se vio recientemente en Argentina. La vigilancia masiva biométrica, como el reconocimiento facial por IA, afecta especialmente a individuos y grupos ya en desventaja, así como a activistas políticos. En Rusia, la policía arrestó a personas que habían asistido al funeral del disidente Alexei Navalny: un software de reconocimiento facial las había identificado analizando imágenes del funeral, que circularon en redes sociales o provenían de cámaras de vigilancia.
La discriminación por IA resulta del uso incorrecto de la tecnología. Por ejemplo, puede excluir ilegalmente a personas en procesos de contratación o de crédito por su etnia, género o edad. La IA evalúa datos, pero eso no hace que la toma de decisiones automatizada sea necesariamente objetiva, precisa o basada en hechos.
AlgorithmWatch investiga dónde y cómo ocurre la discriminación algorítmica, e invita a reportar casos documentados.
IA y sostenibilidad: una carga para el medioambiente
Procesar aplicaciones de IA consume energía. Encontrar patrones útiles en conjuntos de datos durante el entrenamiento de la IA, y luego verificar si sus predicciones se cumplen durante la operación de los sistemas, es computacionalmente muy exigente. El hardware de los servidores que esto requiere se construye con minerales presentes en baterías y microprocesadores, extraídos en condiciones laborales espantosas. Los desechos electrónicos en que eventualmente se convierten esos servidores suelen no ser reciclables y terminan en vertederos en Asia, donde la población sufre las consecuencias ambientales.
Es sabido que los centros de datos, así como la producción y operación del hardware, contribuyen de forma significativa a las emisiones globales de dióxido de carbono. Sin embargo, la información sobre el consumo energético real de la IA y las emisiones que genera es escasa, lo que dificulta encontrar soluciones regulatorias y tecnológicas para reducirlas.
Cuando los servidores operan en los centros de datos, la energía eléctrica se convierte en calor. Para evitar que se sobrecalienten, deben enfriarse, muchas veces con agua. Sin millones de litros de agua dulce para enfriar plantas de energía y servidores, no podría entrenarse a los grandes modelos de IA. La creciente demanda de IA también implica una necesidad cada vez mayor de agua: el consumo de agua de Google para IA aumentó un 20% entre 2021 y 2022, y se duplicó en algunas zonas de sequía. En ese mismo período, Microsoft registró un aumento del 34% en su consumo de agua para entrenamiento y desarrollo de IA.
IA y concentración de mercado: por qué la IA necesita regulación
Google, Amazon, Apple, Meta y Microsoft: estas cinco empresas tecnológicas estadounidenses no solo dominan nuestra vida digital cotidiana, sino el mercado entero de servicios digitales. Proveen los sistemas operativos, programas y servicios en línea más usados: la infraestructura digital misma. Buena parte de la infraestructura económica y estatal depende peligrosamente de los productos de estas empresas estadounidenses.
La administración pública alemana, por ejemplo, se ha vuelto dependiente de Microsoft. Muchas autoridades federales y estados —con excepción de Schleswig-Holstein— dependen de productos de Microsoft como Office 365, Azure o Teams. Estos servicios solo funcionan de forma confiable mientras Microsoft los actualiza. Esta situación es propensa a un “efecto de bloqueo” (lock-in), que ata a los clientes a productos, servicios o proveedores por falta de alternativas o por el alto costo de cambiar de proveedor.
“Las empresas digitales se han vuelto muy poderosas en nuestra sociedad. Su injerencia no siempre es fácil de detectar. Forman monopolios que generan riesgos importantes, especialmente en ámbitos como la formación de la opinión política y la infraestructura digital crítica. Necesitamos más diversidad de mercado y oportunidades reales para proveedores dispuestos a proteger los derechos de los usuarios y promover el bien común.”
— Matthias Spielkamp, director ejecutivo y cofundador de AlgorithmWatch
El dominio de mercado de estos cinco gigantes tecnológicos les da un enorme poder de negociación: pueden dictar precios y condiciones a sus proveedores, lo que dificulta muchísimo que la competencia desarrolle alternativas independientes. Al mismo tiempo, las empresas que desarrollan IA presentan con éxito sus productos como una solución universal para todo. Esta coincidencia de ambos fenómenos exige especial cautela: el uso apresurado de IA sin beneficios verificables solo llevará a una mayor dependencia de corporaciones que ya son demasiado poderosas.
