Por Ariadna Cantarell
Los deepfakes y el crecimiento exponencial de la inteligencia artificial ponen a prueba a a una sociedad cada vez más inmersa en el mundo digital.
Durante décadas, la imagen funcionó como una de las pruebas más sólidas de realidad. Ver un video, escuchar una voz o mirar una fotografía implicaba, en cierta medida, asumir autenticidad e incluso en la era digital, donde la edición y los montajes no eran en esencia nuevos, persistía la idea de que todavía existían elementos visuales algo confiables para distinguir lo verdadero de lo manipulado.
Hoy, a un cuarto del siglo XXI, ese acuerdo cultural empieza a fracturarse por la simple y sencilla razón de que la expansión de la inteligencia artificial generativa y el crecimiento de los llamados deepfakes —contenidos audiovisuales manipulados mediante Inteligencia Artificial (IA) para simular rostros, voces, expresiones o situaciones inexistentes— están modificando no solo la manera en que circula la información, sino también la relación de las personas con la verdad digital.
Aquí el problema ya no se limita a la existencia de noticias falsas. El verdadero cambio es más profundo, y es que comenzamos a entrar en una etapa donde la evidencia visual deja de ser garantía suficiente de autenticidad.
Aunque las primeras versiones de deepfakes comenzaron a circular de manera pública a partir de 2017, el fenómeno se aceleró con el desarrollo de herramientas de IA generativa cada vez más accesibles, capaces de producir imágenes, audios y videos hiperrealistas desde dispositivos comunes y plataformas de uso cotidiano.
Ante dicha realidad, investigaciones recientes advierten que la reducción de barreras técnicas y económicas ha permitido que tecnologías antes limitadas a laboratorios especializados, hoy puedan utilizarse mediante aplicaciones comerciales o software de acceso más o menos sencillo.
Lo anterior ha provocado una transformación delicada en el ecosistema de las Tecnologías de la Información y la Comunicación (TICs), porque el problema ya no radica solo en producir contenido falso, sino en la dificultad creciente para verificar qué es real, qué es ficción o qué son fast news; la discusión rebasa por completo el ámbito tecnológico.
Resulta ineludible que el impacto comienza a sentirse en política, procesos electorales, comunicación pública, seguridad digital y consumo cotidiano de información y, como muestra, vale la pena observar cómo El World Economic Forum advirtió en su Global Risks Report 2024, publicado en enero de ese año, que la desinformación impulsada por inteligencia artificial se había convertido en el principal riesgo global de corto plazo, en particular por su capacidad para afectar estabilidad política, confianza institucional y procesos democráticos.
Existen al respecto, en distintos países, antecedentes concretos como el hecho de que durante 2023 y 2024 comenzaron a documentarse distintos casos de contenidos manipulados mediante IA en procesos electorales y contextos políticos internacionales. Sobre esto, vale la pena revisar algunos ejemplos.
Durante la campaña presidencial argentina de 2023, comenzó a viralizarse uno de los casos más visibles de manipulación política mediante inteligencia artificial en América Latina, al propagarse un video falso en el que, en apariencia, el entonces candidato Sergio Massa consumía cocaína. Meses después, durante procesos electorales posteriores en Argentina, también circularon deepfakes de Mauricio Macri anunciando falsos retiros de candidaturas o apoyos políticos inexistentes. Los casos encendieron alertas regionales sobre el impacto que los contenidos generados con IA podrían tener en procesos democráticos y ecosistemas digitales cada vez más difíciles de verificar.
En Corea del Sur, uno de los países con mayor penetración digital del mundo, autoridades electorales y organismos especializados comenzaron a emitir alertas desde 2023 sobre el uso creciente de contenidos generados con inteligencia artificial durante campañas políticas, de manera precisa videos y audios manipulados capaces de simular declaraciones o posicionamientos inexistentes de candidatos. Es más, el país impulsó algunas de las primeras discusiones regulatorias orientadas a restringir deepfakes electorales durante periodos de campaña.
En Irlanda, por su parte, especialistas en desinformación y organismos vinculados a integridad electoral advirtieron, durante 2024, sobre el riesgo que representa la circulación acelerada de materiales audiovisuales manipulados mediante IA en redes sociales, en especial en contextos donde la velocidad de difusión supera la capacidad de verificación pública.
Reportes recientes señalan que este tipo de contenidos suelen difundirse horas antes de las votaciones o durante momentos de alta tensión informativa, con una clara tendencia a dificultar procesos de verificación y maximizar su impacto en redes sociales.
En México, aunque la discusión pública sobre deepfakes y desinformación generada mediante inteligencia artificial todavía se encuentra en una etapa temprana, especialistas en ciberseguridad, verificación digital, integridad electoral y análisis de redes han comenzado a advertir sobre los riesgos que representa la rápida expansión de herramientas de IA generativa en un país donde más de 90 millones de personas utilizan redes sociales como uno de sus principales espacios de información y comunicación.
Pero la preocupación no se limita a campañas políticas, toda vez que el fenómeno también comienza a impactar entornos corporativos y de ciberseguridad, razón por la cual las empresas especializadas también señalan un aumento acelerado de fraudes mediante clonación de voz, suplantación de identidad y videos falsificados de personal ejecutivo utilizados para engaños financieros o accesos indebidos.
Algunos análisis proyectan que el volumen de contenidos deepfake podría multiplicarse de forma exponencial durante los próximos años conforme las herramientas de generación audiovisual se continúen simplificando.
Resulta esencial, ante semejantes datos, considerar que quizás el efecto más delicado no sea tecnológico ni financiero, sino cultural, si tomamos en cuenta que lo que empieza a erosionarse es la confianza; tan es así que diversos estudios muestran que la preocupación pública sobre la desinformación digital continúa creciendo a nivel global.
Datos como el anterior, se robustecen con informes como el Teens, Social Media and Technology 2024 del Pew Research Center, publicado en diciembre de 2024 y elaborado a partir de encuestas realizadas a adolescentes estadounidenses de entre 13 y 17 años, el cual registra que 96% de las y los jóvenes utiliza internet todo los días, y 46% reconoce estar conectado “casi constantemente”, una cifra que duplica el 24% registrado por el mismo organismo hace una década. El reporte advierte además que plataformas como YouTube, TikTok e Instagram forman parte central de la vida cotidiana digital de las nuevas generaciones, consolidando un entorno de hiperconectividad permanente.
Especialistas han comenzado incluso a utilizar conceptos como “liar’s dividend” para describir un escenario donde cualquier evidencia audiovisual puede ser desacreditada bajo el argumento de que “podría estar hecha con IA”. En otras palabras: la existencia de deepfakes no solo permite fabricar mentiras, también facilita poner en duda hechos reales.
El fenómeno adquiere especial relevancia en el entorno de las redes sociales, donde velocidad, viralidad y saturación informativa dificultan los procesos de verificación, porque la lógica algorítmica de las plataformas privilegia interacción y permanencia, no necesariamente autenticidad, lo que genera condiciones muy favorables para la propagación de contenidos manipulados.
Ahí estriba, quizás, uno de los puntos más inquietantes del debate contemporáneo sobre inteligencia artificial, la tecnología avanza más rápido que los mecanismos sociales capaces de procesarla.
Mientras las herramientas de generación audiovisual continúan perfeccionándose, los sistemas de detección todavía presentan limitaciones importantes; tan es así que investigaciones recientes desarrolladas por universidades y laboratorios especializados en inteligencia artificial —entre ellos, análisis publicados por el Massachusetts Institute of Technology (MIT), la University College London (UCL) y repositorios científicos como arXiv— previenen que muchos detectores de deepfakes funcionan de manera adecuada en entornos controlados, pero enfrentan dificultades para identificar manipulaciones reales en plataformas digitales abiertas y escenarios cotidianos.
Lo anterior se resume en una verdad alarmante: la tecnología capaz de falsificar contenidos está evolucionando más rápido que la tecnología diseñada para detectarlos.
En México, el fenómeno ya comenzó a generar alertas y discusiones públicas, como se ha señalado con anterioridad. La combinación entre hiperconectividad, consumo informativo en redes sociales y expansión acelerada de herramientas de IA generativa coloca al país dentro de un escenario sensible para la circulación de contenido manipulado y dinámicas de desinformación digital cada vez más difíciles de verificar en tiempo real.
Si se considera que buena parte de la conversación pública contemporánea ocurre hoy dentro de ecosistemas digitales donde imágenes, audios y videos circulan a velocidades imposibles de verificar en tiempo real, el reto no es menor.
En resumen, el debate alrededor de los deepfakes no puede reducirse únicamente a regulación, plataformas o herramientas tecnológicas; involucra también alfabetización digital, cultura de verificación y nuevas formas de ciudadanía en entornos hiperconectados.
Luego entonces, el desafío no recae en exclusiva en gobiernos o autoridades electorales; implica a empresas tecnológicas, desarrolladores, plataformas digitales, medios de comunicación, sistemas educativos y usuarios que participan todos los días en ecosistemas donde la velocidad de circulación suele imponerse sobre los procesos de comprobación.
De manera particular, en el entorno de las TICs, la discusión empieza a orientarse hacia un punto cada vez más complejo. Cómo construir tecnologías más avanzadas sin debilitar al mismo tiempo la confianza pública, lo que nos lleva a observar que, mientras las herramientas de IA generativa continúan expandiéndose, crece también la necesidad de desarrollar mecanismos éticos, regulatorios y sociales capaces de acompañar esa transformación.
Consulta más contenido en nuestro portal Leea Estrategias Corporativas
