El tecnototalitarismo que viene / Deepfakes y manipulación mediática: El rostro digital de la posverdad (VII)
![[Img #27708]](https://latribunadelpaisvasco.com/upload/images/03_2025/5760_captura-de-pantalla-2025-03-29-121411.jpg)
En la era de la inteligencia artificial, la manipulación mediática ha adquirido una nueva dimensión con el auge de los deepfakes: videos, audios o imágenes generadas o alteradas mediante redes neuronales que pueden recrear con precisión la voz, el rostro y los gestos de una persona. Esta tecnología, inicialmente desarrollada para el entretenimiento o la accesibilidad, se ha convertido en una herramienta potencialmente peligrosa para la desinformación, la difamación y la manipulación política.
Los deepfakes utilizan redes generativas antagónicas (GANs) para crear contenido audiovisual falso que parece auténtico. Estas herramientas pueden superponer rostros, cambiar expresiones o simular declaraciones de personas reales con un nivel de realismo cada vez más difícil de detectar incluso para ojos entrenados o sistemas automáticos.
Se han utilizado deepfakes para:
- Sustituir rostros en películas o videoclips.
- Crear contenido pornográfico no consentido con celebridades o particulares.
- Simular discursos políticos falsos, declaraciones falsas de líderes o manipulaciones en campañas electorales.
El avance de esta tecnología ha provocado lo que algunos expertos denominan una crisis de veracidad. En un mundo donde ver no es creer, el contenido audiovisual pierde su fuerza probatoria:
- Difamación digital: La creación de videos falsos puede destruir reputaciones personales o profesionales.
- Confusión informativa: La existencia de deepfakes reduce la confianza en contenidos auténticos (“todo puede ser falso”).
- Guerra informativa: Estados o actores no estatales pueden utilizar deepfakes como armas de propaganda y desestabilización.
Casos reales e impacto global
- En 2020, un video viral mostraba al presidente Barack Obama insultando a Donald Trump. Era falso, pero técnicamente impecable.
- En Myanmar, deepfakes han sido utilizados para justificar violencia étnica y manipular audiencias locales.
- Empresas han sido víctimas de fraudes corporativos por llamadas y videos deepfake que imitaban a directivos para autorizar transferencias millonarias.
El crecimiento de los deepfakes plantea una serie de retos:
- Detección tecnológica: Aunque existen herramientas para identificar contenido manipulado, los algoritmos generadores avanzan más rápido que los detectores.
- Vacíos legales: En muchos países no existe legislación específica para sancionar la creación y distribución de deepfakes maliciosos.
- Libertad de expresión vs. seguridad: Regular el contenido sin caer en la censura preventiva es un delicado equilibrio.
Los deepfakes representan un punto de inflexión en la relación entre imagen, verdad y poder. La confianza en los medios digitales se encuentra en entredicho, y el riesgo de manipulación masiva es real.
Las preguntas clave son: ¿Estamos preparados para un mundo donde la realidad puede ser fabricada? ¿Cómo se protege la democracia y la integridad personal en un entorno donde todo puede ser falsificado?
La lucha contra los deepfakes requerirá una combinación de educación mediática, desarrollo tecnológico, legislación inteligente y responsabilidad ética para salvaguardar la verdad en la era digital.
En la era de la inteligencia artificial, la manipulación mediática ha adquirido una nueva dimensión con el auge de los deepfakes: videos, audios o imágenes generadas o alteradas mediante redes neuronales que pueden recrear con precisión la voz, el rostro y los gestos de una persona. Esta tecnología, inicialmente desarrollada para el entretenimiento o la accesibilidad, se ha convertido en una herramienta potencialmente peligrosa para la desinformación, la difamación y la manipulación política.
Los deepfakes utilizan redes generativas antagónicas (GANs) para crear contenido audiovisual falso que parece auténtico. Estas herramientas pueden superponer rostros, cambiar expresiones o simular declaraciones de personas reales con un nivel de realismo cada vez más difícil de detectar incluso para ojos entrenados o sistemas automáticos.
Se han utilizado deepfakes para:
- Sustituir rostros en películas o videoclips.
- Crear contenido pornográfico no consentido con celebridades o particulares.
- Simular discursos políticos falsos, declaraciones falsas de líderes o manipulaciones en campañas electorales.
El avance de esta tecnología ha provocado lo que algunos expertos denominan una crisis de veracidad. En un mundo donde ver no es creer, el contenido audiovisual pierde su fuerza probatoria:
- Difamación digital: La creación de videos falsos puede destruir reputaciones personales o profesionales.
- Confusión informativa: La existencia de deepfakes reduce la confianza en contenidos auténticos (“todo puede ser falso”).
- Guerra informativa: Estados o actores no estatales pueden utilizar deepfakes como armas de propaganda y desestabilización.
Casos reales e impacto global
- En 2020, un video viral mostraba al presidente Barack Obama insultando a Donald Trump. Era falso, pero técnicamente impecable.
- En Myanmar, deepfakes han sido utilizados para justificar violencia étnica y manipular audiencias locales.
- Empresas han sido víctimas de fraudes corporativos por llamadas y videos deepfake que imitaban a directivos para autorizar transferencias millonarias.
El crecimiento de los deepfakes plantea una serie de retos:
- Detección tecnológica: Aunque existen herramientas para identificar contenido manipulado, los algoritmos generadores avanzan más rápido que los detectores.
- Vacíos legales: En muchos países no existe legislación específica para sancionar la creación y distribución de deepfakes maliciosos.
- Libertad de expresión vs. seguridad: Regular el contenido sin caer en la censura preventiva es un delicado equilibrio.
Los deepfakes representan un punto de inflexión en la relación entre imagen, verdad y poder. La confianza en los medios digitales se encuentra en entredicho, y el riesgo de manipulación masiva es real.
Las preguntas clave son: ¿Estamos preparados para un mundo donde la realidad puede ser fabricada? ¿Cómo se protege la democracia y la integridad personal en un entorno donde todo puede ser falsificado?
La lucha contra los deepfakes requerirá una combinación de educación mediática, desarrollo tecnológico, legislación inteligente y responsabilidad ética para salvaguardar la verdad en la era digital.
