SUSCRÍBETE
Uno de los primeros sectores en donde se popularizó el uso de los ‘deepfakes’, convirtiéndolos en una amenaza principalmente para las mujeres y sus derechos, fue el de la pornografía. Foto: Especial

‘Deepfakes’y ‘fake news’, amenaza para la privacidad y la democracia de los mexicanos

La facilidad para crear y difundir contenidos falsos a través de Internet, aunado a la falta de controles y regulación en materia de redes sociales e Inteligencia Artificial, trae consigo una serie de problemas que afectan a todo el país: desde su sistema de gobierno hasta los derechos humanos de las personas

No es nuevo, pero su popularidad ha crecido exponencialmente. Datos del Foro Económico Mundial, advierten que los contenidos conocidos como “deepfake” aumentan anualmente a un ritmo exponencial de 900 por ciento.

SEON, empresa especializada en combatir los desafíos relacionados con el fraude digital, define este término como: un video, una imagen o un audio generado falsamente que imita la apariencia y el sonido de una persona.

“También llamados ‘medios sintéticos’, son tan convincentes a la hora de imitar lo real que pueden engañar tanto a las personas como a los algoritmos. Los ‘deepfakes’ son generados por la Inteligencia Artificial (IA)”, explica.

Los primeros contenidos de esta naturaleza surgieron como filtros de realidad aumentada para que a través de ciertas aplicaciones o plataformas digitales, las personas pudieran cambiar su cara con la de personajes famosos, ya sean reales o fantásticos.

Sin embargo, pasó poco tiempo antes de que se le empezara a dar un mal uso a este tipo de softwares, los cuales hoy no solo son herramientas que pueden ser utilizadas para atentar contra la intimidad de las personas, también amenaza la democracia y fomenta la desinformación entre la ciudadanía.

Pornografía, mercado predilecto

Uno de los primeros sectores en donde se popularizó el uso de los ‘deepfakes’, convirtiéndolos en una amenaza principalmente para las mujeres y sus derechos, fue el de la pornografía.

Los rostros de actrices famosas como Jennifer Lawrence o Scarlett Johansson comenzaron a ser recortados e incrustados en escenas pornográficas para después subirlos a páginas para adultos.

Nada más entre 2022 y 2023, la cantidad de pornografía ‘deepfake’ creada aumentó un 464 por ciento a nivel mundial, pasando de 3 mil 725 vídeos contabilizados por las autoridades el año pasado, a 21 mil 019 en este, un patrón alarmante según el informe “State of deepfakes 2023”.

De acuerdo con el reporte, este fenómeno digital vulnera múltiples derechos: la protección de datos, la privacidad, la intimidad, el honor y la propia imagen de las víctimas. También puede ser considerada una forma de violencia de género o de extorsión.

Aumenta la demanda 

El estudio “State of deepfakes 2023”, informa que el tráfico mensual generado en los diez principales sitios web dedicados a la pornografía ‘deepfake’ alcanzó la cifra de 34 millones 836 mil 914 este año, lo que se traduce en 303 millones 640 mil 207 videos vistos.

Además, asegura que este tipo de contenidos representa el 98 por ciento de todos los videos ‘deepfake’ en línea.

De acuerdo con la empresa Home Security Heroes, la cual desarrolló la investigación, esta cifra “considerable” demuestra la innegable demanda y la inmensa participación que estos sitios comandan entre la población actualmente.

“Las personas acuden en gran número a estos sitios web, reflejando un interés generalizado en el contenido que ofrecen.

“La magnitud de este tráfico deja claro que la curiosidad y el apetito de la sociedad por esta controvertida categoría de contenido está en aumento. Además, indica la creciente influencia de la tecnología ‘deepfake’ en la formación de las preferencias en línea de los creadores y consumidores”, explica.

Artistas mujeres, el blanco favorito

El informe desarrollado por la compañía Home Security Heroes revela que actualmente el 99 por ciento de las personas afectadas por la pronografía ‘deepfake’ son las mujeres, especialmente aquellas que son famosas.

Prueba de ellos es que el 94 por ciento de las personas que aparecen en videos de este tipo trabajan en la industria del entretenimiento, siendo las cantantes y actrices surcoreanas las principales víctimas al constituir el 53 por ciento de las personas destacadas en la pornografía “deepfake”.

Muchas herramientas, poco control

Actualmente, uno de cada tres softwares diseñados para generar ‘deepfakes’ es utilizado para crear contenidos pornográficos.

Aunado a esto, la investigación revela que con la variedad de aplicaciones que hay en Internet, hoy en día lo único que le cuesta a una persona realizar uno de estos videos es menos de media hora de su tiempo.

“Toma menos de 25 minutos y cuesta cero dólares crear un video pornográfico ‘deepfake’ de 60 segundos de cualquier persona utilizando únicamente una imagen clara del rostro del individuo”, dice el estudio “State of deepfakes 2023”.

Respecto a esta realidad, Josep Curto, profesor de Estudios de Informática, Multimedia y Telecomunicación de la Universidad Oberta de Catalunya (UOC), opina que desafortunadamente existe un mercado muy grande que está básicamente orientado a los hombres.

“No significa que sea más fácil crear fotos de mujeres que de hombres, pero básicamente hacia aquí es hacia donde están orientados estos servicios. Los grandes consumidores de pornografía son hombres, por los tanto, son el público al que están apuntando”, detalla.

Cifras de la empresa Home Security Heroes revelan que el 48 por ciento de los hombres afirman haber visto pornografía “deepfake” al menos una vez y el 74 por ciento de ellos no se siente culpable por su consumo.

“Es una forma de extender un terror sexual hacia las mujeres en un contexto de ciberacoso generalizado en el que prolifera una doble moral que penaliza o sanciona socialmente a las mujeres que aparecen en vídeos sexuales con mucha más dureza que cuando los protagonistas son hombres”, dice el experto en la materia.

Confusión y elecciones

En medio de un panorama en el que el uso del Internet y de las Tecnologías de la Información y Comunicación (TIC´s) es cada vez más común entre la población, la desinformación que surge a partir de los “deepfakes”, mismos que promueven las “fake news”, adquiere cada más relevancia al hablar de democracia por la amenaza que representa para los países.

De acuerdo con el Consejo Latinoamericano de Ciencias Sociales (CLACSO), la circulación cada vez más acelerada de noticias falsas, las cuales en promedio son compartidas hasta seis veces más que las reales en las redes sociales, provoca una dilución entre lo cierto y lo falso.

“La lógica de las plataformas y redes sociales alienta la viralización de las ‘fake news’ al crear una suerte de ‘cámara de eco’ ideológica alrededor de los usuarios y las usuarias que privilegia la exclusiva visualización de contenidos que coinciden con prejuicios, opiniones e intereses que suelen vincularse al enojo y al odio por ser aquellos que más likes y shares acumulan.

“De este modo, en vez de servir a la democratización y difusión de la información y el intercambio crítico de opiniones, estas aplicaciones terminan por propiciar una creciente desinformación digital”, explica el CLACSO.

Debido a los múltiples efectos que la desinformación auspiciada por tecnologías como el ‘deepfake’ tiene en el tejido social de los países, el Consejo Latinoamericano de Ciencias Sociales advierte que la difusión de estos contenidos en redes sociales y replicadas en los grandes medios es, hoy en día, una de las principales amenazas a la democracia en nuestra región.

Al respecto, Rubén Darío Vázquez, profesor en la FES Aragón, de la Universidad Iberoamericana y experto en tecnología y redes sociales, dice en entrevista con Reporte Índigo, que en las elecciones del próximo año en México este tipo de contenidos no pasarán desapercibidos.

“Si bien las campañas electorales inician oficialmente en marzo, ya estamos viendo una batalla mediática entre partidos y aspirantes a los cargos de elección popular en el que el uso de estas herramientas impulsada por la Inteligencia Artificial juegan un papel fundamental.

“Estoy convencido que las elecciones del 2024 estarán marcadas por la confusión. Las campañas negras van a jugar un papel crítico y la ciudadanía es la que se verá principalmente afectada al no poder discernir si los contenidos que ven o escuchan en las distintas plataformas digitales son verdaderos o falsos.

De acuerdo con Darío Vázquez, este fenómeno ya lo vimos con la llegada de las redes sociales, las cuales modificaron por completo la forma de comunicarse con el electorado, hacer campañas políticas y de acercarse a la población en general.

“Si a esta situación le sumamos el uso de las múltiples aplicaciones que sirven para crear “deepfakes” y que tampoco están reguladas adecuadamente, pues nos enfrentamos a un panorama bastante complicado en lo que se refiere al uso de estas tecnologías para tratar de sacar ventaja en las elecciones más grandes de la historia del país que se celebrarán el próximo año”, advierte.

Responsabilidad y regulación

El uso masivo de teléfonos inteligentes entre la población y de apps que usan Inteligencia Artificial hace cada vez más difícil para las autoridades poder controlar los contenidos digitales que se difunden a través de las redes sociales.

Ante la falta de una regulación clara por parte del Estado, la responsabilidad de distinguir entre las páginas web y los contenidos que son reales o no, recae en los ciudadanos.

Al respecto, Rubén Darío Vázquez, especialista en redes sociales e Internet, opina que para no caer en la desinformación, “cada persona debe verificar lo que consume, pues estamos en una época en la que no podemos creer en lo que vemos o escuchamos, especialmente cuando estamos hablando de las redes sociales y el Internet”.

Para enfrentar esta realidad, la cual viven múltiples países alrededor del mundo, es necesario que tanto el gobierno como las empresas de tecnología y la ciudadanía trabajen en conjunto para combatir el uso inadecuado de la Inteligencia Artificial.

Estados Unidos, por ejemplo, ya dio el primer paso. Hace una semana, el presidente Joe Biden, firmó una orden ejecutiva sobre IA que busca equilibrar las necesidades de las empresas de tecnología con la seguridad nacional y los derechos del consumidor.

Antes de firmar la orden, Biden dijo que la Inteligencia Artificial está impulsando cambios a una “velocidad de vértigo” y lleva consigo un tremendo potencial, así como peligros.

“La Inteligencia Artificial está en todas partes. Para evitar el riesgo, necesitamos gobernar esta tecnología”, dijo.

En México, a pesar de que no se ha legislado al respecto, en el Congreso de la Unión sí se ha tocado el tema.

El pasado 5 de octubre, en el Senado, se llevó a cabo un conversatorio con la Alianza Nacional de Inteligencia Artificial sobre “Políticas Públicas y Derechos” en torno a las IA.

Ahí, los legisladores expusieron que México debe aprovechar la experiencia de legislaciones en materia de IA que han implementado otros países, además de evitar la sobreregulación y adaptar el marco jurídico con el que ya contamos, en lugar de comenzar desde cero.

“La discusión es muy pertinente. Las inteligencias artificiales nos van a pegar en todos los ámbitos de la vida, como el laboral, el de seguridad y hasta el médico”, sostuvo el senador Emilio Álvarez Icaza Longoria, quien agregó que frente a esta tecnología se necesita “inteligencia colectiva” para regularlas adecuadamente.

Síguenos en Google News para estar al día
Te puede interesar