La producción de vídeos falsos con uso de inteligencia artificial alerta en EEUU





Donald Trump hablando de cómo los algoritmos le ayudaron a llegar a la Casa Blanca. Mark Zuckerberg explicando cómo manipuló a millones de personas. Y Kim Kardashian afirmando que no le importa ser odiada en las redes sociales.





Todos estos son ejemplo de un nuevo y controvertido fen√≥meno que se extiende sobre la campa√Īa electoral americana de 2020, a deep fake, nombre usado para designar v√≠deos falsos creados con la ayuda de inteligencia artificial.

La expresión viene de la unión de la palabra en inglés "falsa" con el término "deep learning" (aprendizaje profundo), una rama de la inteligencia artificial en la que los sistemas aprenden a analizar datos y realizar tareas.

El proceso para crear ese tipo de vídeo es relativamente simple, explica Agesandro Scarpioni, coordinador del curso de juegos digitales de Fiap (Facultad de Informática y Administración Paulista).

El trabajo básicamente es hecho por software que son capaces de mapear las expresiones faciales de una persona a partir de un vídeo original.

Después, el propio programa utiliza esta información para crear un nuevo vídeo desde el primero, cambiando algunos puntos. Es posible, por ejemplo, cambiar lo que la persona dijo o cambiar completamente la cara del personaje.

"Así, una persona puede pasar por otra, hablar algo que la otra no dijo, dar un testimonio, sonreír y hasta aparecer en un lugar donde nunca estuvo", dice Scarpioni.





La ventaja de esta técnica es que la manipulación se hace de manera sutil y realista, siendo casi imposible percibir las modificaciones a simple vista.

A Deep fake se utiliza en el mercado pornográfico y también ha dado las caras en juegos electrónicos, en el cine y la televisión. Y ella que permite, por ejemplo, poner el rostro de un actor famoso en el cuerpo de un doble.

Pero es su uso en campa√Īas pol√≠ticas que han asustado a especialistas como abogado Diogo Rais, profesor de la FGV y del Mackenzie.

"Es una fake news mucho más sofisticada y que trae un nuevo desafío. Hoy hay una idea de que, si he visto, es verdad, y para deep fake eso no existe ", dice.

Editor del sitio periodístico Bellingcat, Eliot Higgins va por el mismo camino. "Ya vemos la cantidad de contenido falso que es diseminado por partidarios de figuras políticas, en especial de Donald Trump, y no podemos esperar nada diferente en el caso de los vídeos de deep fake", dice, conocido por usar herramientas de redes sociales en sus reportajes.

"En realidad creo que es más probable que sean más compartidos, ya que inicialmente son más convincentes y en general es sólo eso que la gente necesita para apretar el botón de compartir", completa.

Scarpioni, de Fiap, está de acuerdo. "La gente no hace un análisis previo, no observan el vídeo, sólo reciben en el grupo de la familia de WhatsApp y luego eso se vuelve verdad. Y luego para corregir es muy difícil ", afirma.

La primera deep fake que se tiene noticia fue hecha en 2017 por tres investigadores de la Universidad de Washington, Estados Unidos.

El grupo utiliz√≥ inteligencia artificial para modificar un v√≠deo de Barack Obama, haciendo que el ex presidente estadounidense hablara cosas que en realidad formaban parte de una entrevista anterior -la idea era demostrar el poder de la tecnolog√≠a y no enga√Īar a nadie.

Luego, sin embargo, expertos alertaron sobre el peligro que la técnica podría representar en las elecciones.

"Los vídeos de deep fakes se pueden usar para difundir falsos rumores sobre candidatos. E incluso pueden poner en duda acontecimientos verdaderos, con la excusa que todo puede ser falso ", dice el investigador Aviv Ovadya, que investiga cómo la información circula en el mundo.

El asunto ha vuelto a destacar en las √ļltimas semanas tras el surgimiento de un v√≠deo que ha cambiado para que la presidenta de la C√°mara de Representantes de Estados Unidos, la dem√≥crata Nancy Pelosi, pareciera estar embriagada.

La confusión alrededor del caso se ha incrementado después de que Facebook se niegue a borrar el vídeo, a pesar de que es falso.

Días después, surgió en el Instagram (que pertenece a Facebook) un nuevo video protagonizado por el fundador y CEO de la red social, Mark Zuckerberg, en el que aparecía denunciando la actuación de las empresas de tecnología.

La imagen era en realidad un deep fake hecho por un d√ļo de artistas brit√°nicos exactamente con el objetivo de denunciar los peligros del uso de este tipo de t√©cnica.

"Nosotros usamos esta tecnología para crear piezas de arte digital que hablan sobre algunos de los principales asuntos de la actualidad, como la falta de privacidad y el impacto que eso ejerce sobre la democracia en el mundo, hoja Bill Poster, autor de los vídeos junto a Daniel Howe.

Los v√≠deos falsos de Trump y Kim Kardashian citados al principio de este texto forman parte de la obra. El cantante Freddie Mercury y el actor Morgan Freeman, entre otros, tambi√©n fueron objeto de los deep fakes del d√ļo.

Powers y Howe también crearon una instalación en la ciudad de Sheffield, Inglaterra, sobre el tema. La llamada "Spectre", está formada por totems que simulan cabinas de votación y exhiben contenido creado a partir de algoritmos.

"Sin transparencia de las empresas de tecnología y sin una mayor regulación y fiscalización de la industria digital, vamos a seguir viendo la democracia siendo subvertida", dice Powers sobre los motivos que lo llevaron a hacer la obra.

Para Higgins, del Bellingcat, el uso de deep fakes todavía debe crecer en el ciclo electoral de 2020 y él y no ve qué se puede hacer para impedir que eso suceda.

El abogado Rais también espera un crecimiento del uso de esta técnica, en especial si se vuelve más accesible.

"Me preocupa mucho el avance de esta tecnología. Actualmente todavía es caro, pero no dudo que hasta la elección de 2020 ya existan aplicaciones que lo hagan de manera automática ".

Nacho Vega

Nacho Vega. Nac√≠ en Cuba pero resido en Espa√Īa desde muy peque√Īito. Tras cursar estudios de Historia en la Universidad Complutense de Madrid, muy pronto me interes√© por el periodismo y la informaci√≥n digital, campos a los que me he dedicado √≠ntegramente durante los √ļltimos 7 a√Īos. Encargado de informaci√≥n pol√≠tica y de sociedad. Colaborador habitual en cobertura de noticias internacionales y de sucesos de actualidad. Soy un apasionado incansable de la naturaleza y la cultura. Perfil en Facebook:¬†https://www.facebook.com/nacho.vega.nacho Email de contacto: nacho.vega@noticiasrtv.com

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *