TECH: Próximo paso en la desinformación – “Videos Falsos”

TECH: Próximo paso en la desinformación – “Videos Falsos”

Expertos están dando la voz de alarma sobre las “video-falsificaciones”, vídeos falsificados que parecen muy reales, advirtiendo que serán la próxima fase de las campañas de desinformación.

Los vídeos manipulados dificultan la distinción entre realidad y ficción, ya que la tecnología de inteligencia artificial produce contenidos falsos que parecen cada vez más reales.

El tema tiene la atención de los legisladores de ambos partidos en el Capitolio.

“Es casi demasiado tarde para hacer sonar la alarma antes de que esta tecnología sea liberada – se ha desatado… y ahora estamos jugando un poco a la defensa”, dijo a The Hill el vicepresidente de la Comisión de Inteligencia del Senado, Mark Warner (D-Va.).

Cuando se le preguntó si esta es la siguiente fase de las campañas de desinformación, Warner respondió “Absolutamente”.

Los expertos dicen que es sólo cuestión de tiempo que los avances en la tecnología de inteligencia artificial y la proliferación de esas herramientas permitan a cualquier usuario en línea crear falsificaciones profundas.

 

“Los expertos en política y tecnología lo consideran la siguiente arma en la guerra de desinformación”, dijo a The Hill Fabrice Pothier, asesor principal de la Comisión Transatlántica para la Integridad de las Elecciones.

Pothier teme que los avances tecnológicos dificulten la detección de vídeos falsos o falsificados.

 

“Creo que probablemente va a ser muy difícil usar el ojo humano para distinguir algo que es falso de algo que es real”, dijo.

Los expertos en inteligencia dicen que la amenaza de las falsificaciones profundas es inmensa y advierten de escenarios potencialmente peligrosos si no se controla la tecnología para crearlas.

“Esta tecnología debe ser considerada criminal, antiterrorista o incluso contraespionaje”, dijo Bob Anderson, director de The Chertoff Group.

Por ejemplo, los expertos plantearon hipótesis como los grupos terroristas ISIS o Al Qaeda fabricando videos de soldados estadounidenses que creaban atrocidades en el campo de batalla como propaganda; videos que mostraban falsamente a candidatos políticos que hacían comentarios polémicos antes de una elección; o CEOs que anunciaban proyecciones financieras incorrectas.

Las consecuencias de estos escenarios podrían ser desastrosas.

El senador Marco Rubio (republicano), miembro del Comité de Inteligencia del Senado, advirtió que la amenaza debe ser tomada en serio.

“Los enemigos de Estados Unidos ya están usando imágenes falsas para sembrar el descontento y dividirnos. Ahora imagina el poder de un video que parece mostrar papeletas robadas, comentarios salácitos de un líder político o civiles inocentes muertos en un conflicto en el extranjero”, dijo Rubio a The Hill en una declaración.

Peter Singer, un compañero que estudia la guerra y la tecnología en New America, dijo que las falsificaciones profundas serán “definitivamente convertidas en armas”, ya sea para “envenenar la política interna” o para que los actores hostiles de los estados-nación obtengan una ventaja en el campo de batalla.

Hany Farid, profesor de ciencias de la computación en Dartmouth College, dijo que muchas fuerzas se están uniendo para crear una “tormenta perfecta” que facilite la rápida difusión de contenido falso.

“Tenemos la capacidad de crear desinformación. Tenemos la capacidad de distribuirlo fácilmente y de forma amplia. Y luego tenemos un público acogedor que va a consumir lo que está circulando sin pensarlo dos veces”, dijo Farid a The Hill.

El ciclo de noticias de 24 horas y la expansión de las plataformas de medios sociales sólo agravarán el problema, dicen los expertos.

Las falsificaciones profundas ya están aquí, incluyendo un incidente prominente que involucra a la actriz Scarlett Johansson. Johansson fue víctima de falsificaciones profundas que adulteraron su rostro en videos pornográficos.

“Nada puede impedir que alguien corte y pegue mi imagen o la de otra persona en un cuerpo diferente y la haga parecer tan extrañamente realista como se desee”, dijo al The Washington Post en diciembre, calificando el asunto de “causa perdida”.

Otras mujeres menos conocidas han relatado historias horripilantes similares, afirmando que se produjeron videos con intenciones siniestras que van desde la venganza hasta la humillación.

“Una vez que se generaliza y se abarata, cualquiera puede hacerlo”, agregó Pothier, y predijo que ese podría ser el caso en tan sólo uno o dos años.

Los expertos también señalaron la reacción de otros datos manipulados para destacar la amenaza.

El año pasado, una imagen adulterada pretendía mostrar a un defensor del control de armas que sobrevivió al tiroteo en la escuela secundaria de Parkland rompiendo una copia de la Constitución. La imagen real no tocada era la del activista desgarrando una diana de un campo de tiro.

Sin embargo, los activistas por los derechos de las armas y los trolls rusos ayudaron a difundir la falsa imagen, dijo Singer.

Otros casos han resultado en derramamiento de sangre. El año pasado, se cree que el ejército de Myanmar introdujo en Facebook noticias falsas que avivaban el sentimiento antimusulmán y que desencadenaron una ola de asesinatos en el país.

Los expertos y legisladores dijeron que esperan una carrera tecnológica entre las herramientas utilizadas para crear falsificaciones y los métodos para contrarrestarlas.

Warner dice que la solución requiere la colaboración entre la comunidad tecnológica y los responsables políticos. Los intentos de legislar la cuestión podrían resultar rápidamente ineficaces a medida que cambie la tecnología.

“Si lo hacemos legislativamente sin la participación activa de las empresas de tecnología.