Guía básica de la IA

Material falso

Vídeos, imágenes o audios falsos creados utilizando la inteligencia artificial.

La IA ha permitido que las tecnologías tengan nuevas formas de crear imágenes, discursos, música y vídeos hiperrealistas llamados "deepfake".

Los deepfakes funcionan estudiando imágenes o audio existentes en el mundo real, mapeándolos en detalle y luego manipulándolos para crear obras de ficción que son sorprendentemente reales.

Estas tecnologías, consideradas impensables hace tan solo unos años, ya cuentan con una gran variedad de aplicaciones en todos los ámbitos, desde efectos especiales en películas de Hollywood hasta producción de música y pornografía. Aunque la mayoría de las aplicaciones están pensadas para ser entretenidas e imaginativas, si se usan de forma inapropiada también pueden generar información errónea que puede ser perjudicial para la sociedad: las falsificaciones convincentes incorporadas en discursos públicos pueden dañar en gran medida el conocimiento y la confianza de la opinión pública.

Las falsificaciones pueden ser convincentes, pero hay algunas señales reveladoras que las distinguen de la realidad.

En las falsificaciones de los últimos años, las representaciones visuales de personas pueden presentar fallos, como los juegos de ordenador. Las voces pueden ser un poco robóticas. Los personajes también parpadean menos o repiten los mismos gestos con las manos, ya que para los creadores no es fácil encontrar, mapear y replicar material original de personas con los ojos cerrados o las manos expuestas.

A medida que las falsificaciones son cada vez más sofisticadas, los métodos y las tecnologías que se usan para detectarlas también deben seguir evolucionando.