Definición de Deepfake (mentira profunda)
El deepfake es una técnica de síntesis de imagen humana basada en inteligencia artificial que permite combinar y superponer imágenes y videos existentes en otras imágenes o videos. Básicamente permite reemplazar, por ejemplo, la cara de una persona por otra en un video con bastante realismo.
Deepfake es un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), y puede traducirse como mentira profunda.
El lado más oscuro del deepfake es el empleo de caras de famosos o gente común en videos pornográficos. La pornografía de Deepfake salió a la luz en Internet en 2017, particularmente en Reddit y ha sido prohibida por sitios como Reddit, Twitter y Pornhub.
Deepfakes se puede utilizar para crear noticias falsas y fraudes malintencionados.
Los deepfakes no pornográficos se pueden encontrar fácilmente en los sitios populares de transmisión de videos en línea como Youtube o Vimeo.
Un programa popular es FakeApp, que hace uso de TensorFlow de Google. Fue lanzada en enero de 2018. La aplicación permite a los usuarios crear y compartir fácilmente videos donde las caras han sido intercambiadas.
En 2016 se presentaron técnicas para simular gestos faciales y renderizar en el video objetivo como si fueran similares a las de la persona objetivo, y permiten la falsificación casi en tiempo real de expresiones faciales en videos 2D existentes.
El deepfake ha generado preocupaciones a nivel mundial debido a sus implicaciones éticas y de seguridad. La capacidad de crear videos falsos extremadamente realistas ha llevado a debates sobre la manipulación de la opinión pública y el potencial daño que puede causar.
En el ámbito político, los deepfakes pueden ser utilizados para difamar a un candidato, manipular discursos o incluso simular acciones indebidas con el objetivo de destruir la reputación de alguien. Esto plantea serias cuestiones sobre la veracidad de las pruebas audiovisuales y la dificultad de discernir entre lo real y lo falso.
Además de la manipulación política, los deepfakes también podrían ser utilizados con fines delictivos, como el engaño en transacciones financieras o la extorsión. La capacidad de imitar la voz y la apariencia de alguien puede facilitar la suplantación de identidad y llevar a graves consecuencias legales y personales.
A pesar de los esfuerzos por prohibir y regular el uso de los deepfakes, la tarea de detectar y combatir esta tecnología se vuelve cada vez más difícil. A medida que la inteligencia artificial avanza, también lo hacen las técnicas utilizadas para generar deepfakes, lo que plantea un desafío constante para mantener la integridad en el mundo digital.
Como sociedad, es importante estar informado sobre el desarrollo y uso del deepfake, así como fomentar la educación y conciencia sobre esta tecnología para prevenir su mal uso y entender sus implicaciones. La colaboración entre investigadores, legisladores y la industria es crucial para abordar estos desafíos y garantizar un uso responsable y ético de la inteligencia artificial.
Utilización de deepfake con malas intenciones
Se ha empleado deepfake con malas intenciones, en especial en el ámbito de la política. Por ejemplo, el rostro del presidente argentino Mauricio Macri fue reemplazado por el rostro de Adolf Hitler, y el rostro de Ángela Merkel fue reemplazado por el de Donald Trump.
También son muy afectadas las celebridades a quienes les crean videos pornográficos falsos.
Existen también compañías, como Naughty America (productora porno) que nos permite crear videos porno con nuestro rostro. Se puede usar video porno hogareño que proporciona el propio usuario o pornografía que da la compañía.
Resumen: Deepfake
Deepfake es una técnica de IA que superpone imágenes y videos existentes en otros, permitiendo reemplazar caras en videos. Se usa para crear pornografía y noticias falsas, y puede encontrarse fácilmente en sitios de streaming. FakeApp es un programa popular para crear estos videos. También permite simular gestos faciales en tiempo real.
¿Cuáles son las aplicaciones más comunes de la técnica de deepfake?
La técnica de deepfake se ha utilizado principalmente en el ámbito del entretenimiento, donde se han creado videos falsos de celebridades o políticos. Sin embargo, también se ha utilizado con fines maliciosos, como crear contenido pornográfico falso o generar desinformación.
¿Es posible detectar un video o imagen deepfake?
Detectar un video o imagen deepfake puede resultar complicado, ya que la tecnología ha avanzado lo suficiente como para hacerlos parecer muy realistas. Sin embargo, los investigadores están trabajando en el desarrollo de herramientas de detección específicas que analizan características como los movimientos o parpadeos incorrectos, la calidad de la imagen, entre otros.
¿Cuáles son las implicaciones éticas de la tecnología de deepfake?
La tecnología de deepfake plantea serias implicaciones éticas, ya que puede ser utilizada para difamar a personas, manipular información y causar daño a la reputación de alguien. Además, también se plantean preocupaciones sobre la privacidad, ya que se pueden crear imágenes y videos falsos de alguien sin su consentimiento.
¿Qué medidas se están tomando para contrarrestar los peligros de los deepfakes?
Las empresas tecnológicas están invirtiendo en el desarrollo de herramientas de detección de deepfakes, así como en la educación de los usuarios sobre cómo identificar contenido falso. Además, algunos países están considerando legislar para enfrentar los delitos relacionados con los deepfakes.
¿Qué precauciones se pueden tomar para protegerse de los deepfakes?
Algunas precauciones que se pueden tomar para protegerse de los deepfakes incluyen ser consciente de la existencia de esta tecnología, verificar la fuente y autenticidad de los videos o imágenes, y tener en cuenta que los deepfakes pueden ser utilizados como herramienta de desinformación.
¿Cómo afecta la tecnología de deepfake a la confianza en los medios de comunicación?
La tecnología de deepfake plantea desafíos significativos para la confianza en los medios de comunicación, ya que la posibilidad de que los videos o imágenes sean manipulados puede generar escepticismo sobre la veracidad de la información presentada. Esto resalta la importancia de verificar cuidadosamente las fuentes y ser más críticos al consumir contenido en línea.
Autor: Leandro Alegsa
Actualizado: 26-06-2023
¿Cómo citar este artículo?
Alegsa, Leandro. (2023). Definición de Deepfake. Recuperado de https://www.alegsa.com.ar/Dic/deepfake.php
