Los videos DeepFake son cada vez más comunes en las redes sociales, y cada semana uno nuevo emerge para sorprendernos de las habilidades que este&nbsp;software tiene. Si bien algunas veces las intenciones de quién lo configura son malas -una de las consecuencias más aterradoras que trae esta nueva tecnología es justamente la desinformación adrede y la propagación de Fake News a nivel global- otras veces simplemente se altera un material de archivo que conocemos para demostrar el verdadero poder de esta tecnología. 
Esta vez fue el turno de la pelicula The Shining, o El Resplandor. Particularmente, la escena dónde Jack Torrance (Jack Nicholson)&nbsp;se encuentra en el salón principal escribiendo -supuestamente- su novela. Cuando su mujer Wendy (Shelley Duvall) entra a la habitación, se encuentra con la versión (spoiler) ya un poco modificada de su marido, quién le grita que lo está desconcentrando. Lo sorprendente de la modificación de este clip en particular, es lo increiblemente real que parece. 
<div style="text-align:center"> 
 <div class="ck-youtube" id="youtube-40" style="display: inline-block;"> 
 <iframe allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen frameborder="0" height="315" src="https://www.youtube.com/embed/HG_NZpkttXE" width="560"></iframe> 
 
 
 
 </div> 
</div> 
Ya hablamos sobre qué es, o mejor dicho <a href="https://www.filo.news/ciencia/La-Inteligencia-Artificial-DeepFakeEl-futuro-de-la-desinformacion-20190611-0040.html" target="_blank">cómo funciona</a> el software que hace que estos videos sean tan similares a un&nbsp;archivo original. Pero para alguien que no vió el clásico de Kubrick, sería dificil identificar a simple vista que Jim Carrey, en realidad no es Jim Carrey, si no que es Jack Nicholson con la cara de Jim Carrey arriba, pero con la voz y expresiones faciales de&nbsp;Jack Nicholson copiadas a la cara de Jim Carrey&nbsp;¿Se entiende? 
El DeepFake,&nbsp;es un software creado por desarrolladores muy importantes de las mejores universidades, que basicamente usa inteligencia artificial con aprendizaje automático que permite agregar, borrar, o cambiar lo que hace una persona en un video.&nbsp;En ese caso,&nbsp;"Switchea" caras. También se aplica a la transformación de discurso y también a la modificación de gestos en una persona. 
Para crear este video en cuestión, lo que se hizo -resumido- fue lo siguiente. 
Primero, se escaneó&nbsp;el clip original al que llamaremos&nbsp;"You're Breaking My Concentration!" para obtener los sonidos que más se repiten de Jack Torrance para encontrar un patrón. Después, se escanean estas sílabas con su correspondiente forma de decirlos en voz alta; por ejemplo, hay letras que salen de los labios de una manera muy similar con otras. Así, vas cubriendo todas las palabras.&nbsp;Teniendo las expresiones faciales correspondientes a cada sonido en&nbsp;ambas personas, el software crea un modelo 3D basado en un archivo con&nbsp;la cara del tercero en cuestión, previamente analizado.&nbsp;La frente se mantiene, y de las cejas para abajo se modifica. Se combina toda la data recolectada y por último se "pega" el material nuevo con el viejo y voilá, sí fuiste muy detallista cómo pasó en este caso,&nbsp;&nbsp;Nicholson salió de escena y lo reemplazó Carrey. 
Cada día que pasa, este tipo de Inteligencia Artificial se perfecciona, logrando resultados increibles -y a veces un poco atemorizantes- cómo el que se volvió viral esta semana. Por eso, continuamos la pregunta que disparó la última nota que hicimos sobre este tema: <a href="https://www.filo.news/ciencia/La-Inteligencia-Artificial-DeepFakeEl-futuro-de-la-desinformacion-20190611-0040.html" target="_blank">DeepFake ¿El futuro de la desinformación?</a>&nbsp;Jack, (Jim), te lee: 
<div style="text-align:center"> 
 <figure class="image" style="display:inline-block"> 
 <img alt="" data-height="533" data-size="w:1200,h:800" data-width="800" hspace="5" src="https://assets.dev-filo.dift.io/img/2019/07/10/jim-carrey-the-shining.png_158021514.png" title="" vspace="5"> 
 <figcaption></figcaption> 
 </figure> 
</div>

Ya vimos esta tecnolog&iacute;a aplicada a videos de&nbsp;Conan O'Brien, Donald Trump e incluso Nicholas Cage. Esta semana fue el turno de Jack Nicholson, cuyo rostro fue reeemplazado por el de Jim Carrey gracias a un software que usa&nbsp;IA. El C&oacute;mo, ac&aacute;.

Ya vimos esta tecnolog&iacute;a aplicada a videos de&nbsp;Conan O'Brien, Donald Trump e incluso Nicholas Cage. Esta semana fue el turno de Jack Nicholson, cuyo rostro fue reeemplazado por el de Jim Carrey gracias a un software que usa&nbsp;IA. El C&oacute;mo, ac&aacute;.

DeepFake: El Resplandor pero con Jim Carrey

inteligencia artificial

El trabajo fue realizado por científicos especializados de Stanford University, The Max Planck Institute for Informatics, Princeton university y Adobe Research. Y &nbsp;demuestra que de manera rápida y sencilla, podremos tener la habilidad de editar lo que alguien está diciendo en videos de manera efectiva y rápida, creando una posible nueva ola&nbsp;de Fake News. 
Para conocer cómo funciona, te mostramos&nbsp;el resultado de este sistema con varios ejemplos, incluida la transformación de&nbsp;una frase de Apocalypse now: cambiando el famoso “I love the smell of napalm in the morning”, por “I love the smell of french toast in the morning”. 
&nbsp; 
<div style="text-align:center"> 
 <div class="ck-youtube" id="youtube-46" style="display: inline-block;"> 
 <iframe allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen frameborder="0" height="315" src="https://www.youtube.com/embed/0ybLCfVeFL4" width="560"></iframe> 
 
 
 
 </div> 
</div> 
&nbsp; 
&nbsp; 
La instancia en la que se encuentra el proyecto es de plena investigación y no, el software no está disponible para uso público, aunque probablemente no pase mucho tiempo hasta que un servicio similar se lance a generar un sistema parecido, sobre todo después de que los resultados se vuelvan<a href="https://www.youtube.com/watch?v=T76bK2t2r8g" target="_blank"> virales.</a> 
<div style="text-align:center"> 
 <figure class="image" style="display:inline-block"> 
 <img alt="" data-height="480" data-size="w:1500,h:900" data-width="800" hspace="5" src="https://assets.dev-filo.dift.io/img/2019/06/11/hipertextual-ia-acepta-cualquier-texto-crear-deepfake-2019428505_2.jpg_589106975.jpg" title="" vspace="5"> 
 <figcaption>
 Tipeá&nbsp;el nuevo discurso y el software crea un nuevo video. 
 </figcaption> 
 </figure> 
</div> 
&nbsp; 
Para que todo este proceso se lleve a cabo, los científicos combinaron una serie de <a href="https://www.ohadf.com/projects/text-based-editing/data/text-based-editing.pdf" target="_blank">técnicas</a>. Primero, se escanea el &nbsp;video original en cuestión para obtener fonemas del orador (Sonidos constituyentes como “as”, “os”, “a”) Después, superponen estas silabas con su correspondiente visema &nbsp;(Un visema es cualquiera de varios sonidos del habla que se ven iguales, por ejemplo,&nbsp; cuando se leen los labios) y así, teniendo las expresiones faciales que acompañan cada sonido, el software crea un modelo 3D de la mitad inferior de la boca y mandíbula de la persona que está hablando en el video. 
Cuando el usuario escribe el texto que quiere que se reproduzca, el software combina toda esta data recolectada: los fonemas, visemas, y el modelo 3d de la cara editada son los componentes de la fórmula para crear un material completamente nuevo. &nbsp;Por último se pega al video que llamaríamos ‘original’ y voilá, el resultado final está listo. 
&nbsp; 
La pregunta que nos hacemos es: ¿Logra convencer? 
Se realizaron varias pruebas al público para comprobar si el producto final podría pasar como verdadero. Un grupo de 138 personas escucharon uno de los discursos editados, y el 60% pensó que era completamente autentico. La cifra no sorprende tanto, pero cabe aclarar que un 20% pensó que el video “real” era falso. Esto puede ser debido a que los invitados fueron notificados que se trataba de un estudio sobre Fake News y edición de video, según nos cuenta <a href="https://www.theverge.com/" target="_blank">The Verge.</a> 
Si bien esto suena apetecible para entretener, parodiar, y manejar personajes culturales a nuestro gusto, no tenemos que olvidar que éste software es un arma de doble filo. 
Los daños potenciales de esta tecnología son obvios y &nbsp;preocupantes. Los desarrolladores de este tipo de&nbsp;IA son a menudo criticados por no advertir de estos posibles y factibles percances, pero en su defensa, los científicos involucrados en el proyecto, escribieron en un <a href="https://www.ohadf.com/projects/text-based-editing/" target="_blank">Blog Post:</a> 
<blockquote> 
 “Aunque los métodos para la manipulación de imágenes y videos son tan antiguos como los medios en sí mismos, los riesgos de abuso aumentan cuando se aplican a un modo de comunicación que a veces se considera evidencia autorizada de pensamientos e intenciones. Reconocemos que los malos actores pueden usar tales tecnologías para falsificar declaraciones personales y calumniar a personas prominentes” 
</blockquote> 
Los remedios que se proponen no son tan reconfortantes como el público que las críticas quisieran. Básicamente, sugieren que el nuevo material editado con IA se presente como tal, con usos de marcas de agua o dando un contexto a la audiencia de que lo que están presenciando, no es un material original si no uno alterado. 
¿Pero qué pasa cuando las marcas de agua son removidas digitalmente, o cuando la falta de contexto es uno de los primordiales ganchos de las noticias virales online? Los desarrolladores prefirieron no centrarse en las malas, y si abordar los pros en vez de los contras. Alegan, que por ejemplo, la industria audiovisual se vería beneficiada al poder modificar diálogos mal dichos en películas y cine, incluso&nbsp;grabar actores en diferentes idiomas. 
Los beneficios no parecen ser muchos si los comparamos con el daño potencial colateral a pesar de las aparentes buenas intenciones de los desarrolladores. Aunque hay un buen punto en que <a href="https://www.theverge.com/2019/3/5/18251736/deepfake-propaganda-misinformation-troll-video-hoax" target="_blank">las propagandas falsas ya son noticia de todos los días</a>, sin la necesidad de un programa con IA que modifique discursos, el progreso de investigaciones como estas, sigue siendo bastante turbio.

Expertos crearon un software que usa inteligencia artificial con aprendizaje autom&aacute;tico que permite agregar, borrar, o cambiar las palabras que est&aacute;n saliendo directamente de la boca de una persona en un video. &iquest;Avance o retroceso?

Expertos crearon un software que usa inteligencia artificial con aprendizaje autom&aacute;tico que permite agregar, borrar, o cambiar las palabras que est&aacute;n saliendo directamente de la boca de una persona en un video. &iquest;Avance o retroceso?

¡No te pierdas las últimas noticias!

deepfake

DeepFake: El Resplandor pero con Jim Carrey

La Inteligencia Artificial “DeepFake”:¿El futuro de la desinformación?