META y su polémico generador de videos

En la misma tónica que DALL-E, ahora META se suma a la carrera de las empresas de tecnología por desarrollar una inteligencia artificial capaz de "traducir" un texto a imágenes. Y, si bien todavía está en etapa de prueba, el generador Make A Video ya desata polémicas.

1 de diciembre de 2022

Un gato haciendo zapping, una nave espacial aterrizando en un planeta que bien podría ser Marte y un robot gigante bailando en Times Square. Nada de eso es real, pero la realidad es lo último que le importa a META (ex Facebook) y, precisamente por eso, acaba de lanzar un proyecto de conversor de lenguaje natural a video llamado- ¿cómo no?- Make A Video. A continuación, una escena de un aterrizaje en el espacio creada por este generador de video:

YOUTUBE

Antes de esto META había desarrollado Make A Scene (Hacé una escena), una suerte de prueba piloto que desembocó en esta nueva aplicación que - incluso en etapa de prueba- ya genera polémicas y alarmas, además de haber provocado un debate ético. Especialmente de cara a lo que ya conocemos de Facebook, y es que la empresa nunca tuvo problemas con difundir fake news ni con contribuir a la propagación de discursos de odio en el ecosistema digital.

Se vio muy claro durante la votación en la que se definió si Gran Bretaña se quedaba o salía de la Comunidad Económica Europea. En aquel momento, la campaña por el Brexit (que es como se denominó a la salida del Reino Unido de la Comunidad) tuvo en Facebook un aliado eficaz e irremplazable.

La razón: permitió llegar con noticias falsas a los indecisos, haciéndoles ver -entre otras fake news- la de una supuesta "invasión de turcos" a Inglaterra si es que Gran Bretaña seguía siendo parte de la Comunidad. Esos avisos tuvieron impactos y decidieron a muchas personas a votar por la salida, pero no sólo se basaban en información falsa sino que- además- desaparecieron luego de ser exhibidos en Facebook. El episodio fue investigado a fondo por la periodista galesa Carole Cadwalladr, quien recibió varios premios por su investigación y explica el episodio con todo detalle en esta charla TED:

¡META verso!

Con estos antecedentes, la incursión de META en el mundo de los videos hechos en base a una inteligencia artificial resulta, como mínimo, inquietante. Porque si bien es real que el producto aun están en desarrollo y que la compañía ha convocado a investigadores e investigadoras (además de usuarios de confianza, desde luego) para probar el modelo Beta y hacer las correcciones que sean necesarias, ahora el temor de muchos observadores es que una creación como ésta contribuya a la proliferación de las deep fake, que es como se llama a las noticias falsas casi indistinguibles de la realidad.

Porque, ¿cómo distinguir realidad de ficción cuando el realismo de lo que generan las máquinas es cada vez más perfecto? Sabiendo que la capacidad de procesamiento de de estos equipos es vertiginosa y hoy aprenden directamente de los errores cometidos por otras máquinas (machine learning), ¿qué sucede con los cuestionamientos éticos o la búsqueda de la verdad? Y, siguiendo a Cadwalldr, ¿qué impactos podría llegar a tener sobre la democracia la proliferación de videos perfectamente falaces y, al mismo tiempo, absolutamente convincentes?

YOUTUBE

Porque, y eso está claro, no todo se tratará de videos de gatitos manejando un control remoto, robots danzarines o aterrizajes lunares, no. Y no pasará mucho tiempo antes de que estos programas terminen haciéndole decir a cualquier figura pública lo que no dijo jamás. Y las desmentidas, ya se sabe, llegarán irremediablemente tarde.

Frente a esto, los desarrolladores de Make A Video se sinceran al decir que "Existen riesgos de que Make-A-Video pueda usarse para crear información errónea/desinformación. Debido a este riesgo, hemos agregado una marca de agua a todo el contenido creado a partir de Make-A-Video para garantizar que los espectadores sepan que el video se generó con IA". La pregunta ahora es: ¿alcanzará con eso?

Comparte tu opinión, dejanos tu comentario

Los comentarios publicados son de exclusiva responsabilidad de sus autores y las consecuencias derivadas de ellos pueden ser pasibles de sanciones legales.