El gobierno de Venezuela está utilizando presentadores de televisión falsos generados por inteligencia artificial para difundir la desinformación.
Nota del editor: Antes de la publicación, el canal de YouTube que estaba alojando los videos de ejemplo fue terminado “. ”
El pais informes que la estación de televisión estatal venezolana VTV ha estado utilizando anfitriones de habla inglesa de una agencia de noticias estadounidense ficticia para compartir una cobertura de noticias falsamente positiva sobre el país.
Los videos de los anclajes ( AI ) generados por inteligencia artificial de Venezuela, que se llaman Noah y Daren, aparecieron por primera vez en un canal de YouTube llamado Casa de noticias Español.
En los videos que fueron transmitidos en VTV, Noah y Daren son representados como los verdaderos anfitriones de una transmisión de noticias supuestamente estadounidense.
Los dos presentadores presentan noticias falsas sobre Venezuela e intentan demostrar que la economía del país no está “ realmente destruida ” como pueden sugerir muchos otros medios de comunicación.
En realidad, sin embargo, Venezuela ha experimentado durante mucho tiempo hiperinflación crónica y escasez de alimentos. Mientras tanto, Noah y Daren son dos avatares creados con IA por una compañía llamada Synthesia.
El catálogo de Synthesia ofrece más de cien caras multirraciales que dirán lo que el comprador quiera por menos de $ 30 por mes. Los avatares de IA de la compañía se pueden vestir como cualquier cosa, desde presentadores de televisión, hasta un médico y Santa Claus.
Además de esta situación en Venezuela, el software de IA de Synthesia se ha utilizado para promover propaganda y narrativas progubernamentales en otros países del mundo.
Según un informe de El New York Times El mes pasado, la tecnología de Synthesia se utilizó para crear presentadores de noticias estadounidenses falsos en una campaña de desinformación pro China.
@viceworldnews Who made these AI-generated videos in support of Burkina Faso’s military rulers? The platform they were made on, Synthesia, said it had banned the user for breaching its terms of service, but wouldn’t reveal their identity. @Sophia Smith Galer #burkinafaso #ai #aigenerated #misinformation #avatar #deepfake ♬ original sound – VICE World News
Vice informes que el software de la compañía también se utilizó recientemente para promover el régimen militar interino del presidente Ibrahim Traore en Burkina Faso después de tomar el poder durante un golpe el año pasado.
Los videos revelan el lado oscuro de la IA y con qué facilidad se puede explotar la tecnología profunda.
En una declaración a El Washington Post, un portavoz de Synthesia dice: “ Nos duele ver a las personas usar mal el producto que construimos para ayudar a beneficiar a la sociedad — esta nunca fue nuestra intención. Sin embargo, no dejaremos que la minoría arruine la buena IA que tiene para ofrecer. ”
La compañía dice que la mayoría de los clientes usan su tecnología para crear videos de capacitación corporativa y recorridos inmobiliarios.
Según un portavoz de Synthesia, el usuario detrás de la Casa de Noticias Español ha sido prohibido por violar los términos del servicio. La compañía también dice que estas situaciones “ resaltan cuán difícil es la moderación ” en el mundo de la IA.
“ Fundamos la compañía en 2017 con principios éticos fuertes y hemos adoptado una postura mucho más estricta que la mayoría, ” dice el portavoz.
