La plataforma Midjourney, que utiliza inteligencia artificial (IA) para crear imágenes hiperrealistas, tiene una prohibición que impide la creación de imágenes del líder chino Xi Jinping desde el año pasado, según ha informado el director ejecutivo David Holz. Holz explicó que su equipo quería minimizar el drama en torno a las deepfakes, y que la sátira política no está bien vista en China. Aunque ha habido informes de otros términos restringidos en la plataforma, Holz se ha negado a hacer pública la lista completa.
El equipo de Midjourney ha reconocido la dificultad de establecer políticas de contenido y ha tomado medidas de seguridad para evitar el mal uso de su tecnología, aunque Holz ha reconocido que estas medidas no han sido «suficientes». Las deepfakes, que inundan Internet y los medios de comunicación, son una preocupación cada vez mayor, lo que ha llevado a la plataforma a revocar su versión de prueba gratuita y establecer una cuota mensual de 10 dólares.
En las últimas semanas, han circulado imágenes falsas generadas por Midjourney, como una imagen de Donald Trump siendo arrestado y otra del papa vistiendo un llamativo plumífero blanco. El equipo de Midjourney ha expresado su preocupación por el mal uso de su tecnología y ha señalado que el acceso local a la plataforma en China es más importante que la posibilidad de que los usuarios fuera del país generen imágenes satíricas sobre el dictador.
Aunque Midjourney puede crear una variedad infinita de imágenes utilizando la IA, la plataforma no puede recrear a Xi Jinping, según informa The Sun. Holz ha explicado que la empresa quiere minimizar la controversia en torno a las deepfakes y que su equipo ha establecido una política para restringir la sátira política en China.
Deja una respuesta