YouTube introduce nuevas herramientas para proteger a los creadores de contenido de los 'deepfakes' y la manipulación de imágenes

YouTube introduce nuevas herramientas para proteger a los creadores de contenido de los 'deepfakes' y la manipulación de imágenes

En un esfuerzo por garantizar la autenticidad y la transparencia en su plataforma, YouTube ha anunciado la introducción de nuevas herramientas destinadas a proteger a los creadores de contenido de los 'deepfakes' y la manipulación de imágenes. Estas herramientas tienen como objetivo principal prevenir la difusión de contenido fraudulento y garantizar la integridad de los contenidos publicados en la plataforma. Con esta iniciativa, YouTube busca fortalecer la confianza de sus usuarios y proteger la reputación de los creadores de contenido que confían en la plataforma para compartir sus ideas y crear contenido de valor.

YouTube Lanza Medidas para Proteger a Creadores de Contenido de Deepfakes y Manipulación de Imágenes

La plataforma de videos de Google, YouTube, está tomando nuevas medidas para proteger a sus creadores y artistas ante el contenido que copia su voz o imagen mediante inteligencia artificial generativa.

La Amenaza de la Inteligencia Artificial Generativa

La tecnología de inteligencia artificial generativa ha permitido la creación de deepfakes de audio y videos que pueden ser utilizados para engañar a los espectadores. Esto se traduce en una gran amenaza para la autenticidad y la integridad de los creadores de contenido en la plataforma.

Desarrollo de Herramientas para Detectar Contenido Generado por IA

Para contrarrestar esta amenaza, YouTube está desarrollando dos nuevas herramientas que detecten cuando el contenido es generado por IA. La primera herramienta tendrá la misión de detectar voces de cantantes que estén simuladas estéticamente por la IA.

Esta tecnología formará parte de Content ID, el sistema de protección de IP automatizado de YouTube, que hoy identifica material protegido por derechos de autor. Una vez que sea activada, se encargará de detectar de forma automática cuando se publiquen contenidos en YouTube que simulen la voz de alguien cantando.

Si este material se ha creado sin ningún tipo de autorización, los artistas podrán solicitar su eliminación. No te preocupes, YouTube te dejará solicitar su eliminación.

Acabar con los Deepfakes de Rostros

La segunda herramienta en la que YouTube se encuentra trabajando tiene como objetivo acabar con los deepfakes de rostros de actores, artistas, youtubers, deportistas, etcétera.

Esto contribuiría en gran medida a que puedan solicitar su eliminación para evitar que la imagen falsa se utilice para engañar a los espectadores, ya sea para promocionar productos y servicios que nunca aceptaron respaldar o difundir información errónea.

Medidas en Contra de la Violación de los Términos de Servicio

YouTube también se compromete a tomar medidas enérgicas contra cualquiera que rastree la plataforma para crear herramientas de IA. Hemos sido claros en que acceder al contenido de los creadores de formas no autorizadas viola nuestros Términos de servicio.

Esto no ha impedido que empresas como Apple, Anthropic, Nvidia, Salesforce y Runway AI entrenen sus sistemas de inteligencia artificial con miles de la plataforma.

Con estas nuevas medidas, YouTube busca proteger a sus creadores de contenido de la manipulación de imágenes y voces con IA, y garantizar que la plataforma siga siendo un espacio seguro y confiable para compartir contenido.