Tecnología española desenvuelve sistema para detectar si un audio de voz fue generado con inteligencia artificial

Tecnología española desenvuelve sistema para detectar si un audio de voz fue generado con inteligencia artificial

En un avance significativo en el campo de la seguridad y la autenticidad de los contenidos digitales, investigadores españoles han desarrollado un innovador sistema capaz de detectar si un audio de voz ha sido generado mediante inteligencia artificial (IA). Esta tecnología, que revoluciona la forma en que se abordan los problemas de autenticidad en la era digital, permitirá a los usuarios identificar de manera precisa si un audio es genuino o ha sido creado utilizando algoritmos de IA. Esta herramienta tiene importantes implicaciones en áreas como la seguridad, la justicia y la comunicación, donde la detección de audios falsificados puede ser crucial para evitar la desinformación y la manipulación.

Nueva tecnología española detiene deepfakes de voz: ¿es real o sintética?

La inteligencia artificial (IA) está revolucionando la forma en que interactuamos con dispositivos, asistentes virtuales y plataformas digitales, con voces artificiales que suenan sorprendentemente humanas. Sin embargo, esta tecnología no está exenta de controversias y preocupaciones.

Uno de los principales problemas es el potencial para el uso indebido y el fraude. Las voces artificiales pueden ser utilizadas para crear grabaciones falsas que son difíciles de distinguir de las reales, lo que puede llevar a la desinformación y al fraude de identidad.

Sistema español descubre si un audio de voz fue generado con inteligencia artificial

Para combatir este problema, investigadores de la Universidad de Granada (UGR) han desarrollado un nuevo sistema que permite averiguar si una grabación de voz es real o se ha generado mediante inteligencia artificial.

La herramienta integra modelos específicos para voces de personalidades que son objetivo frecuente de noticias falsas, como la voz del rey Felipe VI, el presidente del Gobierno, Pedro Sánchez, y la vicepresidenta del Gobierno y ministra de Trabajo y Economía Social, Yolanda Díaz.

La herramienta está especialmente capacitada para validar las voces de estas personalidades, lo que la hace especialmente útil en la lucha contra la desinformación.

Hasta ahora, el audio ha sido un problema 'menor' en comparación con otros tipos de contenidos falsos, como las fotografías o los vídeos. Sin embargo, en los últimos dos años está ganando terreno, por lo que es preciso contar con herramientas que ayuden a la detección de audios generados y sirvan como verificadoras de autenticidad.

El nuevo sistema también podría ser una herramienta para luchar contra las estafas telefónicas, subiendo a la plataforma creada el audio en cuestión para intentar determinar si es una voz real.

Los investigadores admiten que este es un problema de más difícil resolución, dado que en ocasiones esas llamadas falsas de voz instan al interlocutor a que decida en el momento.

Juegan con el factor tiempo: te llaman y quieres que decidas en el momento, y a veces (la llamada) te pilla en la calle con ruido ambiente, lo que hace que no te percates de si la voz es sintética o no parece muy natural, comentan los investigadores.