¿Es auténtica la voz? Un sistema español desarrolla tecnología para detectar si una grabación de audio ha sido modificada con inteligencia artificial

¿Es auténtica la voz? Un sistema español desarrolla tecnología para detectar si una grabación de audio ha sido modificada con inteligencia artificial

En la era digital, la autenticidad de las grabaciones de audio se ha convertido en una cuestión crucial. La capacidad de modificar y manipular voces utilizando inteligencia artificial ha generado inquietud en cuanto a la veracidad de los audios que se difunden en los medios de comunicación y en las plataformas digitales. En este contexto, un equipo de investigadores españoles ha desarrollado un sistema que permite detectar si una grabación de audio ha sido modificada con inteligencia artificial. Esta innovadora tecnología tiene el potencial de ser un aliado fundamental en la lucha contra la desinformación y la manipulación de contenidos audiovisuales.

Detectan la verdad en la voz: sistema español desarrolla tecnología para detectar deepfakes

Las deepfakes de voz pueden hacerse en tiempo real, lo que permite a los ciberdelincuentes hacer llamadas fraudulentas. La inteligencia artificial (IA) está revolucionando la forma en que interactuamos con dispositivos, asistentes virtuales y plataformas digitales, con voces artificiales que suenan sorprendentemente humanas. Sin embargo, esta tecnología no está exenta de controversias y preocupaciones.

La amenaza de las voces artificiales: las voces generadas por IA pueden ser utilizadas para manipular a las personas, haciéndolas creer que están interactuando con una persona real cuando en realidad están hablando con una máquina. Esto puede llevar a la desinformación y al fraude de identidad.

Un nuevo sistema hecho en España

Investigadores de la Universidad de Granada (UGR) han desarrollado un nuevo sistema que permite averiguar si una grabación de voz es real o se ha generado mediante inteligencia artificial. La herramienta integra modelos específicos para voces de personalidades que son objetivo frecuente de noticias falsas.

Una herramienta innovadora: Hemos generado una herramienta que integra soluciones propias y de terceros para discernir si un audio es real o está generado con algoritmos de inteligencia artificial. Una de las novedades que introduce esta herramienta es que no solo integra modelos generales, sino también modelos específicos generados en la UGR para voces de personalidades que son objetivo frecuente de desinformación, explican los investigadores.

La herramienta está especialmente capacitada para validar las voces del rey Felipe VI, el presidente del Gobierno, Pedro Sánchez, y la vicepresidenta del Gobierno y ministra de Trabajo y Economía Social, Yolanda Díaz.

La lucha contra las estafas telefónicas

El nuevo sistema también podría ser una herramienta para luchar contra las estafas telefónicas, subiendo a la plataforma creada el audio en cuestión para intentar determinar si es una voz real. Sin embargo, los investigadores admiten que este es un problema de más difícil resolución, dado que en ocasiones esas llamadas falsas de voz instan al interlocutor a que decida en el momento.

El desafío del factor tiempo: Juegan con el factor tiempo: te llaman y quieres que decidas en el momento, y a veces (la llamada) te pilla en la calle con ruido ambiente, lo que hace que no te percates de si la voz es sintética o no parece muy natural, comentan los investigadores.