La inteligencia artificial ya es capaz de crear voces y videos que imitan a los humanos con un realismo sorprendente.

Sin embargo, algunos delincuentes están utilizando esta tecnología para engañar a las personas, haciéndose pasar por empresas o instituciones con el objetivo de obtener información o dinero. Según Josep Curto, profesor de los Estudios de Informática, Multimedia y Telecomunicación de la Universitat Oberta de Catalunya (UOC), la clave para identificar un deepfake de voz no es buscar un sonido robótico, sino detectar las imperfecciones algorítmicas que delatan su origen sintético.

Señales clave para identificar voces generadas por IA

Curto destaca que, a medida que los modelos de voz generativa mejoran, los errores que delatan un deepfake se vuelven más sutiles. La mayoría de los fraudes con voces sintéticas fallan en aspectos como la prosodia (entonación, ritmo, intensidad) y las pausas o latencias sospechosamente regulares. En una conversación cotidiana, como una llamada urgente o una videollamada, es fácil pasar por alto estas anomalías si no se sabe qué buscar.

El experto recomienda distinguir entre los artefactos de red y las imperfecciones algorítmicas. Por ejemplo, en una mala conexión, el sonido fluctúa y el desfase entre audio y video es irregular. En cambio, en un contenido sintético, los errores suelen ser consistentes, como una entonación plana o pausas en lugares gramaticalmente incorrectos.

Cinco señales para detectar voces sintéticas en tiempo real

Curto propone cinco señales clave para identificar voces generadas por IA:

• Prosodia no natural y entonación plana: La voz carece de fluidez emocional, con pausas uniformes o tonos monótonos. En una mala conexión, los cortes son evidentes, pero la entonación base sigue sonando humana.
• Artefactos espectrales: Ruidos metálicos o clics al final de las palabras, y un audio demasiado limpio para el entorno. En una mala conexión, la calidad fluctúa, mientras que los artefactos de IA son consistentes.
• Desajuste entre labios y voz en videollamadas: Retrasos constantes o microanomalías, como labios que no sincronizan correctamente con los dientes. En una mala conexión, el movimiento facial sigue siendo orgánico.
• Microgestos extraños: Parpadeo escaso, mirada fija, sombras o iluminación poco naturales, y detalles extraños en el cabello o las orejas. En una mala conexión, se ven congelaciones o pixelado, no detalles finos.
• Latencia sospechosa: Demoras regulares o cambios bruscos sin motivo. Los modelos de IA tardan un tiempo fijo en generar respuestas, mientras que una red deficiente provoca latencias irregulares.

Herramientas y marcas de agua para detectar voces sintéticas

Curto explica que la detección de voces sintéticas es una carrera armamentística en constante evolución. Las herramientas disponibles se centran en el análisis forense de artefactos que los modelos de IA aún no han aprendido a eliminar. Algunas de las soluciones más prometedoras incluyen:

• Detección forense: Modelos de clasificación que analizan rasgos acústicos para reconocer patrones de entrenamiento de IA. Ejemplos como ASVspoof Challenges y herramientas como VerificAudio son utilizadas en medios para detectar señales sintéticas.
• Marcas de agua (watermarking): Estrategias para etiquetar el contenido generado, como AudioSeal (Meta) y SynthID (Google). Estas marcas permiten detectar qué partes del audio han sido alteradas, aunque su eficacia depende de la adopción y los estándares técnicos.

Buenas prácticas para proteger tu voz de fraudes con IA

Curto recomienda adoptar un enfoque proactivo para proteger la voz de posibles fraudes. Algunas buenas prácticas incluyen:

1. Consentimiento y privacidad: Evitar compartir grabaciones sin un propósito claro y revisar los ajustes de los asistentes virtuales para desactivar el almacenamiento continuo de datos.
2. Autenticación multifactor (MFA): Establecer un código de seguridad o una frase clave inesperada para verificar la identidad en llamadas sensibles.
3. Gestionar la huella vocal pública: Limitar la publicación de audios largos y claros en plataformas abiertas. Si es necesario publicarlos, reducir el bitrate o añadir música de fondo.
4. Tecnologías de anulación: Utilizar dispositivos o software que generen ruido blanco o ultrasonidos para interferir con los micrófonos, aunque estas soluciones pueden ser costosas y tener limitaciones legales.

Protocolo ABC para empresas y administraciones

Para empresas y administraciones, Curto propone un protocolo ABC para verificar la autenticidad de una llamada sensible:

• A. Confirma quién habla: Utilizar una palabra clave acordada previamente y verificar la respuesta con una persona o sistema secundario.
• B. Rompe el guion: Realizar una devolución de llamada (callback) a un número verificado y confirmar la identidad a través de un canal alternativo.
• C. Deja rastro y escala: Activar el protocolo de alerta interna, registrar las señales anómalas y escalar el incidente al departamento de ciberseguridad.

Curto enfatiza que la mejor defensa es el escepticismo humano, complementado con una verificación robusta y la limitación de la exposición de la huella vocal pública.