El Papa vistiendo ropa urbana, el Pentágono en llamas… ¿Qué es un deepfake y cómo puedes proteger tus datos?

[adsenseyu1]

¿Nueva amenaza de la Inteligencia Artificial? comprende la amenaza de los deepfake y protege tus datos

“Deepfake” es una técnica que combina Inteligencia Artificial avanzada con aprendizaje automático para crear videos o fotografías falsas que se ven auténticas.

Ciudad de México, Septiembre de 2023. En los últimos años, una preocupante amenaza ha surgido en el escenario de la seguridad digital: el deepfake. Se trata de una tecnología que utiliza la inteligencia artificial llamada deep Learning (aprendizaje profundo) para crear vídeos, audios o imágenes falsas extremadamente convincentes, en los que las personas pueden ser manipuladas digitalmente para que parezcan decir o hacer cosas que nunca han hecho. De acuerdo al estudio de identidad en línea a consumidores 2023 de junio, el 63% de los mexicanos  conoce las herramientas de IA generativa y deepfake.

Para Hugo Werner, vicepresidente regional de Akamai Technologies para LATAM, esta capacidad de manipulación de medios tiene implicaciones profundas en la seguridad digital y requiere una respuesta eficaz de los expertos en ciberseguridad. “El reciente caso de la imagen del pentágono prendiendo fuego que se volvió viral en Internet e influenció la caída de las acciones en la bolsa de valores de Estados Unidos, o las fotos falsas del papa Francisco vistiendo una gran chamarra blanca, son ejemplos evidentes del impacto de esta técnica. En ese sentido, es necesario mirar con atención el avance de la inteligencia artificial en lo que respecta a la ciberseguridad.”

Cómo el deepfake amenaza la seguridad digital

Deepfake es una técnica que combina inteligencia artificial avanzada con aprendizaje automático para crear videos o fotografías falsas que se ven auténticas. Esta tecnología utiliza algoritmos para analizar y sintetizar miles de imágenes y videos existentes de una persona objetivo, lo que permite la creación de material falso que puede engañar incluso a los ojos más entrenados.

La inteligencia artificial aprende características de los medios existentes y utiliza estos datos para generar contenido manipulado. Aunque los programas rápidos y fáciles de usar pueden crear deepfakes de baja calidad, los más convincentes requieren software de edición y equipos sofisticados.

Las implicaciones del deepfake en la seguridad digital son amplias y preocupantes, señala Hugo Werner. Una de las principales consecuencias es el aumento del riesgo de ataques de phishing e ingeniería social: “Con videos o fotografías deepfake convincentes, los criminales pueden crear situaciones en las que parecen ser personas de confianza, como directores generales, empleados de instituciones financieras o incluso amigos y familiares, engañando a las víctimas y obteniendo acceso a información confidencial. Además, la reputación y confianza de las personas, empresas e instituciones también están en juego.”

La difusión de videos o fotografías deepfake puede causar daños irreparables a la imagen de una persona u organización, afectando relaciones, carreras e incluso la estabilidad social. Políticos, celebridades, figuras públicas y personas comunes corren el riesgo de ser blanco de manipulaciones maliciosas, lo que puede tener un impacto significativo en su credibilidad y relaciones. En mayo pasado en el congreso de la  CDMX se presentó la iniciativa para sancionar hasta con 10 años de cárcel los delitos deepfake.

El papel de la IA en la ciberseguridad

Con el avance de la tecnología, identificar deepfakes se ha vuelto más desafiante, sin embargo, no todo está perdido. Así como el deepfake utiliza inteligencia artificial para crear videos o fotografías falsas, la ciberseguridad puede valerse de la misma tecnología para combatir esta amenaza. La inteligencia artificial se puede utilizar para desarrollar sistemas de detección de deepfakes más avanzados y eficaces.

Hugo explica que los algoritmos de aprendizaje automático pueden ser entrenados para identificar anomalías en los videos, como imperfecciones en los movimientos faciales, alteraciones sutiles en el tono de piel o distorsiones en la voz. Estas técnicas pueden ayudar a diferenciar videos auténticos de deepfakes y alertar a los usuarios sobre posibles amenazas.

La tecnología del deepfake presenta un desafío importante para la seguridad digital, pero también ofrece oportunidades para el desarrollo de soluciones avanzadas. “La ciberseguridad debe apoyarse en la inteligencia artificial para mejorar sus defensas contra la diseminación de deepfakes y proteger a los individuos, las organizaciones y la sociedad en su conjunto. Es necesario un esfuerzo conjunto para combatir esta amenaza en constante evolución, garantizando un entorno digital más seguro y confiable para todos”, señala Werner.

Detección y prevención de deepfakes

Las anomalías siguen siendo comunes en las imágenes generadas por la IA, como detalles extraños en las orejas, manos, ojos y cabello, principalmente en deepfakes que involucran a personas inexistentes. Sin embargo, además de la identificación, es crucial adoptar medidas preventivas para evitar ataques cibernéticos con el uso de esta tecnología.

Hugo explica que para combatir la amenaza de los deepfakes, es esencial fortalecer la educación y la concientización en relación a ellas. “Es importante verificar siempre las fuentes de las imágenes y videos antes de compartirlos o tomar decisiones basadas en ellos, utilizando herramientas de búsqueda inversa, por ejemplo. Una buena práctica es consultar sitios de noticias confiables y organizaciones de verificación de hechos en casos que involucren a figuras públicas o políticos para validar la autenticidad del contenido”, comenta Hugo Werner.

Invertir en tecnología de detección de deepfakes también es fundamental para identificar contenido falso y prevenir daños significativos. Reforzar la seguridad cibernética y mantener los sistemas y dispositivos actualizados con medidas de seguridad sólidas es otra estrategia importante para prevenir ataques cibernéticos destinados a manipular información.

“Al adoptar estas prácticas, los individuos y las empresas pueden protegerse mejor contra los peligros del deepfake y minimizar el daño potencial causado por los ataques cibernéticos con esta tecnología. La vigilancia constante y la colaboración con expertos en ciberseguridad son esenciales para garantizar la integridad de la información compartida y evitar la difusión de contenido falso.” , finaliza Werner.