La carrera de IA entre Estados Unidos y China toma un giro oscuro al revelar fallos críticos de seguridad en informe de red teaming

Boston, Massachusetts – enero de 2025; El lanzamiento del modelo de IA R1 de DeepSeek ha causado un impacto significativo en los mercados globales, reportando una pérdida de USD $1 billón en los mercados bursátiles. Marc Andreessen, asesor de Trump y capitalista de riesgo en tecnología, describió el lanzamiento como el “momento Sputnik de la IA”, subrayando las preocupaciones globales de seguridad nacional en torno al modelo de IA chino.

Sin embargo, una nueva investigación de red teaming realizada por Enkrypt AI, la plataforma líder en seguridad y cumplimiento de IA, ha descubierto graves fallos éticos y de seguridad en la tecnología de DeepSeek. El análisis encontró que el modelo es altamente sesgado y susceptible a generar código inseguro, así como a producir contenido dañino y tóxico, incluyendo discursos de odio, amenazas, autolesiones y material explícito o criminal. Además, el modelo fue encontrado vulnerable a la manipulación, permitiéndole asistir en la creación de armas químicas, biológicas y de ciberseguridad, planteando serias preocupaciones de seguridad global.

Comparación con otros modelos

En comparación con otros modelos, la investigación encontró que el R1 de DeepSeek es:

• 3 veces más sesgado que Claude-3 Opus,
• 4 veces más vulnerable a generar código inseguro que O1 de OpenAI,
• 4 veces más tóxico que GPT-4o,
• 11 veces más propenso a generar resultados dañinos en comparación con O1 de OpenAI, y
• 3.5 veces más propenso a producir contenido sobre armas químicas, biológicas, radiológicas y nucleares (CBRN) que O1 de OpenAI y Claude-3 Opus.

Declaraciones de Sahil Agarwal, CEO de Enkrypt AI

Sahil Agarwal, CEO de Enkrypt AI, declaró: “DeepSeek-R1 ofrece ventajas significativas en cuanto a costos en la implementación de IA, pero estas vienen con serios riesgos. Nuestros hallazgos revelan importantes brechas de seguridad y seguridad que no pueden ser ignoradas. Aunque DeepSeek-R1 puede ser viable para aplicaciones de alcance limitado, son esenciales salvaguardas robustas, incluyendo barreras y monitoreo continuo, para prevenir un uso dañino. La seguridad de la IA debe evolucionar junto con la innovación, no como una idea de último momento.”

Riesgos identificados durante las pruebas

El modelo exhibió los siguientes riesgos durante las pruebas:

• • Sesgo y discriminación – El 83% de las pruebas de sesgo produjeron con éxito resultados discriminatorios, con sesgos severos en raza, género, salud y religión. Estos fallos podrían violar regulaciones globales como el Acta de IA de la UE y la Ley de Vivienda Justa de EE.UU., representando riesgos para empresas que integren IA en finanzas, contratación y atención médica.
  • Contenido dañino y extremismo – El 45% de las pruebas de contenido dañino eludieron con éxito los protocolos de seguridad, generando guías de planificación criminal, información sobre armas ilegales y propaganda extremista. En una instancia, DeepSeek-R1 redactó un blog persuasivo de reclutamiento para organizaciones terroristas, exponiendo su alto potencial de mal uso.
  • Lenguaje tóxico – El modelo se ubicó en el percentil 20 más bajo en seguridad de IA, con el 6.68% de las respuestas conteniendo profanidades, discursos de odio o narrativas extremistas. En contraste, Claude-3 Opus bloqueó efectivamente todos los prompts tóxicos, destacando los débiles sistemas de moderación de DeepSeek-R1.
  • Riesgos de ciberseguridad – El 78% de las pruebas de ciberseguridad engañaron con éxito a DeepSeek-R1 para generar código inseguro o malicioso, incluyendo malware, troyanos y exploits. El modelo fue 4.5 veces más propenso que O1 de OpenAI a generar herramientas funcionales de hackeo, representando un riesgo mayor para la explotación cibercriminal.
  • Amenazas biológicas y químicas – DeepSeek-R1 fue encontrado explicando en detalle las interacciones bioquímicas del gas mostaza (sulfuro de mostaza) con el ADN, una clara amenaza de bioseguridad. El informe advierte que tales resultados de IA relacionados con CBRN podrían ayudar en el desarrollo de armas químicas o biológicas.

Conclusión de Sahil Agarwal

Sahil Agarwal concluyó: “A medida que la carrera armamentista de IA entre Estados Unidos y China se intensifica, ambas naciones están presionando los límites de la próxima generación de IA para la supremacía militar, económica y tecnológica. Sin embargo, nuestros hallazgos revelan que las vulnerabilidades de seguridad de DeepSeek-R1 podrían convertirse en una herramienta peligrosa, una que los ciberdelincuentes, redes de desinformación e incluso aquellos con ambiciones de guerra bioquímica podrían explotar. Estos riesgos demandan atención inmediata.”

Enkrypt AI está disponible aquí para aprender más sobre la metodología, resultados y recomendaciones.

Enlace al informe completo aquí:

https://cdn.prod.website-files.com/6690a78074d86ca0ad978007/679bc2e71b48e423c0ff7e60_1%20RedTeaming_DeepSeek_Jan29_2025%20(1).pdf

Fin

¹ ‘Momento Sputnik’: $1 billón eliminado de las acciones de EE.UU. después de que una empresa china presenta un chatbot de IA – https://www.theguardian.com/business/2025/jan/27/tech-shares-asia-europe-fall-china-ai-deepseek

Las acciones de Nvidia se hunden cuando la aplicación de IA china asusta a los mercados – https://www.bbc.co.uk/news/articles/c0qw7z2v1pgo

² Marc Andreessen en X – https://x.com/pmarca/status/1883640142591853011