DeepSeek, un laboratorio chino de inteligencia artificial lanzado la semana pasada, ha superado a rivales como ChatGPT de OpenAI para convertirse en la aplicación gratuita más descargada en Estados Unidos.

Sin embargo, esta popularidad ha venido acompañada de varias preocupaciones sobre la privacidad y la seguridad de los datos de los usuarios.

Oportunidades y riesgos de las startups de IA

Adrianus Warmenhoven, experto en ciberseguridad de NordVPN, comenta: “El surgimiento de startups como DeepSeek presenta tanto oportunidades como riesgos de seguridad para los usuarios. Es crucial abordar las interacciones con estas plataformas con cierta precaución, especialmente dadas las leyes de privacidad de datos que varían significativamente de una jurisdicción a otra”.

Regulación y riesgos de datos en China

“DeepSeek, al ser una startup china de IA, opera en un entorno regulatorio donde la supervisión gubernamental de los datos es estricta. Esto plantea riesgos potenciales relacionados con la recopilación, almacenamiento y uso de datos”.

Críticas y sesgos en la moderación de contenidos

“El modelo de IA de DeepSeek ha enfrentado una creciente reacción negativa por su negativa a abordar temas políticos. Esto ha generado preocupaciones sobre posibles sesgos y la influencia externa en las políticas de moderación de contenidos de la plataforma”.

Políticas de privacidad y almacenamiento de datos

“La política de privacidad de DeepSeek, disponible en inglés, deja claro que los datos de los usuarios, incluidas las conversaciones y las respuestas generadas, se almacenan en servidores en China. Esto plantea preocupaciones debido a la recopilación de datos, que abarca desde la información compartida por los usuarios hasta los datos de fuentes externas, y que está sujeta a los riesgos potenciales asociados con el almacenamiento de dichos datos en una jurisdicción con diferentes normas de privacidad y seguridad”.

Acceso gubernamental a los datos

“Los usuarios deben ser conscientes de que cualquier dato compartido con la plataforma podría estar sujeto al acceso gubernamental bajo las leyes de ciberseguridad de China, que obligan a las empresas a proporcionar acceso a los datos a solicitud de las autoridades”.

Transparencia y riesgos de ciberataques

“Otra preocupación clave es la falta de transparencia que a menudo rodea cómo se entrenan los modelos de IA y cómo operan. Los usuarios deben considerar si sus interacciones o datos subidos podrían contribuir inadvertidamente a procesos de aprendizaje automático, lo que podría llevar al mal uso de datos o al desarrollo de herramientas que podrían ser explotadas de manera maliciosa”.

“Además, siempre existe el riesgo de ciberataques. A medida que las plataformas de IA se vuelven más sofisticadas, también se convierten en objetivos principales para los hackers que buscan explotar los datos de los usuarios o la propia IA. Con el auge de los deep fakes y otras herramientas impulsadas por IA, las apuestas son más altas que nunca”.

Recomendaciones para los usuarios

“Para mitigar estos riesgos, los usuarios deben adoptar un enfoque proactivo hacia su ciberseguridad. Esto incluye escrutar los términos y condiciones de cualquier plataforma con la que se involucren, entender dónde se almacenan sus datos y quién tiene acceso a ellos”.

“Aunque la IA tiene un potencial inmenso, debemos permanecer vigilantes sobre los riesgos asociados con su rápido desarrollo y despliegue, especialmente cuando nos involucramos con empresas en jurisdicciones donde las normas de privacidad de datos difieren significativamente de las del Occidente”.

Diferencias culturales en las filosofías de desarrollo

“Las preocupaciones sobre las prácticas de datos de DeepSeek destacan una diferencia cultural más amplia en las filosofías de desarrollo. En algunas regiones, la recopilación de datos puede ocurrir no por intención maliciosa, sino porque es una práctica estándar recopilar información extensa de los usuarios o del uso de la aplicación como parte del desarrollo de la aplicación. Esto contrasta con los enfoques occidentales que priorizan minimizar la recopilación de datos para proteger la privacidad de los usuarios, operando bajo el principio de que si los datos no son esenciales, no deben ser recopilados”.