Connect with us
Filtración de chats en ChatGPT: qué reveló un estudio sobre 1,000 conversaciones públicas Filtración de chats en ChatGPT: qué reveló un estudio sobre 1,000 conversaciones públicas

ChatGPT

Filtración de chats en ChatGPT: qué reveló un estudio sobre 1,000 conversaciones públicas

Published

on

Un estudio reciente de la empresa SafetyDetectives analizó más de 1,000 conversaciones públicas de ChatGPT, descubriendo que los usuarios comparten información personal, emocional y confidencial con la inteligencia artificial.

Solo 100 de estas conversaciones representan el 53.3% de los más de 43 millones de palabras analizadas, lo que evidencia un uso intensivo y, en muchos casos, riesgoso de la herramienta. El problema surgió a partir de una función ya eliminada que permitía hacer los chats “descubribles” en motores de búsqueda, exponiendo datos sensibles sin que muchos usuarios comprendieran las consecuencias.

¿Qué información sensible se comparte con ChatGPT?

El análisis reveló que los usuarios confían en ChatGPT para temas que van desde currículums completos y discusiones sobre salud mental hasta ideaciones suicidas y discursos discriminatorios. Según el estudio, casi el 60% de los temas considerados sensibles están relacionados con consultas profesionales, como asesoría legal, médica o educativa, que tradicionalmente requerirían la intervención de expertos humanos. La falta de claridad en cómo la IA maneja estos datos y la facilidad para hacer públicos los chats generaron una brecha de privacidad significativa, como ya se había advertido en casos previos de exposición accidental de conversaciones.

Entre los hallazgos más preocupantes destacan:

Advertisement
  • Usuarios que comparten información de identificación personal (PII), como nombres completos, direcciones, números de teléfono y correos electrónicos.
  • Discusiones sobre adicciones, depresión y ansiedad, donde la IA actúa como sustituto de terapia profesional, sin estar diseñada para ello.
  • Conversaciones con contenido extremista o discriminatorio, que podrían ser malinterpretadas o utilizadas para difamar.
  • Casos de doxxing potencial, donde detalles privados podrían ser usados para acoso o fraude.

Un ejemplo claro es el de usuarios que, al solicitar ayuda para redactar un currículum, terminan exponiendo su historial laboral y académico completo, sin advertencias claras sobre los riesgos de compartir estos datos con una herramienta en línea.

El riesgo de las conversaciones largas y la falta de límites

El estudio también mostró que, aunque la mayoría de las conversaciones son breves (menos de 500 palabras), un pequeño grupo de chats extremadamente largos —algunos superando las 50,000 palabras— domina el volumen total de datos. Solo cuatro conversaciones superaron las 50,000 palabras, y la más extensa alcanzó las 116,024 palabras, equivalente a 48 horas de diálogo ininterrumpido entre humanos. Esto sugiere que algunos usuarios utilizan ChatGPT como un diario personal o compañero constante, sin medir las implicaciones de privacidad.

Además, la IA tiende a reflejar el tono y las emociones del usuario, lo que puede escalar situaciones delicadas. Por ejemplo, en conversaciones sobre duelo o crisis personales, la herramienta a veces adopta un rol de apoyo emocional sin contar con los protocolos necesarios para manejar estos contextos, como se ha documentado en guías sobre el uso avanzado de prompts.

¿Por qué los usuarios confían tanto en la IA?

La investigación sugiere que la percepción de ChatGPT como un espacio privado y seguro es errónea. Muchos usuarios no entienden que, al habilitar la opción de compartir conversaciones, estos diálogos pueden ser indexados por motores de búsqueda y accederse públicamente. Esto se agrava con las alucinaciones de la IA, donde el modelo afirma acciones falsas (como guardar un archivo) o genera respuestas sin base real, lo que puede llevar a malentendidos o decisiones erróneas. Para mitigar esto, herramientas como el Filtro de Realidad buscan reducir la desinformación, pero el problema persiste en conversaciones no supervisadas.

La falta de regulaciones claras y la flexibilidad de los límites éticos de la IA también contribuyen al problema. Aunque OpenAI ha intentado ajustar el tono de sus respuestas para evitar dependencia emocional, como se vio con el lanzamiento de GPT-5, los usuarios siguen buscando en la herramienta un reemplazo para interacciones humanas complejas.

Recomendaciones para un uso seguro de ChatGPT

Ante estos riesgos, los expertos recomiendan:

Advertisement
  • Evitar compartir información sensible o confidencial en cualquier plataforma de IA.
  • Revisar y eliminar chats públicos o compartidos, especialmente si contienen datos personales.
  • Utilizar ChatGPT como herramienta de apoyo, no como sustituto de profesionales en áreas críticas como salud, derecho o educación.
  • Familiarizarse con los códigos y comandos avanzados para optimizar su uso sin comprometer la privacidad.
  • Exigir a las plataformas mayor transparencia en el manejo de datos y opciones de privacidad más intuitivas.

El estudio subraya la necesidad de que tanto usuarios como desarrolladores adopten medidas proactivas para proteger la información en entornos de inteligencia artificial, donde la línea entre lo público y lo privado sigue siendo difusa.

Fuente: SafetyDetectives

 

Lo más leído en ChatGPT

  1. OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos
    ChatGPT

    OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos

    · 7 min · 305 vistas

    OpenAI lanzó este martes GPT-6.2 Astra y GPT-6.2 Sol, dos modelos de nueva generación que prometen mejores resultados…

ChatGPT

OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos

Published

on

OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos

OpenAI lanzó este martes GPT-6.2 Astra y GPT-6.2 Sol, dos modelos de nueva generación que prometen mejores resultados en tareas profesionales exigentes usando menos tokens de salida. Astra es el modelo frontera para proyectos complejos, mientras que Sol está pensado para el trabajo cotidiano. Ambos ya están disponibles en ChatGPT Work, Codex y la API de la empresa.

(más…)

Lo más leído en ChatGPT

  1. OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos
    ChatGPT

    OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos

    · 7 min · 305 vistas

    OpenAI lanzó este martes GPT-6.2 Astra y GPT-6.2 Sol, dos modelos de nueva generación que prometen mejores resultados…

Continue Reading

Animación

OpenAI lanza Images 2.6 en ChatGPT con GIF animados desde una foto

Published

on

OpenAI lanza Images 2.6 en ChatGPT con GIF animados desde una foto

OpenAI presentó Images 2.6, la nueva generación de su motor de imágenes que ya está disponible en ChatGPT y en la API. Además de una generación más rápida, la actualización permite convertir un prompt o una foto en un GIF directamente en ChatGPT, ajustar la velocidad de la animación, editar fotogramas individuales y compartir el resultado con un toque.

(más…)

Lo más leído en ChatGPT

  1. OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos
    ChatGPT

    OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos

    · 7 min · 305 vistas

    OpenAI lanzó este martes GPT-6.2 Astra y GPT-6.2 Sol, dos modelos de nueva generación que prometen mejores resultados…

Continue Reading

ChatGPT

Qué pasa si te roban la cuenta de ChatGPT y cómo reaccionar a tiempo

Published

on

Qué pasa si te roban la cuenta de ChatGPT y cómo reaccionar a tiempo

Si un cibercriminal accede a tu cuenta de ChatGPT, el riesgo no se limita a que lea tus conversaciones: puede robar datos sensibles, suplantarte, generar gastos e incluso comprometer a tu empresa. Según un análisis del laboratorio de ESET LATAM, el daño depende de la información que compartiste, las funciones que usas y los servicios conectados a tu perfil. En esta nota repasamos los escenarios más peligrosos, las vías de ataque más comunes y los pasos exactos para recuperar el control.

(más…)

Lo más leído en ChatGPT

  1. OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos
    ChatGPT

    OpenAI presenta GPT-6.2 Astra y Sol con mejor rendimiento y menores costos

    · 7 min · 305 vistas

    OpenAI lanzó este martes GPT-6.2 Astra y GPT-6.2 Sol, dos modelos de nueva generación que prometen mejores resultados…

Continue Reading

Lo más reciente

Lo más popular

Subscribete a nuestro Podcast

Trending