Qué datos no subir a un chatbot: guía de seguridad y privacidad

Los chatbots se han colado en casi todos los rincones de nuestra vida digital: atención al cliente, banca online, tiendas, seguros, sanidad, estudios, trabajo… Su enorme utilidad hace que sea tentador contarles de todo, pero no todo lo que escribes en un chatbot es inocuo ni se queda “entre tú y la máquina”. Detrás hay sistemas que recopilan, procesan y, en algunos casos, almacenan datos personales con implicaciones legales muy serias; incluso existen casos en los que un chatbot puede comportarse como una puerta trasera si no se configura correctamente.

Si no tienes cuidado, puedes terminar compartiendo datos médicos, financieros o información de tus clientes sin darte cuenta. Eso choca de lleno con el Reglamento General de Protección de Datos (RGPD/GDPR), con la normativa española y con las nuevas reglas europeas de Inteligencia Artificial. Esta guía repasa qué datos no deberías subir a un chatbot, qué riesgos existen y cómo usar estas herramientas con cabeza, tanto a nivel personal como en tu empresa. Si buscas medidas prácticas para proteger tus datos, consulta acciones inmediatas para reducir tu huella digital.

Qué es exactamente un chatbot y por qué afecta a tu privacidad

Un chatbot es, en esencia, un programa informático capaz de mantener una conversación con un usuario en tiempo real. Puede funcionar por voz, por texto o integrado en webs, apps, WhatsApp, redes sociales o plataformas internas. Se usa sobre todo en atención al cliente porque permite atender a muchas personas a la vez, reducir tiempos de espera y ofrecer respuestas rápidas las 24 horas.

Más allá de la comodidad, hay un detalle clave: un chatbot suele captar, procesar y almacenar datos personales. Aunque solo te pida tu nombre y tu correo, ya está tratando información personal según el RGPD. Por eso es importante revisar guías sobre control de acceso y privacidad en plataformas de chat y ajustar las políticas internas. Si además le envías documentos, historiales médicos, datos de clientes o información financiera, el nivel de riesgo se dispara.

En el ámbito de la salud, por ejemplo, los grandes modelos de lenguaje (LLM) como ChatGPT, Copilot Health, Gemini o herramientas tipo HealthAI se están usando para interpretar informes médicos, resultados de laboratorio o síntomas. El problema es doble: pueden equivocarse (diagnósticos erróneos, consejos peligrosos) y, además, pueden manejar datos médicos extremadamente sensibles sin el mismo marco legal estricto que un hospital o un médico.

Según diversos estudios, los usuarios muchas veces ni siquiera saben qué tipo de información es apropiada compartir con un chatbot, ni entienden qué va a pasar después con esos datos. Eso abre la puerta a errores graves y a filtraciones de información personal.

Marco legal: RGPD, LOPD, IA Act y clasificación de riesgos

En la Unión Europea, el marco de referencia principal es el Reglamento General de Protección de Datos (RGPD/GDPR), aplicable a cualquier tratamiento de datos personales de ciudadanos europeos, tanto dentro como fuera de la UE. En España se complementa con la normativa nacional de protección de datos.

Además, la UE ha aprobado la Ley de Inteligencia Artificial (IA Act), que clasifica los sistemas de IA en función del riesgo que representan para los derechos fundamentales. En ese esquema, los chatbots y asistentes virtuales suelen encajar en categorías de riesgo medio o bajo, pero eso no significa que puedas usarlos sin más: siguen obligados a respetar el RGPD y a cumplir requisitos de transparencia y seguridad.

De forma general, se distinguen varios niveles de riesgo en sistemas de IA:

Riesgo prohibido: sistemas de IA que plantean un riesgo inaceptable para la seguridad, la vida o los derechos fundamentales (por ejemplo, manipulación subliminal, puntuación social masiva, etc.). Están directamente vetados.
Riesgo alto: sistemas sujetos a obligaciones reforzadas (evaluaciones de conformidad, análisis de riesgos, supervisión estricta). Suelen ser IA para sectores críticos como sanidad, transporte o infraestructuras.
Riesgo medio/bajo: aquí entran muchos chatbots y asistentes virtuales de servicio al cliente. No se consideran de alto riesgo, pero deben respetar las normas de protección de datos y transparencia.
Riesgo mínimo o bajo: aplicaciones con muy poco impacto en la privacidad o los derechos, sometidas sobre todo a códigos de conducta y buenas prácticas.

El RGPD, por su parte, se apoya en varios principios básicos muy relevantes para el uso de chatbots de IA:

Minimización de datos: solo se pueden procesar los datos estrictamente necesarios para la finalidad declarada.
Limitación de la finalidad: no se pueden usar los datos para otros fines distintos a los comunicados al usuario.
Transparencia y consentimiento: hay que informar claramente a las personas y, cuando proceda, recabar un consentimiento libre, específico, informado e inequívoco.
Limitación del plazo de conservación: los datos no pueden guardarse indefinidamente sin justificación.
Responsabilidad proactiva (accountability): la empresa debe poder demostrar que cumple el RGPD con medidas técnicas y organizativas concretas.

Además, hay obligaciones específicas relacionadas con decisiones automatizadas y elaboración de perfiles (profiling), así como con la necesidad de realizar evaluaciones de impacto cuando un tratamiento suponga un alto riesgo para los derechos y libertades de las personas.

Consentimiento, deber de información y decisiones automatizadas

Para tratar datos personales a través de un chatbot, la regla general es clara: necesitas una base jurídica válida, y en muchos casos será el consentimiento del usuario. Ese consentimiento no puede ser tácito ni deducirse del silencio; debe ser una acción afirmativa (marcar una casilla, responder “sí”, etc.).

El RGPD exige que antes de que el chatbot empiece a procesar datos personales, se informe al usuario, de forma clara y accesible, al menos de:

La identidad y datos de contacto de la empresa responsable del tratamiento.
La finalidad con la que se recogerán y tratarán sus datos.
El plazo de conservación o los criterios para determinarlo.
Los derechos del usuario (acceso, rectificación, supresión, oposición, limitación, portabilidad).
La posibilidad de reclamar ante la autoridad de control (en España, la AEPD).
Si existen decisiones automatizadas, incluida la elaboración de perfiles, y qué consecuencias tienen.

En la práctica, esto suele materializarse en mensajes iniciales del chatbot del tipo: “Tus datos serán tratados por para . Puedes consultar nuestra política de privacidad aquí . ¿Aceptas continuar?”. El consentimiento puede pedirse mediante una pregunta explícita en el propio chat o con un checkbox de aceptación en la web.

En cuanto a las decisiones automatizadas, el artículo 22 del RGPD otorga al interesado el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos o le afecte significativamente. En un contexto de IA, esto puede incluir desde denegar una póliza de seguro o un crédito basándose sólo en algoritmos hasta tomar decisiones médicas sin revisión humana. Si hay intervención humana real (revisión, capacidad de cambiar la decisión), esa prohibición se relaja, pero la empresa debe ser transparente y ofrecer vías de reclamación.

Tipos de datos que nunca deberías subir a un chatbot

Más allá del marco jurídico, hay una regla de oro muy sencilla: todo lo que no le contarías a un desconocido en una cafetería, no lo metas en un chatbot público. Y si trabajas en una empresa, cualquier dato que esté protegido por la normativa de protección de datos o por acuerdos de confidencialidad, tampoco.

Entre los datos que conviene no compartir nunca con chatbots abiertos al público (ChatGPT Free/Plus, Gemini en modo consumidor, Perplexity gratuito, etc.) destacan:

Datos identificativos completos: nombre y apellidos junto con DNI, pasaporte, fecha de nacimiento, dirección postal completa, teléfono y correo electrónico asociados a tu identidad real.
Datos financieros y de pago: números de tarjeta, códigos CVV, IBAN, claves de banca online o capturas de pantalla con movimientos bancarios visibles.
Información médica o de salud identificable: informes clínicos con tu nombre, resultados de laboratorio, diagnósticos, tratamientos, historiales médicos, etc.
Datos de clientes, pacientes o empleados: historiales de compra, listas de clientes, incidencias, reclamaciones, datos de pólizas, contratos laborales o nóminas.
Información especialmente sensible: religión, orientación sexual, ideología política, afiliación sindical, discapacidad concreta, antecedentes penales.
Credenciales y accesos: contraseñas, tokens, claves de API, enlaces con credenciales incrustadas, capturas de configuraciones internas de sistemas.
Documentos empresariales confidenciales: estrategias de negocio, secretos comerciales, documentación interna no pública, contratos con cláusulas sensibles.

Un error muy frecuente, tanto a nivel personal como profesional, es subir archivos enteros a ChatGPT o a otro chatbot para “que los resuma” sin revisarlos antes. En un contexto de atención al cliente, por ejemplo, alguien del equipo puede pegar un listado de pedidos con nombres, direcciones y correos para obtener “un análisis de comportamiento de compra”. O, a nivel personal, subir una analítica de sangre en PDF con nombre, DNI y teléfono visibles para pedir una interpretación rápida.

En todos esos casos, se están compartiendo datos personales de terceros o datos sensibles propios sin autorización ni garantías. Aunque la intención sea buena, puedes estar infringiendo el RGPD y dejando esa información expuesta a usos posteriores (entrenamiento de modelos, revisión humana, cesión a terceros, etc.).

Riesgos específicos de los chatbots de salud y datos médicos

La salud es un caso especialmente delicado. Los chatbots de IA orientados a cuestiones médicas —o el uso de chatbots generalistas para hablar de síntomas o diagnósticos— plantean riesgos en dos planos: calidad de la respuesta y privacidad de la información.

En cuanto a la calidad, se han documentado alucinaciones y errores graves en las recomendaciones de modelos de lenguaje cuando responden a consultas médicas. Pequeños cambios en la forma de formular la pregunta pueden dar respuestas totalmente distintas, a veces contradictorias; estas alucinaciones son uno de los problemas más comentados en la literatura técnica.

En cuanto a la privacidad, los datos de salud son de los más sensibles que existen. Una vez que compartes tu historial médico o un resultado de laboratorio con un chatbot público, ese dato puede convertirse en un registro digital permanente. Aunque el proveedor prometa no usar esas interacciones para entrenar el modelo, puede conservarlas durante cierto tiempo, compartirlas con terceros (por ejemplo, agregadores de datos) o estar sujeto a requerimientos legales que obliguen a retener la información.

Además, muchas herramientas de salud basadas en IA no están cubiertas por los mismos marcos legales estrictos que hospitales y médicos (como HIPAA en Estados Unidos o la normativa sanitaria específica en Europa). Eso significa que el nivel de protección, las obligaciones de confidencialidad y las sanciones en caso de incumplimiento pueden ser muy distintos.

Los ciberdelincuentes, por su parte, valoran especialmente los datos médicos porque mantienen su valor durante años y no se pueden “cambiar” como una tarjeta de crédito. Se pueden usar para estafas con aseguradoras, para recibir servicios médicos suplantando tu identidad o incluso para extorsión. Cuantas más empresas y proveedores tocan ese dato (proveedor de IA, aseguradora, intermediarios de datos, etc.), más puntos vulnerables hay.

Tratamientos avanzados: profiling, big data y cruce de bases de datos

Los chatbots modernos no funcionan solo con la conversación aislada que tienes en ese momento. Con frecuencia, se integran con otros sistemas y bases de datos para ofrecer respuestas más personalizadas: CRM, historiales de compra, sistemas de tickets, plataformas de marketing, etc.

Esto da lugar a tratamientos avanzados como:

Profiling (elaboración de perfiles): se crean perfiles de usuarios en función de sus gustos, historial de navegación, respuestas en el chat, interacciones previas, etc. Es útil para recomendaciones y segmentación, pero choca con el RGPD si no hay transparencia y base jurídica adecuada.
Tratamiento de datos a gran escala: se alimenta al sistema con enormes volúmenes de datos para entrenar modelos, mejorar respuestas o detectar patrones de comportamiento.
Cruce de bases de datos propias con datos de terceros: por ejemplo, combinar los datos de tus clientes con información de “data brokers” para enriquecer perfiles.

Estos tratamientos suponen una perturbación especial de la privacidad y, según el RGPD, pueden exigir la realización de una evaluación de impacto en protección de datos (EIPD/DPIA). Esa evaluación analiza qué riesgos presenta el tratamiento, qué medidas se aplican para mitigarlos y si el riesgo residual es aceptable.

En el contexto de un chatbot de empresa, esto implica que no basta con instalar una herramienta de IA y enchufarla al CRM. Hay que documentar qué datos se van a cruzar, con qué finalidad, durante cuánto tiempo se conservarán, quién tendrá acceso y cómo se protegen, incluyendo decisiones automatizadas si las hubiera.

Elegir y configurar proveedores de chatbots de forma segura

Cuando una empresa decide contratar una solución de chatbot, no le da igual dónde ni cómo se procesan los datos. La ubicación de los servidores y el papel del proveedor son decisivos en términos de cumplimiento del RGPD y de las normas sobre transferencias internacionales.

Si los datos se almacenan o procesan fuera del Espacio Económico Europeo, estarás ante una posible transferencia internacional de datos. En ese caso, debes comprobar si el país u organización tiene un nivel de protección adecuado reconocido por la UE, si el proveedor está adherido a marcos como el Data Privacy Framework (UE-EE. UU.) o, en su defecto, firmar cláusulas contractuales tipo u otras garantías previstas en el artículo 46 del RGPD.

Además, el proveedor que presta el servicio de chatbot y almacenamiento de datos se considera, en la mayoría de los casos, un encargado del tratamiento. Eso exige firmar un contrato de encargo de tratamiento en el que se regule:

Que el proveedor solo tratará los datos siguiendo instrucciones documentadas de tu empresa (responsable del tratamiento).
Las medidas de seguridad técnicas y organizativas que aplicará (cifrado, controles de acceso, registros de auditoría, etc.).
Las condiciones de subcontratación de otros proveedores (subencargados).
La gestión de incidentes y brechas de seguridad, incluida la notificación en plazos ajustados al RGPD.
La devolución o destrucción de datos al finalizar el servicio.

En paralelo, conviene revisar la política de retención de datos del proveedor. Por ejemplo, las versiones de consumo de ciertos chatbots conservan las conversaciones durante un periodo determinado (30 días, 72 horas, etc.) y pueden usarlas para seguir entrenando el modelo, mientras que las versiones empresariales permiten desactivar el entrenamiento con tus datos y configurar retención cero o limitada.

En la actualidad, algunos proveedores de IA ofrecen más garantías que otros. Hay modelos que no utilizan por defecto las consultas de los usuarios para entrenar (salvo que se dé un consentimiento explícito), ofrecen cifrado en tránsito y en reposo y permiten políticas de retención personalizadas, especialmente en entornos empresariales y de nube. Otros, en cambio, registran instrucciones y resultados con fines de mejora del modelo sin opciones avanzadas de control, lo que los hace menos adecuados para procesar información personal sensible. Para organizaciones que quieran mantener todo dentro de su perímetro, es recomendable considerar opciones que permiten entrenar y servir modelos de forma segura en entornos internos.

Medidas técnicas para proteger datos en chatbots empresariales

En empresas que gestionan grandes volúmenes de datos personales (contact centers, aseguradoras, bancos, e-commerce, etc.), el uso de chatbots se debe diseñar con protocolos similares a los de las llamadas telefónicas o los sistemas IVR, donde ya existen mecanismos consolidados de seguridad.

Entre las medidas técnicas más habituales para proteger datos en un chat con IA destacan:

Cifrado y enmascaramiento de datos numéricos: números de póliza, documentos de identidad, códigos de acceso o tarjetas se cifran de forma automática y no se almacenan nunca en texto plano. El sistema puede mostrar solo parte del dato (por ejemplo, “póliza terminada en 4321”) evitando que ni el agente ni el registro completo vean la información sensible.
Detección automática de datos sensibles y advertencias al usuario: si el cliente escribe “tengo epilepsia” o detalla una condición médica concreta, el chatbot puede responder: “No necesitamos que compartas información médica detallada en este chat. ¿Quieres hablar con un agente especializado?”.
Anonimización en tiempo real: el mensaje original se transforma antes de almacenarse, sustituyendo datos concretos por etiquetas genéricas. Así, “Soy diabético y quiero saber qué cobertura tengo” puede registrarse como “Usuario pregunta sobre cobertura médica”.
Eliminación selectiva de datos sensibles: en lugar de etiquetar, el sistema simplemente elimina términos concretos (enfermedades, números de identificación, etc.) del texto antes de guardarlo, manteniendo la estructura general de la conversación.
Tokenización y control estricto de accesos: si hay datos que necesariamente deben almacenarse (por ejemplo, una condición médica en un seguro de salud), se guardan como un token (“Condición médica #874632”) al que solo pueden acceder sistemas o personas con permisos muy restringidos.

Además de estas medidas, es esencial aplicar el principio de minimización de datos: evitar que el chatbot pregunte por información que no es indispensable. Por ejemplo, si para reservar una cita basta con nombre y teléfono, no tendría sentido pedir fecha de nacimiento o documento de identidad. Cuantos menos datos se recojan, menor será el impacto de una posible brecha.

Por último, las empresas más avanzadas están empezando a usar capas de middleware e iPaaS (plataformas de integración como servicio) para situarse entre sus sistemas internos y los proveedores de IA. Estas capas permiten enmascarar datos, hacer enrutamientos condicionados al consentimiento, registrar auditorías y asegurar que lo que llega al modelo de IA ya está “limpio” de PII o de información innecesaria.

Cuentas, configuraciones y buenas prácticas al usar ChatGPT y otros LLM

Cuando usas herramientas de IA generativa como ChatGPT, Gemini, Claude o Perplexity, no da igual qué versión utilizas ni cómo la configuras. Cada una ofrece distintos niveles de privacidad y opciones de tratamiento de datos.

En el caso de ChatGPT, por ejemplo, hay cuentas Free, Plus/Pro y planes empresariales como Teams o Enterprise. Las versiones de consumo suelen conservar las conversaciones durante un tiempo y pueden usar tus mensajes para seguir entrenando el modelo, salvo que desactives explícitamente el uso para entrenamiento cuando esa opción exista.

Las cuentas empresariales, en cambio, permiten:

Desactivar la retención de datos o reducirla al mínimo.
Garantizar que los datos no se utilizan para entrenar los modelos base.
Establecer acuerdos de procesamiento de datos (DPA) y políticas de seguridad concretas.

En otras plataformas de IA, como ciertos modelos integrados en Google Cloud o soluciones empresariales de otros proveedores, se ofrecen opciones similares: residencia de datos en la UE, cifrado extremo, ausencia de revisión humana de las instrucciones, configuraciones específicas para cumplir el RGPD, etc. En cambio, sus versiones gratuitas u orientadas al consumidor pueden registrar interacciones durante horas o días, permitir revisión humana y usar los datos para mejorar el servicio.

Algunas buenas prácticas generales para usar chatbots de forma segura, tanto en el trabajo como a nivel personal, serían:

No compartir información confidencial en herramientas públicas o en versiones gratuitas de modelos de IA.
Configurar correctamente los niveles de privacidad, desactivando el uso de datos para entrenamiento cuando sea posible y limitando el historial de chat.
Formar a los empleados sobre qué datos pueden y no pueden introducir en los chatbots, y sobre las implicaciones legales de subir ficheros con datos personales.
Usar cuentas empresariales o soluciones específicas con garantías de cumplimiento (RGPD, ISO 27001, etc.) cuando se trate de información sensible.

Recuerda que, si trabajas con datos de clientes, no basta con cumplir “más o menos” la ley. El RGPD prevé multas de hasta el 4 % de la facturación anual global o 20 millones de euros, además del daño reputacional y la obligación de notificar la brecha a la autoridad de control y a los afectados.

Cómo interactuar con chatbots de forma segura: recomendaciones prácticas

Más allá de la parte jurídica y técnica, hay una serie de hábitos sencillos que cualquiera puede aplicar para reducir el riesgo al usar chatbots de IA, tanto en el ámbito personal como en el profesional.

Cuando plantees una consulta, especialmente si es sensible (salud, finanzas, trabajo), valora lo siguiente:

Despersonaliza al máximo tu caso: evita nombres, direcciones, teléfonos, números de póliza o referencias a empresas concretas. Describe la situación de forma genérica.
No subas documentos “en bruto”: si quieres que el chatbot te ayude con un texto, elimina antes cualquier dato personal identificable (nombre, DNI, correos, direcciones, firmas, sellos, etc.).
Asume que todo lo que escribes puede almacenarse o ser revisado: aunque luego se borre, parte de ese contenido puede alimentar registros, copias de seguridad o entrenamientos internos.
Comprueba las políticas de datos del servicio: mira si usa tus interacciones para entrenar, con quién comparte información, cuánto tiempo conserva los registros y si ofrece mecanismos de borrado.
No tomes el resultado como la verdad absoluta: contrasta siempre la información con fuentes oficiales, especialmente si afecta a tu salud, tu economía o tus derechos legales.

En empresas, además, es aconsejable:

Definir un protocolo interno de uso de IA que detalle qué herramientas están autorizadas, qué datos se pueden usar y qué flujos deben pasar por capas de anonimización o middleware.
Implementar registros de auditoría de las interacciones con la IA para poder demostrar el cumplimiento y reconstruir incidentes.
Habilitar mecanismos fáciles para que los usuarios ejerzan sus derechos RGPD (acceso, rectificación, supresión, oposición, etc.) en relación con los datos procesados por el chatbot.

Con todo esto en mente, se hace mucho más sencillo aprovechar la potencia de los chatbots sin convertirlos en un agujero negro de privacidad. La clave está en saber qué datos deberían quedarse siempre fuera de la conversación, qué configuraciones debes exigir a tus proveedores y cómo adaptar tus procesos internos para que la IA sea un aliado y no un riesgo añadido.

Cuidar lo que compartes, exigir transparencia a las herramientas que usas y formar a tu equipo en protección de datos marca la diferencia entre usar la IA como un acelerador seguro o abrir la puerta a sanciones, fugas de información y pérdida de confianza por parte de tus clientes.