Shadow AI: cuando los empleados usan ChatGPT sin normas claras

Imagina esta situación: una persona de atención al cliente tiene diez correos pendientes. Para ahorrar tiempo, los copia en una cuenta personal de IA y pide que redacte las respuestas. El trabajo parece resuelto en minutos. Pero ¿sabe la empresa qué datos se han compartido, qué condiciones se aplican a esa cuenta y quién ha comprobado los textos antes de enviarlos?

Es un ejemplo hipotético, no un caso real de un cliente de ROILEAKAI. Ilustra un problema habitual en la adopción de nuevas herramientas: el equipo empieza a utilizar IA sin contar todavía con reglas claras.

¿Qué significa Shadow AI?

El término Shadow AI describe herramientas, extensiones, aplicaciones o agentes de inteligencia artificial que se utilizan en una organización sin la aprobación, visibilidad o supervisión adecuada de sus responsables. Está relacionado con el concepto de «Shadow IT», aplicado específicamente a la IA. [1]

El problema no es que el equipo quiera ser más productivo. Es que la empresa puede perder visibilidad sobre qué información se comparte, cómo se trata y quién responde por el resultado final.

Cinco situaciones que pueden aparecer en una pyme

Son ejemplos ilustrativos, no incidentes verificados:

1. Atención al cliente: se copian correos con nombres, teléfonos y pedidos en un asistente no autorizado.
2. Administración: se sube una hoja de cálculo con nóminas o facturas, cuando la consulta podría formularse sin datos identificativos.
3. Ventas: se carga una lista de contactos con notas internas y datos personales.
4. Desarrollo web: se pega código que contiene una clave API o detalles de la configuración interna.
5. Marketing: se publica una afirmación generada por IA sin comprobar si es cierta o si promete algo que la empresa no ofrece.

No todos los casos implican el mismo nivel de riesgo: mejorar un texto público no equivale a compartir credenciales, documentos de identidad o información de salud.

¿Dónde están los riesgos reales?

Datos compartidos con servicios no evaluados

Antes de utilizar un servicio externo de IA conviene saber qué se envía, durante cuánto tiempo se conserva, quién puede acceder y qué controles existen. No hay una respuesta universal: cambian las condiciones según el proveedor, el producto, el plan y la configuración. Por ejemplo, OpenAI indica que por defecto no utiliza las entradas ni las salidas de sus productos empresariales y API para entrenar sus modelos. Eso no significa que todos los proveedores funcionen igual, ni que los datos permanezcan físicamente dentro de las instalaciones de la empresa. [4]

Respuestas convincentes, pero erróneas

Un asistente puede ofrecer datos falsos con aparente seguridad. El NCSC británico advierte de errores fácticos y otras limitaciones de los modelos generativos. [5] Por eso una persona debe revisar los precios, la información legal, las instrucciones técnicas y las promesas hechas a los clientes.

Responsabilidades poco definidas

Cuando los procesos dependen de cuentas personales no gestionadas, resulta más difícil comprender qué sucedió, limitar accesos y responder ante un incidente. Es preferible aclarar con antelación qué herramientas se autorizan y para qué tareas.

Protección de datos y contratos

Utilizar IA con datos personales no implica automáticamente infringir el RGPD. La organización debe valorar el propósito, la base jurídica, la necesidad de tratar esos datos y las medidas de seguridad. La autoridad lituana de protección de datos (VDAI) propone una metodología de siete pasos para evaluar sistemas de IA que tratan datos personales, mientras que el Comité Europeo de Protección de Datos insiste en analizar las circunstancias de cada caso. [2][3]

Siete pasos para empezar con más control

1. Haz un inventario de herramientas. Pregunta al equipo qué asistentes, extensiones y automatizaciones utiliza y para qué. El objetivo inicial es conocer la realidad, no buscar culpables.

2. Clasifica la información. Distingue al menos entre contenido público, información interna y datos restringidos (datos personales, contratos confidenciales, credenciales). Estos últimos no deben introducirse en herramientas no autorizadas.

3. Define usos permitidos. Por ejemplo, mejorar la estructura de un texto público puede ser aceptable; analizar información identificable de clientes requiere una revisión específica.

4. Revisa las condiciones del proveedor. Comprueba la política de privacidad, los controles de entrenamiento, la retención, los permisos, las opciones para compartir y los acuerdos aplicables. Evalúa el producto y el plan concretos.

5. Minimiza los datos. Si solo necesitas un tono más amable para un correo, elimina nombres, teléfonos y referencias innecesarias. Quitar un nombre no siempre equivale a anonimizar de verdad.

6. Mantén la revisión humana. La información pública, las ofertas, los precios y las respuestas sensibles deben tener una persona responsable de comprobarlos.

7. Prepara un canal para avisar de errores. Si se comparte por accidente un archivo inapropiado, el empleado debe saber a quién avisar, qué datos aportar y quién decide cómo actuar.

Un comienzo de diez minutos para la dirección

• 3 minutos: identificar qué herramientas de IA se usan ya.
• 3 minutos: acordar qué datos no deben compartirse sin autorización.
• 2 minutos: nombrar a una persona para revisar nuevos casos de uso.
• 2 minutos: definir quién valida las respuestas importantes antes de enviarlas.

No sustituye una evaluación de riesgos completa, pero permite iniciar una conversación útil.

¿Basta con contratar una versión empresarial de IA?

No. Una suscripción empresarial puede ofrecer controles adicionales, pero también hace falta configurar permisos, formar al equipo y decidir qué información se puede utilizar. Una integración mediante API no garantiza por sí sola que los datos permanezcan dentro de la empresa. Hay que revisar el flujo completo: proveedor, registros, almacenamiento y derechos de acceso. [4][6]

Preguntas frecuentes

¿Hay que prohibir por completo ChatGPT en el trabajo? No necesariamente. Para muchas pymes, empezar con tareas autorizadas, formación y reglas de datos puede resultar más útil que una prohibición general.

¿Podemos subir una lista de clientes? Solo tras valorar la necesidad, la base jurídica, las condiciones del proveedor y las medidas de protección. Sin esa evaluación, es mejor no compartirla.

¿Todo lo que escribimos en un asistente se hace público? No. Depende del servicio, las opciones de privacidad y las funciones de compartir. Pero que algo no sea público no significa que esté libre de riesgos.

¿Utilizar IA supone incumplir el RGPD? No por sí solo. La conformidad depende del tratamiento concreto de datos personales. Ante dudas, conviene consultar a especialistas en protección de datos. [2][3]

Un siguiente paso práctico

Elige un proceso: dónde se utiliza la IA, qué datos intervienen y en qué momento una persona comprueba el resultado. Si necesitas apoyo en la parte técnica de un flujo de trabajo —formularios, automatización de notificaciones o integraciones sencillas—, ROILEAKAI puede ayudarte a estudiar un proyecto de automatización con IA.