¿Puede una empresa utilizar ChatGPT con datos de clientes?

El problema no es la IA, es qué se le introduce

Usar una herramienta de IA generativa no es, en sí mismo, un problema legal. El punto crítico es qué información se introduce en ella: no es lo mismo pedirle que redacte un texto genérico que pegarle una base de datos de clientes, contratos con información confidencial o datos de salud de empleados.

Muchas empresas usan estas herramientas de forma informal, sin una política interna, lo que genera un uso inconsistente: cada empleado decide qué compartir según su propio criterio.

Qué conviene comprobar antes de dar luz verde

Condiciones del proveedor de IA: si los datos introducidos se usan para entrenar modelos futuros, si hay opción de desactivarlo y qué garantías de seguridad ofrece.

Base jurídica para el tratamiento: si se van a tratar datos personales de clientes o empleados, tiene que existir una base legal para ese tratamiento y, en su caso, informar a las personas afectadas.

Relación con el proveedor: si el proveedor de IA actúa como encargado del tratamiento, conviene contar con el acuerdo correspondiente, igual que se exige a cualquier otro proveedor tecnológico.

Política interna de uso de IA: qué herramientas están permitidas, qué tipo de información no puede introducirse nunca y quién es responsable de supervisar su cumplimiento.

Documentar el uso, no solo prohibirlo

La respuesta más habitual y menos útil es prohibir el uso de IA sin más. En la práctica, los equipos la van a usar igualmente. Es más eficaz definir qué usos están permitidos, con qué datos y bajo qué condiciones, y dejarlo por escrito.

Este trabajo se aborda dentro del área de IA & Compliance, junto con las implicaciones de protección de datos que suelen ir de la mano.

Preguntas frecuentes