Cómo implantar IA en procesos empresariales sin perder el control

Antes de diseñar nada, conviene clasificar cada tarea según dos preguntas: qué pasa si el sistema se equivoca y con qué facilidad se detecta y corrige el error. Un fallo que se ve enseguida y se arregla en segundos no es lo mismo que uno que pasa desapercibido y acaba en una factura, en una comunicación a un cliente o en una decisión sobre una persona.

La matriz no tiene que ser sofisticada. Lo importante es que exista por escrito, que la revisen quienes conocen el proceso y que se actualice cuando cambie el uso. Una tarea que empieza como apoyo puede acabar, sin que nadie lo decida, convertida en una decisión de facto si los usuarios dejan de revisar las propuestas.

«Intervención humana» puede significar cosas muy distintas, y conviene precisarla. No es lo mismo que alguien revise cada resultado que revisar solo los dudosos o una muestra semanal. Cada modalidad tiene un coste y protege frente a errores distintos.

• Aprobación previa: la IA propone y nada se ejecuta sin que una persona acepte. Adecuada para importes, comunicaciones externas y decisiones sobre personas.
• Revisión por excepción: el sistema actúa solo cuando su resultado cumple reglas y umbrales definidos; el resto va a una bandeja de revisión.
• Muestreo periódico: se revisa una parte de los resultados ya ejecutados para detectar desviaciones. Útil en tareas de bajo impacto y mucho volumen.
• Corrección posterior: el usuario puede deshacer o modificar lo que hizo el sistema, y esa corrección queda registrada para mejorar la evaluación.

La revisión solo funciona si es real. Si la pantalla muestra la propuesta de la IA sin el documento original, o si la persona revisa cientos de propuestas al día sin tiempo para leerlas, la supervisión se convierte en un trámite. Diseñar bien la interfaz de revisión, con el contexto necesario y la posibilidad de rechazar con un motivo, es parte del sistema, no un detalle de usabilidad.

Un modelo que funciona bien en una demostración puede fallar con los casos reales. Por eso conviene preparar, antes de construir, un conjunto de ejemplos representativos con la respuesta correcta acordada por quienes conocen el proceso: casos habituales, casos raros, documentos mal escaneados, peticiones ambiguas. Ese conjunto sirve para comparar alternativas y para decidir si el sistema está listo.

1. Define qué se mide en cada tarea: aciertos de clasificación, campos extraídos correctamente, respuestas que el revisor acepta sin cambios.
2. Separa los errores por tipo y gravedad; un promedio global esconde los fallos caros.
3. Fija antes de probar qué resultado mínimo se considera aceptable y qué se hará si no se alcanza.
4. Repite la evaluación cada vez que cambie el modelo, las instrucciones o el tipo de entrada, para detectar regresiones.
5. En producción, registra las correcciones de los usuarios y revísalas periódicamente: son la mejor señal de que algo ha cambiado.

Un sistema de IA que se conecta a vuestros sistemas hereda los riesgos de esos datos. Conviene decidir qué fuentes necesita realmente cada tarea, con qué permisos y dónde se procesan. Si el clasificador de correos solo necesita el asunto y el cuerpo, no tiene por qué ver los adjuntos ni el historial completo del cliente.

• Permisos por tarea: credenciales específicas, con acceso de solo lectura salvo que la tarea requiera escribir.
• Inventario de proveedores: qué servicio de IA procesa los datos, en qué región, con qué condiciones de retención y si los usa para entrenar.
• Registro de uso: qué datos se enviaron, qué devolvió el sistema y qué hizo después el usuario.
• Datos personales: identificar si se tratan, con qué base y si se puede seudonimizar o reducir la información antes de enviarla.

Cuando hay datos personales, el Reglamento general de protección de datos (RGPD) sigue aplicando igual que en cualquier otro tratamiento. Entre sus principios está la minimización: datos «adecuados, pertinentes y limitados a lo necesario» para los fines (artículo 5.1.c). Si el servicio de IA lo presta un tercero que trata datos por cuenta vuestra, el artículo 28 exige elegir encargados que ofrezcan garantías suficientes. Y el artículo 22 reconoce el derecho a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado que produzcan efectos jurídicos o afecten significativamente de modo similar, con las excepciones y garantías que el propio artículo regula. Cómo se aplica todo esto a un caso concreto es una cuestión que debe valorar quien asesore jurídicamente a la empresa.

El Reglamento (UE) 2024/1689 establece normas armonizadas en materia de inteligencia artificial y distingue a los proveedores de sistemas de IA de los «responsables del despliegue», es decir, quienes utilizan un sistema de IA bajo su propia autoridad (artículo 3). Una empresa que integra IA en sus procesos suele estar en este segundo papel, aunque depende del caso. El artículo 4 pide a proveedores y responsables del despliegue que adopten medidas para que su personal tenga un nivel suficiente de alfabetización en materia de IA.

El Reglamento dedica un capítulo específico a los sistemas de alto riesgo, que se determinan según sus reglas de clasificación (artículo 6) y los ámbitos de su anexo III; para ellos exige, entre otras cosas, que puedan ser vigilados de manera efectiva por personas físicas (artículo 14). Que una aplicación concreta entre o no en esa categoría y qué obligaciones y plazos le afectan requiere un análisis jurídico propio. Lo que sí puede hacer el diseño técnico es facilitar ese análisis: documentar la finalidad, registrar decisiones y dejar clara la intervención humana.

Supongamos una empresa de mantenimiento que recibe incidencias por correo y formulario. Un primer alcance razonable sería: la IA clasifica la incidencia por tipo y urgencia, extrae la dirección y el equipo afectado y propone un resumen. Las incidencias marcadas como urgentes, o aquellas en las que el sistema no tiene suficiente confianza, van a una persona antes de asignarse. La asignación del técnico la sigue haciendo el coordinador, que ve la propuesta junto al texto original. Cada semana se revisa una muestra de las clasificadas automáticamente y se anotan los errores para la siguiente evaluación.

Nada de esto requiere que la IA decida sola algo relevante, y aun así puede ahorrar trabajo de lectura y copia. Si con el tiempo las evaluaciones muestran resultados estables, se puede ampliar el alcance de forma deliberada, no por inercia.

1. ¿Está la tarea descrita con entradas, salidas y un criterio de respuesta correcta?
2. ¿Está clasificado el impacto de un error y decidido el tipo de intervención humana?
3. ¿Existe un conjunto de casos de prueba acordado con quienes hacen hoy el trabajo?
4. ¿Se sabe qué datos usa, con qué permisos, qué proveedor los procesa y en qué condiciones?
5. ¿Queda registro de lo que propuso el sistema y de lo que hizo después la persona?
6. ¿Hay un responsable del proceso que puede pausar o desactivar la automatización?

Si alguna respuesta es negativa, no significa que haya que renunciar, sino empezar por resolverla. Si quieres estudiar un proceso concreto con este enfoque, podemos ayudarte a delimitar tareas, riesgos y evaluaciones antes de escribir una línea de código.