Nombra un responsable del caso de uso
Cada piloto de IA necesita una persona responsable de negocio. No basta con que una herramienta funcione tecnicamente: alguien debe decidir el objetivo, aprobar el alcance, revisar incidencias y parar el piloto si los resultados no son aceptables.
Ese responsable no tiene que ser técnico, pero si debe entender el proceso y coordinar a quien gestiona datos, sistemas, legal, seguridad y usuarios finales.
- Objetivo del piloto y departamento propietario.
- Persona responsable de aprobar cambios.
- Usuarios autorizados para probar el sistema.
- Canal para comunicar errores o decisiones dudosas.
- Fecha de revisión antes de escalar.
Clasifica el riesgo antes de comprar o integrar
El Reglamento de IA de la Unión Europea usa un enfoque basado en riesgo. Para una pyme, la primera tarea no es memorizar articulos, sino identificar si el caso de uso puede afectar a derechos, seguridad, empleo, acceso a servicios, datos personales o decisiones relevantes.
Si el sistema solo ayuda a ordenar documentos internos, el nivel de control puede ser distinto al de una herramienta que influye en seleccion de personal, credito, evaluación de rendimiento o decisiones con impacto significativo.
- Quien se ve afectado por la salida del sistema.
- Si hay datos personales o información sensible.
- Si la IA solo asiste o también decide.
- Si existe una alternativa humana clara.
- Qué daño podría producir un error.
Documenta datos, proveedor y supervisión
Antes de escalar conviene dejar por escrito que datos se usan, de donde salen, dónde se procesan y que proveedor interviene. También hay que definir si las respuestas quedan registradas, quién puede verlas y durante cuanto tiempo.
La supervisión humana debe ser concreta. Decir que una persona revisa no sirve si nadie sabe que revisar, con que criterios y que hacer cuando la recomendacion parece incorrecta.
- Fuente y finalidad de los datos usados.
- Proveedor, ubicación de tratamiento y condiciones relevantes.
- Criterios de revisión humana.
- Registro de errores, correcciones y excepciones.
- Plan de salida si se cambia de proveedor.
Escala solo cuando haya evidencia operativa
Un piloto no debería escalar porque resulte llamativo en una demo. Deberia hacerlo porque ha reducido fricción real, tiene errores comprensibles, respeta los límites definidos y los usuarios saben cuando confiar y cuando no.
Para una pyme, el buen gobierno de IA tiene que ser proporcionado: suficiente para evitar riesgos, pero simple para que el equipo lo use de verdad.
- Resultado medido frente al objetivo inicial.
- Errores conocidos y medidas de mitigacion.
- Aceptacion de usuarios que ejecutan el proceso.
- Coste operativo de mantener el sistema.
- Decisión final: escalar, ajustar, pausar o retirar.
