Por: Pedro Robledo BPM President y Regional Director de ABPMP Spain Chapter
La reciente oleada de despidos en gigantes tecnológicos, sumada a fallos críticos en la implementación de agentes autónomos, ha puesto de manifiesto una verdad incómoda: la tecnología por sí sola no garantiza la sostenibilidad organizacional. Estamos ante lo que se denomina “gestión ciega”, un riesgo sistémico donde la confianza ciega en los algoritmos apaga las luces del razonamiento humano.
1. El Riesgo de la “Alucinación Organizacional”
Estamos transitando de una IA que “responde” a una IA Agéntica que “actúa”. Estos agentes autónomos pueden ejecutar procesos complejos de extremo a extremo, lo que aumenta la tentación de desplazar al humano en aras de la eficiencia técnica.
El error fundamental de la era actual no es el uso de la Inteligencia Artificial, sino su despliegue sin un marco de pensamiento crítico. Según el modelo Hype Cycle de Gartner, muchas organizaciones caen en el Pico de Expectativas Sobredimensionadas, donde el entusiasmo es irracional y se invierte por miedo a quedarse fuera (FOMO). Cuando una organización implementa una ruta de optimización solo porque un algoritmo detectó un patrón, sin considerar el contexto incomprensible y no-lineal (VINI) en el que operamos, se arriesga a lo que las fuentes definen como “alucinación organizacional”: creer que se innova cuando solo se acelera la ineficiencia.
2. Vigilancia Tecnológica: “Human-in-the-loop” y “Human-on-the-loop”
La vigilancia tecnológica no es solo observar tendencias, es decidir dónde ponemos los guardarraíles. Para evitar el desplazamiento del humano, la arquitectura debe ser diseñada bajo dos principios de soberanía:
- Human-in-the-loop (HITL): El humano interviene directamente en cada decisión crítica.
- Human-on-the-loop (HOTL): El humano supervisa el sistema agéntico, interviniendo solo cuando el algoritmo se sale de los parámetros éticos o lógicos..
Aquí es donde la IA Explicable (XAI) se vuelve obligatoria, al buscar romper la “caja negra”. Como señalan Barredo Arrieta et al. (2020), la XAI no es una opción técnica, sino el mecanismo que permite que el humano comprenda y valide el resultado de la máquina antes de que se convierta en una acción irreversible. Sin embargo, su implementación es compleja. La vigilancia nos advierte: aunque es vital para la ética industrial y la resiliencia operativa, la tecnología aún está madurando. Implementar una IA que no puede explicar sus decisiones en un proceso crítico es, sencillamente, una irresponsabilidad de gestión.
3. IA Neuro-Simbólica: El “Sentido Común” como Escudo
El reto de desplazar al humano se soluciona cuando la tecnología se diseña para ser lógica, no solo estadística. ¿Cómo logramos que la IA deje de “adivinar” y empiece a “razonar”? La respuesta está en la IA Neuro-Simbólica (Susskind et al., 2021). Esta arquitectura híbrida combina el aprendizaje masivo de datos con reglas de razonamiento simbólico.
Esta arquitectura permite que la IA respete ontologías y marcos legales (Bonfanti et al., 2025), convirtiéndose en una Workforce Aumentada. El humano ya no compite con la máquina; la dirige mediante interfaces que explican el razonamiento lógico. Para los profesionales de BPM (CBOK®) y Business Analysis (BABOK®), esto transforma a la IA de un ente ajeno en un colaborador auditable y con “sentido común”.
4. Guardarraíles Profesionales: El Nexo BABOK® y CBOK®
Para evitar que la IA dicte una estrategia errónea, es imperativo establecer “guardarraíles” profesionales basados en la convergencia de las dos disciplinas clave: Business Analysis (BABOK®) y BPM (CBOK®). Para que esta integración funcione, necesitamos profesionales que dominen el “Para Qué”:
- La Lupa (BABOK®) contra el alucinamiento: Mientras la IA puede inventar necesidades basadas en datos estadísticos, el pensamiento crítico del analista de negocio debe cuestionar si la recomendación soluciona el problema de raíz o solo un síntoma estadístico.
- El Motor (CBOK®) contra la ineficiencia: Un proceso puede ser lógicamente perfecto para un algoritmo, pero culturalmente inviable o éticamente cuestionable para una organización humana. El profesional de procesos detecta esas fricciones culturales o éticas que los datos no ven, asegurando que la automatización no sea “ciega”.
Del “Cómo” al “Para Qué”: El Valor Humano Insustituible
La IA ha democratizado la capacidad técnica, el “cómo” documentar o el “qué” está pasando con los datos, pero ha encarecido drásticamente la capacidad estratégica: el “Para Qué”. La innovación no nace del algoritmo, sino de la capacidad de conectar la tecnología con un propósito de negocio que genere valor real.
El profesional que solo se limita a “describir” o “documentar” está destinado a ser sustituido. El éxito pertenece al “Transformador Híbrido”, aquel capaz de orquestar procesos que se auto-ajusten mediante IA, pero bajo una sincronización ontológica que asegure que cada chispa de requerimiento encienda un motor eficiente y con propósito.
Si permitimos que la IA piense por nosotros, terminaremos gestionando organizaciones diseñadas para un mundo que ya no existe. El verdadero liderazgo en esta era automatizada no consiste en usar más herramientas, sino en dominar la estructura mental para dirigirlas.
Este debate sobre el impacto, la ética y la supervivencia organizacional será el eje central del I Congreso Anual de IIBA® Spain y ABPMP® Spain, eBOK®luciona, que se celebrará el 9 y 10 de junio en la Universidad Nebrija. Es el espacio definitivo para que los arquitectos de la estrategia y los ingenieros de la eficiencia actualicen su “sistema operativo profesional” y dejen de ser ejecutores pasivos para convertirse en motores de realidad.
Referencias Bibliográficas
- Barredo Arrieta, A., et al. (2020). Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 58, 82-115.
- Bonfanti, C., et al. (2025). A neuro-symbolic multi-agent approach to legal–cybersecurity knowledge integration. arXiv.
- Susskind, Z., et al. (2021). Neuro-symbolic AI: An emerging class of AI workloads and their characterization. arXiv.