IA con control humano en salud: qué automatizar y qué nunca dejar sin un humano
En un sector regulado como la salud, el human-in-the-loop no es una concesión de prudencia: es la condición que hace utilizable la IA. La tesis de Adinsoft sobre qué se delega y qué se aprueba.
La conversación sobre IA en salud suele caer en uno de dos extremos. En uno, la IA lo va a hacer todo y el trabajo humano sobra. En el otro, la IA es un riesgo inaceptable que no debería tocar nada sensible. Las dos posiciones se equivocan por la misma razón: tratan la automatización como un interruptor de encendido y apagado, cuando en realidad es una pregunta de reparto.
La pregunta correcta no es "¿automatizamos o no?". Es "¿qué parte de este trabajo conviene delegar a la máquina, y qué parte no puede salir de manos de una persona?". En un sector regulado, responder bien esa pregunta es la diferencia entre una herramienta que se usa todos los días y una que el equipo termina apagando.
Por qué en lo regulado el control humano no es opcional
En muchos dominios, un error de la IA es un inconveniente: una recomendación tibia, un texto que hay que corregir. En salud y aseguramiento, un error puede tener consecuencias clínicas, jurídicas o financieras que no se deshacen con un "ctrl+z". Hay un afiliado del otro lado, hay un marco normativo que responde, hay plazos y responsabilidades que la ley asigna a personas, no a algoritmos.
Eso cambia las reglas del juego. El control humano deja de ser una buena práctica recomendable y se vuelve un requisito estructural por tres razones concretas:
- Responsabilidad. En lo regulado, alguien responde por cada decisión. La responsabilidad no se puede delegar a un sistema; tiene que recaer en una persona que pudo revisar y aprobar.
- Trazabilidad. No basta con acertar; hay que poder explicar por qué se decidió lo que se decidió, y sostenerlo ante un auditor o un ente de control.
- Criterio. Muchas decisiones dependen de contexto que no está en los datos: la particularidad de un caso clínico, una excepción razonable, un matiz que solo ve quien conoce la operación.
Por eso la tesis no es "IA en lugar de personas", sino IA al servicio de personas que deciden. La máquina amplía el alcance del equipo; no lo reemplaza en el punto donde se juega la responsabilidad.
Qué conviene automatizar
Delegar a la máquina lo que la máquina hace mejor no es renunciar al control: es liberar tiempo humano para lo que de verdad lo necesita. Hay una franja amplia de trabajo que cumple con el perfil de lo automatizable:
- Lo repetitivo y de alto volumen. Tareas que se repiten miles de veces con la misma estructura, donde el cansancio humano introduce errores y la máquina no se cansa.
- Lo que tiene una regla clara. Cuando el criterio puede expresarse de forma explícita y verificable, la máquina puede aplicarlo a escala con consistencia.
- Lo que prepara, no lo que concluye. Reunir información, clasificar, estructurar un borrador, vigilar plazos: trabajo que deja una decisión lista para que un humano la tome más rápido y mejor.
El patrón común es que la automatización acelera el camino hacia la decisión, sin tomar la decisión final por su cuenta. La máquina hace el 80% del recorrido predecible; la persona pone el 20% que requiere criterio y firma.
Qué nunca debería quedar sin un humano
El reverso es igual de importante, y es donde muchas implementaciones de IA fracasan por exceso de ambición. Hay decisiones que no deberían cerrarse sin aprobación humana, por más confiada que esté la máquina:
- Lo que tiene consecuencia clínica directa sobre el cuidado de un paciente.
- Lo que compromete jurídica o financieramente a la institución de forma difícil de revertir.
- Lo excepcional y ambiguo, los casos de frontera donde la regla no alcanza y se necesita juicio.
- Lo que debe sostenerse ante un tercero, cuando hay que explicar y defender la decisión ante un regulador, un afiliado o un par.
La regla práctica es sencilla: cuanto mayor es la consecuencia y menor la reversibilidad, más cerca debe estar la mano humana. No porque la máquina no pueda proponer una respuesta, sino porque la decisión final pertenece a quien responde por ella.
La compuerta de aprobación como diseño, no como parche
La forma madura de implementar esto no es poner a un humano a "revisar de vez en cuando" lo que hace la IA. Es diseñar el sistema desde el principio con una compuerta de aprobación explícita: la máquina trabaja, propone y deja todo listo; el humano revisa, ajusta si hace falta y aprueba; solo entonces la acción se ejecuta.
Ese diseño tiene una ventaja que va más allá del cumplimiento. Genera confianza operativa. El equipo adopta la herramienta porque siente que no le quita el control, se lo amplía. Y cuando algo se sale de lo esperado, hay un punto claro donde una persona intervino, revisó y decidió, con su trazo registrado. La automatización deja de ser una caja negra y se vuelve un copiloto auditable.
Esta es la tesis que ordena todo lo que construimos en Adinsoft: agentes que asumen el trabajo repetitivo y de volumen, con una compuerta de aprobación humana en cada punto donde se juega una consecuencia regulada. No automatizamos para sacar a la persona de la decisión; automatizamos para que llegue a ella con más alcance y mejor información.
En un sector donde cada decisión tiene nombre, plazo y responsable, la IA útil no es la más autónoma: es la que sabe exactamente dónde detenerse y pedir una firma. Esa frontera —qué se delega y qué se aprueba— no es una limitación del diseño. Es el diseño.