AI Trust Layer
La capa que hace defendible cada sistema de IA de tu institución.
AI Trust Layer es una capa diseñada a la medida que vive sobre tus sistemas de IA existentes y planificados. Hace cuatro cosas concretas:
- Identifica al responsable: cada decisión que el sistema toma queda asociada a una persona responsable.
- Registra el contexto: qué datos consultó, qué modelo aplicó, bajo qué reglas. Información reconstruible cuando alguien la pida.
- Documenta las reglas: qué dato puede usarse, para qué, por quién. En una política viva, no en un PDF que nadie actualiza.
- Habilita el control humano: las decisiones críticas se diseñan para que una persona pueda revisarlas, aprobarlas o detener el proceso.
Dos modos de implementación, mismos cuatro pasos: auditoría inicial, diseño de políticas con el área técnica y compliance al mismo tiempo, implementación de la capa sobre los sistemas existentes sin rehacer código que ya funciona, y capa de control humano.
- Modo Diseño: para sistemas que estás planificando o iniciando. La gobernanza se diseña en paralelo a la arquitectura.
- Modo Retrofit: para sistemas que ya están en producción sin capa de gobernanza explícita. Se ordena lo existente sin tener que rehacerlo.
Dónde aplica en un hospital
- Herramientas de IA adoptadas por servicios sin control central: modo Retrofit. Auditoría inicial para mapear qué sistemas operan, qué decisiones toman y qué evidencia dejan hoy.
- Nuevo sistema antes de entrar a producción: modo Diseño. Nace con responsable identificado, política definida, trazabilidad activa y puntos de control humano explícitos.
- Acreditación o auditoría de calidad en el calendario: documentación de gobernanza de IA que un comité externo puede verificar.
- El comité de calidad pregunta quién responde por un sistema: una persona con nombre, una política viva y un registro reconstruible.