Responsabilidad, transparencia y propiedad intelectual: precisando el alcance del acto administrativo algorítmico

Al final, la IA no borra la responsabilidad ni destruye los derechos de autor; redefine los roles del juego público.

El debate sobre los actos administrativos algorítmicos suele encallarse en una contradicción respecto a quién debe responder cuando el sistema falla. Por un lado, se sostiene que el funcionario público es el único responsable porque es quien firma; por el otro, se sugiere que la complejidad técnica de la inteligencia artificial (IA) diluye esa responsabilidad, permitiendo una especie de exoneración fáctica. Esta tensión plantea un dilema operativo importante: si el funcionario decide sin la herramienta, ralentiza la gestión y asume en solitario todo el riesgo de sus decisiones; si la usa, se expone a cargar con las consecuencias de fallos que han podido originarse en el diseño del software.

El anterior planteamiento parte de una premisa equívoca sobre la distribución de la responsabilidad en el Estado y confunde la autoría formal del acto con la gestión del riesgo sistémico. La idea de que la arquitectura de un sistema de IA puede exonerar al funcionario no implica que la responsabilidad penal, disciplinaria o administrativa desaparezca, o que la máquina absorba la culpa. Lo que advierte esta postura es que culpar exclusivamente al eslabón final de la cadena –el operador que firma– constituye una simplificación jurídica y un exceso institucional con evidentes implicaciones constitucionales.

Cuando la Administración despliega un software opaco, o un modelo predictivo cuya lógica interna es inaccesible para la mayoría, genera una asimetría insalvable. El funcionario queda atrapado en el “sesgo de automatización”, viéndose compelido a validar los resultados del sistema ante la imposibilidad material de auditarlos en su jornada diaria. Exigirle responsabilidad plena por los errores de un diseño institucional defectuoso equivale a buscar un culpable incidental para un fallo de carácter estructural. Por lo tanto, antes de calificar la falta del servidor, resulta indispensable evaluar dos escenarios: si la entidad implementó una solución tecnológica sin las debidas garantías de explicabilidad, o si, por el contrario, el funcionario desatendió las instrucciones de uso y actuó fuera de los parámetros explicados y documentados por la administración.

Para aclarar este escenario, es fundamental separar la responsabilidad individual del funcionario de los deberes institucionales de transparencia activa y pasiva. La transparencia pública no exige vulnerar la propiedad intelectual ni los secretos comerciales de los desarrolladores tecnológicos, sino tener en cuenta dos elementos clave: la lógica normativa –los criterios legales, variables jurídicas y parámetros bajo los cuales se entrenó o configuró la herramienta– y la explicabilidad funcional –la forma en que esas reglas generales se aplicaron a un caso concreto–. El secreto empresarial ampara legítimamente la ingeniería del software, pero nunca puede usarse como escudo para ocultar los criterios públicos que justifican el ejercicio del poder estatal.

Bajo esta óptica, el deber de transparencia activa no consiste en publicar algoritmos incomprensibles o matrices matemáticas complejas, sino en divulgar proactivamente las reglas de juego institucionales. El Estado cumple esta obligación cuando informa con claridad qué variables específicas indexa el sistema, qué ponderación tienen esos criterios en la política pública, bajo qué instrucciones legales fue parametrizado el modelo y de qué manera se instruyó al servidor público para operarlo. El ciudadano tiene derecho a conocer las reglas jurídicas que el Estado ordenó ejecutar a la máquina, no la propiedad intelectual del proveedor.

Por su parte, la transparencia pasiva, que se activa cuando un ciudadano afectado exige explicaciones sobre su caso particular, se materializa a través de la explicabilidad funcional. Los sistemas públicos modernos deben contar con interfaces capaces de traducir los resultados del sistema a un lenguaje jurídico comprensible. La respuesta del Estado ante un recurso no puede ser evasiva ni escudarse en la complejidad de la tecnología, sino que debe demostrar cómo las condiciones particulares del solicitante interactuaron con las reglas del sistema para sugerir una motivación y, ocasionalmente, una decisión específica.

Esta estructura demuestra que el uso de la tecnología no priva de sentido ni de racionalidad a la decisión administrativa. El algoritmo procesa los hechos y puede construir una propuesta de motivación –e, incluso, de decisión– que, al ser acogida por el servidor público responsable, mantiene intacta la legitimidad del acto. Su carácter vinculante proviene exclusivamente de la revisión y aprobación humanas. La firma del funcionario sigue siendo el control de calidad necesario que transforma una recomendación en un acto administrativo vinculante.

Esta convalidación es totalmente válida siempre que el funcionario comprenda los criterios generales del modelo. Al mismo tiempo, este esquema reconoce que el factor humano no es infalible y que una automatización bien diseñada mitiga los sesgos cognitivos y la arbitrariedad de la burocracia tradicional. Al final, la IA no borra la responsabilidad ni destruye los derechos de autor; redefine los roles del juego público: el funcionario sigue siendo el garante del caso particular mediante su firma y su capacidad de veto, mientras que la institución asume la responsabilidad estricta de garantizar una arquitectura transparente en sus reglas y auditable en sus resultados. Fuente: ÁMBITO JURÍDICO https://www.ambitojuridico.com/noticias/tic/responsabilidad-transparencia-y-propiedad-intelectual-precisando-el-alcance-del-acto