Fecha: 23.03.2026
Autor: Carlo Cafarotti
Rubrica: ROOT ACCESS
La Fábrica tiene una filosofía, una termodinámica propia, y por lo tanto, ahora necesita una constitución.
En los dos primeros artículos de esta sección especial [ROOT ACCESS], he expuesto, haciendo también un esfuerzo por clarificar las intenciones profundas, los fundamentos lógicos de HuAndroid:
- El Manifiesto: la IA no es un asistente, sino un Exoesqueleto Cognitivo. Esto significa que el humano no debe ser un usuario pasivo, sino un Arquitecto que diseña sus limitaciones.
- El Ventaja Asimétrica (Termodinámica Editorial): la demostración matemática de que una infraestructura bare-metal y propietaria puede reducir los costos de producción (0,099 euros por un análisis complejo), transformando el costo variable de la nube en un costo fijo marginal.
Faltaba un tercer pilar. Aquel que une la filosofía con la termodinámica, transformando un experimento de laboratorio en un paradigma aplicable a nivel sistémico.
En los últimos días, he transmitido a la Agencia para la Digitalización de Italia (AgID) un position paper en respuesta a la consulta pública sobre las nuevas Directrices para la IA en la Administración Pública. No lo hice desde el púlpito de un teórico, que, por cierto, no podría presumir ser, sino con la concreción de quien ha construido una infraestructura funcional y se ha planteado una pregunta: ¿pueden los principios arquitectónicos de esta Fábrica escalar hasta convertirse en un modelo para el Estado?
Este artículo es la expansión de ese documento, es la representación del tercer pilar: se llama Soberanía Cognitiva.
El Problema: Gobernar la IA con las reglas del «alquiler en la nube»
La Administración Pública (AP) italiana está a punto de dar un paso irreversible. Las Directrices de la AgID en consulta son un trabajo sólido que sitúa en el centro la seguridad, el cumplimiento normativo (AI Act, Ley 132/2025) y la necesidad de mitigar el vendor lock-in.
Sin embargo, el debate público e institucional aún está viciado por un equívoco fundamental: la idea de que la IA se «alquila» como un software tradicional, y que gobernarla significa simplemente escribir mejores indicaciones (prompts).
Este equívoco conlleva tres consecuencias letales:
- La dependencia estructural (Alquiler en la Nube): Si la IA se delega a las API de terceros (por ejemplo, OpenAI, Anthropic, Google), la AP no está comprando una infraestructura, sino una renta perpetua. Cada token generado para procesar un documento público es un impuesto pagado a un ecosistema extranjero (¿y opaco?). Cuanto mayor es la adopción, más se alimenta la sangría financiera.
- El riesgo de «autoenvenenamiento» (Colapso del Modelo): Si la AP utiliza la IA para generar millones de documentos sintéticos, y esos documentos terminan en las bases de datos que entrenarán las IA del futuro, el sistema entrará en un bucle entrópico. La IA que se alimenta de sus propios resultados pierde adherencia a la realidad, aplanando las excepciones y produciendo una media estadística carente de sentido. En una Administración Pública donde el derecho del ciudadano a menudo se juega en la excepción y el detalle, esta deriva es inaceptable.
- La ilusión del control: La Ley de la IA impone la supervisión humana. Pero el modelo estándar (Human-in-the-loop) reduce al funcionario a un mero corrector de pruebas, es decir, al punto administrativo que debe asumir la responsabilidad. Un sistema que «alucina» fisiológicamente, y cuyos errores se tamponan caso por caso, no es un sistema gobernado: es una máquina que genera trabajo inducido para quienes deben corregirla.
El position paper enviado a AgID opone a estas amenazas tres soluciones arquitectónicas.
Los Tres Pilares de la Soberanía Cognitiva para la AP
1. Human-in-Command: el Arquitecto, no el corrector
El principio de supervisión humana (Principio 13 de las Directrices) es vital. Pero si se declina solo de forma reactiva, falla. La propuesta: el modelo Human-in-the-loop debe evolucionar al paradigma Human-in-Command (HIC).
En este esquema, el humano no evalúa el resultado a posteriori, sino que diseña a priori la «Constitución de los Agentes»: los límites ético-lógicos, los confines epistemológicos, las reglas algorítmicas inquebrantables. Si el sistema produce una desviación, se interviene en la arquitectura lógica y en los pesos del prompt del sistema, no cancelando la palabra generada individualmente.
¿Por qué es Soberanía? La responsabilidad de la decisión no se delega a una caja negra comercial, sino que se codifica en el diseño del sistema, supervisada por funcionarios públicos.
2. Seguridad Epistémica: agentes diseñados para «atacar» la verdad
La arquitectura trazada por las Directrices es sólida, pero carece de una capa explícita para la verificación fáctica (Grounding) en la fase de inferencia. La propuesta: integrar un nivel de Seguridad Epistémica basado en patrones Multi-Agente. El modelo generativo principal debe estar sistemáticamente acompañado por Agentes Críticos independientes, cuyo único propósito programado es:
- Verificar las referencias cruzadas;
- Descubrir los sesgos y las falacias lógicas;
- «Atacar» la producción textual antes de su lanzamiento para probar su resistencia.
El objetivo no es una objetividad absoluta utópica, sino una objetividad procedimental: la legitimidad del resultado de la AP no deriva de la infalibilidad de la máquina, sino de la transparencia, la repetibilidad y la robustez del proceso de revisión automatizado.
3. Santuarios Cognitivos: por qué el PSN debe evolucionar
Las Directrices para el desarrollo promueven justamente la neutralidad de hardware. Pero las directivas sobre la adquisición no traducen aún este principio en requisitos vinculantes. La propuesta: incluir en los pliegos de licitación criterios de puntuación absolutos para las soluciones que:
- Garantizan la ejecutabilidad bare-metal en hardware heterogéneo (incluidos entornos solo CPU, para garantizar la continuidad operativa en caso de crisis de las GPU);
- Adopten arquitecturas local-first bajo control público total;
- Documenten una rigurosa eficiencia termodinámica (consumo/token).
Esses enclaves protegidos, que chamo de Santuários Cognitivos, encontram seu habitat natural no Polo Estratégico Nacional (PSN); na minha opinião, o PSN não pode se limitar a ser uma “nuvem de armazenamento de dados”, mas deve evoluir para a infraestrutura de computação habilitadora onde os modelos da Administração Pública são executados e consultados em total isolamento das redes comerciais.
O nascimento do Arquiteto Cognitivo
Essas propostas exigem uma profunda mutação genética da força de trabalho pública. É necessária uma nova figura: o Arquiteto Cognitivo.
Não estamos falando de um “engenheiro de prompt” cedido à AP. Falamos de um profissional híbrido que domina:
- O Direito Administrativo, para traduzir o vínculo normativo em vínculo de sistema;
- A Ética Algorítmica, para equilibrar os pesos decisórios da máquina;
- A Engenharia de Dados, para orquestrar os Agentes Críticos e governar a entropia sintética.
A Lei 132/2025 (Art. 11) impõe a formação de quem utiliza sistemas de IA. O Arquiteto Cognitivo representa o vértice absoluto dessa pirâmide formativa: aquele que não sofre a interface, mas projeta seu motor. E garanto a vocês que fazê-lo no campo, me parece quase uma forma de arte, além da lógica em sentido estrito.
Conclusão
A Soberania Cognitiva não é um slogan político. É um protocolo de engenharia.
É a capacidade de um Estado possuir o ferro sobre o qual rodam os cálculos (Santuário Cognitivo), de engenheirar a dúvida na produção documental (Segurança Epistêmica) e de elevar o homem de revisor de textos a criador de regras (Human-in-Command).
Se não assimilarmos essa ruptura lógica, a integração da IA na Administração Pública se reduzirá à mais colossal operação de externalização do pensamento já tentada na história da República. E para quem, como eu, também desempenhou um papel político público, é um pesadelo que espero não se realize.
Não se governa a IA escrevendo prompts melhores. Governa-se projetando a arquitetura. E projetar a arquitetura significa saber fundir a filosofia com a termodinâmica, e o código com o direito constitucional.
O tríptico está completo.
Carlo Cafarotti
>>> system override by human <<<
Se você quiser se aprofundar, o position paper completo enviado à AgID (com as propostas de emenda textuais e as referências normativas) está disponível integralmente: Baixar PDF – Link.