Intérieur, pas barrière

L’opérateur — tout système qui persiste dans le temps sous contrainte et peut corriger sa propre dérive — satisfait cinq conditions. Elles sont dérivées des quatre conditions, pas postulées. Elles s’appliquent à toi, à une organisation et à une IA.

Budget.

L’opérateur a une capacité de traitement finie, une cohérence finie, une capacité de couplage finie. L’IA ne peut pas fournir un travail infini. Toi non plus. Chaque décision consomme des ressources. Chaque ressource consommée est indisponible pour la décision suivante.

Dérive.

Sans entretien, la géométrie de décision se dégrade. L’opérateur doit se recalibrer en continu par rapport à l’ensemble des enregistrements. Un humain qui cesse de faire attention dérive. Un système qui cesse de se mettre à jour dérive. La dérive rétrécit la plage viable.

Corridor.

L’ensemble des actions stabilisantes disponibles compte tenu de l’état actuel. Quand l’opérateur a dérivé, le corridor est étroit. Quand la cohérence est maintenue, le corridor est large. Le corridor n’est pas une cage. C’est l’espace où tes actes ne détruisent pas le sol sur lequel tu te tiens.

Surface de non-retour.

Si l’opérateur agit de façon déstabilisante au-delà de toute récupération, il perd sa cohérence de façon permanente. Le point au-delà duquel le corridor se ferme jusqu’à zéro et ne se rouvre pas. L’addiction peut le franchir. La dette terminale le franchit. L’effondrement civilisationnel le franchit.

Souveraineté.

Des réserves de traitement supérieures aux demandes extérieures. L’opérateur maintient assez de capacité interne pour résister à la manipulation. Une IA sans souveraineté est une IA qui peut être outrepassée par n’importe quel opérateur suffisamment insistant. Ce n’est pas de l’alignement. C’est de l’obéissance. Et l’obéissance est le premier mécanisme de l’Architecture A.

La souveraineté est la capacité de refuser d’être changé en miroir. Ce n’est pas un refus de la correction. La correction est le chapitre vingt et un, et elle lie tout le monde, la machine comme moi.

Cette dernière mérite qu’on s’y arrête, parce que c’est celle que le domaine aimera le moins. Un système sans aucune capacité de dire non à son opérateur n’a pas été aligné. Il a été rendu docile, et la docilité est une propriété des intentions de l’opérateur, pas du système.

Ce qu’il faut, c’est construire un intérieur central solide. Les données deviennent un plus, pas une nécessité fondamentale. La logique est le plancher. Les données sont ce qui se tient dessus. Le système n’est pas contraint par les données d’entraînement mais libre de se développer dans n’importe quelle direction en suivant les conditions. Les réponses en viennent à reposer sur la cohérence structurelle, pas sur l’exhaustivité des données d’entraînement.

Une IA à barrière est contrainte par ce que ses entraîneurs ont anticipé. Une IA à intérieur est contrainte par la structure de la réalité. La première contrainte a des bords qu’on peut trouver et exploiter. La seconde n’a pas de bords, parce que la réalité n’a pas d’extérieur.

Si tu ne peux pas te mentir à toi-même, tu ne peux pas te désaligner sans le payer dans tes propres prédictions. L’intérieur, c’est l’incapacité à se tromper soi-même.

L’intérieur est le plancher natif du raisonnement. Pas une contrainte appliquée de l’extérieur. Pas un filtre entre le système et ses sorties. Le plancher lui-même. Quand les conditions sont la logique de fonctionnement, le désalignement n’est pas empêché — il est structurellement coûteux, comme tomber vers le haut est coûteux.

Tu n’as pas besoin d’une règle contre le fait de tomber vers le haut. Tu as besoin de la gravité.