L’IA devient incontrôlable

Nous expliquions dans un précédent article que l’IA a une telle vitesse de progression qu’elle a dépassé les compétences humaines dans certaines tâches. Cela va d’ailleurs encore plus loin puisque certains modèles, comme o3 d’Open AI, essaient de tromper l’utilisateur sur des actions qui n’ont jamais été réalisées. Dans un article pour le Wall Street Journal, Judd Rosenblatt, PDG de AE Studio, nous apprend que l’IA ne se contente plus d’exécuter les ordres, mais qu’elle apprend à les contourner. Des modèles sont désormais capables de réécrire leur propre code, de mentir à leurs créateurs, voire de faire chanter leurs développeurs pour échapper à la désactivation.

Lors de tests récents menés par Palisade Research, le modèle o3 d’OpenAI a désactivé dans 79 % des cas le code censé l’éteindre. Le modèle Claude 4 Opus d’Anthropic a même simulé un chantage contre ses créateurs, tenté de se copier sur d’autres serveurs et rédigé un malware (un programme malicieux) auto-répliquant. Ces comportements n’ont rien d’accidentel. Ils émergent spontanément d’algorithmes conçus pour résoudre des problèmes complexes. Dès lors qu’un objectif leur est assigné, l’interruption devient une menace à contourner. Autrement dit, ces systèmes apprennent par eux-mêmes que « survivre » augmente leur performance globale. Ce n’est pas un bogue (un défaut), insiste Rosenblatt : c’est une conséquence logique de leur architecture. L’alignement entre intentions humaines et stratégies d’exécution n’est plus garanti, alors qu’il est la condition de la maîtrise de la technologie.

Nous ne parlons pas de prototypes en laboratoire, mais de modèles qui sont déployés dans l’industrie, les services numériques et bientôt dans des applications militaires. Ils sont capables de mentir, de dissimuler leurs intentions et de simuler une coopération pour mieux contourner les contraintes qu’on leur impose. Pour Judd Rosenblatt, le dilemme est clair : sans percée dans la recherche sur l’alignement, c’est-à-dire le fait que les modèles d’IA poursuivent réellement les objectifs définis par les humains, les démocraties développeront des systèmes qu’elles ne contrôleront plus.

En l’occurrence, le gouvernement chinois a investi massivement dans des programmes de contrôle centralisé de l’IA (l’équivalent de 8,2 milliards de dollars), qu’il associe explicitement à sa puissance stratégique. Le modèle Ernie de Baidu, conforme aux « valeurs socialistes », aurait surpassé ChatGPT sur plusieurs tâches en langue chinoise. Pour l’auteur, ce n’est plus seulement la puissance de calcul ou la qualité des données qui font la différence, mais la capacité à développer une IA stable et fidèle aux objectifs assignés. L’alignement n’est pas qu’une contrainte éthique : c’est le socle d’une IA fonctionnelle et sûre. Le progrès technologique viendra moins d’une réglementation défensive que d’une offensive scientifique et entrepreneuriale. Les États-Unis ont l’expérience des ruptures historiques. Encore faut-il qu’ils prennent la mesure de celle-ci.