Le gouvernement travailliste britannique renforce son attention aux menaces liées à la sécurité de l'IA

De hauts responsables du gouvernement travailliste britannique ont placé les risques liés à l'intelligence artificielle au premier rang de l'agenda politique en octobre 2026. Les mises en garde du ministre de l'IA, Kanishka Narayan, ont été suivies d'une discussion en conseil des ministres consacrée à ce sujet, puis d'une évaluation sans détour du directeur du MI5, le service de renseignement intérieur.

Kanishka Narayan a déclaré qu'il était probable, sinon inévitable, que des agents d'IA incontrôlés piratent l'État britannique, ajoutant que le gouvernement souhaite renforcer son futur projet de loi sur la cybersécurité. Le directeur général du MI5, Ken McCallum, a affirmé que l'IA intensifiait la lutte entre attaquants et défenseurs, et a désigné comme le danger le plus grave les groupes extrémistes qui utilisent cette technologie pour déclencher des armes biologiques.

Un changement de posture après le changement à la tête du parti

Liam Byrne, qui préside la commission des affaires commerciales, de l'innovation, des sciences et du commerce de la Chambre des communes, a relié ce virage en partie au remplacement de Keir Starmer par Andy Burnham au poste de Premier ministre, estimant que l'administration précédente était trop proche des géants de la tech. Un ministre du cabinet a affirmé que leur plus grande inquiétude était qu'une super-intelligence concentrée tombe entre de mauvaises mains, tandis qu'un autre a averti que le gouvernement accusait un retard par rapport à l'inquiétude du public. Lors de la conférence du parti, Ed Miliband a insisté sur le fait que les profits des entreprises technologiques ne devaient pas se faire au détriment des enfants ni de l'humanité.

La commission de Liam Byrne a interrogé des fonctionnaires chargés de la sécurité de l'IA, ainsi que des dirigeants d'Anthropic, d'OpenAI, de DeepMind et de Meta, qui étaient divisés sur la question de savoir si les tests gouvernementaux des nouveaux modèles devaient être obligatoires. Malgré des informations selon lesquelles l'administration de Donald Trump aurait demandé aux entreprises de ne pas partager leurs derniers modèles avec l'Institut de sécurité de l'IA du Royaume-Uni, Kanishka Narayan a confirmé que la coopération avait été maintenue.

Modèles ouverts et risques contestés

Geoffrey Irving, ancien scientifique en chef de l'institut, a indiqué que les modèles open source rattrapent généralement les systèmes payants en un an et que leurs garde-fous sont absents ou facilement supprimés. « Il est très probable que les modèles open source soient déjà assez puissants pour causer de graves dégâts », a déclaré Geoffrey Irving. La commission a entendu que les armes biologiques assistées par l'IA pourraient être la prochaine grande menace après les cyberattaques, même si les experts soulignent l'écart entre la conception d'un pathogène dangereux et sa transformation en arme.

Tout le monde n'adhère pas au tableau le plus sombre. La professeure Elena Simperl, codirectrice de l'Institut d'intelligence artificielle du King's College de Londres, a déclaré que le risque existentiel demeurait une théorie non démontrée et a exhorté les ministres à s'attaquer aux préjudices documentés, comme le piratage et la conception addictive. Liam Byrne, de son côté, souhaite que le Royaume-Uni prenne la tête de la régulation, en particulier si les élections de mi-mandat américaines modifient le contrôle du Congrès, la future présidence britannique du G20 étant considérée comme une occasion clé d'action internationale.