영국 노동당 정부, AI 안전 위협에 초점 강화

영국 노동당 정부의 고위 인사들은 2026년 10월 인공지능 위험을 정치권의 핵심 의제로 끌어올렸다. AI 장관 카니슈카 나라얀의 경고에 이어 이 문제를 중심으로 한 내각 논의가 있었고, 국내 정보기관인 MI5의 수장도 암울한 평가를 내놓았다.

나라얀 장관은 악의적인 AI 에이전트가 영국 정부 시스템을 해킹하는 일은 가능성이 크며, 필연적이지는 않더라도 그럴 가능성이 높다고 말했다. 또한 정부는 곧 발의할 사이버보안 법안을 강화하기를 원한다고 밝혔다. MI5 사무총장 켄 맥컬럼은 AI가 공격자와 방어자 간의 경쟁을 더욱 치열하게 만들고 있다고 말하며, 이 기술을 이용해 생물무기를 퍼뜨리려는 극단주의 단체를 가장 심각한 위협으로 꼽았다.

지도부 교체 이후 달라진 입장

하원 기업·혁신·과학·무역 위원회를 이끄는 리엄 번은 이러한 변화가 부분적으로는 총리가 키어 스타머에서 앤디 버넘으로 바뀐 것과 관련이 있다고 보았다. 그는 이전 정부가 빅테크 기업과 지나치게 가까웠다고 주장했다. 한 내각 장관은 가장 큰 우려는 초지능의 막대한 힘이 잘못된 사람들의 손에 넘어가는 것이라고 말했고, 다른 장관은 정부가 대중의 우려를 따라가지 못하고 있다고 경고했다. 당대회에서 에드 밀리밴드는 기술 기업의 이익이 아동과 인류의 희생을 대가로 해서는 안 된다고 강조했다.

번 위원장의 위원회는 AI 보안을 담당하는 공무원들과 앤트로픽, 오픈AI, 딥마인드, 메타의 경영진을 함께 불러 질의했다. 이들은 신규 모델에 대한 정부 테스트를 의무화해야 하는지를 두고 의견이 갈렸다. 도널드 트럼프 행정부가 기업들에 최신 모델을 영국 AI 보안 연구소와 공유하지 말라고 요청했다는 보도가 있었지만, 나라얀 장관은 협력이 유지되고 있다고 확인했다.

오픈 모델과 논쟁적인 위험

연구소의 전 수석 과학자 제프리 어빙은 오픈소스 모델이 보통 1년 안에 유료 시스템을 따라잡으며, 이들 모델에는 안전장치가 없거나 쉽게 제거될 수 있다고 말했다. 어빙은 "오픈소스 모델이 이미 심각한 피해를 일으킬 만큼 강력할 가능성이 매우 높다"고 말했다. 위원회에서는 AI 기반 생물무기가 사이버 공격 다음으로 큰 위협이 될 수 있다는 의견도 나왔지만, 전문가들은 위험한 병원체를 설계하는 것과 이를 실제 무기로 만드는 것 사이에는 간극이 있다고 지적했다.

모든 사람이 가장 비관적인 시각을 받아들이는 것은 아니다. 킹스칼리지런던 인공지능연구소의 공동 소장 엘레나 심퍼를 교수는 실존적 위험은 아직 증거가 없는 이론에 머물러 있다고 말하며, 장관들에게 해킹이나 중독성 설계처럼 실제로 확인된 피해에 대응할 것을 촉구했다. 한편 번 위원장은 특히 미국 중간선거로 의회 주도권이 바뀔 경우를 대비해 영국이 AI 규제에서 주도적 역할을 해야 한다고 주장하고 있다. 영국이 곧 맡을 G20 의장국은 국제적 행동을 이끌 중요한 기회로 여겨지고 있다.