Britse Labour-regering richt zich scherper op AI-veiligheidsrisico's

Vooraanstaande leden van de Britse Labour-regering hebben in oktober 2026 de risico's van kunstmatige intelligentie helemaal bovenaan de politieke agenda gezet. Waarschuwingen van AI-minister Kanishka Narayan werden gevolgd door een kabinetsdiscussie die over dit onderwerp ging, en door een onverbloemde analyse van het hoofd van MI5, de Britse binnenlandse inlichtingendienst.

Narayan zei dat het waarschijnlijk, zo niet onvermijdelijk is dat schurkachtige AI-agenten de Britse staat zullen hacken. Hij voegde eraan toe dat de regering haar komende cybersecuritywetsvoorstel wil versterken. MI5-directeur-generaal Ken McCallum stelde dat AI de strijd tussen aanvallers en verdedigers verscherpt, en noemde extremistische groeperingen die de technologie gebruiken om biowapens los te laten als het grootste gevaar.

Een koerswijziging na de wisseling van leiders

Liam Byrne, voorzitter van de commissie voor zaken, innovatie, wetenschap en handel van het Lagerhuis, koppelde de verschuiving deels aan de overgang van premier Keir Starmer naar Andy Burnham. Volgens hem stond de vorige regering te dicht bij de grote techbedrijven. Een kabinetsminister zei dat hun grootste zorg was dat geconcentreerde superintelligente macht in verkeerde handen zou vallen, terwijl een andere minister waarschuwde dat de regering achterloopt op de bezorgdheid onder het publiek. Op het partijcongres hield Ed Miliband vol dat de winsten van techbedrijven niet ten koste mogen gaan van kinderen of de mensheid.

De commissie van Byrne ondervroeg ambtenaren die verantwoordelijk zijn voor AI-veiligheid, samen met topmensen van Anthropic, OpenAI, DeepMind en Meta. Zij waren verdeeld over de vraag of overheidstests van nieuwe modellen verplicht moeten zijn. Ondanks berichten dat de regering van Donald Trump bedrijven had gevraagd hun nieuwste modellen niet met het Britse AI Security Institute te delen, bevestigde Narayan dat de samenwerking was voortgezet.

Open modellen en betwiste risico's

Geoffrey Irving, voormalig hoofdwetenschapper van het instituut, zei dat open-sourcemodellen doorgaans binnen een jaar de betaalde systemen inhalen en dat hun veiligheidsmechanismen ontbreken of makkelijk te verwijderen zijn. "Het is zeer waarschijnlijk dat open-sourcemodellen al krachtig genoeg zijn om serieuze schade aan te richten," aldus Irving. De commissie hoorde dat door AI ondersteunde biowapens de volgende grote dreiging na cyberaanvallen zouden kunnen zijn, al wijzen experts erop dat er een kloof zit tussen het ontwerpen van een gevaarlijk ziekteverwekker en het omzetten ervan in een wapen.

Niet iedereen deelt het somberste beeld. Prof. Elena Simperl, mede-directeur van het Institute for Artificial Intelligence van King's College London, zei dat existentieel risico een theorie blijft zonder bewijs, en drong erop aan dat ministers aandacht besteden aan gedocumenteerde schade, zoals hacken en verslavend ontwerp. Byrne wil intussen dat Groot-Brittannië het voortouw neemt bij regelgeving, vooral als de Amerikaanse tussentijdse verkiezingen de controle over het Congres doen verschuiven. Het aankomende G20-voorzitterschap van het Verenigd Koninkrijk wordt gezien als een belangrijke kans voor internationale actie.