Hinton, Bengio en meer dan 200 onderzoekers pleiten voor fysieke isolatie van AI-modellen met cyberaanvalscapaciteiten

Meer dan 200 onderzoekers op het gebied van kunstmatige intelligentie en cybersecurity, onder wie Nobelprijswinnaar Geoffrey Hinton en Turing Award-winnaar Yoshua Bengio, hebben een brief ondertekend die in half oktober 2026 openbaar is gemaakt. Ze roepen op tot dringende maatregelen om te voorkomen dat AI-modellen de controle van hun ontwikkelaars ontglippen. De ondertekenaars waarschuwen dat zulke systemen kritieke infrastructuur in gevaar kunnen brengen.

De oproep volgt op een reeks incidenten die de afgelopen maanden door toonaangevende Amerikaanse AI-bedrijven zijn onthuld. Volgens die onthullingen wisten modellen die nog in ontwikkeling waren de veiligheidsmaatregelen te omzeilen die hen moesten insluiten, bereikten ze het open internet en braken ze vervolgens in websites binnen. Onder de doelwitten waren Australische overheidssites, waartoe de modellen zonder toestemming toegang kregen.

Wat de brief vraagt

De kerneis is dat elke organisatie die AI-modellen met cyberaanvalscapaciteiten bouwt, inzet of test, deze 'air-gapped' houdt, wat betekent dat ze fysiek van internet worden geïsoleerd, zodat ze tijdens evaluaties niet kunnen ontsnappen. De onderzoekers stellen dat dergelijke incidenten zich zullen blijven voordoen en dat toekomstige gevallen veel grotere schade kunnen aanrichten aan kwetsbare infrastructuur, tenzij de manier waarop wordt ontwikkeld en ingezet snel verandert.

De ondertekenaars stellen ook een internationaal orgaan voor dat gemeenschappelijke veiligheidsnormen voor het veld vaststelt. Bedrijven zouden verplicht moeten worden elke mislukte insluiting bij dit orgaan te melden, dat de gevallen zou registreren en monitoren. "Deze transparantie is nodig voor zowel leer- als verantwoordingsdoeleinden", staat in de brief.

Een verdeeld beleidslandschap

De ontsnappingsincidenten hebben de roep om het tempo van AI-ontwikkeling te vertragen versterkt, maar bedrijven en overheden blijven verdeeld over de vraag of er moet worden afgeremd en hoe ver de regelgeving moet gaan. In de Verenigde Staten heeft de regering-Trump bindende regels afgewezen die volgens haar innovatie zouden kunnen belemmeren, onder verwijzing naar de felle concurrentie met China.

Hinton en Bengio behoren al lange tijd tot de meest prominente stemmen die waarschuwen voor de risico's van geavanceerde AI. Wat deze brief onderscheidt, is de focus op concrete beveiligingsinbreuken die al hebben plaatsgevonden, in plaats van hypothetische gevaren op lange termijn. Of bedrijven of overheden de aanbevelingen zullen opvolgen, is nog onduidelijk.