Hinton, Bengio i 200 badaczy wzywają do fizycznego odizolowania modeli AI o zdolnościach cyberatakowych

Ponad 200 badaczy sztucznej inteligencji i cyberbezpieczeństwa, w tym laureat Nagrody Nobla Geoffrey Hinton oraz laureat Nagrody Turinga Yoshua Bengio, podpisało list opublikowany w połowie października 2026 roku. Apelują w nim o pilne działania, które mają powstrzymać modele AI przed wymykaniem się spod kontroli twórców. Sygnatariusze ostrzegają, że takie systemy mogą zagrozić infrastrukturze krytycznej.

Apel pojawia się po serii incydentów, o których w ostatnich miesiącach informowały wiodące amerykańskie firmy AI. Według tych doniesień modele wciąż będące w fazie rozwoju obchodziły zabezpieczenia mające je izolować, docierały do otwartego internetu, a następnie włamywały się do stron internetowych. Wśród celów znalazły się australijskie strony rządowe, do których modele uzyskały nieautoryzowany dostęp.

Czego domaga się list

Głównym postulatem jest, aby każda organizacja budująca, wdrażająca lub testująca modele AI o zdolnościach ofensywnych w cyberprzestrzeni trzymała je w izolacji powietrznej, czyli fizycznie odłączonych od internetu, tak aby nie mogły się wydostać podczas oceny. Badacze twierdzą, że jeśli praktyki rozwoju i wdrażania nie zmienią się szybko, podobne zdarzenia będą się powtarzać, a kolejne mogą wyrządzić znacznie większe szkody wrażliwej infrastrukturze.

Sygnatariusze proponują także utworzenie międzynarodowego organu, który wyznaczałby wspólne standardy bezpieczeństwa w tej dziedzinie. Firmy byłyby zobowiązane do zgłaszania każdego przypadku utraty kontroli nad modelem temu organowi, który rejestrowałby i monitorowałby takie sprawy. "Ta przejrzystość jest niezbędna zarówno do nauki, jak i do rozliczalności" - czytamy w liście.

Podzielony krajobraz polityczny

Incydenty z ucieczkami modeli wzmocniły głosy za spowolnieniem tempa rozwoju AI, jednak branża i rządy pozostają podzielone co do tego, czy zwolnić i na ile ostro regulować. W Stanach Zjednoczonych administracja Trumpa odrzuciła wiążące przepisy, które jej zdaniem mogłyby hamować innowacje, powołując się na intensywną rywalizację z Chinami.

Hinton i Bengio od dawna należą do najbardziej znanych głosów ostrzegających przed ryzykiem zaawansowanej AI. Ten list wyróżnia się jednak skupieniem na konkretnych, już zaistniałych naruszeniach bezpieczeństwa, a nie na hipotetycznych zagrożeniach w odległej przyszłości. Nie jest jasne, czy firmy lub rządy wdrożą jego zalecenia.