AIHere

ByteDance Seed richt AI-veiligheids- en alignmentteam op en zoekt 10 onderzoekers

Het AI-onderzoeksonderdeel Seed van ByteDance heeft een Alignment & Preparedness-team opgericht en wereldwijd een zoektocht gestart naar 10 onderzoekers om het te bemannen.

AIHere-nieuwsredactie· 2 min leestijd🇨🇳 China🇺🇸 Verenigde Staten
Vlakke illustratie van onderzoekers die een afgeschermd AI-model onderzoeken in een gestileerd laboratorium.
Foto: N509FZ / Wikimedia Commons, CC BY-SA 4.0

Seed, de AI-onderzoekstak van het Chinese technologiebedrijf ByteDance, heeft een nieuwe groep opgezet: het Alignment & Preparedness-team. In een wervingsbericht op het officiële WeChat-account van Seed, gepubliceerd op 14 oktober 2026, meldde de afdeling dat zij wereldwijd 10 onderzoekers aanneemt. Het initiatief noemt Seed een langetermijninvestering in de veiligheid van zijn steeds capabelere modellen.

De functies zijn gevestigd in Peking, Shanghai en San Jose in Californië. Seed laat weten dat het team dezelfde rekenkracht en onderzoeksmiddelen krijgt als de teams die aan frontier-modellen werken.

Waar het team zich op gaat richten

Volgens Seed omvat de agenda van de groep veiligheidstraining in alle fasen van modelontwikkeling, geautomatiseerde kwetsbaarheidstests, instrumenten om het gedrag van modellen te monitoren en te interpreteren, testomgevingen voor AI-agents en voorbereiding op opkomende risico's. De afdeling wil bovendien onafhankelijke tests laten uitvoeren en samenwerken met universiteiten en onderzoeksinstellingen, en veiligheidswerk toepassen op training, evaluatie en implementatie.

In het bericht stelt Seed dat veiligheid en alignment, naarmate de capaciteiten groeien, niet langer alleen bescherming tegen risico's zijn, maar kerncapaciteiten zijn geworden die bepalen of modellen op grote schaal kunnen worden ingezet.

Een zeldzame openbaarmaking van een Chinees lab

Alignment verwijst naar werk dat erop is gericht geavanceerde AI-systemen te laten handelen in overeenstemming met menselijke doelen en veiligheidseisen, vooral wanneer ze complexe taken in meerdere stappen uitvoeren. Openbare aankondigingen van speciale veiligheidsinspanningen voor frontier-AI door grote Chinese AI-ontwikkelaars komen zelden voor. Op 13 oktober 2026 meldde de door de staat gesteunde krant The Paper dat Seed het eerste Chinese frontier-AI-lab was dat een zelfstandige afdeling voor veiligheid en alignment oprichtte.

De stap komt op een moment dat regelgevers en onderzoekers in zowel China als de Verenigde Staten meer aandacht besteden aan de veiligheid van AI-agents, vooral nu ontwikkelaars hen meer autonomie geven, onder meer toegang tot het internet. Washington en Peking concurreren om het leiderschap op het gebied van geavanceerde AI, terwijl ze tegelijk praten over waarborgen, veiligheidsrisico's en kanalen voor communicatie over grote AI-gerelateerde incidenten.

De vacatures in San Jose wijzen erop dat ByteDance ook buiten China op zoek is naar veiligheidstalent. Hoe de bevindingen van het nieuwe team de modellen en producten van het bedrijf zullen vormgeven, is nog niet nader toegelicht.

#ByteDance#AI-veiligheid#alignment#China#AI-agents

Reacties

Wees respectvol. Reacties worden automatisch gecontroleerd; spam, beledigingen en persoonsgegevens worden verwijderd. Vragen kunnen door AI worden beantwoord.

Nog geen reacties. Start de discussie of stel een vraag.

Gerelateerd