AIHere

字节跳动Seed组建AI安全与对齐团队,招募10名研究人员

字节跳动AI研究部门Seed成立了对齐与防范团队,并面向全球招募10名研究人员。

AIHere 新闻编辑部· 1 分钟阅读🇨🇳 中国🇺🇸 美国
扁平风格插图,研究人员在风格化实验室中检视一个带有防护结构的AI模型。
图片: N509FZ / Wikimedia Commons, CC BY-SA 4.0

中国科技公司字节跳动的AI研究部门Seed设立了一个名为“对齐与防范团队”的新小组。该部门于2026年10月14日在其官方微信公众号发布招聘公告,称将在全球招募10名研究人员,并将此举描述为对其能力日益增强的模型在安全方面的长期投入。

这些岗位设在北京、上海以及美国加利福尼亚州的圣何塞。Seed表示,该团队将获得与其前沿模型团队同等的算力和研究资源。

团队的工作内容

据Seed介绍,该小组的工作涵盖模型开发全过程的安全训练、自动化漏洞测试、用于监测和解读模型行为的工具、AI智能体的测试环境,以及对新兴风险的应对准备。该部门还计划引入独立测试,并与高校和研究机构合作,将安全工作贯穿训练、评估和部署各个环节。

在公告中,Seed认为,随着模型能力不断提升,安全与对齐已不再仅仅是防范风险的保障,而是成为决定模型能否大规模部署的核心能力。

中国实验室的罕见披露

对齐是指让先进AI系统的行为符合人类目标和安全要求的工作,在系统执行复杂的多步骤任务时尤为重要。中国主要AI开发商公开宣布设立专门的前沿安全团队的情况并不多见。2026年10月13日,官方背景的报纸《澎湃新闻》报道称,Seed是中国首家设立独立安全与对齐部门的前沿AI实验室。

此举正值中美两国的监管机构和研究人员日益关注AI智能体的安全问题之际,尤其是在开发者赋予其更大自主权(包括联网能力)的背景下。两国在争夺先进AI领导地位的同时,也在探讨安全护栏、安全风险以及重大AI相关事件的沟通机制。

圣何塞岗位的设立表明,字节跳动正在中国以外寻找安全领域的人才。新团队的研究成果将如何影响公司的模型和产品,目前尚未披露细节。

#字节跳动#AI安全#对齐#中国#AI智能体

评论

请保持尊重。评论会自动审核;垃圾信息、侮辱性言论和个人数据将被删除。问题可能由 AI 作答。

暂无评论。发起讨论或提出问题吧。

相关