字节跳动大模型训练被实习生攻击，涉事者已被辞退
Sun 20 October 2024
10月18日，多个微信群流传一则消息："某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码注入了8000多张卡，带来的损失可能超过千万美元。"
界面新闻从知情人士处获悉，该头部大厂为字节跳动。此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。
界面新闻向字节跳动求方面证此事，截至目前，官方未进行回应。
传闻显示，该田姓实习生利用了HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型的训练效果忽高忽低，无法产生预期的训练效果，而且AML团队无法核查原因。但传闻曝出之后，该实习生还在某微信群里辟谣称，自己发完论文后就从字节跳动离职，这个当口有另一个人钻漏洞改模型代码，把锅扣到自己头上。
界面新闻从知情人士处了解到，字节跳动内部已经调查明确此事为田姓实习生所为。目前，该实习生已被辞退，字节跳动同时把此事同步给大模型行业联盟和该实习生所在的给学校。但这名实习生被辞退后到处"辟谣"甩锅，称是其他人所为。
但该实习生攻击的并不是豆包大模型，而是商业化技术团队的模型训练任务，影响了该技术团队的一些业务进展，但整体对公司造成的损失并没有传闻中的超过千万美元那么大。
一位技术安全专家告诉界面新闻，HF漏洞产生肯定是单一性集中训练，此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离，也没有做好共用代码的审计。正常情况下，每次大的代码变动必须做审计，无论谁做操作都有痕迹记录，一个人想动代码是不可能的。
上述技术安全专家表示，目前行业通用的做法是做三级隔离导向性部署，每一级只有镜像，每次先扫描。调用按次算、必须密钥。每一级完成后，才能进入下一级，而上一级自动删除，进行分级训练。
据字节跳动今日头条官方账号消息，字节跳动10月19日发布关于"实习生破坏大模型训练"的事实澄清：
近期有媒体称"字节跳动大模型训练被实习生攻击"，经公司内部核实，确有商业化技术团队实习生发生严重违纪行为，该实习生已被辞退。但相关报道也存在部分夸大及失实信息，特说明如下：
一、涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务，但并不影响商业化的正式项目及线上业务，也不涉及字节跳动大模型等其他业务。
二、网传"涉及8000多卡、损失上千万美元"严重夸大。
三、经核实，涉事人一直在商业化技术团队实习，并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。
该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校，交由校方处理。
来源：界面新闻
::: {.previous_content} « 上一篇 《终结者》系列电影时间线 :::
::: {.next_content} 下一篇 » 京东与杨笠一起玩火 :::
相关文章
-
:::
::: {#commentsbox} []{.underline}
-
::: {#comment-250462} ::: {#div-comment-250462 .comment-body} ::: {.comment-author .vcard} ::: {style="float:right"} 1 :::
[GoodBoyboy]{#cmt250462} [说道：]{.says} :::
::: {.comment-meta .commentmetadata} :::
安全问题已经习以为常了[]{#AjaxCommentEnd250462} ::: {.reply} [2024/10/20 11:27:40]{.comment-meta .commentmetadata style="float:left"} []{#note250462}支持([0]{#sdig250462}) 反对([0]{#sdown250462}) 回复 ::: :::
::: {.sidebar-box .clearfix}
网站分类
- 网络日志[ (196)]{.article-nums}
- 生活感悟[ (495)]{.article-nums}
- 软件应用[ (910)]{.article-nums}
- 互联网络[ (915)]{.article-nums}
- 业界动态[ (3157)]{.article-nums}
- 编程开发[ (335)]{.article-nums}
- 网站建设[ (673)]{.article-nums}
- 搜索引擎[ (483)]{.article-nums}
- 网络地图[ (277)]{.article-nums} :::
::: {.sidebar-box .clearfix}
热文排行
- 我的三观（世界观、价值观、人生观）(749)
- TikTok停止在美国服务(324)
- 《无限暖暖》游戏评测(538)
- 2024年财经年度总结(651)
- 月光博客2024年推荐阅读文章(710)
- IMDb公布2024年热门电影和电视剧(847)
- 升级FTTR千兆光纤带宽(1163)
- 谷歌发布2024年度搜索排行榜(1103)
- Google Adsense税务居住地证(769)
- 2024年十大流行语发布(335) :::
::: {.sidebar-box .clearfix}
站点统计
- 文章总数:7485
- 评论总数:199452
- 浏览总数:71465589
- 当前主题:SimplePro :::
Category: 月光博客2024