当心内鬼!字节商业化模型训练遭实习生破坏

作者: 文少

责任编辑: 刘沙

来源: 电脑商情在线

时间: 2024-10-21 11:54

关键字: 字节跳动 大模型 豆包

  近日,字节跳动公司遭遇的一起安全事件被披露出来。一名实习生因不满资源分配,利用Hugging Face(HF)平台的漏洞,向公司商业化技术团队的模型训练任务注入了破坏代码。这次攻击影响了8000多张卡,造成的损失可能达到千万美元。

  据悉,该实习生为某高校博士生,在字节跳动实习期间,因不满团队资源分配,采取了攻击行为。其攻击行为导致模型训练效果不稳定,无法达到预期效果。

  目前,字节跳动内部已经查明此事为田姓实习生所为,将其辞退,还将相关情况同步给了行业联盟与实习生所在的学校。公司也在积极采取措施,以防止类似事件再次发生。

  另据字节跳动的知情人士透露,该事件实际发生在今年6月底,实习生通过共享模型进行入侵的是商业化技术团队的模型训练任务,主要影响了广告部门的部分技术工作,并不涉及集团的豆包大模型。

  此次事件暴露了字节跳动在技术训练中的安全管理问题,包括权限隔离和共用代码的审计等等。行业人士建议,进行权限隔离与审计有助于保护公司的核心数据和知识产权,防止数据泄露,提高数据和系统的安全性。


ToB最前沿

ToB最前沿抖音号

CBI科技在线

地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 商务内容合作QQ:2291221 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除
京ICP备:2022009079号-3
京公网安备:11010502051901号
ICP证:京B2-20230255