当心内鬼!字节商业化模型训练遭实习生破坏
作者: 文少
责任编辑: 刘沙
来源: 电脑商情在线
时间: 2024-10-21 11:54
近日,字节跳动公司遭遇的一起安全事件被披露出来。一名实习生因不满资源分配,利用Hugging Face(HF)平台的漏洞,向公司商业化技术团队的模型训练任务注入了破坏代码。这次攻击影响了8000多张卡,造成的损失可能达到千万美元。
据悉,该实习生为某高校博士生,在字节跳动实习期间,因不满团队资源分配,采取了攻击行为。其攻击行为导致模型训练效果不稳定,无法达到预期效果。
目前,字节跳动内部已经查明此事为田姓实习生所为,将其辞退,还将相关情况同步给了行业联盟与实习生所在的学校。公司也在积极采取措施,以防止类似事件再次发生。
另据字节跳动的知情人士透露,该事件实际发生在今年6月底,实习生通过共享模型进行入侵的是商业化技术团队的模型训练任务,主要影响了广告部门的部分技术工作,并不涉及集团的豆包大模型。
此次事件暴露了字节跳动在技术训练中的安全管理问题,包括权限隔离和共用代码的审计等等。行业人士建议,进行权限隔离与审计有助于保护公司的核心数据和知识产权,防止数据泄露,提高数据和系统的安全性。
