消息称字节跳动大模型训练被实习生攻击,涉事者已被辞退

2024-10-18 www.dnxtw.com

感谢电脑系统网友 小星_14、石原里美幸福,见证者 线索投递!

电脑系统网 10 月 18 据界面新闻报道,今天,许多微信群发布了一条消息:“一家大型工厂的大型模型培训被实习生入侵,注入了破坏代码,导致培训结果不可靠,可能需要重新培训。据说被入侵的代码被注入了 8000 多张卡,损失可能超过1000万美元。”

据知情人士透露,头部工厂是字节跳动。这件事发生在今年 6 1月,原因是一所大学的医生在字节跳动商业技术团队实习。由于对团队资源分配不满,他使用攻击代码来破坏团队的模型培训任务。到目前为止,这位官员还没有回应。

传闻显示,这位姓田的实习生利用了它 HF(计算机系统网注:huggingface)在公司共享模型中写入损坏代码的漏洞导致模型的训练效果突然高低,无法产生预期的训练效果,而且 AML 团队无法核实原因。然而,谣言曝光后,实习生还在微信群中驳斥了这一谣言,称他在发表论文后离开了字节跳动。另一个人钻了一个漏洞,改变了模型代码,把锅扣在头上。

据知情人士透露,字节跳动的内部调查显然是田姓实习生所做的。目前,实习生已被解雇。字节跳动同时将此事与阳光诚信联盟、企业反欺诈联盟和实习生所在学校同步。然而,在实习生被解雇后,他到处“辟谣”,说这是别人做的。

报告称,实习生攻击的不是大豆包模型,而是商业技术团队的模型培训任务,影响了技术团队的一些业务进展,但整体损失并不像传闻中的1000多万美元那么大。

广告声明:文本中包含的外部跳转链接(包括不限于超链接、二维码、密码等形式)用于传递更多信息,节省选择时间。结果仅供参考。计算机系统网络上的所有文章都包含了本声明。

相关阅读