篡改代码并攻击大模型,前实习生被字节跳动起诉并索赔 800 万元

xxn 阅读:5330 2024-11-28 00:01:00 评论:0

11 月 27 日,据《南方都市报》晚间报道,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已在北京市海淀区人民法院正式受理。字节跳动要求法院裁定田某某赔偿公司800 万元侵权损失和 2 万元合理支出,并公开赔礼道歉

报道称,田某某毕业于北京航空航天大学软件学院,目前在北京大学攻读研究生学位,研究兴趣主要集中在深度学习的优化与算法。内部人士透露,公司选择目前提起诉讼是因为田某某仍在攻读博士学位,公司决定解雇该实习生后优先让校方介入处理。然而,在处理过程中,田某某多次否认与攻击模型训练任务有关,声称其实是其他实习生所为。鉴于田某某对错误毫无察觉,且其行为已触及公司安全底线,字节跳动最终决定向法院提起诉讼,以表明公司态度严肃,并杜绝类似事件再次发生。

IT之家附前情提要:

今年 10 月,有消息称,某知名公司的大规模模型训练遭实习生入侵,注入破坏性代码导致训练结果不可靠,可能需要重新训练。据悉,受到入侵的公司为字节跳动

据传闻,某高校博士在字节跳动商业技术团队实习期间,因不满团队资源分配,使用攻击性代码破坏团队模型训练计划。该姓田的实习生利用 HF(IT之家注:huggingface)的漏洞,在公司共享模型中插入破坏代码,导致训练效果时好时坏,无法达到预期效果,并使 AML 团队难以查明原因。然而,一旦传闻曝光,该实习生曾在某微信群中否认,并称自己发表论文后便离开了字节跳动。在此同时,另一人却趁机漏洞篡改模型代码,将责任推向了该实习生。

字节跳动后来发布《关于“实习生破坏大模型训练”的事实澄清》,澄清公司内部核实发现商业技术团队实习生存在严重违纪行为,已被解雇。

  • 众所周知,该实习生恶意干扰商业技术团队的模型训练项目,但并未影响公司正式项目和线上业务,也未牵扯字节跳动大模型等其他业务

  • 流传的“涉及 8000 多卡、损失上千万美元”报道被严重夸大。

  • 经查证,该人员一直在商业技术团队实习,并未有 AI Lab 实习经历。个人社交媒体简介和某些媒体报道存在错误。

广告声明:本文包含的外部链接(包括但不限于超链接、二维码、口令等形式)用于提供更多信息,节省查找时间,仅供参考。

声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

搜索
排行榜
关注我们

扫一扫关注我们,了解最新精彩内容