11月5日，字节跳动内部发布了年内第四份《企业纪律与职业道德委员会通报》。通报显示，103人因违法违规行为被辞退（含外包及实习生），其中11人因涉嫌构成刑事犯罪，被公安机关立案侦查。此外，通报中还披露了近期受到关注的实习生破坏模型训练事件。
上述涉嫌构成刑事犯罪的11人中，从涉嫌罪名来看，其中1人涉嫌职务侵占罪，5人涉嫌非国家工作人员受贿罪，另有5人未披露具体涉嫌罪名。从涉及业务和部门来看，11人中涉及电商业务3人、生活服务3人、抖音2人，企业服务、人力与管理、财经各1人。
利用职务便利谋取不正当利益的行为，相当一部分发生在采购、竞标环节。如通报披露，电商前员工徐某某、抖音前员工董某某、企业服务前员工徐某某等，均在采购、竞标环节，或以明显高于市场价的价格采购，或为供应商提供倾向性资源扶持等方式，为供应商谋取利益并以此收受好处费。三人均因涉嫌构成刑事犯罪，被公安机关立案侦查。
泄露公司保密信息也是通报中的多发行为，其中王某某直接向外界售卖公司保密信息，因涉嫌刑事犯罪，已被公安机关立案侦查。
通报中，字节跳动还特别提示了管理者责任。对于疏于履行监管、审批等责任的管理者，公司将追究相应管理责任；对于触犯刑事法律的员工，公司将默认追究涉案员工直属上级的管理责任（管理者主动发现并上报违法违规情形的除外）。
值得注意的是，这份内部通报中，字节跳动还披露了近期受到外界关注的实习生破坏模型训练事件。
通报称，2024年6月至7月，商业产品与技术前实习员工田某某，因对团队资源分配不满，通过编写、篡改代码等形式恶意攻击团队研究项目的模型训练任务，造成资源损耗。公司已与其解除实习协议，同步阳光诚信联盟及企业反舞弊联盟，并同步至其就读学校处理。
10月19日，字节跳动官方发布声明回应称，经公司内部核实，确有商业化技术团队实习生发生严重违纪行为，该实习生已被辞退，但相关报道也存在部分夸大及失实信息。
字节跳动表示，涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务，但并不影响商业化的正式项目及线上业务，也不涉及字节跳动大模型等其他业务。同时，网传“涉及8000多卡、损失上千万美元”严重夸大。
字节跳动还称，经核实，涉事人一直在商业化技术团队实习，并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。此外，该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校，交由校方处理。
新闻链接
10月18日，多个微信群流传一则消息：“某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码注入了8000多张卡，带来的损失可能超过千万美元。”
随后，有媒体报道称，从知情人士处获悉，该头部大厂为字节跳动。此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，使用攻击代码破坏团队的模型训练任务。
传闻显示，该实习生利用了HF（huggingface）的漏洞，在公司的共享模型里写入破坏代码，导致模型的训练效果忽高忽低，无法产生预期的训练效果，而且AML团队无法核查原因。但传闻曝出之后，该实习生还在某微信群里辟谣称，自己发完论文后就从字节跳动离职，这个当口有另一个人钻漏洞改模型代码，把锅扣到自己头上。
大模型在安全性方面的问题已经受到业内高度关注。今年8月，中国信通院发文称，近年来，以大模型为核心的人工智能技术飞速发展，成为数字经济增长新动能。然而，作为新质生产力的大模型在安全性方面仍存在较多缺陷，这为其大规模落地应用带来了不确定性。近期，中国信通院发布的大模型安全基准AI Safety Benchmark的测试结果显示，大模型（尤其是开源大模型）在恶意诱导手段下的攻击成功率均较原始输入有明显提升。因此，对大模型进行安全对齐防护刻不容缓。
■综合自证券时报、中国城市报此前报道
■编辑：越玥、张阿嫱
韦德体育官方网站
发表评论:
◎欢迎参与讨论，请在这里发表您的看法、交流您的观点。