国家安全部:警惕人工智能数据投毒,0.01% 虚假文本可致有害输出增加 11.2%8 月 5 日

人工智能训练数据存在污染问题,可能包含虚假信息、虚构内容和偏见性观点,影响模型准确性,甚至导致有害输出。数据污染还可能在后续训练中形成「污染遗留效应」,并在金融、公共安全、医疗等领域引发现实风险。

企业微信二维码