特别是在AI训练、使用若不规范的语境下,必须警惕“数据投毒”带来的信息污染。国家安全部5日发布安全提示文章称,人工智能的训练数据存在良莠不齐的问题,其中不乏虚假信息、虚构内容和偏见性观点。当训练数据集中仅有0.01%的虚假文本时,模型输出的有害内容会增加11.2%;即使是0.001%的虚假文本,其有害输出也会相应上升7.2%。
可见,训练数据一旦虚假或虚构博鱼app官网下载,其将会影响AI的判断与创造,造成递归污染,形成具有延续性的“污染遗留效应”,并传导至终端使用场景。换言之,用虚假数据训练AI,这种现象就像生物界近亲繁殖导致基因缺陷一样,数据近亲繁殖同样会造成模型性能退化,加剧AI“幻觉”。而为这种认知幻觉买单的,无疑是普通使用者。
541.60MB
查看808.23MB
查看43.7MB
查看684.5MB
查看
网友评论更多
603杜慧广t
女生晒五十多岁父亲晚间备考视频
2025/08/09 推荐
8130贺浩友326
美国对瑞士进口征税,颠覆全球金条市场,短期刺激纽约金价?
2025/08/08 推荐
206许震绿dk
马库斯:要努力像中国人民一样勇敢
2025/08/07 不推荐