日本政府出台人工智能草案 要求AI大模型运营商降低幻觉率

日本政府12日公布人工智能（AI）利用指针草案，核心内容包括：要求企业积极公开信息、防止高度仿真的“深度伪造”图像等不当内容扩散，并呼吁公众正确理解AI特性及其潜在风险，如偏见与犯罪用途。

该指针依据9月正式施行的《人工智能法》，总结公民与企业在使用AI时的基本注意事项，虽无法律约束力，但缓解了社会对生成式AI的担忧。

草案要求研究机构与开发企业制定并公开训练数据收集方针，以降低隐私侵权或数据偏颇导致的模型输出风险。文件指出，应加强防止AI生成虚构或错误信息（即“幻觉”现象）的努力，因为此类问题可能对社会与商业造成广泛影响。

同时，政府呼吁公众提升AI素养。AI法第15条明确提出，应推动人工智能相关教育与学习，使国民广泛理解与掌握相关技术。

《人工智能法》已于2025年5月28日通过国会，6月4日部分施行，9月1日全面生效。日本政府计划在年底前汇总《基础AI计划》草案，并于2026年初发布具体行动方案。

日本此次指针旨在构建“与人工智能共存的社会”，确保人工智能的发展兼顾透明性与安全性。