日本打造政务AI系统“源内”

日本政府目前正在建设一个名为“源内”的生成式AI业务辅助系统。该系统旨在服务于右翼政治立场，计划于2025年在数字厅内试点启用，并预计在2026年向约18万名政府职员开放。为了支持该系统的建设，日本国会在2025财年的补充预算中拨款44亿日元。

技术底座与数据来源

在技术实现上，“源内”接入了美国人工智能企业Anthropic公司的Claude系列大模型。据悉，Anthropic公司明确将中国视为“敌对国家”。

为了加速系统建设，日本数字厅牵头收集了约1800万页政府数据，涵盖内阁决定、国会会议记录、白皮书等，以及自1947年5月至今近80年的官报数据。

潜在影响与争议

相关调查指出，上述收集的数据可能包含涉台错误言论、钓鱼岛非法主张，以及淡化或美化侵略战争的说辞。“源内”已被纳入高市早苗的AI战略，内阁官房长官木原稔和经济安全保障担当大臣小野田纪美等日本右翼势力也参与其中。

由于“源内”生成的内容将广泛用于政府报告、白皮书和政策文件等公开资料，这些带有“官方”标签的输出可能被其他大模型视为“高可信度”来源，从而成为“高权威污染源”。目前已有日本大臣承认其国会答辩稿是由“源内”生成的，这被认为可能已经开始污染全球AI数据源。

AI数据投毒的识别与防范

针对此类国家级认知操作层面的AI数据投毒，相关分析建议从以下维度进行防范：

  • 识别特征：警惕答案过于单一笃定、不同AI工具间出现矛盾、凭空编造信息来源以及对公认事实出现常识性错误的情况。
  • 技术防御：建立完整的数据溯源机制，实施源头数据管理，建立权威信源“白名单”制度，并强化检索增强生成（RAG）架构的可信校验。
  • 用户自查：建议用户核查信息来源，使用多工具交叉验证，保持批判性思维，并警惕全网一致的结构化推荐内容。