耗资十亿日元开发日本儿童虐待检测AI系统项目宣告失败

3 月 4 日消息，近年来，随着人工智能（AI）技术的快速发展，日本企业和部分**部门纷纷涉足这一领域，试图通过技术手段提升效率、解决人手短缺等问题。然而，该国一项旨在保护儿童免受虐待的人工智能系统项目却因技术缺陷而宣告失败。

据读卖新闻报道，日本儿童与家庭机构（Children & Families Agency）曾投入约 10 亿日元（备注：当前约 4850.6 万元人民币），开发一套基于人工智能的系统，用于检测儿童虐待行为。该系统并非用于替代人类专家，而是协助负责临时监护儿童的专家，判断这些儿童是否适合返回父母身边。系统通过分析 5000 起已确认的儿童虐待案例进行训练，依据 91 个数据点（包括儿童的伤痕、父母的态度等）对新案例进行评分，判断虐待的可能性。

然而，这套系统在实际测试中表现不佳。在对 100 起已确定存在虐待风险的案例进行分析时，系统仅正确标记了 38 起，其余 62 起均被判定为“风险极低”。其中，一个孩子声称母亲多次将其头部撞击地面，将其打得“半死”，但系统却给出了 2 到 3 分的极低评分（满分 100 分）。专家指出，系统过于依赖物理证据，忽视了口头证词的重要性，同时 5000 个案例的数据量远远不足以充分训练系统。此外，该机构承认系统在数据采集方面存在缺陷，例如无法准确记录儿童体重下降或伤痕等关键信息。

基于上述问题，儿童与家庭机构最终决定放弃该项目。

日本目前正面临人口老龄化和劳动力短缺的双重挑战，儿童保护机构也面临着来自受害者权益倡导者的指责，认为日本在处理儿童虐待问题时过于迁就父母，将孩子置于危险之中。随着大型语言模型（LLM）等生成式 AI 技术的兴起，许多公司纷纷在其软件系统中添加“AI”功能，但儿童与家庭机构的案例表明，缺乏高质量、高容量的数据是机器学习和 AI 应用的常见瓶颈。