据《读卖新闻》3月3日报道，在全球AI产业发展得如火如荼的背景下，日本政府也希望能够研发一款自有的AI工具，以帮助工作人员判断是否有必要临时保护疑似遭受虐待的儿童。但从2021年起投入了约10亿日元（约4879万人民币）研发经费后，该AI在测试阶段的误判率仍然高达60%。儿童家庭厅的工作人员已经正式做出了“AI难以判断虐待情况，很难实用化”的结论。
据儿童家庭厅官方介绍，该AI工具原本计划在长期面临人手短缺问题的各地“儿童咨询所”中使用。后者是日本政府设立的儿童福利机构，专门处理市民有关育儿的咨询及保护受虐待儿童等工作。按照设计，工作人员在输入孩子是否受伤、受伤部位、监护人态度等91项信息后，AI会以百分制打分的形式显示该儿童受到虐待的可能性，得分越高表示可能性越大。
不过，根据儿童家庭厅介绍，该AI工具学习的案例样本数仅为5000个。对于一个功能复杂的AI工具来说，样本数量明显不足。
在该AI工具的测试过程中，工作人员发现在输入的100个案例中，有62个案例都出现了“打分明显偏低”的情况。包括在某个案例中，孩子已经做出了“被母亲打得半死”、“被扯住衣服后用我的头撞床”之类的控诉，但AI工具的打分仅有“2到3分”。工作人员判断这可能是因为输入信息中包括了“孩子身上没有淤青”，导致AI误判。
也有机构官员指出其他不足之处，例如“儿童体重减轻等重要信息被忽视了”。另外，91个项目只是记录“有无”某现象，并不涉及伤害程度或范围。
但无论导致AI误判的原因是什么，日本儿童家庭厅已经暂停了该AI工具的开发工作，表示“将其提供给儿童咨询所为时尚早”。未来该机构将视AI行业的发展情况，再对是否重启开发工作等进行讨论。
本文系观察者网独家稿件，未经授权，不得转载。