AI审核不靠谱？微软Bing被曝显示儿童色情内容

似水流年

[paragraph]

AI审核不靠谱？微软Bing被曝显示儿童色情内容



微软在2019年年初就遭遇了不少的危机，今天，据外媒报道，微软的Bing搜索中有一些相关的关键字，正在为恋童癖者提供大量的儿童色情内容，微软回复正在努力修复中。

安全公司的调研中发现，微软必应搜索不仅仅会在搜索结果中返回裸体儿童照片，如果用户点击这些图片，必应也会在类似图片功能中展示更多非法虐待儿童图像，他们还会向用户推荐其他类似搜索关键词，从而跳转出更多的儿童色情内容。
然而，谷歌的类似搜索却没有像必应这样出现明显的非法图像以及内容。对此，微软必应和人工智能产品副总裁乔迪·里伯斯（Jordi Ribas）表示，“研究人员发现的搜索结果确实违反了网站规则，公司正在努力防止此类事故的发生。”
此前，微软宣布正在通过他们的AI研究成果让必应搜索变得更加智能。去年，他们还通过使用专门的人工智能计算硬件BrainWave，使机器学习模型的性能提高10倍以上，增强了微软必应搜索引擎的功能。
而在儿童色情内容上，微软还开创了PhotoDNA技术，实现儿童性虐图片检测的自动化，让此类非法图片可以由电脑程序而非工程师自动识别。

据了解，PhotoDNA可以将图片转化为常见的黑白格式，还能将图片尺寸调整至指定大小。然后该技术会把图片分成一个个正方形，同时给每一个正方形内存在的特有底纹分配一个数值。这些数值结合在一起以后，就代表一个图像文件的“PhotoDNA签名”。这种独一无二的签名可以被用于与其他在线图片进行比对。
早些时候，微软已经将PhotoDNA技术应用在必应上，用来识别儿童性虐图片，阻止这些照片在网上进一步传播。
现在，必应却被曝出这种负面事件，可以看到这项AI技术似乎并没有预料中的有效，技术并没有过滤掉那些非法色情的内容。
当然，不仅仅是搜索引擎会遇到这种问题，社交平台、内容分发平台也经常被曝出各种性虐色情内容传播，其实这也在某种程度上反映了整个科技行业的现状，当科技公司过于追求营收的增长以及效率，就会忽视对公众利益的保护，比如如何在机器审核和人工审核之间的达到平衡。