今年2月,《纽约时报》英文网站发表了一篇文章,指出如今非常热门的人工智能(AI)应用人脸识别,针对不同种族的准确率差异巨大。其中,针对黑人女性的错误率高达21%~35%,而针对白人男性的错误率则低于1%。
文章引用了麻省理工学院媒体实验室研究员Joy Buolamwini与来自微软的科学家Timnit Gebru合作的一篇研究论文《性别图谱:商用性别分类技术中的种族准确率差异》中的数据,而其来源是微软、IBM和旷视三家公司的人脸识别API(应用程序编程接口)。
“人工智能系统确实可能存在偏见。”5月21日,在由北京大学法学院和北京大学出版社共同举行的“人工智能及社会角色”主题论坛上,微软全球执行副总裁、微软人工智能及微软研究事业部负责人、美国工程院院士沈向洋对此回应道。他表示,导致偏见的原因是系统使用的训练数据集主要源自白人,而黑人很少。
实际上,论坛当天的主题“人工智能及社会角色”是沈向洋与微软总裁及首席法务官施博德共同主持撰写、已在美国出版的《未来计算:人工智能及社会角色》一书的副标题。虽然人工智能已经成为微软目前发力的主要方向之一,但沈向洋坦言,AI近年来的迅猛发展,确实带来了一些困惑,例如偏见、透明和责任等等,我们需要对它所带来的正面和负面影响作深入的思考,并及时作好应对的准备。
而在《未来计算》这本即将由北京大学出版社正式出版发行的书中,沈向洋和他的同事分别从人工智能的未来,负责任地使用人工智能的原则、政策和法律,以及人工智能与职业和工作的未来等三个方面进行了深入剖析,并分享了微软对于人工智能技术发展,以及如何让人工智能等科学技术为社会创造更多福祉等问题的思考。
总结公众目前对人工智能兴起的态度,北京大学法学院副教授、北京大学法律人工智能实验室/研究中心副主任江溯将之归纳为两种观点,一种是“热情拥抱论”,另一种是“AI威胁论”。对此,北京大学哲学系教授何怀宏认为,如今人类把体力和智能都已经外包了,还仅剩下智慧。如果把智慧也外包出去,那么未来人类就很容易受摆布,因此应当保留独特性。特别是一旦可以媲美,甚至超越人类智慧的强人工智能出现的话,如果人类没有保留自身的独特性,就很容易滑入深渊,“舒服至死”。
谈及AI发展可能会对当下社会带来怎样严重的现实问题,北京大学计算机系主任黄铁军表示,“对此并不担心”。他认为,AI是人类与未来对接的唯一手段。其脱胎于人类,与人类存在连续性,“如果人类要向前演化,人工智能的出现将是‘早晚的事’”。
责任编辑:韩希宇
免责声明:
中国电子银行网发布的专栏、投稿以及征文相关文章,其文字、图片、视频均来源于作者投稿或转载自相关作品方;如涉及未经许可使用作品的问题,请您优先联系我们(联系邮箱:cebnet@cfca.com.cn,电话:400-880-9888),我们会第一时间核实,谢谢配合。