美国活动人士对人工智能中的种族偏见表示担忧，错误逮捕事件被归因于有缺陷的人脸识别技术。
据数字倡议组织算法正义联盟称，人工智能系统缺乏包容性的原因之一，是开发团队以白人男性为主。
“随着科技日益成为社会的重要组成部分，消除任何偏见都至关重要，”“黑人的命也是命”（BLM）联合创始人阿约·托梅蒂说。
随着人们对人工智能种族偏见的担忧加剧，“黑人的命也是命”（BLM）联合创始人阿约·托梅蒂敦促科技行业迅速采取行动，防止人脸识别等系统延续种族主义。
人工智能正在改变世界，可应用于各行各业，从改善疾病早期检测，到整理数据和解决复杂问题；但人们对此也有一些担忧。
“很多算法、很多数据都带有种族主义色彩，”美国活动人士托梅蒂在里斯本网络峰会期间接受路透社采访时说。她于2013年共同创立了BLM。
她说：“我们需要科技真正理解种族主义在他们开发的技术中呈现的各种方式。”
过去几年，科技行业一直在反思人工智能技术的伦理问题。批评者称，这类系统可能侵犯隐私、针对边缘化群体，并使侵入式监控常态化。
一些科技公司承认，部分由人工智能驱动的人脸识别系统可能存在缺陷。这类系统因安保用途而受到零售商和医院青睐。
周三，Facebook宣布将关闭其人脸识别系统，理由是担忧该系统的使用方式。微软去年表示，在向警方出售人脸识别技术前，将等待联邦监管规定出台。
美国和英国的警方使用人脸识别技术识别嫌疑人。但美国国家标准与技术研究院的一项研究发现，与识别白人面孔相比，这项技术识别非裔美国人和亚裔面孔的准确度较低。
去年，美国发生了首宗已知的因人脸识别错误而导致的错误逮捕事件。联合国曾引用此案作为科技行业缺乏多样性所带来危险的例证；该事件被归因于识别工具的训练数据主要是白人面孔。
“面向未来的解决方案”
托梅蒂说：“他们（科技公司）必须非常谨慎，因为科技有能力加速那些原本会以更慢速度形成的价值观。但科技会让一切都加快，因此影响会更严重，也会更快显现。”
她敦促软件开发者“关注所有细节”，并表示他们应该更多倾听黑人群体的声音。
她说：“遗憾的是，我觉得科技公司要与社区建立桥梁，还有很长的路要走。”
据数字倡议组织算法正义联盟称，人工智能系统缺乏包容性的原因之一，是开发团队以白人男性为主。
参加网络峰会的数百家人工智能初创企业之一，是来自巴西、专注于产品开发的NeuralMind。网络峰会是欧洲规模最大的科技盛会。
NeuralMind首席执行官帕特里夏·塔瓦雷斯表达了与托梅蒂相同的担忧。她说，尽管人工智能能为社会带来益处，但仍需要“立法确保公司以负责任且合乎伦理的方式使用人工智能”。
离NeuralMind展位不远处，健康追踪平台Revolab的首席执行官卡利纳斯·奥维迪尤斯表示，其初创公司的市场在北欧和波罗的海国家，而他们能够获取的大部分数据由当地医院和健康中心提供，涉及的都是白人。
他们不确定该平台是否能够满足有色人种的健康需求。
托梅蒂说：“我们需要面向未来、应对未来挑战的解决方案，但这些解决方案必须极具包容性。它们需要保护边缘化和弱势群体——这是它们的责任。”（卡塔琳娜·德莫尼报道；米格尔·佩雷拉和佩德罗·努内斯补充报道；安德烈·哈利普、艾莉森·威廉姆斯和加雷斯·琼斯编辑）
