(转载:www.idcew.com) 周四,美国一家人工智能研究所报告称,人工智能似乎正在“扩大不平等”,其部署应该受到严格的监管和限制,尤其是对于面部识别等敏感技术。
这份长达93页的报告研究了“从人工智能对工人的管理,到福利的算法确定,以及社会服务研究人员写道。
“显而易见的是,在不同的领域和背景下,人工智能正在扩大不平等,将信息和控制权交给那些已经拥有权力的人,并进一步削弱那些没有权力的人的权能。”
研究人员称人工智能系统正在医疗、教育、就业,刑事司法“没有适当的保障或问责结构。”
该报告称,美国政府和企业应停止使用面部识别,直到风险得到更好的理解;鉴于对面部识别是否有效的怀疑,其中一个子集——“影响识别”或通过计算机技术读取情感应该被禁止。
"不应该被允许在有关人类生活的重要决策中扮演角色,比如谁被面试或雇佣来工作,保险价格,病人痛苦评估,或者学生在学校的表现,"报告说。
它还呼吁技术工人“有权知道他们在建造什么,并对他们工作的不道德或有害的使用提出质疑。”
使用先进技术的医疗机构需要实施数据保护政策,并允许人们有“肯定批准”的机会退出研究或治疗,并退出使用其医疗信息的研究。
更广泛地说,研究人员说人工智能行业需要进行“结构性改变”,以确保算法不会强化种族主义、偏见或缺乏多样性。
“人工智能行业惊人地同质,这在很大程度上是由于它对女性、有色人种、性别少数群体和其他代表性不足的群体的待遇,”报告说。
报告称,监管人工智能系统的努力正在进行,但“美国政府采用人工智能系统进行监控的速度已经超过了这一速度”。
“尽管公众日益关注和采取监管行动,但面部识别和其他高风险人工智能技术几乎没有放缓,”研究人员写道。
“全球所谓的‘智慧城市’项目正在将公民生活的权力整合在营利性科技公司手中,让它们负责管理关键资源和信息。” (转载:www.idcew.com) |