科学家们提出了一个新的国际框架,以保持道德和人类福祉在我们与技术关系的最前沿。
从基因疗法和AI预测的疾病到自动驾驶汽车和3D打印,技术的进步可以改善健康状况,节省时间并提高效率。
但是,尽管创造者有最好的意图,技术可能会给个人隐私和自治带来意想不到的后果。
当前,关于谁有权访问汽车,智能电视和启用语音的个人助理中的黑匣子记录的数据,目前尚无国际公认的法规。最近的发现表明,技术可用于影响投票行为。
现在,伦敦帝国理工学院的研究人员提出了一个新的监管框架,政府可以利用该框架最大程度地减少我们与技术关系的意外后果。该评论文章发表在《自然机器智能》上。
由帝国大学教授拉斐尔·卡尔沃(Rafael Calvo)领导的一组研究人员说,他们的建议可以帮助确保随着我们与技术之间关系的发展,诸如道德,隐私和福祉等人类利益得到优先考虑。
他们建议使用环境影响评估作为蓝图,该评估评估拟议项目或开发的可能环境影响。评估将考虑人工智能和技术对社会经济,文化和人类健康的相互影响。
拟议的框架称为技术人类影响评估(HIAT),旨在预测和评估新数字技术对社会和个人福祉的影响。他们认为,这应该侧重于道德考量,例如个人隐私,福祉和自治。
研究人员说,评估还应该考虑哪些方面负责管理数据和维护道德标准,以及在出现问题时由谁负责。
帝国理工大学戴森设计工程学院的卡尔沃教授说:“通过AI和技术的快速发展,我们正面临第四次工业革命-但是随着我们与AI关系的发展,其破坏我们生活的潜力也在增加。例如,有证据表明人类使用AI来操纵情绪,注意力和投票行为,以及法律,教育和就业决策。