教育新闻网想象一下，如果下次您申请贷款，计算机算法将决定您主要根据种族，性别或邮政编码来支付较高的费用。
现在，想象一下有可能训练一个AI深度学习模型以通过诱发失忆来分析基础数据：它会忘记某些数据而只关注其他数据。
如果您认为这听起来像是计算机科学家撰写的“一尘不染的永恒阳光”，那么您将不胜枚举。多亏了南加州大学信息科学研究所(ISI)的AI研究人员，这个称为对抗性遗忘的概念现已成为一种真正的机制。
该论文的主要作者和博士Ayush Jaiswal指出，随着AI在我们日常生活中的日益普及，解决和消除AI中的偏见的重要性变得越来越重要。南加州大学维特比工程学院的候选人。
他解释说：“人工智能，更具体地说，机器学习模型继承了他们所训练的数据中存在的偏差，并且甚至容易放大这些偏差。”“人工智能已被用来做出影响我们所有人的几个现实生活中的决定，例如确定信贷额度，批准贷款，对工作申请进行评分等。例如，如果做出这些决定的模型在历史上受到盲目训练在不控制偏见的情况下获得数据，他们将学会不公平地对待属于历史上处于不利地位的人口群体的个人，例如妇女和有色人种。”
该研究由ISI研究小组负责人Wael AbdAlmageed和南加州大学维特比分校的谢明电子与计算机工程系的研究副教授，研究副教授Greg Ver Steeg以及计算机科学与工程学教授Premkumar Natarajan领导。 ISI执行董事(请假)。在他们的指导下，贾伊斯瓦尔(Jaiswal)和合著者丹尼尔·莫耶(Daniel Moyer)博士开发了对抗性遗忘方法，该方法教授深度学习模型来忽略特定的，不需要的数据因素，从而使它们产生的结果无偏且更准确。
该研究论文名为“通过对抗遗忘实现不变表示”，于2020年2月10日在纽约市人工智能促进协会会议上发表。
