教育新闻网我们仍处于人工智能的初期，但它正迅速成为组织保护自身的重要组成部分。企业使用高级算法，可以改善事件响应，监视潜在威胁并在危险标记生效之前对其进行解密。它也可以用来帮助识别人们可能忽略的漏洞。
这些都是必不可少的功能，可将网络防御系统提升到过去的反动且费时的战略之上。但是，许多组织尚未利用AI在网络防御中最重要的应用：它缺乏同情心。
依靠你的信任
社会工程是由具有出色电话或电子邮件技能的人发起并执行的，不涉及占据头条新闻的高科技黑客。取而代之的是，黑客利用黑客试图获取的信息(例如，两因素身份验证中涉及的手机号码或利润丰厚的游戏帐户的密码)与客户服务代理或其他任何人进行游戏。根据美国联邦调查局(FBI)的互联网犯罪投诉中心(Internet Crime Complaint Center)的数据，仅2018年一年，企业电子邮件妥协(BEC)这种流行的社会工程形式就造成了超过12亿美元的损失。
尽管银行和其他高价值实体可能是主要目标，但没人能幸免。在黑客成功说服她的无线运营商激活新的SIM卡后，一名妇女损失了30,000美元的加密货币，然后该卡被用于破坏她对各种金融帐户的两因素身份验证。在另一起事件中，Ubiquiti Networks亏损了3910万美元，此前黑客冒充了一名高级职员，并说服财务部门完成了大规模的资金转移。
甚至像奖励程序这样无害的东西也可能引起恶意威胁参与者的兴趣。当前，企业通过使用员工应始终遵循的一组协议来培训员工，以解决此问题。
不幸的是，网络安全链中最薄弱的环节不是防火墙，而是人的力量。他们从事客户服务业务，并渴望取悦。他们在遵循脚本方面也很糟糕，并且对知道所有正确话语的聪明骗子也不为所动。如果黑客声称他丢失了他的酒店奖励卡，想将另一个发送到他的家中，然后询问哪个地址在案，则呼叫中心代理可能会负责。现在，一个陌生人已经获得了特定客户的私人信息。
停在他们的轨道上
如果客户代理程序之前装有人工智能(特别是对话式AI)，则结果将大不相同。当世界上最大的游戏公司之一决定将对话式AI用作前端聊天代理时，便亲身经历了这一过程。该公司以许多成功的视频游戏特许经营而闻名，该公司实施了Amelia来为客户解决直接的游戏问题。该公司认为Amelia可以减少客户花在等待解决问题上的时间，她做到了。但是，在工作一段时间后，Amelia也注意到了呼叫者有时会要求访问没有正确识别信息的帐户，从而发现了网络钓鱼者。在游戏世界中，在将真正的金融工具纳入游戏玩法并附加金融帐户信息的情况下，赌注很高。人工客户服务代理被要求交出帐户凭证。阿米莉亚(Amelia)并非无可救药，但事实并非如此。
制定程序时要考虑公司政策，Amelia并不喜欢社交工程技术。她只是想证明自己就是您所说的人，她坚持使用脚本并在行为出现危险时引入新的身份验证形式来做到这一点。
最初的成功至少部分成功。与人工代理相比，Amelia能够在更短的时间内解决客户投诉，并且她还减少了欺诈性帐户的使用-但客户满意度下降了。消费者如何被AI所困扰，以防止其帐户信息被盗?
当我们查看正常和逐步升级的聊天期间Amelia与客户之间发生的事情的笔录时，原因就很清楚了。她坚持这一过程，并不允许自己被黑客欺骗，反过来，黑客又给了她较低的客户满意度，而游戏公司的呼叫中心却给Amelia好评如潮。
