这包括传统来源和其他AI对人工智能系统的威胁。成立ETSI安全人工智能小组的目的是希望自治的机械和计算实体可以通过设计或恶意意图对依赖方采取行动的决策。当涉及自动机器时,需要重新评估以“识别-保护-检测-响应”循环为代表的网络风险分析和对策部署的常规循环。因此,ISG SAI的目的是解决标准领域中人工智能的三个方面:
保护AI免受攻击,例如AI是系统中需要防御的组件缓解AI,例如AI是“问题”或用于改善和增强其他更常规的攻击媒介的地方
使用AI来增强针对来自其他事物的攻击的安全措施,例如AI是“解决方案”的一部分,或者用于改进和增强更常规的对策。
ETSI ISG SAI的目的是发展作为确保人工智能安全的基准的技术知识。受ETSI小组活动影响的利益相关者包括最终用户,制造商,运营商和政府。该小组的第一次会议将发起三个主要活动:AI威胁本体
当前,关于什么构成对AI的攻击以及如何创建,托管和传播AI尚无共识。这里要进行的工作将试图定义什么将被视为AI威胁以及它与传统系统的威胁有何不同。因此,AI威胁本体规范旨在在不同的利益相关者和多个行业中统一术语。ETSI规范将在网络和物理安全性的上下文中定义这些术语的含义,并为所有人提供易于理解的叙述。这种威胁本体将把AI视为系统,攻击者和防御者。