AI强化网络安全，人工监督仍不可或缺
保护计算机和信息系统免受网络攻击时，人工智能和机器学习虽有助益，但非解决日益严峻问题的灵丹妙药。
尽管当前对AI及其在多领域超越人类能力日益兴奋，但它非强化网络安全的魔法子弹，Critical Start公司首席技术官Randy Watkins说。
AI擅长管理海量数据，含可能安全漏洞警报。问题在于如何解读这些信息。
警报按到达顺序处理，再按优先级评估威胁等级。拥有深厚业务知识经验的人类分析师，擅长将各警报置于适当语境。机器不擅长。AI驱动系统能检测异常用户活动，但难判断事件是否涉恶意意图。
“我非全盘否定AI，”Watkins说，“但AI和机器学习缺乏将充分理由应用于其所为的能力。”
机器不擅长最小化误报。以Microsoft PowerShell为例，这流行任务自动化框架。机器无法准确判断给定用户在特定时刻执行命令是否恰当。异常可能是恶意攻击，也可能不是。
“机器学习”暗示系统随经验变好，但Watkins称此能力有限。训练算法正确响应需输入大量正反例。仍不解决漏报问题——系统错过的实际攻击。“您必须能剥离将扭曲数据的离群值，”Watkins说。
判断事件是否恶意非简单是非题。企业须决定系统敏感度。对100%看似异常事件报警？80%？过多则淹没警报和潜在系统关机；过少则漏网。
“引入更多变量，需额外数据集、更多关于主体和系统行为的语境，”Watkins注。“一旦开始引入这些问题，机器就崩了。”
有效网络攻击检测依赖累积风险评分，这是人类擅长的。“每次看事件，我们都在决定是否可疑，”Watkins说。“但您也能应用推理、算法没有的安全前置知识。
“机器能快速爬取海量数据，”他续说。“但给它‘最小权限’等抽象概念应用于警报集——它能识别权限提升吗？大量良性活动长得像恶意。”
无疑机器学习将进化，即使网络窃贼想出新规避检测招数。Microsoft在提升自动检测系统复杂度上迈进，Palo Alto Networks这全球网安领军者亦然。“但归根结底，”Watkins说，“仍需人类说‘是的，离线此域控制器’。”企业持续致力最小化错误警报导致系统停机成本。
话虽如此，各行业网安专家人才严重短缺。“行业绝对缺乏人才，”Watkins说。因此转向外部支持，形式为托管检测和响应。
人才短缺非新鲜事。“安全存在以来就存在，”Watkins说。仅过去10年企业和大学觉醒到更好培训教育未来网安专家的需求。
人机尚有长路，若要协作保护关键系统免受日益增长的网络攻击威胁。“我们从零起步，本该在60；现在须达90，我们在60。”
工业技术