当人们想到人工智能(AI)带来的威胁以及人工智能产生的潜在攻击时, 你可能会想到科幻小说中的概念，比如机器人天启. 在最近的2023年IBM安全峰会上，演讲者指出，人工智能只是另一种技术，尽管是一种比我们过去看到的更强大的新技术，这有助于正确看待真正的威胁.
“人工智能只是另一个需要理解的工具，”他说 Yonesy Núñez, DTCC董事总经理兼首席信息安全官, 作为小组讨论的一部分, 在威胁参与者眼中:ai生成的攻击, Fact or Fiction. “And, 就像任何技术工具一样, 它是一把双刃剑，既可以用于有益的目的，也可以用于邪恶的目的. 我们只需要记住，坏人也需要研究和学习如何使用它.”
相关:数字时代的风险管理
Combatting AI with AI
小组成员概述了感知如何使人工智能产生的威胁看起来像超人，但强调了将其视为任何其他威胁的重要性, 尽管这是一个比我们习惯的更强大更复杂的威胁. More importantly, 他们解释说，人工智能也可以用来防御攻击网络的企图.
For example, 可以想象，犯罪分子可以利用人工智能更快地找到代码中的漏洞，利用并发动攻击. At the same time, 安全团队可以利用人工智能在启动任何新代码之前找到并修复这些漏洞.
“攻击者正在处理和我们一样的问题，”Núñez补充道. “他们还必须筛选大量信息，找到一些方法，让人工智能对他们进行恶意攻击有用. 但是威胁行为者会学习，他们会更好地利用这个新工具发动攻击. 我们也要这么做，只是要比罪犯做得更快.”
Phishing Trouble
因为人工智能是一个功能强大得多的工具, 这意味着安全专家必须适应以保持领先地位. 可以想象，犯罪分子可以使用人工智能来帮助生成高级网络钓鱼电子邮件, 识别假邮件的方法有很多, 包括查找拼写错误和语法错误, may be outdated. 人工智能可以消除许多这些更明显的泄密迹象, 让普通人更难发现网络钓鱼邮件.
“我担心人们更容易被更好的网络钓鱼邮件欺骗, but in the end, a phish is still a phish. 我们只需要观察它们如何发展并不断更新培训，以发现和阻止人工智能生成的网络钓鱼攻击,” said Núñez, 注意到大约22%的攻击仍然来自网络钓鱼邮件.
Artificial Imitation
虽然这听起来有些牵强, 努涅斯说，可以想象，人工智能甚至可以用来制作假视频, 所以在Zoom电话中屏幕另一边的人实际上可能是个彻头彻尾的骗子. “我们还没有见过这样的事情, but it is plausible, 所以我们需要开始思考并为这些事情做好准备, 即使它们现在看起来很虚幻. “我更担心的是坏人用人工智能来模仿别人的声音.”
虽然人工智能引发的犯罪活动的前景可能会让一些人感到恐惧, 网络安全专业人士将人工智能视为他们需要管理的另一个威胁. 事实上，威胁也可以作为防御攻击的有力工具.