高管急于推行生成性AI的部署与实验
关键要点
高管们对于生成性AI有着强烈的兴趣，尽管知道其中的风险。89的CISOs对生成性AI的潜在安全风险表示担忧。大部分CISOs感到压力和威胁，很多人对生成性AI持消极态度。生成性AI的风险与传统技术相比，具有更高的复杂性和不确定性。高管们对生成性AI的期望与现实之间的矛盾，让众多CISO们感到十分无奈。
根据一项来自NTT Data的最新调查，89的Csuite高管表示，他们“非常担心与生成性AI部署相关的潜在安全风险”。然而，该报告发现，这些高管却认为“生成性AI的前景和投资回报率超越了风险”，这使得CISO在风险管理中成为孤独的声音。
这种矛盾对CISO们的心理健康造成了一定的影响。调查显示，近一半的企业CISO对生成性AI持“负面情绪”，感到“压力、威胁和不知所措”。
白鲸加速器破解版高管们对新技术的推动往往转变为对业务整体利润的期望，而生成性AI的风险却是前所未有的。生成性AI可能出现幻觉、忽视安全协议、危害合规性，以及泄露敏感企业数据。而企业在快速采纳生成性AI的同时，往往没有进行必要的安全加固，供应商也更关注功能而非安全性。
“这就像是西部拓荒，众多的AI应用和大型语言模型的选择让确保安全变得困难重重。有一些应用被伪装成合法，但其实是在窃取数据并促进勒索软件攻击。”Moor Insights amp Strategy的副总裁兼首席分析师Will Townsend说。“数据泄露的隐忧非常真实，我们已经看到了相关案例，同时也出现了注入攻击，导致恶意代码的引入。”
CISO们面临的另一个最棘手的问题是，许多生成性AI供应商在选择数据训练模型时的随意态度。“这给组织带来了安全风险。”Townsend补充道。
在多个大型组织中担任CISO职务的资深安全领袖Jim Routh表示，生成性AI嵌入到SaaS解决方案中的普及使得这种情况更加复杂。“生成性AI的攻击面已经改变。过去，企业用户用的基础模型来自于最大的平台，而现在，数百个SaaS应用中已经嵌入了LLM。”如今，他担任安全供应商Saviynt的首席信任官。
专注于AI和网络安全法律策略的律师Robert Taylor指出，从各个规模的组织中，他看到了一种共同的现象。“他们对自身的安全认知不足。至少CISOs已经开始思考AI带来的风险，但他们仍在努力掌控这些新的安全隐患。”他补充说，现在有多个项目正在进行，以评估生成性AI带来的各种安全风险，种类数量从数百种到上千种不等。
这一切可能对CISO们心里造成了巨大的压力，Townsend指出：“当他们感到不堪重负时，往往会采取关闭心态。他们会做自己能做的事情，而忽视自己无法控制的方面。”
加速上升的问题
与此同时，在高管们的推动下，CISOs面临的风险正迅速增加，攻击者也在迅速行动。
“恶意行为者正在疯狂地利用这些新技术进行攻击，因此CISOs对这些生成性AI解决方案的利用方式非常担忧。”Taylor说道。“生成性AI解决方案与传统软件和服务不同，承载了一些其他技术无法避免的脆弱性。”
Taylor进一步指出，生成性AI
