随着首席信息安全官转变网络弹性战略，生成式人工智能成为新兴风险

企业风险主管和 IT 安全领导者越来越担心生成 AI 工具可能对其组织构成的威胁。

制定明确的生成式人工智能战略对于在避免长期风险的同时获得优势至关重要，但大多数公司今天都没有这样做。

令人惊讶的是，研究表明，超过一半的人在没有安全、一致的部署的凝聚力战略的情况下匆忙进入，而研究公司 Gartner 八月的一项调查显示，GenAI 已成为企业面临的最大新兴风险。

Delinea首席信息安全官斯坦·布莱克（Stan Black）解释说，人们急于利用这项技术，这通常会使组织面临巨大的风险。“我们通常会公开凭据，以便任何破坏和利用这些凭据的人都可以访问极其敏感的内容，”他说。“例如，一家供应商发现他们的软件开发人员正在调试LLM中的代码，然后它就受到了损害。

他补充说，一个大问题是，人们试图更好更快地完成他们的工作，但没有任何控制来将精灵留在瓶子里。“现在我们有这些弹出式AI引擎，它们基本上在SEO上排名很高，人们认为他们正在点击真实的东西，”他补充道。“这只是一只披着羊皮的狼，由恶意行为者建立，以获取凭据和其他有价值的信息。

这些风险通常可以通过负责任的使用、严格的安全措施、意识培训、定期审核、持续监控以及在开发和部署 AI 模型时遵守道德准则来缓解。

然而，Black指出，主要挑战之一是组织仍然将自己暴露或容易泄露的凭据放在一起，以便任何访问和利用这些凭据的人都可以访问极其敏感的内容，包括知识产权。

“降低这种风险的最佳方法之一是利用多因素身份验证来确保凭据不会被利用，迫使所谓的用户是谁 - 人类，机器或黑客 - 证明其身份而不仅仅是用户名和密码，”他说。

Grammarly的首席信息安全官Suha Can通过电子邮件告诉InformationWeek，生成AI的一些风险，如质量和准确性问题，不一定是新的。“然而，生成式人工智能不同于我们见过的其他技术，因为它可以如此令人信服地创建称职的内容，”他说。“这些只是今天已知的挑战。我怎么强调都不为过，我们仍在了解这些技术的能力，我们可能还没有确定所有相关的风险。

他解释说，这就是为什么从一开始就采取负责任的产品开发方法非常重要的原因。“制定战略始于一些基本原则，例如评估组织的准备情况和独特的风险因素，以及定义具有既定目标的有目的的方法，”他说。“重要的是要了解生成式人工智能的能力和局限性，以便在对期望持现实态度的同时仔细规划你的战略。

Olive Technologies的产品主管Heather Stevens通过电子邮件告诉InformationWeek，企业风险主管在引入任何访问，收集或存储数据的工具时应谨慎行事。“在引入这些工具之前，公司必须有审查这些工具的程序，”她说。

企业风险主管应首先实施明确的规则，禁止员工使用任何未经批准的Web应用程序和工具。“这实际上是影子IT的另一个例子，其中包括IT部门不知道的任何与IT相关的购买，活动或使用，这在大多数组织中历来是一个大问题，”Stevens说。

当员工使用经批准的GenAI工具时，公司需要规则来管理哪些数据可以 - 更重要的是，不能 - 与该工具一起使用。“但这些规则不应该仅限于GenAI工具，”她补充道。“它们应该适用于组织中使用的所有工具和应用程序。

这些高管应该与任何可能使用GenAI工具的关键利益相关者合作。

史蒂文斯说，理想情况下，该组织有一个首席信息安全官，信息安全组织是访问和存储数据或存在于公司网络和生态系统中的每个应用程序的关键利益相关者。

“关于隐私和监管最困难的部分是，生成式人工智能解决方案比以往任何时候都更快地超越了法规，”布莱克说。“在我们能比人工智能更快之前，最好的建议是不要使用这些工具，除非你能有一定程度的控制，做大量的意识和培训，然后尝试在法规发展时保持领先。

虽然所有这些都可以理解地引起风险领导者的很多担忧，虽然想要限制或限制组织使用生成式人工智能可能很诱人，但从Can的角度来看，这将是一个错误。

“生成式人工智能已经出现在你的工作场所，无论你是否知道。你不能忽视或超越它，“他说。“作为安全和风险领导者，这是我们成为推动者的机会。我们必须为我们的企业和团队配备平台和政策，以安全地使用和充分利用生成式人工智能工具。

CXOUNION社群成员有：凯恩首席数字官、中航首席数字官、永新首席数字官、协鑫能科首席数字官、世荣兆业首席数字官、东信和平首席数字官、亿帆首席数字官、京新首席数字官、中捷首席数字官、科华首席数字官、海特高新首席数字官、苏宁易购首席数字官、航天首席数字官、山东威达首席数字官、分众首席数字官、

思源首席数字官、七匹狼首席数字官、达安基因首席数字官、巨轮智能首席数字官、苏泊尔首席数字官、丽江首席数字官、旺能首席数字官、华帝首席数字官、联创首席数字官、保利联合首席数字官、双鹭首席数字官、黔源首席数字官、南京港首席数字官、登海种业首席数字官、华孚时尚首席数字官、兔宝宝首席数字官、美年首席数字官、

国光首席数字官、国机精工首席数字官、宝鹰首席数字官、宁波华翔首席数字官、紫光国微首席数字官、三花智控首席数字官、