用“冰山思维”系统性审视生成式AI安全

发布时间：2023-09-08 13:53:42 所属栏目：动态来源：

导读：通过智能客服优化客户体验，通过自动生成代码提高技术团队生产力，通过文字生成图片的方式加速内容生成，通过自动化文档处理提高整个组织运营效率。这是各行各业、各个部门中的不少人正在经历的日常，代表着生成式AI

通过智能客服优化客户体验，通过自动生成代码提高技术团队生产力，通过文字生成图片的方式加速内容生成，通过自动化文档处理提高整个组织运营效率。这是各行各业、各个部门中的不少人正在经历的日常，代表着生成式AI持续被应用到企业运营的各个环节，提高效率、优化流程，甚至协助创新。

生成式AI的需求越来越多从业务部门提出，不只是技术部门进行创新的工具或者是平台，而是变成了业务增强竞争力的一个核心手段。也正是因为数据生成式AI开放平台应用场景的井喷，公共健康业务部门需求如此旺盛，目前给企业的技术服务部门管理带来了非常大的前所未有的挑战。

从构建开始，我们就需要把安全作为企业AI战略发展中的核心环节。这就要求我们不能只是关注AI应用本身，而是从一个全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。生成式AI应用就像是海面上的冰山，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。

生成式AI的井喷对一个企业的数据平台有了更高的要求。要训练构建一个生成式AI的模型，需要大量的非结构化数据。如果一个企业直接去应用一个做好的模型进行微调，这时候就需要有高质量的专业化的数据来微调这个模型。这两个方面的要求目前对于大多数企业的数据平台都是提出了更高的要求。

先看数据安全。亚马逊云科技提供了贯穿生成式AI全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。通过提供一整套的解决方案、产品服务和实践，全面保护存储中、传输中以及使用中的数据。通过对大数据的深度挖掘，我们可以更好地理解客户需求，为客户提供更好的服务。

通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，保护存储中的数据。本次大会上，推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，该方案采用基于机器学习的敏感信息辨识方法和模型匹配技术来识别敏感数据，同时提供视觉化工具箱以帮助用户更加简便快捷地应对敏感信息的保护和管理工作。

再看模型安全。模型训练后进入生产环境的安全防护同样重要。针对大模型，几个月前，亚马逊云科技宣布推出Amazon Bedrock和多种生成式AI服务和功能，以帮助客户构建和扩展自己的生成式AI应用程序。

安全方面，Amazon Bedrock使用组织内部的数据来训练大模型，同时又保证：首先，背后给大模型做了私有拷贝，这个拷贝只是给客户服务，不会再跟其他任何的大模型共享。二是训练数据只是在客户账户里来帮助工作，Amazon Bedrock不会拿任何用户的数据来增进自己的模型。对企业采用大模型时关于数据主权、数据保护方面的担心，给了一个完善的答案。

同时，它能全面地使用亚马逊云科技提供的安全功能，Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成，集成以后可以很好地管理加密、权限控制和所有行为的日志。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!