人工智能驱动的时代，企业要怎样应对数据安全挑战？

发布时间：2023-04-13 13:28:36 所属栏目：动态来源：

导读：随着数据安全愈发得到重视，数据安全已经成为网络安全领域最为热门的新兴领域。

人工智能的高速发展及应用，使我们正在步入人工智能驱动的时代。大数据是人工智能技术研发和落地的基础，各行各业数据的采集与互联

随着数据安全愈发得到重视，数据安全已经成为网络安全领域最为热门的新兴领域。

人工智能的高速发展及应用，使我们正在步入人工智能驱动的时代。大数据是人工智能技术研发和落地的基础，各行各业数据的采集与互联网使用在多种场合下日益得到广泛应用,数据安全、信息隐私保护面临着越来越大的风险与前所未有的挑战。

随着人工智能技术在企业的应用与普及，企业的涉密人员正在成为数据安全风险的主要群体，与智能对话机器人分享的机密信息可能被用于未来人工智能模型的迭代训练，这可能会导致该模型输出的内容可能包含机密信息，例如用户隐私数据、企业机密数据等，从而造成敏感数据泄露的风险。

另外，还有其他一些场景会有个人信息泄露风险。例如，用户与智能对话机器人交互过程中，可能会提供个人敏感信息，包括姓名、电话、地址等，还可能包括用户的心理状态、偏好等其他个人信息。收集到的个人信息可能以实名或匿名的形式，流向模型的开发者、数据标注团队。这些数据有可能没有进行人工过滤及标注，并在输出时可能包含这些个人信息，从而使其他用户可能获得这些数据。

在模型训练场景中，用户和智能对话机器人的所有交互数据都会被记录、分析。通过用户向机器人的不断提问和机器人的不断输出，它们会得到充分的训练，会更加全面地了解用户，这将会引发不法分子对用户信息买卖的风险，从而实现精准营销的商业目的。

人工智能实现了科技的革新，同时也引发了上述数据安全风险。企业应该如何在利用人工智能技术的同时降低数据安全风险是值得思考的问题。

针对纵深防御的内生安全系统，齐向东解释，纵深是保证多道网络安全防线联动，一道防线被突破，还有其他若干防线拦截攻击；内生是把安全能力内置到网络的全链条中，内置到业务系统中，及时识别并阻断网络攻击。

同时，生成式人工智能技术及产品的监管必须将算法监管和数据监管结合起来。在算法监管机制的未来探索中，应充分考虑算法决策的主体类型和作用类别，并探索场景化和精细化的算法治理机制。此外，通过定义不同类型的数据以确定各类数据的保护级别和保护措施。对所有信息资产，包括硬件资产、软件资产和数据资产等进行全面梳理，做好数据泄露风险监测的基础性准备工作,为今后敏感数据的判断、数据防范措施的制定和监测做好基本性准备。

在技术层面，企业利用技术工具，例如使用自动化监控、沙盒、行为分析等技术或攻击，抵御各种高级恶意软件；针对黑客经常利用编写不当的代码来寻找漏洞，可能会导致系统崩溃或泄漏数据，NLP/NLC算法可能会发现这些可利用的缺陷并生成警报；通过研究智能机器人编写钓鱼邮件的语言模型与规律，分析传入的外部电子邮件和消息的文本，从而检测出新的网络钓鱼尝试；利用 AI语言模型分析、识别各种社会媒体、各种媒体和各种网络工具所呈现的各种威胁以及攻击者使用的攻击手段、技术、程序等。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!