30余机构共同发起AI安全工作组

发布时间：2023-09-08 13:41:45 所属栏目：动态来源：

导读：在2023 inclusion·外滩大会举行的《探索下一代安全智能》论坛上，世界权威国际产业组织“云安全联盟”（CSA）大中华区宣布成立“AI安全工作组”，中国电信、蚂蚁集团、华为、百度、字节跳

在2023 inclusion·外滩大会举行的《探索下一代安全智能》论坛上，世界权威国际产业组织“云安全联盟”（CSA）大中华区宣布成立“AI安全工作组”，中国电信、蚂蚁集团、华为、百度、字节跳动、西安电子科技大学、国家金融测评中心等30余家机构成为首批发起单位。该组织致力于共同解决AI技术快速发展所带来的安全难题。

据显示，该工作组的主要职责是研究和编制与AI安全相关的技术安全威胁和风险、AI数据安全与隐私保护、AI技术助力安全应用、AI的伦理和AI合规等方面的材料。工作组将围绕以 AI 安全为核心的各种 AI 技术威胁、风险、防护以及其他相关问题展开研究工作。

AI技术的应用给我们带来了许多便利的同时，也引来了一系列的安全隐患。为了加强人工智能技术的防御和保证基础研究的安全性，成立了 AI 安全人工智能算法工作小组，力求维护广大人民群众在使用人工智能技术时的数据安全与个人信息保密权益。

在决定企业产生经济效益的各个环节，都能够看到人工智能的身影。前瞻产业研究院估算，目前中国大型企业基本都已在持续规划投入实施人工智能项目，而全部规上企业中约有超过10%的企业已将人工智能与其主营业务结合，实现产业地位提高或经营效益优化。

中国科学院自动化研究所曾毅认为重视和管控人工智能的安全风险不是阻碍人工智能的发展与应用，而是确保人工智能技术稳健发展。曾毅表示人工智能应该适度发展、适度谨慎使用，深度治理。对于那些没有必要使用人工智能的场景，或者使用人工智能带来的益处有限、却有很大的不确定性与隐患，应当秉持能不用则不用的原则。

美国非营利研究机构“人工智能安全中心”董事丹·亨德里克斯认为，与人类相比，AI系统具有更强的适应性，强大的能力可能导致AI系统在很多领域取代人类的工作，甚至直接参与到决策过程中来。所以AI开发者更需要保持谨慎和安全意识，不能尝试淡化规模化的社会风险，为应对意外事件做好准备。有关机构和组织应该要考虑如何开展更加安全的AI系统研发，安全人员需要明确制定使AI系统更加安全的措施。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!