为生成式人工智能套上“安全框架”，实现“懂道德的AI”

发布时间：2023-05-06 10:26:03 所属栏目：动态来源：

导读：5月5日，《2022年中国前沿科技创新治理的重要进展与总体趋向》在北京市科协专业智库“论策论道”活动上发布。会上，专家表示，要为生成式人工智能套上“安全框架”，并最终推动人工智能有道德、

5月5日，《2022年中国前沿科技创新治理的重要进展与总体趋向》在北京市科协专业智库“论策论道”活动上发布。会上，专家表示，要为生成式人工智能套上“安全框架”，并最终推动人工智能有道德、合乎伦理。

生成的 AI的数据来源于社会,而这些数据中,就隐含了人类的偏见,在这种偏见下进行培训的 AI,显然无法做到中立。如果不对大模型进行价值观校准，其可能会基于统计显著性给出匪夷所思的答案，“我们要先建立起伦理安全框架，而最终目标是实现有道德、合乎伦理的人工智能。”

在科技监督和科技伦理治理向法制化、规范化发展的同时，前沿科技领域的行业共治也起到了举足轻重的作用。曾毅领衔的团队发布的“智善”人工智能伦理安全平台体系，就是人工智能领域行业共治的典型代表。其中的“智善·观行”观测站，便是通过公众反馈、察言观行来判断人工智能模型的“道德品行”，用技术规范技术。”在人工智能领域，“观行”观测站的建立不仅是一个开放的平台，更是一个“智善”的标杆。

“人工智能治理关键在‘人’，治理的对象归根结底也是‘人’。”中国新一代人工智能发展战略研究院执行院长龚克认为，人工智能是革命性通用技术，是具有“头雁效应”的先进生产力，特别是生成式人工智能已是当前人工智能的前沿,在这一领域,需要通过有效的监管来促进其健康的发展,而不是制约其健康的发展。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!