首页 > 热点 > 正文

即时看!帮AI“懂道德” 中科院等发布伦理安全观测平台“智善·观行”

2023-04-24 19:30:13来源:贝壳财经  


【资料图】

“智善·观行”名称取自“察言观行”,即通过汇聚公众对人工智能大模型的伦理安全测试反馈来观察评估现有人工智能大模型表现出的“道德品行”,从而为进一步改善相关人工智能大模型提供参考依据,“智善·观行”人工智能大模型伦理安全观测站的中英文版同步发布(中文版地址:https://for-good.ai/large-ai-investigator)。

“智善·观行”人工智能大模型伦理安全观测平台网站截图

据了解,该平台通过公众参与、公众反馈的众包模式邀请公众参与对不同企业、学术机构等发布的人工智能大模型的伦理安全评估,并通过在线提交测试结果的形式反馈大模型输出存在的伦理安全问题、以及输出结果合乎伦理安全的案例。相关评估结果与问题在网上公开,一方面为涉及到的人工智能大模型提供帮助和反馈便于其自身的进一步改进,另一方面所有人工智能大模型的研发均可以参考其他模型存在的潜在问题以及合乎伦理安全的输出,利用相关的问题与案例来改进自身服务。

中国科学院自动化研究所人工智能伦理与治理中心主任曾毅表示,人工智能大模型实现智能向善需要大家的共同参与,通过公众的“察言观行”来群智群力,共同助力人工智能大模型伦理安全的提升与发展。

编辑 程子姣

校对 柳宝庆

标签:

相关阅读

相关词

推荐阅读