武陵观察网 科技 外滩大会|蚂蚁集团启动大模型伦理共建计划,给大模型出法律考题

外滩大会|蚂蚁集团启动大模型伦理共建计划,给大模型出法律考题

·蚂蚁集团启动大模型伦理共建计划,采用国家法律法规数据作为训练资料,提供给大模型学习,已在前期共建了超过150个法律法规和司法解释相关的语料库。

人工智能在快速迭代和发展的同时,也给人类社会的伦理和治理带来挑战。

9月8日上午,外滩大会“AI科技伦理”见解论坛在上海举行。众多专家在会上提及近期引发热议的“AI换脸”、人脸识别等问题。同时,蚂蚁集团在论坛上宣布启动大模型伦理共建计划。

蚂蚁集团研究院院长李振华在启动仪式上表示,蚂蚁大模型伦理共建计划采用了国家法律法规数据作为训练资料,提供给大模型学习。通过法律专家为大模型出考题,让大模型了解伦理方面的问题,做出相应解答。

李振华称,伦理共建计划将持续收集用户反馈和时事热点信息,动态更新不断优化大模型伦理知识体系,以提升大模型在处理实际问题方面的基本表现。在共建大模型伦理计划时,可利用平台优势,让用户深度参与其中,为模型构建提供相关反馈和意见。

李振华透露,蚂蚁集团在前期已经进行了一些尝试,共建了超过150个法律法规和司法解释相关的语料库。

今年,“AI换脸孙燕姿”曾在B站等网络平台走红,视频上传者通过使用AI音色替换技术生成了高度还原孙燕姿音色的翻唱歌曲;“AI换脸”也被不法分子利用,冒充领导干部行骗、诈骗等,为公安机关、检察机关侦查案件增添不少难度。为限制人脸识别技术过度采集、滥用。8月8日,国家互联网信息办公室起草《人脸识别技术应用安全管理规定(试行)(征求意见稿)》,公开对外征求意见。

围绕如何发展更安全、负责、可信的AI这一主题,论坛现场众多专家展开讨论。

在外滩大会“AI科技伦理”见解论坛上,围绕如何发展更安全、负责、可信的AI这一主题,众多专家展开讨论。

关于AI科技伦理,中国信息通信研究院华东分院院长廖运发指出,大模型的发展进一步加大了人工智能的固有风险:一方面,随着参数规模扩大,训练数据的细节得以体现在参数中,多模态增加了模型的供给面。另一方面,随着大模型训练数据集的快速增长,难以对人工标注进行检查,训练数据侵权也构成了产业发展的隐忧;此外,大模型使人工智能训练的算力成本急速提升,在导致碳排放问题的同时,也使得中小企业越来越难以参与其中。

中国科学院计算技术研究所研究员、副所长程学旗认为,人工智能目前已经走进日常生活,“我们的出行、调度、指挥系统,人工智能都发挥了很多作用,但同时也带来了很大的安全风险。”常见的安全风险聚焦在:第一,个人数据、隐私被泄漏;第二,在某些特定的自动化交易场景中,某个线路出现故障会连带后台的调度系统,产生重大风险,这类AI模型算法出现的安全风险问题也需重视。

如何应对人工智能带来的安全和伦理风险?程学旗认为,社会治理和技术治理应当同步推进,前者的目标是治理的自动化与常态化,后者则需要实现治理标准化与系统化。

多位专家也指出,随着大模型应用场景与应用案例的积累,相关的伦理规则也将进一步丰富和完善,最终形成技术、社会、行业等不同层面的具体要求。

本文来自网络,不代表本站立场,转载请注明出处:https:

武陵观察网,情感,两性,娱乐

武陵观察网后续将为您提供丰富、全面的关于武陵观察网,情感,两性,娱乐内容,让您第一时间了解到关于武陵观察网,情感,两性,娱乐的热门信息。小编将持续从百度新闻、搜狗百科、微博热搜、知乎热门问答以及部分合作站点渠道收集和补充完善信息。