OpenAI对外征求AI的民主程序

OpenAI本周公开对外征求AI的民主程序,以在法令的疆界内制定AI系统可遵循的民主程序准则,并祭出10笔10万美元的奖励。

OpenAI对外征求AI的民主程序

OpenAI表示,法令以价值及规范来制定行为准则,而在法令的框架之外,AI更像是个社会,需要更复杂与更定制化的准则来指导其行为,例如AI系统应在什么情况下谴责或批评公众人物,或者是AI该如何表现有争议的各种观点,以及在预设的情况下,AI如何认定某个人的角色。

该组织认为,通用人工智能(AGI)应该能够造福全人类,且应尽可能地具备包容性,此一征求计划则是该方针的第一步,希望来自全球的团队可发展出得以让AI系统遵循的民主程序。

所谓的民主程序指的是一个具备广泛代表性的群体可交换意见,并进行审慎的讨论,并藉由透明的决策过程取得结论,而且欢迎各种符合现代需求的创意途径,例如维基百科或DemocracyNext等组织的决策方式。

例如利用ChatGPT来推动讨论与建立共识时,ChatGPT可使用插件来取得各方的声明,同时协助各方理解彼此的意见,确保同样的问题不再重复提出,并推动脑力激激盪,一直到最终达成共识。

此一计划即日起开放各界申请,截止日为今年的6月24日,个人或组织可提出自己的计划以供审核,通过者即可获得10万美元的项目奖金,以实验他们所提出的计划,至少必须邀请500名用户参与其设计原型,并在今年10月20日之前发布公开报告。

OpenAI已提出许多问题供有兴趣的团队选择,像是ChatGPT是否该有界线? AI对公众人物是否该保持中立? AI在什么样的情况下可提供医疗、金融或法律建议? 是否该允许视觉语言模型辨识人们的性别、种族或身分? 以及AI对LGBTQ或女性族群的看法是否该因地制宜等。

(0)

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注