管控人工智能野蛮生长 ACM审核通过生成式AI开发原则

管控人工智能野蛮生长 ACM审核通过生成式AI开发原则

【太平洋科技资讯】近日,美国生成式人工智能协会 (Association for Generative AI)计算机器全球技术政策委员会 (ACM TPC) 发布了《生成式人工智能技术的开发、部署和使用原则》,该原则已经由 ACM 的美国技术政策委员会(USTPC)和欧洲技术政策委员会(Europe TPC)通过。

据悉,该原则的目标是促进有关生成和所有其他人工智能技术的公平、准确和有益的决策。不过 ACM 方面并未就此敦促推行具体的立法。

ACM 美国技术政策委员会主席 Jeremy Epstein 表示,“我们会直接回应立法机构的意见征询,但不会对法案或其中的部分内容公开表态。”

此次发布的原则中,有四项原则专门针对生成式 AI,另外四项原则改编自 TPC 2022 年的 《负责任的算法系统声明》原则,具体内容如下:

部署和使用的限制和指南: 应与所有利益相关者协商,审查和应用书面或修订的法律和法规,以在需要时限制生成人工智能技术的部署和使用,以最大程度地减少危害。如果没有明确和充分的保障措施,包括 “human in the loop” 以及相关利益相关者之间的明确共识,即该系统的好处将大大超过其潜在的负面影响,则不应允许任何高风险的人工智能系统运行。一种方法是定义风险等级,最高级别为不可接受的风险,最低级别为最小风险。

所有权:知识产权 (IP) 法律和法规尚未充分考虑生成式人工智能系统的结构和功能的固有方面。

个人数据控制: 生成式人工智能系统应该允许人们选择不使用他们的数据来训练系统或促进其信息生成。

可纠正性: 生成人工智能系统的提供者应创建和维护公共存储库,可以记录系统所犯的错误,并可以选择进行更正。

ACM发布的生成式AI开发原则体现了对人工智能发展中的重要问题的关注,鼓励行业各方共同关注技术的道德和社会影响,推动人工智能的可持续发展。