AP发布AI准则,禁止员工使用其生成可发布的内容和图片

AP发布AI准则,禁止员工使用生成可发布的内容和图片

美联社是少数几家新闻机构之一,已经开始制定规则,以整合像ChatGPT这样的快速发展的技术工具到他们的工作中。该服务将于本周四与其具有影响力的《风格手册》的一个章节相结合,该手册为记者提供了如何报道这一故事的建议,并附带了一个术语词汇表。

美联社新闻标准和包容性副总裁阿曼达·巴雷特(Amanda Barrett)表示:“我们的目标是为人们提供一个良好的方式来理解我们如何进行一些实验,但同时保持安全。”

新闻智库波因特研究所称这是一个“变革时刻”,敦促新闻机构制定人工智能使用的标准,并与读者和观众分享这些政策。

生成式人工智能具有按命令创建文本、图像、音频和视频的能力,但尚不能完全区分事实和虚构。

因此,美联社表示,由人工智能生成的材料应该像来自其他任何新闻来源的材料一样经过仔细审核。同样,美联社表示,除非经过修改的材料本身就是故事的主题,否则不应使用由人工智能生成的照片、视频或音频片段。

这与科技杂志《连线》的做法一致,后者表示不会发布由人工智能生成的故事,除非这是整个故事的重点。

《内幕》的总编辑尼古拉斯·卡尔森(Nicholas Carlson)在给员工的一封备忘录中写道:“你的故事必须完全由你自己撰写。”“你对故事中每个字的准确性、公正性、独创性和质量负有责任。”

波因特在一篇社论中表示,人们知道有一套标准来“确保他们阅读、观看和听到的内容是经过验证、可信的和尽可能公正的”是非常重要的,这是因为人们对人工智能生成的“幻觉”或捏造事实的高调案例表示担忧。

新闻机构已经概述了生成式人工智能在出版之外的有用方式。例如,它可以帮助美联社的编辑整理正在进行中的故事摘要,然后发送给订阅者。它可以帮助编辑创建标题或产生故事创意,连线杂志表示。卡尔森表示,人工智能可以被要求提出可能使故事简洁易读的编辑建议,或者提出可能的采访问题。

美联社已经在过去十年中尝试使用更简单形式的人工智能,例如将体育比赛成绩或公司财报转化为简短的新闻报道。巴雷特表示,这是重要的经验,但“我们仍然希望谨慎进入这个新阶段,确保保护我们的新闻报道和信誉。”

ChatGPT的制造商OpenAI和美联社上个月宣布了一项协议,让这家人工智能公司获得了美联社用于培训目的的新闻报道档案的许可。

新闻机构担心他们的材料被人工智能公司未经允许或未付费使用。代表数百家出版商的新闻媒体联盟发布了一份旨在保护其成员知识产权的原则性声明。

一些记者表示担心人工智能最终可能取代人类所做的工作,这在美联社和其工会新闻媒体协会之间的合同谈判中是一个非常关注的问题。该工会的主席文·切尔伍(Vin Cherwoo)表示,工会还没有完全分析这些问题的含义。

巴雷特表示,在确保安全措施的同时,美联社希望记者们熟悉这项技术,因为他们将在未来几年需要报道与此相关的故事。

美联社的《风格手册》是新闻实践和术语使用规则的路线图,将在本周四发布的这一章节中解释记者在写关于技术的报道时应考虑的许多因素。

美联社表示:“人工智能的故事远远超出了商业和技术范畴。”“它还涉及政治、娱乐、教育、体育、人权、经济、平等与不平等、国际法以及许多其他问题。成功的人工智能故事展示了这些工具如何影响我们生活的许多领域。”

这一章节包括了术语词汇表,包括机器学习、训练数据、人脸识别和算法偏见等术语。

巴雷特表示,这些内容不应被视为该主题的最终结论。一个专门研究该主题指导的委员会每月会议一次。

她说:“我完全预计我们每三个月就必须更新指导,因为形势正在变化。”