5年前,一起致命的Uber自动驾驶车祸揭示了企业仍需解决的人工智能工作场所问题

5年前的致命Uber自动驾驶车祸暴露了企业在人工智能工作场所问题上仍需解决的挑战

当大多数人在周五晚上下线,享受另一个炎热的夏日周末时,一起关于当人工智能直接参与到现实世界的物理伤害中时,谁承担责任的重要法律案件终于在五年后落下帷幕。

2018年,亚利桑那州坦佩市一辆自动驾驶优步测试车辆撞死了一名行人,操作该车辆的司机拉斐拉·瓦斯凯兹认罪一项危害罪。马里科帕县高级法院法官大卫·加巴里诺接受了认罪协议,并判处她三年的有监督缓刑,彻底结束了此案。瓦斯凯兹最初被控过失杀人罪,这是一项可判最高八年监禁的重罪。

这起事故是首次涉及完全自动驾驶车辆的致命碰撞。该案件引起了观察者的关注,因为优步和瓦斯凯兹都试图推卸责任,这不仅缺乏先例,还引发了关于在人类工作人员越来越多地监控人工智能机器、接受算法指导并坐在由企业工程师构建的不完美人工智能系统的前线时谁负责的几个问题。

事故发生初期,瓦斯凯兹认为优步会支持她,根据去年《连线》杂志发表的一次深入采访。她对这个新兴行业充满了真正的兴奋,并把自己看作是公司的自豪管理者,尽职尽责地监控公司的自动驾驶车辆进行实际练习。亚利桑那州最近放松了限制,以吸引更多来自硅谷公司的业务,最近成为优步在路上测试计划的避风港,此前加州撤销了优步车辆的注册。验尸官正式将赫尔茨伯格的死亡定性为事故,优步最初为瓦斯凯兹提供了一名律师,但据《连线》杂志称,她与上级的交往很快从“安慰”变得“令人不安”。

调查揭示,瓦斯凯兹的私人手机在事故发生时正在播放电视节目《The Voice》。仪表盘摄像头的录像还显示,在碰撞发生前的瞬间她正在低头看手机,警察后来的分析确定瓦斯凯兹本可以及时接管车辆,认定这次事故“完全可以避免”。

虽然此案未经审判,但瓦斯凯兹的辩护律师提出了一系列指责雇主的论点。在法律文件中,瓦斯凯兹声称她并非在看,而只是在听《The Voice》,这在优步的指南中是允许的。而当她低头时,是为了实时监控她所说的需要监控的工作设备上的Slack消息。这项工作以前由第二个操作员负责,但优步最近取消了每辆车必须有两个测试操作员的要求,现在备份驾驶员像瓦斯凯兹一样独自工作。这改变了工作的动态,包括操作员如何输入对驾驶系统的反馈,导致孤独、漫长的轮班在同样的道路上循环,通常没有事故或不需要干预。

在她的审前辩护的另一个关键部分,瓦斯凯兹的律师援引了国家交通安全委员会的一项裁决,认为该车未能将赫尔茨伯格识别为行人,这导致了刹车失效。该委员会还发现,优步存在“不足的安全文化”,未能防止测试操作员中的“自动化自满”,这是一个众所周知的现象,即负责监控自动化系统的工作人员开始相信机器已经控制一切并停止关注。此外,这起事故发生前几天,该公司的一名前运营经理提交了一份有关自动驾驶汽车部门存在安全问题的举报。

“这个故事再次凸显了关于涉及人工智能的事故往往是‘多手问题’,不同的参与方都有责任的问题,”德尔夫特理工大学技术伦理与哲学教授菲利波·桑托尼·德·西奥说道,他专门研究人工智能和机器人的道德和法律责任,并曾就此案写过文章。

“虽然优步或监管机构在法律调查中被宣布无罪,”他补充道,“但他们显然对伊莲·赫尔茨伯格的死亡负有重大的道德责任。”

随着各行各业的公司以极快的速度迅速整合人工智能,迫切需要审问当人类工作人员越来越多地与他们没有参与创建的人工智能系统一起工作时所引发的道德、伦理和商业问题。

就在上周,宾夕法尼亚州的民主党参议员鲍勃·凯西(Bob Casey)认为人工智能将是争取工人权益的下一个前沿,并提出了两项法案来监管职场中的技术。其中一项名为“无机器人老板法案”的法案将禁止公司在影响就业的决策中使用自动化和算法系统,而另一项则针对人工智能职场监控。尽管这两项法案并不直接涉及瓦斯奎兹(Vasquez)这样的情况(尽管它们似乎会影响优步的算法导向的拼车司机和企业员工),但它们只是国会、欧盟和世界其他政府在职场和其他领域考虑人工智能监管的一小部分。在人工智能时代,工人权益甚至在当前的好莱坞罢工中成为焦点,演员们正在与合同中的一项条款进行斗争,该条款允许制片厂用人工智能永久复制他们的形象并支付他们一天的工作费用。

“关于责任的法律争端已经结束,”桑托尼·德西奥(Santoni de Sio)在谈到瓦斯奎兹的案件时说,“但伦理和政治辩论才刚刚开始。”

在此之后,以下是本周的其他人工智能新闻。

Sage Lazzarosagelazzaro.com

人工智能新闻

谷歌推出以其人工智能语言模型训练的RT-2机器人模型。据《纽约时报》报道,该报提前预览了由RT-2平台驱动的单臂机器人。在一次演示中,该机器人成功完成了一系列需要推理和即兴处理的任务,例如在一组动物模型中被告知“拿起已灭绝的动物”,正确选择恐龙。从历史上看,工程师们通过为机器人编写一份明确的指令列表来训练机器人执行机械任务,这意味着机器人只能缓慢地学习任务,并且一次只能学习一个任务,这在功能上对它们产生了限制。但是,RT-2通过在互联网上的文本和图像上进行训练,利用了大型语言模型的最新发展,使机器人能够自主学习新任务。

拜登寻求限制对中国的人工智能投资。据彭博社报道,美国总统乔·拜登计划在8月中旬签署一项行政命令,限制对中国的关键技术投资。该命令将重点关注人工智能、半导体和量子计算,并预计禁止某些交易,但不会影响现有的交易。

限制政策使得英伟达人工智能图形处理器在中国的价格飙升。根据Tom’s Hardware的报道,随着美国加大对美中技术交流的打击力度,英伟达的人工智能图形处理器在中国的销售价格达到每台7万美元,是其在美国销售价格的两倍多。而且这还是在能够购买到的情况下。由于大多数人工智能集群都基于英伟达的图形处理器,对于需要支持系统扩展的公司来说,这些设备需求量很大。

法学院宣布学生可以在申请中使用ChatGPT等生成式人工智能。据ANBLE报道,亚利桑那州立大学桑德拉·戴·奥康纳法学院允许申请者使用生成式人工智能来撰写他们的入学材料。院长斯泰西·利兹(Stacy Leeds)表示,这只是“他们工具箱中的又一种工具”,许多申请者已经付费请专业顾问帮助他们,而生成式人工智能则是广泛可获取的。在申请中使用ChatGPT等工具的申请者必须保证他们使用了人工智能,并且提供的信息是真实的,就像他们如果得到专业顾问的帮助时所要求的一样。这个决定与密歇根法学院最近的另一个决定恰恰相反,后者明确禁止申请者在入学申请中使用这种技术。

人工智能研究关注

变压器之后是什么?目前人工智能进步的海啸归功于一项特定的创新:变压器(Transformer)。这种神经网络模型于2017年首次在谷歌的一篇研究论文中描述,几乎完全取代了它的前身技术,现在成为绝大多数主流机器学习模型的基础,从BERT到OpenAI的各种GPT模型,其中“T”代表变压器。现在,斯坦福大学的研究人员正在寻找替代变压器的方案,这种方案可以在更高效的情况下实现相同的性能,并将这一新的研究领域称为“Monarch Mixer”。在一项试验中,研究人员使用他们的技术对BERT进行了重新训练,基本上是用Monarch矩阵替换变压器的主要元素,他们说他们能够获得一些“相当不错的结果,即使参数较少”。这并不意味着变压器即将被淘汰,但这是一个有趣的起点,可能是下一阶段模型的开始。您可以在此处阅读研究博客。

关于人工智能的消息

谷歌英国负责人表示不能相信其聊天机器人巴德提供准确信息 – Prarthana Prakash

麦肯锡表示,生成式人工智能将颠覆劳动力市场,到2030年将迫使1200万人转行,并自动化美国经济中30%的工作时间 – Paolo Confino

微软首席财务官艾米·胡德阐述了人工智能投资路线图 – Sheryl Estrada

随着流媒体和人工智能对好莱坞造成重创,Netflix希望聘请一位年薪90万美元的“产品经理” – Chloe Berger

微软、谷歌和OpenAI刚刚成为可能是第一个真正的人工智能游说团体的创始成员。接下来:立法者制定规则 – Paolo Confino

有关A.I.的思考

A.I.与外星人。除了人工智能之外,上周吸引大众注意的消息是众议院监督委员会关于UAP(即不明异常现象,即UFO的新术语)的轰动听证会。证人证实,美国政府拥有UAP飞行器和生物学,长期掩盖了坠毁回收计划,并且滥用资金支付费用,还有其他指控。

在听证会上,主要关注的是国家安全方面的影响,而对于利用人工智能进行UAP跟踪和研究的广泛愿景并没有提及。

机器学习特别适用于处理和理解大量数据。事实上,当委员会询问三位证人(均为前美国军方或情报官员)关于UAP需要发生什么时,他们都证明,建立一个集中化的系统来跟踪和分析UAP数据应该是当务之急。

Hypergiant是一家总部位于德克萨斯州的机器学习公司和政府承包商,为国防和空间开发关键基础设施,该公司开发了其CONTACT软件,即上下文组织的非地球活动捕获工具,以对卫星捕获的不明目击事件进行分类和分析。

另一个例子是一支开源开发团队决定自己动手,最近推出了一个名为Sky 360的项目,建立了20个监测站(并在不断增加),并使用人工智能来检测和分析可能的UAP目击事件。该系统由TensorFlow机器学习平台提供支持,使用计算机视觉来检测画面中的运动与之前的画面进行比较。

卡内基梅隆大学的计算机科学教授拉维·斯塔尔兹表示,他个人一直在帮助多个机构开发用于识别和描述UAP的机器学习系统,包括对视觉、雷达、音频和文本数据的分析。

美国国家航空航天局(NASA)还建议使用人工智能来研究UAP数据,事实上,该机构已经成功使用人工智能来识别新的外行星,并探索了其他无法到达的火星部分,等等。目前尚不清楚NASA是否已经利用人工智能进行UAP方面的努力,但该机构可能会在本月发布的期待已久的UAP报告中揭示这个问题。