当前位置：万象系统之家 > IT快讯 > 详细页面

谷歌因员工反对宣布解散AI道德委员会

编辑：jiayuan 2019-04-06 12:35:59 来源于：IT之家

　　4月6日消息为了“以负责任地态度开发人工智能”，谷歌曾成立了一个名为“先进技术外部咨询委员会（ATEAC）”的AI伦理委员会！而据外媒最新消息显示，在谷歌员工的强烈反对下，这个成立仅一个多星期的团队已经正式宣告解散。

　　据悉，谷歌发言人宣布，该公司已经决定完全解散这个名为先进技术外部咨询委员会（ATEAC）的团队，“很明显，在当前的环境中，ATEAC不能按我们所希望的方式运行，所以我们要解散它，并回到原计划上来，我们将继续在AI带来的重要问题上进行我们的工作，并将找到不同的方式来获取外部对这些问题的意见。”

　　按照预期计划，在2019年期间，该委员会将有8名成员，并举行4次会议，以帮助人们应对谷歌AI项目带来的担忧，这些担忧包括AI算法如何产生不同的结果，AI是否可以用于军事领域等，但从一开始，这个委员会组建本身就遇到了问题。

Kay Coles James

　　多日来，数千名谷歌员工签署请愿书，呼吁罢免其中一名委员会成员，即传统基金会（Heritage Foundation）主席凯·科尔斯·詹姆斯（Kay Coles James），原因是她对跨性别者的不当评论以及其所属组织对气候变化的怀疑，与此同时，无人机公司首席执行官戴恩·吉本斯（Dyan Gibbens）的加入也引发关注，原因是该公司的AI被用于军事方面。

　　几天前，谷歌AI伦理委员会成员亚历山德罗·阿奎斯蒂（Alessandro Acquisti）主动宣布辞职，另一名成员乔安娜·布莱森（Joanna Bryson）则为她坚持不辞职的决定辩护，他们被要求证明自己留在委员会的决定是合理的，这让他们感到束手无策。

　　谷歌还称，AI伦理委员会本应为谷歌工程师正在进行的AI伦理工作添加外部视角，所有这些工作都将继续进行，我们希望这个委员会的解散并不代表谷歌的AI伦理工作倒退，而是成为其考虑如何更具建设性地与外部利益相关者接触的机会。

　　谷歌的巨大负担

　　此前，当隐私研究员亚历山德罗·阿奎斯蒂（Alessandro Acquisti）在Twitter上宣布他将辞职时，谷歌AI伦理委员会的信誉首次受到打击。阿奎斯蒂辩称，“虽然我致力于研究如何解决公正、权利和AI中包含的其他关键伦理问题，但我不认为这是我从事这项重要工作的合适论坛。”

　　与此同时，要求罢免凯·科尔斯·詹姆斯（Kay Coles James）的请愿书到目前为止已经吸引了2300多名谷歌员工签名，而且签名者还在继续快速增加。随着对AI伦理委员会的愤怒加剧，其成员被卷入了关于“为何加入委员会”的广泛伦理辩论，这可能不是谷歌所希望的。

谷歌CEO桑达尔·皮查伊

　　在Facebook上，委员会成员、牛津大学伦理哲学家卢西亚诺·弗洛里迪（Luciano Floridi）反思道：“征求詹姆斯的建议是个严重的错误，并发出了关于整个ATEAC项目性质和目标的错误信息，从伦理的角度来看，谷歌错误地判断了在更广泛背景下拥有代表性观点意味着什么，如果詹姆斯不像我希望的那样辞职，如果谷歌不罢免她，正如我个人所建议的那样，问题将变成：面对这个严重的错误，我们应该采取什么样的正确道德立场？”

　　弗洛里迪最终决定留在委员会中，但这并不是谷歌希望引发的那种伦理辩论。

　　撇开惹来的愤怒不谈，委员会也没有做好成功的准备，像谷歌设立的这种AI伦理委员会在硅谷很流行，但他们似乎在很大程度上没有能力解决AI伦理问题，甚至很难在AI伦理进步问题上取得进展。

　　谷歌AI伦理董事会成员是个没有报酬、毫无影响力的职位，它不可能在一年的四次会议上对谷歌正在做的每件事都获得清晰的理解，更不用说对其提供细微的指导了。

　　外媒评论认为，从一开始，这个委员会就是为特定目的而设计的，现在，它终于被解散了！

　　AI伦理问题何去何从

　　不可否认，谷歌的许多AI研究人员都在积极致力于使AI更公平、更透明，管理层的笨拙失误不会改变这一点。

　　谷歌发言人提到了几份据称反映谷歌对AI伦理态度的文件，从一份概述他们不会从事各种研究的详细任务声明，到今年初回顾他们的AI工作迄今是否产生了社会利益，再到关于AI治理状况的详细论文。

谷歌因员工反对宣布解散AI道德委员会

　　在理想情况下，外部咨询团队将补充这项工作，增加问责制，并帮助确保每个谷歌AI项目都受到适当的审查，可以想象，谷歌下一次外部咨询尝试将需要解决这些问题。更好的AI伦理委员会可能会举行更频繁的会议，让更多的利益相关者参与进来，它还将公开、透明地提出具体建议，并告诉我们谷歌们是否遵循了这些建议，以及为什么要这么做。

　　AI的能力在不断提高，这让大多数美国人对从自动化到数据隐私再到使用先进AI系统带来的灾难性后果都感到紧张。当然，伦理道德和治理不能成为谷歌这类公司的噱头，科技公司必须有所作为！那么，你怎么看呢？