ASCII码 ASCII码

谷歌增加敏感议题审查环节来加强对旗下科学家论文的控制

发布于:2020-12-24 10:48:32  栏目:技术文档

  根据内部沟通和对其研究人员的采访显示,谷歌今年采取行动,通过启动 "敏感议题"审查来加强对其科学家论文的控制,并在至少三个案例中要求作者不要将其技术置于负面的角度。根据解释该政策的内部网页,谷歌的新审查程序要求研究人员在研究面孔和情感分析以及种族、性别或政治派别的分类等主题之前,咨询其法律、政策和公共关系团队。

  谷歌表示,技术进步和外部环境日益复杂,正越来越多地导致看似无害的项目引发道德、声誉、监管或法律问题。谷歌三名现任员工表示,该政策始于今年 6 月。

  八名现任和前任员工表示,"敏感话题 "程序在谷歌标准的论文审查基础上增加了一轮审查,以防止出现泄露商业机密等情况。对于一些项目,谷歌官员在后期进行了干预。据路透社(Reuters)的内部信件称,谷歌一位高级经理在今年夏天出版前不久对一项内容推荐技术研究进行了评估,他告诉作者要非常小心,并且应该保持积极的基调。随后一位研究人员给审稿人的信件显示,作者更新了论文,删除所有对谷歌产品的提及。

  包括资深科学家玛格丽特·米切尔在内的四位研究人员说,他们认为谷歌正在开始干扰对潜在技术危害的重要研究。米切尔说:“如果我们根据自己专业知识研究合适的东西,而谷歌以不符合高质量同行评议的理由不允许我们发表这些东西,那么我们就陷入了一个严重的审查情况。”

  谷歌在其面向公众的网站上声明,其科学家拥有 "实质性 "的自由。本月,在科学家蒂姆尼特-盖布鲁(Timnit Gebru)突然离职后,谷歌与部分员工之间的紧张关系进入人们的视野,她与米切尔共同领导了一个 12 人的团队,专注于人工智能软件(AI)的伦理问题。Gebru 表示,谷歌解雇她是因为她质疑了一项禁止发表研究的命令。这项研究声称模仿语音的人工智能可能对边缘化人群不利。谷歌当时接受并加速了她的辞职。目前还无法确定蒂姆尼特-盖布鲁(Timnit Gebru)的论文是否经过了谷歌“敏感话题”审查。

相关推荐
阅读 +