文/心缘
编辑 漠影
来源：智东西
AI 这把双刃剑，向善还是向恶？
2020 年已经完结撒花，这一年，人工智能（AI）领域可谓是一波未平一波又起，始终占据着人们关注的话题中心。
无论是美国限制 AI 软件出口禁令生效，还是各种争议不休的数据乱象、AI 算法偏见和 AI 应用泛滥等问题，都在持续牵扯着人们因疫情折磨已然脆弱不堪的神经。
自然换脸、去马赛克、预测大选、下棋无敌……当 AI 开始展露过人的能力，如何保证科技至善而不会向恶蔓延？当 AI 持续深入更多产业和生活，如何保证算法不会被数据偏差所左右？
回顾 2020 年 AI 圈十大热议焦点，或许能为 AI 接下来的发展方向提供些许的借鉴意义。
01、
限制 AI 出口：中美新规均限制 AI 技术出口
人工智能“出息”了！2020 年才一开年，特朗普政府就颁布新规，要限制人工智能软件的出口，而在去年，出口管制还主要是半导体等关键领域的软硬件技术才享有的封锁“待遇”。
新规规定，从美国出口特定类型地理空间影像软件的公司必须申请许可，才能出口至海外。无论智能化传感器、无人机以及其他自动化设备的目标识别软件，都将受到管制。
▲美国新规限制地理空间图像 AI 软件出口
8 月 28 日，中国商务部、科技部调整发布了最新版的《中国禁止出口限制出口技术目录》，新增语音合成技术、人工智能交互界面技术、语音评测技术、智能阅卷技术、基于数据分析的个性化信息推送服务技术等 AI 相关技术条款。
也就是说，这些技术凡涉及向境外转移，均需到省级商务主管部门申请技术出口许可，获得批准后方可出口。
▲《中国禁止出口限制出口技术目录》部分调整内容
02、
数据黑产：泄露损害大，售卖不值钱
2020 年 7 月 17 日，在延迟 123 天播出的央视 315 晚会上，曝光了关于手机插件（SDK）违规手机用户信息的数据采集乱象，其中涉事企业名单中不乏以 AI 技术为主的公司。
最可气的是，在自己眼里珍贵重要的人脸数据，在网络黑市上被售卖时却相当不值钱。央视 10 月报道称，在某些网络交易平台上，只花 2 元钱就能买到上千张人脸照片，而且全都是真人照。
从手机号、身份证号、家庭住址等文本信息到指纹、人脸等生物特征信息，在日渐以数据为中心的时代，个人信息成为不法分子的牟利来源。
都说需经同意才能采集数据，可是多少家机构在收集数据时，真正公开透明、反复确认过被采集者的意愿呢？
03、
人脸识别滥用：谁来保护我的脸？
远距离高清摄像头，能在你毫无察觉地情况下，悄无声息地采集完成你的人脸信息。这种便捷又高效的采集方式，致使刷脸应用愈发盛行。
注册 App 刷脸、买单刷脸、看房刷脸、打车刷脸、倒垃圾刷脸，连取厕纸都安装上了人脸识别装置……这年头，刷脸带来了方便，也带来了无处不在的安全风险。
《人脸识别应用公众调研报告（2020）》显示，使用人脸识别的三成受访者已经因为人脸信息泄露、滥用而遭受到隐私或财产损失。
类似案例屡见不鲜。2020 年 9 月，广西南宁十几名业主因刷脸认证漏洞，被黑中介过户房产骗了超千万元；为了避免被售楼部采集人脸信息，购房者被迫“戴着头盔去看房”。
刷脸固然方便，但如果方便无法抵消危险，那损失由谁来买单？
04、
AI 换脸：活在真假混淆的世界
随着 AI 深度合成和深度伪造技术门槛降低，AI 换脸技术逐渐深入大众生活。
今年有几部电视剧通过 AI 换脸技术怒刷一波存在感，不过换脸效果却品质不一。
比如电视剧《三千鸦杀》中的女二使用 AI 换脸技术后，时而表情僵硬，时而面部扭曲，效果一言难尽。相比之下，电视剧《了不起的儿科医生》用的 AI 换脸技术明显更加走心，演员仝卓的脸被换得几乎没有违和感。
除了电视剧外，换脸技术也正离登陆电影大荧幕越来越近。今年 6 月，迪士尼展示了首个百万像素逼真换脸技术，使得换脸技术有希望用于对高清有强新需求的大制作电影和电视节目。
11 月，国外视频网站上的一部《Step Brother》电影短片将史泰龙和施瓦辛格这两位好莱坞顶级功夫巨星的脸，换到了两名小众演员的脸上。
12 月，圣诞节这天，英国 Channel 4 电视频道用 AI 换脸技术制造了以假乱真的恶搞版女王圣诞致辞，全程高能吐槽。
▲英国 Channel 4 制作了恶搞版女王圣诞致辞
AI 换脸日益逼真，技术门槛越来越低，带给影视内容应用更高效率、更低制作成本等好处，但随之而来的造假、造谣、欺诈等问题，真假混淆使得人们却愈发缺失安全感。
在今年美国大选期间，换脸技术还成了政客互相攻击的武器。比如特朗普今年 4 月在推特上转发了一个伪造拜登吐舌头的视频，当晚视频播放量超过 1000 万次。随后特朗普在 5 月又转发了用自己脸替换科幻电影《独立日》中总统托马斯·怀特摩尔、发表“我们要为我们的生存而战”演讲的视频。
▲特朗普推特转发拜登换脸恶搞视频
不过，将从 2021 年 1 月 1 日起施行的《民法典》第 1019 条明确指出，任何组织或个人不得利用信息技术手段伪造等方式侵害他人的肖像权。
也就是说，明年再想用 AI 换脸技术制作鬼畜视频或传播不实讯息，需先掂量掂量能不能过法律这一关。
05、
AI 去马赛克：敏感信息还能守住吗？
随着 AI 技术进步，修图越变越省力了，省力到甚至能把打了马赛克的文字和图片还原。
今年 12 月，一个名为 Depix 的 Github 项目爆火，上线三天 star 数高达 6.9k，它能从修复肉眼无法识别的被打码文字，基本恢复原文信息。
▲Depix 项目修复马赛克文字
更早的时候，在今年 6 月，杜克大学推出的 AI 算法 PULSE 能将低分辨率的人脸图像放大 64 倍，把原本模糊的人脸重新变得清晰可见。
▲PULSE 算法并不能将糊图恢复成真实面貌
不过好在这个技术不算真“还原”，因为恢复的人像建立在想象的基础上，大多从模糊人像生成的清晰图像是一张全新的虚拟面孔，甚至会将有色人种还原成白色人种。
这些技术可以为侦查提供高效的工具，但如果为思想不端者所用，任何想通过“打码”保护的敏感信息都将不再安全。
06、
AI 偏见：歧视从数据进入算法
人脸识别不仅作为身份识别工具，还被一些研究学者用于看面相。比如在今年 6 月，学术出版商《Springer Nature》原本计划发表一篇通过 AI 看人脸来推断一个人是否会犯罪的论文，但这遭到了 1700 名研究人员的联名发公开信抵制。
论文称其技术没有种族偏见，根据照片中人脸特征预测是否为罪犯的准确性达到了 80%。不过对于这种说法，其他 AI 研究者并不买账。公开信的组织者之一 Audrey Beard 表示：“根本无法开发出不存在种族偏见的犯罪预测系统，因为刑事司法数据本身就是存在种族偏见的。”
▲《Springer Nature》推特回应：不会发表该论文
种族偏见长期是美国产学界的敏感话题。如果数据集本身存在偏见，那么用这一数据集训练出的 AI 算法很难做到客观。在这一背景下，美国关于 AI 偏见的热点事件层出不穷。
今年 6 月，IBM 宣布不再提供任何人脸识别服务和人脸分析软件，也不再继续研发相关技术，理由是“反对将技术用于种族歧视和大规模监视”；7 月，因为关于 AI 偏见能不能完全归因于数据偏差的激烈争论，2018 年图灵奖得主、深度学习先驱 Yann LeCun 被气得宣布退出推特。
▲Yann LeCun 宣布退出推特
最新热点聚焦于谷歌，12 月初，谷歌 AI 伦理学家 Timnit Gebru 在推特上发消息称自己遭解雇，而解雇原因竟是因为她撰写了一篇指出大型语言模型存在偏见的论文。
因 AI 偏见与伦理本身就是热点话题，加上 Timnit Gebru 是一位黑人女性，此事关注度一路上涨。随后谷歌 CEO 桑达尔·皮查伊（Sundar Pichai）在面向全体员工的内部邮件中向 Timnit Gebru 致歉，并承诺将对解雇一事进行展开详细调查。
▲谷歌 AI 伦理学家 Timnit Gebru
种种事例一再说明，当前的 AI 算法并不完美，甚至可能使歧视和偏见长期化、永久化。
07、
AI 爱秃头：足球联赛惊现“人工智障”
AI 兴起几年了，但 AI 的“智障”行为依然不时出现在各种场合中，为人们不断贡献饭后笑料。
今年 10 月 24 日举行的苏格兰足球冠军联赛，大概是转播观众看得最不爽的球赛之一了。罪魁祸首就是严重犯蠢的 AI 摄像机，执着地将一位裁判的光头误认成足球，并且全场追拍，导致观众无法通过实时转播完整观赛，还错过了最重要、最精彩的射门进分画面。
▲AI 摄像机跑偏，执着追踪一位裁判的光头
网友们调侃说，这再次证明了 AI 的确存在偏见，相比足球，它更偏爱秃头。
08、
AI 预测大选：几家欢喜几家愁
和往年一样，每到能发挥“预言家”能力的时候，AI 必不缺席。在今年的“热门大戏”美国总统大选前期，多家公司及研究团队用 AI 预测选举结果。
总统大选尘埃落定后，几家欢喜几家忧。意大利的 NLP 公司 Expert.ai 根据往年选举数据和相关数百万社交网络内容，较准确地预测了大选结果。
加州群体智能公司 Unanimous.ai 通过收集人群比如大宗商品投资者的预测和决策来做判断，从 9 月的一次调查准确地预测了 8 个摇摆州的结果。
而此前正确预测 20 多次选举和公投的 Advanced Symbolics Inc。的系统 Polly 却遭遇滑铁卢，预测拜登会以 372：166 大胜并拿下佛罗里达州，但实际上特朗普赢得了佛罗里达州的支持，拜登虽赢了，却是以 306：232 险胜。
09、
AI 找对象：政府用 AI 拯救低迷生育率
今年 12 月初，据日本《读卖新闻》报道，为了提高结婚率、生育率，日本政府计划在下一财年拨款 20 亿日元（约合 1.3 亿人民币）推进用 AI 帮助人们寻找婚配对象的计划。
AI 婚配系统将在日本的 25 个县实施，基于参加者提供的年龄、学历、年薪、兴趣、收入条件、价值观等信息，用 AI 算法分析后推荐出合适人选。
实际效果还不错，比如埼玉县 2019 年结婚的 38 组新人中，有 21 对新人都是通过 AI 婚配系统的推荐而成为情侣。
日本政府对于导入和使用 AI 婚配系统的县，还提供2/3 的必要经费补助，而通过政府资助的婚配支援事业，个人仅需花费约1-2 万日元（约合 500-1000 人民币）。
当然啦，AI 婚配系统主要依据用户提供信息来提供判断，虽然在大多数情况下能节约找对象的时间，却也存在遇到虚假数据的风险。
10、
AI 作弊：13 岁韩国围棋天才少女用 AI 舞弊
今年 11 月，13 岁韩国围棋天才少女、韩国现役最年轻职业棋手金恩持，因用 AI 在比赛中作弊，被韩国棋院处以“资格停止一年”的惩戒处分。
▲金恩持下棋
在今年 9 月 29 日的一场线上比赛中，身为二段的金恩持战胜了韩国顶级棋手李英九九段，被质疑使用 AI 的可能性后，韩国棋院、韩国国家队邀请 AI 专家研究分析了相关棋谱，发现金恩持的棋谱与 AI 程序的推荐吻合率达到 92%。
事后，金恩持承认使用 AI 的事实。而这不是韩国棋手首次因为 AI 作弊而受处罚，今年 1 月，一位棋手参加比赛时用大衣纽扣里的微型摄像机将比赛实况发给同伙，然后通过微型耳机接收同伙发来的 AI 分析结果进行作弊，结果被当场抓获，今年 7 月被判决一年有期徒刑。
这不免令人感到唏嘘。科技进步是为了人类能更好的进步，而不该被用作投机取巧的工具。
别只顾赢比赛，丢了竞技精神和人品。
结语：一念向善，一念向恶
从这十大 AI 领域的热议焦点，可以看到，信息安全是一场硬仗，在 AI 走向普及的道路上，信息安全战役是一场持久战，算法安全性、数据透明性、法规约束等都是必然要攻克的课题。
在接下来的一年，AI 将在更多应用场景中发挥独特的价值，科技进步必将为人所用，而这把“双刃剑”会向善还是向恶，是会温暖人心还是化作伤人利器，选择权终究掌握在人类的手中。
相关推荐
© 2020 asciim码
人生就是一场修行
