人类的最大强项之一，是能够用有限的数据来驾驭世界，这在很大程度上，取决于我们多年的个人经历、教育背景和媒介信息积累的经验。打个比方，学校附近就要开车慢一点，因为我们判断可能有孩子在周围，或者我们习惯给老人让座，因为我们觉得他们可能比一般成人要弱一点。

这些经验预判的另一面，当然就是种族主义和性别歧视。我们所信任的经验，其实有时并不可靠，它让人很不公平地从少数人推断到整个族群，或者形成思维定式后，不允许例外的发生。

人类如此，那么基于经验深度学习的AI呢？微软的研究人员向《连线（Wired）》杂志透露，AI更容易产生这种基于经验的偏见。

为了改变性别偏见，我们决定欺骗AI

波士顿大学和微软的研究人员发现，基于谷歌新闻的文本对软件进行训练，会让系统产生诸如“男人之于计算机程序员，如同女人之于家庭主妇”的连接。

另一项研究发现，当AI接受图片训练时，面对两大组从网络抽取、涵盖了10万种复杂场景、被人工描述并贴上标签的照片，AI在深度学习后却形成了“女人”和“家庭事务”以及“男人”和“科技”“户外运动”之间的强关联。

在COCO数据库里，厨房用品，比如勺子和叉子，与女性密切相关，而户外体育设备，比如滑雪板和网球拍，技术物品比如键盘和鼠标，则和男性密切相关。

事实上，AI的偏见甚至比数据库本身还要强，这使得它更有可能将厨房里的一个人识别为女人，即便这事实是一个男性。

这种偏见，如果发现及时，可以在额外的训练中得以纠正，但是，仍然存在这样的风险：AI模型可能并未解决所有的问题，但就已经投入生产。

微软研究院院长埃里克·霍维茨（Eric Horvitz）说：“我和微软一道，致力于解决因数据库和系统的偏差与空白，而带来的种种问题。COCO和其他数据库的研究员和工程师，应该在他们彼此的工作中，寻找偏见存在的迹象。”

霍维茨正在考虑用一个有趣的方案，让AI从一开始就沿正确的道路前行。相比于让AI从现实图像中学习，不如让它先开始学习理想化的、性别平等的图库，就像教育孩子时，我们总会告诉他们理想的世界什么样子，而非现实的世界什么样子。

“不过这又带来一个很重要的问题——我们应该什么时候改变现实，来让我们的系统能以理想的方式执行？”

为AI创造理想世界，还是让它认识现实

如何让AI了解世界，并且建立正确的价值判断和道德准则，这不仅是微软考虑的问题。目前，全球最大的5家科技公司Alphabet（谷歌母公司）、亚马逊、Facebook、IBM和微软，都在尝试制定AI的道德标准，并策划成立AI行业组织。虽然尚不清楚这一行业组织的最终成果，但其基本出发点很明确：确保AI的研究专注于造福人类，而非不利于人类。

对于霍维茨的提议，其他研究人员态度不一。“如果现实就是有更多的建筑工人是男性，图像识别程序应该了解这一真相”，普林斯顿的研究员艾琳·卡利斯坎（Aylin Caliskan）如是说。当然必要情况下，可以采取补充手段来测量和调整偏差。“我们是在冒着丢失基本信息的风险”，她说，“数据库应该反映世界上真实的统计信息。”

牛津大学的研究员斯图尔特·阿姆斯特朗（Stuart Armstrong）认为，“人们已经提出很多简单的技巧来解决整个人工智能的控制问题”。比如将ASI程序编辑成让它希望取悦人类，或者仅仅作为人类的工具。换个角度说，人们可以集成一个概念，比如爱和尊重，把这些写入它的源代码。并且为了防止它采用超简单的、单色的观点来认识世界，它可以被编程来欣赏知识、文化和社会多样性。

人类反思自身偏见，AI与人共同进步

加州大学伯克利分校的AI专家斯图尔特·罗素（Stuart Russell）则有不同的见解。加州大学伯克利分校去年成立了一家新的人工智能中心，探索如何让机器人与人类和谐共处。作为中心主任，罗素表示，目前正在研发的是逆向增强学习，在这个过程中机器人会通过观察人类的行为，学习人类的价值观。比如，通过观察人们早上起床的痛苦，以及起床后千辛万苦做一杯拿铁，机器人会认识到对人而言，清晨的一杯咖啡存在的意义。

“在算法中直接植入某些价值观是万万不可取的，”罗素说，“机器人要通过观察，学习人类的价值观。除了观察外，阅读也是个重要的途径。提供给机器人的所有文字都是关于人类如何做事以及其他人的看法。”

“让人工智能系统观察人类行为，理解人类的目的，然后采取相应的行动，并从错误中学习。它不需要遵循大量的规则，而是要理解人类的真正意图。这样的话，即使人工智能系统超越了人类，它们也能够处于人类的控制之下。”

然而，罗素和他的同事们都知道，在AI领域，他们依然任重道远。“人们有种各种不同的价值观，因此如果要将所有价值观都实现，是无法做到的，”他承认。“不同的价值观促使机器人尝试理解我们希望它们做的事，并学会在个体之间斡旋。”

但是另一方面，指导机器学习的过程，也是我们人类认识自我的过程，罗素在文章《它们会让我们成为更好的自己吗》中，提出了美好的愿景：“AI将与人类价值观达成一致，而这个过程会让我们对自己的所作所为产生更好认知。另外，我们或许应该认识到我们与来自其他文化背景的人们存在更多的相似之处。”

本文为未来图灵（futureturing）原创文章，转载请申请授权并注明来源。

转载、合作事宜，请联系：

微信：zhuzhichao8818

邮箱：weilaituling@caishimv.com