自计算机科学诞生之日起，对通用人工智能 (AGI) 的探索就引发了人们的恐惧和热情。 “机器会思考吗？” 这个问题让像艾伦·图灵这样的伟人彻夜难眠，并最终催生了著名的图灵测试和其他思想实验。从历史上看，这曾是一个遥不可及的目标，直到最新版本的 ChatGPT 通过了严格的图灵测试。有趣的是，人工智能研究的伦理方向正受到五位非凡女性的指引。她们的高尚意图与人工智能的商业化利用形成鲜明对比。
1. 艾米丽·本德
谁会想到，近年来最大的科技丑闻竟是由一位语言学家引发的？艾米丽·本德是如今著名的论文《关于随机鹦鹉的危险：语言模型会太大吗？》的共同主要作者，这篇文章导致了蒂姆尼特·格布鲁和玛格丽特·米切尔在谷歌的争议性解雇。本德拥有斯坦福大学的硕士和博士学位，并在华盛顿大学获得终身教职，并创立了计算语言学实验室。她于 2022 年当选为美国科学促进会会士，目前担任计算语言学协会主席。
本德和她的合著者强调，大型语言模型带来的环境、经济和社会危害，这些危害在 2021 年科技巨头的实验室深处悄然酝酿。 “随机鹦鹉” 的比喻应该能传达她们的关键观点，即这些模型只是鹦鹉学舌地重复它们在庞大且未经筛选的数据集中可以找到的任何内容，并根据特定词语的概率进行分配。然而，它们并不具备语言意义。这意味着 ChatGPT 不理解你问什么，而只是吐出最有可能的答案。这就是为什么聊天机器人会犯错误，并很容易走向仇恨和有毒言论。
本德最近还提出了一个有趣的思想实验，让人想起约翰·塞尔的“中文房间”，来说明聊天机器人的这一缺陷。想象一下，两位英语母语者分别被困在两个不同的岛屿上，只能通过水下电缆进行沟通。一只章鱼无事可做，偷听到了他们的对话。章鱼可能会检测到使用词语的统计模式，甚至参与对话。但这是否意味着章鱼理解英语？本德接着指出，如果其中一位说话者因熊攻击而求救，章鱼可能无法提供帮助，尽管它可能根据特定词语的频率模仿另一位说话者。
2. 蒂姆尼特·格布鲁
蒂姆尼特·格布鲁是男性主导的人工智能领域多元化最热情的倡导者之一。格布鲁是黑人人工智能研讨会的联合创始人之一，也是分布式人工智能研究机构 (DAIR) 的创始人，在那里她将自己的理念付诸实践。她被《时代》杂志评为 2023 年人工智能领域 100 位最有影响力人物之一，以及《自然》杂志评为 2021 年塑造科学的十大研究人员之一。
格布鲁出生在亚的斯亚贝巴，她和家人在埃塞俄比亚-厄立特里亚战争期间逃离埃塞俄比亚，这场战争紧随厄立特里亚独立战争。格布鲁在美国获得政治庇护，并获得了斯坦福大学的理学学士、理学硕士和博士学位。她的专业领域是计算机视觉，即使在成为人工智能活动家之前，格布鲁也警告说，数据集缺乏多样性会导致软件的输出存在偏差和偏见。她与乔伊·布瓦拉姆维尼发表了一篇论文，指出一些人脸识别软件识别黑人女性的可能性比识别白人男性的可能性低 35%。
格布鲁与玛格丽特·米切尔一起被 Google 解雇，此前她们与艾米丽·本德共同发表了一篇关于大型语言模型风险的著名论文。格布鲁和米切尔是 Google 伦理人工智能实验室的成员。然而，当一扇门关闭时，另一扇门打开了。因此，她创办了一家独立的研究机构，致力于对抗人工智能中的种族偏见以及人工智能系统的不安全和不加批判的开发。在一篇最近出版的论文中，她追溯了优生学对 AGI 的启发。本质上，这等同于对特定种族和社会群体的乌托邦梦想，其被重新包装以结束人类的苦难。因此，格布鲁推断，AGI 原则上是不道德的，法律专家应该审查那些声称要构建 AGI 的公司。
3. 玛格丽特·米切尔
作为阿达·洛夫莱斯的知识传人，玛格丽特·米切尔在深度学习、自然语言生成以及为轻度认知障碍者和非语言者开发临床和辅助技术方面取得了成就。米切尔在艾米丽·本德的指导下获得了华盛顿大学的计算语言学硕士学位，并在阿伯丁大学获得了计算机科学博士学位。她在微软和谷歌担任过重要的职位，将科学与产业结合在一起。因此，米切尔是微软认知研究小组的创始成员，也是 Google 伦理人工智能实验室和该公司机器学习公平研究小组的共同负责人。
在与蒂姆尼特·格布鲁因与艾米丽·本德合著的论文而被 Google 解雇后，米切尔加入了初创公司 Hugging Face，并参与了 BLOOM 的开发，BLOOM 是一种开源的多语言大型语言模型，在训练数据和内部机制方面具有显著的透明度。作为顶尖的人工智能研究员，米切尔目前是开发大型语言模型的可行伦理框架和减轻由大型语言模型驱动的聊天机器人可能带来的危害的最有能力的人工智能伦理学家之一。因此，她也入选了《时代》杂志 2023 年人工智能领域 100 位最有影响力人物。
4. 乔伊·布瓦拉姆维尼
乔伊·布瓦拉姆维尼，也被称为“代码诗人”，既是艺术家，也是科学家，拥有麻省理工学院的博士学位、牛津大学和麻省理工学院的两个硕士学位以及佐治亚理工学院的计算机科学学士学位。她通过学术出版、创意科学传播、艺术装置和短片制作来处理人工智能的社会影响和危害。令人印象深刻，对吧？布瓦拉姆维尼被《快公司》杂志评为目前最具创意的人之一，被《财富》杂志评为“全球 50 位最伟大领袖”之一，《时代》杂志评为“人工智能领域 100 位最有影响力人物”之一，以及登上两个重要榜单：《福布斯》30 岁以下 30 人和《麻省理工科技评论》35 岁以下 35 人。她还在美国国会听证会上向民选官员提供建议，并且担任全球科技小组成员。
2016 年，她创立了算法正义联盟，以突出“编码凝视”的不公正，并为用户提供一个渠道来举报。布瓦拉姆维尼创造了这个词来标记算法对有色人种的歧视，这种歧视困扰着人脸识别技术。她开创性的博士论文揭示了微软、IBM 和亚马逊等主要公司的人工智能服务中存在种族和性别偏见。然而，她的研究在 2020 年促使这些公司停止向执法部门出售人脸识别技术，发挥了关键作用。当你开始认为所有学者都与现实世界问题脱节，并快乐地被局限在象牙塔中时，请记住布瓦拉姆维尼的学术贡献。
2023 年，她出版了一本全国畅销书《揭开人工智能的面纱：我在机器世界中保护人性使命》，这本书描述了她的旅程，与不关心利润至上的技术开发轨迹交织在一起。
5. 拉卢卡·克里桑
拉卢卡·克里桑来自数据科学领域，而不是计算机科学领域，她是一位务实的女性，她开发了一种测试工具，用于检查和监控数据和软件是否存在泄漏和偏差等问题。克里桑是总部位于伦敦的初创公司 Etiq 的首席技术官和联合创始人，她试图消除算法偏差，并帮助机器学习社区使其结果更加稳健。这反过来又提高了其软件的预测能力，而这在没有这种情况的情况下是不可能的。作为阿默斯特学院、牛津大学和约克大学的校友，克里桑拥有经济学、英语和数据科学的跨学科背景。她还于 2020 年获得了欧洲女性人工智能奖，并于 2021 年被评为“人工智能伦理领域 100 位有影响力的女性”之一。
鉴于依赖于生成式人工智能（如聊天机器人）的企业快速自动化，而这些聊天机器人是在海量未经筛选的数据上进行训练的，人们越来越担心我们的生活将在很大程度上受到影响。人工智能伦理领域的女性提出的担忧突出表明，针对种族和弱势群体的歧视不再仅仅是学术出版物中讨论的理论问题，而是一个残酷的现实。克里桑和她的 Etiq 提出的方法是识别和减轻算法偏差的一种方式。换句话说，这家初创公司的解决方案使团队中的每个人，从业务利益相关者到数据工程师，都能验证其软件中使用的算法是否按预期执行，并最大限度地减少不公平决策的可能性。
