阿什利·布莱恩特-贝克（Ashley Bryant-Baker），Fresh Eyes Digital 数据与分析总监 – 采访系列

阿什利·布莱恩特-贝克（Ashley Bryant-Baker） 是 Fresh Eyes Digital 的数据与分析总监，Fresh Eyes Digital 是一家专注于非营利组织成功的咨询公司。在加入 Fresh Eyes Digital 之前，她曾经营自己的咨询公司 B&B Data Solutions，帮助品牌建立和利用数据解决方案。她在分析领域工作了十多年，涉及的行业包括消费品、旅行、物流、医疗保健和非营利组织。

她已成为关于人工智能中性别偏见、使用人工智能进行客户细分以及工作场所多样性的热门演讲者。她最近被邀请在各种活动中演讲，包括 SXSW、Data Minds Connect 和 Digital Summit DC。阿什利曾就读于巴黎的美国研究生学校、乔治城大学、路易斯安那州立大学和堪萨斯州的福特海斯州立大学。她拥有国际经济学硕士学位、数据科学证书、工商管理学士学位和艺术学士学位。

是什么最初吸引你学习计算机科学和数据科学？

在大学里，我学习艺术，毕业后想从事视频游戏设计师的工作。我计划设计 3D 计算机模型和游戏中的人物和物体。我甚至在大学里为 EA Sports 工作过视频游戏质量保证测试员。由于当时我的大学没有计算机艺术专业，我决定辅修计算机科学来补充我的艺术学位。我最初并不喜欢计算机科学课程。其他学生和一些教授对没有经验的人（像我一样）存在着一种边缘化的态度。我坚持完成了我的辅修，因为我的艺术毕业设计是设计和编程一个工作的视频游戏。我使用 Python 和 Maya 建立了一个 3D 国际象棋游戏，具有行走的棋子和一个简单的人工智能，可以与你对战。当时，我不知道任何关于 Python 的知识，我以为我永远不会再使用它。

快进到我大学毕业后的第一份工作，我在一家营销公司担任初级项目经理。我与一队艺术家、营销专家、制作专家和一位分析师合作，分析师负责管理大约 15 个客户的分析数据。她会偶尔请我帮忙检查她的数学计算或创建简单的报告。当她因病休假几周时，她请她的主管和我是否可以在她休假期间代替她工作。当她回来后，我请求调到她的部门。与数据合作非常有趣。虽然这是一条意外的职业道路，但我没有后悔。我继续学习，参加课程，申请分析工作，以便从他人那里学习。然后，我的职业生涯变得完整，我又开始使用 Python，尽管方式完全不同于以前。

所有这些都说明，我最初是偶然进入数据科学领域的。

您目前是 Fresh Eyes Digital 的数据与分析总监，Fresh Eyes Digital 是一家为非营利组织提供服务的公司。您能否分享一下公司的业务和您在那里所做的工作？

Fresh Eyes 是一家为非营利组织提供营销和筹款支持的咨询公司。我们与客户合作，以了解他们的捐赠者，围绕非营利目标建立数字活动，并帮助非营利组织了解如何提高他们的数字存在，以实现这些目标。Fresh Eyes 聘用我是因为他们想建立一个更强大的数据服务。最初，我作为顾问与他们合作，帮助他们设计数字多变量测试，理解结果，并自动化分析和仪表板服务。现在，我正在与他们合作，建立一套为非营利组织提供的服务。其中一些项目包括预测分析，分析捐赠者和捐赠者在一段时间内的转化率和捐赠率。了解外部因素（如政治气候、经济变化和新闻周期）的影响，以及内部因素（如营销信息策略、非营利影响报告，甚至组织内部领导职位的变动）如何影响转化倾向。这些信息为我们的预测分析、仪表板和分类模型提供了参考，帮助我们更好地了解捐赠者和参与度。

非营利组织正在采用先进的统计方法，并意识到，当他们能够更好地理解自己的影响力和以更结构化的方式筹集资金时，他们就能更好地实现自己的使命。

您最自豪的成就是成为STEM领域多样性和公平的倡导者，您能否分享一些亮点？

有很多优秀的组织致力于STEM领域的多样性和公平：Black Girls Code、ByteBack、DataKind，最近我的联谊会 Zeta Phi Beta Inc. 与 Google (GOOGL ) 合作，培训代表性不足的群体学习计算机和技术知识。我通过志愿服务、指导新进入该领域的人、在活动中演讲（特别是在科技活动中，我经常是唯一的女性或有色人种），以及在学校教工作坊（尤其是在多数少数民族学校、农村学校和替代学校）做出我的贡献。另外，我曾与几家企业合作， diversify 他们的实习项目和入门级毕业生项目。我之所以做这些工作，是因为我从小在一个家庭和社区中长大，志愿服务是日常生活的一部分。我继续在大学和以后通过 Zeta Phi Beta Inc. 做志愿服务。然而，我之所以倾向于这个领域，是因为我没有机会在大学之前学习计算机和编码，当我进入大学时，我记得当我追求计算机科学专业时，我感到的负面情绪。我不希望任何人，尤其是那些试图学习和自我提升的人，经历这种感觉。我不认为我真正意识到我所做的影响，直到我在一个招聘活动中与一群学生交谈时，一位年轻的黑人女孩和她的母亲走过来对我说，我是她们在任何会议或招聘活动中见过的第一位技术黑人女性。那时我才意识到，我必须把这件事变成我的常规工作。

我试图定期参加这些项目。事实上，3 月 16 日，我将与一位了不起的数据科学家和好朋友 Swathi 合作举办一个黑客马拉松，主题是 Girls in AI。

您还致力于扩大农村和/或低收入社区的技术教育。这个问题有多严重？

哇，这是一个巨大的问题！新冠疫情使得我们社会中的一些不平等现象变得非常明显。遗憾的是，教育就是其中之一。我有一个朋友在华盛顿特区郊外的一所替代学校工作。学生们经常年龄较大，需要同时打工和上学，他们在家里可能没有笔记本电脑或台式电脑来进行远程学习。这些学生有一位老师为他们辩护，帮助学校获得移动选项，以便大多数学生可以在手机上访问学校。然而，这并不是低收入或替代学校环境中的常见情况。农村地区的情况也很困难，学生和教师可能很难获得高速互联网，甚至根本没有。学生们不得不在麦当劳的停车场里上网，这是不可接受的，但在某些地区，这是必要的。我认识一些农村宾夕法尼亚州的教师，他们自己无法连接到虚拟教室的互联网。

除了新冠疫情之外，农村和低收入学校还面临着资金不足、技术人才匮乏（尤其是在农村地区，吸引人才很困难），以及对有色人种学生、移民学生，甚至农村学生的偏见等问题。所有这些因素都导致了STEM教育的机会不足。

人工智能中的性别和种族偏见有多严重？

这是所有企业和组织都应该考虑的问题。不幸的是，这是一个难以解决的问题，因为如果人工智能表现出偏见，通常意味着该公司或组织已经在该领域存在模式偏见。人工智能依赖于过去的模式来预测未来行为，并放大这种行为。然而，很难让人们认识到自己的偏见，我们都有偏见，经常无意识地表现出来。需要有系统来减轻这些偏见，并让团队对技术和业务方面负责。

我们如何确保今天的人工智能应用不会放大人类的偏见？

组织可以采取一些步骤来建立数据科学和人工智能的标准做法，以帮助减轻偏见。我无法强调这是技术团队和业务团队之间的协作过程的重要性。上下文对于技术团队来说并不总是可见的，这一点至关重要。

这始于识别潜在的偏见来源。偏见可能发生在数据收集过程中，模型构建的特征选择中，或者完全在数据之外的业务实践中。例如，我曾被一家公司的领导者问及他们的核心受众是否真正是老年、富裕的男性，更多地居住在农村或郊区。我查看了数据，发现他们的数据管道中过度代表了这一群体。但是我还注意到，他们的大部分客户来自相同的媒体来源，保守的谈话电台。我从营销团队的一位成员那里了解到，该公司在这些平台上获得了低成本或无成本的营销，在启动初期。偏见不在数据中，而在营销策略的多样性不足中。然而，结果是他们的数据团队创建的生命周期价值评分模型将老年、富裕的男性评为最好的客户，放大了营销团队所采用的通信策略。这是技术团队不应该负责知道的事情，但他们应该负责询问正确的问题。

这让我想到了第二个步骤，即制定指南来识别和处理偏见。一旦您识别了潜在的偏见来源，组织就应该创建一个检查清单来查找这些问题，并创建一个路径让发现令人担忧的数据或模式的人来解决它们。这不能在真空中完成。确保应用程序不会放大偏见是所有团队的责任。正如上面的例子所示，数据团队没有责任管理通信策略。他们可以帮助确定发现，但然后与组织中的其他团队合作解决问题。在这种情况下，通信团队与数据科学团队合作，测试其他通信策略，以服务于不同的人口统计群体。

当偏见出现在数据模型中时，可能是由于数据团队如何确定特征选择、包含或排除哪些数据，或者预测的指标。 在这些情况下，数据团队必须了解模型准确性并不总是等同于模型公平性。 可能包括某些特征在数据模型中会增加模型的预测准确性，但额外的 0.5% 的准确性可能会以社会或业务成本为代价。 确定什么是公平的并不是一项简单的任务，需要多元化团队的参与。 一种称为“反事实公平性”的方法认为，对于一个个体来说，一个决定是公平的，如果在实际世界和一个反事实世界中，个体属于不同的人口统计群体，决定是一样的。另外，Microsoft (MSFT ) 和 Google AI 已经发布了关于人工智能中公平性的标准。我个人参考了欧盟关于人工智能伦理的指南，我认为这些指南对我的行业来说是相当全面的一套标准。一旦建立了公平的标准，数据团队就可以确定解决方案是预处理数据、在系统做出决定后修改系统，还是将公平定义纳入训练过程本身。偏见问题复杂，需要定期评估和广泛的参与。

您对政府颁布的人工智能和数据伦理政策有何看法？

我认为，通过制定人工智能和数据伦理的标准程序，已经朝着正确的方向迈出了步伐。特朗普关于人工智能伦理的行政命令创建了一个部署在政府内部的模型注册表，建立了政策指导的时间表，鼓励机构雇用技术专注的团队和个人，并鼓励政府在非研发或国家安全领域的人工智能使用中透明度。这在政府中是一个令人兴奋的发展，政府在采用技术方面一直很慢。然而，这些政策并没有做足够的工作来创造一种伦理文化，制定机构范围内的强制或协调计划，甚至定义这些背景下的“伦理”或“公平”到底是什么意思。随着新政府的到来，我会敦促他们用一个更结构化和协调的计划来巩固这些计划，涵盖所有机构，并建立一个评估程序，仔细考虑人工智能对人类的影响，因为政府所做的很多工作都影响着国内外人们的日常生活。

您是否还有其他想分享的关于您在 Fresh Eyes Digital 的工作？

数据科学可以被非营利组织用来增加他们的影响力，他们正在通过很多方式改善我们的世界。对于这些组织来说，收集数据通常不是问题。他们有很多数据需要处理。使用这些数据以清晰和可行的方式是困难的，尤其是对于资源紧张、可能没有内部分析团队的组织。Fresh Eyes Digital 数据部门的工作帮助这些组织了解和部署他们的数据，以做出更明智、更战略性的决策。我很高兴有机会与这些组织合作，帮助他们以积极的方式影响世界。

感谢您详细的答案，我期待您的未来冒险。希望了解更多的读者可以访问 阿什利·布莱恩特-贝克（Ashley Bryant-Baker） 网站和/或 Fresh Eyes Digital 网站，