在Markup调查发现几所大学使用种族作为预测学生成功的因素之后，一所主要的公立大学已暂停使用风险评分。我们的调查还发现，由EAB创建并在全国500所学校中使用的Navigate软件不合比例地将黑人和其他少数民族学生称为“高风险”。实践专家说，这最终迫使黑人孩子脱离了数学和科学进入“更轻松”的专业。
根据我们的报告，德克萨斯农工大学宣布将停止在顾问仪表板上包含此类风险评分，并要求EAB创建不包含种族作为变量的新模型。
“我们致力于所有德克萨斯A＆M学生的成功，”德克萨斯A＆M负责学术事务和学生成功的副教务长TimScott在给TheMarkup的电子邮件中写道。“关于学生成功的任何决定都将以对所有学生公平，公正的方式进行。”
其他学校的反应好坏参半。
故事的另一所学校，马萨诸塞州阿默斯特大学的统计学教授玛丽克拉里·格里芬说，她的学校似乎已拒绝查看某些导航用户的学生风险评分的选项。该校的另一位教授告诉TheMarkup，他们仍然能够查看学生的风险评分。
麻州大学阿默斯特分校的发言人玛丽·迪特洛夫无法证实该学校是否已对其导航系统进行了更改，并拒绝回答有关该故事的其他问题。
休斯敦大学是Markup从四所学校获得的显示风险分数种族差异数据的学校之一，该大学的发言人肖恩·林赛表示，该校并未改变其EAB算法的使用。
原始故事中提到的其他学校-威斯康星大学-密尔沃基大学，南达科他州立大学，德克萨斯理工大学和堪萨斯州立大学-没有回答关于这个故事的问题。
标记从公立大学获得的数据表明，教育研究公司EAB的Navigate软件中嵌入的算法为黑人学生分配的高风险分数是白人学生的两倍，是后者的两倍。风险评分旨在预测学生留在所选专业内的可能性。
在几乎所有学校的Markup考试中，学校使用的EAB算法明确将学生的种族因素纳入了他们的预测模型。在某些情况下，学校将种族作为成功的“高影响力预测指标”，这意味着种族是对学生风险分数影响最大的变量之一。
“EAB坚定致力于公平和学生成功。我们的合作学校对于在其风险模型中纳入人口统计数据的价值持有不同的看法。这就是我们与合作伙伴机构合作以主动审查人口统计数据使用情况的原因，”EAB发言人约翰·迈克尔斯在给TheMarkup的电子邮件中写道。“我们的目标一直是让学校对有助于定制模型的数据有清晰的了解。我们希望确保每个机构都可以按预期使用预测分析和更广泛的平台-为他们的学生提供最佳支持。”
EAB已将其咨询软件作为一种工具销售，以供现金短缺的大学更好地将资源用于最需要帮助的学生，并在此过程中提高保留率，并避免招募学生代替那些需要帮助的学生的额外费用辍学。
但是在TheMarkup所检查的学校中，我们发现，能够获得EAB学生风险评分的教职员工和顾问很少告诉他们如何计算或培训如何解释和使用这些评分。在某些情况下，包括在德克萨斯农工大学，管理员不知道种族被用作变量。
相反，该软件为顾问提供了第一印象，即学生是否处于其所选专业的高，中或低风险中，然后通过一个名为“专业资源管理器”的功能向他们展示了如何如果学生切换到另一个“风险较小”的研究领域，则学生的风险可能会降低。
专家说，设计特征加上风险分数的种族差异，很可能使高等教育中的历史种族主义长期存在，并鼓励有色人种，特别是黑人学生，被鼓励放弃科学，数学和工程学专业。
新美国高等教育和劳动力政策的高级顾问艾里斯·帕尔默研究了大学用来提高留任率的预测分析系统，并为学校考虑是否实施此类系统编写了指南。
她说：“我不认为明确地从算法中退出竞赛可以解决问题或使情况必然有所改善。”“算法可以基于算法中的其他各种因素来预测种族，”例如邮政编码，高中名字和家庭收入等数据的组合。
帕尔默说，使用预测分析来识别最需要支持的学生具有潜在的价值，如果学校实际上以简明易懂的方式培训教职员工算法的工作原理以及软件的解释方式，那么哪些因素导致了每个为学生分配了特定的风险评分。“那真是个大问题。”
她说，学校“需要对不同的影响以及为什么对校园产生不同的影响进行尽职调查。”如果学校在与EAB签订多年合同之前就已经这样做了，那么“他们不会被人觉察到。”
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。