钱教授课堂第875课——趋势投资

算法歧视

美国亚马逊公司2014年曾经开发一套“算法筛选系统”，帮助公司在招聘时筛选简历。工作团队开发出500个模型，同时教算法识别50000个曾经在简历中出现的术语，以让算法学习在不同能力间分配权重。久而久之，公司发现算法对男性应聘者有明显的偏好，当算法识别出“女性”相关词汇时，便会给简历相对较低的分数，最终公司停止了该算法的开发和使用。原来，亚马逊公司员工以男性为主，用来训练算法的老师带有很强的性别偏差，从而造成算法的歧视。