数据科学家凯西•奥尼尔认为,我们应该警惕不断渗透和深入我们生活的数学模型——它们的存在,很有可能威胁到我们的社会结构。
我们生活在一个依赖“算法”的时代,它对我们生活的影响越来越大,我们去哪里上学,我是不是应该贷款买车,我们应该花多少钱来买健康保险,这些都不是由人来决定的,而是由大数据模型来决定的。从理论上来说,这一模型应该让社会更加公平,每一个人的衡量标准都是一样的,偏见是不存在的。
但是,正如凯西•奥尼尔书里所揭示的那样,事实并非如此。我们今天所使用的这些数学模型是不透明的、未经调节的、极富争议的,有的甚至还是错误的。最糟糕的是,数学模型和大数据算法加剧了偏见与不公。例如,一个贫困学生想申请贷款交付学费,但是银行大数据算法根据他居住地的邮政编码判断将钱带给他存在风险,因此,拒绝给他提供贷款。他因此失去了受教育的机会,而这个机会可能帮助他摆脱贫困。大数据算法做的常常只是锦上添花的事儿,有时甚至是落井下石。
通过个案追踪,凯西•奥尼尔揭示了大数据是如何影响我们将来的,它不仅影响着个人,也影响着整个社会。这些数据评价着我们的老师、学生,筛选着我们的简历,审核着我们的贷款资格,衡量着员工的工作态度,监视着投票者,监控着我们的健康。
凯西•奥尼尔呼吁数据模型的创造者们要对算法负责,政策的制定者及执行者们在使用这一威力极大的“武器”前应该更加慎重。最后,作者指出,大数据几乎掌控着我们的生活,我们应该增加对它的了解。这本书相当的重要,它让我们有能力去问一些十分尖锐的问题,帮助我们了解事实的真相,提出需要改变的地方,探索更好的生活。
【编辑推荐】
案例丰富,内容兼具深度与话题性
未来20年,算法和大数据将席卷世界,接管我们的生活、社会和经济。我们生活中的很多方面都将落入自动化的数据分析之下。确保算法和大数据的公平性将是一项重大的任务,数据伦理的价值和意义将不断凸显出来。在作者看来,大数据犹如一个黑盒,规模、伤害和隐秘共存,她在书中引用了大量发生在美国当下的、基于大数据和算法的、改变个人生活的案例,并对影响这些城市生活经验的算法做了特别的观察和研究。作者认为,数据和算法的关系就像枪械和军火,数据没有价值观,是中立的,但来自人类行为的输入,难免隐含偏向,而算法创造的数据又对人类行为产生反作用,从而导致更多的不公。凯西在书中指出:算法模型一旦运转,执法行为就会增多,产生的新数据又会进一步证明加强执法的必要性。形象地说,就是哪里“前科”越多,哪里就越受算法“关照”,最终形成一个失真,甚至有害的回馈环路。这个观点也正是近来Facebook干预美国大选,国内很多专家学者热议“今日头条”推送模式的核心所在。
权威作者的深刻洞见
本书作者是哈佛大学的数学博士,研究方向是数论和代数几何,毕业之后在麻省理工学院执教,并在互联网公司做过很长时间的数据科学家,如今致力于教育和媒体行业的数据知识普及工作,因此,这并不是一本传统意义上唱衰大数据的书,相反,作者希望让更多的人通过了解大数据、了解算法,反思模型,以及通过政府和相关机构的合理监管,不断改善各类设计评价体系,让更多的人受益,维护社会的公平与民主。
【英文版获奖情况】
《纽约时报》(New York Times)年度书籍
《波士顿环球报》年度最佳图书
《连线》杂志年度必读书目之一
《财富》年度最受欢迎的书之一
《柯克斯评论》年度最佳作品
芝加哥公共图书馆年度最佳图书
《自然》网站年度最佳图书
《麻省理工科技评论》年度最佳科技图书
##case有点意思,比较冗长
评分##举了很多例子,说了一个道理。
评分##把算法的缺点放大到极致,影响到教育、理财、就业、社会管理,几乎是生活的各个领域,本质上是效率和公平的问题,个体、阶层、地域的差异很可能会被算法一刀切带过。算法可以解放人类劳动,但并不意味着可以一劳永逸地把决定权交给机器,所以需要及时反馈和改进模型。具有偏见的和陷阱性的替代变量,加上信息使用和算法的不透明则使得算法具有欺骗性,因此适当的自律和监管是有益的。
评分这是一本很牵强,有偏见的书. 作者作为数据科学家给我的感觉就是害怕数据.数据本身是没有好坏的,到了人的手里有不同的用法. 书中举的由于模型偏见带来的问题,我感觉作者是在讨好中下阶层的人.或许这些人才是这本书的受众,可以把自己的不行归结到社会上. 整本书也没有给我更多的启发, 我也没有看到作者会为此做出切合实际的行动或者建议. 书名能吓人, 给偏见找一个帮凶(这本书是数据),提出一个可以泛泛而谈的问题,却没有实际建议. 这本书十分糟糕 说实话,模型不是万能的,需要透明化不断调整。这个观点我赞同,但让算法跟公平牵扯在一起讨论就很牵强了。算法是真实的,但公平是不存在的,
评分这是一本很牵强,有偏见的书. 作者作为数据科学家给我的感觉就是害怕数据.数据本身是没有好坏的,到了人的手里有不同的用法. 书中举的由于模型偏见带来的问题,我感觉作者是在讨好中下阶层的人.或许这些人才是这本书的受众,可以把自己的不行归结到社会上. 整本书也没有给我更多的启发, 我也没有看到作者会为此做出切合实际的行动或者建议. 书名能吓人, 给偏见找一个帮凶(这本书是数据),提出一个可以泛泛而谈的问题,却没有实际建议. 这本书十分糟糕 说实话,模型不是万能的,需要透明化不断调整。这个观点我赞同,但让算法跟公平牵扯在一起讨论就很牵强了。算法是真实的,但公平是不存在的,
评分##数据大杀器就把你我当成待宰的羔羊,而这种情况我们恰恰无能为力。
评分##case有点意思,比较冗长
评分##在地铁上快速读完了,令人意外,还挺好看的。我们正处在一个从现实世界向数字世界迁移的过程中,数字世界是少数人创造,奴役多数人的世界。算法,或者说各种自动化系统,是数字世界提高效率的关键。这些算法为谁服务?这是核心问题。算法的不透明,大规模,损害,其实只是权力的不透明/大规模/损害的体现。算法也要透明,闭环,个人化,每个人都需要带上自己的算法武器,对抗政府的算法霸权。
评分##1、公平是模糊的,很难量化,关键在于如何界定公平;2、作者提到,“电子评分建模者回答的是,像你这样的一类人过去的行为表现如何。理想情况下,应该问的问题是,你过去的行为表现如何。但是这很难区分;3、作者认为,“数据越多越好是信息时代的指导原则,但是考虑到社会公平,一部分数据理应被排除在外”。 怎么办:1、确保信用评分的公平性;2、确保消费者可以看到数据档案对评分的影响,禁止在信用评分中纳入种族或者性别因素;3、参考欧洲模式:规定收集任何数据都必须经过用户的批准,用户有选择权,禁止将数据用于其他目的;4、对生活有重大影响的模型,包括信用评分系统和各类电子评分系统,都应该对公众公开
本站所有内容均为互联网搜索引擎提供的公开搜索信息,本站不存储任何数据与内容,任何内容与数据均与本站无关,如有需要请联系相关搜索引擎包括但不限于百度,google,bing,sogou 等,本站所有链接都为正版商品购买链接。
© 2025 windowsfront.com All Rights Reserved. 静流书站 版权所有