<kbd id="267gcoga"></kbd><address id="jbaehblx"><style id="9od3ff6l"></style></address><button id="1h6dze8q"></button>

          跳到内容 跳到导航

          Research & Ideas

          站内搜索

          这是比较合理的:一个人还是机器?

          一组研究人员利用人类决策的变化在机器学习模型两个缺陷补偿:保在未知和不可知。

          Laptop with an image of scales displayed on the screen

          做出判断:AI能帮助我们颠覆无意识的偏见? |插图由Stefani的帐单

          企业,政府和组织在世界各地使用人工智能来帮助着以前留给人的判断决策。

          他们的期望:即托换AI算法更有效,更公平的比是仁至义尽。

          但如何做到人与机器的公平性方面的比较;即,使给定资料的最优决策?原来,科学不能肯定地说。人类很容易发生种种偏见,但算法有自己的挑战。

          这些开始算法是如何训练的,喂养它们“标签”的数据。训练计算机发现猫狗之间的差别,例如,该系统是标有“猫”和“狗”,直到算法能够做出未标记的图片,区分美联储图片。它的麻烦,然而,训练计算系统来执行需要人为判断的任务。

          机器学习专家可以找到人类制造过去的决定的例子,这些饲料的算法,但我们只能养活电脑有关已知结果的信息。

          我们无法知道如果决定走了另一条路会发生什么。计算机科学家称这个问题“选择性标记”。

          有培训计算系统作出判断第二个挑战是:有可能是没有办法知道所有影响人类决策者,其过去的行为提交给了算法的因素。计算机科学家称这个问题“未观察到的信息。”

          计算机科学家已经知道,这两个相关的挑战,并试图将其考虑在内。但在一个新的文件, 朱尔·莱什科韦克,计算机科学副教授,和合作者提出了一种新的方法来此训练的难题:研究人类决策者其过去的例子将是训练组合的一部分的跟踪记录,并选择让那些过去的决定似乎期望的,如果模糊,结果,如公平

          希马lakkaraju,博士生计算机科学在申博体育,与leskovec工作在这种新的方法,他们的过程中,设计 共同创作一篇科学论文 约的情况下选择性标记和未观察到的信息中发生:授予或拒绝保释指控犯罪被告和待审的过程。

          这样的决定历来由法官作出的,但近年来也通过算法,以帮助使系统更加公平,从而更好地更好,更公平由此目标。根据法律规定,被告推定为无罪,直到被证明有罪,保释一般授权,除非被告被认为是飞行的风险或对公众构成危险。

          但在决定是否批准保释比猫狗之间的区分更加复杂。培训体系仍然表现出人类做出的算法过去的决定。培训师可以标注由人法官批准保释被告是否出庭或跳过镇。但没有标签,以确定谁被拒绝保释,并关进了监狱,但将有弃保潜逃了,他们已经释放了被告。换句话说,标记的结果是有选择性的:更容易对一些被告比其他人存在。

          同样,人的判断可以通过似乎是合理的,但不能由培训材料被记录变量的影响。 leskovec提供了一个法官谁使记在脑子里,被告的家人是否出现在法庭上表示支持的例子。但是训练系统可能无法捕捉,在法官的判决起到了关键的部分原因未观察到的信息。算法绝不会记录所有的“软”提供给法官的信息,怎么可能算法进行更好/更公平的决定?

          leskovec和合作者建议采取什么似乎像人的问题,可变性和不透明度的判断,并使其成为培训系统的输入。他们的方法驾驭人类法官之间的自然变化,从最宽松的人类训练使用的判断系统,然后挑战性的算法做的更好。从最宽松的法官,谁释放最被告学习,算法能够发现产生更好/更公平的决策规则。

          除了保释设定,研究人员认为这种方法可以在其它基于判断的情况下应用;例如:

          • 银行业。 在这里,增加公平性水平可能涉及着力培养AI以防止红线贫民区。这是为了避免因为默认的实际的或可能高风险低收入地区的非法的,但普遍的做法术语。申请斯坦福修复,嗳培训师可能会搜索出有利可图的借贷成功的例子在低收入地区,并以此来训练算法。
          • 医学。 病人就诊的医生抱怨喘息和咳嗽。医生必须决定是否症状是温和得足以把病人家里没有规定一个强大的和昂贵的哮喘药。标记的结果是温和的后患者是否得到更好的治疗或两周内哮喘发作回来。但有关成果的信息不适用于对他们来说,医生做出的选择,开出有效的药物的人。在这种情况下,增加公平性水平可能包括正在调查记录发现,在这方面很棒的赛道记录医生的新途径。
          • 教育。 在一些学区,教师可以决定是否陷入困境的学生分配到补救程序或其他教育干预。虽然我们可以看到分为干预学生的结果,我们无法看到是否有其他学生,谁不采取干预措施的候选人,会做有选择性标记的额外帮助,问题比较好。再次,使这更公平意味着在训练例子更仔细地寻找,以确保该算法被送入最好的例子。

          这些例子中的共同点是,决策者深思熟虑的选择决定哪些结果是已知的。

          “让我们想方设法给成熟的决策者在教学机的额外重量,” leskovec说。 “这是烘焙的最佳实践到AI系统的一种方式。”

              <kbd id="e8271ow4"></kbd><address id="dic716jp"><style id="vwdknz1v"></style></address><button id="3jekkxwe"></button>