Predictim保姆审核机制出错 导致千夫所指

2018年11月30日08:04:47 发表评论 6 浏览

  Facebook,Instagram和推特已经开始限制向Predictim提供数据流,Predictim是一家将机器学习技术应用于保姆筛选的初创公司。这表明在Predictim运作机制被媒体曝光并招致大量批评之际,社交媒体巨头们也在采取措施同该初创公司划清界限。

  Predictim声称其用“先进的人工智能技术”来评判保姆能否胜任工作。这包括了梳理分析保姆的Facebook,Instagram和推特使用记录并据此对其性格进行自动评估。公司表示这能判断出该保姆候选者是否有恶习,是否会霸凌或侵扰其他人,甚至是否会有糟糕的工作态度。

Predictim保姆审核机制出错 导致千夫所指
Predictim

  有专家批评Predictim的服务并不科学,众所周知机器学习并不能可靠地分析这样复杂的数据。人工智能也许能够胜任识别照片中的物体或将手写数字化,但它同样不能可靠地理解语调和语言中的细微差别,例如挖苦和笑话。专家还指出Predictim的软件并不会解释是怎么得出相关结论的,也就是说一名合格的保姆可能会毫无缘由地丢掉工作并且得不到任何解释。

  Facebook、Instagram和推特在过去几周已经采取行动对抗Predictim的服务。Facebook声明由于Predictim违反了禁止利用用户信息筛选求职者的开发者协议,将限制该公司访问Facebook和Instagram的用户数据。本周早些时候,推特撤销了Predictim的API访问权,其发言人表示:“我们严格禁止将推特的数据和API用于监控目的,包括背景调查。”

  作为回应,Predictim联合创始人兼CEO Parsa声称通过社交媒体和搜索引擎对应聘者进行背景审查是业内通行做法,唯一不同的是该公司的软件将这一过程自动化了。Parsa还指出,这些社交媒体巨头采取行动的背后还有更深层的原因,它们希望独享海量的用户数据并以此牟利。

  无论如何,在可以预见的未来还会有更多公司提供这种由人工智能驱动的审查服务。专家担心将重要的决策工作交由不能理解人类言行和解释自身思维的算法来做是极不明智的。

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: