滚动
财经>财经要闻

FTC首席技术专家Ashkan Soltani关于算法透明度和对抗偏见机器人的斗争

2019-07-24

FTC首席技术专家Ashkan Soltani关于算法透明度和对抗偏见机器人的斗争

asoltani-headshot
阿什坎·索尔塔尼(Ashkan Soltani)于10月成为联邦贸易委员会的首席技术专家,他将算法透明度作为其既定目标之一。 该机构正在聘请研究人员测试自动在线服务中的偏见。 照片:ashkansoltani.org

2012年,华尔街日报公布了Staples Inc.在线定价实践的详尽结果。事实证明,客户为办公设备付款的部分原因在于他们居住的地方。 调查显示,斯台普斯网站内置的一种算法无意中向居住在竞争对手商店附近的顾客提供折扣价,或者说惩罚那些住在更远的地方的顾客。

对于那些阅读“华尔街日报”备受关注的故事的人来说,这是一个闪光灯时刻:这是一个清晰的例子,说明自动计算机系统如何对我们的生活和钱包产生直接影响。 参与调查的记者之一是Ashkan Soltani,他是一名隐私和安全研究员,后来为华盛顿邮报工作,在那里他是普利策奖获奖团队的成员,该团队报告了国家安全局的监视活动。

如今,Soltani仍然关注算法和他们掌握的权力,但他正在以更公开的身份解决这个问题。 10月,他被任命为联邦贸易委员会的首席技术专家,在那里他推动了“算法透明度”,他的既定目标之一。 他承认这是一个让一些公司感到紧张的概念 - 专有算法是硅谷的生命线 - 但他表示,他并不是要退出科技行业的神奇幕后。 他只是想看看引擎盖下。

索尔塔尼本周在华盛顿与国际商业时报进行了交谈,他阐述了需要更多地了解和纠正计算机算法中隐藏的偏见。

国际商业时报:什么是“算法透明度”,为什么它很重要?

Ashkan Soltani:无论我们是否知道,我们每天都在与算法进行交互,无论是我们在网上浏览还是看到广告弹出,或者我们正在搜索内容,或者我们正在与之通信我们在社交网络上的朋友。 当我们使用约会网站查找匹配时,一些程序员决定编写一个算法 - 显示和显示哪些信息。 事实上我们正在与这些算法进行交互:一,人们可能不知道它,两个,它们可能以某种方式存在偏见。

IBTimes:科技公司通常说他们的算法是专有的,他们无法揭示它们是如何工作的,因为这会泄露商业机密。 你如何回答这个答案?

Soltani:这不是必须交出你的源代码或交出秘密酱的情况。 我认为可以通过断言和测试偏差来完成很多工作。 所以在过去,我的工作突出了公司根据用户所在的位置收取不同的价格。 该研究的目标是每个人都可以与金钱联系起来。 我认为公司可以进行自我测试,或者像我这样的研究人员可以自我测试,并断言算法是否表现出任何偏见。 这就是这个想法,创建一个框架,通过这个框架,算法的设计者 - 至少是那些在信用和住房,工作和医疗保健等敏感领域工作的人 - 都会注意并测试可能存在的偏见。他们的系统。

staples 零售商Office Depot和Staples的股票周三暴跌,此前有消息称该公司计划终止其计划的合并,此前美国联邦法官因反垄断问题而下令该交易暂时停止。 照片:路透社

IBTimes:当您与科技公司讨论这个问题时,您会得到什么样的回应?

索尔塔尼:我认为它有所不同。 有些公司已经这样做了。 你看看谷歌,在那里围绕玻璃天花板和性别偏见进行了大讨论。 他们对自己的招聘实践进行了大数据研究,发现事实上他们在招聘时确实存在性别偏见,因此他们可以从根本上调整或纠正这一点。 我认为有些公司是积极主动的。 其他公司根本没有注意到这一点。 这是一个非常新的问题。 只是在过去的10年里,我们已经习惯了所有的交互都在进行算法治理,而且最近公司正在抓住这样一个事实,即无论是有意还是无意,他们的算法都会发挥一些作用。

IBTimes:你提到故意。 那么,如果你发现一家公司正在做一些有意的事情,或者为了自己的利益,甚至是出于更加邪恶的原因,你会看到FTC有什么作用呢?

索尔塔尼:美国联邦贸易委员会有许多工具,他们可以从 下来看待这一点 - 从竞争到欺骗到不公平。 我认为这取决于具体事实。 我的职责是帮助提高对确定存在的偏见的认识并开发工具。

IBTimes:自从你接手以来,你为推动这项事业做了什么?

Soltani:最重要的事情之一是首先在该机构建立更多的研究能力。 我们在“华尔街日报”上做的这项研究花费了数月,数月和数月,以及一些人。 我想在这里做的其中一件事就是雇佣那些不断进行这种工作的团队。 作为一部分,我们启动了这项研究计划,并正在招聘技术研究协调员,技术研究人员和一些将要通过的实习生。

IBTimes:是否有一个组成部分有助于提高公众的认识? 我听过有关“这些东西能让公众真正了解多少能够获得多少关于这些事情的辩论?”这是一种识字辩论。

索尔塔尼:事实并非如此。 我和其他像我一样的人,无论是对政策制定者,甚至是新闻编辑室,对于记者来说,都要深入挖掘和理解 - 深入了解并了解您所关心的问题的最重要因素。 我认为技术面临的许多挑战是人们对技术有些恐惧。

IBTimes:他们只是希望它能够在大多数情况下发挥作用。 这就像你的车。

Soltani:是的,所以对于你的车,你不需要在你的车上工作,但你需要知道它是你的发动机还是你的轮胎爆胎。 你需要有足够的信心知道什么时候你应该把它带到轮胎店或机械师那里。

IBTimes:你认为这些公司有一些试验和错误的倾向吗? 我想起Facebook的名言,“快速行动,破坏事物。”这几乎就像他们第一次接受错误的混乱一样?

索尔塔尼:我不知道是否有太多或太少。 有一种快速行动的趋势。 所以他们的价值观是不惜一切代价快速行动,但你可能会说,你可以快速行动并确保X或Y也得到维持......我将在未来几个月内写一篇关于这个的帖子来解释更多关于我的意思,因为有些人问我们,“你的意思是公司交出他们的源代码吗?”但这不一定是我们需要做的。

IBTimes:我认为如果你只是听到“透明度”这个词,它会是怎么回事。

Soltani:也许“问责制”可能是一个更好的术语。 在一天结束时,公司对确保人们理解并且他们没有偏见感兴趣,因为您冒的是消费者信任。

本次访谈的编辑篇幅长,清晰。 Christopher Zara是一位涵盖媒体和文化的资深作家。 新闻提示? 给我发电子邮件。 在Twitter上关注我


载入中...

责任编辑:相喹攴