人工智能

对于创业公司和大型科技公司而言,成功的定义长期以来用三个词来概括:曲棍球棒增长。无论是用户还是收入方面的迅速增长,是任何希望扩展规模的公司的梦想。但是,根据Google高级研究科学家Alex Hanna和独立研究员Tina Park最近发表的一篇论文,越来越多的AI研究人员表示,对除盈利以外的目的感兴趣的公司需要考虑超越快速增长的方法。贝太论坛

该论文认为,规模思维不仅是一种发展业务的方法,而且是一种影响该业务所有部门,积极抑制技术和社会参与并“迫使特定类型的参与以采掘或剥削性劳动的方式”的方法。 ”

无论人们是否意识到,规模思维都是无所不包的。它不仅是一个人的产品,服务或公司的一个属性,而且构架了人们如何看待世界(构成世界以及如何观察和衡量世界),问题(值得解决而不是不值得解决的问题),以及针对这些问题的可能的技术解决方案。”

作者继续说,植根于规模思维的公司不太可能像其供应商想象的那样“有效地应对深刻的系统性变化。相反,抵制规模思维的解决方案对于消除位于社会不平等中心的社会结构是必要的。”贝太论坛

这种想法不仅与像Facebook和Google这样的大技术公司的核心思想背道而驰,而且还与媒体和分析师通常评估新兴创业公司价值的方式背道而驰。

本月初,国会发布了一项反托拉斯调查,发现大型高科技公司依靠规模来维持和加强数字经济中的垄断。一个司法部(DOJ)提起诉讼周二起诉谷歌,第一个针对大型高科技公司在二十年来,还点通过个人用户数据的算法和收集的一个关键因素,在政府决定起诉字母实现规模公司。

反对派包括Y Combinator联合创始人Paul Graham,AWS首席技术官Werner Vogels和Google前首席执行官Eric Sc​​hmidt等规模传福音者,在DOJ诉讼中被引述为“规模是Google强大搜索能力的关键”。

汉娜(Hanna)和帕克(Park)认为,嵌入规模思维的思想是,可扩展性在道德上是好的,而无法扩展的解决方案在道德上是贫穷的。作者说,这就是为什么大型高科技公司对人工智能如此看重的部分原因。

大型科技公司花费大量时间聘请开发人员,他们可以设想可以通过算法实现的解决方案。伸缩性差的代码和算法被视为不理想且效率低下。Big Tech中许多最突破性的基础设施开发都是那些增加可伸缩性的开发,例如Google File System(以及随后的MapReduce计算架构)以及分布式和联合机器学习模型。”贝太论坛

Hanna和Park还认为规模思维是短视的,因为它要求公司将资源和人员视为可互换的单位,并鼓励用户进行数据化,以便“找到将个人合理化为清晰数据点的方法”。“这种方法可能导致系统不能平等地服务于每个人,并对那些无法采用这种规模解决方案的人的生活产生负面影响。”

该论文还指出,规模思维是增加来自不同背景的雇员的雇用或留用率的一种无效方法。自从今年早些时候的布罗娜·泰勒(Breonna Taylor)和乔治·弗洛伊德(George Floyd)等黑人美国人的死亡导致种族正义的呼吁以来,许多大型科技公司已致力于实现多元化目标,但是多年来,进步几乎是不可察觉的。本文中的例子包括倾向于集中于偏见研讨会或其他包容性指标,而不是公司中边缘化人员的经验。

作者建议采用“相互帮助”之类的方法,而不是使公司的北极星规模扩大,在这种方法中,企业采用相互依存的模型并承担满足个人直接物质需求的责任。互助的思想部分源于在COVID-19大流行之后兴起的各种支持系统。

该论文写道:“规模思维强调抽象和模块化,而互助网络则鼓励具体化和联系。”“尽管互助不是我们可以考虑摆脱以规模思维为基础的协作工作安排的唯一框架,但我们发现它是理论和追求的富有成果的一种。”

除了探索互助之外,本文还鼓励开发人员对他们创建的任何系统提出问题,例如它是否使人们试图拆除的社会系统合法化或扩展,是否鼓励广泛参与,是否集中权力或在其中分配权力开发人员和用户。

这些建议与AI社区成员最近几个月提出的一系列以伦理为中心的技术模型相一致。其他方法包括反殖民AI的思想,该思想拒绝算法压迫和数据殖民化,酷似机器学习,数据女权主义,并基于非洲Ubuntu(Ubuntu)哲学哲学构建AI,Ubuntu致力于人与自然世界的互联互通。贝太论坛

本月早些时候发布的“数据与社会”入门级文章也有“好意图,坏发明”,目的是消除有关构建技术和改善用户福祉的最佳方法的常见神话。

该论文在本周的一次计算机支持的合作工作和社交计算(CSCW)会议研讨会上得到了强调,题为“反对规模:对规模思维的挑衅和抵抗”。在批判性地写规模之前,谷歌的汉娜(Hanna)和同事在2019年末发表了一篇论文,认为算法公平社区应该将关键种族理论视为审问人工智能系统及其对人类生活影响的一种方式。