Content Control

Content Control

与Jillian C. York采访,作者 硅价值观:监督资本主义下的自由言论的未来.

Facebook Loeschzentrum(“删除中心”)的工作人员在柏林(Soeren Stache / Picture Alliance通过Getty Images)

预订是关于新书的一系列采访。对于这一版本,妮可弗罗奥谈到了Jillian C. York,作者 硅价值观:监督资本主义下的自由言论的未来 (Verso)。

 

妮可弗洛奥: 硅值 充满了关于当前社交媒体和内容审核状态的观察。您以语音控制的方式识别类结构。你能告诉我一点关于讲话的企业垄断吗?为什么危害社会运动?

Jillian C. York.: 从历史上看,国家和宗教一直是控制人们可以,不能说,惩罚他们的思想,惩罚他们的行为,以及他们的话。硅谷公司已成为第三机构。他们提出了一组新的参数。在他们的平台上,谁对我们讲话的决定的人不是人,我们选出的,或者说我们对他们的信心相信,但这样的人马克·扎克伯格。他们以“是”的人围绕着自己。

在Facebook正在占据这一角色的早期,在决定可能并且不能说的房间比我认为更多样化,至少在性别方面。但其他方式有很多多样性。大多数政策制定者都来自上层上层背景,许多是常春藤联盟毕业生。今天,一些Facebook的行政级别政策制定者有执法或政府背景。

由于这些公司已经更大,因此他们已经自动化了很多这些内容审核过程。有时它是雪缘网首页人类主持人,有时它是一台机器,但它是一种自动化过程,即很快就做出二元决定。开关。删除/保持。

社会运动的所有不同方式都使用社交媒体让门打开了雪缘网首页社交媒体公司,以使内容降低。你有人发布了活动。你有人捕捉他们所看到的东西的镜头。你有人报告了此刻正在发生的事情。如果您从抗议活动和暴力发生,那么您的视频将被删除。背景无关紧要。你看到有人的镜头;屏幕空白。或者让我们说你拍摄对巴勒斯坦的抗议活动,有人走过谁碰巧有雪缘网首页真主党国旗。这会下降,因为自动化工具检测到属于恐怖组织的标志。如果整个抗议是关于别的东西,那并不重要;因为雪缘网首页元素在那里,它会下降。这些工具影响示范的方式通常是偶然的。但我不喜欢把它称为意外,因为我认为这是粗心的,通过让人们制定这些决定,没有注意细节或更深入地了解背景。

Froio: 其中一部分与您在这些公司内嵌入了U.S.帝国主义。关于社交媒体的判决以及在全球南方的删除影响抗议者的删除是什么,因为这些公司并不真正关心其他国家的细节。

约克: 我们可以争辩说,这些公司根本不应该存在,但我是雪缘网首页现实主义者;互联网是全球性的,就像这些公司一样。但他们并没有将近乎足够的资源放入理解本地环境中。缅甸是雪缘网首页明显,众所周知的例子。该国有约5500万人的人口,但Facebook并没有关注它。然而,到2013年,由于该国开始开放,记者和研究人员开始向Facebook通知Facebook,并对罗兴亚州的人们进行蓬勃发展的种族灭绝,并且仇恨在平台上传播。 Facebook没有任何关于它的事情。他们没有雇用更多的内容版主。当他们最终做了行为时,这是愚蠢的小举措,“这是你应该如何谈论仇恨言论。”毫无介意在缅甸在Facebook上讨论仇恨的人是权力的人。

谈到内容审核时,重要的是考虑扬声器。如果是你的普通人,就像夏洛斯维尔的雪缘网首页右权利一样,我认为有有效的论据不能让仇恨讲话。但是当你谈论一般或总统时?那是讲话更重要的时候。然而,这些公司已经翻了一翻来了这一点,让人们留下了左右,但留下最强大的最强大。

有时内容审核不够远。有时它太多了。几周前我收到了一些信息,Facebook拥有一系列国家,其中它缩写了某些LGBTQ工具或功能。像2017年推出的用户推出的特殊骄傲标志“喜欢”按钮 - 该功能根本不在国家的子集中使用。这似乎似乎并不重要,而是对我来说,通过建立雪缘网首页分开的系统,它正在积极破坏其他国家的LGBTQ运动。该清单包括几乎所有穆斯林 - 多数国家,也包括俄罗斯和印度。谁在做出这个决定,为什么?他们基于它是什么?这是低期望的偏见 - 这家公司无法信任其产品的众多人。

Froio: 很多这些规则似乎是任意的,但它们也植根于美国文化。我认为这本书中最有趣的章节是关于性工作的雪缘网首页,以及美国公司视为我们身体的偏差尸体或偏离部分。

约克: 我来自美国,但我和嬉皮士父母长大,他们对自己的身体漂亮,我做了剧院,因为你必须快速改变衣服。所以我是雪缘网首页少年的时候看到了很多赤裸的身体。但我也在20世纪90年代中期长大,当时布兰妮斯皮尔斯和女学生服装丑闻。对我来说,这是很多混合的消息,这是雪缘网首页让我在第雪缘网首页主题对这个话题感兴趣的一种。作为雪缘网首页成年人,我搬到了摩洛哥,每个人都更加保守,而女性在浴室里完全赤身裸露,现在我在德国,我可以拿走我的顶级,没有人会留下狗屎。我经历了很多不同的裸体文化概念。

有很多活动家之间有一种涉及自由表达的活动家,以分离性行为的裸体,而是通过我们感到羞耻的期望来看,他们深表联系。谈到在美国性行为时,脱衣舞俱乐部已被接受,但在Instagram上,如果您是一位运动杆舞者,则会被审查。社交媒体规则比美国的现实生活规则更为谨慎。他们责怪他们的全球社区。从字面上说,它在规则中说:“我们不会因为我们的全球社区而表现出来。”但我也谈到了雪缘网首页人在Facebook上说是因为“总是有胸部。”但他们有技术过滤器。为什么不仅仅有雪缘网首页胸部开关? “胸部关闭。”

这么大地归功于父权制:我们允许妇女要做什么。我不想解雇参与性工作的人的现实,但这些公司的大部分问题是女性的裸体在线,女性在线工作,包括跨妇女。对我来说,这些公司都是由男性经营的。

Froio: 有雪缘网首页真正的双重标准。在Tiktok上,我看到很多男人发挥着对抗妇女的暴力幻想,而且我所知道的性工作者并不被允许发布某些事情,因为他们会直接禁止禁止账户,但使他们的内容无法进入其他人用户。

约克: 性行为和暴力的标准如此不同。抽搐时允许暴力的视频游戏,但你不能显示一丝乳头。我在德国做性行为的大多数朋友都不依赖互联网。当它归结为此时,他们实际上有其他选择,与美国的许多不同。但是当大流行击中时,每个人都在网上陷入困境。我的几个朋友是令人难以置信的滑稽的舞者,他们开始了雪缘网首页抽搐的节目,但第三周后他们被开始了。他们甚至穿着馅饼,但乳房太多了。 Twitch出来的政策应该是跨包容的,但由于这些规则,公司看起来更糟:他们现在禁止像“女性乳头”这样的东西。

希望社交媒体帮助推动了这个问题,不仅是因为我们可以在社交媒体上讨论它,而是因为这些公司已经揭露了某些事情仍然是多么荒谬。

Froio: 正如您所指出的那样,有些社交媒体对运动非常有用。 Donna Haraway曾经在互联网上说,你可以成为你想要的任何人。而且你就瓦尔Ghonim撰写了一章我错了。”所以,出了什么问题?

约克: 我认为每个人都应该有雪缘网首页声音。但我不认为我们是人类为所有这一切做好准备 - 成为全球谈话的一部分。当我想到跨越最复杂的文化线时,他们往往不是国家的国家,他们是世代的。作为雪缘网首页较旧的千禧一代,我有时会发现与一些年轻的zoomers谈论比我从埃塞俄比亚的年龄与我的年龄交谈更难。这是关于我们长大的东西以及我们如何教授。事情可能有机会在某些时候 - 如果我们可以减慢“进步”一点点。

Froio: 纯粹的内容数量变得非常难以处理。

约克: 我会喜欢雪缘网首页推特,只让我每天五次发布。

Froio: 在你的书中提到两次,你一直认为这些公司根本不应该控制言论。然后你改变了主意。导致了什么?

约克: 在基本一级,我仍然认为这些公司应该控制我们的演讲。但只要他们这样做,我们需要弄清楚他们做得更好的方式。在看到Gamergate如何,白色至上的人的崛起,甚至在网上空间展开,我意识到这些公司有责任。他们不能只是让每个人都做他们的事情,因为这不起作用,人们受伤了。

左右2017年,我开始与其他群体联盟合作,关注内容适度,试图弄清楚一些共同点。因为有很多分歧。例如,许多美国民权团体希望看到更多的仇恨言论而不是煽动的仇恨言论,而且我并没有载有这一点。我明白他们来自哪里,我不一定是那个能够挡住的人,必然是,但我认为现在人们正在思考短期;这是完全可以理解的,但它并没有做好政策。但我们可以在一起试图更好地制作这些流程。

雪缘网首页重要的工具是上诉的权利。如果你发布的东西被删除,你认为不应该是,人类需要看那个。这是任何司法系统的核心组成部分。另一部分是透明度。例如,我们需要知道,“恐怖分子”这些公司正在使用什么 - 如果它基于政治化或有问题的美国定义,则能够尝试改变这一点。 Facebook在这里有雪缘网首页选择:它可以做更多的工作来确定谁真的危险,我们不允许的群体。相反,它保持了这个非常秘密的列表。任何时候你把它放在桌子下面,都会容易发生灾难。正如我们从中看到的那样 报告参加 Guardian,您已经有内容主持人,培训才能记住面孔。例如,他们需要从指定的恐怖主义组织(如Hezboll Leader Hassan Nasrallah)以便能够识别它们并以积极的方式删除对他们说话的内容来了解​​某些人物。我只是没有看到这是如何以一致方式行动的政策。

Froio: 有关AI适度的坏事,有关人类适度的坏事。有没有更好的方法可以把它们带到一起?

约克: 一名前Facebook员工告诉我,有两种不同的内容审核。有二进制文件的东西:是胸部还是不呢?然后有内容的东西。在这一点上可以通过自动化进行自动化处理二进制东西。但我仍然认为,对于大多数情况来说,该选择应该在用户手中,而不是在集中内容审核系统的手中。所以,如果我们在谈论胸部,让用户关闭Boob交换机。如有必要,Facebook本身可以遵守当地法律。

然后有真正可怕的东西。儿童性虐待图像是令人憎恶的。这个世界上没有空间。处理的方式是由法律实施和标记的方式分类和识别,并以可以创建匹配的方式标记。法律实施将图像提交到国家缺失和被剥削儿童的国家中心运行的数据库,这些图像被标记为“哈希”,然后将“哈希”提交给数据库。该公司采用人工智能来识别与数据库中的图像相匹配,并在显示之前自动删除它们。该系统工作,并应继续工作。但是,当谈到恐怖主义时,我们正在处理雪缘网首页棘手的话题。我们需要看到一些事情来理解,其他人真的需要看到。所以你仍然需要人类触摸。你不能只是把一切扔给自动化。但是您可以使用自动化进行第一次检查。为人类排序。做出预测。你可以在循环中拥有雪缘网首页人,但不是作为第雪缘网首页响应。

Froio: 我们中的许多人都是互联网公民。我们在这些非常有缺陷的社交媒体平台中建立了社区,但他们仍然是我们的社区。我不想看到那里的骚扰。在给予人们的时候,它看起来像是这样工作的?

约克: 我们现在拥有的最大问题之一是这些平台之间缺乏竞争。 Twitter实际上是与两位大玩家相比的小家伙:Facebook和谷歌。他们拥有纤维,并一直在获取其他公司。他们是阻止我们有替代选择的人。正如Twitter所在的问题,我认为这比许多其他公司都更好。但它也是雪缘网首页更简单的平台。

用户动力的运动是什么样的?我希望看到更多的用户带入政策制定过程。您可以从世界各地聘请各种用户选择,并使他们为那些了解您的产品的公司以及理解问题的公司工作。还有其他想法,如Facebook的监督委员会(由公司提供资金的机构,而是由公司独立经营,并且任务由Facebook或公众提交的疑难内容审核决策)。我们需要更多的想法。但为什么这个董事会在Facebook不是25%的美国人的时候25%?更适想的是,我认为我们正在谈论从头开始创建雪缘网首页新的平台或平台。我不认为我将成为那个这样做的人,但我留下了这个页面为下雪缘网首页人开放。


妮可弗洛奥 是哥伦比亚 - 巴西新闻工作者,研究员和作家。她撰写了关于流行文化,暴力侵害妇女,不平等,正义,数字文化和书籍的运动。

Jillian C. York. 是一名作家和活动家,其工作审查了技术对我们社会和文化价值观的影响。位于柏林,她是国际言论自由的董事 电子前沿基础,雪缘网首页人 互联网中心&欧洲大学的人权维度和欧洲诺洛林学院的访问教授。


利马