在去中心化的社交网络中，社区可以设置自己的审核策略，但有哪些工具可以执行？ 没有中央权威来做出网络范围的审核决定。 相反，内容通过接口、算法、社会共识和协议约束的相互作用进行过滤。 这篇文章着眼于去中心化审核的技术方法，并指出可以使用更多实验和研究的领域。

电子邮件是最古老、最成功的去中心化协议之一。发送的电子邮件中近 85% 是垃圾邮件，但生态系统已经演变为向用户隐藏了大部分垃圾邮件。在较新的去中心化社交协议中，Mastodon（290 万用户）和 Matrix（1800 万用户）已经达到了真正开始出现节制问题的规模，因此一直在做大量工作来减少滥用。相比之下，许多 p2p 社交网络很小，但在缺乏服务器级控制的情况下，他们尝试了新颖的审核方法。 （有关联合和 p2p 网络架构的比较，请参阅我在去中心化社交网络上的帖子。）
我将介绍一些分散的审核策略：

• 第三方工具
• 相对信誉系统
• 机器学习解决方案
• 经济激励
• 阻止名单/允许名单
• 支持第三方工具

去中心化网络可以提供等同于锁定开放中心化平台 API 的开发者体验，保证访问和交换数据的标准方式。然而，建立在流行的去中心化网络上的应用程序仍然需要提供可用的 API 来鼓励其他开发人员为它们构建。在 Mastodon 和 Matrix 中都出现了支持开发第三方审核工具的需求。
Mastodon 在 2019 年向管理界面添加了一个 API，以允许第三方工具帮助为服务器管理员构建处理骚扰和垃圾邮件的解决方案。 Matrix 构建了 Mjolnir，这是一个独立于服务器实现的审核机器人，以帮助服务器管理员完成审核任务。
任何新的去中心化社交网络应用程序，预计到这一要求，在设计时都应该考虑到可插入的审核工具的 API。

相对信誉系统

中心化的社交网络可以为平台上的声誉建立单一的真实来源。在去中心化的社交网络中，单一的声誉来源不太可行或不可取。去中心化网络更有可能使用根据用户在网络中的位置而不同的相对声誉系统。
Matrix 目前正在试验一种相对声誉系统，该系统允许任何人对网络实体或内容产生主观评分，并将其发布为声誉提要。用户可以以任何方式组合这些提要以生成他们自己的声誉评分系统。用户界面可用于可视化和切换过滤。他们对这种方法的第一次尝试，可共享的二进制禁止列表，已经使用了一年。
Web-of-trust 系统是另一种基于相对信誉进行过滤的方法。信任网络根据用户的社交图确定信任。例如，交互可能仅限于相隔 n 度的用户。安全 scuttlebutt 基于信任网络，因为只有来自指定距离内节点的数据才会存储在用户的设备上。 Iris 是另一个使用信任网络来过滤内容的 p2p 社交网络。用户投票的帐户成为他们的 1 级信任网络连接。
Twitter 等中心化平台可以执行用户验证，提供蓝色复选标记等信号。由于没有中央权威，因此在去中心化网络中无法进行此类验证。相反，可以通过将多个现有身份源链接在一起来建立用户身份。 Mastodon 交叉引用链接用户放在他们的个人资料中以确认他们是该网站的所有者，如果他们是，则显示一个复选标记。 Matrix 允许用户将第三方标识符（例如电子邮件地址和电话号码）链接到他们的 Matrix id。目前还没有为用户提供验证的去中心化社交网络服务，但可以创建这种声誉服务。第三方服务可以证明他们已经确认的用户身份的属性，服务器可以选择使用来自他们信任的服务的证明。
相对声誉系统仍在不断发展，并且可能不会有一个系统适用于所有情况，因此设计多个声誉源以进行组合对于面向未来的去中心化网络很重要。

机器学习解决方案

集中式社交平台以及 Gmail 等流行的电子邮件客户端使用贝叶斯过滤器和机器学习等方法来对抗垃圾邮件和过滤内容。这些策略严重依赖集中的训练数据。在分散的社交网络中，不清楚如何在不围绕 Gmail 等大型提供商进行集中的情况下产生这些结果。目前，联合社交网络中的垃圾邮件仍然是一个难题，基于机器学习的解决方案未得到充分利用。 Mastodon 维护者 Eugen Rochko 已提出向任何提出 Mastodon 垃圾邮件检测实施方案的人支付报酬。
在保护用户隐私的同时创建全局过滤器的一些想法：

• 跨服务器管理内容的全网络内容聚合器，以及将垃圾邮件和审核信号作为服务提供回服务器
• 选择加入垃圾邮件过滤服务，用户在将垃圾邮件移至垃圾箱时自愿将其上传到该服务
• 在私有数据集上运行的训练方法，例如联邦学习

在分散的社交网络中聚合数据并产生卓越的内容过滤和管理的服务将在网络/电子邮件协议生态系统中占据类似于 Google/Gmail 的位置。届时，去中心化倡导者面临的挑战将是防止此类参与者的锁定和市场主导地位。

经济威慑

除了拥有良好的检测系统之外，另一种防止垃圾邮件和不需要的内容的方法是使其在计算或财务上的生产成本高昂。
添加对消息发送的计算要求可能会对垃圾邮件造成瓶颈。 Hashcash 是一种工作量证明算法，它启发了比特币的挖矿系统，最初是作为一种限制电子邮件垃圾邮件的方式提出的。它在电子邮件中附加了“邮票”，这是一种在计算上比检查更难生成的证明。 Aether 是一个类似于 reddit 的 p2p 社交网络，它要求用户的计算机对每个帖子进行类似的计算，以限制大量垃圾邮件。

集成了加密货币的去中心化社交网络可以轻松地为用户操作添加小额支付。一个极端的例子是 Twetch，每次用户创建帖子、喜欢帖子或关注用户等操作时，它都会收取几美分。这种机制的一个不太严厉的版本可能是在用户 DM 不关注他们的人时收费，或者在他们创建的帖子被版主删除时收费。
对垃圾邮件和不需要的内容收取费用是一种在某些网络中未充分利用而在其他网络中过度使用的机制。达到适当平衡的去中心化社交应用程序可以使用一种强大的方法来抑制不良内容。

阻止名单/允许名单

当在去中心化网络中实施审核的所有其他尝试都失败时，回退通常是一个许可名单。试图屏蔽不良行为者的阻止列表是第一道防线，但会陷入需要持续警惕的猫捉老鼠游戏中。不良行为者可能会不断启动新服务器或创建新帐户以逃避阻止列表。
如果目标是实现完全的网络去中心化，最终得到一个受管理的许可名单是一种不受欢迎的结果，因为它可能会对新进入者产生偏见——但如果去中心化只是实现比中心化替代方案更多样化和更具竞争力的生态系统的一种手段，它可以是一个可以接受的妥协。无法阻止任何人参与去中心化网络，因为按照设计，任何人都可以实施协议，但维护许可名单可以围绕谁被正式视为网络成员来强制执行社会契约。
Mastodon's Server Covenant 是一种许可名单形式，它要求希望在“加入 mastodon”主站点上列出的服务器遵守某些标准。 Mastodon 网络中的各个服务器也可能维护许可名单，以确定它们连接到哪些其他服务器，并且用户可以选择阻止整个域从他们的视野中看到。
对于电子邮件，有发送垃圾邮件的服务器的公共阻止列表。最受欢迎的阻止列表由 Spamhaus 和 Spamcop 等专门防止垃圾邮件的公司运营。如果去中心化的社交网络足够大，就会出现类似的服务。
许可名单和阻止名单几乎总会在某种程度上得到适应，因此主动设计它们以使其成为网络治理结构的一部分可以预测未来的一些问题。
这不是去中心化审核策略的详尽概述，而是涵盖了我一直在考虑的一些事情。随着时间的推移，我可能会添加它。有没有让您觉得特别有趣或引人注目的分散审核策略？

原文：https://jaygraber.medium.com/designing-decentralized-moderation-a76430a…

本文：