AI驱动的DAO正在兴起:值得关注的5个挑战

作者:William M. Peaster,Bankless

编译:白水,金色财经

早在 2014 年,以太坊创始人 Vitalik Buterin 就开始考虑自治代理和 DAO,当时这对于世界上大多数人来说仍然是一个遥远的梦想。

在他的早期愿景中,正如他在《DAO、DAC、DA 等:不完整的术语指南》一文中所描述的那样,DAO 是去中心化的实体,「自动化在中心,人类在边缘」——依赖于代码而不是人类的层次结构来保持效率和透明度的组织。

图片

十年后,Variant 的 Jesse Walden 刚刚发表了「DAO 2.0」,反思了自 Vitalik 早期著作以来 DAO 在实践中的演变。

简而言之,Walden 指出,最初的 DAO 浪潮通常类似于合作社,即以人为中心的数字组织,并不强调自动化。

尽管如此,Walden 继续认为,人工智能的新进展——尤其是大型语言模型 (LLM) 和生成模型——现在有望更好地实现 Vitalik 10 年前预见的去中心化自治。

然而,随着 DAO 实验越来越多地采用人工智能代理,我们将在这里面临新的影响和问题。下面,让我们来看看 DAO 在将人工智能纳入其方法时必须应对的五个关键领域。

转变治理

在 Vitalik 最初的框架中,DAO 旨在通过在链上编码治理规则来减少对分层人类决策的依赖。

最初,人类仍处于「边缘」,但对于复杂的判断仍然至关重要。在 Walden 描述的 DAO 2.0 世界中,人类仍然徘徊在边缘——提供资本和战略方向——但权力的中心逐渐不再是人类。

这种动态将重新定义许多 DAO 的治理。我们仍然会看到人类联盟对结果进行谈判和投票,但各种运营决策将越来越多地受到人工智能模型的学习模式的指导。目前,如何实现这种平衡是一个悬而未决的问题和设计空间。

最大限度地减少模型错位

DAO 的早期愿景旨在通过透明、不可变的代码来抵消人类偏见、腐败和低效率。

现在,一个关键的挑战是从不可靠的人类决策转向确保人工智能代理与 DAO 的目标「保持一致」。这里的主要漏洞不再是人为勾结,而是模型失调:人工智能驱动的 DAO 针对偏离人类预期结果的指标或行为进行优化的风险。

在 DAO 2.0 范式中,这种一致性问题(最初是人工智能安全圈中的哲学问题)变成了经济和治理方面的实际问题。

对于当今尝试基本人工智能工具的 DAO 来说,这可能不是一个首要问题,但随着人工智能模型变得更加先进并深入融入去中心化治理结构,预计它会成为审查和完善的主要领域。

新的攻击面

想想最近的 Freysa 竞赛,人类 p0pular.eth 欺骗 AI 代理 Freysa 误解其「approveTransfer」功能,从而赢得 47,000 美元的以太奖金。

尽管 Freysa有内置的保护措施——明确指示永远不要发送奖品——但人类的创造力最终超越了模型,利用提示和代码逻辑之间的相互作用,直到人工智能释放资金。

这个早期的竞赛示例强调了,随着 DAO 融入更复杂的人工智能模型,它们也将继承新的攻击面。正如 Vitalik 担心 DO 或 DAO 被人类勾结一样,现在 DAO 2.0 必须考虑对 AI 训练数据或即时工程攻击进行对抗性输入。

操纵法学硕士的推理过程、为其提供误导性的链上数据或巧妙地影响其参数可能会成为「治理接管」的新形式,其中战场将从人类多数投票攻击转向更微妙和复杂的人工智能利用形式。

新的中心化问题

DAO 2.0 的演变将重要的权力转移给那些创建、训练和控制特定 DAO 底层人工智能模型的人,这种动态可能会导致新形式的中心化阻塞点。

当然,训练和维护先进的人工智能模型需要专门的专业知识和基础设施,因此在未来的一些组织中,我们将看到方向表面上掌握在社区手中,但实际上掌握在熟练专家手中。

这是可以理解的。但展望未来,追踪 AI 实验的 DAO 如何应对模型更新、参数调整和硬件配置等问题将会很有趣。

战略与战略运营角色和社区支持

Walden 的「战略与运营」区别表明了一种长期平衡:人工智能可以处理日常 DAO 任务,而人类将提供战略方向。

然而,随着人工智能模型变得更加先进,它们也可能逐渐侵入 DAO 的战略层。随着时间的推移,「边缘人」的角色可能会进一步缩小。

这就提出了一个问题:下一波人工智能驱动的 DAO 会发生什么,在许多情况下,人类可能只是提供资金并在一旁观看?

在这种范式中,人类是否会在很大程度上成为影响力最小的可互换投资者,从共同拥有品牌的方式转向更类似于人工智能管理的自主经济机器的方式?

我认为我们将在 DAO 场景中看到更多的组织模型趋势,在这种模型中,人类只是扮演被动股东而不是主动管理者的角色。然而,由于对人类有意义的决策越来越少,而且在其他地方提供链上资本变得越来越容易,随着时间的推移,维持社区的支持可能会成为一个持续的挑战。

DAO 如何保持积极主动

好消息是,上述所有挑战都可以积极应对。例如:

  • 在治理方面——DAO 可以尝试治理机制,为人类选民或人类专家轮流委员会保留某些具有高影响力的决策。
  • 关于不一致——通过将一致性检查视为一项经常性运营费用(如安全审计),DAO 可以确保 AI 代理对公共目标的忠诚度不是一次性问题,而是一项持续的责任。
  • 关于中心化——DAO 可以投资于社区成员更广泛的技能建设。随着时间的推移,这将减轻少数「人工智能奇才」控制治理的风险,并促进技术管理的去中心化方法。
  • 关于支持——随着人类成为更多 DAO 中的被动利益相关者,这些组织可以加倍努力讲故事、共同使命和社区仪式,以超越资本配置的直接逻辑并保持长期支持。

无论接下来发生什么,很明显这里的未来是广阔的。

考虑一下 Vitalik 最近如何推出 Deep Funding,它不是 DAO 的努力,而是旨在利用人工智能和人类法官为以太坊开源开发开创一种新的融资机制。

这只是一项新实验,但它凸显了一个更广泛的趋势:人工智能和去中心化协作的交叉正在加速。随着新机制的到来和成熟,我们可以预期 DAO 会越来越多地适应和扩展这些人工智能理念。这些创新将带来独特的挑战,因此现在是开始准备的时候了。