面向 Solana HFT 的低延迟架构

面向 Solana HFT 的低延迟架构

面向 Solana HFT 的低延迟架构
数据不断到达,应用用于决策的价格却仍然过时。在 Solana HFT 应用中,既要检查计算本身花费的时间,也要检查已接收的数据在参与决策之前等待了多久。之前的更新可能还在等待处理,某次日志写入可能尚未完成,另一个市场的更新也可能正在持有锁。代码的组织方式会改变这些等待。
本文通过五种模式,追踪收到的数据在哪里等待,以及设计改变后哪些工作可以继续向前推进。你也可以从与自己应用相符的症状入手,直接阅读对应章节。
应用中出现的现象需要检查的设计
应用运行越久,未处理的数据越多1. 到达速率、处理速率与等待上限
保存记录时,无法处理下一个价格2. 将决策必需的工作与分析日志分离
市场A的更新让市场B的更新等待3. 拆分保护独立状态的锁
每次数据到达都重复相同的准备工作4. 提前准备不变的部分并重复使用
连接恢复后,决策仍然使用旧值5. 区分连接恢复与决策状态恢复
每一节末尾都提供了可复制的指令,用于将相应改进应用到你的程序中。可以把它交给能够读取项目代码的 AI 代理。
图中的数据条数、价格、操作次数和持续时间都是用于说明的模型,不代表实测性能或交易结果。
点击图解即可查看原尺寸图片。

1. 对比到达量与处理能力,并设置等待上限

假设应用在每个等长的时间区间内接收六个事件,并能处理其中两个。第一个区间结束时,还有四个事件未处理。数据等待处理的地方就是队列。
六个圆点表示六个到达的事件。其中两个已处理,另外四个仍在队列中,留到下一个区间。
处理工作正在推进,但仍有四个事件尚未用于决策。
现在按相同的比例,将到达量放大到60,000个事件。处理20,000个后,还剩40,000个等待。图的右侧每个点代表100个事件,每组100个点代表10,000个事件。两组已处理,四组仍在等待。
左侧每个点代表一个事件:六个事件中两个已处理,四个等待。右侧每个点代表100个事件,每组包含100个点:60,000个事件中20,000个已处理,40,000个等待。
右侧的分组用于表示数据量,并不代表应用按这些批次进行处理。
下一个区间开始时,已有40,000个事件在等待。又到达60,000个,处理20,000个后,剩下80,000个。再下一个区间结束时,积压达到120,000个。新到达的价格必须排在队列中已有的工作之后等待。
每个区间到达60,000个事件、处理20,000个事件时,未处理的积压从40,000增长到80,000,再到120,000。
只要到达量持续超过处理能力,积压就会不断增长。
队列有助于吸收突发流量,也就是数据在短时间内集中到达的情况。增大队列容量,无法解决本例中这种持续的处理能力不足。除了保留的条目数和字节数,还应观察最旧条目已等待多久,并设定可接受的上限。如果已不满足所需的新鲜度,即使没有丢失更新,也应暂停依赖这些值的新交易决策。
达到上限后应该怎样处理?下一张图中,八个可用位置全部占满后,又到达了两个更新。如果这两个更新无法保留,而且是决策所必需的,应用就无法正确更新自己保存的值。应暂停依赖这些值的新交易决策,待所需更新恢复后再继续。
八个保留位置已满,导致两个决策必需的更新无法保留。缺失的更新使受影响的交易决策暂停。
队列设计也必须明确达到上限之后的行为。
检查能否减少工作量或提高处理能力。如果消费者只需要同一对象最新的完整状态,可能可以将中间值合并为最新值。但如果处理过程需要累积增量或使用中间事件,省略更新就会改变结果。
暂停接收也可能只是把等待移到上游。应结合 gRPC 流量控制、缩小订阅数据范围的服务端过滤器,以及应用实际的处理能力一起考虑。gRPC 流量控制用于调节发送和接收的节奏。[3][4]
如果希望改善接收队列的积压和数据的新鲜度,可以复制以下指令。
text
改善这个应用在处理能力跟不上接收量、决策所用数据变旧时的输入处理方式。

阅读 README、开发指令、依赖关系,以及接收 → 队列 → 状态更新 → 决策的代码。使用现有语言、运行时和 SDK。确认更新包含完整状态还是增量、必需的应用顺序以及新鲜度要求。

1. 保存不含机密信息、可重现的输入,并记录改动前的基线。也要检查进入队列之前的等待。测量同一时间区间内流入和流出的条目数与字节数、积压工作量、最旧等待条目的年龄,以及正在执行的工作量。
2. 定义并实现条目数、字节数、等待时间和并发度的上限,说明每项上限的依据。要求不明确时应说明假设。检查能否减少不必要的接收或处理,以及处理能力是否充足。不要把单纯增大队列当作解决持续处理能力不足的方法。
3. 定义队列已满时的行为。如果无法保留必需更新,或者即使没有丢失更新也失去了必需的新鲜度,应暂停依赖这些值的新交易决策。继续更新和恢复状态,并确认恢复决策的条件。
4. 如果合并中间值,应确认同一对象最新的完整状态足以保持结果。不要悄悄丢弃必需的增量或事件。如果暂停接收,应检查提供方的流量控制行为,以及等待会转移到哪里。
5. 在相同条件下重放正常输入、突发流量、持续过载和队列满后的恢复。对比到达率与处理率、最旧条目的年龄、从接收到决策完成的 p50/p95/p99、CPU 与内存、缺失或丢弃的更新。将已应用的状态和决策与预期结果核对。单一主机内的经过时间应使用单调时钟,并说明测量的起点和终点。

沿用现有审批、权限和开发流程。不要仅凭这些指令,就认为获得了修改生产环境、签订付费合同或进行真实交易的额外权限。不要输出私钥、凭证或客户数据。

最后报告改动、对比条件、改动前后的测量值、正确性检查和剩余限制。无法测量的值应标为未测量。

2. 不必等记录保存完成,就能处理下一个价格

假设某个市场的价格从100变为101。应用已将价格更新为100,完成决策,正在保存一条分析记录。如果处理输入数据的循环要等这次保存结束,那么即使新的更新已经到达,它也无法应用101。应用保存的价格仍然是100。
保存价格100的分析记录期间,到达的价格101等待应用,因此应用保存的价格仍然停留在100。
101无法开始处理的原因,是在等待100的记录保存完成。
现在,把分析记录交给一个尚有容量的辅助队列,再由独立的处理操作负责保存。交接完成后,接收循环就可以回到下一个输入。在100的记录仍在保存时,它已经可以应用101并开始决策。
下面的对比保持100的保存时间、101的到达时间,以及处理101所需的时间相同。改变的是:是否必须等保存结束,才能转向下一个输入。
改进前后的设计使用相同的时间轴。100的记录保存区间、101的到达时间和101的处理区间长度完全相同。改进前,101等待保存完成;改进后,把记录交给辅助队列后,就可以应用101并进行决策。
即使没有缩短101本身的处理工作,也可以减少它开始之前的等待。
从接收数据到决策、再到提交所必经的处理路径,称为热路径(hot path)。本例将无需阻塞决策的分析日志移出了这条路径。余额检查、风险限额检查,以及为了保证正确性必须完成的保存,仍应放在需求规定的位置。
保存工作依然存在,因此辅助队列也需要容量和等待时间上限。独立任务不一定运行在独立的 CPU 上。Tokio 中长时间占用 CPU 或发生阻塞的操作,以及 Node.js 事件循环中的长时间同步操作,都可能阻碍其他工作的推进。移动工作时,要确认它实际上在哪里执行。[1][2]
如果希望把分析记录的保存等待从决策路径中分离,可以复制以下指令。
text
改善这个应用中因等待分析记录保存完成,而无法应用下一次更新或将其用于决策的问题。

阅读 README、开发指令、依赖关系和接收循环。使用现有语言、运行时和存储库。找出等待保存完成的位置,确认工作实际运行在哪些线程、任务或事件循环中。

1. 准备不含机密信息、可重现的输入。记录接收、状态应用、决策开始与完成、保存开始与完成的时刻,以及当前结果。
2. 根据要求确认保存完成是否是决策或恢复的前提。余额检查、风险检查和正确性必需的持久化必须保留在需要的位置。分离那些可以稍后保存完成的分析记录。
3. 定义记录的交接方式,防止后续状态变化改变要记录的值。实现有界辅助队列和负责保存的消费者。说明条目数、字节数、等待时间上限;队列满、保存失败、重试和关闭时的行为;以及记录保留要求。在保留要求尚不明确时,不要丢弃记录。
4. 不要假设单独的任务就会运行在另一颗 CPU 上。检查同步 I/O 和长时间 CPU 工作实际在哪里执行。如果使用 worker 等机制,应限制并发度,并把转换、复制和交接等待纳入评估。
5. 使用相同输入和到达节奏,重现正常保存、慢保存、失败、辅助队列已满和关闭。对比从接收到决策完成的 p50/p95/p99、保存端的等待与积压、CPU 与内存、缺失或重复记录。验证状态和决策的正确性,以及记录保留要求。单一主机内的经过时间应使用单调时钟,并说明测量的起点和终点。

沿用现有审批、权限和开发流程。不要仅凭这些指令,就认为获得了修改生产环境、签订付费合同或进行真实交易的额外权限。不要输出私钥、凭证或客户数据。

最后报告改动、对比条件、改动前后的测量值、正确性检查和剩余限制。无法测量的值应标为未测量。

3. 不要让独立更新等待同一把锁

假设应用可以独立更新市场A和市场B的价格。A的更新开始后,B的更新到达。如果同一个 mutex 同时保护A和B,B就必须等A释放这把锁。
mutex 是互斥锁,同一时刻只授予一个操作访问受保护数据的权利。如果其他操作正在使用它,试图获取同一把锁的操作就需要等待。[17]
市场A的更新持有共享锁期间,市场B的更新到达。B在粉色区间内等待,并在A释放锁的位置开始更新。
B的数据已经到达,却在等待A持有的共享锁。
如果A和B各自修改不同的值,一种选择是用不同的锁分别保护它们。下一张图的上半部分使用共享锁,下半部分使用独立锁。上下两部分中,A和B的到达位置及持锁时间完全相同。本例假设B的锁空闲,且有可用于执行B的处理能力。Tokio 官方教程也介绍了针对独立键数据的 mutex 分片。[18]
上半部分中,市场A和B使用共享锁;下半部分使用不同的锁。上下两部分中,A和B的到达位置及持锁时间完全相同。上半部分中,B等待A释放锁;下半部分中,B在数据到达时就开始更新。
B的蓝色条带长度相同。消除的是它前面的粉色等待区间。
蓝色条带表示从获取锁到释放锁的时间。本例中,A仍在更新时,B就已完成。拆分锁无法消除B自己的锁被占用造成的等待,也无法消除其他工作占满可用执行资源造成的等待。
拆分锁之前,先明确哪些更新相互独立。即使A和B的价格可以分别更新,使用两个价格或共享余额的决策,仍需要一致地读取所需值的机制。即使在同一线程上,操作在 await 处挂起期间,值也可能改变。应定义一次决策读取哪些版本、如何读取,以及更新按什么顺序应用。
例如,如果A和B读取同一个余额并各自构建订单,二者可能都打算使用同一笔资金。共享值仍需单独保护,例如由一个唯一的所有者依次为每个订单检查余额并预留资金。
另一种选择是让每份状态只有一个更新所有者,再把更新消息发送给它。这就是 Single Writer 原则。拆分锁与选择单一写入者是两个独立的设计决策。LMAX Disruptor 介绍了 Single Writer 和处理依赖关系,Tokio 则介绍了通过向专用任务发送消息来管理状态。[5][18]
如果希望减少独立更新之间的锁等待,可以复制以下指令。
text
改善这个应用中某个市场或键的更新,让另一个独立更新等待同一把共享锁的问题。

阅读 README、开发指令、依赖关系,以及读写状态、获取锁或通过 await 等待其他工作的代码。使用现有语言和运行时。确认谁负责更新每个值,以及每次决策读取哪些值的组合。

1. 保存不含机密信息、可重现的输入,并记录改动前的基线。对于存在争用的锁,记录各键的到达、获取等待、持有时间、更新顺序,以及决策所用的状态版本。
2. 区分可以独立更新的值和必须一起保护一致性的值。拆分保护独立状态的锁,明确各键的应用顺序和写入责任。控制锁或处理负责方的数量,避免无限增长。
3. 保护跨市场决策,以及共享余额或资金预留。将余额检查和资金预留作为一个协调的操作确认,防止多个订单分别假设同一笔资金都可使用。如果需要多把锁,应定义获取顺序。
4. 检查 await 前后的状态变化,以及并行解码的完成顺序。定义决策读取哪些版本、如何读取。不要让解码完成顺序替代必需的应用顺序。拆锁后仍需检查执行资源限制或同一键的争用是否继续造成等待。
5. 使用相同输入和到达顺序,重放独立键、单一键集中更新、共享资金预留竞争,以及工作暂停和恢复的情况。对比锁等待、从接收到决策完成的 p50/p95/p99、CPU 与内存。验证必需的更新顺序、决策时状态的一致性,以及没有重复预留资金。单一主机内的经过时间应使用单调时钟,并说明测量的起点和终点。

沿用现有审批、权限和开发流程。不要仅凭这些指令,就认为获得了修改生产环境、签订付费合同或进行真实交易的额外权限。不要输出私钥、凭证或客户数据。

最后报告改动、对比条件、改动前后的测量值、正确性检查和剩余限制。无法测量的值应标为未测量。

4. 提前准备不变的部分,减少数据到达后的工作

假设每次价格更新,应用都会解析同一个固定ID,用相同输入推导固定地址,并分配工作内存。这种工作内存也称为缓冲区。重复进行这三项准备,就把处理不变信息的时间放到了每次决策的路径上。
输入不变的准备工作,可以在数据到达前完成并重复使用。数据到达后,应用检查本次事件中发生变化的信息,构建最终要发送的消息,并对该内容签名。
数据到达前,解析固定ID、推导固定地址并分配工作内存。数据到达后,应用检查当前价格和其他可变信息,将其与固定部分结合,确定最终内容,然后签名。
将不变的准备工作提前,同时把对当前内容的验证和签名保留在数据到达之后。
数一数处理三个更新时会发生什么。每个事件都准备三类内容,需要九次准备操作。只准备一次这三类内容,再按顺序重复使用,只需要三次。两种设计都仍然接收三个事件,逐个处理,并产生三个输出。
上方设计对三个事件分别进行三类准备,总计九次操作。下方设计只准备一次相同的三类内容,再按顺序重复使用,总计三次操作。两种设计都接收、处理并输出三个事件。
本例中,事件数仍然是三个,而固定准备从九次减少为三次。
这个对比假设固定条件不变,而且工作内存可以按顺序安全复用。每次仍然需要用当前事件更新其中的内容。如果多个操作并发执行,应为每个操作使用独立区域,或通过管理访问权限的内存池,避免相互覆盖同一块内存。
将同一个例子扩展到1,000个事件。每个事件都准备三类内容,需要3,000次准备操作;共同准备只做一次,则需要三次。两种设计都接收1,000个事件,逐个处理,并产生1,000个输出。要区分准备次数与实际处理的事件数。
两种设计都接收、处理并输出1,000个事件。左侧为每个事件重复准备,共进行3,000次固定准备;右侧复用共同准备,只进行三次。每个灰色小方格代表一次准备操作,右侧圆圈将相同的三个小方格放大五倍。
减少的是重复的固定准备。验证、决策、签名及其他工作依然存在,因此这些次数的比例并不等于整个应用的加速比例。
需要定义复用持续有效的条件。如果推导固定地址的某个输入改变,就必须重新计算地址。价格、数量、余额、引用的账户状态、风险限额和 blockhash,都必须在决策使用时有效。如果应用维护持续更新的本地状态,就要检查其版本、新鲜度和有效性。这不一定意味着每次决策都要通过 RPC 重新获取全部数据。
Solana 的 getLatestBlockhash 会返回 blockhash 及其 lastValidBlockHeight。检查过期时,要区分区块高度与 slot。[7] 签名前先确定消息的最终内容。如果签名后修改了消息,就要针对更新后的内容重新生成签名。[19]
如果希望提前执行并复用不变的准备工作,可以复制以下指令。
text
检查每次输入都重复进行相同解析、地址推导或内存分配的工作,并把可复用的准备提前到接收之前。

阅读 README、开发指令、依赖关系,以及接收 → 准备 → 决策 → 消息构建 → 签名的代码。使用现有语言、运行时和 SDK。确认每项准备的输入、输出、所有者和有效期。

1. 保存不含机密信息、可重现的输入。记录事件和输出数量、每项准备的执行次数与耗时、分配的内存,以及从接收到决策完成的时间。
2. 找出输入不变的准备,在初始化或其他适当的较早阶段执行,并复用其结果。实现复用键、输入或配置变化时的失效与重算,以及缓存和缓冲区池的上限。
3. 根据当前输入更新可复用的工作内存。对于并发工作,使用独立区域或受管理的借用,避免仍在使用的区域被覆盖或归还。
4. 根据决策要求验证价格、数量、余额、账户状态、风险条件和 blockhash。使用持续更新的本地状态时,检查版本和新鲜度。在 Solana 中,通过 lastValidBlockHeight 检查 blockhash 过期时,应区分区块高度与 slot。先确定最终消息,再签名;如果签名后内容改变,应对更新后的消息重新签名。
5. 使用相同输入,对比准备次数与耗时、从接收到决策完成的 p50/p95/p99、CPU 与内存以及输出。还要重现输入或配置变化、过期和并发执行,检查是否复用了过时结果或发生内存冲突。不要把准备次数的比例当作整体提速倍数。单一主机内的经过时间应使用单调时钟,并说明测量的起点和终点。

沿用现有审批、权限和开发流程。不要仅凭这些指令,就认为获得了修改生产环境、签订付费合同或进行真实交易的额外权限。不要输出私钥、凭证或客户数据。

最后报告改动、对比条件、改动前后的测量值、正确性检查和剩余限制。无法测量的值应标为未测量。

5. 缺失必需更新后,不要继续进行决策

假设同一资产有两个市场,应用计算价格差 B−A。断开连接期间,市场A从100变为105,应用错过了这次更新。如果重新连接后只收到B的价格104,就会计算104−100,结果为+4。使用A更新后的值,计算结果则为104−105,即-1。连正负号都变了。
应用错过A从100到105的变化,仅收到B的104后,将 B−A 计算为+4。在同一比较时点使用已应用A更新的值,结果为-1。
同样的计算,会因为使用A的旧值100还是更新后的105而产生不同结果。
这个模型只展示价格差,没有包含手续费、成交条件或其他因素,也不代表交易利润。重点在于:恢复连接,并不一定意味着恢复了决策所需的全部更新。
在本例中,应先暂停使用A和B价格的新交易决策,再用恢复得到的105替换A的旧值100。接着,确认决策所需的更新都已应用到A和B,并满足要求的顺序和新鲜度条件。只有必要检查全部完成后才恢复;如果无法完成检查,就继续保持暂停。
市场A的旧值100被替换为105,再与市场B的104一起进入独立的一致性检查。必要检查通过后恢复决策,否则继续暂停。
要把更新数值与确认这些数值可以用于决策分开处理。
一种常见的恢复机制是快照,即某一时点的状态集合。将快照与连续更新流衔接时,要明确哪些更新已包含在快照中,以及之后应应用哪些更新。这能避免重复应用已包含的增量,或遗漏衔接边界处的更新。具体方法必须遵循所选 API 对订阅开始、标识、重新获取和重放所提供的保证。
Yellowstone 消息包含 slot 和 write_version 等字段。[16] 仅凭这些字段存在,不能认为它们保证了跨提供方可用的顺序,或完整的缺口检测。不要把 slot 差值直接换算为丢失的更新数或延迟秒数。应根据所选提供方的保证,验证状态是否已正确衔接。
还要考虑恢复前已经开始的计算。某个操作使用旧状态开始,却在恢复后才结束,其结果可能覆盖新状态。一种方法是在恢复前后为状态分配代际编号,并拒绝旧一代的结果。如果使用 processed 状态,还应把回滚,也就是该状态不再被采用的情况,纳入重新检查状态的条件。[6]
如果希望在重新连接后先恢复有效状态,再恢复决策,可以复制以下指令。
text
防止这个应用仅因连接已经恢复,就基于旧状态重新进行交易决策。实现决策恢复之前所需的状态恢复。

阅读 README、开发指令、依赖关系,以及订阅、初始获取、更新应用、重新连接和决策的代码。使用现有语言、运行时和 SDK。核实提供方、commitment、更新语义,以及顺序、标识、重新获取和重放方面的实际保证。

1. 区分连接状态、数据有效性和是否允许恢复决策。一旦确认缺失必需更新或新鲜度不足,应暂停依赖该状态的新交易决策,同时继续必要的接收、更新和恢复。
2. 如果使用快照,应根据提供方的保证确认其包含哪些更新,以及与后续数据流的边界。防止增量重复应用、边界遗漏和错误的应用顺序。不要用假设补足缺失的保证。不要把 slot 或 write_version 当作可无条件用于检测更新缺失的序号。
3. 不要仅因重新获取了值就恢复决策。实现受影响决策所要求的更新、顺序、新鲜度和一致性检查;检查无法完成时,保持暂停。使用代次或等效机制,防止恢复前启动、较晚完成的旧计算或订单提案被应用或发送。恢复时应根据验证后的状态重新决策。如果使用 processed 状态,应处理回滚后的失效和恢复。
4. 使用不含机密信息、可重现的输入,重现断线期间错过的更新、重复、乱序、旧数据、反复重连和旧代次工作的完成。验证从连接恢复到验证完成期间,决策始终暂停,并确认验证后的状态与预期结果一致。
5. 记录恢复时间、因状态无效而被阻止的决策尝试次数和暂停时长、重新应用或排除的更新、正常情况下从接收到决策完成的时间、CPU 与内存。不要在未说明的情况下从测量中排除暂停期间或缺失更新。说明测量边界,以及哪些情况能检测、哪些不能。单一主机内的经过时间应使用单调时钟。

沿用现有审批、权限和开发流程。不要仅凭这些指令,就认为获得了修改生产环境、签订付费合同或进行真实交易的额外权限。不要输出私钥、凭证或客户数据。

最后报告改动、对比条件、改动前后的测量值、正确性检查和剩余限制。无法测量的值应标为未测量。

从六个维度比较语言的优势

实现这五种设计,需要决定谁更新数据、在哪里分配内存、复制什么,以及哪些操作会等待。计算快、容易控制突然的等待、能够快速制作原型,是不同的优势。选择语言时,应根据希望改善的部分进行比较。
计算速度指更快完成处理,延迟控制指减少突发的等待,原型开发指更早让想法运行起来。这张图帮助区分运行的快与开发的快。

通过公开基准测试比较运行时间

这是2025年8月1日的公开测量,计算5个天体共50万步。平均运行时间指从程序启动到处理完成所需时间的平均值。它包含启动处理和运行时的代码优化,不包含预先构建的时间。1,000ms等于1秒。[27][29]
根据 n-body 运行50万步的公开平均时间计算相对速度。以 Python 为1,Rust 约118、C++ 约90、Zig 约89、Go 约77、TypeScript·Deno 约38、JavaScript·Node.js 约38,同时标出平均运行时间。
语言 / 运行环境平均运行时间相对速度(Python = 1)
Rust / rustc 1.88.025.1ms约118
C++ / g++ 11.4.033.2ms约90
Zig / Zig 0.14.133.3ms约89
Go / Go 1.24.538.4ms约77
TypeScript / Deno 2.4.377.6ms约38
JavaScript / Node.js 24.4.179.1ms约38
Python / CPython 3.13.52970.8ms1
相对速度由四舍五入前的平均运行时间计算,以 Python 为1。 对每种语言及运行环境,我们从稳定版中选择符合条件的最小公开平均值:数值计算采用单线程,不使用显式 SIMD 指令、向量类型或外部数值计算库。代码与优化方式存在差异;Zig 使用 ReleaseFast。TypeScript 以包含 Deno/V8 的可执行文件运行,JavaScript 则在 Node.js 上运行。[28]
相近的数值应理解为相近的结果,不应仅凭这一项任务给语言整体排名。它没有直接测量启动后持续运行的交易机器人的处理时间,也没有直接测量订单到达目的地前的延迟。
记录的环境是 AMD EPYC 7763、4个可用核心的 Linux。公开测量代码配置为每种条件重复3次,每次启动新进程。当时运行的确切提交版本及每次测量的原始数据未能验证,因此这里介绍的是公开平均值。[28][29]

从六个维度比较设计上的优势

下面的图是面向链下 Solana 客户端、分为三级的编辑性选型参考。“计算速度”维度考察在所比较的语言和实现中,如何加速自行编写的大量数据读取和计算。它不对主要时间花在网络等待上的完整应用,也不对交给高速外部库的计算进行排名。
Rust、Go、C++、Zig 都是优化后原生执行的有力候选。这不代表速度相同;更细的顺序需要测量实际工作负载。V8 也会把经常执行的函数转换成机器码。仅用“JavaScript 是解释执行,所以慢”来说明并不准确。[20][21]
“计算速度”“延迟控制”和“内存控制”三个维度表示计算与控制方面的优势。“安全性支持”“原型开发便利性”和“Solana SDK”表示开发支持方面的优势。六个轴并不都代表处理速度。
所有六边形使用相同的轴和刻度。越靠外,表示该维度的定性优势越强。这些不是实测速度或比例,3级也不代表1级的三倍。应逐项比较希望改善的维度,而不是把多边形面积当作综合得分。
维度比较内容
计算速度在所比较的实现中,加速自行编写的大量数据读取和计算有哪些选择
延迟控制能在多大程度上直接将内存分配、回收、运行时代码优化等工作移出重要处理,以限制突然的等待
内存控制能直接设计数据布局、所有权与生命周期、分配、复用和回收的范围
安全性支持语言功能、运行时和标准工具在防止内存生命周期及共享内存误用方面提供的帮助
原型开发便利性运行小型应用并尝试修改的容易程度;这是随经验和现有代码变化的编辑评价
Solana SDK从 Solana 官方文档找到并开始使用适合该用途的客户端 SDK 和示例的容易程度
控制类维度评估直接设计的空间,安全性维度评估可用支持,SDK 维度评估从官方文档出发的使用路径。同一级别也可能对应不同的机制与保证。[8][13][20][21][26]
下面的总览将 Rust、Go、TypeScript、Python、C++、Zig 这6种语言排列为横向3列、纵向2行。先比较关注的维度,再通过后面的单独图表和说明确认运行条件与适合的用途。
Rust、Go、TypeScript、Python、C++、Zig 的横向比较总览,分为3列2行。6种语言采用相同的6个维度和三级定性选型参考。
Rust 的定性特征:计算速度、延迟控制、内存控制、安全性支持和 Solana SDK 位于外层,原型开发便利性位于中层。不表示实测性能。
Rust 将重要路径上的布局、分配和复用控制,与所有权和借用检查结合起来。其常规内存管理不需要追踪式 GC。[8] safe Rust 防止数据竞争的保证,并不保证不存在一般的竞态条件、死锁或错误的决策逻辑。unsafe 代码和外部语言接口需要另外验证。[22] 复制、分配、释放、锁和操作系统等待仍会发生,因此要用真实输入和负载检查。
Go 的定性特征:计算速度和原型开发便利性位于外层;延迟控制、内存控制、安全性支持和 Solana SDK 位于中层。不表示实测性能。
Go 也是原生编译执行的候选。它有助于构建并发服务和处理流程,运行时则支持内存管理等操作。[20] GC 的大部分工作并发进行,但仍需测量分配量,以及回收带来的 CPU、内存和延迟成本。CPU 处理的潜力,与能否直接控制回收时机,应分别看待。[13]
在 Node.js 和 Deno 上运行的 TypeScript:原型开发便利性和 Solana SDK 位于外层,计算速度和安全性支持位于中层,延迟和内存控制位于内层。不表示实测性能。
TypeScript 是语言,Node.js 和 Deno 是运行时。此图按 V8 执行的 JavaScript 来评估。类型注解不会保留在执行的代码中,因此添加类型本身不会加快 CPU 工作。外部数据仍需进行运行时验证。[9][10][21] 这些选项可用于 API 集成、配置、监控、Web UI,以及满足所需性能的流处理。
Node.js 的 worker_threads 和 Deno 的 Web Workers 可以把 CPU 工作移到不同的执行上下文。Node.js 文档建议使用 worker 池,而不是每项任务都创建一个 worker。除了目标位置的计算,还要把转换、复制和提交工作前的等待纳入比较。[11][12]
常规 CPython 内的 Python 代码:原型开发便利性位于外层,安全性支持和 Solana SDK 位于中层,计算速度、延迟控制和内存控制位于内层。此图不评价原生扩展内部的计算。
Python 适合研究、分析、验证,以及使用现有库的工作。这里的 CPU 评价针对用 Python 编写、在常规 CPython 内执行的循环。交给编译后代码的计算,例如 NumPy 操作,是另一种情况。[23] 应检查包括 free-threaded 构建在内的实际配置,不要只根据语言名称判断。[14] 如果把一部分移到 Rust 或其他实现,应测量边界上的转换和复制,并验证整个应用是否受益。
C++ 的定性特征:计算速度、延迟控制和内存控制位于外层;安全性支持和原型开发便利性位于中层;Solana SDK 位于内层。不表示实测性能。
C++ 将底层控制与抽象、现有库结合起来。RAII 和智能指针有助于管理资源生命周期,但使用它们并不保证所有内存生命周期或共享内存安全问题都得到解决。[24] 安全性的中层评分,也不表示它与 Go 等选项的托管内存具有相同保证。
ReleaseSafe 下的 Zig:计算速度、延迟控制和内存控制位于外层;安全性支持和原型开发便利性位于中层;Solana SDK 位于内层。不表示实测性能。
Zig 支持显式安排内存分配和分配器选择。此特征图以 ReleaseSafe 的检查为前提。ReleaseFast 和 ReleaseSmall 的默认检查不同,而 ReleaseSafe 也无法检测所有无效行为。[25] 与 C++ 有相同的多边形形状,并不意味着机制相同。
Solana SDK 维度以官方文档中 TypeScript、Rust 的使用路径,以及其中列出的 Go、Python 客户端为依据。它不是一般库的数量或质量排名,也不表示 C++、Zig 没有库。对于实际采用的 SDK,应检查必需 API、维护和跟进更新的情况,以及与所选运行时的兼容性,包括 Deno。[26]
测量应用在哪些地方花费时间,再按该部分所需的优势选择工具。先在当前语言中减少等待和重复工作。如果需要更细的控制,也可以把相关部分移到其他语言。

在相同条件下对比改动前后

每节的指令都涵盖对应改进的实现和验证。如果要实施多项改进,应保留每项改动与测量结果的对应关系。将改动一起应用,会更难区分哪项改动影响了哪个结果。
改进前后应使用相同输入、订阅条件、负载和输出要求。对于从接收到决策完成的时间,除了中位数 p50,也应观察 p95 和 p99。p99 是99%的测量事件能够在其内完成的阈值。它有助于同时看到典型处理情况和分布中较慢的一侧。
把各阶段的 p99 相加,并不能得到端到端 p99。应直接测量每个事件从接收到决策完成的总时间,同时观察队列等待、CPU 和内存使用、缺失或丢弃的更新,以及决策结果是否一致。
在单台主机内测量经过的时间时,应使用单调时钟,避免系统墙上时钟被校正后出现倒退。如果 SDK 在解码完成后才调用回调,那么回调开始前也已经发生了处理。要明确每项测量从哪里开始、到哪里结束,才能分别考虑数据传输延迟和应用延迟。
也要检查提交之后发生了什么。sendTransaction 返回成功,并不保证交易已被集群处理或确认。[15] 将接收、决策、提交被接受,以及观察到的链上结果关联起来,有助于找出下一个改进位置。

让快速传输转化为及时决策

快速传输数据,以及应用能够及时完成必需决策,两者都很重要。ERPC 会持续改进数据传输基础设施,并提供帮助改善其上运行软件的信息。
先在同一环境中验证应用改动。然后,在有需要时,使用相同代码对比不同部署位置或资源,以区分各自的影响。使用 ERPC 按小时计费时,应提前定义假设、比较条件和使用时长,并在当前 Dashboard 中确认价格与可用性。

参考资料与相关链接