在使用大语言模型排序推荐结果一文中，我们尝试将用户的历史兴趣转换为查询，再使用重排序模型对候选物品进行排序。随着 Jev 及其相关决策模型的出现，推荐系统又多了一种选择：把“用户是否会喜欢这个物品”作为一个判断任务，直接使用模型返回的概率排序。

这两种方法都可以根据用户历史兴趣和个人画像的文本描述对候选物品进行排序，而不需要先在业务数据上训练一个排序模型。那么，面向相关性排序的重排序模型和面向判断任务的决策模型，谁更适合推荐系统？本文使用 Gorse 的 gorse-bench 工具，在 MovieLens 100K 数据集上比较它们的排序效果。

大语言模型带动了嵌入模型和向量数据库的发展，进一步导致向量数据库成为了推荐系统必不可少的一部分。我们参考了 zvec并使用 GPT 开发了一个纯 Go 语言编写的嵌入式向量数据库 xvec用于单节点 Gorse 和单元测试。

为什么开发 xvec

Go 1.27 引入了实验性的 simd 包，为整数和浮点数提供了可移植、与向量宽度无关的 SIMD 类型和运算。一直以来，Gorse 为了加速模型训练和推理中的向量计算，使用 GoAT 将 C 语言编译生成的 SIMD 指令转换为 Go 汇编。simd 包让同一套 Go 代码在不同指令集上运行成为可能，但它的性能能否接近 GoAT 借助 LLVM 生成汇编实现？

在经过笔者和Jan Mercl的共同努力后，SQLite 纯 Go 语言移植版本modernc.org/sqlite现已正式支持sqlite-vec向量查询扩展。

阿里云和谷歌相继推出了新一代的开源文本嵌入模型，分别是阿里云的qwen3-embedding和谷歌的embeddinggemma。最近gorse-bench工具也新增了文本嵌入模型的基准测试功能，本文将使用gorse-bench和playground数据集，对热门的开源文本嵌入模型进行一次全面的评测。

GitHub Actions为托管于GitHub上的项目提供了多种持续集成运行环境，包括三种操作系统Linux、macOS和Windows，以及两种架构AMD64和ARM64。这些环境对于大部分项目来说完全足够，但是RISC-V开发者会发现自己很难在GitHub Actions上运行RISC-V工作流。商业公司可以使用自托管（参考Supporting runners on 64bit RISC-V）或者服务商（RISC-V Runners和Cloud-V），但是对于个人开发者来说是一笔巨大的支出。

在大语言模型流行的当下，低精度浮点数对于开发者们不再陌生，而其中BF16是其中支持范围最广的低精度浮点格式。本文将介绍如何在Go语言中使用BF16。

BF16介绍

BF16由1位符号位、 8位指数位和7位尾数位构成。和FP32相比，指数位相同，但尾数位大幅减少。因此BF16动态范围与FP32完全一致（约$±3.4×10³⁸$），牺牲部分精度（约$2^{-7}$）换取更大的指数范围。大指数范围可有效避免梯度溢出，适合深度学习中的反向传播。同时与FP32兼容性强，硬件设计更简单。BF16用于在模型训练和推理场景替代FP32，降低内存占用和带宽需求，提升SIMD指令一次处理数据的数量。

AVX512是英特尔发布的最新最新一代SIMD指令，能够在一个指令周期内对512位数据进行处理，相当于16个单精度浮点数或者8个双精度浮点数。Gorse推荐系统中的推荐模型训练和推理过程需要大量的向量计算工作，AVX512理论上能够带来一定的加速效果。然而比较遗憾的是，Go语言的编译器并不能自动生成使用SIMD指令的机器码。

MinIO曾经开源过一个将英特尔汇编转换为Go汇编的工具c2goasm。首先，将需要向量化的函数用C语言实现，通过Clang编译出包含SIMD指令的汇编。然后，由于Go汇编是支持AVX512的，将Intel汇编指令转换成Go汇编，即可通过汇编调用SIMD实现的函数。c2goasm的方案十分有效，然而项目已经将近4年没有更新，经过测试也无法处理AVX512指令。

能够编译成一个单独的二进制文件是Go语言的一大特色，避免了部署时繁琐的依赖管理。然而，如果项目包含了前端代码，在编译的时候就需要想办法将前端产物嵌入到Go二进制文件中。编译流程大致如下：

1. 编译前端代码。
2. 将前端生成物转换为Go嵌入文件。例如，rakyll/statik这个项目就能够将任何文件嵌入到Go源代码中。另外，Go语言目前提供了官方资源嵌入方案embed，可以在编译期间完成嵌入，免去步骤2。
3. 构建Go代码。