主流的推理引擎基本都支持文本、图像和视频的嵌入向量生成，然而它们几乎都不支持音频嵌入向量模型推理。如果我们需要为音频生成嵌入向量的话，就需要使用 Python 并安装 PyTorch 来进行模型推理，或者将模型转换为 ONNX 后使用 ONNX 运行时推理，缺少一个开箱即用方案。
于是我们开发了clap.cpp ——一个使用 C++20 和 GGML 实现的音频向量模型推理引擎。它支持 CLAP、CLaMP3、MERT、MuQ 和 MuQ-MuLan 等模型，提供命令行、HTTP 服务以及 Python、Rust、Node.js 接口，并支持 Metal、Vulkan、CUDA 和 ROCM 硬件加速。
在使用大语言模型排序推荐结果一文中，我们尝试将用户的历史兴趣转换为查询，再使用重排序模型对候选物品进行排序。随着 Jev 及其相关决策模型的出现，推荐系统又多了一种选择：把“用户是否会喜欢这个物品”作为一个判断任务，直接使用模型返回的概率排序。
这两种方法都可以根据用户历史兴趣和个人画像的文本描述对候选物品进行排序，而不需要先在业务数据上训练一个排序模型。那么，面向相关性排序的重排序模型和面向判断任务的决策模型，谁更适合推荐系统？本文使用 Gorse 的 gorse-bench 工具，在 MovieLens 100K 数据集上比较它们的排序效果。
大语言模型带动了嵌入模型和向量数据库的发展，进一步导致向量数据库成为了推荐系统必不可少的一部分。我们参考了 zvec并使用 GPT 开发了一个纯 Go 语言编写的嵌入式向量数据库 xvec用于单节点 Gorse 和单元测试。
Go 1.27 引入了实验性的 simd 包，为整数和浮点数提供了可移植、与向量宽度无关的 SIMD 类型和运算。一直以来，Gorse 为了加速模型训练和推理中的向量计算，使用 GoAT 将 C 语言编译生成的 SIMD 指令转换为 Go 汇编。simd 包让同一套 Go 代码在不同指令集上运行成为可能，但它的性能能否接近 GoAT 借助 LLVM 生成汇编实现？
在经过笔者和Jan Mercl的共同努力后，SQLite 纯 Go 语言移植版本modernc.org/sqlite现已正式支持sqlite-vec向量查询扩展。
阿里云和谷歌相继推出了新一代的开源文本嵌入模型，分别是阿里云的qwen3-embedding和谷歌的embeddinggemma。最近gorse-bench工具也新增了文本嵌入模型的基准测试功能，本文将使用gorse-bench和playground数据集，对热门的开源文本嵌入模型进行一次全面的评测。
Gorse 推荐系统在 v0.5.2 到 v0.5.5 版本引入了可视化编排推荐流程和 大语言模型重排 两大新功能。本文将介绍如何结合这两项功能，使用可视化流程编辑器创建一个使用大语言模型重排器进行排序的推荐流程。
和那些常见的前端、后端以及如日中天的AI开源项目不同，项目的潜在用户很难相对直接地感受到一个开源推荐系统的作用。因此，Gorse 的作者打造了 GitRec，一个专门为 GitHub 仓库设计的推荐系统。这个项目既可以展示 Gorse 的基本能力，也能帮助他们在海量的开源项目中发现有趣且有用的仓库。
在长达一年半的开发后，Gorse v0.5 正式发布。本次发布包含破坏性更改，因此值得写一篇文章来介绍新特性和升级指南。
用户的Subscribe字段移除。在早期的设计中，Subscribe字段用于存储用户订阅的标签，但实际上并没有被使用。类似订阅这样的业务逻辑驱动的推荐建议使用外部推荐API来实现。
用户和物品的Labels字段支持任意JSON对象。在此基础上，部分推荐算法可以指定使用的嵌套字段。例如在物物推荐算法中，可以指定使用Labels.embedding嵌入向量来计算物品相似度。
反馈新增Value字段。Value字段用于表示反馈的强度，例如视频观看的百分比、商品的评分等。一方面，正负反馈可以根据Value字段设置阈值来区分；另一方面，未来的更新会结合Value字段作为权重更好地训练推荐模型。插入反馈时，可以选择累加（POST）Value字段，或者覆盖（PUT）原有的Value字段。
感谢进迭时空提供的Bianbu Cloud RISC-V云计算实例，Gorse目前已经完成对于RISC-V架构的支持。
RISC-V版本的Gorse暂时没有提供Docker镜像，您可以选择：
