RPC on 111qqz的小窝https://111qqz.com/tags/rpc/Recent content in RPC on 111qqz的小窝Hugo -- gohugo.iozh-cnhust.111qqz@gmail.com (111qqz)hust.111qqz@gmail.com (111qqz)© 2011-2026 111qqzTue, 15 Sep 2026 22:29:22 +0800推荐模型不只是一次 Forward：回看排序模型的 Serving 架构https://111qqz.com/2026/09/ranking-model-serving-architecture/Tue, 15 Sep 2026 22:29:22 +0800hust.111qqz@gmail.com (111qqz)https://111qqz.com/2026/09/ranking-model-serving-architecture/<p>之前在腾讯做过一个面向推荐场景的深度学习框架（内部叫「无量」），我当时负责其中 Serving 相关的工作。后来和朋友聊起，有人问我：把一个推荐模型部署上线，是不是就是加载模型文件，然后来一个请求做一次 forward？</p>