不做聊天只做判断:Jev 决策模型

Jev 是一种只输出浮点数、专注分类与评分决策的超快低成本模型,社区已出现 Kev、Nimble 等跟进项目。

大语言模型(LLM)通常以语言作为输出,但在很多实际任务中,它们被要求做的是判断或分类,而不是写文章、聊天。用户提供一段输入,要求模型给出评分、是/否答案或最合适的类别等。几周前发布的新模型 Jev 正是瞄准这一角色:它速度极快、成本极低,并且只专注决策任务——连一句话都写不出来,却能非常快地完成分类和归类。

输入仍是文本,输出只有数字

Jev 的工作方式是这样的:它仍然接受文本输入,但只输出浮点数。这些数字就是对用户定义的“是/否”问题、选项列表和评分请求的“回答”。Simon Willison 对 Jev 做了简明总结,并解释了这类新模型为什么值得关注。

社区迅速跟进

这个想法流行得很快。已经有人开始制作自己的决策型模型和实验,Kev 与 Nimble 就是两个例子。Nimble 最近被加入 Ollama 的受支持模型列表,而且体积足够小,可以相对轻松地在本地运行。

如果这类本地 AI 模型正是你实现某个想法所缺的一环,Hackaday 也欢迎通过 tips line 分享。

收录于

讨论

0 条评论

同分类推荐

工具