简要说明目前的LLM使用tools的风格,目前tool selection基本完全不需要developer介入,和早期的风格有所差异。
Temperature
发表于
分类于
LLM
简介temperature意义,并给出示例
MCP
简介MCP(Model Context Protocol)
LLM api聚合平台
发表于
分类于
LLM
简单介绍LLM聚合平台
SWE-agent关键洞察
ReAct简析
langchain简析
发表于
分类于
LLM
简要介绍langchain(其实是一个较为简单的包装)
不同repeat机制分析
发表于
分类于
programming
简要介绍不同repeat在存储方面的机制差异,重点分析用通常方法实现的GQA为什么只能减小kv cache,但不能降低显存开销。