Tag: LLM
All the articles with the tag "LLM".
-
GitHub Copilot Token 效率优化:缓存、工具搜索与传输层改进
Published: at 11:55 PMVS Code 团队详解 GitHub Copilot agent 在按量计费模式下如何通过延长提示缓存、按需加载工具定义、切换 WebSocket 传输等手段降低 token 消耗和延迟,并公开了在不同模型上 A/B 实验的量化和生产验证数据。
-
用 AI Agent 把自然语言转成 SQL:三种方案的实验对比
Published: at 02:00 AM微软 ISE 团队对比了 GitHub Copilot CLI、Microsoft Agent Framework 和 Azure Databricks AI/BI Genie 三种 NL-to-SQL 方案,在 LiveSQLBench 上进行系统实验。核心发现:运行时查询验证是准确率的命门,去掉后准确率从 76.92% 跌至 38.46%;领域提示(domain hints)能额外提升 14 个百分点;剩余 ~25% 的失败几乎都来自业务逻辑语义误解。
-
.NET AI 核心构建块:Microsoft.Extensions.AI 详解
Published: at 12:20 AM微软发布了面向 .NET 开发者的 AI 基础构建块系列,本文聚焦第一块:Microsoft.Extensions.AI(MEAI)。它提供统一的 LLM 访问接口,支持 OpenAI、OllamaSharp、Azure OpenAI 等多家提供商,并内置结构化输出、中间件、多模态内容等能力,是构建 .NET 智能应用的基础。
-
Claude Opus 4.7 系统提示词变化全解析
Published: at 01:02 AMAnthropic 是少数公开发布系统提示词的 AI 厂商。本文梳理 Claude Opus 4.6 到 4.7 系统提示词的核心变更,包括行动优先策略、tool_search 机制、内容安全扩充以及冗余措辞的清理。
-
把 LLM 当知识库编辑:Karpathy 的个人研究工作流
Published: at 03:40 AMAndrej Karpathy 分享了一套用 LLM 构建和维护个人研究知识库的完整方法:把原始文献编进 .md wiki,用 Obsidian 做前端,让 LLM 自主管理、查询和增强知识,而不依赖 RAG 或复杂向量数据库。
-
RAG 入门指南:在正确的时机用正确的方式构建检索增强生成系统
Published: at 12:27 AM本文基于 Daniil Shykhov 的 RAG 实战经验,聚焦三个问题:RAG 究竟是什么、你真的需要它吗、以及在哪些环节最容易出错。如果你曾被向量数据库和 embedding 模型的教程绕晕,从这里开始。