<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>AI on Leanku 的博客</title><link>https://www.leanku.com/categories/ai/</link><description>Recent content in AI on Leanku 的博客</description><generator>Hugo</generator><language>zh-cn</language><lastBuildDate>Sat, 24 Jan 2026 00:01:01 +0800</lastBuildDate><atom:link href="https://www.leanku.com/categories/ai/index.xml" rel="self" type="application/rss+xml"/><item><title>OpenClaw +QQ机器人</title><link>https://www.leanku.com/post/ai/openclaw-qq%E6%9C%BA%E5%99%A8%E4%BA%BA/</link><pubDate>Sat, 24 Jan 2026 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/openclaw-qq%E6%9C%BA%E5%99%A8%E4%BA%BA/</guid><description>&lt;h1 id="openclaw-qq机器人助手"&gt;OpenClaw +QQ机器人助手&lt;/h1&gt;&#10;&lt;blockquote&gt;&#10;&lt;p&gt;OpenClaw 适用于任何操作系统的 AI 智能体 Gateway 网关，支持 WhatsApp、Telegram、Discord、iMessage 等。&#10;发送消息，随时随地获取智能体响应。通过插件可添加 Mattermost 等更多渠道。&lt;/p&gt;&#10;&lt;/blockquote&gt;&#10;&lt;h2 id="1-搭建-openclaw"&gt;1. 搭建 OpenClaw&lt;/h2&gt;&#10;&lt;p&gt;可参考&lt;a href="https://docs.openclaw.ai/zh-CN/install"&gt;官方文档&lt;/a&gt; ，按需选择适合的安装方式。&lt;/p&gt;&#10;&lt;p&gt;如果服务器上安装了&lt;a href="https://1panel.cn/docs/v2/"&gt;1Panel&lt;/a&gt;,可以直接从应用商店安装&lt;/p&gt;&#10;&lt;h2 id="2-接入-qq"&gt;2. 接入 QQ&lt;/h2&gt;&#10;&lt;h3 id="1-申请-qq-机器人"&gt;1. 申请 QQ 机器人&lt;/h3&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;打开 QQ 开放平台，注册登录，然后创建 QQ 机器人。地址： &lt;a href="https://q.qq.com"&gt;https://q.qq.com&lt;/a&gt;&lt;/li&gt;&#10;&lt;li&gt;创建完成后，进入机器人的开发管理页面，找到 AppID 和 AppSecret，复制保存好，等会要用。&lt;/li&gt;&#10;&lt;li&gt;还要把你云服务器的 公网 IP 添加到 IP 白名单里，然后保存。&lt;/li&gt;&#10;&lt;li&gt;在沙箱配置里给你的 QQ 账号（或者 QQ 群）添加访问机器人的权限：&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h4 id="2-给-openclaw-绑定-qq-机器人"&gt;2. 给 OpenClaw 绑定 QQ 机器人&lt;/h4&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;安装 qqbot 插件 &lt;a href="https://github.com/BytePioneer-AI/openclaw-china"&gt;https://github.com/BytePioneer-AI/openclaw-china&lt;/a&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;远程登录到云服务器上，执行命令来安装 @openclaw-china/qqbot 插件。&lt;/li&gt;&#10;&lt;li&gt;&lt;code&gt;openclaw plugins install @openclaw-china/qqbot&lt;/code&gt;&lt;/li&gt;&#10;&lt;li&gt;安装插件成功后,配置QQ 机器人参数，用之前保存的 id 和 secret ：&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;openclaw config &lt;span class="nb"&gt;set&lt;/span&gt; channels.qqbot.enabled &lt;span class="nb"&gt;true&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;2&lt;/span&gt;&lt;span class="cl"&gt;openclaw config &lt;span class="nb"&gt;set&lt;/span&gt; channels.qqbot.appId your-app-id&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;3&lt;/span&gt;&lt;span class="cl"&gt;openclaw config &lt;span class="nb"&gt;set&lt;/span&gt; channels.qqbot.clientSecret your-app-secret&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;4&lt;/span&gt;&lt;span class="cl"&gt;openclaw config &lt;span class="nb"&gt;set&lt;/span&gt; channels.qqbot.markdownSupport &lt;span class="nb"&gt;false&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;/li&gt;&#10;&lt;li&gt;需要的话，还可以申请 Markdown 模板能力&lt;/li&gt;&#10;&lt;li&gt;重启网关服务 &lt;code&gt; openclaw gateway restart&lt;/code&gt;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="3-访问openclaw-的webui页面"&gt;3. 访问Openclaw 的webUI页面&lt;/h2&gt;&#10;&lt;p&gt;通常地址为 IP:18789 或者 地址?token=你的token&lt;/p&gt;</description></item><item><title>从零到一搭建个人AI知识库</title><link>https://www.leanku.com/post/ai/%E4%BB%8E%E9%9B%B6%E5%88%B0%E4%B8%80%E6%90%AD%E5%BB%BA%E4%B8%AA%E4%BA%BAai%E7%9F%A5%E8%AF%86%E5%BA%93/</link><pubDate>Fri, 21 Nov 2025 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/%E4%BB%8E%E9%9B%B6%E5%88%B0%E4%B8%80%E6%90%AD%E5%BB%BA%E4%B8%AA%E4%BA%BAai%E7%9F%A5%E8%AF%86%E5%BA%93/</guid><description>&lt;h1 id="从零到一搭建个人ai知识库"&gt;从零到一搭建个人AI知识库&lt;/h1&gt;&#10;&lt;p&gt;为什么要搭建个人AI知识库？&lt;/p&gt;&#10;&lt;p&gt;电脑里存了几百个文档，却怎么也找不到上周写的那份技术方案；&#10;收藏了无数篇优质文章，等到想用时却像大海捞针。&#10;在这个信息过载的时代，我们每个人都在知识管理的泥潭中挣扎。&lt;/p&gt;&#10;&lt;p&gt;AI知识库，正在改变这一切。想象一下：当你需要某个资料时，不用在十几个软件间来回切换，只需在一个搜索框里输入问题，AI就能立即从所有文档中精准定位，不仅给出答案，还会把相关内容整理好放在你面前。&lt;/p&gt;&#10;&lt;p&gt;本篇将介绍从零开始，一步步搭建一个属于自己的AI知识库。&lt;/p&gt;&#10;&lt;h2 id="一理解核心概念什么是rag"&gt;一、理解核心概念：什么是RAG？&lt;/h2&gt;&#10;&lt;p&gt;RAG（检索增强生成，Retrieval-Augmented Generation）&lt;/p&gt;&#10;&lt;p&gt;传统的AI大模型（如GPT）虽然知识渊博，但它们有一个致命缺陷：知识是固定的，且可能产生“幻觉”（编造出看似合理但完全错误的信息）&lt;/p&gt;&#10;&lt;p&gt;RAG的出现完美解决了这个问题。它的核心思想可以形象地理解为“给AI递小抄”——在回答问题前，先从外部知识库中检索出最相关的信息，然后将这些信息连同问题一起“喂”给AI，让它基于给定的材料进行回答。这就像一场开卷考试：AI不再是凭记忆瞎编，而是有参考资料可以查阅。&lt;/p&gt;&#10;&lt;p&gt;一个完整的RAG系统包含两个阶段：&lt;/p&gt;&#10;&lt;h3 id="阶段一索引构建离线-把文档搬进知识库"&gt;阶段一：索引构建（离线） ——把文档“搬进”知识库&lt;/h3&gt;&#10;&lt;ol&gt;&#10;&lt;li&gt;&lt;strong&gt;加载&lt;/strong&gt;：读取PDF、Word、Markdown等各种格式的文档&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;切分&lt;/strong&gt;：将长文档切成语义完整的小块&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;向量化&lt;/strong&gt;：通过嵌入模型将文本块转换成高维数字向量&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;存储&lt;/strong&gt;：将向量存入专门的向量数据库&lt;/li&gt;&#10;&lt;/ol&gt;&#10;&lt;h3 id="阶段二检索生成在线-回答用户问题"&gt;阶段二：检索生成（在线） ——回答用户问题&lt;/h3&gt;&#10;&lt;ol&gt;&#10;&lt;li&gt;&lt;strong&gt;用户提问&lt;/strong&gt; → 将问题也转换成向量&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;检索&lt;/strong&gt;：在向量数据库中找最相似的Top K个文本块&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;增强&lt;/strong&gt;：将检索结果与问题组合成提示词&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;生成&lt;/strong&gt;：AI基于参考资料生成准确回答&lt;/li&gt;&#10;&lt;/ol&gt;&#10;&lt;p&gt;这个流程听着复杂，但现在有大量开源工具帮你自动完成这一切。&lt;/p&gt;&#10;&lt;h2 id="二选择工具链"&gt;二、选择工具链&lt;/h2&gt;&#10;&lt;p&gt;搭建AI知识库，你不需要从零写代码。以下几类工具可以大幅降低门槛：&lt;/p&gt;&#10;&lt;h3 id="21-大模型ai的大脑"&gt;2.1 大模型（AI的大脑）&lt;/h3&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;Ollama + DeepSeek：本地部署方案。Ollama是一个模型管理工具，设计思路类似于Docker，专门针对AI模型进行了优化。执行 ollama run deepseek-r1 就能自动下载并运行模型。数据完全留在本地，隐私无忧。&lt;/li&gt;&#10;&lt;li&gt;云API（DeepSeek API、OpenAI等） ：无需本地显卡，按调用量付费，开箱即用。&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;p&gt;对于个人知识库，推荐先从Ollama + DeepSeek入手——免费、隐私保护、够用。&lt;/p&gt;&#10;&lt;h3 id="22-向量数据库知识的仓库"&gt;2.2 向量数据库（知识的仓库）&lt;/h3&gt;&#10;&lt;p&gt;向量数据库是RAG系统的核心存储组件。以下是主流选择：&lt;/p&gt;&#10;&lt;table&gt;&#10;&#9;&lt;thead&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;数据库&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;特点&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;适合场景&lt;/th&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/thead&gt;&#10;&#9;&lt;tbody&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;Chroma&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;轻量级，Python原生，上手最快&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;快速原型、个人项目&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;Qdrant&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;性能优秀（5-8ms），单服务部署简单&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;中小规模生产项目&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;Milvus&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;性能最强（4-6ms），但需3个服务（etcd+MinIO）&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;大规模、企业级&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;PgVector&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;PostgreSQL扩展&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;已有PostgreSQL的项目&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/tbody&gt;&#10;&lt;/table&gt;&#10;&lt;p&gt;&lt;strong&gt;个人项目推荐从Chroma或Qdrant开始&lt;/strong&gt;，资源占用低，部署简单。&lt;/p&gt;&#10;&lt;h3 id="23-一站式平台"&gt;2.3 一站式平台&lt;/h3&gt;&#10;&lt;p&gt;如果你不想自己拼装各个组件，这些开源平台可以一站式搞定：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;AnythingLLM：开箱即用，支持多种文档格式，可本地部署.&lt;/li&gt;&#10;&lt;li&gt;Dify：功能全面的开源LLM应用开发平台，支持可视化工作流&lt;/li&gt;&#10;&lt;li&gt;FastGPT：国产开源，知识库功能强大，高性能RAG框架&lt;/li&gt;&#10;&lt;li&gt;MaxKB：轻量级，知识库优先的垂直解决方案&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="三动手搭建两种路径"&gt;三、动手搭建：两种路径&lt;/h2&gt;&#10;&lt;h3 id="路径一零代码低代码"&gt;路径一：零代码/低代码&lt;/h3&gt;&#10;&lt;h4 id="步骤1安装ollama并下载模型"&gt;步骤1：安装Ollama并下载模型&lt;/h4&gt;&#10;&lt;pre tabindex="0"&gt;&lt;code&gt;# 安装Ollama（Mac/Linux）&#10;curl -fsSL https://ollama.com/install.sh | sh&#10;&#10;# 下载DeepSeek模型（7B版本，约4GB）&#10;ollama pull deepseek-r1:7b&#10;&#10;# 下载嵌入模型（用于向量化）&#10;ollama pull nomic-embed-text&#10;&lt;/code&gt;&lt;/pre&gt;&lt;h4 id="步骤2安装anythingllm"&gt;步骤2：安装AnythingLLM&lt;/h4&gt;&#10;&lt;p&gt;从 anythingllm.com 下载对应系统的安装包并安装。&lt;/p&gt;</description></item><item><title>RAGFlow</title><link>https://www.leanku.com/post/ai/ragflow/</link><pubDate>Tue, 28 Oct 2025 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/ragflow/</guid><description>&lt;h1 id="ragflow"&gt;RAGFlow&lt;/h1&gt;&#10;&lt;h2 id="一介绍"&gt;一、介绍&lt;/h2&gt;&#10;&lt;p&gt;RAGFlow是一个完整的、开源的RAG（检索增强生成）系统。你可以把它看作一个已经搭建好的智能问答应用框架。&lt;/p&gt;&#10;&lt;p&gt;RAGFlow不是一个需要你从零编码的库，而是一个可以直接运行起来的服务。它内置了我们聊过的RAG的完整流程：上传文档 -&amp;gt; 自动解析 -&amp;gt; 切片 -&amp;gt; 调用Embedding模型生成向量 -&amp;gt; 存储 -&amp;gt; 检索 -&amp;gt; 调用大模型生成回答。&lt;/p&gt;&#10;&lt;p&gt;&lt;a href="https://ragflow.io/"&gt;RAGFlow 官网&lt;/a&gt;&lt;/p&gt;&#10;&lt;h2 id="二搭建一个智能问答系统"&gt;二、搭建一个智能问答系统&lt;/h2&gt;&#10;&lt;p&gt;整体架构：&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-text" data-lang="text"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;你的文档 (PDF/Word/PPT) &#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;2&lt;/span&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;3&lt;/span&gt;&lt;span class="cl"&gt;[RAGFlow核心] &#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;4&lt;/span&gt;&lt;span class="cl"&gt; ├─ 深度文档解析 → 保留表格/图片/格式&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;5&lt;/span&gt;&lt;span class="cl"&gt; ├─ 智能分块 → 按语义切割文档&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;6&lt;/span&gt;&lt;span class="cl"&gt; ├─ 向量化 → 调用Embedding模型&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;7&lt;/span&gt;&lt;span class="cl"&gt; └─ 向量存储 → 存入数据库&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;8&lt;/span&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;9&lt;/span&gt;&lt;span class="cl"&gt;用户提问 → [检索引擎] → [你的微调模型] → 带引用的精准回答&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;h3 id="21-部署ragflow"&gt;2.1 部署RAGFlow&lt;/h3&gt;&#10;&lt;p&gt;这里使用 &lt;strong&gt;Docker&lt;/strong&gt; 方式&#10;环境要求：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;CPU ≥ 4 cores (x86);&lt;/li&gt;&#10;&lt;li&gt;RAM ≥ 16 GB;&lt;/li&gt;&#10;&lt;li&gt;Disk ≥ 50 GB;&lt;/li&gt;&#10;&lt;li&gt;Docker ≥ 24.0.0 &amp;amp; Docker Compose ≥ v2.26.1.&lt;/li&gt;&#10;&lt;li&gt;&lt;a href="https://gvisor.dev/docs/user_guide/install/"&gt;gVisor&lt;/a&gt;: Required only if you intend to use the code executor (&lt;a href="https://github.com/infiniflow/ragflow/tree/main/sandbox"&gt;sandbox&lt;/a&gt;) feature of RAGFlow.&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;p&gt;&lt;strong&gt;部署RAGFlow&lt;/strong&gt;&lt;/p&gt;</description></item><item><title>向量数据库-Qdrant使用</title><link>https://www.leanku.com/post/ai/%E5%90%91%E9%87%8F%E6%95%B0%E6%8D%AE%E5%BA%93-qdrant%E4%BD%BF%E7%94%A8/</link><pubDate>Sat, 25 Oct 2025 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/%E5%90%91%E9%87%8F%E6%95%B0%E6%8D%AE%E5%BA%93-qdrant%E4%BD%BF%E7%94%A8/</guid><description>&lt;h1 id="向量数据库qdrant使用"&gt;向量数据库Qdrant使用&lt;/h1&gt;&#10;&lt;h2 id="一什么是向量数据库"&gt;一、什么是向量数据库？&lt;/h2&gt;&#10;&lt;p&gt;向量数据库是专门用于存储、管理和检索“向量嵌入（Embedding）”的数据库。&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&lt;strong&gt;Embedding 的本质：&lt;/strong&gt; 深度学习模型（如 OpenAI 的 &lt;code&gt;text-embedding-3&lt;/code&gt; 或本地的 &lt;code&gt;BGE&lt;/code&gt; 模型）能将文本、图片等转化为一串高维数值（向量）。在这个高维空间中，&lt;strong&gt;语义越接近的数据，其向量距离就越近&lt;/strong&gt;。&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;核心功能：&lt;/strong&gt; 与传统数据库通过 SQL &lt;code&gt;WHERE&lt;/code&gt; 子句匹配关键词不同，向量数据库通过“最近邻搜索（ANN）”寻找语义上最相似的内容。它是实现 RAG（检索增强生成）技术的关键。&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h3 id="常见向量数据库"&gt;常见向量数据库&lt;/h3&gt;&#10;&lt;table&gt;&#10;&#9;&lt;thead&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;数据库&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;特点&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;适用场景&lt;/th&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/thead&gt;&#10;&#9;&lt;tbody&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;Milvus&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;超大规模、分布式&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;海量数据、互联网&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;Qdrant&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;易部署、性能高、支持过滤&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;企业级 AI 应用&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;Weaviate&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;GraphQL、模块丰富&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;AI 平台&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;Chroma&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;轻量级&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;本地开发、测试&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;Pinecone&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;SaaS 云服务&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;快速上线&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;pgvector&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;PostgreSQL 扩展&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;已有 PostgreSQL 项目&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/tbody&gt;&#10;&lt;/table&gt;&#10;&lt;h2 id="二qdrant介绍"&gt;二、Qdrant介绍&lt;/h2&gt;&#10;&lt;h2 id="21-什么是-qdrant"&gt;2.1 什么是 Qdrant？&lt;/h2&gt;&#10;&lt;p&gt;Qdrant 是一款使用 &lt;strong&gt;Rust&lt;/strong&gt; 开发的开源向量数据库，专门用于高性能相似度搜索。&lt;/p&gt;&#10;&lt;p&gt;主要特点：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;高性能 ANN 检索&lt;/li&gt;&#10;&lt;li&gt;HNSW 索引&lt;/li&gt;&#10;&lt;li&gt;REST API&lt;/li&gt;&#10;&lt;li&gt;gRPC&lt;/li&gt;&#10;&lt;li&gt;Payload 元数据过滤&lt;/li&gt;&#10;&lt;li&gt;多向量支持&lt;/li&gt;&#10;&lt;li&gt;Snapshot 备份&lt;/li&gt;&#10;&lt;li&gt;集群部署&lt;/li&gt;&#10;&lt;li&gt;Docker 支持&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="22-qdrant-核心架构"&gt;2.2 Qdrant 核心架构&lt;/h2&gt;&#10;&lt;pre tabindex="0"&gt;&lt;code&gt; Client&#10; │&#10; REST API / gRPC&#10; │&#10; Collection&#10; │&#10; Point&#10; ┌──────────────┐&#10; │ Vector │&#10; │ Payload │&#10; └──────────────┘&#10;&lt;/code&gt;&lt;/pre&gt;&lt;ul&gt;&#10;&lt;li&gt;Collection:类似 MySQL：Database&lt;/li&gt;&#10;&lt;li&gt;Point:类似 MySQL 一行数据&lt;/li&gt;&#10;&lt;li&gt;Vector： Embedding 后的数据&lt;/li&gt;&#10;&lt;li&gt;Payload：类似普通数据库字段&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="23-qdrant-检索原理"&gt;2.3 Qdrant 检索原理&lt;/h2&gt;&#10;&lt;p&gt;Qdrant 默认采用 HNSW（Hierarchical Navigable Small World） 索引。&#10;与传统全表扫描不同：&lt;/p&gt;</description></item><item><title>RAG</title><link>https://www.leanku.com/post/ai/rag/</link><pubDate>Fri, 24 Oct 2025 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/rag/</guid><description>&lt;h1 id="rag技术-检索增强生成"&gt;RAG技术 （检索增强生成）&lt;/h1&gt;&#10;&lt;h2 id="引言当大模型遇上知识库"&gt;引言：当大模型遇上知识库&lt;/h2&gt;&#10;&lt;blockquote&gt;&#10;&lt;p&gt;想象一下，你正在参加一场开卷考试。你的面前有两样东西：一个记忆力超群但知识停留在去年的天才同学（这就是大语言模型），以及一个可以随时查阅的最新版百科全书（这就是外部知识库）。你让这位同学回答问题，他既可以凭借自己的记忆作答，也可以随时翻阅百科全书获取最新、最准确的信息。&lt;/p&gt;&#10;&lt;p&gt;这个场景，就是 RAG（检索增强生成）最形象的比喻。&lt;/p&gt;&#10;&lt;p&gt;它不是要取代大模型，而是&lt;strong&gt;为大模型装上了一个可以实时更新的&amp;quot;知识图书馆&amp;quot;&lt;/strong&gt;。&lt;/p&gt;&#10;&lt;/blockquote&gt;&#10;&lt;h2 id="一什么是-rag"&gt;一、什么是 RAG？&lt;/h2&gt;&#10;&lt;h3 id="11-官方定义"&gt;1.1 官方定义&lt;/h3&gt;&#10;&lt;p&gt;RAG 全称是 Retrieval-Augmented Generation，中文译为&amp;quot;&lt;strong&gt;检索增强生成&lt;/strong&gt;&amp;quot;。它是一种将信息检索系统与大语言模型的生成能力相结合的技术架构。&lt;/p&gt;&#10;&lt;p&gt;核心思想很简单：&lt;strong&gt;在让大模型回答问题之前，先从一个知识库中检索出与问题最相关的信息，然后将这些信息作为&amp;quot;参考资料&amp;quot;连同原始问题一起交给模型，让它基于这些资料生成最终答案。&lt;/strong&gt;&lt;/p&gt;&#10;&lt;h3 id="12-为什么要用-rag"&gt;1.2 为什么要用 RAG？&lt;/h3&gt;&#10;&lt;p&gt;传统的大语言模型存在三个先天性缺陷：&lt;/p&gt;&#10;&lt;table&gt;&#10;&#9;&lt;thead&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;缺陷&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;表现&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;后果&lt;/th&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/thead&gt;&#10;&#9;&lt;tbody&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;知识截止日期&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;模型训练完成后，新发生的事件一概不知&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;问&amp;quot;今天的天气&amp;quot;、&amp;ldquo;最近的新闻&amp;rdquo;，模型只能道歉&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;幻觉问题&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;模型会&amp;quot;自信地胡说八道&amp;quot;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;在金融、医疗等严肃场景无法直接使用&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;缺乏专业深度&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;对企业内部知识、专业领域知识不了解&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;无法回答基于私域数据的专业问题&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/tbody&gt;&#10;&lt;/table&gt;&#10;&lt;p&gt;RAG 的出现，一次性解决了这三个问题：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;知识实时更新&lt;/strong&gt;：只要更新知识库，模型就能&amp;quot;知道&amp;quot;&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;答案可追溯&lt;/strong&gt;：每个回答都能找到对应的参考资料&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;低成本私有化&lt;/strong&gt;：无需训练模型，只需构建知识库&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h3 id="13-rag-的三步工作流程"&gt;1.3 RAG 的三步工作流程&lt;/h3&gt;&#10;&lt;p&gt;一个标准的 RAG 流程包含三个核心步骤：&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-text" data-lang="text"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 1&lt;/span&gt;&lt;span class="cl"&gt;用户提问：&amp;#34;去年的销售额是多少？&amp;#34;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 2&lt;/span&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 3&lt;/span&gt;&lt;span class="cl"&gt;[第一步：检索]&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 4&lt;/span&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 5&lt;/span&gt;&lt;span class="cl"&gt;在向量数据库中搜索 → 找到&amp;#34;2023年财报.pdf&amp;#34;中的相关段落&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 6&lt;/span&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 7&lt;/span&gt;&lt;span class="cl"&gt;[第二步：增强]&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 8&lt;/span&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt; 9&lt;/span&gt;&lt;span class="cl"&gt;构建新的提示词：&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;10&lt;/span&gt;&lt;span class="cl"&gt;&amp;#34;基于以下资料回答问题：&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;11&lt;/span&gt;&lt;span class="cl"&gt;【资料】2023年公司财报显示，全年销售额为1.2亿元...&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;12&lt;/span&gt;&lt;span class="cl"&gt;问题：去年的销售额是多少？&amp;#34;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;13&lt;/span&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;14&lt;/span&gt;&lt;span class="cl"&gt;[第三步：生成]&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;15&lt;/span&gt;&lt;span class="cl"&gt; ↓&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;16&lt;/span&gt;&lt;span class="cl"&gt;大模型生成：&amp;#34;根据公司财报，2023年的销售额为1.2亿元。&amp;#34;&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;h2 id="二rag-的核心技术组件"&gt;二、RAG 的核心技术组件&lt;/h2&gt;&#10;&lt;p&gt;要深入理解 RAG，需要认识它的三个核心技术组件：&lt;/p&gt;</description></item><item><title>模型微调</title><link>https://www.leanku.com/post/ai/%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/</link><pubDate>Fri, 24 Oct 2025 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/</guid><description>&lt;h1 id="模型微调"&gt;模型微调&lt;/h1&gt;&#10;&lt;h2 id="一模型微调到底是什么"&gt;一、模型微调到底是什么&lt;/h2&gt;&#10;&lt;p&gt;简单来说，&lt;strong&gt;模型微调就是让一个已经博学多才的“通才”，通过针对性的“岗前培训”，变成精通某个领域的“专家”&lt;/strong&gt;。&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;预训练模型（通才大厨）：就像一位精通全球菜系的米其林大厨，他掌握了所有的基础知识和烹饪技巧，但未必了解你餐厅的特色。&lt;/li&gt;&#10;&lt;li&gt;微调（岗前培训）：你想开一家川菜馆，于是让这位大厨用三个月时间，专门学习川菜的食材、调料和烹饪手法。&lt;/li&gt;&#10;&lt;li&gt;微调后的模型（川菜大师）：最终，他不仅保留了原有的厨艺基础，更能做出一手地道的麻婆豆腐，成为了川菜领域的专家 。&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;p&gt;这个过程直接调整模型的“大脑”（参数），让学到的技能内化为模型自身的能力。相比于RAG（它更像是让大厨在做菜时随时翻阅菜谱），微调后的模型在推理时速度更快，且能深度掌握某种特定的风格或知识 。&lt;/p&gt;&#10;&lt;h2 id="二-核心技术lora四两拨千斤的微调利器"&gt;二、 核心技术：LoRA——四两拨千斤的微调利器&lt;/h2&gt;&#10;&lt;p&gt;你可能会担心，重新训练一个包含几十亿甚至上千亿参数的大模型，得需要多强大的计算资源？这正是LoRA（低秩自适应） 技术大显身手的地方。&lt;/p&gt;&#10;&lt;p&gt;它的核心思想非常巧妙，我们可以继续用“川菜大厨”的比喻来理解&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&lt;strong&gt;全量微调&lt;/strong&gt;：相当于让大厨忘掉过去的一些习惯，全身心地重新学习川菜的每一个步骤。效果最好，但成本极高，需要强大的算力支持。&lt;/li&gt;&#10;&lt;li&gt;&lt;strong&gt;LoRA微调&lt;/strong&gt;：我们不动大厨已经固化的核心“厨艺”（预训练权重），而是给他一个轻量级的“川菜秘方贴纸”（低秩矩阵）。这张贴纸只记录了川菜的关键调整点，比如“多加花椒”、“牛油比例提升”。大厨在做川菜时，只需要在关键步骤上参考这张贴纸即可 。&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;p&gt;这样做的好处是巨大的：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;显存占用低&lt;/strong&gt;：可训练的参数通常只有&lt;strong&gt;不到1%&lt;/strong&gt;，让在消费级显卡（如RTX 4090）上微调大模型成为可能。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;训练速度快&lt;/strong&gt;：大幅缩短了训练时间。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;模型性能高&lt;/strong&gt;：在绝大多数任务上，效果可以媲美全量微调。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;p&gt;&lt;strong&gt;QLoRA&lt;/strong&gt; 则是LoRA的进阶版，它先把基础模型“压缩”（量化）到4位精度，再应用LoRA，进一步降低了硬件门槛。&lt;/p&gt;&#10;&lt;h2 id="三-具体如何实现"&gt;三、 具体如何实现&lt;/h2&gt;&#10;&lt;p&gt;理解了原理，我们来看看如何上手。&lt;/p&gt;&#10;&lt;p&gt;你完全不需要从零开始写复杂的训练代码。这里有两条清晰的路径：&lt;/p&gt;&#10;&lt;h3 id="路径一使用云端服务最简单快速上手"&gt;路径一：使用云端服务（最简单、快速上手）&lt;/h3&gt;&#10;&lt;p&gt;这是最省心的方式，你只需要准备好数据，在云平台上点点鼠标，就能完成微调。例如华为云的ModelArts Studio，流程大致如下 ：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;准备数据&lt;/strong&gt;：整理好你的训练集（如客户问答对、特定风格的文本等）。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;选择模型&lt;/strong&gt;：在平台界面选择你想要微调的基础模型，例如盘古大模型。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;配置任务&lt;/strong&gt;：选择“微调”训练类型，并可以灵活选择“全量微调”或“LoRA微调” 。然后设置一些基本参数，如：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;学习率&lt;/strong&gt;：决定模型参数更新的幅度，通常设为很小的值如 &lt;code&gt;2e-5&lt;/code&gt; 。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;训练轮数&lt;/strong&gt;：整个数据集被训练的遍数，通常设为 &lt;code&gt;3&lt;/code&gt; 以避免过拟合。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;数据批量大小&lt;/strong&gt;：每次处理的数据量，根据你的资源情况设定。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;启动训练&lt;/strong&gt;：提交任务，等待训练完成。过程中可以观察&lt;strong&gt;损失值（Loss）&lt;/strong&gt; 曲线，它应该呈下降趋势，代表模型在有效学习。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;部署使用&lt;/strong&gt;：训练完成后，平台会自动生成一个微调后的模型版本，你可以像调用普通API一样，通过PHP代码来使用这个专属模型。&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h3 id="路径二使用本地开源工具更灵活适合动手实践"&gt;路径二：使用本地开源工具（更灵活、适合动手实践）&lt;/h3&gt;&#10;&lt;p&gt;如果你想在自己的电脑上体验整个过程，Ollama + Python是一个非常棒的组合，它让微调变得异常简单 。步骤如下：&lt;/p&gt;&#10;&lt;h4 id="1-安装ollama"&gt;1. 安装Ollama&lt;/h4&gt;&#10;&lt;p&gt;参考另一篇 &lt;a href="Ollama%E6%90%AD%E5%BB%BA%E6%9C%AC%E5%9C%B0.md"&gt;Ollama搭建本地&lt;/a&gt;&lt;/p&gt;&#10;&lt;p&gt;我们选择一个轻量级模型，普通电脑也能流畅运行&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;ollama pull llama2&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;h4 id="2-准备微调数据"&gt;2. 准备微调数据&lt;/h4&gt;&#10;&lt;p&gt;微调的核心是数据。我们将创建一个非常简单的数据集，让模型学习用莎士比亚的风格回答问题。&lt;/p&gt;&#10;&lt;p&gt;&lt;strong&gt;2.1&lt;/strong&gt; 创建项目目录&#10;在合适的位置新建一个文件夹：&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;mkdir ollama-finetune-demo&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;2&lt;/span&gt;&lt;span class="cl"&gt;&lt;span class="nb"&gt;cd&lt;/span&gt; ollama-finetune-demo&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;&lt;strong&gt;2.2&lt;/strong&gt; 创建Python虚拟环境&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;&lt;span class="c1"&gt;# 创建虚拟环境&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;2&lt;/span&gt;&lt;span class="cl"&gt;python -m venv .venv&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;3&lt;/span&gt;&lt;span class="cl"&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;4&lt;/span&gt;&lt;span class="cl"&gt;&lt;span class="c1"&gt;# 激活虚拟环境&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;5&lt;/span&gt;&lt;span class="cl"&gt;&lt;span class="c1"&gt;# Windows:&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;6&lt;/span&gt;&lt;span class="cl"&gt;.venv&lt;span class="se"&gt;\S&lt;/span&gt;cripts&lt;span class="se"&gt;\a&lt;/span&gt;ctivate&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;7&lt;/span&gt;&lt;span class="cl"&gt;&lt;span class="c1"&gt;# macOS/Linux:&lt;/span&gt;&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;8&lt;/span&gt;&lt;span class="cl"&gt;&lt;span class="nb"&gt;source&lt;/span&gt; .venv/bin/activate&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;&lt;strong&gt;2.3&lt;/strong&gt; 安装必要的Python库&lt;/p&gt;</description></item><item><title>Embedding：理解语义的基础</title><link>https://www.leanku.com/post/ai/embedding%E7%90%86%E8%A7%A3%E8%AF%AD%E4%B9%89%E7%9A%84%E5%9F%BA%E7%A1%80/</link><pubDate>Wed, 22 Oct 2025 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/embedding%E7%90%86%E8%A7%A3%E8%AF%AD%E4%B9%89%E7%9A%84%E5%9F%BA%E7%A1%80/</guid><description>&lt;h1 id="embedding理解语义的基础"&gt;Embedding：理解语义的基础&lt;/h1&gt;&#10;&lt;h2 id="引言当计算机学会了理解含义"&gt;引言：当计算机学会了&amp;quot;理解&amp;quot;含义&lt;/h2&gt;&#10;&lt;p&gt;在上一篇文章中，我们讨论了大语言模型的工作原理。但有一个根本问题还没解决：&lt;strong&gt;计算机是如何&amp;quot;理解&amp;quot;词语含义的？&lt;/strong&gt;&lt;/p&gt;&#10;&lt;p&gt;计算机只能处理数字，它不认识&amp;quot;猫&amp;quot;，不认识&amp;quot;爱情&amp;quot;，更不懂&amp;quot;苹果&amp;quot;和&amp;quot;橘子&amp;quot;的相似性。但今天的AI不仅能理解这些概念，还能进行语义推理。这一切的基石就是 &lt;strong&gt;Embedding（嵌入）&lt;/strong&gt;。&lt;/p&gt;&#10;&lt;h2 id="一什么是embedding"&gt;一、什么是Embedding？&lt;/h2&gt;&#10;&lt;h3 id="11-从一个思想实验开始"&gt;1.1 从一个思想实验开始&lt;/h3&gt;&#10;&lt;p&gt;想象你要向一个来自外星、不懂任何人类语言的外星人解释&amp;quot;苹果&amp;quot;这个词。你会怎么做？&lt;/p&gt;&#10;&lt;p&gt;你可以给他一个多维度的描述：&lt;/p&gt;&#10;&lt;table&gt;&#10;&#9;&lt;thead&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;维度&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;描述&lt;/th&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/thead&gt;&#10;&#9;&lt;tbody&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;颜色&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;通常是红色或绿色&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;形状&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;圆形&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;大小&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;拳头大小&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;味道&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;甜或酸甜&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;口感&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;脆&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;用途&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;可以吃&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&amp;hellip;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&amp;hellip;&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/tbody&gt;&#10;&lt;/table&gt;&#10;&lt;p&gt;如果把这些维度变成数字，就得到一个向量：&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-text" data-lang="text"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;苹果 = [红色: 0.9, 圆形: 0.8, 大小: 0.5, 甜度: 0.7, 脆度: 0.8, 可食用: 1.0, ...]&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;这就是Embedding的基本思想：&lt;strong&gt;用一个数字数组（向量）表示一个概念的含义&lt;/strong&gt;。&lt;/p&gt;&#10;&lt;h3 id="12-正式定义"&gt;1.2 正式定义&lt;/h3&gt;&#10;&lt;p&gt;&lt;strong&gt;Embedding（嵌入）&lt;/strong&gt; 是将离散的符号（词语、句子、图片等）映射到连续向量空间的技术。每个符号被表示为一个固定长度的实数向量。&lt;/p&gt;&#10;&lt;p&gt;&lt;strong&gt;关键特性&lt;/strong&gt;：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;语义相近的符号，向量距离也相近&lt;/strong&gt;&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;向量之间可以进行数学运算&lt;/strong&gt;&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;向量的维度（长度）通常在几十到几千之间&lt;/strong&gt;&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h3 id="13-直观理解语义空间地图"&gt;1.3 直观理解：语义空间地图&lt;/h3&gt;&#10;&lt;p&gt;可以把Embedding想象成绘制了一张&amp;quot;语义空间地图&amp;quot;：&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-text" data-lang="text"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt; [国王]&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;2&lt;/span&gt;&lt;span class="cl"&gt; ↑&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;3&lt;/span&gt;&lt;span class="cl"&gt; 男人&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;4&lt;/span&gt;&lt;span class="cl"&gt; ↑&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;5&lt;/span&gt;&lt;span class="cl"&gt;[苹果] ← 水果 → [橘子] [王后]&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;6&lt;/span&gt;&lt;span class="cl"&gt; ↑ /&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;7&lt;/span&gt;&lt;span class="cl"&gt; 女人 /&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;8&lt;/span&gt;&lt;span class="cl"&gt; ↑ /&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;9&lt;/span&gt;&lt;span class="cl"&gt; [女王]&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;在这张地图上：&lt;/p&gt;</description></item><item><title>AI Agent</title><link>https://www.leanku.com/post/ai/ai-agent/</link><pubDate>Tue, 21 Oct 2025 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/ai-agent/</guid><description>&lt;h1 id="ai-agent从回答问题到主动行动的智能体"&gt;AI Agent：从&amp;quot;回答问题&amp;quot;到&amp;quot;主动行动&amp;quot;的智能体&lt;/h1&gt;&#10;&lt;h2 id="引言当ai从思考者变成行动派"&gt;引言：当AI从&amp;quot;思考者&amp;quot;变成&amp;quot;行动派&amp;quot;&lt;/h2&gt;&#10;&lt;p&gt;到目前为止，我们讨论的所有AI应用都有一个共同点：&lt;strong&gt;被动响应&lt;/strong&gt;。你问一个问题，模型给出一个回答。就像一位知识渊博但从不主动行动的学者。&lt;/p&gt;&#10;&lt;p&gt;而 &lt;strong&gt;AI Agent（智能体）&lt;/strong&gt; 将彻底改变这个模式。它不再是单纯的&amp;quot;问答机器人&amp;quot;，而是一个能够&lt;strong&gt;自主理解目标、规划步骤、调用工具、执行行动&lt;/strong&gt;的智能系统。&lt;/p&gt;&#10;&lt;p&gt;用一个形象的比喻来理解AI的进化：&lt;/p&gt;&#10;&lt;table&gt;&#10;&#9;&lt;thead&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;阶段&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;比喻&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;能力&lt;/th&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/thead&gt;&#10;&#9;&lt;tbody&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;基础LLM&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;刚毕业的大学生&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;知识丰富，但只会回答问题&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;RAG增强&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;配备了图书馆的大学生&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;能查阅资料，回答更准确&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;微调模型&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;经过专业培训的专家&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;在特定领域更精通&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;AI Agent&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;项目经理 + 执行团队&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;能接收任务，规划执行，调用资源，交付成果&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/tbody&gt;&#10;&lt;/table&gt;&#10;&lt;h2 id="一什么是ai-agent"&gt;一、什么是AI Agent？&lt;/h2&gt;&#10;&lt;h3 id="11-核心定义"&gt;1.1 核心定义&lt;/h3&gt;&#10;&lt;p&gt;&lt;strong&gt;AI Agent（智能体）&lt;/strong&gt; 是一个能够&lt;strong&gt;感知环境、自主决策、执行行动&lt;/strong&gt;以达到特定目标的智能系统。它具备以下核心特征：&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;自主性&lt;/strong&gt;：无需人工干预，自主运作&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;目标导向&lt;/strong&gt;：所有行动都围绕达成目标&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;工具使用&lt;/strong&gt;：能调用外部工具完成任务&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;记忆能力&lt;/strong&gt;：记住历史，持续优化&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;li&gt;&#10;&lt;p&gt;&lt;strong&gt;规划能力&lt;/strong&gt;：将复杂任务拆解为可执行的步骤&lt;/p&gt;&#10;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h3 id="12-agent-vs-传统程序-vs-llm"&gt;1.2 Agent vs 传统程序 vs LLM&lt;/h3&gt;&#10;&lt;table&gt;&#10;&#9;&lt;thead&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;对比维度&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;传统程序&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;大语言模型(LLM)&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;AI Agent&lt;/th&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/thead&gt;&#10;&#9;&lt;tbody&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;工作方式&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;按固定逻辑执行&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;按输入生成输出&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;自主规划并执行&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;灵活性&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;低，只能做预设的事&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;中，能处理多种问题&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;高，能适应新任务&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;工具使用&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;内置固定功能&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;无（需外部配合）&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;主动调用各种工具&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;记忆能力&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;有状态但有限&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;会话级记忆&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;长期记忆+经验积累&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;目标理解&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;执行指令&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;理解问题&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;理解意图并拆解&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/tbody&gt;&#10;&lt;/table&gt;&#10;&lt;h3 id="13-一个生动的例子"&gt;1.3 一个生动的例子&lt;/h3&gt;&#10;&lt;p&gt;&lt;strong&gt;用户请求&lt;/strong&gt;：&amp;ldquo;帮我安排下周去上海的商务行程，包括机票、酒店和会议预约。&amp;rdquo;&lt;/p&gt;</description></item><item><title>理解大模型工作原理</title><link>https://www.leanku.com/post/ai/%E7%90%86%E8%A7%A3%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%B7%A5%E4%BD%9C%E5%8E%9F%E7%90%86/</link><pubDate>Tue, 21 Oct 2025 00:01:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/%E7%90%86%E8%A7%A3%E5%A4%A7%E6%A8%A1%E5%9E%8B%E5%B7%A5%E4%BD%9C%E5%8E%9F%E7%90%86/</guid><description>&lt;h1 id="理解大模型工作原理"&gt;理解大模型工作原理&lt;/h1&gt;&#10;&lt;h2 id="引言当计算机学会了说话"&gt;引言：当计算机学会了&amp;quot;说话&amp;quot;&lt;/h2&gt;&#10;&lt;p&gt;想象一下，你正在和一个&amp;quot;人&amp;quot;对话，他能理解你的问题，能写出优美的诗句，能解释复杂的科学概念，甚至能帮你写代码。但这个&amp;quot;人&amp;quot;其实是一个运行在服务器上的软件程序。它如何做到的？&lt;/p&gt;&#10;&lt;p&gt;这就是大语言模型（Large Language Model, LLM）创造的奇迹。在本文中，我将用一个PHP开发者的视角，带你深入理解这个&amp;quot;数字大脑&amp;quot;的工作原理。&lt;/p&gt;&#10;&lt;h2 id="一大模型是什么"&gt;一、大模型是什么？&lt;/h2&gt;&#10;&lt;h3 id="11-从一个形象的比喻开始"&gt;1.1 从一个形象的比喻开始&lt;/h3&gt;&#10;&lt;p&gt;&lt;strong&gt;传统程序 vs 大模型&lt;/strong&gt;&lt;/p&gt;&#10;&lt;table&gt;&#10;&#9;&lt;thead&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;对比维度&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;传统程序&lt;/th&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;th&gt;大语言模型&lt;/th&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/thead&gt;&#10;&#9;&lt;tbody&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;工作方式&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;按照程序员写的代码执行&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;根据海量数据&amp;quot;学习&amp;quot;出的规律工作&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;知识来源&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;程序员明确告诉它&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;从数万亿文本中自己&amp;quot;领悟&amp;quot;&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;灵活性&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;只能处理预设的场景&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;能应对从未见过的问题&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&#9;&#9;&lt;tr&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;&lt;strong&gt;类比&lt;/strong&gt;&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;按照菜谱做菜的厨师&lt;/td&gt;&#10;&#9;&#9;&#9;&#9;&#9;&lt;td&gt;尝过百万道菜后自己创造新菜的大厨&lt;/td&gt;&#10;&#9;&#9;&#9;&lt;/tr&gt;&#10;&#9;&lt;/tbody&gt;&#10;&lt;/table&gt;&#10;&lt;h3 id="12-从数字到智能三个关键洞察"&gt;1.2 从数字到智能：三个关键洞察&lt;/h3&gt;&#10;&lt;h4 id="洞察一词语可以用数字表示"&gt;洞察一：词语可以用数字表示&lt;/h4&gt;&#10;&lt;p&gt;就像我们可以用经纬度表示地球上的任何位置，我们也可以用一组数字（向量）表示一个词的含义：&lt;/p&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-text" data-lang="text"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;&amp;#34;国王&amp;#34; = [0.8, 0.3, -0.2, 0.5, ...]&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;2&lt;/span&gt;&lt;span class="cl"&gt;&amp;#34;王后&amp;#34; = [0.7, 0.4, -0.1, 0.6, ...]&#10;&lt;/span&gt;&lt;/span&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;3&lt;/span&gt;&lt;span class="cl"&gt;&amp;#34;苹果&amp;#34; = [0.1, 0.9, -0.8, -0.3, ...]&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;h4 id="洞察二词语之间的关系可以用数学计算"&gt;洞察二：词语之间的关系可以用数学计算&lt;/h4&gt;&#10;&lt;p&gt;经典的&amp;quot;国王 - 男人 + 女人 = 王后&amp;quot;实验表明，这些数字向量之间可以进行数学运算，而且结果符合语义！&lt;/p&gt;&#10;&lt;h4 id="洞察三上下文决定含义"&gt;洞察三：上下文决定含义&lt;/h4&gt;&#10;&lt;p&gt;&amp;ldquo;苹果&amp;quot;在&amp;quot;苹果很好吃&amp;quot;和&amp;quot;苹果发布了新手机&amp;quot;中含义不同。大模型需要理解这种差异。&lt;/p&gt;&#10;&lt;h2 id="二大模型的核心架构"&gt;二、大模型的核心架构&lt;/h2&gt;&#10;&lt;h3 id="21-从神经元到神经网络"&gt;2.1 从神经元到神经网络&lt;/h3&gt;&#10;&lt;h4 id="单个神经元生物类比"&gt;单个神经元（生物类比）：&lt;/h4&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-text" data-lang="text"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;树突（接收信号） → 细胞体（处理信号） → 轴突（输出信号）&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;h4 id="人工神经元数学抽象"&gt;人工神经元（数学抽象）：&lt;/h4&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-text" data-lang="text"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;输入 × 权重 + 偏置 → 激活函数 → 输出&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;h3 id="22-神经网络层级"&gt;2.2 神经网络层级&lt;/h3&gt;&#10;&lt;p&gt;一个完整的神经网络由多个层级组成：&lt;/p&gt;</description></item><item><title>Ollama</title><link>https://www.leanku.com/post/ai/ollama/</link><pubDate>Sun, 01 Sep 2024 11:46:01 +0800</pubDate><guid>https://www.leanku.com/post/ai/ollama/</guid><description>&lt;h1 id="ollama-简介"&gt;Ollama 简介&lt;/h1&gt;&#10;&lt;h2 id="介绍"&gt;介绍&lt;/h2&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;Ollama 是一个开源的大型语言模型（LLM）平台，旨在让用户能够轻松地在本地运行、管理和与大型语言模型进行交互。&lt;/li&gt;&#10;&lt;li&gt;Ollama 提供了一个简单的方式来加载和使用各种预训练的语言模型，支持文本生成、翻译、代码编写、问答等多种自然语言处理任务。&lt;/li&gt;&#10;&lt;li&gt;Ollama 的特点在于它不仅仅提供了现成的模型和工具集，还提供了方便的界面和 API，使得从文本生成、对话系统到语义分析等任务都能快速实现&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="安装要求"&gt;安装要求&lt;/h2&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;Ollama 支持多种操作系统，包括 macOS、Windows、Linux 以及通过 Docker 容器运行。&lt;/li&gt;&#10;&lt;li&gt;CPU：多核处理器（推荐 4 核或以上）&lt;/li&gt;&#10;&lt;li&gt;GPU：如果你计划运行大型模型或进行微调，推荐使用具有较高计算能力的 GPU（如 NVIDIA 的 CUDA 支持）&lt;/li&gt;&#10;&lt;li&gt;内存：至少 8GB RAM，运行较大模型时推荐 16GB 或更高。&lt;/li&gt;&#10;&lt;li&gt;存储：需要足够的硬盘空间来存储预训练模型，通常需要 10GB 至数百 GB 的空间，具体取决于模型的大小。&lt;/li&gt;&#10;&lt;li&gt;软件要求：确保系统上安装了最新版本的 Python（如果打算使用 Python SDK）。&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="下载安装ollama"&gt;下载安装ollama&lt;/h2&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&lt;a href="https://ollama.com/download"&gt;https://ollama.com/download&lt;/a&gt; 下载&lt;/li&gt;&#10;&lt;li&gt;下载完成后进行安装&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="运行模型"&gt;运行模型&lt;/h2&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;&lt;a href="https://ollama.com/search"&gt;https://ollama.com/search&lt;/a&gt; 查找模型&lt;/li&gt;&#10;&lt;li&gt;下载模型 如 &lt;code&gt;ollama run deepseek-r1&lt;/code&gt;&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="使用docker安装ui页面"&gt;使用docker安装UI页面&lt;/h2&gt;&#10;&lt;div class="highlight"&gt;&lt;pre tabindex="0" class="chroma"&gt;&lt;code class="language-bash" data-lang="bash"&gt;&lt;span class="line"&gt;&lt;span class="ln"&gt;1&lt;/span&gt;&lt;span class="cl"&gt;docker run -d -p 3000:8080 --add-host&lt;span class="o"&gt;=&lt;/span&gt;host.docker.internal:host-gateway -v D:&lt;span class="se"&gt;\o&lt;/span&gt;pen-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main&#10;&lt;/span&gt;&lt;/span&gt;&lt;/code&gt;&lt;/pre&gt;&lt;/div&gt;&lt;p&gt;进入UI页面，注册本地账号，开始使用&lt;/p&gt;&#10;&lt;ul&gt;&#10;&lt;li&gt;访问 http://localhost:3000/&lt;/li&gt;&#10;&lt;/ul&gt;&#10;&lt;h2 id="ollama-api"&gt;Ollama API&lt;/h2&gt;&#10;&lt;p&gt;可参考&lt;a href="https://www.runoob.com/ollama/ollama-api.html"&gt;文档&lt;/a&gt;&lt;/p&gt;</description></item></channel></rss>