我，来自苏州，是一个热爱二次元的码农。

新博客，新起点

我只不过是一只普普通通的初中牲罢了

那么，让我来介绍一下这个博(垃)客(圾)

硬件配置：

托管于雨云

--------只要雨云一天不倒，我的博客就一天不倒！

软件配置：

Runtime

Registry

库/框架

微前端

1. Windows GPU 驱动全套配置

1.1 安装 NVIDIA 驱动

1.1.1 📋 确认硬件条件

检查你的显卡：

• 必须是 NVIDIA 显卡才能用 CUDA 加速。
• 推荐显存：至少 6GB，更高更好。
• 桌面版、笔记本版显卡都可以，比如 RTX 3060、3080、4090。

👉 打开命令行，输入：

nvidia-smi

1. 开发计划

• ✅ V0.1：基础对话系统（本地调用 Ollama）

  基础的 Python 调用 Ollama 对话代码

  • 使用 Python 实现与 Ollama 的基础对话接口；
  • 用户输入 → LLM 响应流程；
  • 终端交互版本（命令行）；
  • 「待定」抽象封装一个 ChatModel 接口类，便于后续接入其他模型。

• 🧠 V0.2：增加短时记忆能力（对话上下文）

  拥有基础的短时记忆能力；

  • 将历史对话内容拼接传入，模拟短时记忆；
  • 上下文缓存机制（如 recent_n_turns）；
  • 支持用户手动清除上下文（/reset 命令）。

• 💾 V0.3：数据持久化（本地 + 云）

  对话数据持久化存储「本地化存储 and 云存储」

  • 📁 本地化存储

    • JSON / SQLite 存储每轮对话（按会话分组）——本地化数据存储格式；

    • 提供导入/导出对话记录的功能；

    • 本地文件结构设计示意：

      /data/
        session_2025_05_25_14_30.json

  • ☁️ 云端存储

    • 设计简单 API 接口结构（RESTful）；
    • 支持通过 requests 同步数据至远程数据库（如 LeanCloud、Firestore、Supabase）；
    • 云端数据加密传输与权限验证（Token 或 API Key）。
    • 云存储数据存储格式，以及数据如何进行交互；

• 🧬 V0.4：长时记忆与总结压缩

  Ollama 对用户历史对话数据进行总结记忆；

  对话数据过长，可以考虑分块（分批次）总结并存储——实现数据压缩，防止超出 token 长度；

  • 定期对对话进行总结（e.g. 每 20 轮对话压缩一次）；
  • 使用 LLM 总结模块，按分块进行摘要生成；
  • 存储压缩版本作为“记忆摘要”，减少上下文 Token 压力；
  • 构建一个 MemoryManager 组件，负责记忆管理、压缩、合并等操作。

• 🌐 V0.5：模型动态切换（本地 vs 在线）

  Gemini 在线大模型选用——封装一个函数，在程序运行过程中，让用户选择所需要使用的大模型「Local or Server」；

  注意点⚠️：Ollama 与 Gemini 的对话结构不同，需要做出适配；

  • 实现模型选择接口：use_model("ollama") 或 use_model("gemini")；
  • 抽象不同模型输入输出结构；
    • Ollama: { 'role': 'user', 'content': '...' }
    • Gemini: { 'parts': ['...'] }
  • 自动适配输入格式、输出格式；
  • 提供配置项或命令行参数选择模型来源（支持热切换）；
  • 检查网络连通性与 API Key 存在性做出提示。

本文详细介绍如何使用 Python 通过 HTTP 请求方式调用 Ollama 的本地大语言模型，包括文本生成、对话、嵌入、模型管理等功能。

📦 1. 环境准备

确保你已完成以下环境配置：

1. ✅ 安装并运行 Ollama（访问 ollama.com）

2. ✅ 拉取至少一个模型（如 llama3）：

   ollama pull llama3

3. ✅ 安装 Python 库：

   pip install requests