llama.cpp 中的执行器 StatelessExecutor 无状态 每次请求都是独立的，不保留任何记忆。下一次请求会清空缓存，重新从第一个 Token 开始解码。 单次文本分类、数据提取、情感分析、批量独立任务（如你之前的 JSON 提取）。 优点：绝对不会发生上下文污染。 缺点：长文本重复请求时，重复解码系统提示词导致性能较低。 Inte…
.net 调用 llama.cpp
MacOS 上安装 docker
为了测试可以使用 colima 这样可以不用安装 docker desktop # 安装 colima brew install colima # 安装 docker compose brew install docker-compose # 启动 colima start # 停止 colima stop # 或是定义一个 pwsh 函数 fun…
Ubuntu 系统分区迁移
原来 Ubuntu 安装在一块 ssd 上，Windows 安装在 NVMe 磁盘上做成双启动，现在打算将 Ubuntu 分区复制到 Windows 分区上。这样 Ubuntu 系统运行会快一些 下面使用的都是图形界面的工具进行操作 下载 GParted Live ISO （磁盘工具） 复制到 U 盘中，引导后运行将 Ubuntu 分区压缩一下 因…
mysql 绿色运行
下载 mysql 压缩包，解压缩，然后在根目录下创建下面 2 个文件，然后运行 startConsole.bat 即可 默认无密码，需要密码的话修改初始化参数为 --initialize 修改 my.ini 中的路径为绝对路径 startConsole.bat 可以修改启动参数将路径值，传入，可以见 ps1 脚本 ，有空再改 @echo off R…
JetBrains Rider 设置多项目启动
选择 运行/调试工具栏下的 编辑配置 点击 + 新建配置 选择 复合 (Compound) 选择 + 选择需要启动的项目 点击 保存
.net 支持终端开发的界面库
macOS 下使用这两个应用的 demo ， 使用上还是有些问题 RazorConsole 以 Razor 语法写终端程序 https://github.com/LittleLittleCloud/RazorConsole https://github.com/LittleLittleCloud/RazorConsole?tab=readme-ov…
PWSH AI 查词、发音
演示如何使用 powershell 编写调用 AI 查询单词释义、调用 TTS 生成发音文件并进行播放的例子 可以定义 shell 环境， code $PROFILE 加入快捷调用函数，比如 wd word （脚本见最后） 单词查询脚本 <# .DESCRIPTION 查询单词 .EXAMPLE .\SearchWork.ps1 -word …
PWSH 调用 AI
微软有一个 AISH 工具，但是命令行调用功能不完善(今天去看已经停止更新了)。下面使用 https://github.com/chenxizhang/openai-powershell （今天看，也已停止更新很久了） 还有一个三方工具 https://github.com/mkht/PSOpenAI 功能也挺全的，还在更新中，有空时研究下 …
.net 进程内调用 MCP 服务器
.net 进程内调用 MCP 服务器 可以在程序内部创建一个 MCP Server 与 MCP Client, 然后通过 Pipe 的方式调用 await using var serviceProvider = this.CreateServiceProviderCore(); var loggerFactory = serviceProvider…
.net MCP Sampling (MCP Server 回调客户端 LLM)
MCP 协议中提供了一种机制 ，通过在 MCP client 中设置，可以为 MCP 服务端提供调用 LLM 的桥梁。 在 .net 中的处理流程就是 MCP Client 中配置回调机制，然后在 MCP Server 工具类 中注入 McpServer 对象，然后调用 var chatClient = thisServer.AsSamplingC…