也可以直接使用 nuget OpenAI 包，直接调用，这里直接使用 httpclinet 进处理， 如果要转发多个接口，可使用 Yarp.ReverseProxy 对 ai 调用接口进行反向代理 ， 见 使用 Yarp.ReverseProxy 转发 ai 调用请求至硅基流动 目前有 2 个模型是免费的， TeleAI/TeleSpeechASR…

有时不需希望在客户端直接对 ai 接口发起请求，通过 api 中间层转发 ai 请求， 在转发时填入真实的服务器地址及 key。 如果要全部转发的话，可以做反向代理， 见 使用 Yarp.ReverseProxy 转发 ai 调用请求至硅基流动 注入服务 要注意的是如果启用了 aspire , 系统会启用一个默认的 http 处理策略，比如超时时间…

llama.cpp 中的执行器 StatelessExecutor 无状态 每次请求都是独立的，不保留任何记忆。下一次请求会清空缓存，重新从第一个 Token 开始解码。 单次文本分类、数据提取、情感分析、批量独立任务（如你之前的 JSON 提取）。 优点：绝对不会发生上下文污染。 缺点：长文本重复请求时，重复解码系统提示词导致性能较低。 Inte…

演示如何使用 powershell 编写调用 AI 查询单词释义、调用 TTS 生成发音文件并进行播放的例子 可以定义 shell 环境， code $PROFILE 加入快捷调用函数，比如 wd word （脚本见最后） 单词查询脚本 <# .DESCRIPTION 查询单词 .EXAMPLE .\SearchWork.ps1 -word …

微软有一个 AISH 工具，但是命令行调用功能不完善(今天去看已经停止更新了)。下面使用 https://github.com/chenxizhang/openai-powershell （今天看，也已停止更新很久了）​ 还有一个三方工具 https://github.com/mkht/PSOpenAI 功能也挺全的，还在更新中，有空时研究下 ‍ …

.net 进程内调用 MCP 服务器 可以在程序内部创建一个 MCP Server 与 MCP Client, 然后通过 Pipe 的方式调用 await using var serviceProvider = this.CreateServiceProviderCore(); var loggerFactory = serviceProvider…

MCP 协议中提供了一种机制 ，通过在 MCP client 中设置，可以为 MCP 服务端提供调用 LLM 的桥梁。 在 .net 中的处理流程就是 MCP Client 中配置回调机制，然后在 MCP Server 工具类 中注入 McpServer 对象，然后调用 var chatClient = thisServer.AsSamplingC…

https://www.promptingguide.ai/zh​ ‍ 模型设置说明 在使用大语言模型（LLM）时，可通过调整以下参数来控制生成结果的风格、长度和多样性。建议每次只调整一个参数，以便更清楚地观察效果。 Temperature（温度） 控制生成文本的随机性，取值范围通常为 0.0 到 2.0。值越低（如 0.1），输出越确定、聚焦，适…

创建 MCP client # 如果调用本地开发项目，使用如下调用参数 Command = "dotnet", Arguments = ["run", "--project", GetMcpServerProjectDirectory(),], # 使用标准输入/输出（Stdio）传输作为…

.net 开发 MCP 服务器 微软手册 ：快速入门 - 创建最小 MCP 服务器并发布到 NuGet - .NET | Microsoft Learn 官方库：https://github.com/modelcontextprotocol/csharp-sdk 我目前使用微软的库实现，官方库以后再研究 ‍ 安装 安装服务模板 dotnet new…