本章目标:掌握各种 LLM 模型的配置方法,理解生成选项和格式化器
5.1 支持的模型提供商
AgentScope-Java 支持多种主流 LLM 提供商:
| 提供商 | 模型类 | 流式 | 工具 | 视觉 | 推理 | 推荐场景 |
|---|---|---|---|---|---|---|
| DashScope | DashScopeChatModel | ✅ | ✅ | ✅ | ✅ | 国内首选 |
| OpenAI | OpenAIChatModel | ✅ | ✅ | ✅ | - | 全球通用 |
| Anthropic | AnthropicChatModel | ✅ | ✅ | ✅</ |
张小明
前端开发工程师
本章目标:掌握各种 LLM 模型的配置方法,理解生成选项和格式化器
AgentScope-Java 支持多种主流 LLM 提供商:
| 提供商 | 模型类 | 流式 | 工具 | 视觉 | 推理 | 推荐场景 |
|---|---|---|---|---|---|---|
| DashScope | DashScopeChatModel | ✅ | ✅ | ✅ | ✅ | 国内首选 |
| OpenAI | OpenAIChatModel | ✅ | ✅ | ✅ | - | 全球通用 |
| Anthropic | AnthropicChatModel | ✅ | ✅ | ✅</ |
Llama3-8B模型服务化:1小时学会API封装,快速产品化 你是不是也有这样的困扰:好不容易跑通了一个大模型,比如Llama3-8B-Instruct,结果只能在本地命令行里“自言自语”,没法让别人用,更别提集成到…
本附录收集AgentScope-Java开发中的常见问题及解决方案。 C.1 环境配置问题 C.1.1 API密钥未设置 问题描述: java.lang.IllegalStateException: API key is not set解决方案: 设置环境变量: export DASHSCOPE_API_KEY="sk-your-api-key"或在代码中直接指定: D…
GLM-4-32B-0414来了:320亿参数实现全能推理飞跃 【免费下载链接】GLM-4-32B-0414 项目地址: https://ai.gitcode.com/zai-org/GLM-4-32B-0414 导语 GLM-4-32B-0414系列大模型正式发布,以320亿参数规模实现与GPT-4o等顶级模型比肩的性能表现&…
TwitchLink:免费开源的Twitch视频下载工具完整指南 【免费下载链接】TwitchLink Twitch Stream & Video & Clip Downloader/Recorder. The best GUI utility to download/record Broadcasts/VODs/Clips. 项目地址: https://gitcode.com/gh_mirrors/tw/Twi…
通义千问2.5-7B性能优化:让推理速度提升3倍 1. 引言 随着大语言模型在实际业务场景中的广泛应用,推理效率成为决定用户体验和部署成本的关键因素。通义千问2.5-7B-Instruct作为Qwen系列中兼具性能与效果的中等规模指令模型,在对话理解、长文…
ERNIE 4.5-A47B:300B参数MoE模型快速部署指南 【免费下载链接】ERNIE-4.5-300B-A47B-Paddle 项目地址: https://ai.gitcode.com/hf_mirrors/baidu/ERNIE-4.5-300B-A47B-Paddle 百度ERNIE系列最新发布的ERNIE-4.5-300B-A47B-Paddle模型,以其3000亿…