基于 AI/LLM 的山东省以旧换新政策咨询系统，支持政策问答、补贴计算、多模态识别，以及管理员控制台中的智能体配置、知识库管理和模型服务管理。 行业场景 面向政府部门、公共服务平台与行业协会的政策解读与咨询场景，聚焦山东省以旧换新相关政策的 ...

tech-stories#ollama#ollama-tutorial#how-to-use-ollama#how-to-set-up-ollama#ollama-cloud#local-llm#run-llm-locally#hackernoon-top-story ...

官方提供的 UI 界面做得还算不错，不过测试时基本没用上，因为更关注的是代码层面的实现。 .env 配置文件的参数非常丰富，需要根据实际使用的工具链做适配。为了调用本地模型，我这里用Ollama 做了相应调整。 虽然 .env 文件里有参数可以配置 input 文件夹 ...

你是否曾想过让强大的开源大模型（LLM）更懂你的专业领域，或者更能模仿你的写作风格？微调（Fine-Tuning）就是实现这一目标的钥匙。过去，微调是资源雄厚的大公司的专利，动辄需要数十张GPU和复杂的分布式训练知识。 但现在，感谢 Ollama 和 Python 生态的强大 ...

作为一名对 AI 和机器学习充满热情的人，我花了不少时间研究怎么让强大的语言模型更好地完成特定任务。今天，我想分享一份详细的指南，教你如何用 Python 微调 LLM（大型语言模型），然后用 Ollama 这个工具在本地运行微调后的模型。这份指南基于我看到的 ...

在不久前发布的《技术实战 | OK3588-C开发板上部署DeepSeek-R1大模型的完整指南》一文中，小编为大家介绍了DeepSeek-R1在飞凌嵌入式OK3588-C开发板上的移植部署、效果展示以及性能评测，本篇文章不仅将继续为大家带来关于DeepSeek-R1的干货知识，还会深入探讨多种平台 ...

Ollama 使本地在 AMD GPU 上运行 Meta 的 Llama 3.2 模型变得更加容易，支持 Linux 和 Windows 系统。 借助 Ollama，在 AMD 系统上本地运行大型语言模型（LLM）变得更加便捷。本指南将重点介绍 Meta 于 2024 年 9 月 25 日发布的最新 Llama 3.2 模型。Meta 的 Llama 3.2 提供 1B、3B、11B 和 ...

1、为什么要对 GraphRAG 本地部署？ 微软开源 GraphRAG 后，热度越来越高，目前 GraphRAG 只支持 OpenAI 的闭源大模型，导致部署后使用范围大大受限，本文通过 GraphRAG 源码的修改，来支持更广泛的 Embedding 模型和开源大模型，从而使得 GraphRAG 的更容易上手使用。

chatgpt-on-wechat（简称CoW）项目是基于大模型的智能对话机器人，支持微信公众号、企业微信应用、飞书、钉钉接入，可选择GPT3 ...

IT之家7 月 23 日消息，Meta 今晚正式发布 Llama 3.1 开源大语言模型，提供 8B、70B 及 405B 参数版本。 据介绍，Llama 3.1 系列改进了推理能力及多语言支持，上下文长度提升至 128K，首次推出 405B 参数的旗舰模型。 Meta 称 4050 亿参数的 Llama 3.1-405B 在常识、可引导性 ...