chatgpt本地部署 tapd本地部署

本文目录一览：

• 1、基于GPT的生产力工具
• 2、ChatGLM2-6B本地部署
• 3、AutoGPT来了!手把手教你如何本地安装AutoGPT(建议收藏)
• 4、一文教你基于LangChain和ChatGLM3搭建本地知识库问答

基于GPT的生产力工具

推荐使用GPT_academic，功能强大且支持本地部署。操作流程包括获取GPT的API，需充值使用，初始免费额度为5刀，充值时可办理国外银行卡，包括在线虚拟卡。在本地使用Python执行，即可在浏览器中打开界面。Overleaf Copilot和ChatGPT提供使用技巧，如Scholar writing copilot for Overleaf和LLMRiddles。

Unriddle Unriddle是一款AI工具，简化了复杂文档的使用，通过提问和即时答案的交互方式，帮助用户理解文档内容。它可作为学习辅助，显著减少理解复杂主题所需的时间。0 Sharly AI Sharly AI是为专业人士设计的生产力工具，使用生成式AI帮助节省理解长文档的时间。

对于非计算机科学专业的转行者，CodeGPT是一个极其实用的工具，同时为模型训练与多模态应用提供了新的思路。自动驾驶与Vision Language Model的结合、音乐创作的便利性提升、FL Studio与Suno AI或Albeton Live + Suno AI等产品的可能性，都引发了对加速文化信息生产力工具的深度思考。

Harvey Al：由艾尔主导的法律顾问。1 Bearly Al：用于读取、写入和创建内容的Al工具。1Scispace Al：你的研究助理，每天节省几个小时。1Hints Al：基于GPT的人工智能助手帮助您更有效地使用生产力工具。1 http：//Monday.com：使用Al构建200多个可定制模板的理想工作流。

Debuild是一个利用OpenAI GPT-3 API开发的工具，允许开发者使用GPT-3模型构建强大的应用程序。GPT-3是OpenAI的商业产品，拥有1750亿个参数，提供强大的支持。通过简单的英语输入，即可生成所需的代码输出和应用。

ChatGLM2-6B本地部署

1、ChatGLM26B本地部署的步骤如下：环境准备：项目克隆：首先，从GitHub或其他代码托管平台克隆ChatGLM26B的源代码。安装依赖：安装transformers库，torch版本推荐0以上以获得最佳推理性能。同时，安装GIT LFS并测试安装是否成功。

2、在部署ChatGLM2-6B模型之前，请确保满足以下前置条件：在执行项目安装之前，你需要安装以下各项：Anaconda、git、Conda、git-lfs、cuda、cudnn、pycharm以及TDMGCC。

3、部署chatglm2-6b到V100上，需遵循以下步骤，以确保系统兼容性和优化性能。首先，确保您的系统支持CUDA 17或更高版本，因为chatglm2-6b支持CUDA 16，但与PyTorch 0不兼容。当前，推荐使用CUDA 17，以获得最佳性能。

4、要开始使用ChatGLM2-6B，首先需要在智星云官网上租赁具有适当配置的机器，如RTX 3090-24G。登录后，通过管理员权限运行anaconda prompt，切换到虚拟环境并激活，然后导航到C盘的myglm文件夹，进一步进入ChatGLM2-6B的主目录（C：\ProgramData\myglm\ChatGLM2-6B-main）。

AutoGPT来了!手把手教你如何本地安装AutoGPT(建议收藏)

访问AutoGPT项目的GitHub地址。复制项目的git地址。打开命令提示符，使用git clone命令加上复制的地址，将AutoGPT代码下载到本地。推荐在D盘创建一个名为Auto GPT的文件夹进行操作，以避免路径问题。注册并获取Pinecone API Key：访问pinecone.io网站进行注册。

首先，你需要在你的设备上安装Git，进入百度搜索git for windows，选择官方下载链接。接着，访问Python官网下载最新版本，并在安装时勾选添加到PATH，以便后续调用。接着，访问AutoGPT项目的GitHub地址（github.com/Significant-...），复制git地址。

运行环境准备(安装Git 和Python)这里我就不细说了，大家可以看一下我以前的文章 AutoGPT来了！手把手教你如何本地安装AutoGPT（建议收藏）下载Auto-GPT-Chinese项目 进入AutoGPT项目地址（git clone github.com/RealHossie/A...），点击绿色code，复制git安装地址。

一文教你基于LangChain和ChatGLM3搭建本地知识库问答

ChatGLM3是基于Transformer的开源语言模型，由清华大学KEG实验室和智谱AI公司训练。提供文本处理、对话流畅性等功能。2 LangChain框架 LangChain是一个开源框架，允许开发者结合GPT-4等大语言模型与外部数据源，实现复杂功能，如问答系统。

受GanymedeNil和AlexZhangji的启发，我们构建了一个全开源模型驱动的本地知识库问答系统，支持ChatGLM-6B和其他模型通过fastchat api接入，包括Vicuna、Alpaca、LLaMA、Koala、RWKV等。默认使用GanymedeNil/text2vec-large-chinese作为嵌入，并使用ChatGLM-6B作为语言模型。

部署基于 Langchain 与 ChatGLM 的本地知识库问答应用 LangChain-Chatchat，我尝试了私有化部署，遵循仓库内的 readme 和 INSTALL.md。过程中遇到了一些小问题，如缺少某些库，导致一键启动脚本启动的服务无法通过服务器IP外部访问。

本文介绍如何安装和使用LangChain-Chatchat，一个基于Langchain与ChatGLM等大语言模型的本地知识库问答应用。安装步骤分为三种方式：autoDL、docker和本地部署。本地部署虽然较为麻烦，但能提供更灵活的调试环境和深入了解项目运行机制的机会。