chatgpt观察 观察法观察表

本文目录一览：

• 1、千Star-大模型LLM微调项目-更新
• 2、怎样才能知道一个男人的品德好坏呢
• 3、Llama2技术细节&开源影响
• 4、Auto-GPT安装教程,使用案例

千Star-大模型LLM微调项目-更新

1、大家好，我是刘聪NLP，为庆祝首篇千赞文章和首个千Star项目，我周末对大模型微调项目代码进行了重大更新。现在支持了ChatGLM和ChatGLM2的切换，并增加了代码的可读性。

2、Lora方法在大型语言模型上增加额外的低秩矩阵，仅训练这部分参数。微调代码中，可设置参数如训练路径、模型目录、训练周期、批次大小、秩值等。CUDA_VISIBLE_DEVICES命令用于指定训练时使用的显卡。实验结果表明，对于指定任务，Freeze、P-Tuning和Lora方法都能有效提升模型性能。

3、LLM模型微调是在大型语言模型基础上进行优化，以提升模型在特定任务上表现的技术。以下是关于LLM模型微调的关键点：微调框架：LLaMAFactory：专门为大型语言模型设计的微调框架，支持多种知名语言模型，如LLaMA、BLOOM等，简化和加速了训练与微调过程。微调方法：全参调整：对整个模型的所有参数进行调整。

怎样才能知道一个男人的品德好坏呢

吃饭时的行为习惯确实能看出一个人的教养，也暴露出她的人品可能并不好。 借钱的处理看出人品 有些人说，人在困境中往往失去骨气，确实有这样的情况。有些人困境中仍然能保持自信，而有些人则显得无助，像乞丐一样等待别人的施舍。有些人借钱时承诺很快归还，但长时间不见动静。

**言行举止**：一个人的言语和行为是其性格和价值观的直接体现。一个礼貌、尊重他人且温和的人，往往具有良好的人品。 **守信用**：一个始终坚持承诺、诚实无欺的人，通常被认为具有高尚的品德。 **对他人的态度**：尊重他人、关心他人需求并乐于提供帮助的人，通常拥有较好的人品。

对待弱者的态度：一个人的人品好坏可以从他对待弱者的态度来看出来。一个有良好人品的人会关心、照顾、帮助弱者，而不是欺负、虐待、忽视他们。 对待他人的诚实：诚实是人品的重要组成部分。一个诚实的人不会说谎、欺骗或偷窃，而是坦诚、真诚、正直。

Llama2技术细节&开源影响

1、LLaMA2在RLHF技术方面的细节揭示了其如何超越了先前的模型，特别是在GPT4和人类评估下，其性能超越了ChatGPT和Vicuna、Falcon等模型。

2、在训练策略上，他们采用了PPO算法，辅以拒绝采样微调，并结合RLHF-v4技术。模型训练过程中，强调有用性和安全性奖励，使用AdamW优化器和精心设置的PPO参数。为了确保对话一致性，他们巧妙地运用了Ghost Attention技术。对于Llama2的推理，MetaAI推荐使用揽睿星舟平台，新用户注册可享受优惠。

3、大型语言模型如LlaMa2是在广泛文本语料库上预先训练的，能够预测序列中的下一个词标，但不直接回应指令。指令调整使模型与人类期望一致。QLoRA技术：在本案例中，采用参数高效微调中的QLoRA技术进行微调。QLoRA是一种参数高效的方法，适用于资源受限的环境，如使用Google Colab上的T4 GPU。

4、Llama2的技术亮点包括Grouped-Query Attention，它通过上训练的多头注意力模型引入分组查询注意力，实现了高效推理和高质量输出。细调方面，Meta选择了几千条高质量的SFT数据进行训练，发现这些数据的性能显著优于百万量级的公开数据。

5、在推理阶段，llama2模型采用生成接口（generate）进行预测，与一般深度学习模型不同。为提高生成质量，模型通常采用集束搜索（beam search）算法，结合RoPE外推技术，动态扩展输入序列长度，从而生成更符合语义的文本。训练llama2模型涉及预训练、指令微调和奖励模型训练三个步骤。

6、Llama 2 的创建始于一个优化的自回归 Transformer，通过进行更强大的数据清洗、更新数据混合、训练更多 token、增加上下文长度并使用分组查询注意力（GQA）等改进，以提高推理可扩展性。

Auto-GPT安装教程,使用案例

1、安装Docker Compose，确保Git和Python 10（如已安装则跳过）也已安装。部署AutoGPT时，先下载代码并配置docker-compose.yml和.env文件，这两者包含环境配置。最后，运行AutoGPT进行简单测试，确认安装无误。

2、访问AutoGPT项目的GitHub地址。复制项目的git地址。打开命令提示符，使用git clone命令加上复制的地址，将AutoGPT代码下载到本地。推荐在D盘创建一个名为Auto GPT的文件夹进行操作，以避免路径问题。注册并获取Pinecone API Key：访问pinecone.io网站进行注册。

3、进入AutoGPT项目地址（git clone github.com/RealHossie/A...），点击绿色code，复制git安装地址。在搜索框中输入cmd，或者使用快捷键windows加R，打开命令提示符，输入 点击enter键，完成在线安装。

4、首先，你需要在你的设备上安装Git，进入百度搜索git for windows，选择官方下载链接。接着，访问Python官网下载最新版本，并在安装时勾选添加到PATH，以便后续调用。接着，访问AutoGPT项目的GitHub地址（github.com/Significant-...），复制git地址。

5、安装步骤包括下载 Auto-GPT 代码，创建和激活虚拟环境，然后安装依赖项。接下来，您需要配置 OpenAI API 密钥，并将其保存在 .env 文件中。完成这些步骤后，您可以运行 Auto-GPT，它会提供一个交互界面，让您选择任务或开始新任务。更新 Auto-GPT 代码库和依赖项是保持其最新状态的关键。