chatgpt笔记 cgtn笔记

本文目录一览：

• 1、使用GPT生成图表的正确姿势
• 2、大模型训练技术笔记总结
• 3、最热的AI工具排行榜亲测好用

使用GPT生成图表的正确姿势

1、用户首先输入提示词：“请为我设计[流程图主题]流程图，用Mermaid代码表示，基本要求是：[流程图基本要求和逻辑]”。 接着，复制ChatGPT生成的代码块。 最后，将代码块粘贴到支持Mermaid语法的工具中，如Notion、Typora、印象笔记或有道云等，即可看到生成的图表。

2、将生成的Mermaid代码块复制粘贴这些工具中，就能直接显示对应的图表。

3、用鼠标右键选择左侧那个gpt硬盘，点删除所有分区，保存更改。再用鼠标右键选择gpt的硬盘，点转换分区表类型为MBR。为了方便操作，我们使用PE系统进行操作。运行PE系统后，接入移动硬盘。移动赢怕接入后，启动分区工具。进入分区工具后，我们点击移动硬盘。然后查看移动硬盘的状态，判断容量和硬盘情况。

4、. 极坐标图使用极坐标表示二维空间中的点，通过半径和角度展示数据周期性或对称性。1 条形图比较了各类别之间的值，每个类别的长度反映其相对大小。1 等高线图展示了三维数据在二维平面上的视图，颜色深浅代表数值大小。借助ChatGPT，只需说明需求，即可生成相应的可视化图表。

大模型训练技术笔记总结

大模型训练的存储挑战通过技术手段解决，包括激活checkpointing、混合精度训练、模型稀疏性等。checkpointing选择性丢弃中间激活值，便于反向传播。混合精度训练采用16位浮点数减少存储需求。ZeRO优化模型状态存储。模型稀疏性设计如Mixture-of-Expert（MOE）通过gating network决定权重，实现模型参数的高效分配。

推荐使用conda构建和管理环境，尤其是处理CUDA安装问题。硬件基础大模型推理时显存增长大，因为长序列和逐个预测需要大量缓存。模型文件大小和显存需求：fp16模型大约占用2n G，而全精度训练则更大。GPU性能对比：7B模型在CPU上的推理速度远低于GPU，如A6000与AMD 8核的10：1差距。

代码首先定义了输入维度`input_dim`和输出维度`output_dim`，通常对应于预训练模型的隐藏层大小和层的输出大小。接着创建了两个可训练的张量参数`W_A`和`W_B`，分别用于表示LoRA权重A和权重B，形状分别为`input_dim x rank`和`rank x output_dim`。

在评估MoE模型时，不仅看Benchmark成绩，还需要结合模型结构、训练策略和实际应用场景。比如，Mixtral的专家激活可视化项目揭示了模型对不同话题的响应差异，为理解MoE模型的内在工作原理提供了直观视角。

将模型参数tensor分割为大致相等的num_workers部分，每个worker负责一个分片。接着，每个worker会将自身分片发送给下一个邻居，同时接收来自上一个worker的新分片。 通过N-1次Scatter-reduce迭代，所有worker逐步累积所有其他worker的tensor值，每个worker最终拥有整个模型参数的累加值。

模型结构上，模型由FM和DNN两大部分构成。FM负责处理一阶和二阶特征的交叉信息，而DNN则通过多层神经网络处理复杂的关系，进行特征嵌入和映射。训练过程中，先进行特征工程，包括编码和离散化，然后使用优化算法训练模型，通过最小化损失函数调整参数。

最热的AI工具排行榜亲测好用

1、巨日禄，一款功能强大的文本视频生成器，能快速将文本内容转换成吸引人的视频，支持丰富的素材定制。Auto-GPT，一款由Torantulino提供的免费开发工具，使用下一代GPT-4语言模型，具有更强大的AI机制和自动化功能，能完成搜索答案、引用资料、文件管理等多种任务。

2、高效智能助手：Todoist Todoist是一款GTD（Getting Things Done）日程管理工具，它的简洁界面和强大的云端同步功能让人印象深刻。无论您在哪个设备上，都能轻松地管理您的任务和计划。虽然登录Google账户时可能会遇到一些小问题，但其跨13个设备的无缝协作能力，让您的 时间管理变得更加高效。

3、faceswap AI视频换脸工具开源的AI视频换脸工具，能将视频中的人脸换成你想要的任何人脸效果逼真。

4、Pixso AI则是一款集AI文生图、AI图标生成、AI语言大师、灵感专家、AI设计规范生成和设计元素检查清单生成等多款AI功能于一体的国产一体化在线协作设计工具。其丰富的AI功能能大幅提高生产力，帮助解决日常生活中遇到的各种问题。

5、腾讯交互翻译是一款基于AI技术的翻译神器，提供15种语言翻译服务，满足日常翻译需求。它支持划词翻译，选中文本后自动弹出翻译结果，同时提供手动修改功能，确保翻译准确性。无论是在网页、客户端还是通过网页插件，都可以轻松使用，完全免费。

6、音乐创作的秘密武器：音分轨/ 音分轨是一款专为音乐爱好者设计的工具，它能精准分离人声与伴奏，让你轻松提取音乐元素。它的强大编辑功能，如视频人声提取和伴奏分离，让你在创作或整理音乐时游刃有余。 语音操控新体验：Google Assistant/ Google Assistant，作为你的智能语音伙伴，其无所不能。