chatgpt图片log chat图标

本文目录一览：

• 1、通过Frida创建API进行爬取内容——记一次爬取某视频App直播源的过程...
• 2、大模型流水线并行(Pipeline)实战
• 3、OpenAI如何运用RLHF提升模型真实性

通过Frida创建API进行爬取内容——记一次爬取某视频App直播源的过程...

这样就可以直接使用Frida创建一个api来获取cKey，然后使用Python来进行更多操作。Frida官方也提供了这样一个案例：简单说，就是通过frida提供的 rpc.exports ，来导出方法，以方便python可以随时调用。

大模型流水线并行(Pipeline)实战

此时，模型并行策略成为关键，它包括张量并行和流水线并行两种主要方法。本文以DeepSpeed框架下的ChatGLM-6B模型流水线并行实战为例，进行深入探讨。流水线并行的核心在于，将模型的不同层分散到不同的GPU设备中，使得训练数据按照流水线的方式依次通过每个GPU，实现一次模型的前向和反向传播。

大模型分布式训练 — 流水线并行PP（Pipeline Parallelism）流水线并行是大模型分布式训练中的一种重要方法，它通过将模型的不同部分分配到不同的设备上，以实现并行计算，从而加速训练过程。流水线并行经历了从朴素流水线到GPipe再到1F1B的发展过程，每个阶段都有其特定的优化目标和实现方式。

Megatron-LM 中的 pipeline 并行 是 Megatron-2 引入的核心技术之一，旨在通过优化流水线设计提升大规模语言模型训练的效率。其核心思路与进化过程如下：Pipeline 并行的基本目标解决传统数据并行的局限性：当模型规模极大时，单机内存无法容纳完整模型，需通过模型并行（如张量并行）或流水线并行拆分模型。

流水线并行（Pipeline Parallelism，PP）PipeDream将模型的层划分为多个阶段，每个阶段在一个GPU上进行前向和反向传播。通过注入多个小批次（minibatches）数据到流水线中，每个设备依次进行第n个minibatch的前向传播和第n-x个minibatch的反向传播，通信则是异步进行的。

OpenAI如何运用RLHF提升模型真实性

1、OpenAI运用RLHF提升模型真实性的方法主要包括以下几个方面：使用行为克隆和强化学习解决真实性挑战：在解决简单回答或预测单个词的问题时，OpenAI通过最小化log loss来训练语言模型，使其能够表达不确定性，并最终承认错误或质疑前提。

2、整个讲座围绕RLHF流程展开，从监督学习到行为克隆，再到奖励模型的训练，最终实现对模型的改进。Schulman还提出了三个与RLHF相关的开放性问题，包括如何准确表达不确定性、如何让AI超越人类标注者的知识边界、以及如何生成真理，以促进模型训练更接近实际的真理。

3、总结RLHF通过人类反馈-奖励模型-强化学习的闭环，实现了大模型的高效微调，其核心优势在于：参数高效：仅需微调少量参数（如奖励模型），降低硬件需求。输出可控：显式优化人类偏好，提升模型安全性与实用性。实践可行：依托Hugging Face、DeepSpeed等工具，普通研究者可快速部署。