大模型日报（6月29~30日学术篇）

我们希望能够搭建一个AI学习社群，让大家能够学习到最前沿的知识，大家共建一个更好的社区生态。

「奇绩大模型日报」知识库现已登陆飞书官方社区：

https://www.feishu.cn/community/article/wiki?id=7355065047338450972

点击「订阅社区精选」，即可在飞书每日收到《大模型日报》每日最新推送

如果想和我们空间站日报读者和创作团队有更多交流，欢迎扫码。

欢迎大家一起交流！

学习

专访 OmniH2O 项目发起人何泰然：探索人形机器人遥操作通向具身智能的可行之路

OmniH2O 项目通过人形机器人的全身遥操作和自主学习，探索具身智能的实现路径。项目采用 VR 头盔作为接口，实现对机器人的精确控制，并结合强化学习算法，提升机器人的自主决策能力。何泰然博士强调，遥操作技术可以有效地收集数据，为机器人的自主学习提供支持。OmniH2O-6 数据集的发布，包含六个日常任务，证明了机器人在复杂环境中的应用潜力。此外，何泰然提出了通过仿真数据收集形成数据飞轮的概念，以促进具身智能的快速发展。项目的成功展示了人类大脑认知和控制能力在机器人遥操作中的应用，并为机器人技术的进一步研究和工业界的应用提供了新的思路和方法。

https://mp.weixin.qq.com/s/SskozMFEk-187AMv6_l2SA

实时AI视频生成：Pyramid Attention Broadcast

Pyramid Attention Broadcast (PAB) 是一种打破 AI 视频生成速度瓶颈的技术，它通过分析 attention 输出的 U 型变化规律，发现中间步骤的 attention 差异稳定且小，存在明显冗余。利用这一特点，PAB 通过 broadcast 机制将前一步骤的 attention 结果直接传递给后续步骤，避免了重复计算。此外，PAB 根据不同 attention 类型的变化差异采用了不同的广播策略，进一步提升了速度。同时，PAB 改进了动态序列并行技术，减少了 GPU 工作负载和通信开销，实现了高效的分布式推理。实验结果表明，单卡加速达到 1.31 倍，八卡时可达 10.6 倍加速，显著提高了视频生成的实时性和效率。这一技术在多种 DiT 模型上都取得了稳定的加速效果，展现了其在 AI 视频生成领域的巨大潜力。

https://zhuanlan.zhihu.com/p/705950674?utm_psn=1790399781920698369

决策智能与强化学习（4）：多任务强化学习

多任务强化学习（MTRL）旨在训练智能体同时应对多个任务，提升样本效率和模型泛化能力。MTRL 实现了架构设计的创新，如共享主干加独立 head（Scale Q-learning）、模块化设计（Soft Modularization 和 PaCo），以及使用最新的 Transformer 架构和混合专家系统（HarmoDT 和 MoE）。优化技术如多任务梯度矫正（CAGrad 和 MoCo）和损失均衡（HarmonyDream），解决了梯度冲突和任务不平衡问题，提高了训练效率和整体性能。在任务自适应方面，优先级关卡重放（Prioritized Level Replay）和基于上下文的表示学习（CARE）探索了智能选择训练任务的方法，增强了样本效率和泛化能力。预训练与微调技术，尤其是 Learning-to-Modulate（L2M），通过调整预训练模型的信息流，避免了灾难性遗忘，使模型能够适应新任务的同时保持原有能力。总体而言，MTRL 在架构设计、优化技术和预训练微调方面取得了显著进展，为实现更高效、更强泛的强化学习模型提供了新的视角和方法。

https://zhuanlan.zhihu.com/p/705722748?utm_psn=1789777334548713472

从RTL到GDS（七）：布局

VLSI 芯片设计中的布局（Placement）阶段是确定芯片性能的关键环节。布局分为全局布局和详细布局，其中全局布局关注整体布局的框架和结构，目标是减少不同区域之间的连接数量，考虑布局密度和平衡；详细布局则为每个单元实例提供一个合法的位置，优化连线长度，减少信号延迟和功耗。

在布局优化中，随机布局是一种简单的初始方法，通过随机交换 gate 位置来最小化 wire length。分析布局采用数学模型进行数值求解，通常使用半周线长（HPWL）作为 wire length 的近似估计，它通过找到最小的矩形框来评估 net 长度。为了进一步优化，递归分区方法被用来避免门电路聚集，提高布局效率。

在实际布局中，还需要考虑时序优化和阻塞最小化。时间驱动的布局将关键路径相关的 Cell 放置在优先位置，以减少 RC 参数和充放电时间。拥塞驱动的布局则尽量减少 wire length 通道数的密度，避免布线拥塞问题。

https://zhuanlan.zhihu.com/p/704047209?utm_psn=1789775038620241920

通义灵码智能编码助手技术解密

文章揭示了大模型在软件研发领域的应用，特别是在提升研发效率和质量方面的潜力。文章首先介绍了通义灵码的基本情况和功能，然后详细探讨了 AIGC 如何影响软件研发的核心因素，包括人员技能、协同消耗和成本控制。作者指出，AIGC 能够提升个体效率，优化协作流程，并通过大数据资产的梳理和利用，推动研发体验的革新。

文章进一步阐述了人工智能带来的新人机交互模式，包括 Copilot、Agent 和 Facilitator 三种角色，这些角色的出现改变了研发知识的传递和协同方式。通义灵码专注于打造最佳的 Copilot 人机协同模式，通过精准的代码补全、智能问答和沉浸式编程体验，提高了开发者的工作效率。该系统采用了跨 IDE 端的架构设计，支持多种编程语言和系统，并通过语义理解实现了自适应的代码生成粒度决策。

文章最后讨论了软件研发领域 Agent 产品的演进趋势，预测未来的研发工具链将更加智能化，实现更高级别的自动化和协同。通过 Multi-Agent 模式，智能体将能够自主规划任务，减少人类的介入，提升生产力。作者还强调了技术与产品的协调发展，以及模型在代码优化和生成方面的挑战和未来展望。

https://mp.weixin.qq.com/s/5hUT92Ir7q_2lCZ0M8CItQ

能源转型专题：当电力供应成为美国AI增长瓶颈，电力运营股如何投资？

美国 AI 发展推动电力需求增长，电力供应可能成为瓶颈。德州 ERCOT 电力市场作为案例，展示了电力需求增长导致电价和点火价差上涨的现象。ERCOT 的电力可控装机增长缓慢，与需求增长速度相比，存在供需紧张的风险。市场化发电企业的业绩弹性受电价上涨的影响，但需考虑企业的电价对冲策略。投资逻辑包括关注 ERCOT 地区高弹性发电标的、全美电力市场负荷预测调整、电力上游能源和装备产业链的机会，以及降息周期对规管公用事业股的影响。风险提示包括电力需求增长和供给释放的预期与实际差异带来的风险。技术细节上，文章强调了 ERCOT 市场的独特设计、发电企业的电价对冲节奏和幅度，以及电力供需紧张预期对投资标的的影响。

https://mp.weixin.qq.com/s/3OcVaEyxbumvK854etf2jg

HuggingFace&Github

Indexify

Indexify 是一个开源的数据管道引擎,可用于快速构建支持非结构化数据(如视频、音频、图像和文档)的数据处理流程。它使用可重用的提取器进行嵌入、转换和特征提取,并能自动更新 vector 数据库和结构化数据库。与传统的批处理/ETL 系统不同,Indexify 的管道能够实时处理数据,高效调度分布式任务,支持增量更新。它还集成了多种 LLM 框架,并提供了丰富的预构建提取器。