大模型日报（6月29~30日资讯篇）

我们希望能够搭建一个AI学习社群，让大家能够学习到最前沿的知识，大家共建一个更好的社区生态。

「奇绩大模型日报」知识库现已登陆飞书官方社区：

https://www.feishu.cn/community/article/wiki?id=7355065047338450972

点击「订阅社区精选」，即可在飞书每日收到《大模型日报》每日最新推送

如果想和我们空间站日报读者和创作团队有更多交流，欢迎扫码。

欢迎大家一起交流！

资讯

知乎发布全新AI产品“知乎直答” 周源：用提问发现世界

6月29日，知乎一年一度的行业先锋盛典——第十届盐Club新知青年大会在北京751园区开幕，知乎创始人、董事长兼CEO周源在大会发表演讲，重磅发布知乎最新的AI产品“知乎直答”，通过大模型应用创新，为用户和创作者带来全新的生产力工具，探索提问的全新形态，帮助每个人更好地“用提问发现世界”。

https://finance.sina.com.cn/jjxw/2024-06-29/doc-incakyek5082675.shtml?cre=tianyi&mod=pchp&loc=22&r=0&rfunc=61&tj=cxvertical_pc_hp&tr=12

扎克伯格最新万字洞察：信息流媒体将更多转向个人及 AI 互动，未来看好这三类 AI 硬件类型

近日， Meta CEO Mark Zuckerberg 与科技创作者 Robin Kallaway 进行了一场深度对话，讨论了未来十年的技术发展，尤其是智能眼镜、神经腕带和 AI 技术在创作者和小企业中的应用。Zuckerberg 详细讨论了智能眼镜的未来发展方向，认为其将逐步取代手机成为主要的个人硬件设备。他提到，未来的智能眼镜将分为三种类型：无显示屏的基础型、带有抬头显示的中级型和全息显示的高级型。他还强调，未来的 AI 技术将不会是单一的，而是多样化的，允许创作者和小企业创建定制化的 AI 。这种多样化的 AI 体验将提升用户互动的丰富性和个性化。此外，智能眼镜和神经腕带将如何改变人们的互动方式。Zuckerberg 认为，这些技术将使人们在现实世界中保持专注的同时，以更自然和高效的方式获取信息和互动。

https://mp.weixin.qq.com/s/X36tcY_pOVpE66xgHSvSqA

开发者狂喜！Meta最新发布的LLM Compiler，实现77%自动调优效率

昨天，三大 AI 巨头 OpenAI、Google、Meta 组团发布自家大模型最新研究成果 ——
OpenAI 推出基于 GPT-4 训练的专门找 bug 的新模型 CriticGPT，谷歌开源 9B、27B 版 Gemma2，而 Meta 则拿出了一项最新的人工智能突破 ——LLM Compiler。这是一套强大的开源模型，旨在优化代码并彻底改变编译器设计。这项创新有可能改变开发者处理代码优化的方式，使其更快、更高效、更经济。

https://mp.weixin.qq.com/s/Js0lUS_5ZPspVLazthkEOg

看张手绘草图就能合成图形程序，加州伯克利让扩散模型掌握新技能

假设我们给模型一张手绘的「5」状图形，它就能通过不断突变来修改程序，最终得到能输出目标图形的程序。该模型来自加州大学伯克利分校的一个研究团队，他们提出的这种程序合成新方法使用了神经扩散模型来直接操作句法树。

https://mp.weixin.qq.com/s/xolhLw1WYWpOXw2YGkEfEA

ICML 2024｜Transformer究竟如何推理？基于样例还是基于规则

尽管如 ChatGPT 这样的大语言模型（Large Language Models, LLMs）已经在各种复杂任务中展现出令人惊艳的性能，它们在处理一些对人类来说十分简单的数学推理问题时仍会面临困难，例如长整数加法。人类可以轻松地学习加法的基本规则，例如竖式加法，并将其应用于任意长度的新的加法问题，但 LLMs 却难以做到这一点。相反，它们可能会依赖于训练语料库中见过的相似样例来帮助解决问题。来自北京大学张牧涵团队的 ICML 2024 论文深刻研究了这一现象。研究者们将这两种不同的推理机制定义为 “基于规则的推理”（rule-based reasoning）和 “基于样例的推理”（case-based reasoning）。图 1 展现了两种推理机制在遇到同一个加法问题时，采用的不同模式。

https://mp.weixin.qq.com/s/aVRiGW3xU_LpvxZzjDpwzQ

推特

大型梗图融合现场！LumaLabs AI使用关键帧无缝过渡20个带音频的梗

无限无缝大型梗拼接 🤭

使用关键帧无缝过渡20个带音频的梗 🤯

@LumaLabsAI

开启音频 🔊

https://x.com/blizaine/status/1806877746485682302

Claude 工程师自动模式：直接完成所有设定的任务，而无需确认

你要求的，我实现了！⚡️

隆重推出 Claude 工程师的自动模式。

在自动模式下，工程师将直接完成所有设定的任务，而无需确认。

可以一次创建多个文件等。

你可以在同一聊天中进入/退出此模式。

https://x.com/skirano/status/1806744633029915105

Firecrawl ：在几秒钟内将整个网站转化为 LLM 预备数据

抓取网页数据给 AI 代理用真是糟透了。

@firecrawl_dev

正在解决这个问题。

现场演示 Firecrawl 如何在几秒钟内将整个网站转化为 LLM 预备数据，演示者

@CalebPeffer

https://x.com/AlexReibman/status/1806868694871756891

Chen Lu分享UNet 扩散模型：纯 CUDA 编写，受llm.c启发

我用纯 CUDA 编写了一个 UNet 扩散模型：https://github.com/clu0/unet.cu。这个项目的灵感来自 llm.c (https://github.com/karpathy/llm.c)。我还从 Matmul 博客 (https://siboehm.com/articles/22/CUDA-MMM) 学到了很多关于 CUDA 内核的知识。

到目前为止，大部分精力都花在使整个模型正常工作上。优化的空间还很大。目前在单个 RTX 4090 上每次迭代的时间如下：