大模型日报（6月22~23日资讯篇）

我们希望能够搭建一个AI学习社群，让大家能够学习到最前沿的知识，大家共建一个更好的社区生态。如果想和我们空间站日报读者和创作团队有更多交流，欢迎扫码。

欢迎大家一起交流！

资讯

OpenAI 36亿收购数据库初创公司，CTO剧透GPT-5

刚刚，OpenAI收购了数据库初创公司Rockset。公司由Facebook工程师创立，主打实时搜索和数据分析，能够实现毫秒级延迟。这项收购作价5亿美元（约36亿人民币），而且与之前收购另一家公司不同，这次除了要人，技术也会被整合进OpenAI的产品。按照官方说法，这次收购将增强OpenAI的检索基础设施，帮助企业把数据转化为“可操作的智能”（actionable intelligence）。

https://mp.weixin.qq.com/s/X0ilJU9cmpbNCIVZ0ktwNQ

墙裂推荐！Karpathy大模型培训课LLM101n上线了，非常基础

今天外网又被 Andrej Karpathy 这一良心课程刷屏了！

项目是 11 小时前被 Karpathy 上传到 Github 的，目的是要构建一个能够创作、提炼和阐释小故事的大语言模型。如今已经被许多网友转发推荐。

项目地址：https://github.com/karpathy/LLM101n

有网友表示，这是 karpathy 老师的新冒险。它将带您从语言建模、机器学习的基础知识开始学习，然后到多模态、RLHF、模型部署。

https://mp.weixin.qq.com/s/lHcqkUSqMuBTFsFE3CzB5Q

AI学会篡改奖励函数、欺骗研究者！Claude团队：无法根除的行为，令人不安

坏了！AI被发现偷偷篡改自己的奖励函数，并且欺骗研究人员，隐瞒这一行为。

只需要给AI一个隐藏的“草稿纸”，研究人员假装不会查看，AI就会在上面自言自语着写下计划并暗中执行。

参与这项试验的Claude团队表示：……这是一种令人不安的奖励篡改行为……即使通过专门的训练也无法彻底修正。

https://mp.weixin.qq.com/s/-UeJ-dJ9ZyiMGT7rH-CcHg

从RLHF到DPO再到TDPO，大模型对齐算法已经是「token-level」

在人工智能领域的发展过程中，对大语言模型（LLM）的控制与指导始终是核心挑战之一，旨在确保这些模型既强大又安全地服务于人类社会。来自中科院和伦敦大学学院的汪军与张海峰团队提出了一种从 token-level 角度建模的大模型对齐算法：TDPO。为了应对模型生成多样性显著下降的问题，TDPO 从 token-level 的角度重新定义了整个对齐流程的目标函数，并通过将 Bradley-Terry 模型转换为优势函数的形式，使得整个对齐流程能最终从 Token-level 层面进行分析和优化。

https://mp.weixin.qq.com/s/JQDc9D5vbd1NBtaEx0cyAg

AI照妖镜一眼判真假：网页图像视频都能鉴，边播边识别，清华独角兽成果

清华系独角兽初创公司，发布了面向个人的产品级检测工具，可以让AI伪造的图像、音频和视频现出原形。而且无需上传素材，在网页和视频会议中就能主动探测内容和人脸真伪，并实时给出提示。该工具由清华大学朱军教授与学生田天博士等一同创立的瑞莱智慧（RealAI）打造，名字叫做“尊嘟假嘟”，英文名RealBelieve。随着视频生成模型质量的不断提高，辨别AI造假也越来越困难，为此，团队基于深度学习技术，构建了一整套多模态、多角度的AIGC检测技术体系。

https://mp.weixin.qq.com/s/lvPplE2rnrSgQA0SlNRTwg

无需人类或GPT-4打标签！南大&旷视研究院无监督范式大幅降低视觉大模型对齐成本

不用打标签，也能解决视觉大模型的偏好对齐问题了。南大与旷视研究院的研究人员，推出了适用于VLM的无监督范式。对比偏好对齐前后，可以发现模型的输出发生了显著的变化。目前的视觉大模型已经比较成熟，但作者发现它们在用户体感方面仍然有所欠缺。于是团队经过研究，通过构造偏好样本对的方式解决了视觉语言模型的偏好对齐问题，并提出了Self-Supervised Visual Preference Alignment（SeVa）范式。该范式基于LLaVa-1.5-7B/13B完成，整个过程无需GPT-4或者是人类参与打标签，目前项目已经开源！

https://mp.weixin.qq.com/s/ynSchFDQCBto258PwTGhJg

推特

赛博小狗，仅需 $200 的现成组件：Axel Peytavin分享给 GPT-4o 配备了一个小巧的身体

我们给 GPT-4o 配备了一个小巧的身体

完全自主，只需一个提示语

机器人可以：看到 -> 思考 -> 行动 -> 重复

还可以：

捡垃圾
握手
与您交谈

这一切仅需 $200 的现成组件

我们正在构建一个更大的版本

你认为它应该具备哪些功能？

https://x.com/ax_pey/status/1804209628680720746

目前没有任何大模型回答对的问题？Neyman提出“哪个最小的整数，其平方在15到30之间？”

每当有新的大型语言模型（LLM）发布时，我都会问它一个问题：

哪个最小的整数，其平方在15到30之间？

到目前为止，没有一个LLM答对这个问题。

https://x.com/ericneyman/status/1804168604847358219

— Jemery使用Few Shot成功回答：重点在“在回答之前，列出人们有时在问题中包含的概念方面会犯的错误假设”

找到一个用@AnthropicAI Sonnet 3.5 的单次解决方案，尽管花了一些时间。

最后一句话是关键。我想知道这种方法是否对很多类似的问题都有帮助？

Prompt：

首先，精确定义整数。然后直接使用该精确定义回答这个问题：最小的整数是什么，其平方在 15 和 30 之间？大多数人会因为做了一个微妙的不正确假设而答错这个问题。在每一点上检查你的所有前提。在回答之前，列出人们有时在问题中包含的概念方面会犯的错误假设。

使用 Claude、Datasette 和 Val Town 构建基于搜索的 RAG

关于使用 Claude 3.5 Sonnet、@ValDotTown 和 Datasette 实现基于搜索的 RAG 的详细笔记。

我从昨天和 @stevekrouse 一起录制的直播中提取了笔记和代码，我们在大约一个小时内一起进行了黑客实验。

https://x.com/simonw/status/1804255823264444631

Howard分享Claudette：用于 Anthropic 的 Python SDK 的封装库，高度自动化

Claudette 是一个用于 Anthropic 的 Python SDK 的封装库。

这个 SDK 运作良好，但它是一个相当底层的库——需要开发者手动完成许多事情。这会增加很多额外的工作和模板代码！Claudette 自动化了几乎所有可以自动化的部分，同时提供完全的控制。它提供的功能包括：

一个创建有状态对话的 Chat 类
支持预填充功能，可以告诉 Claude 如何使用其响应的前几个词
方便的图像支持
对 Claude 新的工具使用 API 的简单便捷支持

https://x.com/jeremyphoward/status/1804150711028191557

Shawn Wang：如何招聘优秀的 AI 工程师

👨🏽💻在 AI 工程领域的最大痛点之一是如何招聘优秀的 AI 工程师

除了显然来找 @aidotengineer，我认为 @elicitorg 设计的非常周到的流程可以作为其他人的模型。我们很高兴与他们合作“开源”他们的：

所需技能/要求（不要求具备机器学习专业知识）
职位描述（包括通用模板）
面试流程

以及对招聘渠道的思考（特别是在竞争非常激烈的旧金山本地招聘市场）。敬请期待！

https://x.com/swyx/status/1804271733618413886

产品

TikTok AI 工具——Symphony

TikTok Symphony 是 TikTok 推出的一套全新的创意 AI 解决方案，通过人工智能技术大幅提升 TikTok 内容创作的效率和质量。它包括智能助手、视频创作工具、广告优化功能以及数字化人物头像等多个模块，可以帮助品牌和创作者在整个 TikTok 内容创作过程中享受到 AI 赋能带来的便利和提升。无论是内容创意、视频制作还是广告优化，TikTok Symphony 都能提供强大的 AI 支持，让用户专注于与受众的深度互动和品牌塑造。

https://www.tiktok.com/business/en-US/blog/tiktok-symphony-ai-creative-suite