大模型日报（6月19日资讯篇）

我们希望能够搭建一个AI学习社群，让大家能够学习到最前沿的知识，大家共建一个更好的社区生态。如果想和我们空间站日报读者和创作团队有更多交流，欢迎扫码。

欢迎大家一起交流！

资讯

AI文风测试火了，林夕的词风竟像大冰，网友：悬着的心终于死了

最近，一个名为「文风测试」的 AI 应用在小红书上火了。用户只需上传一段文字，AI 就能检测出文风像谁。网友们玩得不亦乐乎，纷纷在小红书上 po 出图片。文风有像胡适、鲁迅、顾城、史铁生的，还有像乔治・奥威尔的，就是写出《一九八四》的那位。

更搞笑的是，不少网友的文风被判给大冰、郭敬明。

https://mp.weixin.qq.com/s/F6W8Hhb0MwRZguwdUEy7jQ

1块3090就能训7B大模型，山东大学低带宽低显存训练法，解决显卡限购卡脖子

今天我们介绍一篇来自山东大学的研究，在可训练参数增加的同时显著降低了GPU内存使用，可实现仅需1块3090（24G）训练7B大模型。并且在保持相近性能的同时，相比其他PEFT方法，内存占用率下降了50%。

https://mp.weixin.qq.com/s/S-u2P9sWVNbP_R1MGX6YDg

ACL2024：浙江大学提出大小模型协同的跨文档理解，低成本高表现

自大模型出现以来，其在自然语言处理领域取得了令人瞩目的进展。然而如何有效地将大模型应用于具体的任务中，仍面临诸多挑战。对于复杂的信息抽取任务，模型往往难以直接适应其特定的标注规范。所以大模型在这些任务上的性能欠佳，一般难以和在标注数据集上微调的小模型相匹敌。

针对跨文档事件同指消解这一具有挑战性的任务，浙江大学提出了一种协同式的新方法。该方法巧妙地利用大模型的知识和理解能力，通过对事件进行综合总结，深入把握事件的本质。再将这些见解反馈给针对性训练的小模型，增强小模型对复杂语境的理解。实验结果表明，这种协同方式能有效克服小模型面临的语境理解难题，在多个数据集上取得了最佳性能。

https://mp.weixin.qq.com/s/xARXhdgfRxZg8ya93koMAg

英伟达成全球市值最高公司，黄仁勋加州理工演讲：年轻人抓住机会，要跑不要走

6 月 18 日，全球科技领域迎来了一个重要时刻。英伟达超越微软，成为了全球市值最高的公司。

这家芯片制造商在最近一个交易日的股价上涨 3.5% 达到 135.58 美元，市值升至 3.334 万亿美元。其实就在几天前，英伟达还刚刚超越了苹果，占据了全球市值第二的位置。

https://mp.weixin.qq.com/s/qUics8bAI0VVXbXb9ETprg

吴恩达团队新作：多模态多样本上下文学习，无需微调快速适应新任务

在近期的多模态基础模型（Multimodal Foundation Model）研究中，上下文学习（In-Context Learning, ICL）已被证明是提高模型性能的有效方法之一。

然而，受限于基础模型的上下文长度，尤其是对于需要大量视觉 token 来表示图片的多模态基础模型，已有的相关研究只局限于在上下文中提供少量样本。

令人激动的是，最新的技术进步大大增加了模型的上下文长度，这为探索使用更多示例进行上下文学习提供了可能性。

基于此，斯坦福吴恩达团队的最新研究——ManyICL，主要评估了目前最先进的多模态基础模型在从少样本 (少于 100) 到多样本（最高至 2000）上下文学习中的表现。通过对多个领域和任务的数据集进行测试，团队验证了多样本上下文学习在提高模型性能方面的显著效果，并探讨了批量查询对性能和成本及延迟的影响。

https://mp.weixin.qq.com/s/eLqMKBhgHbm36uB0s23C6A

Hinton官宣加盟AI初创公司：用AI探索新材料，机器学习大牛担任联创

图灵奖得主、深度学习之父Geoffrey Hinton，又有新动向。刚刚亲自官宣，将加入英国AI新材料公司CuspAI，出任顾问。

选择这样做的理由，Hinton的解释是想要用AI探索新材料，进而帮助人们解决气候变化问题。

至于具体的工作内容，该公司联合创始人、发明VAE的机器学习大牛、阿姆斯特丹大学教授Max Welling表示，是用AI设计出新型碳捕获材料。

https://mp.weixin.qq.com/s/1ek_CCWFifX2p6BTJo28_w

AI教育“智”变大考，小度率先交卷了

小度，甚至比苹果更早，就给出了“整合”这个答案。

5月27日，小度推出全新一代学习机产品Z30，作为全球首款基于文心大模型能力的学习机，针对规划、预习、学习、练习、育儿、答疑、诊断共7个环节进行了全方位重构，深入理解和适应不同场景，打造出更加互动式、个性化的AI教学体验。

https://mp.weixin.qq.com/s/kpKbZnwhTK2yLEzJHvmrsA

推特

Meta FAIR：宣布了四个新的公开可用的AI模型和其他研究成果

今天是开放科学的好日子。

作为我们持续致力于开放生态系统增长和发展的承诺的一部分，今天在Meta FAIR我们宣布了四个新的公开可用的AI模型和其他研究成果，以激发社区的创新并以负责任的方式推动AI的发展。更多内容请观看视频 @jpineau1。

我们发布的内容：

🦎 Meta Chameleon

7B和34B语言模型，支持混合模态输入和纯文本输出。

🪙 Meta Multi-Token Prediction

使用多令牌预测进行代码补全的预训练语言模型。

🎼 Meta JASCO

生成性文本到音乐模型，能够接受各种条件输入以实现更大的可控性。今天发布了论文，预训练模型即将推出。

🗣️ Meta AudioSeal

我们认为这是第一个专门为本地化检测AI生成语音设计的音频水印模型，可通过商业许可证获得。

📝 额外的RAI工件

包括研究、数据和代码，以衡量和改进AI系统中地理和文化偏好及多样性的表示。

我们相信，获取最先进的AI技术为每个人创造了机会——不仅仅是少数几家大型科技公司。我们很高兴分享这项工作，并期待看到社区如何学习、迭代和利用这项技术进行构建。

FAIR今天发布的所有内容的详细信息和访问途径 ➡️ https://go.fb.me/tzzvfg

https://x.com/AIatMeta/status/1803107817345393136

Open Interpreter Local III：正在构建可以离线工作的计算机控制代理

Open Interpreter的Local III今天发布了。

我们正在构建可以离线工作的计算机控制代理。这是我们最大的一步进展。

interpreter –local 设置快速的本地LLMs。
我们提供免费的推理端点。
我们正在训练自己的模型。

https://x.com/hellokillian/status/1803090274186617188

人工智能无法成为通用智能，除非它至少能做到这些

如果你需要了解LLMs、ARC-AGI竞赛以及提高AI系统通用性的最新进展，这是一段很棒的视频入门教程。

“人工智能无法成为通用智能，除非它至少能做到这些”（此外，LLMs正在升级的六个关键方法）

这是迄今为止最清晰的展示，说明为什么当前的LLMs还无法通过“规模”达到通用智能。首先，我将介绍AI在多个方面的混乱情况，从虚假宣传到公地悲剧的杂乱无章，再到隐私侵犯和糟糕或延迟的演示。但是随后，我会讨论十多篇论文和实际部署的LLMs、CNNs等，阐述我们不应因噎废食的观点。关键是，我将介绍六种关键方法，这些方法正被开发以推动LLMs向AGI迈进。希望这段视频至少能让你对当前的AI发展情况有更清晰的了解。

https://x.com/fchollet/status/1803148842524881006

微软Florence：可以处理许多视觉任务的视觉模型

微软刚刚悄然发布了Florence

👀 这是一款可以处理许多视觉任务的视觉模型（如图像字幕生成、目标检测、区域提议、光学字符识别）

🤏 小模型（200M和800M），其质量与大100倍的模型相当

🔥 MIT许可证

https://x.com/osanseviero/status/1803324863492350208

PRISM-1：静态和动态场景的照片级真实感重建

今天我们宣布PRISM-1🔺在动态场景重建方面的突破。这整个视频都是*模拟*的——首次包括动态和可变形特征，如骑自行车者，这曾是模拟长尾现象的主要障碍。

介绍PRISM-1：静态和动态场景的照片级真实感重建

这篇博客介绍了PRISM-1，这是一种从视频数据中进行4D场景（空间中的3D + 时间）重建的场景重建模型。PRISM-1提供了一种灵活的场景表示方式，扩展了我们可以用Ghost Gym模拟的场景种类。

https://x.com/alexgkendall/status/1802696199700660693

Gemini API的上下文缓存功能已经上线

谷歌开发者的好消息：

Gemini API的上下文缓存功能已经上线，支持1.5 Flash和1.5 Pro版本，价格比之前宣布的便宜一半，现在对所有人开放使用。🤯

https://x.com/OfficialLoganK/status/1803096828595863608

产品

Genspark

Genspark 是一款基于 AI 的新型搜索引擎，通过使用专门的 AI 代理执行深入的研究和生成定制内容，解决了传统搜索引擎存在的偏见、广告等问题，为用户提供可靠、有价值的搜索服务，大幅提升了搜索体验。它采用了创新的社区参与机制，让用户也能贡献和分享知识，使搜索过程更加互动和高效。

https://www.genspark.ai/

Dualite 2.0

Dualite 是一款 Figma 插件，通过一种全新的设计到代码工具来加快开发进度。它可以让设计师们直接从 Figma 中导出可交互的设计原型，并将其自动转换为 React 和 HTML/CSS 代码。该插件在”组件模式”下为开发人员生成高质量、可重复使用的代码组件，在”页面模式”下则可将动效和页面直接转换为代码，为设计师提供便利。