欢迎观看大模型日报 ， 如 需 进 入 大 模 型 日 报 群 和 空 间 站 请 直 接 扫 码 。 社 群 内 除 日 报 外 还 会 第 一 时 间 分 享 大 模 型 活 动 。
推特 第一个超越GPT-4的开源模型！WizardLM 2在MT-Bench上超越了GPT-4，在Mixtral 8x22B基础上微调和偏好训练 我们做到了!🙌第一个开放的大语言模型在MT-Bench上超越了@OpenAI的GPT-4(3月版)。WizardLM 2是在Mixtral 8x22B基础上微调和偏好训练的!🤯 🧮基于Mixtral 8x22B(141B-A40 MoE) 🤖第一个在MT-Bench上达到9.00以上的开放大语言模型 🧬使用了包括Evol-instruct数据分区和分阶段训练在内的多步合成数据流水线 https://wizardlm.github.io/WizardLM2/ https://huggingface.co/microsoft/WizardLM-2-8x22B https://x.com/_philschmid/status/1779961137309548774 Deeplearning AI“量化基础”：学习如何量化几乎任何开源模型 LLM 可能需要数 GB 的内存来存储,这限制了消费级硬件上可以运行的模型。但量化可以显著压缩模型,使开发人员可以使用更广泛的模型选择。您通常可以将模型大小减少 4 倍或更多,同时保持合理的性能。在我们由 Hugging Face 的 Younes Belkada 和 Marc Sun 讲授的新的短期课程”量化基础”中,您将:
– 学习如何量化几乎任何开源模型
– 使用 int8 和 bfloat16(Brain float 16)数据类型,利用 PyTorch 和 Hugging Face Transformers 库加载和运行 LLM
– 深入研究线性量化的技术细节,将 32 位浮点数映射到 8 位整数
随着模型变得越来越大,量化对于使模型实用和易于访问变得越来越重要。请在此处查看课程:
https://deeplearning.ai/short-courses/quantization-fundamentals-with-hugging-face/
https://x.com/AndrewYNg/status/1779905922602782752
Gemini API 指南：快速测试 100 万字符上下文和原生多模态支持 Gemini API 指南正在很好地成型(我们刚刚突破了 1000 个 star)。如果你想快速测试 100 万字符上下文和原生多模态支持,可以看看这个指南! 这是 Gemini API 的指南和示例集合,包括编写提示和使用 API 不同功能的快速入门教程,以及您可以构建的示例。 https://x.com/OfficialLoganK/status/1779902259335209102 斯坦福大学人工智能中心发布2024 年人工智能指数报告 斯坦福大学人工智能中心发布了 2024 年人工智能指数报告,这是人工智能数据和洞察力的权威来源之一。以下是其 10 大要点:
人工智能在某些任务上超过了人类,但并非在所有任务上都如此;
美国在顶级人工智能模型方面领先于中国、欧盟和英国;
严重缺乏对大型语言模型(LLM)责任的稳健和标准化评估;
数据显示:人工智能提高了员工的生产力,并带来了更高质量的工作;
全球人们更加意识到人工智能的潜在影响,也更加忧虑。
https://aiindex.stanford.edu/wp-content/uploads/2024/04/HAI_AI-Index-Report-2024.pdf https://x.com/LuizaJarovsky/status/1779932458307248403 腾讯InstantMesh：超快速从单张图像生成高质量的 3D 模型 🤯腾讯的 InstantMesh 太疯狂了 – 超快速从单张图像生成高质量的 3D 模型 ⬇️下方链接 – 免费在 30 秒内从单张图像生成 3D 模型 🔥🔥InstantMesh:使用稀疏视图大型重建模型从单张图像高效生成 3D 网格 这个仓库是 InstantMesh 的官方实现,它是一个基于 LRM 架构的从单张图像高效生成 3D 网格的前馈框架。 https://x.com/victormustar/status/1779896687504290245
Lang分享 25 家早期创业公司的名单：公司员工数量不超过 50 人，都在招聘 以下是一份包含 25 家早期创业公司的名单,所有公司的员工数量都不超过 50 人,都有显著的发展势头,并获得了像红杉资本、Index、凯鹏华盈和科斯拉等顶级投资者的支持。所有公司都在招聘。
Magic @magicailabs (远程/湾区)
MotherDuck @motherduck (西雅图/纽约)
Superblocks @superblocks (纽约)
Hippocratic AI @hippocraticai (湾区)
Nitricity @NitricityInc (远程/湾区)
Hone Health @HoneHealth (湾区)
Langchain @LangChainAI (湾区)
Character ai @character_ai (湾区)
Liquid AI @LiquidAI_ (远程)
Standard Bots @standardbots (纽约)
Venteur @VenteurHealth (湾区)
https://x.com/benln/status/1779916627640799543
OpenAI推出批量API：提交批量请求并给他们运行提示，获得50%的折扣 Jeff Harris：我们刚刚推出了批量 API:
巨大的速率限制(最多可排队 2.5 亿个 GPT-4T 令牌)
https://platform.openai.com/docs/api-reference/batch Simon Willison：OpenAI 提供 50% 的折扣,如果您提交批量请求并给他们最多 24 小时的时间来为您运行提示 – 可以针对他们的任何 /v1/chat/completions 模型 批量请求的格式是换行符分隔的 JSON,如下所示:https://platform.openai.com/docs/api-reference/batch/requestInput https://x.com/jeffintime/status/1779924149755924707 Cohere分享：基础嵌入模型Cohere Compass私有测试版 宣布我们最新的基础嵌入模型Cohere Compass的私有测试版:专为电子邮件、发票、简历和支持票据等多方面数据设计,以提供卓越的企业搜索功能。 h ttps://x.com/cohere/status/1779866409784496436 LeCun：人工智能最终将在所有领域达到并超越人类智能，但不会在明年，也不会通过自回归LLM实现 毫无疑问,人工智能最终将在所有领域达到并超越人类智能。 而且,它不会通过目前流行的自回归大语言模型(尽管它们可能构成其中的一个组成部分)实现。 https://thenextweb.com/news/meta-yann-lecun-ai-behind-human-intelligence https://x.com/ylecun/status/1779845304788955292 Idefics2：目前最强大的100亿参数以下的视觉语言模型，在OCR、文档理解和视觉推理方面具有显著增强的能力 介绍Idefics2,目前最强大的100亿参数以下的视觉语言模型(VLM)!🚀Idefics2在OCR、文档理解和视觉推理方面具有显著增强的能力。💬📄🖼️ 🚀性能大致介于Gemini 1.5 Pro和Anthropic Haiku之间 👨👩👧父模型:Google SigLIP和MistralAI 7B 💸GPU友好,可在消费级硬件上运行(24GB或~40GB用于int4的SFT) 🤗在@huggingface和Transformers中可用 https://x.com/_philschmid/status/1779922877589889400 Limitless：一款由你所见、所说、所闻驱动的个性化AI 介绍Limitless:一款由你所见、所说、所闻驱动的个性化AI。它是一个Web应用、Mac应用、Windows应用,也是一款可穿戴设备。 https://x.com/dsiroker/status/1779857843895599383
Lilian Weng分享视频生成的扩散模型大更新 近年来,扩散模型在图像合成方面展现出强大的效果。现在,研究界已经开始致力于一项更难的任务——将其用于视频生成。这个任务本身是图像情况的超集,因为图像是只有1帧的视频,而且它更具挑战性,因为:
它对时间上各帧之间的时间一致性有额外的要求,这自然需要更多的世界知识被编码到模型中。
与文本或图像相比,收集大量高质量、高维度的视频数据更加困难,更不用说文本-视频对了。
https://x.com/lilianweng/status/1779914184874160170
资讯 李飞飞团队年度报告揭底大模型训练成本：Gemini Ultra是GPT-4的2.5倍 如何复盘大模型技术爆发的这一年？除了直观的感受，你还需要一份系统的总结。今天，斯坦福 HAI 研究所发布了第七个年度的 AI Index 报告，这是关于人工智能行业现状的最全面的报告之一。报告指出，人工智能的发展正以惊人的速度向前推进，开发人员每月都在制造出越来越强大、越来越复杂的模型。然而，尽管发展速度加快，人工智能行业在解决人们对人工智能可解释性的担忧以及对其对人们生活影响的日益紧张方面却进展甚微。在今年的报告中，斯坦福 HAI 研究所增加了有关负责任人工智能的扩展章节，有关科学和医学领域人工智能的新章节，以及对研发、技术性能、经济、教育、政策和治理、多样性和公众舆论的综述。 Sora加入Adobe全家桶，视频改图加戏样样行：PR大更新预告 Adobe 全家桶马上就要拥有最先进的生成式 AI 视频创作能力了。 DeepMind CEO：谷歌将在AI上投入超过1000亿美元 AI投资军备竞赛的硝烟，已经弥漫了整个硅谷上空。每一家科技公司都在全力以赴，只为在这场革命性的技术变革中抢占制高点，而在这场竞争中略显落后的谷歌，正在迎头赶上。据媒体报道，谷歌旗下AI研究部门DeepMind首席执行官Demis Hassabis当地时间周一在温哥华举行的TED大会上表示，随着时间的推移，谷歌将花费超过1000亿美元开发人工智能技术。 https://wallstreetcn.com/articles/3712829 Sam Altman & Brad Lightcap 最新专访：哪些公司会被 OpenAI 碾压？ 本周二， 20VC 主理人 Harry Stebbings 分享了与 OpenAI CEO Sam Altman 以及COO Brad Lightcap 最新对话，并探讨了 OpenAI 的愿景、战略以及对 AI 行业的深刻见解。 Sam Altman 强调了两种建立在 AI 基础上的策略，一种是假设 AI 模型的性能不会有显著提升，另一种则是押注于模型将持续改进。 他认为，尽管许多初创企业选择了前者，但世界上 95% 的人应该相信后者，即 AI 将持续进步。他的信念源自于深度学习的显著效果以及模型随规模扩大而提升的性能。这种信念不仅推动了 OpenAI 的成立，也成为了他们使命的核心。 OpenAI 推出 Batch 批处理 API：半价折扣，24 小时内输出结果 OpenAI 今天凌晨面向开发者推出 Batch 批处理 API，可在 24 小时内给出结果，并提供 API 半价折扣。新的 Batch API 适用于异步任务处理，如当开发者需要处理大量文本、图片、摘要时，就可以使用该 API，OpenAI 会在 24 小时内给出处理结果。这样 OpenAI 可以在非高峰期处理，节约服务器资源，并为开发者提供半价优惠，解锁更高的速率限制。 h ttps://www.ithome.com/0/762/140.htm 百度发布新一代智能计算操作系统！定名万源 在今天的2024百度Create AI开发者大会上，百度集团执行副总裁、百度智能云事业群总裁沈抖宣布，百度新一代智能计算操作系统——万源正式发布。据介绍，在内核层面，万源可将现有的算力资源发挥到极致，并且能自由选择不同芯片组合。 https://news.mydrivers.com/1/974/974626.htm DeepMind升级Transformer，前向通过FLOPs最多可降一半 近日，Google DeepMind研究了这个问题，他们希望使用更低的计算预算来缩减 Transformer 使用的计算量。他们设想：在每一层中，网络必须学会为每个 token 做决策，从而动态地分配可用计算预算。在他们的具体实现中，总计算量由用户在训练之前设定并且不再更改，而非网络工作时执行决策的函数。这样一来，便可以提前预知并利用硬件效率收益（比如内存足迹减少量或每次前向传播的 FLOPs 减少量）。该团队的实验表明：可以在不损害网络整体性能的前提下获得这些收益。DeepMind 的这个团队采用了类似于混合专家（MoE） Transformer 的方法，其中会在整个网络深度上执行动态 token 层面的路由决策。而与 MoE 不同的是，这里他们的选择是：要么是将计算应用于 token（和标准 Transformer 一样），要么就是通过一个残差连接绕过它（保持不变，节省计算）。另一个与 MoE 的不同之处是：这里是将这种路由机制同时用在 MLP 和多头注意力上。因此，这也会影响网络处理的键值和查询，因此该路由不仅要决定更新哪些 token，还要决定哪些 token 可供关注。DeepMind 将这一策略命名为 Mixture-of-Depths（MoD），以突显这一事实：各个 token 在 Transformer 深度上通过不同数量的层或模块。 模型被投毒攻击，如今有了新的安全手段，还被AI顶刊接收 在深度学习时代，联邦学习（FL）提供了一种分布式的协作学习的方法，允许多机构数据所有者或客户在不泄漏数据隐私的情况下协作训练机器学习模型。然而，大多数现有的 FL 方法依赖于集中式服务器进行全局模型聚合，从而导致单点故障。这使得系统在与不诚实的客户打交道时容易受到恶意攻击。本文中，FLock 系统采用了点对点投票机制和奖励与削减机制，这些机制由链上智能合约提供支持，以检测和阻止恶意行为。FLock 理论和实证分析都证明了所提出方法的有效性，表明该框架对于恶意客户端行为具有鲁棒性。 极长序列、极快速度：面向新一代高效大语言模型的LASP序列并行 极长的上下文可以极大拓展大模型的生产力价值。随着 AI 的普及，用户已经不再满足于调戏大模型几个脑筋急转弯，用户开始渴望利用大模型来真正提高生产力。新型高效序列建模方法比如：Lightning Attention (TransNormerLLM), State Space Modeling (Mamba), Linear RNN (RWKV, HGRN, Griffin) 等最近成为炙手可热的研究方向。研究人员渴望通过改造已经 7 岁高龄的 Transformer 架构，获得性能与之旗鼓相当，但复杂度仅为线性的新型架构。这类方法专注于模型架构设计，并提供了基于 CUDA 或 Triton 的硬件友好实现，使其能够像 FlashAttention 一样在单卡 GPU 内部高效计算。来自上海人工智能实验室的研究人员提出了 Linear Attention Sequence Parallelism (LASP) 方法以充分利用 Linear Attention 的线性右乘特性实现高效的序列并行计算。在 128 卡 A100 80G GPU、TransNormerLLM 1B 模型、FSDP backend 的配置下，LASP 可以最高将序列长度扩展至 4096K，即 4M。与成熟的序列并行方法相比，LASP 可训练的最长序列长度是 Megatron-SP 的 8 倍、DeepSpeed Ulysses 的 4 倍，速度则分别快了 136% 和 38%。值得注意的是，虽然方法的名字包含 Linear Attention，LASP 并不局限于 Linear Attention 方法，而是可以广泛应用于包括 Lightning Attention (TransNormerLLM), State Space Modeling (Mamba), Linear RNN (RWKV, HGRN, Griffin) 等在内的线性序列建模方法。 药物分子设计新策略，微软条件扩散模型DiffLinker登Nature子刊 药理学领域的化学空间高达 10^60，在广阔的化学空间中进行搜索，给药物设计带来了巨大的挑战。基于片段的药物发现一直是早期药物开发的有效范例。然而，该领域面临的一个挑战是，如何设计断开的感兴趣分子片段之间的连接子（linker），生成化学上合理的候选药物分子。在此，来自微软研究院科学智能中心（AI4Science）、洛桑联邦理工学院、牛津大学和 MIT 的研究团队，提出了一种用于分子 linker 设计的 E(3) 等变三维条件扩散模型 DiffLinker。与以前只能连接分子片段对的方法不同，新方法可以连接任意数量的片段。此外，模型会自动确定 linker 中的原子数量及其与输入片段的连接点。DiffLinker 在标准数据集上优于其他方法，可生成更多样化且可合成的分子。在实际应用中对其方法进行实验测试，表明它可以成功生成以靶标蛋白口袋为条件的有效 linker。 微软将向阿联酋AI公司G42投资15亿美元，并持有少数股权 微软周二在一份声明中表示，该公司将向总部位于阿联酋的人工智能公司G42投资15亿美元，让这家美国科技巨头获得G42的少数股权和董事会席位。根据合作伙伴关系，G42将在微软的云计算平台Azure上运行其人工智能应用和服务，为全球公共部门客户和大型企业提供先进的人工智能解决方案。将担任G42董事会成员的微软总裁Brad Smith表示：“我们将与阿联酋和美国政府密切协调，将世界一流的技术与世界领先的安全、可信和负责任的人工智能标准结合起来。”两家公司将共同努力，为中东、中亚和非洲国家带来先进的人工智能和数字基础设施。微软和G42还将支持为开发人员设立一个10亿美元的基金，以提高阿联酋和更广泛地区的人工智能技能。 产品 Airchat Airchat 是一个新的社交平台，它提供了基于语音的交流方式，并且似乎有一些独特的功能，比如实时语音转文本功能。作为一款AI 赋能，基于话题，并以语音为主要内容形态的异步社交产品，到底怎么样呢？大家快来体验下～ https://www.air.chat/ Packify.ai Packify.ai 是一款人工智能包装设计软件，它允许普通人通过简单的交流方式创造性地设计他们的产品包装，并提供了一项用于电子商务产品摄影的人工智能产品拍摄功能。 https://www.packify.ai/ 王小川又融资，百川智能估值130亿 王小川创办的百川智能完成新一轮数亿美元融资，将成为2024年国内AI领域最大的一笔融资，估值已超过18亿美元（约130亿人民币）。百川智能是王小川在卖掉搜狗后的第二次创业，致力于打造中国版的OpenAI。新一轮融资参与者包括阿里、腾讯和小米等顶级投资机构。百川智能将资金用于推动AI大模型技术的商业化和市场扩展，特别是在医疗数据集和大语言模型方面的应用开发。 https://www.baichuan-ai.com/home Descript全新发布，由OpenAI创业基金支持 Descript宣布推出全新版本，并由OpenAI创业基金领投其5000万美元的C轮融资。这次融资将加速Descript的产品开发和市场扩张，特别是在音视频编辑工具的AI集成上。新版Descript通过简化编辑过程，使用户能像处理文档一样编辑音视频内容，进一步增强了AI的应用，如自动去除填充词和降噪等功能。此次合作预示着AI技术在创意内容制作领域的深入应用和未来潜力的拓展。 公司官网：https://www.descript.com/ https://www.descript.com/blog/article/all-new-descript-backed-by-openai-startup-fund 微软投资15亿美元助力阿布扎比G42加速AI发展和全球扩张 微软宣布向阿布扎比的人工智能技术控股公司G42投资15亿美元，以加速AI技术的发展及全球扩张。此次战略投资将加强两家公司在全球AI技术和服务领域的合作，尤其是在中东、中亚和非洲地区。此外，G42将在微软Azure平台上运行其AI应用和服务，共同为全球公共部门客户和大型企业提供先进的AI解决方案。该合作还包括为开发者建立价值10亿美元的基金。微软副主席兼总裁Brad Smith将加入G42董事会。 https://www.g42.ai/resources/news/microsoft-invests-abu-dhabis-g42 Paraform为连接初创企业与招聘人员网络筹集360万美元种子轮资金 Paraform，一家针对初创企业的招聘平台，成功筹集了360万美元的种子轮融资，该轮由Kevin Hartz的A*领投。此次融资旨在利用被裁员招聘人员的资源，为初创企业提供人才寻找服务并拓展人才网络。Paraform平台已支持超过200家公司招聘，并计划利用新资本扩展美国市场及其他国家，预计今年团队规模将翻倍。 公司官网：https://www.paraform.com/ https://techcrunch.com/2024/04/15/paraform-a-recruiting-platform-that-connects-recruiters-and-startups-raises-funding/ Lawhive为法律AI平台筹集950万英镑 Lawhive成功从Google Ventures筹集950万英镑用于其法律AI平台。这次种子轮融资紧随2022年4月的150万英镑融资。该平台推出了名为Lawrence的生成式AI程序，专门自动化律师的日常重复性法律任务，如客户身份验证、客户入职和文件收集。Lawrence被设计为能够支持律师处理单调重复的任务，增强法律服务的访问性和效率。 公司官网：https://lawhive.co.uk/ https://techcrunch.com/2024/04/15/lawhive-raises-12m-to-expand-its-legaltech-ai-platform-for-small-firms/
大模型日报 16
原创文章，作者：LLM Space，如若转载，请注明出处：https://www.agent-universe.cn/2024/04/16009.html
