AI新闻动态（2024-03-03到2024-03-09）

[ikaijua]

AI新闻动态（2024-03-03到2024-03-09）

目录

AI产品

1. OpenAI最强劲敌Anthropic发布Claude 3 模型系列，性能超越GPT-4
2. Groq的初创公司开发的新型AI芯片LPU（Language Processing Unit），该芯片向英伟达发起了挑战
3. Inflection AI发布了新一代大语言模型Inflection-2.5
4. 零一万物发布并开源了Yi-9B模型，该模型在代码和数学能力方面表现出色

AI研究

1. Stable Diffusion 3论文发布，架构细节大揭秘
2. Meta的新研究成果，一块4090 GPU预训练7B大模型

AI洞察

1. 一份广泛流传的53页PDF文件，声称OpenAI将在2027年前开发出人类水平的AGI（通用人工智能）
2. 马斯克起诉OpenAI违反了创始协议背叛了初衷，OpenAI发长文晒邮件反驳
3. OpenAI CEO奥特曼宣布重返董事会，并公开去年内讧事情调查结果
4. 商汤在年会上用数字人的方式，让汤老师以幽默的方式与大家再相见
5. 一位前谷歌华人工程师丁林葳被指控窃取人工智能商业机密的案件在美国加州被拘留

AI投资

1. 阿里领投Minimax 6亿美元融资，Minimax成为大模型独角兽之一

AI学习

1. 何恺明教授在MIT（麻省理工学院）的第一堂课

[ikaijua]

2024-03-04 马斯克起诉OpenAI违反了创始协议背叛了初衷，OpenAI发长文晒邮件反驳

1. 马斯克以一份长达46页的诉讼文件指控OpenAI不顾后果地开发人类级别的人工智能，并将其移交给微软。他指控OpenAI违反了最初达成的创始协议，该协议承诺公开开发通用人工智能并造福人类。
2. 马斯克与奥特曼以及其他人共同创立了OpenAI，这是一个非营利性组织，专注于创建通用人工智能。然而，马斯克在2018年被董事会踢出局，尽管他表示将继续提供资金和指导。他后来放弃了向OpenAI提供额外资助的承诺，这导致OpenAI面临资金困难。
3. 马斯克的诉讼要求OpenAI公开发布其技术，并禁止其为微软、高管谋求经济利益。同时，要求法院裁定新的人工智能系统如GPT-4超越了微软与OpenAI的许可协议范围。
4. 诉讼文件提到OpenAI开发的GPT-4算法被认为是通用人工智能（AGI）的早期版本，引用了微软的论文作为证据。但一些人工智能专家对此持不同意见。
5. OpenAI透露在筹集资金方面与马斯克存在分歧，马斯克建议将OpenAI并入特斯拉，但OpenAI认为个人对其拥有绝对控制权违背使命。OpenAI承认构建人工通用智能（AGI）需要大量资源，并需要每年数十亿美元的资金支持。OpenAI通过开源贡献等方式推进他们的使命，希望通过构建有益工具和技术来增强人们的能力和改善他们的生活。

马斯克诉讼文件：https://www.courthousenews.com/wp-content/uploads/2024/02/musk-v-altman-openai-complaint-sf.pdf
OpenAI反驳文章：https://openai.com/blog/openai-elon-musk

媒体文章：

• 机器之心：马斯克起诉OpenAI：他们做出了AGI还授权给微软，这是对创始协议赤裸裸的背叛
• 量子位：马斯克用微软论文当论据起诉OpenAI：你们自己早承认AGI了
• 量子位: OpenAI公开马斯克8年往来邮件：曾经深爱，一度PUA，现在吃相难看！Ilya也署名了
• 机器之心：精彩程度堪比电视剧，马斯克与奥特曼、OpenAI的「爱恨纠缠史」
• 机器之心：刚刚，OpenAI官方发文驳斥马斯克，自曝8年间邮件往来截图

[ikaijua]

2024-03-04 OpenAI最强劲敌Anthropic发布Claude 3 模型系列，性能超越GPT-4

1. OpenAI的最强劲敌Anthropic昨晚宣布推出Claude 3模型系列，包括Claude 3 Haiku、Sonnet、Opus三个型号，尺寸从小到大。
2. Claude 3支持超过100万个tokens的输入，并新增多模态功能，支持处理图像、图表等。
3. Claude 3 Opus能力最强，在常见评估基准上都优于GPT-4和Gemini；Sonnet在智能与速度之间达到平衡，特别适合企业工作负载；Haiku模型最快、成本最低，能不到3秒读取arXiv（~10k tokens）上带有图表和图形信息和数据密集的研究论文。
4. 在Claude.ai官网，免费用户可以使用Sonnet，Pro用户可以使用Opus。Poe也支持了Opus和Sonnet模型。
5. Opus和Sonnet均可以通过API调用，其中Opus的API价格大约是GPT-4的2倍。
6. Claude 3优化了道德屏障，能识别到有害的问题并修复了claude 2.1动不动就拒绝回答问题的毛病。减少了幻觉，回答准确率提升两倍。

官方博客：Introducing the next generation of Claude
论文：The Claude 3 Model Family: Opus, Sonnet, Haiku
新推出的prompts库：https://docs.anthropic.com/claude/page/prompts

媒体文章：

• APPSO: GPT-4 时代结束！全球最强大模型一夜易主，体验完 Claude 3 我更期待 GPT-5了
• 量子位：大模型新王Claude 3实测！各项能力给跪，打麻将也会，确实比GPT-4好用
• 机器之心：Claude 3被玩出自我意识了？AI社区轰动，我们买会员来了次实测
• 机器之心：GPT-4时代已过？全球网友实测Claude 3，只有震撼

[ikaijua]

2024-03-04 一份广泛流传的53页PDF文件，声称OpenAI将在2027年前开发出人类水平的AGI（通用人工智能）。

1. 文档中提到了OpenAI计划发布的GPT-5模型，但由于高推理成本取消了发布，之后GPT-4.5更名为GPT-5。
2. 文档中介绍了一个神秘项目Q*，该项目最初被称为GPT-6，但已更名为GPT-7，并计划在2027年之前发布，并实现全面的AGI。
3. 近期，OpenAI的核心员工陆续离职，包括Andrej Karpathy、Ilya Sutskever和Logan Kilpatrick，这引发了一些猜测和关注。
4. OpenAI的秘密人工智能模型Q*被泄露，并有人认为这可能是OpenAI在追寻超级智能/通用人工智能道路上的突破。
5. 马斯克起诉OpenAI的文件中提到了Q*，并表示Q*可能是一种更可能成为AGI的模型。

文档地址：https://drive.google.com/file/d/1xlRDbMUDE41XPzwStAGyAVEP8qA9Tna7

q star info-1.pdf

媒体文章：

• 机器之心：53页PDF广泛流传，核心员工相继离职，OpenAI到底有什么秘密？

[ikaijua]

2024-03-06 Groq的初创公司开发的新型AI芯片LPU（Language Processing Unit），该芯片向英伟达发起了挑战

1. Groq的LPU是一种新型AI处理器，用于处理基于语言的任务。它的推理速度比英伟达GPU提高了10倍，成本降低到十分之一。
2. LPU展示了惊人的性能，在一项展示中，以每秒超过100个词组的速度执行了拥有700亿个参数的大型语言模型Llama-2。
3. 尽管LPU在性能上出色，但成本和能耗方面仍有待改进。由于内存容量较小，运行同一模型需要较多的Groq卡片，而使用英伟达的卡片数量则较少。
4. Groq的LPU在短期内很难撼动英伟达GPU的地位，因为它的应用范围相对较窄，不够通用。
5. LPU是Groq开发的一种新型端到端处理单元系统，用于处理语言操作。与传统芯片不同，LPU按顺序处理任务，在语言理解和生成方面非常有效。
6. Groq的LPU在解决大型语言模型在计算密度和内存带宽方面的挑战方面取得了突破，具有快速高效地处理语言任务的优势。

媒体文章：

• 机器之心：向英伟达发起挑战的Groq是什么来头？简单科普新型AI芯片LPU

[ikaijua]

2024-03-06 Stable Diffusion 3论文发布，架构细节大揭秘

1. Stable Diffusion 3论文发布，该模型采用了与Sora相同的DiT架构，该模型使用MMDiT架构来处理文本和图像两种模式，通过预训练模型编码文本和图像表征。
2. 相较于之前的版本，Stable Diffusion 3在生成图像的质量上有显著改进，支持多主题提示，并且文字书写效果更好。
3. 在基于人类偏好的评估中，Stable Diffusion 3优于当前最先进的文本到图像生成系统，如DALL・E 3、Midjourney v6和Ideogram v1。
4. Stable Diffusion 3采用了改进的Rectified Flow公式，在训练过程中减少了采样步骤，并引入了一种新的轨迹采样计划，提高了性能。
5. 作者通过扩展Stable Diffusion 3模型的大小和训练步骤，观察到验证损失的降低和性能的改进，并对未来进一步提高模型性能持乐观态度。

stability.ai的官方新闻：https://stability.ai/news/stable-diffusion-3-research-paper
论文：https://stabilityai-public-packages.s3.us-west-2.amazonaws.com/Stable+Diffusion+3+Paper.pdf

媒体文章：

• 机器之心：Stable Diffusion 3论文终于发布，架构细节大揭秘，对复现Sora有帮助？

[ikaijua]

2024-03-08 Meta的新研究成果，一块4090 GPU预训练7B大模型

1. Meta的研究人员田渊栋等人的研究突破了内存瓶颈，使得预训练7B大模型只需要24G显存，一块消费级GPU 4090即可处理大模型。
2. 他们提出了GaLore（Gradient Low-Rank Projection）方法，这是一种高内存效率的训练策略，可以在具有24GB内存的消费级GPU上预训练7B模型。
3. GaLore利用权重矩阵的梯度缓慢变化的低秩结构，而不是直接将权重矩阵近似为低秩形式，从而减少内存使用。
4. GaLore方法在预训练和微调中表现良好，可以在消费级GPU上进行从头开始的预训练，无需昂贵的内存卸载技术。
5. 通过GaLore方法，内存效率比其他常见的低秩自适应方法更高，可以减少高达30%的内存使用。
6. GaLore方法与优化器的选择无关，可以轻松插入现有优化器，具有良好的实验结果和性能评估。

论文地址：https://arxiv.org/abs/2403.03507

媒体文章：

• 机器之心：田渊栋等人新作：突破内存瓶颈，让一块4090预训练7B大模型

[ikaijua]

2024-03-04 商汤在年会上用数字人的方式，让汤老师以幽默的方式与大家再相见

1. 按照以往习惯，每年汤老师都会说上一段脱口秀，已经成为商汤年会保留节目，商汤在年会上用数字人的方式，让汤老师以幽默的方式与大家再相见。
2. 数字人以汤老师的风格进行了开场复习和幽默的演讲，引发了对汤教授的怀念。
3. 商汤的如影数字人技术可以根据真人视频素材生成逼真的数字人形象，具有自然的动作和口型。如影2.0版本提升了多语种精准度和生成效果，用户可以通过输入提示词生成专属数字人形象。
4. 数字人类似的技术已经在现实生活中被使用，比如音乐人包小柏利用AI技术复刻了他去世的女儿的存在。
5. 数字人的表现效果让人惊艳，特别是在动作和口型方面表现得非常自然。

B站视频：商汤在年会上，用数字人复活了汤晓鸥教授：致AI，致希望

媒体文章：

• 量子位：商汤用AI复活了汤老师

[ikaijua]

2024-03-06 阿里领投Minimax 6亿美元融资，Minimax成为大模型独角兽之一。

1. MiniMax是一家成立于2021年的AI创企，专注于大模型技术。 MiniMax的创始人包括商汤科技副总裁闫俊杰和中科院的校友杨斌。
2. MiniMax已经自研了文本到视觉、文本到语音和文本到文本三个模态的基础模型架构，并建立了计算推理平台。
3. MiniMax的早期产品包括Glow和Inspo，分别用于虚拟聊天和生成式对话。
4. MiniMax已经吸引了多家投资机构的注意，包括阿里、腾讯、米哈游、IDG资本和高瓴等。

媒体文章：

• 量子位：阿里领投MiniMax 6亿美元融资，5家大模型独角兽集齐了

[ikaijua]

2024-03-09 OpenAI CEO奥特曼宣布重返董事会，并公开去年内讧事情调查结果

1. 特别独立调查委员会在审查了3万多份文件后，认定OpenAI首席执行官Sam Altman在去年的事件中的行为不构成强制解雇的理由。因此，他现在重新加入董事会。
2. 去年OpenAI的管理层发生了动荡，Altman和Greg Brockman一度被解除董事会职务。这次动荡并非由于通用人工智能危机或技术突破，而是由于董事会成员之间的关系破裂。调查结束后，奥特曼和Brockman被认为是OpenAI的正确领导者，并且他们将继续领导公司。
3. Ilya Sutskever的情况：OpenAI联合创始人兼首席科学家Ilya Sutskever在这场动荡中发挥了关键作用。他在最初支持开除奥特曼，但在员工威胁辞职后改变了立场。目前，他的未来参与公司事务的情况尚不明确。
4. OpenAI董事会特别委员会新增了几位成员，包括美国肿瘤学家和生物技术领袖Sue Desmond-Hellmann、法律界人士Nicole Seligman以及消费技术行业资深人士Fidiji Simo。
5. OpenAI宣布了新的公司治理准则，优化了利益冲突政策，并创建了举报热线和额外的董事会委员会，以提升公司治理。

OpenAI博客文章：

• https://openai.com/blog/review-completed-altman-brockman-to-continue-to-lead-openai
• https://openai.com/blog/openai-announces-new-members-to-board-of-directors

媒体文章：

• 量子位：奥特曼无罪重返董事会！OpenAI内讧真相大白，调查结果公开
• 腾讯科技：OpenAI宫斗大结局：CEO奥特曼重新加入董事会，马斯克笑而不语
• 机器之心：奥特曼重返OpenAI董事会：看完3万份文件，调查组认定了

[ikaijua]

2024-03-06 零一万物发布并开源了Yi-9B模型，该模型在代码和数学能力方面表现出色

1. Yi-9B模型在综合能力方面超过了其他相近尺寸的开源模型，包括DeepSeek-Coder、DeepSeek-Math、Mistral-7B、SOLAR-10.7B和Gemma-7B。
2. 在代码能力方面，Yi-9B仅次于DeepSeek-Coder-7B，超过了Yi-34B、SOLAR-10.7B、Mistral-7B和Gemma-7B。
3. 在数学能力方面，Yi-9B仅次于DeepSeek-Math-7B，超过了SOLAR-10.7B、Mistral-7B和Gemma-7B。
4. Yi-9B具备强大的中文能力，在常识和推理能力方面与Mistral-7B、SOLAR-10.7B和Gemma-7B不相上下。
5. Yi-9B模型的参数大小为8.8B，使用消费级显卡进行部署成本较低。

Yi系列模型论文：https://arxiv.org/abs/2403.04652
模型地址：https://huggingface.co/01-ai/Yi-9B

媒体文章：

• 零一万物：零一万物发布并开源 Yi-9B，代码数学综合能力全面增强

[ikaijua]

2024-03-08 Inflection AI发布了新一代大语言模型Inflection-2.5

1. Inflection-2.5模型的性能接近GPT-4，但仅使用了GPT-4 40%的算力进行训练。
2. Inflection-2.5在编码和数学等智商领域取得了显著进步，其平均性能达到了GPT-4的94%以上。
3. 在STEM领域的知识改进方面，Inflection-2.5表现最为显著，尤其在匈牙利数学考试和物理学研究生入学考试（GRE）中的成绩。
4. Inflection-2.5在MMLU基准和GPQA Diamond基准上的评估结果也显示出了它的优越性能。
5. Inflection-2.5在数学和编码能力方面相比之前的版本有显著改进，表现出色。
6. Inflection AI是一家由Mustafa Suleyman、Reid Hoffman和Karen Simonyan等人创立的创业公司，已成为全球第四大生成式人工智能创业公司。

inflection聊天机器人的地址：https://pi.ai/talk

媒体文章：

• 机器之心：挑战OpenAI的新模型免费上线，40%计算量性能逼近GPT-4

[ikaijua]

2024-03-03 ServiceNow、Hugging Face 和 NVIDIA 于发布 StarCoder2代码生成模型

1. StarCoder2的功能包括代码补全、高级代码摘要、代码片段检索等。
2. StarCoder2模型经过600 多种编程语言以及一些自然语言文本（例如 Wikipedia、Arxiv 和 GitHub issues）的训练。
3. StarCoder2提供了三种规模的模型，分别由ServiceNow、Hugging Face和NVIDIA训练，参数数量分别为30亿、70亿和150亿。
4. StarCoder2模型的特点是性能强大且计算成本较低，可以提高开发者的生产力和工作效率。
5. StarCoder2的开发是在BigCode社区的协作下进行的，该社区由ServiceNow和Hugging Face共同管理，致力于负责任的代码LLM开发。

github项目地址：https://github.com/bigcode-project/starcoder2

媒体文章：

• 英伟达：ServiceNow、Hugging Face和NVIDIA发布全新开放获取LLM，助力开发者运用生成式AI构建企业应用

[ikaijua]

2024-03-09 何恺明教授在MIT（麻省理工学院）的第一堂课

1. MIT 电气工程与计算机科学系副教授何恺明（Kaiming He）在 3 月 7 日完成了自己“人生中教的第一堂课”。
2. 讲授的课MIT计算机视觉课《Advances in Computer Vision》，今年是四位教授，每人负责一部分课程。
3. 何恺明第一节课讲授了卷积神经网络的基本知识。
4. 课堂700 座的大教室，座无虚席。之所以如此火爆，一个重要的原因是何恺明是一位在计算机视觉领域卓越的 AI 科学家之一。
5. 截至今天，何恺明的研究引用次数超过 53 万次，并且每年以超过 10 万次的速度增长。最有名的就是 ResNet ，这篇论文发表于八年前，迄今引用已经超过 20 万。

课程信息：https://advances-in-vision.github.io/index.html
完整课件链接：https://drive.google.com/file/d/1TIhzYkyMJTUMKq3SCzzzzJ2TcUnDIuaM/view

B站视频：何恺明教授在MIT的第一课：卷积神经网络

媒体文章：

• 机器之心：教授何恺明在MIT的第一堂课

[ikaijua]

2024-03-08 一位前谷歌华人工程师丁林葳被指控窃取人工智能商业机密的案件在美国加州被拘留

1. 丁林葳是一名前谷歌软件工程师，被指控在谷歌工作期间窃取商业机密。他通过将信息复制到个人谷歌云帐户来秘密上传存储在谷歌网络中的商业机密。
2. 丁林葳窃取的商业机密涉及谷歌先进的超级计算数据中心的构建模块，这些模块用于支持大语言模型的训练和托管。
3. 起诉书还指控丁林葳与两家中国科技公司有联系，他在谷歌工作期间成为其中一家公司的CTO，并创办了另一家公司。
4. 由于该案件涉及人工智能等战略新兴技术，美国司法部、商务部和联邦调查局将其视为国家安全问题。这也引发了中美两国在该领域的竞争与合作。
5. 一些网友表示，这一事件可能会对留学生在人工智能、生物、半导体等领域的学习产生影响。
6. 如果丁林葳被判有罪，他将面临最高10年监禁和高额罚款。此案被视为一起严重的商业机密盗窃案，并涉及国家安全因素。

媒体文章：

• 甲子光年：前谷歌华人工程师被指控窃取AI商业机密，最高面临10年监禁｜甲子光年