吞吐量最高飙升20倍豆包大模型团队开源RLHF框架破解强化学习训练部署难题2024年11月01日在大模型后训练Post-Training阶段引入 RL 方法已成为提升模型质量和对齐人类偏好的重要手段。传统的 RL/RLHF 系统在灵活性和效率方面存在不足难以适应不断涌现的新算法需求无法充分发挥大模型潜力。因此开发一个高效且灵活的大模型 RL 训练框架显得尤为重要。这不仅需要高效地执行复杂的分布式计算流程还要具备适应不同 RL 算法的灵活性以满足不断发展的研究需求。字节跳动豆包大模型团队与香港大学近期公开联合研究成果——HybridFlow一个灵活且高效的大模型 RL 训练框架兼容多种训练和推理框架支持灵活的模型部署和多种 RL 算法实现。实验结果表明HybridFlow 在各种模型规模和 RL 算法下训练吞吐量相比其他框架提升了 1.5 倍至 20 倍。Sheng G, Zhang C, Ye Z, et al. Hybridflow: A flexible and efficient rlhf framework[J]. arXiv preprint arXiv:2409.19256, 2024.https://github.com/volcengine/veRL2024 AI年度报告发布附十大预测人形机器人热度下降英伟达维持霸主地位2024年11月03日State of AI发布了2024产业报告也是调研团队发布的第七份年度报告从研究进展、行业局势、现有政策、安全问题、未来预测等角度出发对人工智能行业的现状和预期进行了深度分析。美国对中国实验室实施的制裁对其生产高性能模型的能力影响有限因为库存、获批硬件、走私和云访问的结合使国内能够构建高性能的VLLM但国内的半导体产业发展仍然较为混乱。四家亏损严重的芯片龙头企业前景不妙2024年11月04日2024年前三季度AI芯片龙头寒武纪今年股价暴涨了3倍左右前三季度亏损超过7亿元。芯片设计龙头芯原股份股价一路下滑前三季度亏损接近4亿元。CPU龙头龙芯中科股价从183元下滑到今天前三季度亏损3.4亿元。光芯片龙头源杰科技股价从339元到现在150元左右前三季度亏损55万元但是第三季度亏损就超过1100万元。谷歌员工集体打脸劈柴25%新代码AI生成夸大事实Linux之父怒斥90%都是营销2024年11月04日CEO劈柴在Q3财报会议上的一句话瞬间点燃了全网的激烈讨论。就连Linux之父Linus Torvalds在采访中表示「AI只不过是一种营销策略。人工智能市场状为90%营销和10%现实」。商汤执行董事徐冰最新访谈商汤最近在做什么数万亿的AI投资能回本吗2024年11月04日现在我们的主要任务是建设AI云做足准备确保公司能向通用人工智能扩展scale AI to AGI。现在我们最大的AI云已经接入了超过5万个GPU至于商汤我们是独立于互联网巨头之外的字节跳动、阿里巴巴、腾讯和百度唯一一个大型 AI 云平台震撼预警满血版o1倒计时奥特曼完整专访流出o系列疯狂迭代马上起飞2024年11月05日几天前的OpenAI伦敦开发者日上来自20VC的Harry Stebbings与Altman开启了线上对谈。他再次强调了如果企业正在开发一个工具是为了绕过某个模型的缺点那么这个工具很快就会被淘汰掉。可能在OpenAI下一代模型中自然就解决了。在人们认知误区上Altman称更多的是我们都还没有直觉去理解在未来世界里AI智能体会是什么样子。比如不是让AI智能体给一家餐厅打电话订餐而是让它同时联系300家餐厅并找出哪一家对你来说最特别的。不仅如此在300个地方可以接电话的也是智能体。它可以进行人类无法做到的大规模并行操作。Q通常SaaS是按用户数量收费但现在AI智能体实际上是在替代人力。考虑到AI智能体可能成为企业劳动力的核心部分你如何看待未来的定价模式A对此Altman推测道你可以选择使用1个、10个或100个GPU来持续处理问题。这不是按用户数或按智能体数收费而是基于持续为你工作的计算量来定价。Q你如何看待OpenAI模型如何随着时间的推移继续保持差异化以及你最想关注哪些方面来扩大这种差异化A推理是OpenAI目前最重要的关注领域。多模态工作以及在模型中加入其他对用户非常重要的功能。团队能够反复去做一些全新的、完全未经证实的事情。这是推动人类进步最重要因素之一。关键是要找到适合公司文化和发展阶段的人才。他表示自己当然会遇到一些无法理解的模型行为如失败的训练尝试等等。每当我们接近一个技术范式的极限都必须开辟新的道路。Altman表示人们确实经常用电力来类比AI但我认为这在很多方面都说不通。如果非要做类比的话我认为晶体管可能是一个更好的例子。整个科技行业都从晶体管技术中受益。你使用的产品和服务中涉及了大量晶体管但你并不会把这些公司看作是「晶体管公司」。同样未来AI可能会无处不在但不是每个使用AI的公司都会被称为「AI公司」。科学进步不断超出所有人的预期而社会变化相对缓慢。当然从长远来看社会终究会发生巨大的变化。明星飞行汽车破产烧光100亿仍难载人试飞…2024年11月05日曾估值235亿的独角兽Lilium德国扛不住了。成立9年以来Lilium累计筹集了14.5亿美元约103亿元的资金腾讯是主要投资人之一。破产的消息在低空领域炸响任谁都想不到这家曾被称为低空领域“特斯拉”的公司没落速度如此之快甚至就在四个月之前Lilium才刚刚在中国开了分公司。eVTOL是 Electric Vertical Takeoff and Landing 的缩写即电动垂直起降飞行器是一种采用电力驱动、能够垂直起降的新型城市空中交通工具手机秒拍动画大片高级运镜效果惊人Runway两弹更新火得一塌糊涂2024年11月05日Gen-3 Alpha新近连发了两个新功能可将真人面部表情精确复刻给AI角色的Act-One以能够实现3D化的AI摄像头控件。Act-One还可以创建多轮对话场景。毫不夸张地说只要有摄像机一个人就可以演一台戏AI摄像头控件用户可以任意选择在场景中移动的方向、角度、速度将各种相机移动方式和速度变化相结合。聊聊自动驾驶中的自动标注2024年11月05日激光雷达提供点云级别的深度信息若同时使用双目和激光雷达这个深度图也可以转换为视差的真值。激光雷达提供障碍物的3D位置和尺寸毫米波雷达提供实例深度毫米波可提供障碍物的BEV位置和速度。速度在单帧检测中很难用上。另外还需要注意的是毫米波雷达输出的障碍物位置不一定是障碍物的中心点位置: 一般在障碍物体上但不能确定是物体的哪一个点。零一万物战略骤转国内聚焦toBtoC先走海外2024年11月06日如果只是执着地把所有资源都用来购买芯片去烧更大的模型最后应用没有做起来带来的生态是相对不健康的。自动驾驶公司扎堆IPO回报投资人的时候到了2024年11月06日地平线和文远知行抽屉协议是私下签订的协议通常只有协议双方知晓类似于被放置在抽屉里不轻易向外界透露长远看算法岗真的比开发岗香吗2024年11月07日尤其是这几年大陆芯片行业爆发很多公司都开始投入去做芯片殊不知芯片行业是一个非常烧钱的行业投入巨大如果没有核心竞争力很容易血本无归这个时候就需要优秀的算法工程师设计具有差异化的算法才有可能做出性能优异的产品。你就是块砖哪里需要哪里搬不好用就扔你觉得不爽就跳跳也不成就转行就这么几个分支而已国产AI可以拍微电影了4K、60帧高清画质自带音效2024年11月08日正是智谱刚升级的新清影电影级效果、模型能力全面提升、自带音效文本生成GLM、图像生成CogView、视频生成CogVideoX、音效生成CogSound、音乐生成CogMusic、端对端语音GLM-4-Voice、自主代理AutoGLM。无人车大战打响美国萝卜日爆8000单破纪录中美对决已到关键转折点2024年11月08日自动驾驶汽车 Waymo8月份在旧金山的日均服务单量已超8800单远超同期的出租车工作日日均6307单。今年3月起Waymo在旧金山半岛扩大了服务范围。紧接着6月再次获批在旧金山全域开放无人驾驶出行服务。谷歌母公司 Alphabet 还在加大对 Waymo 投资为进一步扩张研发自动驾驶技术注入新的动力。面对 Waywo、特斯拉等「洋萝卜」的奋起直追中国「土萝卜」还需要跑得更快飞得更高。真·打字P图字节发布新模型SeedEdit一句话爆改世界名画可免费体验2024年11月11日照片上色、删除Shi Y, Wang P, Huang W. SeedEdit: Align Image Re-Generation to Image Editing[J]. arXiv preprint arXiv:2411.06686, 2024.怎么才能优雅地向博士导师表达「这周科研没什么进展」2024年11月11日又一家新势力危了引入华为技术却没能拯救… 2024年11月12日远航汽车大运集团旗下的高端新能源品牌。风驰天下大运摩托大运董事长远勤山曾表示过远航不需要太多技术自己搞先进技术可能十年也赶不上博世、华为现在的水平所以要把最优秀的融合在一起直接买来再整合。一步慢步步慢远航H8搭载的是高通8155芯片而零跑、银河等车型已经搭载了算力更强的高通8295芯片国产地表最强视频模型震惊歪果仁官方现场摇人30s直出视觉模型进入上下文时代2024年11月14日生数科技推出的Vidu 1.5成为世界首个支持多主体一致性的多模态模型只要上传多个角色、物体和地点的图片就能立即生成每个物体一致的场景人手制作一部大片的时代真的来了吗这标志着视觉模型进入了全新的「上下文」时代AGI离我们更近了。AI毒液刷屏抖音小红书闲鱼10元代生成一次但官网其实免费2024年11月10日PixVerse V3来自国内AI视频公司爱诗科技。当审稿人给的意见你无法修改的时候怎么办2024年11月11日Modify the paperTeach the reviewer something newOut of scope感谢您的建议这正是我们未来需要努力的方向我们也正在进行这方面的工作您将在我们未来的工作中看到这方面的研究Scaling Laws终结量化无用AI大佬都在审视这篇论文2024年11月13日研究发现在较低精度下训练模型例如INT3和INT4会导致较高的损失而随着精度的提高损失会减少同时随着模型规模的增加损失也会减少。直觉可能是当你训练更多的数据时更多的知识被压缩成权重给定的扰动会对模型性能造成更大的损害。推理时使用较低精度例如INT3和INT4会导致性能下降即损失的增加而随着精度的提高损失会逐渐减少接近没有进行后训练量化的模型性能。自动驾驶界秋名山车神CoRL杰出论文让自驾车学会漂移机器人整出新活2024年11月13日CoRL 是“Conference on Robot Learning”机器人学习会议。这是一个专注于机器人学习和相关领域如机器学习、控制理论、计算机视觉等的学术会议在丰田 Supra 和雷克萨斯 LC 500 上进行的大量实验表明在不同路况下使用不同轮胎时单一扩散模型可使两辆车实现可靠的自动漂移刚刚谷歌宣布35岁Keras之父Francois Chollet离职2024年11月14日单刷CVPR的男人——Xception深度学习的启蒙老师之一大模型应用有哪些简单却巧妙的上分方法2024年11月15日客观比不过比主观主观比不过 cherry pick不做Sora背后百度的多模态路线是什么2024年11月16日iRAG巧妙地将认知智能检索与生成智能创作结合在一起取长补短相得益彰。如今百度“曦灵”数字人、“慧播星”数字人已广泛应用于新闻播报、直播电商等场景。生成证件照https://github.com/Zeyi-Lin/HivisionIDPhotos目标检测和感受野的总结和想法2024年11月16日实际感受野依然是一个超参数他是会随着训练的过程发生变化我们无法准确计算出来实际感受野但是通过分析anchor实际感受野和理论感受野我们知道了anchor实际感受野理论感受野所以anchor还是会被理论感受野的大小所限制Luo W, Li Y, Urtasun R, et al. Understanding the effective receptive field in deep convolutional neural networks[J]. Advances in neural information processing systems, 2016, 29.实测腾讯元宝2.0图文视频啥都能搜论文绘画全搞定2024年11月17日背靠腾讯独家的公众号、视频号等高质量内容元宝搜索的结果非常详细这次元宝2.0更新的另一个亮点是集成了腾讯文档、电脑管家和输入法各应用生态全部打通当运行了电脑管家之后AI助手就会默认在后台运行你可以在上网冲浪的时候随时搜索、解释或翻译任意关键词。怎样保证你不是AGI独裁者马斯克为何退出OpenAI早期邮件公开了2024年11月17日Grok 3证明黎曼猜想训练遭灾难性事件数学家称不夸张两年内AI将解出千禧年难题 2024年11月18日Karpathy后悔了2015年就看到了语言模型的潜力却搞了多年强化学习2024年11月18日OpenAI 创始成员、研究科学家、原特斯拉前 AI 高级总监、AI 领域的大神Andrej Karpathy一直在后悔。后悔自己没有早点带领 OpenAI 开创大模型时代。表征学习也称为特征学习在机器学习领域中占据着重要的地位。它是一种将原始数据转换成为能够被机器学习有效开发的数据的技术集合。常用的方法包括主成分分析PCA、独立成分分析ICA、自动编码Auto-encoders、矩阵分解、各种聚类分析及其变形等。对标o1Kimi放出了最能打的国产模型2024年11月18日Kimi 的最新一代推理模型 k0-math在数学能力已实现对标 OpenAI o1-mini 和 o1-preview。逼真到离谱1000个人类「克隆」进西部世界AI相似度85%细节太炸裂2024年11月19日通过招募1052名参与者涵盖了不同性别、年龄、地区等每人接受GPT-4o采访了2个小时。然后将得到的访谈内容作为文字提示输入语言模型中复刻出每个个体对应的AI智能体。所有智能体在综合社会调查中的回答与原参与者两周后自我复现答案准确率接近85%并在人格预测、实验复制中表现与人类相当。登上Nature的AI芯片设计屡遭质疑谷歌发文反击Jeff Dean质疑者连预训练都没做2024年11月19日2020 年谷歌发表了预印本论文《Chip Placement with Deep Reinforcement Learning》介绍了其设计芯片布局的新型强化学习方法AlphaChip。在 2021 年这项研究发表在 Nature 上并开源了出来。此后AlphaChip 激发了 AI 芯片设计方面的大量工作并在谷歌母公司 Alphabet 三代 TPU、数据中心 CPU 和其他芯片中部署并由外部芯片制造商扩展。https://github.com/google-research/circuit_training腾讯AI大牛被曝投身视频生成创业 2024年11月19日刘威——腾讯杰出科学家、腾讯混元大模型技术负责人之一腾讯 AI Lab 早期的三剑客创业公司Video Rebirth视频生成行业内有快手可灵、爱诗科技、生数科技等团队的AI视频应用「全球最严榜单」阶跃拿下中国TOP 1杀入世界前五超过GPT-4o紧跟o1-mini2024年11月20日刚刚国际权威榜单LiveBench最新榜单出炉一个国产黑马闪耀其中。没错它就是阶跃星辰自研的万亿参数大模型Step-2。Step-2以碾压之势强势杀入LiveBench全球前五一举夺得国内TOP 1。值得一提的是LiveBench是由图灵奖得主Yann LeCun联手Abacus.AI、NYU、英伟达等多家机构推出的LLM评测基准。其含金量不言而喻。而且它被行业誉为「世界上第一个不可玩弄的LLM基准测试」。阶跃星辰创始人、CEO姜大昕博士表示模型扩大到万亿级别时MoE几乎是必选项这是权衡了性能、参数量、训练成本、推理成本等各个维度后的最佳选择。国产4o大模型秒懂国风李子柒2024年11月20日昆仑万维的Skyo基于天工大模型4.0 4o版Skywork 4o打造。实测昆仑万维对话AI「Skyo」会读诗、知晓雷军摆拍2024年11月20日昆仑万维开发的 Skyo 实时语音对话助手Skyo 基于背后的天工大模型 4.0 4o 版Skywork 4o打造美国AI曼哈顿计划793页文件曝光全力研发AGI十大战略直指中国2024年11月20日3名高中生中了AI顶会NeurIPS来自人大附中、北师大实验中学、上海星河湾双语学校2024年11月20日大会一共收到了全球高中生提交的330个项目最终评出4篇获奖论文21篇Spotlight7.5%的中奖率一点不亚于硕士博士的竞争激烈程度。AI版周扒皮打字速度慢、鼠标超30秒未动就被AI「警告」Karpathy下场评论2024年11月24日GAN之父新冠后惊传罹患双重顽疾听力减退心动过速全网求医2024年11月25日除了「GAN」之父的名号他还是「花书」的作者这本书原名就叫做「深度学习」Goodfellow在斯坦福大学计算机科学系读完了本科和硕士师从AI大牛吴恩达。博士生涯就读于加拿大蒙特利尔大学师从Yoshua Bengio和 Aaron CourvilleAI推演OpenAI内斗结果奥特曼仅有20%胜率马斯克也有机会接盘2024年11月25日和梁朝伟同获港科荣誉博士黄仁勋与沈向洋对谈Scaling Law、后训练、机器人和爱情2024年11月25日11 月 23 日香港科技大学举行了今年度的学位颁授典礼。英伟达创始人和 CEO 黄仁勋又新增一个荣誉工程学博士头衔与他一同获得荣誉博士学位的还有著名影星梁朝伟、2013 年诺贝尔化学奖得主 Michael Levitt、菲尔兹奖得主 David Mumford。我们需要后训练也就是深入学习特定技能的过程。后训练涉及强化学习、人类反馈、人工智能反馈、合成数据生成、多路径学习等多种技术。核心在于你开始进入一个特定领域的深度学习试图深入理解其中的某些内容。这就是后训练的过程。一旦你选择了一份职业你会再次进行大量的学习。然后在后续阶段就到了我们所说的「思考」。这可以被称为 test time scaling。在这个阶段有些问题的答案可以直截了当地知道而有些问题则需要你将其分解逐步追溯到第一性原理再从原点出发为每个问题找到解决方案。这可能需要你进行迭代可能需要你分情况讨论模拟不同的结果。博世将裁员5500人汽车行业寒冬来了 2024年11月26日大模型创业太累大牛逃回大厂融资1亿美金捉襟见肘没日没夜加班胖了30斤 2024年11月26日Yi Tay曾是Reka AI联合创始人也曾是谷歌大模型PaLM、UL2、Flan-2、Bard的重要参与者。2024全球无人机市场洞察报告 2024年11月27日微型化、高速长续航化、智能化遗憾不原来百度2017年就研究过Scaling Law连Anthropic CEO灵感都来自百度2024年11月27日Kaplan J, McCandlish S, Henighan T, et al.Scaling laws for neural language models[J]. arXiv preprint arXiv:2001.08361, 2020.百度Hestness J, Narang S, Ardalani N, et al. Deep learning scaling is predictable, empirically[J]. arXiv preprint arXiv:1712.00409, 2017.周鸿祎黑客短剧震撼首秀直接带火纳米搜索搜学写创开启AI搜索3.0时代2024年11月28日11月初ChatGPT正式推出AI搜索体验成为一款搜索引擎11月中奥特曼正式官宣ChatGPT新域名——chat.com据称为此豪掷了1500-2000万美金。我们可以根据其中的「AI含量」将路线简单分为三个阶段——1.0网页搜索引擎、2.0答案生成引擎、3.0多模态创作引擎。拍照问问当AI创造AI就是库兹韦尔「奇点」临近时人类正处于自我改进AI爆炸边缘2024年11月28日男生看见雷军路过直接冲过去递简历结果…2024年11月28日吴恩达出手开源最新Python包助力开发者大模型开发2024年11月29日pip install aisuite统一接口设计支持多个 AI 提供商的模型当前aisuite 支持的提供商包括OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace、Ollama端到端已来智驾仿真测试该怎么做2024年11月29日过去智能驾驶方案一直是按照感知、决策、规划、控制这类规则驱动rule-based的模块化方法推进然而规则驱动的模块化方案存在“规则难以穷举、ODD边界模糊、扩展与维护升级困难”等局限性。因此端到端的学习驱动learning-based方案应运而生。美芯片新禁令下周出台100公司或列入实体清单2024年11月29日深入浅出算法工程师的职业生涯发展之路2024年11月30日夯实技术基础阶段工作1-3年解决业务问题阶段工作4-5年提升软实力阶段工作6-8年扩大影响力阶段