客服热线:+86 +86 139 8781 2709

  • 首页
  • 单篇博客

10月15日,年仅17岁的陈广宇在社交平台X上发文,称自己近期已从月之暗面Kimi团队离职。

他并未透露离职缘由或下一步计划,仅向同事及当初愿意聘用一名16岁少年的团队表达了谢意。他表示,过去一年是自己迄今为止人生中最美好的时光。

不过,从他离职后的社交动态来看,其未来动向已有迹可循。

Anthropic核心研究员Sholto Douglas在评论区向他表示祝贺,询问他原本前往卡内基梅隆大学(CMU)的计划是否照旧,并邀请他前往旧金山,与Prime、Base10等团队共事。陈广宇回复道:“谢谢Sholto!我正要去海湾区。”

Kimi团队研究者、论文共同作者Yulun Du则写道,他曾就陈广宇的决定与其进行过多次深入交流。看到他离开“很难过,也很令人心碎”,但在这个年纪,尽可能去探索并追随新的好奇心,或许是对他最好的选择。

2025年11月,16岁的陈广宇以实习生身份加入Kimi。不到一年后,他与张宇、苏剑林共同署名的Attention Residuals已被纳入Kimi K3的架构。

外界记住了这位17岁的共同一作,而Kimi留下的则是一项被嵌入模型“地基”的技术。他工牌上的经历虽短,但在模型中的印记已然留存。

一条技术帖,敲开两家AI公司

陈广宇的起点,与“天才少年”这一标签相去甚远。

他出生于2009年,没有奥赛金牌,没有跳级经历,也并非从小就开始写代码。2024年4月,当时读高一的他做出一个决定:暂停所有自己不喜欢的事。

他在博客中回忆,那段时间只想专注于计算机和人工智能。他学习大模型的方法,是将下载的论文上传给Gemini,然后反复提问。他在博客中将Gemini称为“导师”。

2025年5月,他在网上分享了一篇关于DeltaNet的技术博客,获得了DeltaNet关键贡献者之一杨松琳的回复。杨松琳当时正在麻省理工学院读博,同时也是线性注意力开源社区FLA的发起者。

通过这次互动,帖子被更多人看到,其中就包括美国AI初创公司Tilde Research的CEO。对方主动联系陈广宇通话,向他介绍了公司正在进行的项目。

据报道,陈广宇当时并未立即加入。他继续阅读论文、编写代码,直到能够编写自定义的GPU计算内核并将其用于训练后,才去应聘。

那年7月,他独自前往加州帕洛阿尔托,开始了为期七周的实习。陈广宇后来回忆,自己每天在办公室待15个小时,与其他研究人员共同参与了内存优化混合专家模型MoMoE项目。

硅谷实习结束后,陈广宇收到了月之暗面的邀约。2025年11月,他加入Kimi团队,继续从事模型架构研究。

今年1月,他在社交平台写下一段插曲:自己正与张宇研究一项令人兴奋的模型架构改进时,母亲打来电话祝他生日快乐,他才意识到自己已经17岁了。

两个月后,AttnRes论文发布当天,硅谷半个AI圈被轰动。

OpenAI联合创始人Andrej Karpathy评价称,看来人们还没完全理解“Attention is All You Need”这句话的字面含义。特斯拉CEO马斯克在评论区留下一句“Impressive work from Kimi”。

出圈之后,陈广宇在接受媒体采访时反复强调“不要造神”,希望外界关注的是团队共同完成的研究及其试图解决的底层难题。

共同“一作”的分量

AttnRes最初的想法和小规模实验由苏剑林提出。在看到初步结果后,张宇和陈广宇加入,并在更大规模的模型上继续验证。

训练团队经过核算后认为,该方案在当时训练环境下尚不可行。苏剑林在复盘时用了一个直白的说法:“说白了还是穷。”

要理解他们遇到的困难,可以将模型的多层计算想象成一群接力做题的人。每个人完成一轮处理后,都要将结果传递给下一个人。

传统残差连接的做法,是将前面各层产生的信息不断累加。后面的人拿到的是合并后的结果,难以单独提取某一层的信息。

这类似于每个人都往同一份合并笔记中添加内容,却没有保留一份可供随时查阅的逐层记录。层数越多,累加的信息越多,一些有用的早期信息也可能被稀释。

AttnRes改变了这种做法:让后面的层能够参考前面各层的输出,并根据当前需要决定侧重哪些信息。就像做题时能回头翻看不同人的笔记,找到所需的部分。

麻烦也随之而来。要随时查阅这些“笔记”,训练系统就必须保存更多中间结果,并在不同设备之间传输。新方法在小规模实验中有效,但大规模训练时还需处理显存和通信开销。

随后,陈广宇与张宇共同提出了Block AttnRes,即分块注意力残差。 他们将上百层网络划分为多个区块,区块内维持低成本的基础累加,仅在区块间进行精细的注意力聚合,从而将显存复杂度从层数级降至块数量级。

实验显示,仅分成约8个块,就能恢复全量版本绝大部分性能,端到端推理延迟增量控制在2%以内。

Kimi团队在480亿参数的Kimi Linear架构上,使用1.4万亿token进行实测,AttnRes达到相同效果仅需基准模型约80%的算力。在GPQA-Diamond上提升7.5分,Minerva Math提升3.6分,HumanEval提升3.1分。

2026年7月发布的Kimi K3总参数达2.8万亿,是全球首个开放权重的3T级模型,AttnRes正是支撑其的底座技术之一。

陈广宇参与的另一项工作,是加速KDA的计算内核。

KDA是K3采用的一种线性注意力机制,在处理长上下文时能降低部分计算和存储开销。陈广宇在离职帖中提到,自己与张宇优化过其内核,并尝试了各种可能的设计。

陈广宇离职前一个月,Kimi公布了新一轮全球人才招募。

9月9日,Kimi宣布招募7名无法被常规岗位描述定义的“Wild Card”人才,同时推出“穿越计划”。该计划面向校招生和实习生,不限专业、不限实习年级,也不将学历和资历作为主要门槛,优秀者有机会获得期权。

这套招聘逻辑与陈广宇的经历高度相似:先找到一个人,再决定他能解决什么问题;先看上限,再补齐岗位名称。

但这套机制也有代价。

非典型人才往往需要更高密度的交流、更快的反馈以及更大的试错空间。他们可能不适应标准化的汇报线,也不一定愿意沿着传统职业路径留下。公司能否提供真实问题、充足算力、清晰的贡献归属以及长期的选择空间,决定了这类人才最终会成为组织能力,还是仅留下一个短暂的故事。

他在离职帖最后写道:“还有更多事情值得探索。”

本文来自微信公众号“数智奔流”,作者:熵野,36氪经授权发布。

Kimi少了一个天才少年 - 手游排行榜

想了解更多提供游戏交流专区,支持用户分享经验、组队开黑、互助答疑。相关内容,尽在九游游戏盒。

在九游游戏盒,您可以查看每日更新的手游排行榜,阅读其他玩家的真实评价,参与热门话题讨论。无论是组队开黑还是互助答疑,这里都有志同道合的伙伴。我们致力于提供实用的玩法指导,帮助新手玩家快速上手,享受游戏乐趣。

玩家热议

王者荣耀大神

2026年9月28日

回复

2026年9月30日,九游游戏盒社区发布《王者荣耀》S36赛季上分攻略,详细解析新英雄技能连招与装备搭配,帮助玩家快速适应版本变化,冲击王者段位。

和平精英老手

2026年10月2日

回复

深圳市南山区科技园北区411座

原神攻略达人

2026年10月5日

回复

2026年10月6日,《原神》5.2版本角色强度排行榜在九游游戏盒更新,结合深渊实战数据与玩家反馈,给出抽取建议与配队方案,受到广泛好评。

发表你的观点

关于我们

九游游戏盒以汇聚海量玩法心得与热门话题讨论,新手玩家也能快速上手。为核心,带来高效便捷的体验。 - 首席执行官与创始人

九游游戏盒围绕基于用户行为与偏好,智能推荐符合个人兴趣的游戏内容。不断创新,回应用户的真实需求。

分类

想了解更多提供游戏交流专区,支持用户分享经验、组队开黑、互助答疑。相关内容,尽在九游游戏盒。

精选严格审核社区内容,营造健康、友善的玩家互动环境。内容,九游游戏盒与你一同发现更多精彩。

九游游戏盒专注九游游戏盒,为用户提供专业可靠的体验。

围绕手游排行榜,九游游戏盒持续打磨更优质的服务。

九游游戏盒深耕玩家交流领域,用心服务每一位用户。

新闻通讯

粤ICP备2022859813号
九游游戏盒科技有限公司让美好如期而至电话:+86 139 8781 2709邮箱:[email protected]深圳市南山区科技园北区411座