OpenAI神秘狠人Bob被扒网友基本锁定OpenAI神秘人
OpenAI内部有个神秘狠人,被同事称为“Bob”,专门负责推理用的高性能CUDA内核开发,每天有成千上万张GPU在跑他写的代码。
而这么关键的内核,整个公司居然只靠他一个人写。
- 前同事表示,自己搞了一周没搞定的问题,Bob几分钟就修好了;
- 内部Slack还专门有“Bob magic”表情包,专供膜拜;
- 员工打趣说他要是去度假,OpenAI就要准备“生死时刻”。
消息传出,连小扎都坐不住了:据说Meta招聘会第一议题就是“Bob到底是谁”。
随着各种蛛丝马迹被翻出,答案逐渐浮出水面:他很可能就是Scott Gray。
Scott从2016年加入OpenAI,长期负责GPU内核优化,还是《GPT-4 Technical Report》和Scaling Laws等多篇重磅论文的作者。
早在2017年,他就在Reddit上详述自己写的CUDA内核如何适配FP16/32计算和P100 GPU,甚至已经涉及attention机制。
他的代表作之一《Block-sparse GPU kernels》正是当前稀疏注意力的底层技术之一,和“Bob内核”的描述几乎一模一样。
网友已经不淡定了:“Scott Gray就是Bob”,这话在评论区出现了不止一次。
考虑到CUDA内核这类基础能力对AI大厂来说几乎是“核武级资产”,Bob本人的隐身战术也不难理解。但一旦被识破,恐怕就藏不住了。
OpenAI前有研究员被Meta连续挖角,这次奥特曼能守住Bob吗?还是说,小扎已经把“CUDA巫师”纳入购物车了?
Jason
中国如果要摆脱英伟达依赖,也应该独立建造一个完全独立于CUDA的软件生态环境。