点击上方“Deephub Imba”,关注公众号,好文章不错过 !生产环境中真正烧钱、拖慢体验的环节不是训练、是推理。自回归的方式一次只产出一个 token，每个 token 都要完整走一遍模型所有层的前向传播。70B 参数的模型在 H100 上运行 ...

在业务数据方面，OpenAI 披露 ChatGPT 目前每周活跃用户接近 9 亿，付费订阅用户超过 5000 万，月活跃用户数量预计即将突破 10 亿。公司月收入已达 20 亿美元，企业业务占总收入比例超过 40%。

IT之家 3 月 19 日消息，OpenAI 计划收购为开发者打造 Python 工具的初创公司 Astral，这是这家 ChatGPT 开发商在快速增长的代码与开发者服务市场中最新的一笔投资。 OpenAI 当地时间周四表示，该交易尚未完成，届时 Astral 团队将加入 OpenAI 的 Codex 项目。该公司称，Codex ...

据 OpenAIDevs 在 X 表示，OpenAI 推出 Codex Security，这是一款应用安全代理，可在代码库中发现漏洞、验证可利用性并给出可审核的修复建议，帮助团队聚焦高优先级问题并加速发布。据 OpenAI 官方博客报道，该工具处于研究预览阶段，面向开发者工作流集成，旨在 ...