翁荔创业首作：实时交互模型发布，比GPT快4倍，边聊边干活成真

导语：告别回合制AI！翁荔创业首作TML-Interaction-Small实现边聊边写代码，实时交互能力领先GPT，开启人机协作新范式。

AI不再是回合制，翁荔演示“边聊边写代码”

2026年7月，由OpenAI前CTO Mira Murati创办的Thinking Machines Lab（TML）终于发布其首个模型——TML-Interaction-Small。联合创始人翁荔亲自出镜演示，展示了模型原生支持实时交互的能力：用户说话时，AI同时生成语音回应并输出代码，说完后代码也写完了。这种“边听边说边想”的体验，打破了传统AI对话的“回合制”枷锁。

根据官方测试，该模型响应延迟比GPT-realtime-2.0快4倍，交互质量在用户测评中领先GPT-realtime-2.0，但在纯智力指标上仍不如GPT-realtime-2.0 xhigh模式。

为了打造这一实时交互模型，团队成员在几个月内训练了12个版本，留下了137页的详细训练日志，记录着每一次突破与迭代。

增加人机交互带宽：从“邮件模式”到“流式对话”

真实工作沟通中，人们常会中途改主意、补充条件、纠正误解，而这些需求在传统AI系统中难以实现。如今的AI对话大多像写邮件——用户输入，AI响应，在等待期间AI对用户的新动作一无所知。这种狭窄的交互通道让大量隐性知识、即时判断流失，限制了协作深度。

更棘手的是，回合制AI无法处理精确时间同步的任务，例如“我跑一英里花了多长时间？”或“我写这个函数用了多久？”这些依赖持续感知和即时反馈的场景，在传统框架下几乎无解。

TML的答案是让交互能力成为模型的原生属性，而非外挂模块。他们摈弃了拼接VAD、turn-detection、TTS等组件的做法，认为长期来看，通用能力的扩展会超越这些手工拼凑。于是，TML创造了一种全新的模型架构，让AI在任何模态上都能进行真正的实时交互。

200ms微回合：前台及时响应，后台干重活

TML交互模型的核心机制是将连续音频、视频、文本都切成200ms的“微回合”，让输入和输出在时间上交错进入同一个模型。沉默、重叠说话、用户自我修正、视觉变化都不再是需要外部处理的状态，而是模型可以直接学习和响应的上下文。

该系统采用双模型协同架构：

前台交互模型：持续接收新输入，即时回应追问，维持对话上下文。
后台推理模型：异步运行长推理、工具调用和Agent工作流。当遇到无法即时完成的任务时，前台将完整对话上下文打包给后台，后台计算结果并流式回传，前台再选合适时机插入对话。

这使得模型既具备低延迟的“反射”，又能执行高复杂度的“思考”。

训推一体化：encoder-free early fusion与流式工程优化

模型训练采用encoder-free early fusion策略。与大多数多模态模型独立训练Encoder（如Whisper）或Decoder（如TTS）不同，TML-Interaction-Small使用dMel加轻量Embedding层处理音频，图像切成40×40的patch由hMLP编码，音频输出用flow head解码。所有组件与Transformer从零共同训练，在实时互动语境中端到端优化，避免了模块间的不匹配。

而200ms的快速响应也带来了严峻的工程挑战。每200ms一次请求会产生大量小型prefill和decode操作，传统LLM推理库对此效率极低。TML通过streaming sessions技术解决：客户端仍然按200ms chunk发送请求，服务端将这些chunk追加到GPU内存中的persistent sequence中，避免反复重分配。官方表示相关功能已发布到SGLang开源推理框架。

从120亿美元估值到基础设施，TML的野望

Thinking Machines Lab自成立起便备受关注。Mira Murati离开OpenAI后创办TML，迅速完成约20亿美元种子轮融资，估值达120亿美元。但在很长时间里，外界只知其团队（140人，主要来自Meta、FAIR等）和大量算力合作（与英伟达1GW算力，与谷歌数十亿美元云协议），而产品仅有一个训练基础设施Tinker。

这次交互模型的发布，终于揭开了TML的神秘面纱：它要打造的是下一代人机协作界面。所有的算力、人才储备都指向同一个目标——让AI实时理解并参与人类的工作。斯坦福博士Zitong Yang加入团队后，甚至设想将整个大模型预训练数据重写成智能体轨迹，进一步模糊人与AI的协作边界。

此次发布的TML-Interaction-Small仅为开端，它是一个276B参数、12B激活参数的MoE模型。官方透露，更大规模的实时交互模型正在训练中，计划于今年晚些时候推出。届时，人机协作的带宽或许会被彻底打开。

参考资料：TML官方博客以及 X平台发布