对于大模型开发者而言,2025年无疑是充满机遇的一年。继OpenAI前CTO Mira Murati创办的 Thinking Machines推出首款产品 Tinker,标志着 LLM(大型语言模型)微调领域的重大突破。这款基于 API的工具旨在简化 LLM的后训练过程,让开发者能够更专注于训练数据和算法本身,而无需耗费精力在基础设施(Infra)的搭建和维护上。
Tinker的发布,是 Thinking Machines使命的体现,即让更多人能够研究尖端模型并根据自己的需求进行定制。目前,Tinker已经支持了包括 Qwen-235B在内的多种前沿模型,并且承诺从一个小模型切换到大模型就像在 Python代码中更改一个字符串一样简单。这款 API采用了 LoRA技术,能够在多个训练运行之间共享计算资源,从而降低成本。在 Thinking Machines发布的博客中,详细介绍了他们在 LoRA方面的研究进展。
Tinker的核心在于其提供的底层原语,例如 forward_backward和 sample,这些原语可用于表达大多数常见的后训练方法。为了帮助开发者更好地使用 Tinker,Thinking Machines还发布了一个开源库 TinkerCookbook,其中包含了基于 Tinker API运行的后训练方法的现代实现。例如,伊利诺伊大学香槟分校博士生 金博文表示,TinkerCookbook中收录了他们的训练工具 Search-R1,这个工具可以「边推理边搜索」,为模型提供了更强大的推理能力。
普林斯顿大学、斯坦福大学、加州大学伯克利分校和 RedwoodResearch的团队已经在使用 Tinker进行各种实验。普林斯顿大学的 Goedel团队使用 Tinker和 LoRA,仅用 20% 的数据,就实现了与全参数 SFT模型(如 Goedel-ProverV2)相当的性能。斯坦福大学的 Rotskoff化学小组则利用 Tinker对一个模型进行了微调,以完成化学推理任务,将 IUPAC到公式的转换准确率从 15% 提升至 50%。加州大学伯克利分校的 SkyRL小组在一个定制的异步 off-policy强化学习训练 loop 上进行了实验,RedwoodResearch利用 Tinker对 Qwen3-32B在长上下文 AI 控制任务上进行 RL训练,这些案例都展示了 Tinker的通用性,它支持经典的有监督微调和高度实验性的强化学习(RL)pipeline,跨越了广泛的领域。
Tinker目前正面向研究人员和开发人员进行内部测试,并已开放了 waitlist申请。Anyscale公司 CEO Robert Nishihara认为,Tinker提供了卓越的抽象性与可调节性的结合。加州大学伯克利分校计算机科学博士研究生 Tyler Griggs更是指出,使用 Tinker,开发者可以忽略计算,只需对环境、算法和数据负责即可。在定价方面,Thinking Machines表示,Tinker在起步阶段将免费使用,并将在接下来的几周内推出基于使用情况的定价模式。
微调,作为提升 LLM性能的关键手段,正受到越来越多的关注。Karpathy认为,微调的作用在于收窄模型的任务范围,尤其是在拥有大量训练样本的时候。他认为,相比于为大模型设计复杂的 few-shot提示,直接微调一个更小、专门针对某个细分任务的模型,往往效果更好、速度也更快。随着大语言模型在实际生产中的应用越来越多,通过大型管线(pipeline)来实现的趋势也越来越明显。在这些系统中,微调将扮演越来越重要的角色。
Thinking Machines希望通过 Tinker揭开调整世界上最强大的人工智能模型所涉及工作的神秘面纱,让更多人能够探索人工智能的极限。Murati 表示,他们正在让原本只有前沿团队具备的能力惠及所有人,这完全是改变游戏规则的。Tinker的发布,有望加速人工智能领域的技术创新,并推动更多多样化的产品创新。你认为,Tinker这样的工具,会对 AI领域产生怎样的影响?欢迎在评论区留下你的看法!
返回搜狐,查看更多