广东省自然资源厅地址电话_个人网站备案备注怎么写_网站收录优化_章鱼磁力链接引擎

大型语言模型中的测试时缩放：一份综合调查

目录

• 简介
• 理解测试时缩放
• 缩放什么
• 如何缩放
• 在哪里缩放
• 缩放得有多好
• 测试时缩放的演变
• 实用部署指南
• 未来方向
• 结论

简介

大型语言模型（LLM）传统上通过预训练缩放进行改进，包括增加模型参数、训练数据和计算资源。然而，目前正在向测试时缩放（TTS）发生重大转变——在推理期间分配额外的计算资源，以最大化模型性能，而无需更改模型参数。

Qiyuan Zhang 等人撰写的论文“What, How, Where, and How Well? A Survey on Test-Time Scaling in Large Language Models”提供了第一个全面的框架，用于理解和组织 LLM 测试时缩放方法快速发展的格局。