补全

ICML 2025|如何凭「自动补全」实现100K生成3×加速?

在当前大模型推理愈发复杂的时代,如何快速、高效地产生超长文本,成为了模型部署与优化中的一大核心挑战。随着 GPT-o3, DeepSeek R1 等具备 「超级上下文窗口」 能力的大模型持续刷新业界记录,百万甚至千万 Token 级别的推理任务已从研究话题迈入

补全 token 2025 kv 100k 2025-05-19 17:56  6

谁能破解,成语接龙132期

我看了一下,第一个我填飞蛾扑火,然后扑朔迷离,自然可以想到离心离德,立马反应出是感恩戴德,最后离题什么里呢?

补全 2024-11-30 06:00  16

补全也不失一种求面积的好方法

今天在网上看到网名为“骑着牦牛走天下”的网友用“手拉手”的解题技巧将另一网友“淡泊的饼干”推荐的一道初中数学思维求面积的题。让我突发灵感,用小学数学思维的方式来解此题,那就是补全成为一个完整的正方形。

数学思维 补全 ebd 2024-11-28 00:20  16

聊天补全与文本生成的区别

在今天之前,个人一直认为大模型对话就是文本生成,文本生成就是与大模型对话;但今天看到一个聊天补全的名词,才知道原来聊天补全是聊天补全,文本生成是文本生成。

聊天 prompt 补全 2024-11-27 11:07  17