在当今大模型领域，Transformer架构占据着主导地位。然而，尽管Transformer非常强大，但它的计算需求随着文本长度呈平方级增长，这导致运行成本高昂，同时限制了其扩展能力。

transformer rnn 黑天鹅 attention 2025-03-25 17:58  3

Deepseek-r1模型的迅速走红，显著提升了本地部署大型语言模型的需求。本文旨在深入探讨如何优化本地部署大型模型的性能，并结合我们的实际操作经验进行评测与分析。在文章的结尾部分，我们将详细分享如何在本地高效部署功能完备的Deepseek-r1大型模型。

模型 策略 deepseek attention promp 2025-03-24 10:39  2

在 ChatGPT 爆火两年多的时间里，大语言模型的上下文窗口长度基准线被拉升，以此为基础所构建的长 CoT 推理、多 Agent 协作等类型的高级应用也逐渐增多。

a apb attention flashattention 2025-03-12 11:26  5

在 ChatGPT 爆火两年多的时间里，大语言模型的上下文窗口长度基准线被拉升，以此为基础所构建的长 CoT 推理、多 Agent 协作等类型的高级应用也逐渐增多。

flash apb attention flashatten 2025-03-12 10:21  5

注意力是学习和生活的重要能力，它影响着我们的生活中的方方面面，如学业表现、社交能力以及日常生活等。然而，许多青少年和家长会发现，注意力似乎“越来越差”，尤其是在需要集中精力的学习任务上，有的孩子表现出难以集中、容易分心、冲动行为等问题。甚至有些孩子可能被诊断为

adhd 青春 幼儿 注意力缺陷 attention 2025-03-11 21:13  5

MiniMax 在今年 1 月发布了参数为 4560 亿的开源大模型 MiniMax-01，该模型就用到了他们开发的线性注意力机制 “Lightning Attention”。

训练 模态 transformer attention 闫俊 2025-03-09 20:23  5

2025年2月21日，全球开发者大会（Global Developers Conference, GDC） 在上海线下盛大召开。本次大会聚焦人工智能技术的最新突破，围绕算法与算力 两大核心议题展开深入探讨，展示了AI技术如何驱动产业升级与场景落地的最新成果。

模态 算法 gdc 商汤 attention 2025-03-09 20:48  4

有一种叫做「注意残余」（attention residue）的概念，指的是当大脑突然被他人搭话等干扰打断后，生产力会持续下降一段时间的状态。它不仅适用于编程场景，还能泛指所有脑力劳动领域，真希望这个概念能更加普及开来呢。

残余 attention attentionresidue 2025-02-03 17:51  6

In this English lesson, I'd like to help you learn five English phrases, and each of those phrases will have the word attention in

english bob attention 2025-02-03 15:31  7

import torchimport torch.nn as nnimport torch.nn.functional as Ffrom transformer.Models import Transformer, get_pad_mask, get_subs

beam attention beamsearch 2025-01-23 10:38  8

新年第一天，陈天奇团队的FlashInfer论文出炉！块稀疏、可组合、可定制、负载均衡......更快的LLM推理技术细节全公开。

attention 陈天 flashinfer 2025-01-24 09:59  8

新年第一天，陈天奇团队的FlashInfer论文出炉！块稀疏、可组合、可定制、负载均衡......更快的LLM推理技术细节全公开。

cache attention 陈天 2025-01-24 09:35  8

#新说唱2025冬招纳新直播# 🔉Attention！#新说唱2025城市导演见面会# 开启冬招纳新直播，12月26日-12月28日每天13:50，R总准时上线，直击成都见面会现场，第一时间带各位Homie围观选手和探班嘉宾，请各位定好闹钟，精彩不容错过！#

直播 说唱 attention 2024-12-25 20:00  11