大模型三要素： 算力 、算法、 数据数据是模型的“粮食”，数据的丰富性、多样性和准确性直接影响模型的性能。.目前人类可开发的文本数据都被用来训练大模型、已经没有数据用来训练模型啦作为AI产品经理如何开发、新的高质量数据❓.️图像token ：✅视觉数据转换的关键技术.在使用Transformer模型处理视觉任务时，图像需要被转换成一系列的Token，这些token可以被视为对图像的一种表示，类似于在自然语言处理中单词的概念。这一过程通常涉及以下步骤：.1️⃣图像分块分块：首先，将输入图像分割成多个固定大小的小块（例如，16x16像素的块）。这与自然语言处理中将文本分割成单词类似。例子：如果输入图像的大小为224x224像素，并且每个块的大小为16x16像素，那么整个图像将被分割成 224/16×224/16=196 个块。.2️⃣展平和线性投影展平：接着，将每个块展平成一维的向量。继续上面的例子，每个16x16的块会被展平成一个256维（16x16=256）的向量。线性投影：然后，使用一个可训练的线性变换（通常是一个全连接层）将每个展平的向量投影到一个更高维度（例如，将每个256维的向量映射到一个512维的向量）。这样做可以提取和增强图像块中的特征。.3️⃣添加位置嵌入位置信息：由于Transformer模型本身不具备处理序列中元素顺序的能力，因此需要向每个块的表示中添加位置信息。位置嵌入：这通常通过添加位置嵌入（position embeddings）来实现。位置嵌入是可学习的参数，与图像块的特征向量相加，以提供顺序信息。.4️⃣形成Token序列Token化：经过上述步骤后，每个图像块被转换成了一个token，整个图像因此被转换成了一个token序列。这个序列可以被输入到标准的Transformer模型中进行处理。.5️⃣可选的类Token在某些视觉Transformer架构中（如ViT，Vision Transformer），还会添加一个额外的“类token”（类似于BERT中的[CLS] token），用于整合全局信息，这对于分类任务特别有用。#产品经理 #AI产品经理 #大模型 #LLM #token #计算机视觉 #transformer #产品经理入门 #ai产品经理入门 #职场摘要：大模型三要素： 算力 、算法、 数据数据是模型的“粮食”，数据的丰富性、多样性和准确性直接影响模型的性能。.目前人类可开发的文本数据都被用来训练大模型、已经没有数据用来训练模型啦作为AI产品经理如何开发、新的高质量数据❓.️图像token ：✅视觉数据转换的关
来源：莱娜探长
免责声明：本站系转载，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与本站联系，我们将在第一时间删除内容!