摘要：在人工智能领域，除了知名的 ChatGPT 和 Gemini，还有其他参与者如 Perplexity、Claude、Grok 和 Mistral。越来越多的 AI 模型可以在无互联网连接的情况下运行，这些被称为本地 AI 模型。它们的主要优点是增强的隐私性，用
在人工智能领域，除了知名的 ChatGPT 和 Gemini，还有其他参与者如 Perplexity、Claude、Grok 和 Mistral。越来越多的 AI 模型可以在无互联网连接的情况下运行，这些被称为本地 AI 模型。它们的主要优点是增强的隐私性，用户可以处理敏感信息而无需担心大型科技公司的监视。为了支持本地 AI 模型的运行，强大的硬件配置是必不可少的。作者设计了一台紧凑但强大的游戏 PC，其总成本为 $4,240，配备高端组件。尽管如此，一些较小的 AI 模型在普通笔记本电脑上也能表现良好，未来模型的效率可能提高，允许在更低配置硬件上运行。
在讨论人工智能（AI）时，人们常常会想到 ChatGPT 和 Gemini。然而，在这个不断扩大的市场中，还有其他几个参与者，包括 Perplexity、Claude、Grok 和 Mistral。如今可用的许多 AI 模型甚至可以在没有互联网连接的情况下运行，使它们变得越来越可及。
无需互联网连接运行的模型被称为本地 AI 模型。顾名思义，这些模型可以在您自己的硬件上执行，无需连接到 OpenAI 或 Google 等公司的服务器。这种设置既有优点也有缺点。主要的好处是增强的隐私性。使用本地 AI，用户可以分析敏感文档或提出尴尬问题，而无需担心大科技公司的监视。此外，这些模型几乎是无限的；只要有电源，您可以继续查询，直到达到内存限制。
在我追求在最小可行硬件内创建最强大个人计算机的过程中，我本可以选择更大的服务器主板，以支持显著更多的 RAM。然而，我认为大多数人不会在家中或小型企业中以这种方式使用 AI。因此，我设计了一台紧凑但强大的游戏 PC。以下是规格及其大致零售价值：
AMD Ryzen 9 9950X3D（$660）Nvidia RTX 5090（$2,400）MSI MPG B650I Edge Wi-Fi 主板（$290）64GB Crucial Pro DDR5 RAM（$140）2x 1TB Crucial Gen5 NVMe 固态硬盘（每个 $150）Corsair SF1000 电源（$270）Fractal Design Terra 10.4 升机箱（$180）总成本为 $4,240，这台设备相当昂贵。然而，要有效地支持一些本地 AI 模型，强大的硬件配置是必不可少的。值得注意的是，并非所有 AI 模型都需要如此高端的组件；有一些较小的模型在相对强大的笔记本电脑上表现出色，例如 OpenAI 的新 GPT-OSS，它作为 ChatGPT 的本地版本。我预计，在未来，即使是最强大的模型也将变得更加高效，可能使得一个耗电的 DeepSeek R1 版本在 2025 年能够在更低配置的硬件上运行，到了 2027 年。
来源：老孙科技前沿