AI 这一类可以分成两半,分清楚很重要:一半是自己跑模型的 —— LLM 推理与微调工具、机器学习框架;另一半是用模型能力的 —— AI 聊天客户端、Agent 框架、AI 编程助手、AI 图像工具、语音转文字、AI 语音工具、第二大脑与知识库、MCP 连接器。
前者要显卡、要显存、要自己下模型权重,装完还得配环境;后者多数填一个 API Key 就能用,门槛低得多。同一个需求走哪条路,取决于你愿不愿意在本地跑推理。
只想让 AI 帮忙干活,从「AI 聊天客户端/助手」和「AI 编程助手」看起;想在自己机器上跑模型,看「LLM 推理/微调工具」,先确认显存要求和量化方案;想让 AI 接上你自己的文件和数据,看「MCP 连接器」和「第二大脑/知识库」。