开yun体育网齐可能形成 Agent 完成一个任务时调用的器具-开运网地址(官方)网站/网页版登录入口/手机版
从本年 4 月启动，Mac mini 就渐渐成为「AI PC」的代名词。
Mac mini 除了被个东说念主消费者疯抢，在企业市集通常供不应求，就连 OpenAI 齐要买上数万台 Mac mini 和 Mac Studio 来进行模子的磨练，Anthropic 也在亚马逊 AWS 上租借大齐的 Mac 做事器。
AI PC 的竞争，也启动从「能不成跑模子」，转向「能不成耐久让 Agent 在这台电脑上职责」。
LM Studio Bionic、修复端模子、AI 智能体、exo 集群齐成了 Mac mini 的主打。苹果以至胜利把新 Mac mini 刻画为一台不错「全天候」运行智能体的桌面电脑。
6999 元起，16+256 的 M6 芯片，一台最低配的 Mac mini 得手，你会拿它作念点什么。
APPSO 也拿到了一台 M5 Pro 的 48GB + 2T 的新 Mac mini，这台 Mac mini得手需要 25749 元，或者免息分期 24 个月，每个月 1073 元。
说真话，这小数齐不 Mini。
但淌若看这一年的 PC 市集，简直总计主打 AI PC 的电脑，齐在讲挽回内存，齐在讲算力，Windows 哪里有 AMD 和英伟达，启动把一些高性能的算力芯片下放到札记本电脑上，而不是一味地在追求 5090 显卡等。
对比同参数级别的电脑体积，又会认为这个放在桌子上，小小的，简直是不占据太多场所的小盒子，是真的很 Mini。
运行专科软件自然照旧高性能 Mac 最擅长的事情，但当今 AI 启动成为调用这些材干的新进口。
写代码不再仅仅翻开 Xcode 我方敲；处理几十份良友，也不一定需要一个个翻开文献；Blender、裁剪软件、结尾和腹地模子，齐可能形成 Agent 完成一个任务时调用的器具。
而与 AI 更胜利关连的，还有视频裁剪软件里 AI 的画质擢升、相片和视频中的 AI 增强；以及咱们齐想通过一台电脑，就打造的个东说念主智能结尾。
咱们手里这台 25000 元多的 Mac mini，大略率不会是平素消费者的选拔。搭载 M6 芯片，16GB+256GB 的版块可能才是大多数东说念主会脱手的 Mac mini。
更高的建立不错让 Mac mini 领有腹地部署大模子的材干，但即便不拿它部署大模子，一台 6999 的 Mac mini 也会是当下合适给 Agent 使用的电脑，因为它很好地为 AI 提供了一个不错捏续职责的场所。
就像 APPSO 之前说的，新 Mac mini 是一台为 AI 造的电脑，那咱们此次重心望望它是否更好地为 AI 提供了一个捏续职责的场所。
能装下 270 亿参数的 AI
M6 看起来领有这一代最完竣的 AI 建立：12 核 GPU 的每一个中枢齐有 Neural Accelerator，同期还有双 16 核 Neural Engine。左证官方的对比透露，比较 M4 Mac mini，M6 Mac mini 的 AI 性能最高擢升 4 倍。
但淌若咱们真的想要在电脑上运行大模子，另外两个时常被拿起的数字可能愈加蹙迫：内存容量和内存带宽。
M6 Mac mini 最高只须 32GB 挽回内存，带宽最高 170GB/s；M5 Pro 则不错来到 64GB 和 307GB/s。
跟着开源模子的材干渐渐靠拢 Fable 5、GPT-5.6 Sol 这类顶尖模子，开源执行室也启动推出从 10 亿参数到进步 700 亿参数的大模子，腹地化 AI 形成 AI PC 的主打。
咱们准备了几个不同体量的量化模子，从约莫 8B、14B，一齐增多到 30B 级别，再延续挑战接近机器内存极限的模子。
每个模子齐推论并吞组任务：给它一份长度固定的良友，条目阅读、追忆、回答问题，再进行几轮连气儿追问。
记载模子载入期间、Time to First Token、Prompt Processing、Generation Speed，以及通盘经过中占用了几许挽回内存。
一启动先是用了 GPT 的 20B 开源模子，然后问一下它是什么模子，这一轮对话就处理了 72 个输入 Token，生成了 178 个输出 Token，整轮恳求耗时约 3.64 秒，平均生成速率为 55.66 Token/秒。
延续测试千问的 Qwen3.8 27B 参数，量化到 4 比特的模子，能看到恢复的速率照旧很快，总用时 2.9s，生成的速率是 41.64 token/s。
当输入一份超长的文档时，咱们发了 Attention is all you need 那篇论文给它，不错看到最终的处理速率也有 32 token/s，关于一个 27B 的腹地大模子来说，Mac mini 的速率基本上是不错秉承的。
再往上，更大的模子，是 Meta 最新的灵通模子，300 亿参数，专为永远在线的腹地智能体打造。通常的论文追忆任务，能看到跟着模子参数变多，Mac mini 的读入速率和生成速率齐有变化，尤其是读入的速率从 473 token/s 降到了 只须 32 token/s。
而迎濒临 70B 的 Llama 3.1 模子时，自然也能跑，但咱们仅仅发了一句你好，总用时 2 分钟 48 秒，平均生成速率是 0.05 Token/s。
对腹地大模子来说，除了不同参数目和量化的区别，针对 Mac 还有 GGUF 和 MLX 两种阶梯。
比如，并吞个 Qwen 模子不错分袂制作成 GGUF 版块和 MLX 版块。它们不错来自并吞个模子，区别在于若何保存参数、若何量化，以及用什么引擎运行。
GGUF 是模子文献形势，MLX 是苹果斥地的机器学习框架。GGUF 阶梯的主要本性是复旧多种硬件，跨平台使用浅易，而 MLX 则是围绕 Apple Silicon 策画，愚弄挽回内存架构。
图｜mlx-framework.org
不外，自然MLX 围绕苹果芯片策画，但具体哪个更快、更省内存，要看模子和运行时版块。
总的来说，关于一个 48GB 运行内存的 M5 Pro Mac mini，清脆区即是 200 亿到 300 亿参数近邻的大模子，也不错试试 330 亿参数的 MiniMax H3，用来作念视频生成。
打造我方的智能体
2026 年的今天，一台「AI PC」的性能淌若通过「能跑 AI来体现」，彰着有些不够了。
LM Studio Bionic 即是其中一个很典型的例子。它并不是单纯再作念一个腹地模子客户端，而是让模子得到读取名堂文献、运行敕令、修改代码和连气儿推论多步任务的材干。
在 LM Studio Bionic 内，咱们不错胜利使用腹地模子，也不错在处理较重负务时切换到云表的付费开源模子。
其实咱们手上的电脑，到底能安设多大的大言语模子，在 LM Studio Bionic 内就能胜利看到。
在应用内，咱们不错胜利勾选「仅包括在已知修复上可运行的精选模子」，它会主动识别到修复的可用内存，以及针对每个模子，会透露「Full GPU Offload Possible」或「Likely too large」等指示。
接下来咱们准备让 Mac mini 的确干活。给 Agent 一个装有二三十份良友的文献夹，其中包括 PDF、Markdown、表格和此前整理的商议良友，望望如斯繁多的落魄文，它还能不成处理好。
最近还有 Computer Use 比较火，咱们也让它操作 Blender 作念了一个 3D 模子。不外 LM Studio Bionic 莫得使用 Computer Use 的形态，而是胜利用的 Blender 内置 Python API 进行操作。
临了，也让它愚弄这个生成的 3D 模子，搭建了一个果味的营销网页。
而用于视频生成的 330 亿参数 MiniMax H3 模子，官方 HuggingFace 的文献是有 498G。
咱们在 LM Studio Bionic 内找到了第三方经过压缩后的 MiniMax H3 模子，但 LM Studio 的内置推理引擎，主要复旧言语模子及部分视觉贯穿模子。
延续使用成心的开源模子视频生成平台 ComfyUI，咱们胜利使用已有的 MiniMax H3 职责流。实测下来，视频生成的压力照旧很大，Mac mini 俄顷变烫了不少，里面的电扇动弹声息也愈加彰着。
临了的成果是，一个 15s 的视频，Mac mini 跑了快要 90 分钟之后才生成，而将时长切换到 5s，用时 18分钟就能得到一段视频。
是以淌若仅仅把 Mac mini 当老腹地大模子和 Agent 主机，它还是极度够用；但淌若但愿它同期承担大型视频生成、磨练这类重型 AI 筹谋，它的定位很彰着不是一个单纯的高性能 GPU 职责站。
一种新的电脑用法：Agent 做事器
对大多数东说念主来说，在我方的电脑上跑一个尽可能大的模子，自己也并不是刚需。
此次体验下来，咱们反而认为更值得贵重的是：当 Agent 启动的确接办写代码、整理文献、剪视频、作念 3D 这些职责之后，咱们使用电脑的形态也在发生变化。
畴昔电脑的性能简直齐做事于坐在它眼前的东说念主；当今，并吞台电脑启动需要同期做事几个在后台职责的 Agent。
在性能和建立除外，这台 Mac mini 让咱们感兴趣的场所，依旧来自它的形态和苹果生态，它莫得电板，不需要带外出，体积又敷裕小，通过竭力还能让我的 MacBook Air 四肢念它的键盘和触控板。
这让它自然就合适一件札记本不太合适耐久作念的事：一直开着。
更高配的 M5 Pro 还领有 Thunderbolt 5，不错集会多台 Mac mini 构成集群，在修复端运行大型 AI 模子。
于是，咱们尝试把它作为一个 Codex 的 Agent 做事器，让那本蓝本 Mac mini 擅长的任务，当今以长途的形态，通过 Codex 来完成。
咱们这台 Mac mini，其超大的内存和带宽，简直在处理多样复杂的电脑任务时，齐不会有卡顿的情况。
在莫得 AI 之前，48GB 的挽回内存相等合适用来作念斥地，尤其是用「一台机器处理一整套斥地环境」。
举例使用苹果斥地者的 Xcode 来编译大型工程，以至是安卓斥地的 Android Studio + iOS Simulator + Docker +IDE，再加上浏览器几十上百个标签页沿途翻开。
其次是创意分娩的职责，比如使用 Final Cut Pro、DaVinci Resolve 达芬奇，裁剪 4K/6K/8K、多机位、ProRes RAW，叠许多殊效、降噪、调色节点的视频。
再同期处理大型照相/平面策画职责流，用 Lightroom 批量处理几千张 RAW，翻开 Photoshop 作念几十层以至上百层的大尺寸 PSD/PSB。
还有 3D 制作、音乐创作等，几百轨工程、大型场景的多高分辨率贴图、粒子，齐需要大齐的挽回内存。
而 M5 Pro 自带 H.264、HEVC、ProRes、ProRes RAW 的硬件编解码引擎、硬件光追等材干，简直在这块市集是完胜。
自然并非单个关节就需要 48GB，但当今咱们不错让这一大堆的任务，全部让 AI 同期进行。
咱们莫得让 Codex 去操作 Xcode 作念一个平素的 App，而是让它尽可能同期处理 Xcode 工程科罚、SwiftUI、数据库、文献系统、多线程等等复杂的任务，条目它完毕一个「原生 Apple 全家桶素材科罚器。」
与此同期，咱们还能在手机落魄敕令，「我电脑上的某个文献夹里有约莫 100GB 的 4K 视频、相片和灌音素材；请你帮我把它们整理并制作成一支 3～5 分钟的 4K 视频。你不错通过 Computer Use 使用电脑上的 Final Cut Pro 或者达芬奇进行处理。」
另一边，它又能延续处理「造一个大型 Blender 名堂，再我方渲染。」咱们仅仅在 Codex 里说了一句话，Mac mini 就能我方翻开 Blender，建了一座城市，又把它渲染成了视频。
48GB 在这个大型 3D 名堂下，要处理的大型 Geometry Nodes、纹理和 Cycles scene 等实质，就启动的确有预见。它需要给这些耐久驻留、同期职责的 Agent 留出空间。
更好的情况是，当四个 AI Agent 齐在替我干活，咱们依然能正常使用这台电脑。
畴昔咱们揣度一台电脑的多任务材干，看的是它能同期翻开几许软件；浏览器、Photoshop、Xcode、裁剪软件沿途在后台使用，电脑还能不成保捏通顺。
但到了 Agent 时间，「多任务」正在形成另一件事。
一个 Codex Agent 在 Xcode 里写 App，一个在后台编译 Chromium 内核，一个处理 100GB 数据，另一个抵制 Blender 建模和渲染。与此同期，轻量化的腹地模子还不错常驻内存，恭候随时调用。
Mac mini 作为 Agent 主机的「的确落地」，并不是说用它来运行某一个 Agent，就要奢华掉 48GB，更多地是畴昔一台电脑可能同期有四五个 Agent 在后台替咱们职责，传统 PC 的「多任务」正在形成「多 Agent」。
Mac mini 这种无须带走、不错全天候运行、又领有敷裕内存和算力的小盒子开yun体育网，可能是最早安妥这种变化的 PC 形态之一。