Lokale KI: Nemotron 70B auf vier Mac minis M4 Pro mit Thunderbolt-5-Interconnect

Exolabs, das sich auf lokale KI spezialisiert hat, zeigt, wie man aus vier Kompakt-Macs ein großes LLM bauen kann. Es läuft Nemotron 70B – und bald Llama 405B.