Whether you have an NVIDIA GPU or are running CPU-only, Windows has great options for local AI. Choose your engine to get started.
Step 1 · Pick Your Tool
The best ways to run AI locally on Windows.
The fastest, easiest way to get up and running via command line.
Beautiful graphical interface with a built-in model browser.
Maximum performance and full control for advanced users.
OllamaはWSLなしでWindowsでネイティブに動作するようになりました。5分以内にPowerShellからインストール、モデルのプル、チャットが可能です。
NVIDIA/AMD GPUサポートを使用して、WindowsにLM Studioをインストールおよび設定する方法を学びましょう。美しいチャットインターフェースでGGUFモデルをローカルで実行できます。
CMakeとNVIDIA CUDAツールキットを使用して、WindowsでLlama.cppをソースからコンパイルし、トークン生成速度を最大化する方法を解説します。