> ## Documentation Index
> Fetch the complete documentation index at: https://koharu.rs/llms.txt
> Use this file to discover all available pages before exploring further.
# ハードウェアとランタイム
> デバイスの選択、ダウンロード、キャッシュの仕組みを確認します。
Koharu は使用する機能に必要なネイティブライブラリとモデルを取得します。リリース版の実行に CUDA や ROCm の完全な SDK は不要です。
## デバイスの選択
起動時に利用可能なバックエンドから共通の ML デバイスを選びます。Apple シリコンでは Metal、それ以外では対応状況に応じて CUDA、ROCm/HIP、Vulkan、CPU を使います。OS、ドライバー、モデルのバックエンド、公開されたランタイムパッケージがすべて対応している必要があります。
Windows と Linux で CUDA 13.0 を利用できます。Turing 世代以降の GPU と R580
系以降のドライバーが必要です。NVIDIA
の[対応表](https://docs.nvidia.com/datacenter/tesla/drivers/cuda-toolkit-driver-and-architecture-matrix.html)と[ドライバー](https://www.nvidia.com/en-us/drivers/)を確認してください。
ROCm/HIP の対応は GPU、OS、ドライバーの組み合わせで決まります。対応する [AMD
ドライバー](https://www.amd.com/en/support)をインストールしてください。必要な ROCm ランタイムは
Koharu が自動取得します。プラットフォーム要件は AMD
の[互換性表](https://rocm.docs.amd.com/en/docs-10.0.0/compatibility/compatibility-matrix.html)を参照してください。
Apple シリコン搭載 macOS では、対応するローカル推論に Metal を使います。
Windows と Linux では Vulkan も選択肢になります。アクセラレーターを初期化できない場合は CPU
にフォールバックします。CPU 推論に GPU SDK は不要ですが、処理は遅くなります。
キャンバスは組み込み CEF WebView の WebGPU を使います。ML 推論が CPU でも、動作する WebGPU
アダプターとグラフィックスドライバーが必要です。
## 取得されるデータ
| データ | 必要になるタイミング |
| -------------------------------------- | ----------------- |
| Torch、llama.cpp、diffusion、バックエンドのランタイム | 該当ランタイムの初期化時 |
| バージョンを固定したモデルの重み | 選択した処理モデルの初回使用時 |
| ローカル GGUF 量子化ファイル | そのファイルを選択して使用するとき |
パッケージは OS キャッシュ内の `koharu/packages`、プロジェクトは `Documents/Koharu`、設定は `~/.koharu/config.toml` に保存されます。[データの保存先](/ja/reference/data)も参照してください。
ダウンロードは一時領域で準備してからキャッシュへ公開します。中断した場合は次の起動やモデル使用時に再試行できます。
## メモリとモデルの常駐
リソース表示でホストメモリ、計算負荷、モデル常駐を確認できます。モデルは必要時にロードされ、再利用のために残ることがあります。次の段階にメモリが必要になると、未使用モデルを解放できます。
まず中程度の量子化を選んでください。小さいファイルは通常メモリを節約できますが、品質との交換条件があります。ディスクに収まってもデバイスのメモリに収まるとは限りません。
起動に失敗したら配布先への接続とドライバーを確認し、一度再試行します。繰り返す場合は完全なエラーを保存して[トラブルシューティング](/ja/reference/troubleshooting)へ進みます。