Skip to main content
Koharu は使用する機能に必要なネイティブライブラリとモデルを取得します。リリース版の実行に CUDA や ROCm の完全な SDK は不要です。

​
デバイスの選択

起動時に利用可能なバックエンドから共通の ML デバイスを選びます。Apple シリコンでは Metal、それ以外では対応状況に応じて CUDA、ROCm/HIP、Vulkan、CPU を使います。デバイスは Torch、llama.cpp、diffusion のすべてのランタイムがそのデバイス向けのパッケージを公開している場合にだけ選ばれるため、OS、ドライバー、モデルのバックエンドがすべて対応している必要があります。
Windows と Linux で CUDA 13.3 を利用できます。Koharu が CUDA デバイスを選ぶのは、ドライバーが CUDA 13.3 以降を報告し、GPU の compute capability が 7.5 以降の場合だけです。つまり Turing 世代以降の GPU と R610 系以降のドライバーが必要です。NVIDIA の対応表とドライバーを確認してください。
キャンバスは組み込み CEF WebView の WebGPU を使います。ML 推論が CPU でも、動作する WebGPU アダプターとグラフィックスドライバーが必要です。

​
取得されるデータ

パッケージは macOS と Linux では OS キャッシュ内の koharu/packages、Windows では Koharu のインストールディレクトリ内の store ディレクトリに保存されます。プロジェクトは Documents/Koharu、設定は ~/.koharu/config.toml に保存されます。データの保存先も参照してください。 ダウンロードは一時領域で準備してからキャッシュへ公開します。中断した場合は次の起動やモデル使用時に再試行できます。

​
メモリとモデルの常駐

ページ一覧の下部にあるリソース表示で、プロセスとシステムのメモリ、CPU 使用率、選択したデバイスの使用率とメモリを確認できます。モデルは初回使用時にロードされ、後続の段階でも使えるようロードされたままになります。段階がメモリ不足で失敗すると、Koharu は他の段階のモデルをアンロードしてその段階を一度だけ再試行します。設定を保存するとモデルはアンロードされ、次の実行時に再ロードされます。 まず中程度の量子化を選んでください。小さいファイルは通常メモリを節約できますが、品質との交換条件があります。ディスクに収まってもデバイスのメモリに収まるとは限りません。 起動に失敗したら配布先への接続とドライバーを確認し、一度再試行します。繰り返す場合は完全なエラーを保存してトラブルシューティングへ進みます。