Skip to main content
Koharu は使用する機能に必要なネイティブライブラリとモデルを取得します。リリース版の実行に CUDA や ROCm の完全な SDK は不要です。

デバイスの選択

起動時に利用可能なバックエンドから共通の ML デバイスを選びます。Apple シリコンでは Metal、それ以外では対応状況に応じて CUDA、ROCm/HIP、Vulkan、CPU を使います。OS、ドライバー、モデルのバックエンド、公開されたランタイムパッケージがすべて対応している必要があります。
Windows と Linux で CUDA 13.0 を利用できます。Turing 世代以降の GPU と R580 系以降のドライバーが必要です。NVIDIA の対応表ドライバーを確認してください。
キャンバスは組み込み CEF WebView の WebGPU を使います。ML 推論が CPU でも、動作する WebGPU アダプターとグラフィックスドライバーが必要です。

取得されるデータ

パッケージは OS キャッシュ内の koharu/packages、プロジェクトは Documents/Koharu、設定は ~/.koharu/config.toml に保存されます。データの保存先も参照してください。 ダウンロードは一時領域で準備してからキャッシュへ公開します。中断した場合は次の起動やモデル使用時に再試行できます。

メモリとモデルの常駐

リソース表示でホストメモリ、計算負荷、モデル常駐を確認できます。モデルは必要時にロードされ、再利用のために残ることがあります。次の段階にメモリが必要になると、未使用モデルを解放できます。 まず中程度の量子化を選んでください。小さいファイルは通常メモリを節約できますが、品質との交換条件があります。ディスクに収まってもデバイスのメモリに収まるとは限りません。 起動に失敗したら配布先への接続とドライバーを確認し、一度再試行します。繰り返す場合は完全なエラーを保存してトラブルシューティングへ進みます。