LOCALLM 2025.12.04

「RTX 4060 Ti 8GBで日本語LLMを動かしたい」
そんな野望を抱え、私はDocker環境構築に着手しました。まさかこれが、Windowsとの壮絶な戦いの始まりになるとは。
目的: Japanese-stablelm-instruct-gamma-7bを4-bit量子化し、DockerでAPI化
環境: Windows 11 + WSL2 + Docker
理想: 手軽な開発環境から本格的なLLM推論まで
しかし、理想と現実の間には深い溝が待ち受けていました。
「Windows上でLinuxが動くなんて便利そう」ー そう思ったのが全ての過ちでした。WSLは開発者を甘やかす甘い罠だったのです。
根本的問題:
wsl –install
wsl: WSL インストールが壊れている可能性があります
(エラー コード: Wsl/CallMsi/Install/REGDB_E_CLASSNOTREG)
このエラーは、WindowsのMSIインストーラーシステムが深く破損していることを示していました。
試みた修復(全て失敗):
sfc /scannow、dism.exe ー Windows標準修復ツールさらなる症状:
結果: 一時的な改善もなく、根本解決には至らず。
気付き: これらは全て「仮想化のレイヤー」を追加するだけ。根本的なパフォーマンス低下を招く。
ここで閃いたのは、あるシンプルな事実でした:
「このPCはLLM開発専用マシン。仕事用PCは別にある」
これが全てを変えました。WSLにこだわる理由が消え去った瞬間です。
Fedora Silverblueをベースにした不変OS。ゲーム/コンテナ開発に最適化されています。
決め手:
まさかの展開:「Windowsの呪い」はOSインストール時にも続きました。
GParted Live USBがフリーズ。ディスク認識エラー。自動パーティション分割失敗。
突破口: WindowsインストールUSBからの diskpart clean コマンド。これでようやくディスクがクリーンに。
error: ../../grub-core/kern/sb.c:192: bad shim signature
BIOSでセキュアブートを無効化することで解決。これが最後の障害でした。
ついに、澄んだBazziteのデスクトップが眼前に。
最初の感動:
nvidia-smi
RTX 4060 Tiがネイティブに認識! WSL時代の遅さとは別次元のレスポンス。
少し戸惑ったキーボード設定も、JIS配列(Mouse 109キー)に合わせた適切な設定で解決。
WSLの問題は症状であって原因ではなかった。根本原因は「Windows上での仮想化」そのもの。
Bazziteの不変OS設計は、開発環境の安定性において革命的でした:
sudo btrfs subvolume snapshot / /backup_before_experiment
sudo btrfs subvolume delete /
sudo btrfs subvolume snapshot /backup_before_experiment /
現在の環境:理想的なLLM開発基盤
distrobox-create –name llm-lab –image ubuntu:22.04
distrobox-enter llm-lab
docker build -t japanese-llm .
docker run –gpus all -p 8000:8000 japanese-llm
この旅で最も価値があったのは、問題解決のパラダイムシフトでした。
Before: 「壊れた環境をどう修復するか」
After: 「目的に最適な環境をどう構築するか」
WSLのエラーコード REGDB_E_CLASSNOTREG は、今思えば祝福のエラーでした。これがなければ、私はずっと「Windowsという檻」の中で開発を続けていたでしょう。
「しょうがないからUbuntuで」と妥協せず、Bazziteという最適解を選んだことが、すべての苦労を価値あるものにしました。
環境構築という「メタな問題」が解決した今、ようやく本来の目的である「日本語LLMの開発」に集中できます。
諦めないこと。 それが技術者としての唯一の、そして最強の武器です。
この記事は、実際のトラブルシューティング経験に基づいています。WSLの深いエラーからBazzite Linuxへの移行まで、約12時間に及ぶ戦いの記録です。