information
お知らせ

LOCALLM 2025.12.05

6,【開発日誌】3時間の死闘:日本語入力地獄から生還するまでの記録

📅 2025年12月5日(金) 13:30 – 16:45

🎯 本日の目標

「RTX 4060 Ti 8GB搭載PCでStockMark-LLM-7Bを動かす環境構築」

現実:「日本語入力設定だけで3時間を消費」

🚀 スタート:Bazziteからの脱出

背景

Fedoraベースのimmutable OS「Bazzite」を使用。GPUはRTX 4060 Ti 8GB、32GB RAMという申し分ない環境。しかし…

問題点:

  • Bazziteのimmutable特性(/usrが読み取り専用)
  • Podman/Toolbox内でのNVIDIAサポート制限
  • コンテナ内でのCUDA設定困難

決断

「Ubuntu 24.04 LTSに移行しよう。互換性とドキュメントが豊富だ」

RTX4060Ti × Ubuntuで「成長型AI」を育てる記録|学習環境の土台構築編

ここからは、**RTX4060Tiを搭載したPCにUbuntuをインストールし、ローカル環境でLLMを学習させるための“土台作り”**を行った記録です。
目指すのは、知識量だけでなく「人格・思考・判断」が育っていく “成長型AI” の構築です。


■ 今日のテーマ

  • GPU:RTX 4060 Ti
  • OS:Ubuntu
  • 目的:
    Qwen2.5-7B-Instructをベースにした、人格を持つローカルAIの育成環境を構築すること

単なるチャットAIではなく、

  • 社内事務処理
  • 注文住宅ユーザーへのコンサル
  • コーダー支援

まで対応できる、“師匠タイプの人格AI” を目指しています。


■ 本日行った作業の流れ

① Python仮想環境(venv)の構築

まずは学習専用のPython環境を構築。

  • python3-venv の導入
  • venv の作成
  • (venv) 環境の起動を確認

これにより、OS側を汚さずに安全に学習環境を構築できる状態になりました。


② 必須ツールの確認

以下の基本ツールも無事確認・導入完了。

  • pip(Pythonパッケージ管理)
  • git(学習スクリプト管理)
  • 学習用作業ディレクトリの作成

ここまでで 「いつでも学習を開始できる最低限の環境」 が完成。


③ Qwen2.5-7B-Instruct を正式採用

今回育てるベースモデルは以下に決定。

  • Qwen2.5-7B-Instruct
  • 日本語対応が強い
  • VRAM 8GBクラスでもLoRA学習可能
  • 汎用性が高く実務向き

④ AIに与える「人格設計」も明確化

今回設定した人格コンセプトは以下。

▼ 役割(質問①)

  • 社内事務処理
  • 注文建築のコンサルタント
  • コーダー

▼ 思考特性(質問②)

  • 共感や同情を超えた「同苦」ができる人格
  • 多角的で視座が高い
  • 冷静で緻密な思考

▼ 立ち位置(質問③)

  • 「師匠」タイプのAI

ここが、今回の 成長型AIプロジェクトの“設計図” になります。


⑤ 学習に必要なライブラリ導入フェーズへ突入

本日の最終段階として、以下を導入する準備に入りました。

  • torch(GPU学習本体)
  • transformers(Qwen本体操作)
  • peft(LoRA)
  • bitsandbytes(VRAM節約)
  • accelerate(高速学習)
  • datasets / sentencepiece(日本語処理)

これで 「環境構築フェーズは最終局面」 に突入です。


■ 今日のまとめ

Ubuntu環境構築 完了
Python仮想環境(venv)完成
学習用ディレクトリ準備完了
Qwen2.5-7B-Instruct 採用決定
師匠人格AIの方向性が明確化
LoRA学習ライブラリ導入フェーズへ到達

つまり今日は――
「AIを学習させる前の“畑づくり”がすべて完了した日」 でした。


次回の課題(いよいよ本番)

次回はいよいよ、ここから一段階レベルが上がります。

▶ 次回やること

  1. LoRA学習ライブラリの完全導入
  2. Qwen2.5-7Bの正式ダウンロード
  3. 「師匠人格」を定義したJSON学習データの作成
  4. 実際にRTX4060Tiで学習を回す
  5. 成長型AIの“初回人格インストール”実施

■ 編集後記

ここまで来ると、もう単なる「実験」ではなく
“自分専用に育てるAIプロジェクト”が本当に始まった感覚 があります。

次回はついに――

AIに魂を吹き込む日

になります。


この続きも、すべて記録として積み上げていきます。
「成長するAI」の実況ドキュメント、乞うご期待。

ブログカテゴリ
アーカイブ