株式会社

エムエーエス

elyza-7B × Ubuntu × RTX4060Ti で取り組んだ1日の作業ログ

ローカル環境で動かしている elyza-7B（日本語LLM） を使いながら、
質問データのJSON処理、モデル推論、スクリプト改善を進めた1日でした。

クラウドAIによる分析も取り入れつつ、ローカルLLMの品質向上に向けて大きく前進した内容をまとめます。

■ 1. JSON入力 → LLM推論の動作検証

まず最初に行ったのは、

「JSONの質問データをLLMに読み込ませ、回答を生成し、結果をJSONに記録する」

という仕組みづくり。

スクリプト local_llm_generate.py を実行し、
GPU（RTX 4060 Ti 8GB）を使用して推論を行いました。

• 約6.4GBのVRAMを消費
• 推論速度は安定
• Webアクセスなしでも、非常に高品質な“思考フレーム回答”が得られた

特に、elyza-7Bの日本語思考整理能力は想像以上でした。

■ 2. JSON書き戻し問題の発生

推論結果自体は出るものの、

生成された回答が JSON の local_llm_answer に記録されない

という問題が発生。

原因として考えられたのは以下の点です。

JSONの構造（リスト／辞書）をスクリプトが正しく判別できていない

上書き保存時に、元の構造が維持されていない

書き込み対象フィールドが曖昧

この問題は、今後の精度検証に直結するため、最優先で修正する方針に決定。

■ 3. クラウドAIによる学習品質の分析

学習ログをまとめたテキストをクラウドAIに読み込ませ、
現状のLLM品質を診断・改善してもらったところ、非常に質の高い分析結果が得られました。

内容は以下の通り：

• 学習データの質と多様性
• LoRAファインチューニングの過学習兆候
• 学習率・エポック数の妥当性
• early stopping の導入
• 推論時のパラメータ調整
• 4-bit量子化の安定化

まさに専門家が書くレベルの改善レポートで、チューニングの指針として非常に参考になりました。

■ 4. ローカルLLMなのに「驚くほど答える」理由

やり取りの途中で重要な気づきがありました。

ローカルLLMはWebにアクセスしていないのに、思考フレームとして完成された回答を返す。

これはLLMの特徴で、

• LLMは“考える”のではなく
• 「膨大な思考パターンの統計的再構成」 をしている

という性質によるものです。

特に elyza-7B は日本語の：

• 抽象→具体
• 原因→結果
• 課題→打ち手

こうした“思考の接続構造”の再現が非常に得意で、
そのためコンサルティングレポートのような文章が自然に生成されます

■ 5. スクリプト改善の方向性

本日の作業の結論として、

「回答をJSONに確実に書き戻すスクリプト」を作ることが最優先

という方針が固まりました。

改善項目は以下のとおり：

• JSON保存前に必ずバックアップを作成
• JSON構造（リスト型／辞書型）を自動で判定
• 書き込み後に検証
• 出力用の別ファイル（結果専用.json）を同時生成

安全で確実な推論ワークフローを構築していきます。

■ 本日のまとめ

• ローカルLLM（elyza-7B）の推論品質は非常に高い
• JSON書き戻しの不具合が見つかり、改善方針を決定
• クラウドAIの学習品質分析が非常に有益
• 思考フレームの再現能力が高い理由を整理
• 次のタスクが明確化した

■ 次回のタスク

1. JSON書き戻し処理の完全修正
2. バックアップ＆検証つきの保存フローの実装
3. 推論パラメータの最適化（temperature / repetition penalty）
4. 4-bit量子化版スクリプトの作成
5. データ品質チェック（クレンジング）の導入