自分のPCでLLMを動かす環境づくりを手伝います。
Ollamaやllama.cppを入れたけど、どのモデルを選べばいいか分からない、VRAMに収まらなくて動かない、みたいな人向けです。私自身、自宅のサーバーでQwen系のモデルを日常的に動かしています。
やることは、
・Ollama / llama.cpp のセットアップ(Windows / Linux)
・GPUとVRAMに合わせたモデル・量子化の選び方
・動くところまでの確認と、軽い速度調整
・後から自分で再現できる手順書
です。
まずはDMで、PCのスペック(GPU、VRAM、メモリ、OS)と何に使いたいかを教えてください。そのスペックで何が動くかは、購入前に正直にお答えします。
作業はチャットでのサポート形式で、PCを遠隔操作することはありません。パーツの増設が必要そうなら、その旨と候補はお伝えします(取り付けは対象外です)。
納期は3〜7日が目安です。
ご購入前に、必ず見積り相談でご相談ください。
ご相談の際は、以下の内容を教えてください。
・PCのスペック(GPU / VRAM / メモリ / OS)
・何に使いたいか(用途)
内容を確認し、そのスペックで何が動くか、実現可否とお見積りを正直にお伝えします。できないことは事前にはっきりお伝えします。
作業はテキストチャットでのサポート形式です。購入者様のPCを遠隔操作することはありません。手順書と設定ファイルを作成し、チャットで一緒に確認しながら構築を進めます。GPUやメモリの物理的な増設が必要な場合は、その旨と推奨パーツをお伝えします(取り付け自体は対象外です)。