ローカルLLMを動かす設定お手伝いをします

ChatGPTのようなAIを、インターネットに文章を送らずに自分のPCだけで動かしたい方へ。WindowsでローカルLLM（llama.cpp など）を動かすまでを、メッセージでお手伝いします。 こんな方に ・社外秘の文章をクラウドのAIに送りたくない ・ローカルLLMを試したが、起動しない・遅すぎる ・手持ちのPCで、どの大きさのモデルが動くか知りたい ・Intel内蔵GPUやCPUだけのPCで動かしたい 進め方 PCの型番・CPU・メモリ・使いたい用途を教えていただきます そのPCで現実的に動くモデルの大きさと、返事までの速さの目安をお伝えします 手順書をお渡しし、つまずいたところは画面の写真を見ながら一緒に直します 私自身、自作の会話ロボットの頭脳として、WindowsのノートPCでローカルLLMを毎日動かしています。GPUの無い条件での速さも、実際に測って確かめています。 出品者について 大学で約23年間、情報工学の教育・研究に携わりました。1993年には「ロボットに日本語で命令するシステム」を人工知能学会で発表しています。大学では産学共同の委員も務め、他分野の専門家と組んで現場のためのシステムを作ってきました。