ラズパイ５（8GB）で、日本語対応の7B（70億）パラメータのLLMを量子化して使ってみる
Appendix にラズパイ４での結果を追加しまし […]
2月 2024
llama.cppをPython で使ってみる
llama.cppはCで書かれたモジュールの集まり […]
LLMの7BパラメータモデルをWebで使ってみる
これまでLLM（大規模言語モデル）を量子化して圧縮 […]
ラズパイで音声認識（２）Vosk
前回やったラズパイ３+Julius で音声認識の続 […]
型落ちPCのCPUのみで、日本語対応の7B（70億）パラメータのLLMを量子化して使ってみる
「型落ちPCのCPUのみで、量子化した7B（70億 […]
型落ちPCのCPUのみで、量子化した7B（70億）パラメータのLLMを動かしてみる
ディープラーニングを軽量化する「モデル圧縮」には３ […]
型落ちPCのCPUのみで、日本語対応のLLMを試してみる
昨今話題のLLM（大規模言語モデル）の日本語対応版 […]