ラズパイ5とColabで楽天のLLM(7B-chat)を試してみる
先に公開されていた楽天のLLM (RakutenA […]
先に公開されていた楽天のLLM (RakutenA […]
ラズパイ4(or 5)にインストールしてローカル・ […]
ラズパイはそのままではビープ音を鳴らすことはできま […]
Docker Desktop for Window […]
LLM が応答に使う情報は基本、学習した時点のデー […]
Appendix にラズパイ4での結果を追加しまし […]
llama.cppはCで書かれたモジュールの集まり […]
これまでLLM(大規模言語モデル)を量子化して圧縮 […]
前回やったラズパイ3+Julius で音声認識の続 […]
「型落ちPCのCPUのみで、量子化した7B(70億 […]
Copyright © 2024 | WordPress Theme by MH Themes