llamafile をWindowsやラズパイ５で使ってみる（LLM,SLM,LMM）
llamafile を使って言語モデル（LLM/S […]
5月 2024
NVIDIA Jetson ＋llama-cpp-python + SLM の量子化モデルで推論実行
シングルボードコンピュータ（SBC）で小規模言語モ […]
Windows ＋llama-cpp-python + SLM の量子化モデルで推論実行
windows環境は以下の通り。 windows […]
Windowsで小規模言語モデル（SLM)の量子化版を使ってみる
シングルボードコンピュータ（SBC）で小規模言語モ […]
シングルボードコンピュータ（SBC）で小規模言語モデル（SLM)の量子化版を使ってみる
前回はMicrosoftのPhi-2をNVIDIA […]