NVIDIA Jetson ＋llama-cpp-python + SLM の量子化モデルで推論実行
シングルボードコンピュータ（SBC）で小規模言語モ […]
Articles by WisteriaHill
Windows ＋llama-cpp-python + SLM の量子化モデルで推論実行
windows環境は以下の通り。 windows […]
Windowsで小規模言語モデル（SLM)の量子化版を使ってみる
シングルボードコンピュータ（SBC）で小規模言語モ […]
シングルボードコンピュータ（SBC）で小規模言語モデル（SLM)の量子化版を使ってみる
前回はMicrosoftのPhi-2をNVIDIA […]
ラズパイ に有機EL (OLED) ディスプレイを使ってみる：(Bookworm、Ubuntu)
プラットフォーム ラズパイ 4/5 Model B […]
ラズパイ５とColabで楽天のLLM（7B-chat）を試してみる
先に公開されていた楽天のLLM （RakutenA […]
ラズパイで音声合成（２）AquestTalk・VoiceVox
ラズパイ4（or 5）にインストールしてローカル・ […]
ラズパイで圧電ブザーを使ってみる（シンプル）
ラズパイはそのままではビープ音を鳴らすことはできま […]
Windows 11 にDocker環境 を構築
Docker Desktop for Window […]
ラズパイ５（８GB）でLLM 、LangChain とLlamaIndex で外部データを使う-1（メモ）
LLM が応答に使う情報は基本、学習した時点のデー […]