記事論文
arXiv••4 min read
ラズパイでLLMは実用レベルか？：SBCでの推論性能を徹底ベンチマーク
Raspberry Pi 5やOrange Pi 5 Proなどの単板コンピュータでLLMはどこまで動くのか？25モデル×2つのランタイムで徹底検証した結果、LlamafileがOllamaの最大4倍の性能を叩き出すことが判明
#Edge AI#Benchmark#Open Source
Ollama
Inference Engine / 1 件
編集体制
一次情報の確認と要約は編集部が担当し、生成AIはリサーチ補助とドラフト作成に使っています。出典・確認日を明記し、誤りやリンク切れは順次修正します。