Ask HN: ローカルモデルを実際にプロダクションで動かしている人はいますか？

このスレッドには雑音が多いものの、特定のユースケースで Mixtral や Llama 派生モデルを動かしているチームは実際に成果を上げています。ある程度のボリュームに達すればコスト計算も合ってきます。