はじめに こんにちは、エンジニアのikkiです。最近はQANT スピークの安定運用まわりの開発に取り組んでいます。 今回はその中の1つの開発トピックに関して書いてみます。 弊社では複数のプロダクトでVertex AI（Gemini）をLLM基盤として利用しています。その…