#hunch

7:04オープンソース拡散指数 55

hunch：GoogleのEmbeddingGemma 2を活用し、CPU上でミリ秒級のセマンティック判定を行うOSS

オープンソースの「hunch」は、GoogleのEmbeddingGemma 2を基盤に、一般的なCPU上でミリ秒単位の判定を行う軽量システムです。大規模モデルからリアルタイムに学び、ツール実行監視やログ分類などの高頻度タスクをわずか22ミリ秒で肩代わりします。GPU不要でAPIコストを大幅に削減できます。