タグ: API連携
「API連携」に関連する記事を表示しています。
GPT-5.6の料金、推論トークンで実質数十倍に変動
GPT-5.6ファミリー(Luna/Terra/Sol)の料金構造と推論トークンの関係を、クラウド運用・監視設計の視点から読み解く。
AI モデル選定をコストとレイテンシで考える
TryAI の検証で Grok 4.5 は毎秒 110 トークン・最安コストを記録。品質・速度・コストの三軸でモデル選定を整理し、ベンダーロックインのリスクと移行設計の考え方を解説します。
sqlite-utils 4.0 のスキーママイグレーションと LLM ツール設計
sqlite-utils 4.0 でスキーママイグレーションが正式導入。LLM ツールや RAG パイプラインのローカル DB 管理に直結する仕組みを、Django との比較も交えて解説します。
LLM APIコストを40分の1にする代替モデル選定の実際
GPT-4oの40分の1の価格で動くDeepSeek V4 Flashへの移行事例から、OpenAI互換APIの仕組みと実務的な移行判断のポイントを解説します。
ASP.NET Core の設計思想とフレームワーク比較
TechEmpower ベンチマーク上位常連の ASP.NET Core が .NET 6 以降で大きく変わった。Minimal API・Native AOT・Kestrel の組み合わせが、他フレームワークとの技術比較でどう位置づけられるかを整理する。
Gemma 4 オンデバイス推論でJinjaテンプレートが落とす罠
Gemma 4 E2BをLiteRT-LMでオンデバイス推論する際、Jinjaテンプレートの非互換が推論実行時まで検出されない問題を技術的に解説します。
SAG：SQL JOINで実現するMulti-Hop RAGのアーキテクチャ選択
GraphRAGのPageRank減衰問題をSQLのJOINで解決するSAGのアーキテクチャ設計と、クエリタイム展開がもたらす性能・可用性・トレーサビリティのトレードオフを解説します。
LiteLLM v1.91.0、cosignで何が変わるか
LiteLLM v1.91.0 で Docker イメージの cosign 署名検証が整備された。自分の compose ファイルと CI のどこを直すか、実務目線でまとめた。
LiteLLM v1.90.3のcosign対応、自分のDockerまわりを見直した
LiteLLM v1.90.3のリリースノートでcosignによるDocker image署名の話を読んで、自分の構成を見直すことにした。プロキシ層への混入リスクを考えると放置できない。
litellm v1.90.2のcosign署名、自分のDocker運用を見直した
litellm v1.90.2 のリリースノートで Docker イメージの cosign 署名検証を知り、自分の CI に組み込んだ話。API キーが集中する proxy だからこそ、署名検証なしで動かしていたのはまずかった。
LiteLLMのDocker imageをcosignで検証する話
LiteLLM v1.92.0-dev.1のリリースノートで知ったcosign署名検証。本番でproxy運用してるなら無視できないと思い、CIに組み込む話を書いた。
Gemma 4 × Cerebras でリアルタイム音声AIを触ってみた
Hugging Face × Cerebras の音声AIパイプラインを実際に動かしてみた。P95レイテンシの安定化が目的というのが刺さった。自分の個人開発に引きつけて構成を整理する。