システムアーキテクチャ

OpenAI 互換プロキシを Rust から Go に移した理由

Rust (axum) の OpenAI/Ollama 互換プロキシを Go に移しました。LLM 導入・AI システム開発で使う SSE、ルーティング、RAG の実装範囲と移行理由を説明します。

Go・NATS・DagsterのAI実行基盤

Goの互換API、NATS JetStream、Dagster sensorでLLMを業務パイプラインにつなぎました。AIシステム開発向けに、RAG、イベント、3ホストの構成を説明します。

familiarのローカルLLM開発基盤と観測

familiarの55分のデモで、Django予約システムを生成しました。AIシステム開発とLLM導入に使うローカル基盤、モデル選定、観測・復旧の実装経緯です。

familiarのタスク分割とoutput_file

Claude、Qwen3-Coder-Next 80B、GLM-5.1で6ページ生成のタイムアウトを調べました。LLM導入で使うタスク分割、動的プロンプト、output_fileと実行ログを紹介します …

llm-jpの翻訳を常駐からバッチへ

llm-jpのNVFP4を単GPUで測り、翻訳ロールをオンデマンド処理へ切り替えました。LLM導入でのVRAM配分、実測速度、2GPU起動のエラー、次の翻訳構成案をまとめています。

agent-gatewayのRAGとイベント処理

OpenAI互換API、NATS、Dagster、pgvectorで組んだLLM・RAG基盤の記録です。LLM導入に向け、応答と保存の分離、埋め込みサービス、障害時の動作を整理しました。

Gemma 4とBlackwell 2枚の推論基盤

Gemma 4、familiar、Dagster、Grafanaを組み合わせたLLMインフラ構築の記録です。GPU割り当て、並列コーディングでの不整合、GLM-5.1とQwen3-Coder-Next …

agent-gatewayの全レイヤー整理

agent-gatewayの4ドメイン、infra、transportをClean Architectureに沿って整理しました。AIシステム開発での責務分離と、変更後のテスト修正を紹介します。

agent-gateway v3 のドメイン分割と MLflow 連携

LLM 導入基盤の agent-gateway を llm・obsidian・mlflow に分割しました。AI システム開発での NATS、Dagster、Vector の構成と、未実装の範囲を説明 …

RustとONNXで組むembedding・rerank API

RustとONNXで検索用embeddingとColBERT rerankを分離した設計・実装記録です。LLM導入のRAG基盤に向け、API、キャッシュ初期案、gRPC直接送信への変更を整理しました。

WordPressに近いDjangoブログ基盤の設計

ブログ・CMSの受託開発を想定したDjangoの設計案です。投稿、固定ページ、分類、メディア、コメントのモデルと制約、公開条件、Django adminの要件を整理しました。