コンテンツにスキップ

asiai detect

3層カスケードを使用して動作中の推論エンジンを自動検出します。

使用方法

asiai detect                      # 自動検出(3層カスケード)
asiai detect --url http://host:port  # 指定URLのみスキャン

出力

Detected engines:

  ● ollama 0.17.4
    URL: http://localhost:11434

  ● lmstudio 0.4.5
    URL: http://localhost:1234
    Running: 1 model(s)
      - qwen3.5-35b-a3b  MLX

  ● omlx 0.9.2
    URL: http://localhost:8800

仕組み:3層検出

asiai は最速から最も徹底的な3つの検出レイヤーのカスケードを使用します:

レイヤー1:設定(最速、約100ms)

~/.config/asiai/engines.json を読み取り — 過去の実行で検出されたエンジン。非標準ポート(例:oMLXの8800)のエンジンを再スキャンなしで検出。

レイヤー2:ポートスキャン(約200ms)

デフォルトポートと拡張範囲をスキャン:

ポート エンジン
11434 Ollama
1234 LM Studio
8080 mlx-lm または llama.cpp
8000-8009 oMLX または vllm-mlx
52415 Exo

レイヤー3:プロセス検出(フォールバック)

pslsof を使用して任意のポートでリスニングしているエンジンプロセスを検出。完全に予期しないポートで実行されているエンジンも検出。

自動保存

レイヤー2または3で検出されたエンジンは、次回の検出を高速化するために自動的に設定ファイル(レイヤー1)に保存されます。自動検出エントリは7日間の非アクティブ後にプルーニングされます。

複数のエンジンがポートを共有する場合(例:mlx-lmとllama.cppの8080)、asiai はAPIエンドポイントプロービングで正しいエンジンを識別します。

明示的URL

--url 使用時は、指定されたURLのみがスキャンされます。設定の読み書きは行われません — ワンオフチェックに便利です。

asiai detect --url http://192.168.0.16:11434,http://localhost:8800

関連項目

  • config — 永続的なエンジン設定の管理