A/B test agent skills and MCP changes with Caliper

CaliperでエージェントスキルとMCP変更をA/Bテスト

スキル、MCPサーバー、ルールの有無で実タスクを比較し、信頼性とトークンコストを測定します。

AIスキル大辞典による日本語要約
品質評価100/100評価確度:十分
人気度(GitHub Star) 60発掘スコア 87
01

このSkillでできること

  • ✓スキルの有無でエージェントタスクを比較する
  • ✓MCPサーバーの有無による結果を比較する
  • ✓ルール変更の影響を評価する
  • ✓信頼性とトークンコストを測定する
02

使い方

01
STEP 1

Python 3.10以降、Caliper CLI、対象エージェントランタイムを用意する

02
STEP 2

評価対象のスキルまたはMCPサーバーを準備する

03
STEP 3

評価設定ファイルを作成してタスクを実行する

04
STEP 4

通常条件と除外条件の結果を比較する

03

Skillのインストール

このGitHubリポジトリにあるSkillを確認し、現在の環境に適した方法でインストールしてください。
インストール後、正常に利用できることを確認し、基本的な使い方も簡潔に説明してください。

Repository:
https://github.com/agentskillexchange/skills
手動でインストールする

README / SKILL.mdから機械抽出できたコマンドのみ表示しています。推測したコマンドではありません。

clawhub install <slug>
git clone https://github.com/agentskillexchange/skills.git
cp -R skills/skills/<slug> ~/.agent-skills/<slug>
04

このSkillを使うプロンプト例

Skill名を明示すると、意図したSkillを使わせやすくなります。自動発動型では必須とは限りません。

Caliperを使って、このエージェントタスクをスキル有り・無しで実行し、信頼性とトークンコストを比較してください。
出力例を見る
条件別の実行結果を比較し、信頼性とトークンコストの差を整理します。
05

安全性チェック

自動解析による参考情報です。Skillの安全性を保証するものではありません。

外部API通信検出あり
Shellコマンド実行明確な記述なし
ファイル読み取り明確な記述なし
ファイル書き込み明確な記述なし
ネットワークアクセス検出あり
認証情報明確な記述なし
検出根拠を見る
  • network: _stars: 175 verification: "security_reviewed" source: "https://github.com/edonadei/caliper" author: "edonadei" publisher_type: "individual" category: "Se
  • network: and compare results with `caliper compare`. - Source: https://github.com/edonadei/caliper ## Documentation - https://github.com/edonadei/caliper ## S
06

関連Skill