これは、このセクションの複数ページの印刷可能なビューです。印刷するには、ここをクリックしてください.

サンプルプロジェクト

サンプルプロジェクトに関する詳細情報

1: OpenRMFの例
2: Go2とIsaac Sim
3: MPPI クリティックのデバッグとチューニング
4: RL ポリシーと Tron1

Artefacts にサインアップすると、いくつかのサンプルプロジェクトを含む artefacts-demos 組織に自動的に追加されます。

これらのプロジェクトの出力は https://app.artefacts.com/artefacts-demos でアクセスできます。

現在利用可能な例：

1 - OpenRMFの例

OpenRMFにおけるナビゲーション可能性のテスト

OpenRMFの例

デモはこちらからご覧いただけます。注：登録が必要です

概要

OpenRMFは、大規模建物における複数ロボットの相互運用性のためのフレームワークです。OpenRMFでの一般的な設定タスクの一つは、建物内のロボット用の場所とナビゲーションレーンを設定することです。

ここでは、office worldでOpenRMFデモを実行します。

以下に示すように、このマップにはロボットが移動できる14個のウェイポイントがあります。また、それぞれの充電器上で開始する2台の「tinyRobot」も含まれています。

オフィスワールドのマップ。

このテストデモの目的は、すべてのロボットをすべてのウェイポイントに送り、到着したことを確認することです。失敗は、ロボットがマップ上の場所に到達できないことを示します。

テストはすべてのロボットとウェイポイントを通じて実行されるようにパラメータ化されており、各実行の間にシミュレーションがリセットされます。

ロボットがあらゆる場所に移動するGIF

クイック分析

“tinyRobot2"が"patrol_A1"へ移動

“tinyRobot2"は約40秒で"patrol_A1"に正常に到達しました。ビデオは、テストがどれだけうまく実行されたかについての追加情報を提供します。

“tinyRobot1"が"patrol_B"へ移動

しかし、“tinyRobot1"は120秒のタイムアウト前に"patrol_B"に到達できませんでした。ビデオを使用すると、途中にゴミ箱があることに気づき、ロボットがそこで立ち往生しています。距離グラフもロボットがどこかで立ち往生していることを示しています。

テスト後に利用可能なデータ

テストでは、いくつかのメトリクスを記録します：

ゴールに到達するまでの時間（シミュレーション時間）
移動した総距離
平均速度

テストでは複数のデータを記録します：

ROSbag
Gazeboでアクティブなロボットのビデオ
以下のグラフ：
- XY位置
- ゴールまでの距離
- 時間経過に伴う移動距離
ROSbagで利用できないデータを記録するためのPythonからのカスタムデータダンプ
テストファイルからのデバッグログ
（オプション）シミュレーションとOpenRMFターミナルのstdout

2 - Go2とIsaac Sim

Isaac SimでのDora-rs駆動Go2のテスト

デモはこちらで利用可能。注意: 登録が必要です。

概要

Go2はUnitree社製の四足歩行ロボットです。このロボットはIsaac Simで利用可能であり、独自のシミュレーションを比較的簡単に開始できます。

このデモでは、Go2に複数の環境でウェイポイントを順番にナビゲートさせるウェイポイントミッションを実施します:

高さが変化する生成されたピラミッド（0.1m、0.7m、1.1m）

3つの異なる環境: 鉄道線路、石階段、発掘現場

完全なプロジェクトソースはGitHubで利用可能です。プロジェクトは以下を使用して実行されます:

dora-rs（ロボティクスフレームワーク）
Isaac Sim（シミュレータ）
pytest（テスト作成）
Artefacts（テスト自動化と結果レビュー）

テストには2つのRLポリシーを使用します: 「baseline」（すべてのウェイポイントに正常に到達することが期待される）と「stumbling」（到達しないことが期待される）。

テストの作成

テストファイルtest_Waypoints_poses.pyには3つのテストが含まれています:

最初のテストは環境が正しくロードされたかどうかを確認します。

シーンローディングテスト

@pytest.mark.clock_timeout(50)
def test_receives_scene_info_on_startup(node):
    """Test that the node receives scene info on startup."""
    for event in node:
        if event["type"] == "INPUT" and event["id"] == "scene_info":
            # Validate scene info message
            msgs.SceneInfo.from_arrow(event["value"])
            return

他の2つのテストは、ロボットが指定された環境で4つのウェイポイントすべてに正常に到達したかどうかを確認します:

可変高さステップテスト

高さが変化するピラミッド用

@pytest.mark.parametrize("difficulty", [0.1, 0.7, 1.1])
@pytest.mark.clock_timeout(30)
def test_completes_waypoint_mission_with_variable_height_steps(
    node, difficulty: float, metrics: dict
):
    """Test that the waypoint mission completes successfully.

    The pyramid steps height is configured via difficulty.
    """
    run_waypoint_mission_test(
        node, scene="generated_pyramid", difficulty=difficulty, metrics=metrics
    )

ここではpytestのparametrize機能を使用して異なる高さを設定しています。

フォトリアリスティック環境テスト

3つの「リアリスティック」環境用

@pytest.mark.parametrize("scene", ["rail_blocks", "stone_stairs", "excavator"])
@pytest.mark.clock_timeout(30)
def test_completes_waypoint_mission_in_photo_realistic_env(
    node, scene: str, metrics: dict
):
    """Test that the waypoint mission completes successfully."""
    run_waypoint_mission_test(node, scene, difficulty=1.0, metrics=metrics)

ここでもpytestのparametrize機能を使用して3つの異なる環境でテストを実行しています。

コアテストロジック

両方のテストが呼び出すrun_waypoint_mission_test()関数は、コアウェイポイントナビゲーションロジックを処理します:

def run_waypoint_mission_test(node, scene: str, difficulty: float, metrics: dict):
    """Run the waypoint mission test."""
    transforms = Transforms()
    node.send_output(
        "load_scene", msgs.SceneInfo(name=scene, difficulty=difficulty).to_arrow()
    )

    waypoint_list: list[str] = []
    next_waypoint_index = 0

    metrics_key = f"completion_time.{scene}_{difficulty}"
    start_time_ms = None
    current_time_ms = None
    stuck_detector = StuckDetector(max_no_progress_time=5000)  # 5 seconds

    for event in node:
        # ... event processing loop

この関数は:

シーンをロード - 指定された環境と難易度レベル（例: ピラミッドのステップ高さ）でload_sceneメッセージを送信します
ウェイポイントを追跡 - ウェイポイントフレームのリストを維持し、ロボットが現在ターゲットにしているものを監視します
ロボットポーズを監視 - robot_poseイベントをリッスンし、Transformsヘルパーを使用して現在のターゲットウェイポイントまでの距離を計算します
ウェイポイント完了を検出 - ロボットがウェイポイントの0.6m以内に達すると、次のウェイポイントに進みます
スタック状態を検出 - StuckDetectorを使用して、ロボットが5秒間進捗がない場合にテストを失敗させます
メトリックを記録 - 完了時間を秒単位でキャプチャし、metrics.jsonファイルに保存します。これはArtefactsダッシュボードに表示されます。

テストはすべてのウェイポイントに到達すると成功し、ロボットがスタックするかタイムアウトすると失敗します。

artefacts.yamlファイル

artefacts.yamlはテストをセットアップし、次のようにパラメトリゼーションします:

project: artefacts-demos/go2-demo
version: 0.1.0

jobs:
  waypoint_missions:
    type: test
    timeout: 20 # minutes
    runtime:
      framework: other
      simulator: isaac_sim
      
    scenarios:
      settings:
        - name: pose_based_waypoint_mission_test
          params:
            policy:
              - baseline
              - stumbling
          metrics: metrics.json
          run: "uv run dataflow --test-waypoint-poses"

上記のキーポイント:

テストはartefacts.yamlファイルのparamsセクションに基づいて2回実行されます。1回は「baseline」ポリシーを使用し、もう1回は「stumbling」ポリシーを使用します。
収集されたメトリックはmetrics.json（metrics:で定義）に保存され、その後Artefactsダッシュボードにアップロードされます。
テストフレームワークはpytestですが、dora-rsフレームワークを通じて実行されるため、run:キーを使用してArtefactsにテストの起動方法を指示します。‘run’の詳細についてはシナリオ設定を参照してください。

結果

期待通り、Baselineポリシーは成功し、Stumblingポリシーは失敗しました。

成功したウェイポイントミッションのビデオは以下で視聴できます:

Baselineポリシー

ダッシュボードはすべてのテストが成功したことを示し、各環境の完了時間メトリックも表示されています。

テストはビデオ、ログ、および必要に応じてシミュレーションを再生するためのrerunファイルを含む多数のアーティファクトもアップロードしました。

Stumblingポリシー

ダッシュボードはシーンローディングテストのみが成功し、残りは失敗したことを示しています。AssertionError「AssertionError: Robot is stuck and cannot complete the waypoint mission.」も記録されています。

最終結果と関連するメトリックおよびアップロードはこちらで自由に閲覧できます（登録が必要）。

テスト後に利用可能なデータ

Rerunファイル
ログ
各シーンのビデオと画像
jsonフォーマットのメトリック

Artefactsツールキットヘルパー

このプロジェクトでは、Artefacts Toolkitから次のヘルパーを使用しました:

get_artefacts_params: どのトレーニングポリシーを使用するかを決定するため

3 - MPPI クリティックのデバッグとチューニング

ArtefactsパラメトリゼーションでMPPIクリティックのコストをデバッグし、ウェイトをチューニングする

デモはこちらで利用可能。注意: 登録が必要です。

概要

Model Predictive Path Integral (MPPI) は最適な軌道を選択するためのサンプリングベースの予測コントローラーで、ロボティクスコミュニティで一般的に使用され、Nav2スタックによって十分にサポートされています。

Nav2のMPPIプラグインのコア機能はその目的関数(クリティック)のセットであり、ロボットプランナーに望ましい動作を達成するためにチューニングできます。

このデモでは、ロボット（Locobot）が後退移動を避けるべきターゲット動作を調査します。これは（ロボティクス実践者によって好まれ、）。また屋内環境での安全上の懸念によるもので、人間やペットがいる可能性があり、標準的なロボット(つまり: 前面センサーのみを持つ)が観測/認識なしに後退することは危険です。

この動作は、急旋回またはロボットに振り向くように求める再計画時(大きな角度距離)に、Nav2 MPPIのPath Angleクリティックが通常アクティブ化されスコアリングに貢献するために発生することが多いです。しかし、計画されたパスとの効率的な角度アライメントを達成するためにロボットを後退移動させる傾向があります。

初期アイデア

最も直感的なソリューションはPrefer Forwardクリティックを使用し、そのウェイトをPath Angleクリティックよりも高いコスト貢献になるようチューニングして、後退動作に対抗することです。しかし、手動でこれをチューニングする場合(つまり: 盲目的にウェイトを調整する)、いくつかの疑問が残ります:

これらのコストを実際の値で数値的にどのように見るか? そして2つのメトリック間でどちらが高いか比較するか
異なる潜在的なウェイト値(どのクリティックか不確実な場合は多数になる可能性)を結果軌道と並行して迅速かつ簡単に検証する方法は?

Artefactsを使用して、これらの答えをサポートします:

数値的なクリティックコストデバッグ: この機能はROS Kiltedのために最近開発されたもので、Nav2によるものです。私たちはそのMPPIプラグインをHumbleバージョンに移行し、プロッティングツールキットに統合しました。
パラメトリゼーションされたウェイト値: これらのパラメトリゼーションされたシナリオをクラウドインフラストラクチャで並列に迅速に実行し、Artefactsダッシュボードのラン比較で結果軌道と並行してクリティックコストを簡単に表示します。

テストのパラメトリゼーション

artefacts.yamlはテストをセットアップし、次のようにパラメトリゼーションします:

nav2_mppi_tuning:
    type: test
    runtime: 
      framework: ros2:humble
      simulator: gazebo:harmonic
    timeout: 10 # minutes
    scenarios:
      defaults:
        output_dirs: ["output"]
        metrics: "output/metrics.json"

        params:
          controller_server/FollowPath.PreferForwardCritic.cost_weight: [0.0, 5.0, 70.0] 

      settings:
        - name: reach_goal
          pytest_file: "src/locobot_gz_nav2_rtabmap/test/test_mppi.py"

キーポイント:

テストはpytestを使用して実施され、pytest_fileは私たちのテストファイルを指します
Artefactsはoutput_dirsで定義されたフォルダ内のファイルを収集し、ダッシュボードにアップロードします。
controller_server/FollowPath.PreferForwardCritic.cost_weight: ウェイト値をパラメトリゼーションします(クリティックコストデバッグプロットの観察後に取得)。ここでの構文はROSパラメータを示し、このフォーマットに従います: [NODE]/[PARAM]、そしてNav2パラメータ.yamlファイルで見つけることができます。

テストは3つのウェイト値で3回実行されます: 0.0(貢献なし)、5.0(中程度の貢献)、70.0(高い貢献)。

クイック分析

Artefactsダッシュボードのラン比較はクリティックデバッグプロット(“Critics vs Time”)と結果軌道プロット(“odom vs gt positions”)を可視化します。ここでodomはロボットの推定オドメトリで無視でき、gtグラウンドトゥルースポジションに注意を払います。

クリティックデバッグプロットでは、1つのクリティックをダブルクリックし、次に任意の次のクリティックをシングルクリックすることで、関心のあるクリティックを分離できます:

ウェイト0.0はゼロコスト貢献をもたらし、ウェイト5.0はPreferForwardCritic貢献をPathAngleCriticとほぼ同じに上げ、一方ウェイト70.0はその貢献を十分に上回ることができることがわかります。

軌道プロット(HTMLまたはCSVフォーマット)はPreferForwardCritic貢献の増加の影響を示します:

PreferForwardCriticの貢献がPathAngleCriticを上回るまで(ウェイト70.0)、ロボットのいくつかの「後退移動」動作が残り、一方ウェイト70.0はLocobotが前進のみすることを成功裏に保証できることがわかります。

出力ビデオも結果を確認します:

min_velocity_x、traverse_time、traverse_dist、PreferForwardCritic.costs_meanなどの数値メトリックは、可視化なしで結果を迅速に検証するために使用できます:

備考

PreferForwardCritic(ソフト制約)はロボットの後退を避けるためのチューニングプロセスでこのデモでターゲットとされましたが、別のアプローチは単にvx_min = 0.0(ハード制約)を設定することで、これはコントローラーが負の前進速度をサンプリングすることを防ぎます(本質的に後退の厳格な禁止)。「ソフト制約」のウェイトを増やすと前進移動がはるかに可能性が高くなりますが、すべての前進サンプルが悪い場合(つまり: パスがブロックされている、狭い廊下でゴールがロボットの後ろにある)、MPPIは後退軌道を選択できますが、これは「ハード制約」の場合は不可能です。

しかし、一般的な慣行として最も単純なアプローチ(vx_min = 0.0の設定)から始める場合、または後退動作が望ましくない他の状況に対処しようとする場合(つまり: 後退移動でのステアリング問題、またはロボットが単に後退できず、狭い廊下にいる)、同様のパラメトリゼーションされたテストプロセスは、Artefacts .yamlコンフィギュレーションを拡張する(新しいジョブを追加する)ことで単純に実施できます。

テスト後に利用可能なデータ

ROSbag
ログ
Locobotのビデオ/イメージ
jsonフォーマットのメトリック
HTMLフォーマットのクリティックデバッグプロット
HTML、CSVフォーマットの軌道

Artefactsツールキットヘルパー

このプロジェクトでは、Artefacts Toolkitから次のヘルパーを使用しました:

get_artefacts_params: どのPreferForwardCriticウェイト値を使用するかを決定するため
extract_video: 記録されたrosbagからビデオを作成しました
make_chart: 同一のHTMLチャート上に複数のプロットを作成し、クリティクスのデバッグをサポート

4 - RL ポリシーと Tron1

Tron1 を使用した異なる RL ポリシーのテスト

デモはこちら。注：登録が必要です。

概要

Tron1 ロボットは、ヒューマノイド RL 研究に使用できるマルチモーダル二足歩行ロボットです。ソフトウェアの多くはオープンソースで、こちらにあります。

このプロジェクトでは、2 つの強化学習ポリシーを 2 つの補完的な条件で評価します：

移動テスト：明示的な移動コマンド下でのタスク実行を評価
アイドルドリフトテスト：移動コマンドを与えない場合の受動的安定性を評価

これらを組み合わせることで、ポリシーの 能動的な歩行性能 と 内在的な安定性特性 の両方を確認できます。

テスト対象のポリシー

高レベルの目的(二足歩行)は同じですが、訓練環境と設計上の前提が異なる2つの強化学習ポリシーを比較します:

isaacgym
NVIDIA Isaac Gymを使用して訓練されたポリシーで、高速で大規模なシミュレーションと効率的な最適化を重視しています。これらのポリシーは通常、簡素化または厳密に制御された動力学の下で、コマンドされた動作の堅牢な実行を優先します。
isaaclab
Isaac Labを使用して訓練されたポリシーで、モジュール性、より豊かなタスク抽象化、下流のロボティクスワークフローとの密接な連携を重視しています。これにより、ポリシーに追加の内部構造と制約が導入されることがよくあります。

実装の詳細とトレーニングセットアップは以下で入手可能です:

動作テスト: コマンド動作下でのポリシー比較

まず、ロボットに開始姿勢から前進および回転するよう指示する動作テストを実行します。これにより、各ポリシーがシンプルだが重要な移動タスクをどの程度うまく実行するかを評価します。

テスト自体は以下の通りです:

5メートル前進
150度回転
固定タイムアウト内でタスクを完了

テストのパラメータ化

artefacts.yaml で以下のように設定します：

policy_test:
  type: test
  runtime:
    framework: ros2:jazzy
    simulator: gazebo:harmonic
  scenarios:
    defaults:
      pytest_file: test/art_test_move.py
      output_dirs: ["test_report/latest/", "output"]
    settings:
      - name: move_face_with_different_policies
        params:
          rl_type: ["isaacgym", "isaaclab"]
          move_face:
            - {name: "dyaw_150+fw_5m", forward_m: 5.0, dyaw_deg: 150, hold: false, timeout_s: 35}

ポイント：

テストは pytest で実行します（pytest_file でテストファイルを指定）。
ダッシュボードへのアップロードは output_dirs の 2 つのフォルダを参照します。
パラメータセットは 2 つ：
1. rl_type: "isaacgym"、"isaaclab"
2. move_face: 前進 5m、回転 150 度、タイムアウト 35 秒

テストは 2 回実行し、1 回目に isaacgym、2 回目に isaaclab を使用します。両方とも move_face の設定で移動距離と回転量を決めます。

結果：isaacgym

isaacgym ポリシーでは、バードアイ動画で回転後に前進している様子が確認できます：

ダッシュボード上でも成功として記録されています：

テスト中に作成したグラウンドトゥルース軌跡の csv も、自動でチャートに変換されています。

結果：isaaclab

isaaclab ポリシーでは、まだ改善が必要です。ダッシュボードではテスト失敗（失敗したアサーションを表示）となり、バードアイ動画でも目標未達がわかります。

推定軌跡（ロボットが「自分はこう動いた」と考えている軌跡）の csv（自動チャート化）もあり、グラウンドトゥルースと大きく異なります：

アイドルドリフト比較（静止ロボット）

移動テストはコマンド下でのタスク実行を評価します。これを補完するため、アイドルドリフトテスト（移動コマンドを一切与えないテスト）も実施します。

ロボットをニュートラルな直立姿勢に初期化した後、速度・姿勢・歩行コマンドはいっさい送りません。ポリシーは通常通り動き続けるため、観測される挙動はすべて非コマンドのものになります。

このテストはタスク実行とは独立した 受動安定性の挙動 を見ます。

テスト構成と時間スケール

アイドルドリフトは 2 つの時間スケールで評価します：

10 秒：立ち上がり直後の過渡挙動や短期バイアスを観察
60 秒：ヨーの累積的なズレや平面内の緩やかな漂いを観察

両方を見ることで 短期安定性 と 長期の平衡挙動 を切り分けられます。

パラメータ設定

policy_drift:
  type: test
  runtime:
    framework: ros2:jazzy
    simulator: gazebo:harmonic
  scenarios:
    defaults:
      output_dirs: ["test_report/latest/", "output"]
      metrics: "output/metrics.json"
      pytest_file: test/art_test_drift.py
    settings:
      - name: idle_drift_compare_policies
        params:
          rl_type: ["isaacgym", "isaaclab"]
          durations_s: [10, 60]

ポイント：