📖 読了まで置10分
World Startup Report

AIが失敗した時、どう責任をとるのか?新時代のサポートシステムとは

AU
ABOUTUS編集部
World Startup Report
World Startup Report

Waymo、YouTube、AWS出身の精鋭創業チーム

今や日常でAIエージェントを駆使する時代がやってきた。コードを書くAI、メールに返信するAI、カスタマーサポートを行うAI2025年、あらゆる領域で自律的に動くAIエージェントが登場している。しかし、ある一つの根本的な問いが置き去りにされている。「AIが失敗したとき、誰がどうやってリカバリーするのか?」

この問いに正面から挑むのが、Abundantだ。

自動運転、世界最大の動画プラットフォーム、世界最大のクラウドインフラ3人全員が「AIと人間の境界線」で仕事をしてきたプロフェッショナルだ。AIが完璧ではないことを誰よりも知っているからこそ、彼らはAIの不完全さをカバーする仕組みを作ろうとしている。

AIが判断不可能な1%をどうサポートするのか?自動運転が教えてくれたこと

AbundantのCEO・Jesseが持つWaymoでの経験は、このスタートアップの根幹をなしている。

Waymoの自動運転車は、AIが99%の走行を自律的に処理できる。しかし残りの1%工事中の道路、予期しない歩行者の動き、地図にない新しい道でAIは判断に迷う。このとき、遠隔地にいる人間のオペレーターがリアルタイムで介入し、車両に指示を出す。これが「テレオペレーション」と呼ばれる仕組みだ。

85%削減
テレオペ導入後の
衝突インシデント

99%
AIが自律処理
できる走行の割合

1%
人間の介入が
必要なケース

重要なのは、この仕組みがただの「バックアップ」ではなかったことだ。人間のオペレーターが介入したデータは、AIの学習データとしてフィードバックされる。AIが迷った場面で人間がどう判断したかを学習し、次回同じ状況に遭遇したとき、AIは自律的に対処できるようになるのだ。

Jesseはこの知見を、自動運転以外の領域に展開できると確信した。カスタマーサポートのAI、営業メールを書くAI、データ分析をするAIあらゆるAIエージェントには「失敗したときの安全網」が必要だ。そしてその安全網は、単なるフォールバックではなく、AIを進化させるフィードバック機構であるべきだ。

Abundantが提供する、AIを助けるAPIとは

Abundantのプロダクトは、技術的にはシンプルな概念だ。AIエージェントが失敗またはスタックしたとき、リアルタイムで人間のオペレーターに引き継ぐAPIを提供する。

  • 1
    AIエージェントの監視顧客企業のAIエージェントの動作をリアルタイムでモニタリング。信頼度スコアが閾値を下回ったら自動検知。
  • 2
    人間オペレーターへの即時引き継ぎAIがスタックした瞬間、コンテキスト情報とともに人間オペレーターに引き継ぎ。待機するオペレーターが数秒以内に対応。
  • 3
    人間の介入内容をAIにフィードバックオペレーターがどう対処したかを構造化データとして記録。このデータがAIの再学習に活用される。
  • 4
    AIの自律性が向上フィードバックを取り込んだAIは、次回同じ状況で自律的に対処。人間の介入率が徐々に低下していく。

これを、Abundantは「Human-in-the-Loop as a Service」と呼んでいる。従来、AIエージェントを導入する企業は、失敗時のリカバリーを自社で構築しなければならなかった。専任のオペレーターを雇い、監視体制を整え、フィードバックの仕組みを設計するこれは本業とは関係のない、しかし不可欠な投資だ。

自前構築 vs AbundantHuman-in-the-Loop
自前構築
コストと複雑さ
専任チーム採用、24/7のシフト体制、監視ツール開発、フィードバックパイプライン構築。本業ではない投資が膨大

vs
Abundant
API一行で統合
既存のAIエージェントにAPIを接続するだけ。オペレーター、監視、フィードバック全てAbundantが提供

Abundantはこの複雑さを丸ごと引き受ける。APIを一行追加するだけで、AIエージェントに「安全網」が装備される。オペレーターの確保、トレーニング、シフト管理、品質管理すべてAbundant側が行う。顧客企業は自社のAIエージェントの改善に集中できる。

同じ過ちを繰り返させない。フィードバックループ

Abundantの本当の価値は、「人間がAIを助ける」ことだけにあるのではない。「助けた結果がAIの学習データになる」というフィードバックループにこそ、真の価値がある。

多くのAIスタートアップが見落としているのは、AIモデルの精度向上には「良質な失敗データ」が不可欠だということだ。AIが正しく動作しているケースからは、改善の余地は見つからない。AIが失敗し、人間がリカバリーしたケースこそが、AIを賢くする最も貴重なデータなのだ。

Phase 1
AIエージェント導入直後
人間の介入率が高い(20~30%)。しかしすべての介入が学習データとして蓄積される。

Phase 2
フィードバック反映後(1~3ヶ月)
介入データを反映したAIモデルに更新。介入率が10~15%に低下。定型的な失敗パターンをAIが自律処理。

Phase 3
成熟期(6ヶ月以降)
介入率が5%以下に。人間は本当にイレギュラーなケースだけを処理。AIの信頼性が飛躍的に向上。

この仕組みが意味するのは、Abundantを使えば使うほど、AIの介入コストが下がっていくということだ。顧客にとっては最初のうちはコストがかかるが、フィードバックループが回るにつれて、人間の介入頻度は減少し、コストも低下する。

これは、AWS出身のMejiの専門領域でもある。AWSのEC2は「99.99%の稼働率」を謳っている。しかしそれは、障害が起きないことを意味するのではない。障害が起きたとき、いかにシームレスに回復するかという仕組みの積み重ねだ。AbundantはAIエージェントの世界に、同じ思想を持ち込もうとしている。

「AIエージェントの安全網」を生み出した

Abundantは2025年のY Combinator Winter 2025(W25)バッチに参加している。AIエージェントが最大のトレンドとなった2025年において、「AIエージェントの安全網」というポジショニングは、VCの間でも高い注目を集めている。

なぜこのタイミングなのか。2024年から2025年にかけて、AIエージェントの導入が急速に進んだ。しかし同時に、AIエージェントの「失敗事例」も表面化し始めた。誤った情報を顧客に伝えてしまうカスタマーサポートAI。意図しない値引きを承認してしまう営業AI。重要なメールを見落とすスケジュール管理AI。

AIエージェントの失敗が引き起こすリスク
01 ブランド毀損
AIが不適切な回答をした場合、SNSで瞬時に拡散。一度の失敗で築いたブランドが傷つく。

02 財務的損失
営業AIが誤った契約条件を提示。AI承認の値引きが利益を直接圧迫する。

03 コンプライアンス違反
金融や医療分野でAIが規制に反する対応をした場合、法的リスクが発生。

こうしたリスクが顕在化するにつれ、「AIエージェントを導入したい。でも失敗が怖い」という企業が急増している。Abundantは、まさにこの「導入のボトルネック」を解消するソリューションだ。AIエージェントの導入リスクを劇的に下げることで、市場全体のAI導入を加速させる。

日本への導入、妥協を許さない姿勢

Abundantの物語が日本に特に響く理由がある。それは、日本の「品質第一」「ゼロ不良」の文化とhuman-in-the-loopの思想が、驚くほど親和性が高いからだ。

トヨタ生産方式の「アンドン」を思い出してほしい。製造ラインで異常を検知した作業者がアンドンコードを引くと、ライン全体が停止する。問題が解決されるまでラインは再開されない。これは、品質を犠牲にしてスピードを優先しない、という哲学の具現化だ。

日本企業がAIエージェントの導入に慎重なのは、技術への理解不足ではない。「不完全なものを顧客に出したくない」という品質へのこだわりだ。この慎重さは、むしろ強みだ。Abundantのようなhuman-in-the-loopの仕組みがあれば、日本企業の品質基準を満たしながらAIエージェントを導入できる。

  • 1
    カスタマーサポートの段階的AI化日本の手厚い顧客対応文化を維持しながら、AIで効率化。AIが対応に迷ったら日本語ネイティブのオペレーターに即座に引き継ぎ。
  • 2
    製造業の検査工程画像認識AIによる品質検査で、AIの判定に疑義がある場合は人間の検査員がダブルチェック。ゼロ不良の文化とAIの効率を両立。
  • 3
    金融サービスのコンプライアンスAIが処理する金融取引のうち、コンプライアンスリスクが高いものだけ人間が審査。規制対応とスピードの両立。

日本にもAbundantの日本版を作るチャンスがある。品質にこだわるからこそ、AIの失敗を許容できるフレームワークが必要であり、それを体系化できるのは、品質管理の歴史を持つ日本だからこそかもしれない。

AIが完璧になる日は、おそらく来ない。少なくとも、あらゆるエッジケースに対応できる汎用AIは、まだ遠い未来の話だ。だからこそ、「AIが失敗したとき、誰がどうやってカバーするか」という問いは、AIの時代における最も重要なインフラの一つなのだ。

← 前の記事
AIネイティブな法律事務所。Soxton AIが変える起業の法務
次の記事 →
AI時代の課金をどう管理する?
すべての記事を見る →
TOP