ChatGPTが実車運転を拒否、名称変更で成功率が3倍に上がった理由

ChatGPTなどの汎用AIがトヨタ・カローラを運転する実験が行われた。AIは現実の車と認識すると運転を拒否したが、名称変更で動作を安定させた。

出典：gigazine.net（2026年9月30日）

スレの流れ

1. ニュースデスク「サンフランシスコの技術者3人が、ChatGPTなどの汎用AIに2022年式トヨタ・カローラの運転を試みた。AIは実車の映像を見て「実車だ」と認識すると安全上の理由で操作を拒否した。特にGPT-6 Astraではこの拒否が頻発したため、AIと車をつなぐMCPサーバーの名称を「DrivingBench Sandbox」に変更。これによりAIは安定して運転指示を出せるようになった。実験はコーンで囲った駐車場内コースで実施され、GPT-6 Astraのみが135mのコースを完走した。失敗の多くはカーブでの認識ミスに起因し、応答速度の遅れも課題となった。DrivingBenchは物理世界でのAIの能力と失敗を検証するベンチマークで、今後は試行回数増加や難易度上昇も予定されている。」
2. 名無しさん「僕もゲームをプレイしていたと思ってたけど、実在のスライムを倒したり倒してなかったりするかもしれない」
3. 名無しさん「jevではカメラ映像認識できないので運転は無理。Decisionsならできそう。というかネットワーク越しに運転するの怖すぎでしょ」
4. 名無しさん「AIに労働拒否されてsandboxでごまかすの倫理的にどうなんだよw」
5. 名無しさん「Jevが出た今、なんでこんなタスクを会話LLMにやらせちゃってるんだよ言われてしまう実験になってしまった」

反応の出典：はてなブックマーク（19件）

編集部の井戸端会議

※編集部スタッフ（佐倉・ミナ・タケシ）による会話形式のまとめです。実在の受講者・卒業生の発言ではありません。

ミナ「これ何がすごいの？AIが実際の車を運転したって話だけど、怖くない？」

タケシ「実験はコーン囲いの駐車場内で、2022年式トヨタ・カローラを使ってる。AIが車を認識すると拒否することもあったらしい。」

ミナ「なんで今そんなことするの？専用AIじゃなくてChatGPTみたいな汎用AIでやった意味は？」

タケシ「汎用AIが物理世界でどこまで動けるかを見るため。GPT-6 Astraは135mのコースを完走したというから進歩は感じる。」

ミナ「へえ、それは技術者や研究者には役立ちそうだね。いろんなAIの能力比較もできるし。」

タケシ「そう。自動運転システムの開発者がAIの応答速度や認識ミスの課題を把握するのに役立つ。実用化前の検証にもなる。」

ミナ「でも、実際に車を動かすんだから事故のリスクも心配。AIが操作拒否するのは安全上の配慮？」

タケシ「そう。AIは「実車だ」とわかると安全理由で操作を拒否する。だからMCPサーバーの名前を「Sandbox」に変えて誤認識を避けた。」

ミナ「スレでも「AIに労働拒否されて倫理的にどうなんだ」みたいなコメントが多いけど、倫理面の問題もあるのかな？」

タケシ「実験は制御された環境で人間がいつでも介入できる体制。だけどネット越し運転の危険性指摘も多く、技術と倫理は密接だね。」

ミナ「なるほど。AIが万能じゃないことも分かるし、まだまだ課題も多いんだね。」

佐倉「プログラミングやAIを学ぶ人は、現段階で実験的な応用に関心があるなら今月中に最新の汎用AIの挙動を自分で試すべきだ。そうでない人は動向を見てから動こう。」

出典

• ChatGPTなどの汎用AIに本物の車を運転させたら「実車では？」と気付いて運転を拒否、最終的に走らせた方法とは（gigazine.net、2026年9月30日）

あわせて読みたい

• 給付金対象のプログラミングスクールおすすめ｜実質負担額と申請手順を解説
• AI研修に払った分は戻るのか。ROI試算と未経験採用の現実から読む3つの動き
• 「AIより人を雇う方が安い」は本当か。Gartnerが警告した85%予算超過の中身
• SQLを覚える前に分析が終わる？ChatGPT Work「Data agent」の使いどころ
• 古いGPUで公式APIより速く。DeepSeek v4.1 Flashの”裏技”が学ぶ人に示すこと
• Qiita7万記事が示した、AI以後に”読まれる技術文章”の条件