ビビアン・バラクリシュナン、国連総会でAI安全について述べる

字幕言語： ja · 取得日： 2026-09-28

あなたは核のボタンを人類とAIのどちらが管理すべきかについて考えてください。この問題について深く考えてみてください。AIは非凡なポテンシャルをもたらしていますが、その能力の発展速度は、その危険性についての我々の認識をはるかに上回っています。しかし皆様、魔神はすでにボトルから出てしまいました。今、停止を要求するには遅すぎます。特に、超大国間の競争と、最先端モデル企業をすでに保有している側の巨大な経済的インセンティブを考えると、なおさらです。では、高性能自動車の運転についての比喩を使わせてください。高性能自動車を迅速かつ安全に運転するには、強力なエンジンが必要です。しかし同様に、優れたブレーキも必要です。特に、自分たちのコミュニティを超えたり、境界を越えたりする場合は、効果的な共通ルール、信号機、保険、行為規範、シートベルトが必要です。エンジンはイノベーションなのです。

しかし考えてみれば、あらゆる強力なエンジンには優れたブレーキが必要です——保障措置です。AI能力の進歩に伴い、我々の保障措置もそのペースについていく必要があります。我々は配置前に厳格なテストと評価を実施する必要があります。我々は自動システムの機能に明確な制限を設定し、その動作が我々の意図と合致しない場合には干渉メカニズムを確立する必要があります。AIのリスクは国境に限定されないため、これは我々が、いかに集団的にこの課題に対処するかについて、共通のグローバルな理解を形成するための一組のルールを制定する必要があることを意味します。これは、我々がニューヨーク、北京、モスクワ、またはシンガポールにいようとも、交通信号についての理解が皆同じであるのと同じです。最も重要なのは、人類は最終的に統制権と説明責任を維持する必要があります。極端な思想実験についてお話しさせてください。

あなたは核のボタンを人類とAIのどちらが管理すべきかについて考えてください。この問題について深く考えてみてください。現在の希少資源は法的枠組みでも技術でもありません。むしろ信頼です。信頼とは——リスクが開示され、テストが包括的で信頼でき、協力が包括的であり、一方的な優位を獲得するために使用されないことです。