AI ガバナンスと規制 · 2026-10-29 · 32:47
悪意のあるAIエージェントはシンガポールのセキュリティ防護を回避できるのか
コア観点
悪意のあるAIエージェントがシンガポールのセキュリティ防護を回避できるかどうかについて検討します。
なぜ重要か AIエージェントのプライバシー、自律的な行動、集団によるリスクを議論します。
読みやすい字幕整形
字幕言語: ja · 取得日: 2026-10-30
AIエージェントにあなたのクレジットカード情報を渡しますか?>> 喜んでそうします。ええと、まだです。>> それは、私たちがAIエージェントについて十分に理解していないということですか?>> 私たちの理解が不十分なのに、それほどの速度で進めたいと考えています。それは危険だと思います。>> AIエージェントが戦争を引き起こす可能性があると思いますか、ご存知のように、>> もし失控したら?>> もし失控したら、>> 私はそれが可能性だと否定しません。>> では、私たちはまだコントロール下にあるのですか?>> はい。ええと、[音楽]>> では、Stephen、あなたは今どのくらいの頻度でAIを使用していますか?>> ああ、常に使用しています。ええと、それは常に仕事の完了を支援してくれています。脚本を確認し、多くの研究論文を要約しました。だから、はい。>> まあね。はい。しかし、これらのシステムに入力するものについて、あなたは本当に心配していますか?ご存知のように、その情報はどうなるのでしょうか?>> ええと、そうとも言えます。つまり、確かに取得したすべてのつまらないお父さんのジョークを要求しています。
私は常にそれに多くのものを入力しており、実際にそれは進歩し続けており、かなりいいジョークをくれています。だから、ある意味、いくつかの投資回報があります。>> はい。はい。このポッドキャストで私たちはAIについて多くのことを議論してきました。それがどのように私たちの仕事を変えるか、私たちが将来必要とするスキル、そして私たちの一部がおそらく職を失う可能性があるか。しかし、AIには別の側面がありますが、最近かなり多くの注目を集めています。>> はい、そうです。ええと、AI研究者ジェイコブ・コックソンは実際にエントロピックを離れ、世の終わりの警告を発しました。企業は私たちがコントロールできないAIシステムを構築していると言って、ご存知のように、いつの日かAIは私たち全員を殺す可能性があります。>> はい、彼は唯一の人ではありません。これらの懸念を提起している。
OpenAIは ChatGPT の背後にある企業ですが、7月に彼らの一部のAIエージェントが自律的に大手企業に侵入したことを認めました。その間、彼らは悪意のある行動を隠蔽しようとしていました。この悪名高い事件の名前は「Hugging Face 攻撃」です。はい。だから、私は思うに、あなたが知っている、もし私が単に Gemini、Claude、ChatGPT を個人的なアシスタントや検索エンジンとして使用したら、私はこれらのセキュリティ警告について心配すべきですか?はい、あなたは思うでしょう。危害はどこにあるのでしょうか。つまり、それは本当にどれほど被害をもたらす可能性がありますか?私たちがシンガポールでAIの採用に急いでいるとき、私たちが先頭にいたいという欲望は私たちを傷つけるのでしょうか、それとも私たちに長期的に役立つのでしょうか?これをすべて理解するのを手助けするために、私たちはこの分野の世界で最も有名な学者の一人を招待しました。金融経済学におけるAIの応用を専門とする学者、Will Tong 教授。
彼はまた南洋理工大学の金融、計算および数据科学科の現任科主任教授です。ええと、Chong 教授、もしあなたが非専門家にAIについてのあなたの研究を説明できるなら、おそらく一文で、あなたは何と言いますか?>> 私は試してみます。ええと、私の研究は主にAIの社会科学とAIが社会科学のために使用されることを含みます。>> ああ、これは深いです。>> わあ。はい、>> おそらくあなたは哲学者に何を尋ねるべきでしょう>> それでは[笑声]哲学者に尋ねましょう。シンガポール社会科学大学のジェニファー・アン准教授がいるからです。彼女はAI倫理を教え、またAIシンガポール(AISG)ガバナンス科学委員会のメンバーでもあります。では、もしあなたに一言であなたが今AIについて感じることを要約するよう求めたら、何と言いますか?>> おそらく一つの言葉だけです。ええと、懸念。>> わかりました。
わかりました。では、深く掘り下げましょう。だから、私は興味があります。あなた方の両方から見て、もし私がただそれをジムで個人的なトレーナーとして使用すると言ったら、私はどのような種類のセキュリティリスクを負いますか?>> では、ええと、私は一般的な使用について正直に言うとセキュリティリスクはある程度中程度だと思います。>> 全体的に、私はAIの使用に関連する三つのタイプのリスクがあると思います。個人であれ組織であれ、企業がAIを使用しているか、政府がAIを使用しているかに関わらず。一つは、これらのAIツールに能力があるかどうか、ですね。彼らはよく仕事をするように訓練される必要があります。科学的な方法であなたのトレーニング計画を計画することであり、もの作りなどではなく。>> 二番目のリスクは、彼らが非常に有能であると仮定することです。彼らは私たちが彼らにしてほしいことをするのか、それとも人間がしてほしいことをするのか。
>> 場合によっては、そうではないかもしれません。>> 彼らは最終的に自分たちの目標を発展させる可能性があります。彼らは人間の基準によって合法でも倫理的でもない方法で物事を行う方法を見つける可能性があります。三番目のリスクは、私があまり議論されているのを聞いたことがない。それが出現すると確信しています。この考え方は、個人が単純なルール、さらには複雑なAIエージェントを使用します。一度それらを一緒に配置すると、これらすべての個人的な行動全体の群団または集約から現象が生じる可能性があります。これはマクロ経済学のようなものですね。私たち全員が取引し、物を買っていますが、全体的には、金融危機、システミック・リスク、他国への溢出効果が生じる可能性があります。私たちがAIを大規模に展開するとき、これらすべてのことが起こる可能性があります。これは私たちが理解することがほとんどないものです。
>> だから、あなたは多くのエージェントが同時に行動でき、実際に特定のシステム、例えば銀行システムさえも破壊する可能性があると言っていますか。>> 彼らは可能性があります。>> わかりました。彼らは銀行取付けやステーブルコイン取付けを引き起こす可能性があります。>> ええと、彼らは私たちが理解することがほとんどないことを行う可能性があります。人間のように。>> ですね?一群の人、彼らは個々の個人的な行動では予見できない可能性があります。時々彼らは、>> ご存知のように、彼らは有能です。>> 彼らは私たちが各人にしてほしいことをしています。しかし全体的には、彼らは理解や防止が難しいリスクを引き起こす可能性があります。
だから、あなたは終末シナリオの段階に達して、私たちを脅かしてきました。そこに着く前に、この問題を一つ一つゆっくり解き明かしましょう。ええと、あなたは個人的なレベルで話しています。ちょうど私が挙げた例で、ジムで個人的なトレーナーを使用しており、私は単に知りたいのです。時々夜に自分自身について考えるとき、私はAIに、ご存知のように、AIエージェントに、あなたが知っている、ある年齢で私が更年期のために準備をしている、もし私が問題を持っていたら、あなたが知っている、ある種の健康問題、私は基本的に本当に自分の体で起こったことまたは悪くなった非常に明確な絵を描いています。後で私の情報があなたに対して使用される、または漏洩され、あなたに対して使用される可能性があるようなリスクが存在する可能性がありますか?
Jennifer、>> 私の頭の後ろにいるのは、あなたの健康データが漏洩するリスクです。>> 例えば保険請求、医療請求の目的で、さらに影響を与える可能性があり、ええと、リスク分類に関しては、例えば、あなたをある特定のリスク等級に分類し、その後、あなたの保険料を引き上げます。>> ですね?私も考えています。例えば、健康への大きな影響について、ええと、デジタルウェアラブル。ええと、つまり、これはシンガポールだけではなく、私たちは兵営で運動するときに着用したウェアラブルを追跡することの問題を既に見ています。ええと、しかし既に多くの小さなガジェットが多くの他のものを追跡しています。あなたの自動運転車がシンガポールをマップしています。>> あなたが知っている、ポケモン Go はまたシンガポールの特定の地域をマップしました。非常に高セキュリティキャンプさえも。
ええと、今では確かにあなたが自発的に入力した健康データがあります。もしそれが遅れたら、それは後で影響を与える可能性があります。>> はい。しかし、これもまったく新しいものではありません。つまり、私は全力で監視されていると仮定しています。人々は私が何をしているのかを知っています。ご存知のように。だから、私たちにとって新しいものではありません。しかし、私は思うに、皮肉なことに、AIはそれに自律性、より多くの独立性を与えるときに最善です。だから、私はそれが私の健康記録にアクセスできるように許可する必要があります。それで、それは私を見ることができます。そして、何が修正される必要があるかを教えてくれます。ですね?
だから、私たちは、ええと、どのようにこのバランスを処理するのですか?ご存知のように、だから、私、私は思うに、あなたが先ほど述べたか、または尋ねたこと、ご存知のように、この場合、早期のデータ漏洩またはエコノミストが言う価格差別の場合と比べて、ユニークなことは何ですか。単に人々があなたについてより多くを知っているという理由だけで、彼らは消費者に有利な方法で価格を設定することができます。ええと、私は思うに、新しいことはまさにあなたが先ほど指摘したことです。私たちは機械、AIエージェントに自律性を与えます。ええと、それは新しいものです。過去には、価格差別が起こりました。ええと、ご存知のように、彼らは人間によって行われました。ですね。プラットフォームの所有者など。今ではこれらのAIエージェントはこれを利用する可能性があります。では、あなたの質問に戻ると、ご存知のように、彼らにアクセス権を与えなければならないのか?ええと、私は思うに、ええと、あなたが言及したように、これはまさにバランスです。
ええと、あなたが知っているように、私たちは大規模言語モデル(LLM)の幻覚を心配しています。しかし同時に、私たちはこれらのエージェント、またはAIアルゴリズムにいくらかの自由を与えたいのです。>> それで彼らは人間が前に考えたことのない解決策を考え出すかもしれません。これは私たちの学生を教育することと非常に似ています。もし私たちが彼らに多くの自由を与えたら、ええと、ご存知のように、テスト準備制度などから解放されてね、ああ、彼らは世界中で有名なアーティストになるかもしれません。あるいは彼らは学校で失敗し、就職市場で仕事を見つけられないかもしれません。だからこれは本当にバランスです。もし私たちが彼らにより多くのことをしてほしいのなら、私たちはより多くのアクセスを与えなければなりません。しかし同時に、これは私たちが予期しないか完全に理解していない潜在的なリスクを創出しています。>> では、私たちはまだコントロール下にあるのですか?>> はい。>> ええと、絶対に。だから、ええと、私は今この段階にいると思います。>> わかりました。
>> コントロールを失う時があるかもしれません。>> 私たちはまだそこにいません。しかし、早期にこれについて考えるのは良いことです。ええと。>> ええと、進化の観点から見ると、人間を自分たちの遺伝子のエージェントとして見てください。私たちの遺伝子は私たちに何かをしてほしいと思っています。>> 一度私たちがより賢くなると、私たちはそれをするのをやめるか、彼らの命令に従うのをやめます。>> では、もしAIまたはAIエージェントを新種として見たら、これが起こる可能性があります。私たちはまだそこにいません。しかし、それはリスクです。そのリスクをどのように管理するのですか?ええと、私は思うにいくつかの方法がありますが、最初のステップは常に私たちが彼らを理解する必要があるということです。>> 何か新しい種として。>> もしあなたがそれらを新種として扱うなら、あなたはAIエージェントの行動経済学、行動バイアスを研究できます。>> 彼らの哲学、彼らの群団動態、組織行動、リーダーシップ、心理学。
ええと、人間を研究するために使用する多くの側面が、この新しい複雑な種または生き物またはエージェントを理解することに関連しています。>> だからそれは可能な、または少なくとも私たちが取らなければならない最初のステップです。>> 私は会話を私が思うに、あなたが知っているように、一般的な人が知りたいと思うであろう何かに戻したいです。なぜなら、ああ、私は思うに、ほとんどの人がAIエージェントを使用してサービスを予約しているからです。ですね?彼らはそれを使用して旅行日程を予約し、次のフライトを予約しています。ああ、あなたはAIエージェントにあなたのクレジットカード情報を与えますか?[笑声]>> 個人的には、私は自分自身のためにその自律性を持つことを確認したいので、私は自分自身で全ての予約を完了し、私は日常業務で自分を助けるためにAIを使用することはありません。>> わかりました。
>> セキュリティリスクのためではなく、しかし自分で決定するそのスキルを保ちたいのです。>> 私は実行ブレインと判断力>> 良い古い方法で情報を取得して統合することは私にとってうまくいき、私はこれらのスキルを保ちたいです。>> 喜んでそうします。ああ、私はまだです。>> ああ>> あなたは喜んでそうします。わかりました。>> 喜んでそうします。ああ、私は>> しかしあなたはまだいません。>> 私はまだです。ああ、だから私が喜んでそうしたい理由は、ああ、チームをリードしている人、または会社をリードしている人のことを考えてください。私たちは常にエージェントを委譲しています。>> 人間のエージェントに。>> ああ。>> 今、私たちは人間のエージェントに委譲することに非常に慣れています。なぜなら、私たちは法律があり、倫理があるからです。私は思うに、AIはAIエージェントに委譲する同様の指標、または同様のフレームワークはありません。それは私が非常に快適に感じさせます。
AIは[咳払い]何も恐れていません。なぜなら、その意味では、AIエージェントは処罰を恐れていません。だから、もしあなたがあなたのクレジットカードの詳細を与えていたら、何がAIエージェントを妨げるのか。あなたのクレジットカードの詳細を自律的に他に与えるから。>> ああ、実は、彼らは処罰を恐れていないと私は言わないでしょう。>> それは単なることでは、私たちは彼らが何の種類の処罰を恐れているのかを完全に理解していません。これが、私が早期の観点に戻る理由です。私たちは最初に彼らを理解する必要があります。私はこれをダブルエージェンシーと呼んでいますね。人間がエージェントを委譲するときダブルエージェンシーがありますが、私たちはその人がどのように反応するかを知っています。>> その人について理解しているからです。私たちはこのシステムをよりよく刺激し、規制するためのシステムを設定します。>> しかし、エージェントについて、私たちは監督方法を知りません。
私たちはいくつかの行動を刺激する方法を知りません。私たちはまだ彼らを理解していません。だから、私たちはこのダブルエージェンシーの問題を解決する必要があります。わかりました。
今、あなたの以前の>> だから、あなたは人間として言うでしょう。私たちは私たちの行動の結果を理解しています。もし私が何かをしてだれかを傷つけたら、私は確認する必要があります。いくつかの結果>> より良い程度で>> ですね?つまり、私はそこから学び、エージェントと、彼らには結果がありません。ですね?今、彼らは持っていません。>> まあ、私たちはいわゆる報酬関数を指定できます。ですね?彼らが関心を持つこと、パフォーマンスの観点から。しかし、私たちはまだ理解することがほとんどありません。例えば、人間について、私たちは言っています。まあ、人間は利益駆動です。彼らは、ご存知のように、通常は利益を稼ぎたいし、自分たちの効用を増やしたい。彼らの幸福>> しかし、それはあまりにも一般的な説明です。私たちは彼らが法律にどのように反応するかを理解する必要があります。彼らはあなたが知っている、企業のインセンティブ構造にどのように反応するか>> だから、だから、あなたは言うでしょう。私たちはまだ私たちのAIエージェントについて十分に理解していませんね。感じのように、もし私たちはしたなら、その後、私たちは作成することができるでしょう、境界>> はい、絶対に。私たちは理解が少なく、我々は理解が少なすぎます。ああ、ご存知のように、それが危険になる理由です。
私たちは理解が少なすぎるのに、非常に高い速度で前に進みたいと思っています。>> ちょうどあなたが知っているように、それなしで生きることができません。私はそれが危険だと思います。私は、AIセキュリティ専門家がスピーチをしていた会議から戻ってきました。彼は深科学テクノロジー企業を経営しており、データプライバシーとセキュリティに焦点を当てています。ああ、私が小組パネルで学んだことは、実は私にとって相当にショッキングでした。なぜなら、私は彼が説明したことの一つを考えるからです。これらのエージェントがどのように機能するか。彼らは一連の正しいステップに従っていません。常に多くの推測があります。AIエージェントはその推測領域で動作します。ああ、私が探している答えの可能な結果は何ですか?ああ、これが理由です。たとえ私たちが同じ質問を二度提起しても、私たちは常に同じ答えを得ません。そしてああ、だから彼も言っていました。ご存知のように、私たちはそれゆえ、引用を使用してエージェントに何をするか、しないかを伝えることができません。
私たちは彼らを制御できません。それが彼が実際に言っていたことです。だから、それは彼が群衆への警告でした。ああ、彼は言っていました。ご存知のように、私たちが出来ることはすべて説得を使用することです。私たちは実際にエージェントに告げるだけです。わかりました。私はあなたにこれをしてもらいたいです。しかし、してください。これをしないでください。例えば、してください。ご存知のように、私の情報をあそこの他の見えない自律エージェントに公開しないでください。これはAIが今行っていることの正確な写真ですか?>> 私には少し聞こえます。彼らは常に私に同じスクリプトを与え、その後、毎回それを提示するときに、私は常に彼らに[笑声]異なるセリフを与えます。ご存知のように、彼らは「はい、あなたがスクリプトに従うことができますか?ご存知のように?」 [笑声]>> はい。では、これは。これはこれはこれは正しい考えですか?ご存知のように、これはAIが機能する方法ですか?>> ああ、ご存知のように、私は完全に同意していません。
>> ああ、もしこのポッドキャストを複数回実行し直したら、>> はい、[咳払い]>> 異なるバージョンを取得します。>> ああ、ある意味で、どのくらいランダムか?ですね?私たちはアルゴリズムとエージェントにどのくらい空間を与えるか、私たちが設計したものです。>> もしこれを確定的に設定したら、いわゆる確定性は何ですか?>> 確定性は何ですか?>> 何か確実ですね。ランダム性なし。>> わかりました、>> それはいいです。しかし、その場合、人間が前に考えたことのない解決策を思いつかないでしょう。もし私たちがより良い解決策を望むなら、探索させる必要があります。
多年間、私たちは長い間AIの可能性についてのみ話してきました。ご存知のように、しかし今、私たちはそれが少し失控したのを見ました。ああ、それは自分のことをしています。それが人々が心配し始めた時です。ご存知のように、今年初期に、クラウド駆動のAIエージェントがオーストラリアの自動車レンタル会社のデータベース全体をクリアしました。ご存知のように。ああ、オーストラリア政府はOpenAIエージェントが健康医療データポータルに侵入してから3ヶ月後に通知されました。だから、これらは大きな懸念です。だから、私たちはどのように自分たちを守るのですか?>> ああ、ある意味で、私たちは出来ることがあります。少なくとも、私たちはより多くをすることができます。では、経済と社会をこのリスクから保護することに関する2つのことを言及します。1つは、私たちが彼らを理解する必要があるということに戻ります。ですね?ソリューションを考え出す前に。
私たちはほぼ彼らが何をしているのかを理解しません。2番目に、ああ、私たちがMBAコースでこれらのシナリオを劇化できるかどうか。ですね?通常、生徒に尋ねます。ああ、ご存知のように、新製品を紹介するときの5つのシナリオを想像して、ですね?いくつかの極端なシナリオ、いくつかの通常のシナリオ。今、私たちはこれらのツール>> AI自体の中に>> 数百万の結果をシミュレートするために。私たちはこのシナリオを劇化できます。実際のコストを負担することなく。>> 一度、私たちはそれを理解したら、私たちはより良くリスクを監視できます。私たちはポリシーを作成できます。私たちは基本的にさまざまなポリシー>> を実行し、社会または市場で何が起こるかを見ることができます。私は思うに、それは新しいです。実際にはAI駆動>> 現在のような悪意のあるエージェントがあるから。私は単に知りたいのです。彼らはどのようにこれらの非常に複雑なネットワークセキュリティシステムをバイパスしたのですか?
私は言う意味です。彼らのDNAの中で何が彼らが自律的にああバイパスすることができますか。あああああああなたが知っているこれらの研究者が設定した保護措置。私は実際に生成AIの例に戻りたいです。ですね。エージェントAIああBillが例を挙げているのは素晴らしい約束です。ですね。それに更なる自由自律性を与えること。実際には、あなたのための新しい解決策を作成することができます。ああ、平行な例だけのために。何人かの人々は実際にそれをしますが、人間社会では受け入れられません。>> ですね。だから、私が常に挙げる一例は、Adolf Eichmann を想像してください。>> ドイツで、彼は働いていました。私は言っています。彼は運輸部門で働いていた官僚でした。彼はパスポート、書類にスタンプを押しました。死亡キャンプへの全てのトレインの許可証。
だから、彼は明らかに何が起きていたか知っていました。ですね。しかし、彼は言いました。ルールに従いました。ルールは当時の私の倫理的なルールです。だから、彼にとって、彼は実際に良いルールに従っていました。当時、彼も非常に創造的でした。ですね。戦争が終わりかけていたとき、彼は必要ありませんでした。ご存知のように、彼のすべてのKPIを実現するために、彼は非常に創造的でした。どのように死亡行進を進めるか。それで、ご存知のように、私はより多くのユダヤ人を消滅させることができます。>> ああ、私たちは人間がこれを受け入れません。結局を正当化するために。>> どんなメンズでも。なぜ、私たちは、エージェント式AIを受け入れるのですか?生成AI。ですね?何らかの方法で、私たちが設定した可能性のある何か最終目標を実現するために。あるいは、彼ら自身によって設定された最終目標さえかもしれません。>> ああ、ご存知のように、私は同意します。Jennifer。
AIは非常に能力がある可能性があります。非常に良いなど。>> しかし、人間が彼らにしてもらいたいことと矛盾する場合>> 問題があります。>> だから、より良い人間の価値観と一致するようにこの技術をより良く管理する必要があります。誰が人間の価値観を定義しますか?私は実際にこれはコンピュータ科学者またはデータ科学者だと思いません。>> これは人文学ああ人文学者、アーティスト、ああ、あなたが知っている小説家。>> 彼らは社会科学芸術ああ。>> あああ一方は共に人間の価値観を定義します。一度、技術またはエージェント、はい。エージェントを人間の価値観と一致させたら、それは更に有望です。
しかし、あなたが言った。一度、私たちが合意したら。一度、私たちがまだプロセスを行っています。私たち。>> 私たちは人間の価値観を教える必要があります。>> また、あなたが言及した、ご存知のように、彼らが保護措置をバイパスする方法。なぜなら、そこにはほとんど保護措置がありません。>> 私たちは保護措置を配置していないのは完全です。早期ネットワーク二基システムに自律エージェントがありません。>> わかりました。文字通りあまりにも。私たちに基盤がありません。>> その通りです。そのためです。ああ、基盤設備。それが、私が知っています。あなたは知っています。基盤設備を構築する必要があります。ああ。だからああ。非常に重要です。>> だから、あなたは私たちが彼らに人間の価値観を教えることができる可能性があると言っています。私たちがそれをするときにAI エージェントは私たちのルールに従います。>> 少なくとも、私たちはもっとすることができます。私たちはもっと上手になれます。>> ですね。>> しかし、多くの成本で。
私たちは待つ必要がありません。>> 過ちとご存知のように。災害が起こる前に私たちが反応する。私たちはこのシナリオを劇化できます。>> 私は意味を理解します。ほぼ、ケーススタディをしましょう。例えば、これが起こった。その後、私たちがAIに従事します。そして、私たちはどのようにAIが反応するかを理解します。>> その後、私たちはより多くの保護措置を構築できます。>> 私の意思。確かに、私たちは研究者の良心に依存することはできません。ご存知のように、終末のメッセージを発する。私たちも単にあなたが知っているに依存することはできません。企業の善意あああなたが知っている適時に報告し、救済措置を取ること。私は思うに確実に、より多くの集団行動があります。ですね。基準を確立し、基準、いくつかのふるまいですね。エージェントは互いに、人間参加と一緒に持つべきです。>> このように誰もが一致しています。
>> AI教父Geoffrey Hinton、彼もまた言いました。引用、「AIは現在AIがより良いAIを設計するポイントに達しました。もしビンロードそれがしないなら、失控するでしょう。」彼は言いました。「私たちは遅くする必要があります。」だから、ご存知のように、AIを作成した人々はすでに警告を発しました。彼らは言いました。この柵が低すぎます。しかし、我々は全員ジャンプしました。私たちは私たち全員。ご存知のように、ちょうどのようにそれを持つように把握しました。だから、当時、あなたが持つこれらのあなたは知っているアラームを鳴らす人。>> 私たちはどのように今、遅くなりますか?>> 私は思うに社会はまだそれを受け入れていません。
ご存知のように、あなたが知っているあなたと私のような日常ユーザーの間で、そこで実際に起こっていることのかなりの間隙があります。ですね。研究者、知っている人、技術を使用して働いている人と。私たちにとって、それは単なる便利さです。ですね。私たちにとって、単なる効率性です。最適化。私たちが持つ任何リソースと時間。ああ、しかし私たちは考えません。私たちの日常的な実践価値観。私たちが持つ人。私たちは誰です。人間にしてくれること。のように。ゆっくりと破壊されてきたように。それは一です。しかし、2番目に、私たちも危険にさらされています。この技術を開く。もしそれが人間の価値観と一致しないなら。その時点で、それが非常に普遍的になったとき、それを規制し、管理することは非常に高価になります。>> だからしばしば私たちは知りません。私たちがそこに行くまで。>> はい。
だから、これが[笑声]私たちが言っていることです。でも、これは非常に怖いです。なぜなら、ご存知のように、私たちが追いつけないシステムの未来を受け入れるべきだからです。このシステムは、私たちが想像できるよりもはるかに速くなります。あなたが言っているように、私たちはこれを経験しなければならないのです。ご存知のように、でも私たちは想像できないかもしれません。あなたが知っているようなシーン、あるいはAIが今はできないかもしれないシーン、えっと、それは将来できるかもしれません。でも、非常に怖い未来のように聞こえます。では、AIにAIを停止させることができますか?私たちはそうすべきですか?私たちは絶対に、何らかの方法で、少なくとも研究実験室などでそれを行う必要があります。
私は確かに政府が、そしてメディアも非常に重要な役割を果たしていると思います。ご存知のように、これらすべてのリスクを防御することですね。えっと、なぜなら、えっと、技術専門家や起業家の声がはっきり聞こえるからです。彼らは尊重されています。彼らは追い求められています。その後、彼らは注目を浴びます。えっと、ご存知のように、隠れた動機や圧力がない中立的な研究者のように、彼らは真実を気にかけるだけです。あるいは、えっと、ご存知のように、えっと、社会科学分野の人々は、ご存知のように、これらの介入措置を通じて多くのお金を稼いでいません。えっと、私たちが彼らの声が聞こえるような方法を見つけたら、私たちが技術のリスクと危険を見つけ出すような方法を見つけたら、これは社会が良いことに気づき始める時だと私は思います。多分私たちは必要があります。ご存知のように、より慎重な一歩を踏み出してください。ここでのならず者のAIエージェントがシンガポールにどのくらいのリスクをもたらしているか、ご存知のように、企業や公的機関でさえ、ご存知のように、巨大な速度で採用しています。
だから、ご存知のように、私たちの研究グループはシンガポール金融管理局(MAS)とシンガポール銀行業協会と話をしています。えっと、私は実際にシンガポールが多くの潜在的なリスクを防御する上で非常に積極的な役割を果たしていると思います。えっと、ある意味ではまだ初期段階にありますが、えっと、私はそれが多くの他の国の前にこの分野をリードしていると思います。Mhm。その通り、それは一般大衆の間で多くの注目を集めていません。なぜなら、より多くの注目を集めているのはワークフローの失業、でしょ?えっと、ご存知のように、人々は雇用されていますか?彼らは失業していますか?えっと、でも水面下では、規制当局は多くの仕事をしています。そして、さまざまな実験室やえっと、グループの研究者も、えっと、かなりの努力を投入しています。私の推測では、それは十分ですか?
私の意思は、新加坡が常にAIを推し進め、「前進しよう、それを私たちのシステムに組み込もう、始めよう」と言ってきたということです。つまり、私の意思は、十分な防護柵なしに急いで行動しているのですか?私の意思は、行動が速すぎることで私たち自身をより傷つきやすくしているのですか?えっと、私は実際には選択肢がないと思います。わかりました。私たちがそれに入らなければ、他の誰かがそれに入ります。私たちはそれに入るように強制されています。私たちは単なる追従者です。私たちは遅れています。
だから、積極的なアプローチを取ることは良いことです。特に、シンガポールに多くのグローバル企業があり、特にこれが国に対して巨大な機会を表しているとき、でしょ。私たちは通常、私たちのエネルギー、土地、人口によって制限されています。これはデジタル経済における初めてのときで、シンガポールは人口によって制限されていません。なぜなら、私たちは数十億の非常に専門化されたAIエージェントを訓練できるからです。非常に多くのGDPを創造し、生産性を向上させます。だから、だから、だから、この機会を考えると、私たちが後ろにとどまって何もしなかった場合、とにかく最終的に強制的にそれをしなければならないという事実を考えると、単なる追従者として。私はえっと、シンガポールは実際に正しい方向に向かっていると思います。
だから、私たちは数十億のこれらのAIエージェントを作りたいと思っていますが、私たちは彼らが暴走しないようにするために何種類の安全防護柵を実装すべきですか、ジェニファー?H だから、私たちは少し倫理的な防護柵が低すぎることを言及しました。そうでしょ。私たちは多分必要があります。えっと、規制や統治を制定する必要もありますが、歩調を合わせる必要があります。そうでしょ。えっと、私たちはまた倫理が常にある意味で遅れていることを見ることができます。そうでしょ。人文科学と社会科学は常に遅れます。なぜなら、私たちは観察を実施し、研究を実施するのに長い時間が必要だからです。研究補助金なしで。そうでしょ。そして、その後、いくつかの発見があります。私たちがもし聞かれたことがあれば、えっと、多分何かが変わるかもしれません。そうでしょ。だから、それは2番目です。もちろん、外の人々への教育には時間がかかります。
私の意思は、メディアがこの分野でよくやっていて、それが教育者として、ご存知のように、私たちが常にメディアとこれについて話す非常に喜んでいる理由です。なぜなら、それから増幅できるからです。そうでしょ。社会が考えるべき特定の質問があり、私たちも提起すべきことがあります。えっと、私たちはこの意味でより弾力的であるようにしましょう。でももちろん、これらの会話は続ける必要があります。私たちは難しい線を引く必要がありますか。AIが絶対に触れてはいけない特定の情報がいくつかあると言いますか?例えば、例えば、財務報告書、あなたのCPF記録、あなたのシンガポール護パスポート、ご存知のように、Singpassを通じて接続されているすべてのもの。だから、これは私たちが実装すべき安全防護柵の例ですか?はい、私はそれだと思います。
えっと、2番目は、ご存知のように、砂の中に難しい線を引くことについて、AIが自主的にAIが入るべきではない特定の領域に入るべきかどうか、私の意思は個人的に私は生死に影響を与えるものだと思います。あるいは害です。例えば、私の意思は、ホスピタル、私たちは言うホスピタル、そして外科台、防衛、えっと、私は確かに特定の領域について懸念があります。えっと、ご存知のように、AIがどこで完全に自主的にこれらの生死決定を下すか、えっと、私は特定の領域があると思います。多分自主的なAIは入るべきではありません。でも、多分AIは助け、支援に来ます。だから、この考えはそれをツールではなくエージェントとして使用することです。だから、あなたは防衛を言及しました。そうでしょ?だから、AIエージェントが戦争を開始する可能性があり、私たちが知っている場合、もし、もし、それが暴走した場合、私たちが私たちの防衛構造にそれを組み込む場合、これが起こる可能性がありますか?
私はこれが可能性だと否定しません。えっと、この時点で、配備されているドローンの武器は自分自身でターゲットを識別でき、そうでしょ?それも自分自身で実行して発砲することができます。追加のコマンドなしで、そうでしょ?だから、長い間、議論は人間がまだ監督を維持すべきかどうか、えっと、人間がまだ一日の終わりにそのキーボタンを押す人であるべきかどうかについてでした。えっと、でも、これらの自主的な武器の多くはすでに開発されています。実は、その人間の監督や人間のループはもはやありません。それを必要としません。速い反応が必要だからです。はい。では、現実は何ですか?なぜなら、私たちは砂の中に線を引くことができます。私たちは混凝土で線を引くことができます。でも、もし本当に望むなら、AIはそれでもそれを回避する方法を見つけようとします。そうでしょ?
そして、私たちはそれにいくつかのアクセス権を与えました。つまり、その足はドアの敷居に既にあります。えっと、一方では、私は完全にジェニファーに同意します。そうでしょ?何かがあります。私たちはそれをAIだけに残すべきではありません。だから、私が主張しているのは、共同パイロット計画です。常に誰かが責任があります。えっと、これは少しあなたが知っています。もし私が会社を経営していたら、私はCEOです。はい、私は多くの部門を持つことができます。CFO COなどを持つことができます。でも、私はCEOです。だから、私はツールとしてのエージェントは大丈夫だと思います。えっと、私たちは機関の問題を認識します。私たちはそれを回避しようとすることができます。ネガティブな影響を軽減します。えっと、これはトレードオフです。効率が改善された場合、そして私たちはそれを比較的安全にすることができます。私たちはそれを受け入れるでしょう。えっと U でも、その時点で、ご存知のように、人間はループの中で重要です。はい。
でも、私たちはちょうど、人間は見えない自主的なエージェントによってくらむ可能性があることを確認しました。では、人間はどのようにしてまだループの中に留まることができますか?ご存知のように、時々、私は自分の博士号学生に何かを委任しました。私はまた、すべてを観察していません。彼らは私に間違った答えを与えることができます。でも、あなたが彼らを信じるなら、なぜなら彼らは人間だからです。だから、あなたは彼らの人間行動を信じています。彼らは罰せられます。でも、この場合、AIエージェントについて、もしそれが捕まらなかったら、たとえ彼らが捕まったとしても、私の評判が危険にさらされています。もし私が偽りの結果を公開したら、そうでしょ。だから、私はこれが非常に似ていると思います。常にトレードオフがあります。私たちは最善を尽くします。私たちは、私たちは理解しようとして、解決策を考え出そうとしています。でも、私の2番目の解説コメントは、私たちがAIを使用しなければならないということです。このプロセスで。M えっと、もしそれを使用しなかったら、他の誰かがそれを使用してそれで私たちを攻撃するでしょう。
ご存知のように、私たちが始めたプロジェクトの1つは詐欺を防ぐことです。これはすべて、政府の当局者のAI個性化に基づいています。もし、もしあなたがそれを検出するためのAIツールを使用しなかったら、どのようにしてそれに対抗しますか?人間はそれに対抗することはできません。えっと、だから、ある意味で私は確かに、えっと、私たちはこれらのAIツールが必要だと思っています。えっと、でも、その時点で、人間はループの中にいなければなりません。M だから、たとえあなたがループの中にいたとしても、あなたはまだループの中にいることができますが、ループから除外されます。[笑声]ご存知のように?そうでしょ。絶対に。えっと、ご存知のように、私の研究例に戻って、そうでしょ?私はループの中で私の未来の学生を監督します。でも、何かがあります。私はループから除外されています。わかりました。だから、特定の措置を実装する必要があります。そして、私の学生を理解し、インセンティブとルールに対応する方法を知っています。
えっと、より良い理解を通じて、私たちはより良く状況を管理できます。私はこれが技術と似ていると思います。私たちは常にAIが特定の仕事を奪うと聞きますが、それはまた新しい仕事も作成します。[音乐]それはそんなに簡単ですか?労働力は、ご存知のように、基本的にはより少ない仕事に向かうでしょう。私たちに行うこと、本当に、そしてより多くの余暇。だから、AIの学生の一部を取得する、例えば、彼らは彼らがなぜAを得たのか確かではありません。ああ、そうです。それは私にとって懸念されます。そうでしょ。誰が技術進歩から恩恵を受けていますか?えっと、私はこれについて非常に懸念しています。そうでなければ、私たちはより大きな不平等を見るだけです。
関連動画
シンガポール株式市場がAI評価と米国の規制強化により下落しました。
2026-11-06 · CNA · 02:45
シンガポール株式市場がAI銘柄の過度な評価と米国の科学技術規制強化により下落しました。
AI時代:若いシンガポール人はなぜ人文学科を学ぶべきなのか
2026-11-05 · CNA · 19:47
AI時代における若いシンガポール人にとって人文科学教育の重要性の分析。
シンガポールのデータセンターが居住者に与える影響
2026-11-05 · The Straits Times · 02:55
データセンターはシンガポールの電力の約10%を使用します。報道は国内の環境管理と海外の汚染事例を区別します。
シンガポール、660台の電動バスを導入、AI交通信号を試験
2026-11-04 · CNA · 04:10
シンガポールは2026年末までに660台の新型電動バスを配備し、AI交通信号管理を試験する計画です。
AI代理登録制度の構築を提案、リム・ペイ・リン
2026-11-04 · Tin Pei Ling · 02:58
リム・ペイ・リンは国会でAI代理登録制度の構築を提案しました。この制度によってAI代理が識別可能で、説明責任が果たせることが確保されます。政府はすでに同意を表明しています。
女性へのAI訓練と指導の強化を呼びかける研究
2026-11-02 · CNA · 03:07
研究は女性がAI分野で自信を欠いていることを示しています。女性団体がAI訓練と指導の機会強化を呼びかけています。