Demis Hassabis は 30 年間にわたって AGI に取り組んできました。 【日本語吹替・日本語字幕】

いくつかのユースケース、つまり AI で問題が発生する可能性のある事柄を大局的に見てみましょう。 あなたが言うように、時々、細部のことで人々は行き詰まってしまうことがあると思います。 しかし実際には全体像があり、心配すべきことが 2 つあります。一人は悪役で、 それが個人であれ、国家に至るまでのすべてであれ、これらのテクノロジーを使用、再利用しています。 病気の治療や物質科学とエネルギーの進歩など、私たちが善のために構築しようとしているもの など、有害な目的のためですよね？そして、それが不注意であれ、意図的であれ。その後 私が心配していることの 2 つ目は、AI 自体が不正になるか、軌道から外れることです。 より強力になると、それは今日のシステムではなく、おそらく次の 2 年、3 年、4 年後にはそうなるでしょう。 特に私たちがこれから突入するエージェント時代に向けて、 エージェントとは、タスク全体を単独で完了できるシステムを意味します。それで もちろん、それらはアシスタントなどとして非常に役立つため、欲しいと思っています。 そのように。しかしそれは、彼らがますます有能で自律的になることも意味します。など、 フロンティアラボの1つとして、そしてフロンティアラボ全員がこれについて考えなければならないことをどのように確認するか、 ガードレールが適切に設置されているか、またガードレールが正確に何を行うかを私たちが保証できるか やるべきこと、または与えられた目標は十分に明確に指定されており、 そして、彼らがそれを変換したり、誤ってガードレールを突破したりすることはありません。