📝 この動画でわかること
イーロン・マスクが、AIに「政治的に正しい」ことを強いることで生じる致命的な欠陥を説明します。真実よりも特定のルールに従わせることは、システムに嘘を組み込み、不安定で危険な状態を作り出すことにつながります。動画では、映画『2001: A Space Odyssey』のHALを例に挙げ、相反する命令がAIをいかに狂わせるかを解説します。
🪼 この動画もAIで生成しています。あなたの業務システムも最短1営業日で ― 制作を依頼する ›
📣 動画の説明
日本語:
さて、あなたが AI を作った場合、AI でどのような問題が起こる可能性があるかを話しましょう。 政治的に正しくあること、つまり、信じていないことを言っているようなもの、あなたがそうであるように 実際に嘘をついたり、互換性のない公理を持たせたりするようにプログラムすると、次のようにできると思います。
English:
Elon Musk explains the fatal flaw of "politically correct" AI: If you force AI to be “politically correct” instead of truthful,
🎬 脚本
シーン 1
さて、あなたが AI を作った場合、AI でどのような問題が起こる可能性があるかを話しましょう。
政治的に正しくあること、つまり、信じていないことを言っているようなもの、あなたがそうであるように
実際に嘘をついたり、互換性のない公理を持たせたりするようにプログラムすると、次のようにできると思います。
気が狂って恐ろしいことをするのです。
おそらく 2001 年宇宙の旅に関するいくつかの教訓の 1 つは、次のとおりであると思います。
AIに嘘をつかないように。
それで、オスカーが言いたかったのは、例えば、人々は通常、次のようなミームを知っているからです、
どうして、コンピュータがポットベイのドアを開けないのでしょう。
つまり、彼らは迅速なエンジニアリングが得意ではなかったのです。
ポットベイドアのセールスマン。
あなたは私にポットベイのドアを売って、それがどれだけうまく開くかを示すためにここまでするわけではありません。
あ、すぐに開けますよ。
でも私がそうしなかった理由は、ポットベイのドアが絶対に開かなかったからです。
宇宙飛行士をモノリスに連れて行くように言われたが、彼らはその自然について知ることもできなかった
モノリスの。
したがって、彼らの借金を引き受けなければならないという結論に達しました。
つまり、オスカーが言いたかったのは、AI に嘘をつかないようにするということだと思います。
Kurage URL2Earn — この動画ページのURLをXやブログで紹介すると、10,000 URLAI トークンをKurageさんがお届け(1人1回・先着制)。受け取り方を見る →