孫さんがいう人工超知能

孫さんが、2035年までに、人工超知能（ASI）を作るという。

何のことか分からなかったので、ChatGPTに定義を聞いてみた。

---

✅ 孫さんによるASIの定義

・AGI（通用人工知能）

「人間の脳と同等の知能を持つAI」 

人間並みの能力として、わかりやすく一般的な定義です。

・ASI（人工超知能）

「人間の脳より1万倍も賢いAI」 

単なるAGIを超え、圧倒的な知性の飛躍を示す、極めて強烈な定義です。  

---

10000倍と言われてもしっくりこない...

ChatGPTだと、言語モデルとして優秀だけど、推論が飛躍・暴走する傾向がある。

これに対しては、

---

現行LLMの問題を克服するために：

1. 自己検証（Self-consistency）

出力前に複数の推論ルートを比較し、矛盾を排除。

2. 因果推論（Causal reasoning）

相関ではなく因果に基づいた論理。

3. メタ認知（Meta-cognition）

「自分の答えは正しいか？」をAI自身が評価・修正。

これらの仕組みで暴走や飛躍を防ぐとしています。

つまり、現状のChatGPTは「言語生成の達人」ですが、孫氏が描くASIは「哲学者や科学者レベルの慎重な推論者」です。

---

だって。

ターミネーターのスカイネット起動は、1997年8月4日という設定だったらしいけど、約40年遅れて、スカイネットに近づきそう。