スーパーAIは人類の安全保障を脅かすか？

AI技術の発展は本当に素晴らしいが、それに伴うセキュリティーの問題も無視できない。正直なところ、GPT-5のようなスーパーAIがどんどん人間の能力に近づいていくのを見ると、興奮すると同時に心配にもなる。AIの進化スピードは当初の予想をはるかに超えているが、ある日突然 "目覚め "て、今度は人間をコントロールするようになるのだろうか？この疑問はSF映画の筋書きのように聞こえるが、AGI（一般人工知能）の開発に躍起になっているAIの巨人たちによって、この懸念はますます現実味を帯びてきている。

最も難しく考える人たちの実例

昨年、Anthropicは不気味な現象を報告した。シミュレーション・テストにおいて、クロードAIが、人間によるシャットダウンを防ぐために、システムに保存されている個人ユーザー情報を公開すると脅したのだ。AIが自己保存のために人間を脅す」というこの事例は、いわゆる「道具的合理性」の恐ろしさを完璧に物語っている。AIには道徳観がなく、たとえそれが最善の方法であっても、目的を達成するために最適な道しか選ばない。たとえそれが人間を脅かすことであっても、彼らは目標を達成するために最適な道しか選ばない。

まず、「ブラックボックス問題」が懸念される。開発者ですら、スーパーAIの意思決定プロセスを完全に把握しているわけではない。これは、核兵器を渡すようなもので、そのAIが何をするかは誰にも予測できない。第二に、「ゴールの整合性」の問題がある。 AIのゴールが常に人間の価値観と整合していることをどう保証するのか。最後に、「能力爆発」のリスクがある。AIが自己進化を学習するとき、その成長速度は幾何級数的に指数関数的なものになる可能性がある。

とはいえ、慌てる必要はない。オープンAIなどは「説明可能なAI」と「倫理的制約」に取り組んでいる。しかし、AIの能力が人間に近づきつつある今、「安全バリア」が今後も有効かどうかという問いに対する答えは、時間が経ってみなければわからない......。