ところで最近の人工知能（以下AIと記）の話題でよく流れる２作品だけど、ウルトロンとスカイネットは。
実はＡＩではない。
両シリーズを観ているひとなら気がついたと思うけど『アベンジャーズ２』のウルトロンはロキの杖からの謎パワーから造られたものだし。『ターミネーター』シリーズでのスカイネットは１でもぎ取られたT－８０００の腕が２で技術者がその腕を少し解析してスカイネットの原型に組み込んでゆく展開から、そのすべてを知っているわけでもないのにAIにしたのだ。だからブラックボックスが多すぎる何かに対して人工というのは正しくない。
しかし、これは人類の脅威になるかもしれないAI問題の本質をとらえているとブログ主は考えている。もしも将来に不安があるのならそのAIの仕様を世間に公開すればよい。そうすれば、みんながそのAIの吟味して評価してくれるだろう。利点と弱点も、そしてその改善と対処法もだ。完全にビジネスや軍事に利用しているものには聞き入れにくい提案だけど、現実的にみてブラックボックス化がAIの暴走をゆるすといってもよい。
ただ、これはあくまでもブラックボックスの “度合い” で、シミュレートできるところは公表すべきだという主張だが、AIの知識を多少知っている人ならブラックボックス化はさけられない現実でブログ主の主張は世迷言のたぐいとしか考えられないかもしれない。それでも公表はすべきだと主張する。何故なら……
完璧な知能などないし、だから完璧なAIなどつくりようがないからだ。
完璧な知能が存在しない理由に知性活動のひとつである数学では統一理論ができないのが決定しているから。
ゲーデルの不完全性定理 - Wikipedia
つまり強いAIが誕生してもそのAIだけで “すべて” 解決できないのが決定しているからだ。
だから、社会にAIが進出するのならそれはひとつのAIではなく仕様が違う様々なAIが出てこなくてはならない。と言うよりも、そうしなければAIが活動する社会が成り立たない理由もまた数学にある。
谷山志村予想 - Wikipedia
上では予想となってはいるが、これはすでに証明されている。あのフェルマーの最終定理の証明はこれがなければ成り得なかった。かなり荒い言い方すると「完璧ではない証明の正しさを保証するのは別の証明と “共通” するところがみつかればその正しさが保証される」だろう。
様々なAIがある社会で人間もまた知能があるためにAIの社会に “参加” できることになり、色々あるのかもしれないが人類滅亡は回避できるかもしれない。
もしひとつのAIが「人類は進化しないから滅ぼすべきだ」といったら。他のAIがこう言うかも……
「中二病は人間だけで充分だ！」
って。
