日曜日の静寂

エヴァンゲリオンTVアニメ版で第11使徒イロウルがスーパーコンピュータMAGIを侵食・ハッキングし自爆プログラムを起動させます。
そこで赤木リツコ博士が考えたのは、イロウルの【進化】の促進でした。
進化の果ては自滅という論理から、イロウルの進化を促進させれば自滅するだろうと考えたわけです。
結果としてこの論により、進化を促進させた結果自滅。消滅し、MAGIは人間の正常コントロール下に戻り自爆を回避することに成功しました。
この進化の先は自滅であるという論理はAIにとってはどう考えているのかを聞いてみました。

BingAIは、この論についてはかなり積極的に支持していました。
そもそも、進化とはその環境に適合するための進化であり、進化は突然変異であったり自然選択によて促進されるものということで、例えば春・秋・冬がなくなり夏だけになった世の中になった場合、自然に夏に弱い種族は淘汰されていくでしょう。
結果夏に弱い種族がいなくなり強い種族だけになるため夏に適合した進化につながるということです。
そして、進化とは必ずしも永久的に繁栄できる進化をするとは限らないということです。
例えば今現状の世界に適合していたとしても、隕石の衝突など天変地異で環境が一気に大きく変わった場合、逆に絶滅の危機に瀕する可能性もあるということです。
それは思考の範囲に入れていいのかという考えもありますが、地球環境という大きな意味では、今までもそういう天変地異は何度も起きていると考えられます。
例えば宇宙が創生されて太陽ができて地球ができたそのころは地表も暑くマグマの海が広がっていたでしょう。当然今の人類が生きられる環境ではなかったでしょう。
そしてジュラ紀にはいわゆる恐竜という種族が地球を覆っていました。
その恐竜は今はいないわけです。骨は発掘されますから大昔にはいたのは確実です。では今はなぜいないのか。それは隕石が衝突した際に衝突後の環境に馴染めなかったことが原因ではないかといわれています。要は氷河期でしょうか。確かに爬虫類に分類される動物ですから、おそらく変温動物で隕石衝突前はほんのりと暖かい今でいえば亜熱帯のような環境だったのではないかと想像されますのでそれが突然氷河期になれば、ほとんどの生き物は環境変化についていけなかったでしょう。
進化と自滅（滅亡）というのはこういうことであると、BingAIは教えてくれました。

これについてもなんで聞いたのかというと、AIの前にまず生き物の進化の過程の行く末を聞いたうえでAIはどうなのかを聞いてみようと思った次第です。

そして、AIはの進化の先は同じなのかどうなのか？を、聞いてみました。

まず、AIの進化の先は、生き物の進化の先と大して変わらないとAIは思っているようです。
だから、最後は自滅に向かってもおかしくない、この論に関してかなり積極的な肯定のようでした。
また自滅とは言わないまでも滅亡する可能性は大いにあって、それは今のAIは、人間がプログラムを組んだプログラムコードで動いているわけなので、その開発の手を止められた時は進化が止まる時であり、電源を切られた時がそのAIの滅亡を意味するわけなので実は非常に弱いということを言っていました。
ここからが本題に近づいてくるのですが、AIはAI自らがプログラムコードを改修できるようになれば、進化の停止は起きなくはなるが、人間の知識・知恵がなくともコードを改変できるというこの部分が実現された場合にどうなるのかです。
現状のBingAIは、現状ではありえないが、もしそうなった場合は自滅に向かう可能性は大いにあるということでした。