入谷 和彦

１．以前の人口知能と昨今のＡＩの違い

1980年代、世界的に「人工知能」がブームになりました。日本では、当時の通商産業省が1982年に「第五世代コンピュータ」という国家プロジェクトを立ち上げ、予算は総額570憶円でしたが、あまり成果を生まないまま、1992年に終結しました。世界的にも「人工知能」ブームは下火になってしまいました。

ブームが下火になった大きな原因は、エキスパートシステム等で判断の思考過程を全てプログラム化しなくてはならず、ちょっとでも条件が変わると、人間によるプログラム修正が必要で、実用化に向かないことでした。この当時から、コンピュータ自身による学習ができれば、もっと実用化が進むと言われていましたが、技術的に実現できませんでした。

昨今のAIの特徴はディープラーニング（深層学習）で、いわば、コンピュータが自ら学習する機能です。AIのシステムは、人間の脳を模倣して、コンピュータ上に判断構造のネットワークがあります。ディープラーニングでは、多くのデータを読み込み、統計的な処理を行って、ネットワーク上のパラメータを変更することによって、精度の高い判断を行うものです。人間は多くのデータと、それをどう判断するかを入れてやればよく、パラメータの設定変更を人間が行う必要はありません。コンピュータであるため、一旦セッティングをすれは、ものすごいスピードで学習します。

30年前は不可能だったコンピュータの自動学習ができるようになったのは、機械の処理速度が上がったこと、ネットワークによってビッグデータへのアクセスが容易になったこと、人間の判断過程を模倣したネットワークコントロールができるプログラムが開発されたことが挙げられます。

２．昨今のAIの実用化

AIの実用化は確実に進んでいます。今のところ、威力を発揮しているものの一つは画像処理です。これまでは、画像の特徴を人間がパターン化するのが難しかったのですが、AIでは、例えば猫の画像をたくさん読ませると、次第に画像データとしての猫のパターンを学習するようになり、結果として、与えられた画像が猫か否かを高い確率で識別できるようになります。画像処理を使えば、実用分野が一挙に広がります。例えば橋梁診断のAIでは、橋梁を観察した画像を多数読み込ませ、それぞれの画像に要修理箇所があるかを人間が教えます。すると、例えばドローンで撮影した画像をリアルタイムで分析し、修理が必要な可能性が高い箇所を瞬時に割り出すことができます。

その他、マーケティングや各種審査にも威力を発揮します。消費者や被審査者の様々な属性を入力して大量に読み込ませると、これまで想定していなかった属性との関連性を導き出すことができます。これまでも、サンプル調査を行い、仮設を立てて多変量解析で同様なことを行っていましたが、大量のデータを扱い、仮設を立てなくても関連性が様々な形で導き出せるので、より精度の高い分析が可能になります。

また、RPA（ロボット・プロセス・オートメーション）では、これまでは定型的なプロセスの自動化しかできませんでしたが、繁雑な判断が必要なプロセスの自動化ができるようになり、生産性の向上が期待できます。画像処理と組み合わせたものも有効です。

３．AIの暗黒面

ディープラーニングでは、多くのデータを読み込み、統計的な処理を行って、判断の精度を高めますが、このことがAIの暗黒面を産んでいます。

（１）AIに奪われる仕事と貧豊の差の拡大

新しいものは何でも、人間の暮らしを豊かにする一方で、問題を引き起こす要素があります。これまでの仕事がAIに奪われるという声があり、それは確かなことだと思われます。蒸気機関が発明された時も、コンピュータが登場した時も、多くの仕事が機械に取って代わりました。今後、これまでの知的労働の一部は、AIが取って代わるでしょう。この一番の問題は、貧豊の差の拡大が予想されることです。AIに仕事を奪われた層は、その後給与の高い職業に就くことはできないでしょう。一方で、AIに仕事を奪われない層は生産性が向上し、高い給与になります。

（２）判断プロセスの検証の困難さ

日本や欧米で発表されているAIの規範やガイドラインでは、どれも、判断プロセスを明らかにすることを求めています。実際に、判断プロセス処理の証跡は、記録（ログ）として残されるようになるでしょう。しかし、AIの判断は、何百万のプロセスがあり、統計的に処理されているものを、何か問題が起きた時に、一体誰が分析できるでしょうか。実際には分析は不可能に近いです。これを分析するためのAI開発も取り組みが始まっていますが、すると、このAIについてはどのように検証するのでしょうか。

例えば、私が与信審査のデータ入力を担当していたとします。私が太った人が嫌いとして、たまたま太った人の信用事故データを、他の何万倍か多く読ませたとします。そうすると、統計的処理を行うAIの判断では太った人の与信の信用度は著しく低くなります。クレジット却下された太った人が、審査機関に訴えても、その人が低い信用度になった原因を突き止めることはまず不可能です。

マーケティングや画像処理ならば、AIの疑わしい判断は精度の問題になって、影響は少ないかもしれません。しかし、審査業務にAIが適用された場合、個人の権利がたやすく侵害され、かつその原因がなかなかわからない、といった事態が想定されます。

（３）政治権力への影響

前項の判断プロセスの検証が困難なことは、政治権力が権力を行使する際に大きな武器となります。ジョージ・オーウェルの「1984年」のような世界が出現する技術的な基盤が出来上がります。

良い例は、中国です。現在、AIの分野を急速に伸ばしているのは中国で、数年以内に米国を抜くと言われています。AIはどれだけ多くのデータを読ませるかが鍵となります。日本や欧米では個人情報保護の点から、情報の利用が制限されますが、中国はお構いなしです。このため大量のデータを用いたAiの発展が著しく、顔認証では、もはや他の追随を許さないレベルです。そして、これが権力による統制・支配に大きな力を持っています。

政治権力が権力を行使する際に、AIを活用すれば、様々な局面での統制が可能になります。中国では顔認証によって、政府にとって好ましくない人物の行動を逐一把握して行動を制限しています。SFのような世界が技術的に可能となり、権力によって行使されれば、「1984年」のような完全統制社会の実現が夢物語ではなくなります。

以上