事業構想大　山田哲也助教寄稿　事業構想は<まだ>フィクションである（1）

ディープラーニングはブラックボックスである

AI（Artificial Inteligence）と聞くとどんなことを想像するだろうか？「すごい」、「便利」、「人より速い」、などポジティヴな意見もあれば、「怖い」、「自分のことを知りすぎている」、「人が必要なくなる」、「人を超えてしまうのではないか」といった、ネガティヴな意見もあるだろう。どちらも間違ってはいない。問題は「AIをどう使うか？」である。なぜなら、AIはテクノロジーである、いや、テクノロジーにすぎないのだ。テクノロジー自体には「倫理」は内包されていない。つまり、使う側の人間に「倫理」が求められる。ゆえに「AI」はある人にとって脅威となり得るし、ある人にとって有意なものになる。
　
テクノロジーをどう使うかは、人の「倫理」の問題であるといった。テクノロジーには「倫理」は内包されていない。しかし、人がテクノロジーを使って何かを実現することには倫理が求められる。その行為は、「事業を構想すること」ではないか。つまり、事業構想家（プロジェクトデザイナー）には「倫理」が求められるのだ。

事業構想家とテクノロジーの関係
　
前置きが長くなってしまった。では、事業構想家は「テクノロジー」とどう付き合えばいいのだろうか？まずは適切にテクノロジーを理解しなくてはならない。
　
AIの話に戻ろう。結論から言うと、少なくとも現在AIの主流である「ディープラーニング」の分野に関して言えば、人間を超越する、いわゆる「シンギュラリティ」が起こることはないだろう。なぜなら「ディープラーニング」は「考える」と言うよりは、「条件反射」のようなものなのだ。与えられた情報（ビッグデータ）をニューラルネットワークによって「学習」し、その結果を返す。与える情報が多ければ多いほど、結果の精度が上がる。しかし、そこには「思考」や「判断」は存在しない。ゆえに「意志」を持つことはない。どうして有効な結果を返すのか、その過程はブラックボックスである。
　
とはいえ、囲碁や将棋はすでにコンピュータの方が強い。それは人間を超えたと言えるのではないか？
　
今から10年ほど前、まだコンピュータが人と勝ったり負けたりしている頃。「コンピュータが人間より強くなったらどうすればいいのでしょうか？」と聞かれた将棋のトップ棋士の回答が、ディープラーニングの弱点に対して非常にクリティカルだったのを覚えている。
　
「簡単です。将棋のルールを変えればいいんですよ。」
　
ディープラーニングには情報、つまり、タグづけされた「ビッグデータ」が必要である。将棋で言えば過去の棋譜である。ところが、ルールが変わってしまえば、過去の棋譜は意味をなさなくなる。学習し直さなければならない。そのために必要なビッグデータがない。結果、人間が勝つ。
　
もちろん対戦を続ければ学習できるので、人間は負けるだろう。しかし、ルールを規定するのは人間なのだ。
　
「遊び」にはルールが必要だ。
　
「人間の文化は遊びにおいて、遊ぶとして、成立し、発展した」　

『ホモ・ルーデンス』ヨハン・ホイジンガ,　里見元一郎 訳　より引用
　
ホイジンガが体系化したように、実は「遊び」は極めて文化的な行為なのである。
　
ディープラーニングはシンギュラリティを起こすことはないだろう。とは言え、ディープラーニングは十分に人にとって便利な道具となる可能性を秘めている。脅威となる可能性も。
　
もちろん将来的に人を超えるAIが発明される事は考えられる。ではあなたは何を構想しますか。
　
決められるのは、＜まだ＞人しかいない。

山田　哲也 （やまだ てつや）
事業構想大学院大学　助教

東北大学大学院工学研究科都市・建築学専攻修了。工学修士。2013年より東北大 学せんだいスクール・オブ・デザイン研究員、2015年より東北大学大学院医学系研究科助手（国立大学医学部初の広報専任教員）。2017年にデザインリサーチファームである合同会社プロジェクトノードを起業し、同社CEOを務める。2022年4月に事業構想大学院大学助教として着任。専門は都市・建築デザイン、建築情報学、設計プロセス、コミュニケーションデザイン。