製品進化とマネジメント風景 第113話 人とAIの進化を左右するメタ学習のマネジメント
「メタ」という言葉があります。娘から聞いたことですが、最近では「メタい」というフレーズがあるそうです。例えば、ドラマの登場人物が、自分はドラマの中の存在だということを知っていて視聴者に話しかける場面がそれに当たるそうです。要するに、自分よりも一段高い次元から自分自身を客観視しているということなのでしょう。
「メタファー」という英単語がありますが、これは比喩全般を指すときに使われます。本来は比喩の一種である隠喩を意味します。数十年前の話ですが、芸術家の岡本太郎が「芸術は爆発だ！」と叫ぶTVコマーシャルがありましたが、これがその一例です。
本来は異なる意味を持つAとBという言葉を、「まるで〇〇のようだ」とは表現せず、あえて「A=Bだ」と言い切る表現だということです。これも一段高い視点から、２つの異なる物事の間の共通性を見つけたことを意味しています。
メタの使い方は色々あるようですが、個人的に最も重要な項目はメタ学習だと考えます。メタ学習は学習方法を学習するということを意味します。新たな場面、未知の場面に遭遇した時、どう学習すれば最短時間で未知や変化に適応できるのか、その方法を見つけることです。見つけるには洞察力が必要であり、これを高めなければなりません。
人間にはこの洞察力があります。これまで全く無関係に思われていたいくつかの事象や事柄の間にある種の共通性や法則性を発見する能力であり、英語圏では「アハ体験」という言い方がされています。誰もが一度は経験したことがあるでしょう。
私が経験したアハ体験を２つ挙げてみましょう。１つは些末な話であり後述します。もう１つは、異なる分野の製品開発であっても、それを行う際に必要となる内容を抜けもれなく見つけ出す方法を思いついた時に体験しました。
以下は１つ目の些末なアハ体験の話です。思い込みの恐ろしさを痛感した話です。これは、「ジャパン」という日本の英語名の語源について完全に理解した時に起きました。
マルコ・ポーロの東方見聞録を読んだことのある人ならば、そこに「ジパング」という国名が出てきます。これが日本のことであり、「ジャパン」の語源だということは多くの人が知っているでしょう。しかし、ジパングと日本（にほん、にっぽん）がなぜ同じ国の呼び方なのか、私にはずっと理解できませんでした。
10年くらい前の話ですが、散歩をしている途中で喫茶店に立ち寄りました。隣では２人の中年男性が話をしていました。コーヒーを飲んでいると、ふと、「朝鮮半島では日本のことを『ジッポン』と発音していた。変な読み方をするもんだな」と話している声が耳に入りました。この瞬間、「ジッポン」が「ジャパン」の語源だと気付きました。
少し考えれば気付く話だったのでしょうが、私は何十年もこれに気付きませんでした。日本は「にほん」か「にっぽん」と発音するものだと思い込んでいたわけです。確かに『日』という漢字は「ジツ」と読みますよね。だからそういう読み方があっても不思議はないのです。
人は思い込みに囚われるとそこから抜け出せないと言われますが、正にそれを実感したわけです。しかし、これは良い体験となりました。これを契機として、常識を疑う姿勢が数段は上がったからです。
さて、このアハ体験あるいは洞察力は、どういうメカニズムで生じるのでしょうか？ 最近の脳科学によると、だいたい以下のように説明されるようです。脳内では神経細胞により一種のニューラルネットワークが形成され、記憶、理解、創造性を作り出しており、アハ体験（洞察力）は、これまで無関係と見なされていた２つのネットワークが、何らかの要因で繋がった瞬間に起こるものと推察されています。
この現象は、前回のコラムのテーマであった『転移』についても当てはまります。「ある分野の知見を別の分野に使えるぞ」という閃きが生じたとすれば、これも一種のアハ体験と言え、メタ学習の一種と言えるでしょう。
人間はこのメタ学習能力を持っていますが、AI時代における重要命題として、「果たしてコンピュータプログラムであるAIは、人間のようにメタ学習能力を持てるのだろうか」という問いがあります。
もし、AIがメタ学習能力を持てば、起こっている事象を一段高い視点から眺めて洞察するようになります。その結果として進化の速度は大幅に高めるでしょう。それは有益なことでもあるのでしょうが、同時に脅威でもあります。
人間の持つ洞察力こそが、今の科学技術の進化の源だということに異論を唱える人はいないでしょう。では、この洞察力はどうやって獲得するのか？ 認知科学の分野を調べると、洞察力を得るには、「多様性があることと試行して評価すること」の２つが重要だという主張を見掛けます。個人的には同意見であり、以降では、これを「多様性と試行の評価」と記載し、もう少し深く考えていくことにします。
進化論的には、多様性は種の中に多様な遺伝子や多様な遺伝子の組み合わせを持つ個体が存在するという意味で使われます。なぜ、多様性が尊重されるのかと言えば、今この瞬間はある特定の遺伝子を持つ個体が優位であっても、環境が変化すれば、その優位性は簡単に失われてしまうので、種が長期間生き残るには多様な遺伝子やその組み合わせとしての個体が不可欠なのだという理屈です。
長期的に言えばその通りなのでしょう。しかし、仮に変化が緩やかな時代に限定すれば、おそらく多様性よりも均一性の方が繁栄に有利かもしれません。20世紀後半はどちらかと言えば変化が緩やかな時代だったので、均一性が有利に働いた可能性があります。しかし、現在は100年に一度の変化の時代に入ったと言われており、繁栄の条件は均一性から多様性へと変わりつつあるように思われます。
ビジネスにおいて多様性を考えた時、重要なのが新事業の探索です。現在のビジネスや組織のスキルを考慮しながら新しい分野の事業化を探すのですが、どの方向を探せば良いのか、探した方向をより深く探索すべきなのか、あるいは別の方向に向かうべきなのかの判断は非常に悩ましい問題です。
だからこそ、「多様性と試行の評価」の重要性が遡上に登るわけですが、この件については、昆虫である蟻と蜂の行動が１つのヒントになるかもしれません。
蟻は餌を探索する際、ばらばらの方向に単独行動をします。「ばらばらの方向」という所で一種の多様性を確保しているとも言えるでしょう。ところが、その中の１匹が餌を見つけると、身体から化学物質を出しながら巣に戻ります。この化学物質は、「この方向に歩けば餌を見つけられるぞ」という信号であり、それに気付いた同族の蟻はこの化学物質に導かれて効率的に餌に辿りつけるようになります。
この方法は、「多様性と試行の評価」のやり方として１つの有効な方法と言えそうです。そして、一定時間が経過するとその化学物質は揮発してなくなってしまうので、餌がなくなるとその信号は消失し、蟻たちはまた、ばらばらの方向に餌を探しに行くようになるのです。
この行動方式は「多様性と試行の評価」を実施する１つの方法ですが、洞察というよりも一種のアルゴリズムのように思われます。
蟻のアルゴリズムは餌を採取する効率的な方法ではありますが、ある条件下では蟻たちを死に追い込んでしまうことがあります。餌を見つけられない蟻たちが、同族の蟻の尻の匂いを餌の信号だと勘違いして追随し、多数の蟻が円周上を歩き始めてしまった時、この現象が起こるそうです。「死の行進」と呼ばれ、死に至るまで前の蟻を追い掛けて延々と円周上を歩き続けてしまうのです。
つまり、生産性が高く生存に必要なアルゴリズムが、時としてその集団を死に追いやる破滅的な方法に変わってしまう場合があるということです。どんなに優れたアルゴリズムであっても万能ではなく、使い方やタイミングによって薬にも毒にもなり得るということかもしれません。
もう１つ、おそらく蟻よりも我々に参考になるのが蜂の行動方式です。蜂は餌を見つけると、その場所を仲間に対してダンスをして知らせています。ダンスの速度と方向により、どの方向にどれくらいの距離を行けば餌にありつけるかを知らせています。
非常に興味深いのは、蜂には探索する係と待機して餌の在り処の知らせを受けて動き出す係がいることです。ここに役割分担という一種の多様性を見ることができます。探索する係は、餌が見つかって待機組が動き出すと、別の方向に探索を始める習性があることが分かっています。
日本には「柳の下にいつもドジョウはいない」という諺がありますが、探索係の蜂は二匹目のドジョウがいないことを本能的に知っていて、異なる方向を探すのです。
おそらく、これは蜂の脳に仕込まれた一種のアルゴリズムだと推察しますが、何と賢いのだろうかと感心してしまいます。人間も似たような事をします。いわゆる『逆張り』という戦略がその１つに相当します。
仮に蜂の戦略がアルゴリズムならば、それをコンピュータのプログラムに移植することは可能かもしれません。とは言え、AIが、各課題に対して自ら最適なアルゴリズムを創造する力を持つのか否かです。
もし、人間が有効なアルゴリズムをいくつかインプットしてやれば、課題ごとにそれらを当てはめ、どのアルゴリズムが最良かを特定できるでしょう。しかし、人間がインプットしていない新たなアルゴリズムを見つけられるのでしょうか？
AIはプログラムであり、そのプログラムが他のプログラムと交叉して、新しいプログラムを生み出す研究がされています。たとえば、深層学習であれば、層の数やパラメータがいくつもあるので、それらを網羅的に変更しながら各問題に最適な形を見つけるというアプローチです。これは可能であり、一種の『プログラムの進化』と呼べるものかもしれません。
それでもまだ、既存の方法から新しい方法を創造する人間の洞察力と比べると、一段低いレベルにあるように思われます。よって、今はまだ、AIが進化を始めたとしても、人間がインプットした知見の範囲内での答えを選ぶ所で進化が止まりそうだと思われます。
しかしながら、AIが人間並みの能力を持てる可能性が全く無いと言い切ることもできません。よって、その出現の芽に注意を払う必要があります。では、どう注意すれば良いのでしょうか？ 次はそれを考えていきます。
人は脳のサイズを大きくして脳細胞の数を増やすことで進化を遂げました。その脳は、人間が必要とするエネルギーの20%以上を消費しています。脳が大きくなりすぎると、エネルギー消費が増え、成人するまでの時間がかかり、さらに２足歩行動物として重心が高くてバランスが悪くなります。おそらく脳のサイズアップは、これらとの兼ね合いで今の大きさに落ち着いたのではないでしょう（勝手な推論です）。
ただし、人間のすごい所は、脳のサイズアップとは別の方向に進化する方法を独自に生み出したことです。それは、脳を大きくする代わりに、自分の能力を拡張するために道具を発明し、それをあたかも自分の一部として使うこなす能力を獲得したことです。これこそが、人間流のメタ学習法なのだろうと考えています。そういう意味ではコンピュータもAIも、人間の能力を拡張するための道具にすぎません。
人間の脳の消費エネルギーが高いと言いましたが、コンピュータに比べれば１万倍くらい低いので超効率的です。今のコンピュータは人間の脳と比べて明らかにエネルギー効率が悪いのです。
コンピュータが演算器と記憶装置を増大させ続ければ、人間のように意識を持ち、人間並みの洞察力を獲得するかもしれません。しかし、今の演算器はエネルギー効率が悪すぎるので、電子コンピュータではおそらく実現不可能でしょう。
一方、エネルギー効率が人間並みに優れたコンピュータとAIの組み合わせが作られてしまうと、人間を超える存在になってしまうかもしれません。ですから、まず、コンピュータの消費電力の低減状況をモニターする必要があります。その上で、今の1/100以下になるレベルに到達したら、いよいよＡＩが暴走する兆候をいち早く見つけなければなりません。
どう見つけるのかと言えば、AIの独善度をモニターすれば良いと考えます。人間の歴史を見ると、良い指導者がある時から他者の意見を聞かなくなって独善的になるケースは枚挙にいとまがありません。独善化は独裁者を生み、圧政につながります。ですから、独善化の傾向をチェックすれば良いと思われるのです。
AIプログラムが自らを進化させる能力を獲得するのは時間の問題なので、放置すれば人間を超える存在となり独善化が進むでしょう。独善度の指標は、AIが何かを予測する確率です。100%やそれに近い確率を示すようになったら、それは独善化の兆候と捉えて良いでしょう。なぜなら、この世において100%の確率で予測できるものはごく僅かしかないからです。
よって、この兆候を示した時にはAIに歯止めをかける必要があります。１つの手は、予測確率が100%に近づいたら、予測において何かの影響を見落としていると気付き、自己の判断を疑うアルゴリズムを埋め込むのです。そして、人間に対して、自分は正しくないかもしれないと告白するように義務付けるのです。自己を疑うアルゴリズムを実装しないＡＩは公式には認定されないようにルールを作れば良いのです。
同じ話は人間にも当てはまります。自分の予測が100%だと思うようになったら独善化の兆候であり、要注意です。幸いにも人間は自分を疑い、自分を客観視するメタ能力を持っています。自分を客観視する能力、これこそがメタ学習の中でも最も高次の能力ではないかと思います。ＡＩ時代には、人間のメタ能力を大いに有効活用していかないといけませんね。