「システムによる効率化は本当にやって良いのか?」を「強いシステム・弱いシステム」の切り口で考える


ひと昔前、よくAI業界では「強いAI・弱いAI」の話がされました。

  • 強いAI = 人間そのものそエミュレートして、人間の代替となる存在を目指すような、文字通りの人工知能。
    • Wikipediaでは「コンピュータが強いAIと呼ばれるのは、人間の知能に迫るようになるか、人間の仕事をこなせるようになるか、幅広い知識と何らかの自意識を持つようになったときである。」とされる。
  • 弱いAI = 2017年では「問題解決や推論を自動もしくは半自動的に行うことに」特化させたようなもの。いわば知能の有用な一部のみをピックアップしてエミュレートしたようなもので、そのぶん構造がシンプルになり、処理性能が飛躍的に向上する傾向がある。近年の実験室的な成功例としては「がんの治療法解析をAiにやらせた例」があります。
    • Wikipediaでは「人間がその全認知能力を必要としない程度の問題解決推論を行うソフトウェアの実装や研究を指す。弱いAIに分類されるソフトウェアの例として、ディープ・ブルーのようなチェスプログラムがある。強いAIとは異なり、弱いAIが自意識を示したり、人間並みの幅広い認知能力を示すことはなく、最先端とされるものでも知能を感じさせることのない単なる特定問題解決器でしかない。」とされる。

これを、インターネット業界に並ぶシステムに当てはめて「強いシステム・弱いシステム」を定義してみます。

  • 強いシステム:人間に取って代わってその業務を完全に代替できるようなシステム。
    • ただし人間だらけの業務・体験フローの中に組み込まれるのが常なので「結果を人間が視認できるようなレポートアウトプットと、その業務が間違った働きをしている場合に指示するできる限りシンプルなインプットインターフェースを持つ」とするのが現実的でしょう。
    • 人間自体の業務が属人的なそれになりがちなのと同じように、このようなシステムはブラックボックスになりがちです。
  • 弱いシステム:人間が行うある業務の効率を飛躍的に向上させる、もしくは業務を構造化・正規化し、MECEな整理状態を提供するだけのシステム。
    • 人間の筆記速度を100倍にするメカトロニクスを発明した場合、ノートパソコンの倍以上の生産性をもたらすという研究結果があります。
    • このようなメカも今回の分類では弱いシステムに入ります。

これら強い・弱いの違いは
「そのシステムが人間の発想を超えた何かを自動的に生み出す可能性があるか?」
もしくは
「そのシステムは完全に業務を代替(人間の代わりにシステムがそれをやっている、と言い換えられるほどの状況)しているか?」
のいずれかを満たすどうか、です。

以下、この分類を切り口に現状世の中に転がっているシステムを考察してみます。

また、この記事の前提として「もう少し上手く表現できたんじゃないか」という気がしながら公開しています。
だから、公開しながら読み返して、表現や事例などを変えるかもしれません。
また、現時点では空論の遊び記事でしかないことも付け加えておきます。

世界に名だたる名システム(のように見えているシステム)のほとんどは「弱いシステム」です

例えば会員管理システム、自治体や大きめの企業で利用されるいわゆる業務システム、各種業務の管理画面やBI、案件管理システム(いわゆるトレーディングデスクTool)などは典型的な弱いシステムに分類されます。

  • 業務ツールがいくら自動でレポートを生成しようとも、
  • BIがどんなに自動的に分析指標の提案をしたとしても、
  • 案件管理システムがどれだけ整然と案件データを再利用性高く並べられたとしても、

これらはその業務の完全な代替を行いません。
そのアウトプットや業務のほぼ全てが「人間(オペレーター)の意志によって行われているから」です。
また、長年の運用の中で(もしくは不屈の精神によって繰り返されてきたリファクタリングの成果で)正規化を追求し、構造化を進めたシステムの多くは、歴史が長ければ長いほど(ヒューマンリーダブルでない、という意味で)複雑化していきます。

「その存在にすら気づかない=存在を意識させない=そもそもシステムとして認識されていない場合すらある」のが、強いシステムです

現在「インターネットの案内所」のように取り扱われている検索エンジンはかなり近い立ち位置にいるかもしれません。その役目が根本的なことすぎて掴みにくいかもしれませんが、例えば検索のアルゴリズムが変化したときに、我々は「そういうものか」と諦めるしかありません。我々は弱いシステムについてはそういう変化に対し徹底的に抗う習性を持っていますが、人間の代替と取れるような強いシステムに対しては、人間に対してと同じようにその挙動特性を許容することができます。

また、電話交換機や、ドメインマーケットなども「販売プラットフォーム」としてはオンライン上の強いシステムの一つに数えられます。
自動運転車が完成したら、それは強いシステムです。運転手という人間を完全代替しているからです。

海外だと状況が変わる?

インターネット広告業界に目を向けてみると海外ではAppLovinやCriteoなども、インターネット(に限らない部分も含め)広告配信業界の管理画面に対してかなり強いシステムに近いアプローチをしています。
Amazon Goや有機的に動物の動きを真似るメカトロニクスも強いシステムを目指した例であると言えるでしょう。
また、近日話題になったハンバーグをひっくり返すロボットアームも、類に漏れません。

こうした「強いシステムを作る試み」は、やはり海外に圧倒的に事例が多く、国内でも事例は散見されるほどはあるものの、ほとんどが「遊びとして扱われ、商業的に相手にされていない」というのが実情です。

さて、この辺りが今日の本題です。

弱いシステムは人間の仕事を決して奪わない。
そして人間を必要以上に強くする。
同時に人間の頭を開放し、暇(クリエイティブ)にする機能は持たない。

17年ほど、システムをはじめとした様々なものを作ってきてここにきて感じているのは上記のようなことです。

広告配信業務フローを例にとってみると、DSPやDMPなどが出てきたことによって、それを操るトレーダーの「広告配信を効率化するために取れる手法」の数は飛躍的に増えました。その結果、非常に高度なロジックを操って、より効果の高い配信を、より多くの案件に相対して提供できるようになりました。
また、ECサイトの例をとってみれば、EC CMSというシステムの台頭により、商人は「インターネットを通じて商品を売る」という手段を手に入れました。その結果、今まで対面販売や従来型の通販のみでは届かなかった顧客にまで商品の存在を知らせることができるようになりました。

しかしながら、そのシステムがあろうがなかろうが、相変わらず広告のトレーダーは広告を運用しています。商人は商品を売っています。このことについては何の変化もありません。

それだけでなく、今まで月に500万円の売り上げを上げていれば十分に評価されていたトレーダーは、弱いシステムがもたらした効率化によって月5,000万円を売り上げることができるようになり、その結果、当然のように今まで500万円を売り上げて得られていた評価は、5,000万円を売り上げないと得られなくなりました。
これは、その人の時間単位の生産性という名の責任が10倍に膨れ上がったということです。
同じように、商人がそのように効率的に売ることができるようになった結果、商人は価格にそれを反映させなければいけなくなり、1取引あたりの利益は落ちていきます。

そして人間一人が処理できる量が増えたことを契機として、事業は成長していきます。
結果人はできるようになった10倍の仕事をいつの間にかこなしています。

このことは「実のところ、弱いシステムが世の中にいくら台頭しても、人は決して楽にはならないし、そのシステムを利用して行う役目から頭を開放することはできない」ということを示唆しています。

特に日本にこの傾向が強いのは「日本人が優秀だから」なのかもしれません

欧米は、今も昔も「強いシステム」の生み出しに躍起です。
対して、日本ではやはりこの強いシステムは遊びと扱われ、夢と揶揄されます。要は、まともに取り扱ってくれるまでの道のりが長い。
これはなぜなのか。と考えると「人の優秀さ」というキーワードがまず最初に頭に浮かびます。

欧米人は、例えば日本人クリエイターがドイツに行ってワーカーの文化の違いに学びながらも疲弊して帰ってくるような事例が示すように、どうやら「人間とはそういう(不完全で信用できない)ものだ」と本気で思っているようで、人間に期待する範囲が小さい。だから弱いシステムによって人間を効率化するよりも、強いシステムによって「人間がやらなくて良い状況を作る」ということを割と真面目に考えているのではないかという仮説が立ちます。

対して日本人は、人そのものの業務フロー上のポテンシャルが高いために、同じく高い成果を求めた場合「人間を効率化したほうが早い」という考えに至りがちなのではないか、との仮説が思い浮かびます。なので日本人は「たいていのことは機械がやるよりも、人間がやったほうが正確で質が高い」とこれまたどうやら本気で思っているのです。

「それがいいのか悪いのか」という話ではなく、プロダクトのこれからの展開を見据える上で、僕ら具現家はどういう発想の元に立つべきなのか?という切り口をもっと柔軟にしようという話です。
なので、このことを一つの物差しとして持っておくことは、他の事象を考える上で大いに手助けになることがあります。
そんな例を次回あたりに考察してみます。