利便性という幻想 ―デジタルの効率が侵食する人間の本質

人類最初の道具は石だったと言われます。2016年にミラノで開かれたAndrea Branziと原研哉による展覧会"新・先史時代-100の動詞 Neo-Prehistory -100 Verbs"は人類の進歩を100の道具とその道具を表す動詞と並べて展示した非常にインスパイアリングな展覧会でした。本もあるようです。
English version of this article is available here.
IT業界の自転車を漕いでいるのは誰?
我々は「人とテクノロジー」はどのような関係を築くのが理想か、もっと真剣に議論をしなければならない。
IT技術を手放しで礼賛する人が多い。IT業界を35年にわたって取材してきた。私もかつてはその1人だった。しかし、2015年前後からIT技術の進展を楽観視できなくなっていた。
若き日のスティーブ・ジョブズは「コンピューターは自転車」だとよく語っていたという(日本のアルプス電子の人たちにもそう語っていたそうだ)。
確かに自転車は良い意志を持った人が上手く活用すればより遠くまで冒険に行ったり、より早く新聞を配ったりもできるだろう。一方で同じ自転車をパン泥棒が使えば、パンを盗んだ後、追っ手を振り切って逃げ切ることもできてしまう。
ここで立ち止まって、今日、IT業界の自転車のペダルを最も熱心に漕いでいるのが誰がを考えてみると、それはシリコンバレーのIT企業に投資してあり余る財産をさらに増やし続けてるようなベンチャーキャピタリストたちだ(ダグラス・ラシュコフによればこうした人々の中には最終戦争が起きた後でも自分だけ生き残る方法探しに熱心な人も多いという)。いや、彼らだけではない。個人情報を盗んで詐欺や脅迫を行う犯罪組織だったり、他国を混乱させるのが目的のサイバーテロリストも、自転車を漕ぐことに最もモチベーションを感じている人々だろう。
製品の利用者を自社製品の中毒にして、より多く広告を見せれば、それで大金が手に入るビジネスモデルが、IT業界をすっかりと悪の業界に変えてしまった。
無責任に作られてきたIT業界
テクノロジー製品の作られ方をもう1度考え直すべきと「Calm Tech Institute」を立ち上げたAmber Caseは「テクノロジーは我々にもっと時間を与えるべきなのに、逆に時間を奪っている」、「建築家であれば何年もの時間を考えて建築の歴史や、作ったものがそこに住む人にどんな影響を与えるかをしっかりと学んでようやく建築家になれます。医者だってそうです。それなのにITの世界では、プログラミングだけ学べば明日からでも人々が使う製品を作れてしまう。これはおかしい」と述べている。
昨今のテクノロジーが社会に与えてきた害悪を考えると、このままこうした作り方を続けるのはあまりにも無責任だと私も思っている。
私はIT業界は2000年代初頭に運命の分かれ道に立ったと思っている。以前にも書いたが、2001年にGoogle創業者のラリー・ペイジをインタビューした時、彼は「できれば広告ビジネスだけに依存することは避けたい」と述べていた。しかし、その後、Googleが全力で広告ビジネスに舵を切ったあたりからIT業界はおかしくなった(別にGoogleだけが悪いわけではない)。
ただ、あまりにも多くの人が技術の恩恵を受け過ぎていて、そこに対して正面から批判をしている人はあまりにも少ない。Amber Case以外で、すぐに思いつくのは山口県のYCAM(Yamaguchi Center for Arts and Media)で出会った私のお気に入りはCritical Engineering Working Groupというアーティスト集団くらいだ。彼らは技術を額面通り受け入れるのではなく、もっと批評的な目で見るべきだと”THE CRITICAL ENGINEERING MANIFESTO”を掲げ、ブラックボックス化したテクノロジーに隠された真の意図への注意を促そうとしている。

日本で1000年以上続く貴族の遊び香道で使われる道具を研究するAmber Case(写真右)。京都にある天皇家ゆかりのお寺にて。彼女はこうした古い道具にこそCalmさがある、最新テクノロジーで作られた道具の多くはアテンションを求めて派手に作られすぎだと注意を促す。左はCalm Tech Institute Tokyoそしてmui Lab代表の大木和典(おおきかずのり)
6つの機能で、人とテクノロジーの関係を分析する
私はテクノロジーコンサルタントとして日本の通信会社、電機メーカーなどでよく講演や短期のコンサルテーションを行ってきたが、仕事を受けると、自分の30年以上のIT業界でのキャリアを述べた上で、「その経験から語るが、一番大事なのはテクノロジーそのものではない。何をやるかだ」と最初に宣言してきた。
私は「人との関わり方」を起点にすると、テクノロジーが人間にもたらすのは大きく分けて次の6つの役割だと思っている:
1)amplification(拡張機能)
2)transformation(変換機能)
3)automation(自動化代行機能)
4)representation(表現機能)
5)recording(記録機能)
6)authentication(認証機能)
7)generation(生成機能)
「拡張機能」は、例えば人間の基本能力を拡張する形で、より強い力を発揮させたり、より遠くを見渡したり、より小さな音を聞いたりといった能力の拡張をする機能のこと。
「変換機能」は、例えば人間の感覚ではわからない温度やスピードを数値やメーターで表示したり、カメラで捉えた風景を視覚障害を持つ人にもわかるように声で伝えたり、相手が話している内容を文字に変換したり、それを翻訳したりといった技術だ。
「自動化代行機能」は、従来人間が行なっていた作業をテクノロジーが代行してくれる技術。洗濯機やロボット掃除機、自動運転などがわかりやすい例だ。
「表現機能」は、データビジュアリゼーションやシミュレーションはもちろん、3Dプリンターによる既存製品の模倣などあらゆる形でのアウトプットが入ってきて、よく「拡張機能」や「変換機能」とセットになって応用される。
「記録機能」は、コンピューターのメモリーに人間の脳では覚えきれない文字情報や視覚情報、音、その他の情報を蓄積し、検索する機能だ。
「認証機能」は、比較的新しい用途だが、スマートフォンという道具を1人が1台持ち、SMSや指紋認証、顔認証などの生体認証を使って本人確認ができることから、家の鍵から学生証、アプリの利用登録、パスワードの管理まであらゆるシチュエーションで本人確認をするのに使われ始めている。
最後の「生成機能」の最も単純なフォームは乱数生成だと思っているが、チェスや以後の次の一手を考えたり、文章や絵を生成したりする。昨今の生成AIのブームで、今、一番賑わっている機能だ。

ボーイング737 MAXの悲劇は、自動化が現実を誤認するだけでなく、パイロットが誤りを修正する能力を奪い得ることを浮き彫りにした。この図は、故障した迎角(AoA)センサーが検知した機体の角度(上)と、実際の機体の姿勢(下)の乖離を示している。ライオン・エア610便とエチオピア航空302便の墜落事故では、誤ったデータによってMCASシステムが作動し、パイロットの操作を上書きして機首を繰り返し下げた。手動操作の制限と不十分な訓練により、乗員はシステムの暴走を抑えることができなかった。これらの失敗は、冗長性(バックアップ機構)、人間による監視、そして誤った自動化が現実や人間の介入を誤解しないための安全策の必要性を浮き彫りにしている。(イラスト:Dimitrios / Adobe Stock)