利便性という幻想 ―デジタルの効率が侵食する人間の本質
人類最初の道具は石だったと言われます。2016年にミラノで開かれたAndrea Branziと原研哉による展覧会"新・先史時代－100の動詞 Neo-Prehistory -100 Verbs"は人類の進歩を100の道具とその道具を表す動詞と並べて展示した非常にインスパイアリングな展覧会でした。本もあるようです。
English version of this article is available here.
IT業界の自転車を漕いでいるのは誰？
我々は「人とテクノロジー」はどのような関係を築くのが理想か、もっと真剣に議論をしなければならない。
IT技術を手放しで礼賛する人が多い。IT業界を35年にわたって取材してきた。私もかつてはその１人だった。しかし、2015年前後からIT技術の進展を楽観視できなくなっていた。
若き日のスティーブ・ジョブズは「コンピューターは自転車」だとよく語っていたという（日本のアルプス電子の人たちにもそう語っていたそうだ）。
確かに自転車は良い意志を持った人が上手く活用すればより遠くまで冒険に行ったり、より早く新聞を配ったりもできるだろう。一方で同じ自転車をパン泥棒が使えば、パンを盗んだ後、追っ手を振り切って逃げ切ることもできてしまう。
ここで立ち止まって、今日、IT業界の自転車のペダルを最も熱心に漕いでいるのが誰がを考えてみると、それはシリコンバレーのIT企業に投資してあり余る財産をさらに増やし続けてるようなベンチャーキャピタリストたちだ（ダグラス・ラシュコフによればこうした人々の中には最終戦争が起きた後でも自分だけ生き残る方法探しに熱心な人も多いという）。いや、彼らだけではない。個人情報を盗んで詐欺や脅迫を行う犯罪組織だったり、他国を混乱させるのが目的のサイバーテロリストも、自転車を漕ぐことに最もモチベーションを感じている人々だろう。
製品の利用者を自社製品の中毒にして、より多く広告を見せれば、それで大金が手に入るビジネスモデルが、IT業界をすっかりと悪の業界に変えてしまった。
無責任に作られてきたIT業界
テクノロジー製品の作られ方をもう1度考え直すべきと「Calm Tech Institute」を立ち上げたAmber Caseは「テクノロジーは我々にもっと時間を与えるべきなのに、逆に時間を奪っている」、「建築家であれば何年もの時間を考えて建築の歴史や、作ったものがそこに住む人にどんな影響を与えるかをしっかりと学んでようやく建築家になれます。医者だってそうです。それなのにITの世界では、プログラミングだけ学べば明日からでも人々が使う製品を作れてしまう。これはおかしい」と述べている。
昨今のテクノロジーが社会に与えてきた害悪を考えると、このままこうした作り方を続けるのはあまりにも無責任だと私も思っている。
私はIT業界は2000年代初頭に運命の分かれ道に立ったと思っている。以前にも書いたが、2001年にGoogle創業者のラリー・ペイジをインタビューした時、彼は「できれば広告ビジネスだけに依存することは避けたい」と述べていた。しかし、その後、Googleが全力で広告ビジネスに舵を切ったあたりからIT業界はおかしくなった（別にGoogleだけが悪いわけではない）。
ただ、あまりにも多くの人が技術の恩恵を受け過ぎていて、そこに対して正面から批判をしている人はあまりにも少ない。Amber Case以外で、すぐに思いつくのは山口県のYCAM（Yamaguchi Center for Arts and Media）で出会った私のお気に入りはCritical Engineering Working Groupというアーティスト集団くらいだ。彼らは技術を額面通り受け入れるのではなく、もっと批評的な目で見るべきだと”THE CRITICAL ENGINEERING MANIFESTO”を掲げ、ブラックボックス化したテクノロジーに隠された真の意図への注意を促そうとしている。
日本で1000年以上続く貴族の遊び香道で使われる道具を研究するAmber Case（写真右）。京都にある天皇家ゆかりのお寺にて。彼女はこうした古い道具にこそCalmさがある、最新テクノロジーで作られた道具の多くはアテンションを求めて派手に作られすぎだと注意を促す。左はCalm Tech Institute Tokyoそしてmui Lab代表の大木和典（おおきかずのり）
Critical Engineering Working GroupのDanja VASILIEV(左)とBengt SJÖLÉN(右)。2022年の YCAMでのイベントにて
６つの機能で、人とテクノロジーの関係を分析する
私はテクノロジーコンサルタントとして日本の通信会社、電機メーカーなどでよく講演や短期のコンサルテーションを行ってきたが、仕事を受けると、自分の30年以上のIT業界でのキャリアを述べた上で、「その経験から語るが、一番大事なのはテクノロジーそのものではない。何をやるかだ」と最初に宣言してきた。
私は「人との関わり方」を起点にすると、テクノロジーが人間にもたらすのは大きく分けて次の６つの役割だと思っている：
１）amplification（拡張機能）
２）transformation（変換機能）
３）automation（自動化代行機能）
４）representation（表現機能）
５）recording（記録機能）
６）authentication（認証機能）
７）generation（生成機能）
「拡張機能」は、例えば人間の基本能力を拡張する形で、より強い力を発揮させたり、より遠くを見渡したり、より小さな音を聞いたりといった能力の拡張をする機能のこと。
「変換機能」は、例えば人間の感覚ではわからない温度やスピードを数値やメーターで表示したり、カメラで捉えた風景を視覚障害を持つ人にもわかるように声で伝えたり、相手が話している内容を文字に変換したり、それを翻訳したりといった技術だ。
「自動化代行機能」は、従来人間が行なっていた作業をテクノロジーが代行してくれる技術。洗濯機やロボット掃除機、自動運転などがわかりやすい例だ。
「表現機能」は、データビジュアリゼーションやシミュレーションはもちろん、３Dプリンターによる既存製品の模倣などあらゆる形でのアウトプットが入ってきて、よく「拡張機能」や「変換機能」とセットになって応用される。
「記録機能」は、コンピューターのメモリーに人間の脳では覚えきれない文字情報や視覚情報、音、その他の情報を蓄積し、検索する機能だ。
「認証機能」は、比較的新しい用途だが、スマートフォンという道具を１人が１台持ち、SMSや指紋認証、顔認証などの生体認証を使って本人確認ができることから、家の鍵から学生証、アプリの利用登録、パスワードの管理まであらゆるシチュエーションで本人確認をするのに使われ始めている。
最後の「生成機能」の最も単純なフォームは乱数生成だと思っているが、チェスや以後の次の一手を考えたり、文章や絵を生成したりする。昨今の生成AIのブームで、今、一番賑わっている機能だ。
ボーイング737 MAXの悲劇は、自動化が現実を誤認するだけでなく、パイロットが誤りを修正する能力を奪い得ることを浮き彫りにした。この図は、故障した迎角（AoA）センサーが検知した機体の角度（上）と、実際の機体の姿勢（下）の乖離を示している。ライオン・エア610便とエチオピア航空302便の墜落事故では、誤ったデータによってMCASシステムが作動し、パイロットの操作を上書きして機首を繰り返し下げた。手動操作の制限と不十分な訓練により、乗員はシステムの暴走を抑えることができなかった。これらの失敗は、冗長性（バックアップ機構）、人間による監視、そして誤った自動化が現実や人間の介入を誤解しないための安全策の必要性を浮き彫りにしている。（イラスト：Dimitrios / Adobe Stock）
人類を弱くするテクノロジー
ここで注意しなければならないのが「依存」を生み出すテクノロジー機能だ。
「記録機能」や「認証機能」は、例えば大災害などが起きた場合（気候変動が進む今日、大災害に見舞われるリスクはかつてより上がっている）、大事なデータが利用できなくなってしまうリスクを常に抱えており、常にフォールバック、つまり、電気を必要としない迂回路を用意しておく必要がある。
さらに注意が必要なのは「自動化代行機能」や「生成機能」だろう。依存することによって、本来備わっていた能力が退化してしまったり、失われてしまう危険がある。瑣末な能力ならいいが、生活をする上で、サバイバルをする上で必要な能力が損なわれてしまうと致命傷になる危険がある。また、例えば自動化などによって伝統的な方法が、経済的に成り立たなくなり産業として消滅してしまうといった事態も引き起こしかねない。
「拡張機能」、「変換機能」は、電動機付き自転車でペダルを漕ぐようにちゃんと使う人が身体を動かし労働をしていること、そしてある程度の負荷だったり、何かがあったときに突然、ペダルが漕げなくなるなどの身体的フィードバックを返していることが重要だと思っている（これを失ってしまうと「自動化代行機能」になってしまう）。「拡張機能」はうまく設計すれば、むしろ人の能力を伸ばしてくれることもある。この形のテクノロジーで私が大好きなのはSony CSLの研究者、アレクシー・アンドレが開発している「tomonami」だ。
このように我々が単純に「技術」として一括りにしてしまっているものを、もっと詳細に分類し高い解像度で分析するようになれば、我々はもっとそのテクノロジーが自分に与える長期的な影響に真剣に向き合えるのではないかと私は信じている。
汎用テクノロジーに気をつけろ
そのテクノロジーが自分専用に作られたテクノロジーか汎用のテクノロジー化も重要な視点だ。テクノロジーを開発する会社は、1度の手間で多くの利用者に展開できる汎用テクノロジーを作って儲けようとする。
例えば「売上を２倍に伸ばすITソリューション」というものがあったとしよう。使ってみると、従来のやり方では効果がなかった無駄な努力を切り詰め、ビジネスのやり方を最適化し、本当に倍近い売り上げになる、そうしたITソリューションがあっても不思議ではない。ただし、多くの場合、こうしたソリューションはあなただけに利するものではなく、しばらく経つとライバル企業も同様に導入してかえって競争を厳しくしてしまう。
こういうことがテクノロジーの世界ではしばしばある。
多くのテクノロジーのソリューションはあなただけの秘密兵器ではなく、誰にも平等に利する汎用ツールで、それまで大変だからその業界を敬遠していなかった人たちの新規参入まで促しかねない。
そのうち、テクノロジー中毒になってさらに最適化が進んだ最新サービスを導入することばかりに熱心になり、自分がそもそも何でその事業を始めたのかという情熱や、その事業で本来何が大事だったのかということを忘れてしまう。
テクノロジー導入を間違えると、こうした本末転倒が少なからず起きる。
私は、こうした汎用のビジネスツールは産業革命で広まった大量生産大量消費（大量廃棄）と同様に悪だと思っている。最も間もなくAIの時代になれば、誰もがパーソナライズされたアシスタントを手にすることになるので、雑な最適化を行ってきた罪深き汎用ツールの時代はそこで終わると信じている。
すべての人に対して八方美人で機能を詰め込み過ぎて、何かをしようとする度に、GoogleやYouTubeで「どのように操作したらいいのか」調べないと使えないような汎用ツールは職務怠慢の産物だ。画像加工なども遠からず「被写体をもっとシャープにして、背景をもう少しぼかして」といいながらカーソルを上下に動かして度合いを調整するような操作に移行していくことだろう。
ほとんどのB2B向けビジネスツールは、汎用的に適用できるよう設計されている。その結果、明日も今日と大差なく、こうしたツールの導入はむしろビジネスの画一化を促進するだけだ。皮肉なことに、これらのツールを宣伝するためのイラストも同じ均一化の波に飲み込まれてしまっている。個人的にはまったく魅力を感じないが、ビジネス最適化という狭い世界に深く浸かっている人々は、こうしたイラストを無思考に歓迎するのかもしれない——まるで、自らの脳が「最適化」され、均一化されてしまったかのように。（イラスト：MD SALEH AKRAM / Adobe Stock）
生成AI黎明期の今だからこそ重要なこと
これからITの世界がAIの普及によって、激変することに異論を挟む人はいないだろう。COVID-19のパンデミックと共に世界に広まった生成AIは今でも日々、新しいニュースをもたらしているが、2025年に入ってからは任務遂行型のAIエージェントも大きな注目を集めている。
AIという、人類が初めて知的な対話を楽しめる人間以外の存在が誕生したことで、私が一番の発見と感じているのが、AIを使うことで自分が何を大事にしているかが可視化できたと思っている。
例えば私は文章を書くプロフェッショナルなので、現在の生成AIで作り出された稚拙な文章は許容できない。色々とプロンプトを工夫して欲しい情報が詰まった文章を書かせることはできる。AIに一度、下書きをさせることで頭の中が整理されたり、自分では思いつかない良い表現が見つかることはある。しかし、書き方が許容できない（特に全く同じ内容を伝えるにしても、多彩な表現のオプションがある日本語での表現はまったく許せない）。すべての人が私みたいなわけではない。AIが生成した文章をそのままコピー＆ペーストして満足している人も少なからずいる。その人たちは、その品質の文章で満足な人たちなのだ。
同様に絵の生成にしてもそうだ。AIに描かせた絵、最初のうちは「こんな絵も描けた」と喜んでいたが、仕事ではもちろんだが、自分のソーシャルメディアに投稿するような絵にしても、１回で満足した結果を得られることはない。単純なプロンプトだとアメリカンテイストが前面に押し出された、やたらと鮮やかな色を使いまくった大味の絵が出てくることが多いので、これまでの経験で編み出したそうならないためのプロンプトのボキャブラリーを駆使して、十数回は作り直し、時にはそれでも満足できずレタッチツールなどで加工を加えて仕上げる。
もちろん、すべての人がそうなわけではなく、生成AIにプロンプトを打ち込んで真っ先に出てきた第１候補で満足して、それを自分のソーシャルメディアや場合によってはビジネスプレゼンテーションに使用して平気な価値観の人も大勢いる。
たまたま私はそれが許容できないだけだ。
一方、そんな私でも例えばフランス語やイタリア語での文章の生成だとそこまで細かなニュアンスを区別できないので、最初に生成された成果をそのまま流用してしまうことも多い（英語に関しては、気に入らなかった表現をリスト化して、ダメ出しをして書き直させている）。
また事務的なメールの返信やフォーマットがしっかりと決まった書類などの文言はほぼ生成AIに任せている。
このように生成AIを使うと、自分は何に対してはこだわりが強くて、何に対してはこだわりがないかが見えてくる。
こだわりがない人は柔軟でいい側面もあるが、これからはこだわりがない人のやる仕事の多くは生成AIで置き換え可能になってしまう。だから、今まだ生成AIが稚拙なうちに自分が何にこだわりがあるのかを発見しておくのは価値があることだと思っている。
なぜなら、生成AIが私のこだわりを理解した上で、ベストパフォーマンス時の私を超える文章を生成し出したら、もはやそのこだわりが発見できなくなってしまうからだ。
今、我々は激動の時代を生きている。これを面白い時代と楽しむ人も多く、その気持ちがわかる部分もある。しかし、一方で未来の世代に対しても責任が重い決断が我々に任されている。
「人とテクノロジー」はどのような関係を育くのが理想か、もっと真剣に議論されなければならないフェーズに入ってきていると思う。そしてその議論をする上で重要な役割を担うのはテクノロジストやキャピタリストではなく、デザイナーだと私は思っている。
私には、SNSに溢れるAI生成画像がすべて同じに見える。極端に彩度の高い赤、青、紫——シリコンバレーの企業が好む色彩。彼らはブランディングだけでなく、ツールやインターフェースの設計においても、こうした色を多用する。そして、計算され尽くした「最適化された」デザインと組み合わさることで、生み出されるキャラクターや表情は、私にとってはむしろ異様なまでに空虚に映る。
AIによる画像生成が広く注目され始めた頃、私は 「AI_drawings_by_nobihaya」 というInstagramアカウントを開設し、数多くのAI生成作品を投稿していた。当時は、一般的に人々がAIに描かせようとは思わないものを、あえて探求していた。だが、2023年末に投稿をやめた。
結局、大切なのは AIが画像を作ることではなく、人間が何を「よし」とするか だと私は思う。
