Midjourneyで生成したイメージ。私は描画AI全てに反対しているわけではない。絵描きが自分に合ったブラシを選ぶように選べる外部サービスとして提供される描画AIは問題がないと思っている。そうではなく、誰もが日々使わざるを得ないインフラとしてのOSに個性の強い描画AIを搭載していることに反対しているのだ。Midjourneyも最初はアメリカンテイストの絵しか描けなかったが、その後、日本の独特の描画ニーズに合わせて日本市場専用の描画AIを開発。現在は自分テイストの絵が描けるパーソナリゼーション昨日に力を入れている。OS開発者もいずれはこの動きに追随すると思うが、大事なのはこれからどうなるかではなく、そもそもどれだけこうしたことに「敏感か」だ。

多くの知識人がこれと同様のことを述べている。
マーシャル・マクルーハンの「われわれは道具を形作り、その後、道具がわれわれを形作る(We shape our tools, and thereafter our tools shape us.)」やバックミンスター・フラーの「われわれの道具はわれわれの思考を変える。（Our tools reshape our thinking.）」あたりが有名だ。
　それにも関わらず、今日の社会で最も影響力のある道具、パソコン、スマートフォン、そしてAIを開発している多くの人々は、そうした影響力についてあまりにも無頓着だ。
　今のテクノロジー製品の作り方を変えようと「CalmTech Institute」を創設したAmber Caseは、かつて私が行ったWiredの記事用のインタビューでこう語っている。
　「法律家は法律の歴史を学ぶし、建築家は長い時間をかけて建築の歴史を学びます。でも、プログラマーは往々にして、道具の歴史や人類学、デザイン、そして人々について1週間も学ばずにものをつくり始めるのです」
　自分たちが生み出したものが、後の世にどのような影響を与えるか十分に考慮せず、ただ経済的成功を求めて大勢の人々に影響を与えるものをつくる。その姿は18世紀半ばに汚染された空気を吸いながら工業化を推し進めてきた人々にどこか重なる。

文化的押し付けの問題

問題が特にわかりやすいのが、OS開発者などのプラットフォーマーが採用する描画AI機能の提供だ。AIの問題というと、プライバシー情報の搾取などが大事な情報を盗まれることへの懸念が大きいが、私は一方的に価値観を押し付けられることも問題だと思っている。
　主要OSメーカーのOS標準の画像生成AIツールの紹介ページ、アップル社のImage Playground、グーグル社のGemini、マイクロソフト社のMicrosoft Designerだ。過剰なまでの色の使い方、動物のリアルさを保ったまま可愛らしさを誇張する絵の表現など、彼らが非常に近くて似通った表現の振れ幅を持った人たち——私の私見で判断させてもらえればアメリカンテイストの絵柄を足場に、これらのツールを作っていることは明白だ。
　世界のクリエイティブプロフェッショナルの多くが使っているはずのアドビ社の生成AIブランド、Fireflyのページも同様だ。

左上からアップル社Image Playground、グーグル社Gemini、マイクロソフト社Design、アドビ社Fireflyの公式ホームページ

　「そんなものプロンプト次第でどうにでも変わるし大した問題ではない」という意見の人もいるだろう。確かにアップルのImage Playground以外はプロンプト次第では、もっとシンプルな線画だったり、リアルな白黒イメージだったり、日本テイストの絵だったりを描くこともできる。ChatGPTの描く絵と比べると、どこか安い偽物のような雰囲気があるがジブリ風の絵を描かせることもできる。
　問題はそこではなく、これらのプラットフォーマーがOS標準のAI機能による文化侵略の可能性について、非常に無頓着かつ無神経だということを、もっとも視覚的にわかりやすい方法で晒してしまったことだと思う。
　AIに使用した学習データーによってバイアスが仕組まれている危険性は、世界中の多くの研究者がずっと以前から指摘し続けてきた。東京大学ではソニーとの協力の下作ったCreative Futurists Instituteなどでは、まさにこの「Tech Bias」をテーマにした数多くの研究が行われている。
　しかし、今の世の中で最も影響力が大きく、それ故、最もこうした問題に繊細でなければならないデジタル系プラットフォーマーが、最も目で見てわかりやすい形で、自らの製品の核にバイアスだらけの知能を搭載したことを晒してしまったのだ。
　もちろん、これから「もっと日本風の絵が描けるようにして欲しい」という要望が多く出てくれば、今後、そうした絵をたくさん学習させて、ユーザーの要望に応えることはできるだろう。だが、何かの技術を作る時、とりあえず先に作ってしまって、何かを指摘される度に、パッチワークを重ねて方向修正をするのはあまり賢いやり方ではない。
　少なくとも私は、既に提供されているAI技術を０リセットしない限り、常にそのAIの核にあるのは、あのアメリカ文化を押し売りしたAIだと、どこかで感じ続けることになるだろう。
　AS時代（After Steve）と言われる1998年以降のアップルの本来の強みは、多様性あふれるデザインチームが何かをやりすぎて製品に変な色がついていないかを常にチェックして、スティーブ・ジョブズが言うところの「1000のことに"No"という」姿勢で考えの足りないアイディアを却下して、常に無色透明で、少し物足りないと感じるくらいまでミニマルなモノづくりをしていたことだ。この足りなさこそが、文化的思想的背景の違いや年齢差、性差などを意識せず、誰もが使いたくなる秘密だった。
　これは日本の禅の考え方に近い。茶碗は空だからこそお茶を注ぐことができる。長谷川等伯の絵など、日本の有名な絵画は描かれていない空白の部分があるからこそ、見る人がそこを自分の想像で埋めて自分だけの絵画体験ができる。
　最初の音楽再生機能しかなかったiPodや、アプリのなかったiPhoneも足りないからこそ、そこに使い手の工夫が加わって自分だけの存在になった。
　実はApple IntelligenceのImage Playgroundにもアップルらしさがないわけではない。あまり最初から色々なことをさせずに描ける画風を３種類に限定したり、文章力で差がつくプロンプトで絵を描くのではなく単語やアイコンを選んで、絵を装飾する方法で、あらゆる人がプロンプトに悩まずに絵を描けるようにしたこと、つまりユーザーインターフェースのデザインはもっとポジティブな評価を受けて良いと思う。しかし、その上で描かれる絵のテイストが、あまりにも偏っていた。もっと、ミニマルで特色のない絵柄からスタートしていれば、かなりイメージが変わっていたのではないかと思う。
　最もあまりにも個性が強すぎる絵柄を採用したおかげか、ソーシャルメディアを見ていてもImage Playgroundで描いた絵を投稿している人はほとんど目にしない（見かけた絵はほとんどApple Intelligenceの紹介記事のために描かれたものだ）。ChatGPTで無料ユーザーでもジブリ風の絵が描ける時代に、あえて制限の大きいImage Playgroundで描いた絵を投稿する人はいない。
　だからと言って、問題がないわけではなく、私はアップルという影響力のあるプラットフォーマー、一番、ミニマルアプローチの大事さをわかっていて、それだけに期待が大きかったプラットフォーマーが、こうしたImage Playgroundを出してしまったことに対する残念さを隠すことができない。

テクノロジーが習慣と能力に与える影響

人類最初の道具は石だったと言われます。2016年にミラノで開かれたAndrea Branziと原研哉による展覧会"新・先史時代－100の動詞 Neo-Prehistory -100 Verbs"は人類の進歩を100の道具とその道具を表す動詞と並べて展示した非常にインスパイアリングな展覧会でした。本もあるようです。

English version of this article is available here.

IT業界の自転車を漕いでいるのは誰？

我々は「人とテクノロジー」はどのような関係を築くのが理想か、もっと真剣に議論をしなければならない。
　IT技術を手放しで礼賛する人が多い。IT業界を35年にわたって取材してきた。私もかつてはその１人だった。しかし、2015年前後からIT技術の進展を楽観視できなくなっていた。
　若き日のスティーブ・ジョブズは「コンピューターは自転車」だとよく語っていたという（日本のアルプス電子の人たちにもそう語っていたそうだ）。
　確かに自転車は良い意志を持った人が上手く活用すればより遠くまで冒険に行ったり、より早く新聞を配ったりもできるだろう。一方で同じ自転車をパン泥棒が使えば、パンを盗んだ後、追っ手を振り切って逃げ切ることもできてしまう。
　ここで立ち止まって、今日、IT業界の自転車のペダルを最も熱心に漕いでいるのが誰がを考えてみると、それはシリコンバレーのIT企業に投資してあり余る財産をさらに増やし続けてるようなベンチャーキャピタリストたちだ（ダグラス・ラシュコフによればこうした人々の中には最終戦争が起きた後でも自分だけ生き残る方法探しに熱心な人も多いという）。いや、彼らだけではない。個人情報を盗んで詐欺や脅迫を行う犯罪組織だったり、他国を混乱させるのが目的のサイバーテロリストも、自転車を漕ぐことに最もモチベーションを感じている人々だろう。
　製品の利用者を自社製品の中毒にして、より多く広告を見せれば、それで大金が手に入るビジネスモデルが、IT業界をすっかりと悪の業界に変えてしまった。

無責任に作られてきたIT業界

　テクノロジー製品の作られ方をもう1度考え直すべきと「Calm Tech Institute」を立ち上げたAmber Caseは「テクノロジーは我々にもっと時間を与えるべきなのに、逆に時間を奪っている」、「建築家であれば何年もの時間を考えて建築の歴史や、作ったものがそこに住む人にどんな影響を与えるかをしっかりと学んでようやく建築家になれます。医者だってそうです。それなのにITの世界では、プログラミングだけ学べば明日からでも人々が使う製品を作れてしまう。これはおかしい」と述べている。
　昨今のテクノロジーが社会に与えてきた害悪を考えると、このままこうした作り方を続けるのはあまりにも無責任だと私も思っている。
　私はIT業界は2000年代初頭に運命の分かれ道に立ったと思っている。以前にも書いたが、2001年にGoogle創業者のラリー・ペイジをインタビューした時、彼は「できれば広告ビジネスだけに依存することは避けたい」と述べていた。しかし、その後、Googleが全力で広告ビジネスに舵を切ったあたりからIT業界はおかしくなった（別にGoogleだけが悪いわけではない）。
　ただ、あまりにも多くの人が技術の恩恵を受け過ぎていて、そこに対して正面から批判をしている人はあまりにも少ない。Amber Case以外で、すぐに思いつくのは山口県のYCAM（Yamaguchi Center for Arts and Media）で出会った私のお気に入りはCritical Engineering Working Groupというアーティスト集団くらいだ。彼らは技術を額面通り受け入れるのではなく、もっと批評的な目で見るべきだと”THE CRITICAL ENGINEERING MANIFESTO”を掲げ、ブラックボックス化したテクノロジーに隠された真の意図への注意を促そうとしている。

日本で1000年以上続く貴族の遊び香道で使われる道具を研究するAmber Case（写真右）。京都にある天皇家ゆかりのお寺にて。彼女はこうした古い道具にこそCalmさがある、最新テクノロジーで作られた道具の多くはアテンションを求めて派手に作られすぎだと注意を促す。左はCalm Tech Institute Tokyoそしてmui Lab代表の大木和典（おおきかずのり）

Critical Engineering Working GroupのDanja VASILIEV(左)とBengt SJÖLÉN(右)。2022年の YCAMでのイベントにて

６つの機能で、人とテクノロジーの関係を分析する

　私はテクノロジーコンサルタントとして日本の通信会社、電機メーカーなどでよく講演や短期のコンサルテーションを行ってきたが、仕事を受けると、自分の30年以上のIT業界でのキャリアを述べた上で、「その経験から語るが、一番大事なのはテクノロジーそのものではない。何をやるかだ」と最初に宣言してきた。
　私は「人との関わり方」を起点にすると、テクノロジーが人間にもたらすのは大きく分けて次の６つの役割だと思っている：

１）amplification（拡張機能）
２）transformation（変換機能）
３）automation（自動化代行機能）
４）representation（表現機能）
５）recording（記録機能）
６）authentication（認証機能）
７）generation（生成機能）

　「拡張機能」は、例えば人間の基本能力を拡張する形で、より強い力を発揮させたり、より遠くを見渡したり、より小さな音を聞いたりといった能力の拡張をする機能のこと。
　「変換機能」は、例えば人間の感覚ではわからない温度やスピードを数値やメーターで表示したり、カメラで捉えた風景を視覚障害を持つ人にもわかるように声で伝えたり、相手が話している内容を文字に変換したり、それを翻訳したりといった技術だ。
　「自動化代行機能」は、従来人間が行なっていた作業をテクノロジーが代行してくれる技術。洗濯機やロボット掃除機、自動運転などがわかりやすい例だ。
　「表現機能」は、データビジュアリゼーションやシミュレーションはもちろん、３Dプリンターによる既存製品の模倣などあらゆる形でのアウトプットが入ってきて、よく「拡張機能」や「変換機能」とセットになって応用される。
　「記録機能」は、コンピューターのメモリーに人間の脳では覚えきれない文字情報や視覚情報、音、その他の情報を蓄積し、検索する機能だ。
　「認証機能」は、比較的新しい用途だが、スマートフォンという道具を１人が１台持ち、SMSや指紋認証、顔認証などの生体認証を使って本人確認ができることから、家の鍵から学生証、アプリの利用登録、パスワードの管理まであらゆるシチュエーションで本人確認をするのに使われ始めている。
　最後の「生成機能」の最も単純なフォームは乱数生成だと思っているが、チェスや以後の次の一手を考えたり、文章や絵を生成したりする。昨今の生成AIのブームで、今、一番賑わっている機能だ。

ボーイング737 MAXの悲劇は、自動化が現実を誤認するだけでなく、パイロットが誤りを修正する能力を奪い得ることを浮き彫りにした。この図は、故障した迎角（AoA）センサーが検知した機体の角度（上）と、実際の機体の姿勢（下）の乖離を示している。ライオン・エア610便とエチオピア航空302便の墜落事故では、誤ったデータによってMCASシステムが作動し、パイロットの操作を上書きして機首を繰り返し下げた。手動操作の制限と不十分な訓練により、乗員はシステムの暴走を抑えることができなかった。これらの失敗は、冗長性（バックアップ機構）、人間による監視、そして誤った自動化が現実や人間の介入を誤解しないための安全策の必要性を浮き彫りにしている。（イラスト：Dimitrios / Adobe Stock）

人類を弱くするテクノロジー