「全部AIでよくね？」数学者テレンス・タオが、その問いに一行で答えた

数学者が一人で全部やるしかなかった理由

タオの話は、要約すればこうなる。これまで数学だけは「分業」ができなかった。

ふつうの仕事は分けられる。料理人が仕込みと焼きと盛り付けを別々の人に振るように、産業も自然科学も、工程を切り分けて得意な人に任せてきた。ところが数学だけは、問題を立てる、戦略を考える、どの戦略でいくか選ぶ、実際に計算する、その結果が正しいか検証する、論文にまとめて人に伝える——この全部を、同じ一人の頭が通すしかなかった。

なぜ途中を他人に渡せなかったのか。ふつうの産業なら、分けた部品が「ちゃんとできているか」を、作った本人でなくても確かめられる。ネジが規格に合うかは、図面と照らせば測れる。ところが数学では、誰かが出した戦略や計算が正しいかを確かめるには、結局それを自分で理解し切れるだけの力がいる。途中を人に渡しても、その人の仕事が正しいか検証するコストが、自分で最初からやるのとほとんど変わらない。だから、分けても割に合わなかった。

それを変えるかもしれないのが、AIと「形式検証」（コンピュータが論理の正しさを機械的にチェックする手法）になる。確かめる作業を機械が肩代わりすれば、途中を渡しても検証のコストが跳ね上がらない。AIが工程の隙間を埋め、人間は自分の得意な一点に集中できる。数学という、最後まで分業を拒んできた領域にも、ようやく分業が入り込む。

ここは記事の本題ではないので、これくらいにしておく。私が引っかかったのは、その先にある構造のほうだった。

外れたのは「全部できないと土俵に立てない」という制約

AIの話になると、奪われる仕事、危ういセキュリティ、衰える思考力など暗い話がよく流れてくる。それはそれで大事な論点だと思う。ただ、今回の数学の件は、明るい側から光を当てられる一例ではないか。

これまで人間と従来のコンピュータには、はっきりした制約があった。数学でいえば「全工程を高い水準でこなせる人」でないと、そもそも土俵に立てなかった。問題設定は天才的でも計算ができなければ、その人の発想は世に出ないまま終わる。すべてのマスでスキルが高くないと、活躍できない構造だった。

その制約が外れる。得意なところができれば、あとはAIに任せればいい。全部のマスで満点を取らなくてよくなった。もちろん全体を見渡すセンスやスキルはいると思う。けれど「不得意な工程があるから諦める」という線引きが、一段うしろに下がった気がする。

これは数学に限らない。動画を作りたいが編集ができない、事業のアイデアはあるがコードが書けない、伝えたいことはあるが文章が苦手。「持っていないスキル」を理由に手前で止まっていた人が、一歩前に出られる。可能性が広がったというのは、つまりそういうことだと思っている。

「じゃあ全部AIでよくね？」に対する一行

ここまで来ると、当然の問いが立つ。得意なところ以外をAIに任せられるなら、いっそ全部AIでよくないか。

その問いに、タオ自身が一行で答えている。

使える自動化の量は、検証の厳格さにだいたい比例する。それを超えると、ただのスロップ（中身のない出力）になる。

これはそのとおりだと思う。AIはハルシネーション（もっともらしい嘘）を起こすし、間違えるし、ときに怠ける。人間によく似た間違い方をする。だから人間どうしの社会と同じで、相手の言うことが本当か、正しいかを確かめる作業がどうしても要る。確かめずに受け取れば、いくら大量に出力しても、それは厨房で味見せずに皿を積み上げるのと変わらない。味見できる料理の数以上に作った料理は、出せずに捨てるだけ。スロップというのは、その捨てる料理のことだと思う。

似た構造は前にも見た。AIが書いたコードはテストには通るのに、現場のエンジニアの半分が「これは使えない」と突き返す（テストに通るのに使えない、という調査）。テストという検証は通過しても、人間の検証は通らない。量は出る。だが検証に乗らなければ、出た分がそのまま価値になるわけではない。

もっと怖いのは、検証を省いてしまう側の話だ。AIが間違えても、8割の人はそのまま従う（AIの誤答に従ってしまう構造）。味見をやめた厨房は、腐った皿も平気で出す。AIは魔法の道具ではなく、ツールの一つにすぎない。少なくとも、今のところは。

番犬が心強いか厄介かは、隣に誰がいるかで決まる

そう考えると、AIに任せられる量は、自分が検証できる力に比例する、という言い方もできる。前提として「検証する」ことを忘れてはいけないが、その先に「どこまで検証できるか」という量の問題がある。分業はできるようになった。でも、分けた工程を確かめ切れる範囲を超えて任せれば、確かめられないものが手元に積み上がっていく。可能性が広がったぶん、検証という宿題も大きくなった。

たとえば番犬。同じ一匹の犬でも、飼い主にとっては心強い相棒で、忍び込もうとする者にとっては厄介で怖い存在になる。犬の性質が二つあるわけではない。隣に誰が立っているかで、意味が裏返るだけだ。

AIも近いと思う。脅威か、心強い相棒か。それはAIの側にあらかじめ書き込まれた性質ではなく、使う人間のスタンスと、検証する力で決まってくる。また、たまたま見た色にまつわる話で、同じ赤でも信号の赤、夕焼けの赤、非常灯の赤では人が受け取る意味が違う、というのがあった。色そのものに固定の意味があるわけではなく、置かれた文脈と見る人で変わる。AIをどう捉えるかも、たぶんそれに近い。

結局、AIをどう捉えるかで景色が変わる。番犬や色と同じで、AIの側に「脅威」や「味方」と最初から書き込まれているわけではない。「自分から仕事を奪う者」と見るか、「自分の可能性を広げる者」と見るか。そのスタンスが、先に景色を決めてしまう。

そして、新しい道具が出てきたとき、脅威として遠ざけた側と、可能性として手に取った側、どちらが多くを得てきたか。歴史の専門家ではないので断言はしないが、思いつくだけでもいくつかある。産業革命のとき、職を奪うと織機を打ち壊した職人がいた一方で、その機械を回す側に回った人が次の時代の主役になった。写真が出てきたときも、絵描きは「これで絵は終わる」と怯えたが、ありのままを写す役目を機械に明け渡した画家たちは、印象派という別の表現へ進んでいった。銀行にATMが広がったときも、窓口係は消えると言われて、すぐには消えなかった。むしろ機械にできない相談ごとのほうへ、仕事の重心が移っていった。振り返ってみると、可能性の側に賭けた人のほうが結局は伸びてきたように思う。少なくとも私は、そちら側に立っていたい。

ただ、可能性として手に取るなら、宿題はついてくる。何かを丸ごと任せる前に、「自分はこの出力を確かめられるか」を一度だけ自分に問う。その一拍が、自分とAIがどこまで組めるかの線を引く。「全部AIでよくね」の手前にあるのは、結局、全部を確かめ切れるのか、という問いだと思っている。

• 今あなたがAIに任せている仕事のうち、自分で結果を検証できているのはどれくらいか。
• あなたにとってAIは番犬のように心強い存在か、それとも確かめないまま使えば自分を噛む存在になりうるか。
• 「全部できないと土俵に立てない」という制約が外れたとき、あなたが今あきらめている領域のどれに手が届くか。
• 任せる量を増やすために、これから手放さず鍛えておくべき「検証する力」は何か。