# LLMは「計算機」ではない、ましてや「魔法」でもない

## 言葉の独り歩き

以前、実務において「光の波長を使って3D測定ができる」という主張を耳にしたことがある。

光の波長そのもので形状を測るとなれば、干渉計のような極めて特殊な光学系を想像するが、蓋を開けてみればそれは「ステレオ照明（複数の方向からの照明）」による形状復元のことだった。

照明の影から形状を推測する手法と、波長という物理量は全く別物だ。しかし、言葉が独り歩きすることで、あたかも魔法のような原理で測定できているかのような錯覚が生まれる。

昨今では、技術者ですら自身の理解の範疇を超えた事象を「LLMによるものだ」と短絡的に解釈してしまう事態が散見される。これこそ、LLMが技術ではなく「魔法」だと考えられてしまっている決定的な証拠なのではないか。

## 「計算機だから正確」という残酷な誤解

非エンジニア、あるいは原理原則を軽視する人々からの期待値調整に、多くのエンジニアが疲弊している。

「コンピュータなんだから、計算は得意なはずだろう。なぜ算数の答えを間違えるのか」

LLMは「計算」をしているのではない。次に来る確率が高い単語を予測しているに過ぎない。その原理を無視して、100%の正確性を求めるのは、包丁でネジを回そうとするようなものだ。

画像処理の実務においてもそうだった。ルールベースで輝度値を閾値処理すれば確実に仕分けられるものを、あえてディープラーニングで学習させようとする。

「AIなら、もっといい感じにやってくれるはずだ」という根拠のない期待。その「いい感じ」の裏側で、どれほどのリソースと不確実性が積み上がっているのか、彼らは想像しようとしない。

## 信仰から、技術へ

今のAIブームには、宗教的な熱狂に似た危うさを感じる。

しかし、どんなに巨大なモデルであっても、その根底にあるのは数理モデルと、それを支える膨大な計算資源だ。ブラックボックスだからといって、その中身を魔法として片付けてしまえば、我々は技術的な成長を止めてしまうことになる。

我々に求められているのは、最新の魔法使いになることではない。道具の限界を冷徹に見極め、現実の課題を解くための「冷徹な知性」を持ち続けることだ。