第4回:AIが見つけた反例は,本当に反例なのか――数値実験と証明のあいだ

AI4Mathで最近考えていること
(21st September 2026 Update)

前回まで,AIに「この定理を壊してくれ」と頼む話を書いてきた.反例を探して,そこから仮定を削り,定理の境界を探す.これは研究のやり方としてかなり面白いと思っている.

ただ,その次に面倒な問題がある.

AIが「反例を見つけました」と言ってきたとき,私たちはそれを信用してよいのだろうか.

数値が少し負になった.グラフが急に振れた.誤差が一つだけ大きくなった.それだけで「反例が見つかった」と言ってよいのか.

たぶん,ここでまた数学に戻らなければならない.

1.100万回うまくいっても,定理にはならない

数値実験をしていると,たくさんの例で同じ現象が出ると安心する.

例えば \[ F(T)\geq 0 \] という性質を調べていて,ランダムに作った三角形を100万個試して,全部で成り立ったとする.

これはかなり強い手掛かりになる.少なくとも,簡単に壊れる主張ではなさそうだと分かる.次に何を証明すべきか考える材料にもなる.

でも,100万個目の次に反例があるかもしれない.

有限回の数値実験と \[ F(T)\geq 0\qquad\text{for every admissible }T \] という数学的主張の間には,やはり距離がある.

AIなら,人間よりはるかに多くの例を試すことができる.それは大きな力だと思う.しかし,試した個数が100万から1億になっても,「すべて」と同じにはならない.

2.では,一回壊れれば反例なのか

論理だけを見れば,一つで十分である.

\[ F(T)\geq 0\qquad\text{for all }T \] という主張に対して, \[ F(T_0)<0 \] となる \(T_0\) が一つあれば,それで反例である.

ところが,コンピュータで \[ F(T_0)=-10^{-14} \] と出たらどうだろう.

私は,これをそのまま反例とは呼びたくない.

丸め誤差かもしれない.条件数が悪くなっているだけかもしれない.極端に潰れた要素で計算が不安定になったのかもしれない.あるいは,単純に自分のコードが間違っているかもしれない.

紙の上では「一つ見つければよい」.しかし計算機上で見つかった「一つ」が,本当に数学の世界の一つなのかは別の話になる.

3.浮動小数点数は便利だが,そのまま証明ではない

数値解析をしていると,浮動小数点計算なしにはほとんど何もできない.私もPythonや数値計算を普通に使う.反例候補を探す段階では,むしろ積極的に使った方がよいと思っている.

ただし,コンピュータが表示した数値をそのまま実数の値だと思うのは危ない.

例えば,本当の値がゼロに非常に近いところで符号だけを見たい場合,最後の数桁が丸めによって動けば結論まで変わる.

だから,AIが大量探索をして

「ここが怪しい」

と教えてくれるところまではよい.その次に,その符号や不等式をどう保証するかを考える必要がある.

4.反例候補からverified counterexampleへ

ここで,私が最近取り組んでいるverified numericsとAI4Mathがつながってくる.

例えば通常の浮動小数点計算で \[ F(T_0)\approx -0.012 \] と出たとする.これだけなら数値結果である.

一方で,丸め誤差まで含めて \[ F(T_0)\in[-0.013,-0.011] \] と厳密に囲うことができれば,少なくとも \[ F(T_0)<0 \] という符号は保証できる.

この違いは大きい.

AIが反例の候補を探し,verified computationがその候補を数学的に固める.そうすれば,単なる「変な数値が出た」から一歩進める.

私は,AI4Mathとverified numericsは別々の流れではないと思っている.むしろ,相性はかなりよいのではないかと思う.

5.ただし,PDEではもっと面倒になる

有限次元の不等式なら,候補を厳密に評価できれば話がかなり進む.

PDEではそう簡単ではない.

コンピュータで求めた \(u_h\) に奇妙な振る舞いが出たとしても,それは離散解の性質かもしれない.真の解 \(u\) も同じ性質を持つとは限らない.メッシュが悪いのかもしれないし,離散化が悪いのかもしれない.

つまり, \[ \text{discrete counterexample} \] と \[ \text{counterexample for the continuous problem} \] は同じではない.

有限要素法では,ここに誤差評価が必要になる.離散解と真の解の距離を保証し,それでも問題の性質が壊れていると言えるのかを確認しなければならない.

この点では,反例を見つけることとverified error boundを作ることが直接つながってくる.

6.「反例」と「反例候補」は分けて書きたい

AIを研究に使うようになると,言葉の使い方も少し慎重にした方がよいと思う.

AIや数値探索によって怪しい例が見つかった段階では,私はまず

counterexample candidate

と呼びたい.

その候補について,計算誤差を押さえる.必要なら区間演算を使う.PDEなら離散化誤差まで見る.最後に,数学的に主張を否定していることが確認できたところで,初めてcounterexampleと呼ぶ.

少し堅苦しく見えるが,AIが大量の候補を出せる時代には,この区別はむしろ重要になると思う.

7.AI,verified computation,人間の役割

ここまで考えると,私の中では役割分担がかなりはっきりしてくる.

AIは広く探す.

数値計算は怪しい場所を詳しく見る.

verified computationは,そこで得られた数値的主張を固める.

そして人間は,なぜそこで壊れたのかを考える.

式にすれば, \[ \text{AI exploration} \longrightarrow \text{counterexample candidate} \longrightarrow \text{verification} \longrightarrow \text{mathematics} \] という流れになる.

私はこの流れがかなり好きである.AIに数学を全部任せるわけでもないし,人間がAIを単なる計算機として使うだけでもない.それぞれが得意なところを受け持っている.

AIが人間なら見なかった場所を掘る.verified computationが「そこは本当に壊れている」と保証する.そして人間が,「ではなぜ壊れたのか」と戻っていく.

そこから新しい定理が出てくるなら,かなり面白い研究の形だと思う.

8.次に考えたいこと

ここまで来ると,もう一つ気になることがある.

数値的な候補をverified computationで固めても,その背後にある証明の論理まで自動的に正しくなるわけではない.

では,Leanのようなproof assistantは,AIが作った数学をどこまで確認できるのか.

AIが補題を作る.人間が定理の構造を考える.verified computationが数値部分を保証する.Leanが論理部分を確認する.

ここまでつながると,AI4Mathとverified numericsとformal proofが,ようやく一つの研究の流れに見えてくる.

次はこの「LeanはAIの数学の査読者になれるのか」を考えてみたい.

関連する記事

ページの先頭へ