AIが意味を理解していない証拠は簡単に見つかる: かじヤンの科学する心

　NHKの将棋特番などはAIを擬人化をしていて、AIがあたかも思考や判断をしているかのような誤解を広めている。囲碁将棋ファンなどは特にAIを神格化していて、いくら説明しても、自分たちが生き神のように崇めている棋士たちを打ち負かすAIがただの電子そろばんだという事実を受け入れがたいようだ。
　さて、そんな中、「AIは意味を理解しているわけではないというが、理解とは何かを定義できない以上その言説は成り立たないのではないか」という質問があった。で、以下のような例で「意味」や「理解」を厳密に定義できなくても、AIが「意味を理解できていない」ことは明らかであると説明した。
AIが最も成功している分野の一つが機械翻訳だ。以下の例文を機械翻訳にかけると、
This bus goes to the college after the high school. →　このバスは高校の後、大学に行く。
ところが、英文からtheを取るとこうなる。
This bus goes to college after high school. →　このバスは高校卒業後、大学に進学する。
　これを見れば、AIがバスや大学の意味を理解していない事は明らかだ。正しい英作文では、go toはtheがあると「特定の場所に向かって物理的に移動する事」を意味する。しかし、theがないと、何かの行為や行動を意味する。go to bed ＝ 寝る、go to class ＝ 授業に行く、go to war ＝ 挙兵する、出征する、go to church ＝ 礼拝に行く、などだ。バスや大学が何であるか理解している人間であれば、単にtheを忘れているのだろうと解釈して書いた人の伝えたい事がわかる。
　このような訳をすることから、プログラミングの素人である自分でもAIがどういう手順を踏んでいるのか、想像がつく。AIは無数の対訳例文をため込んでいて、その中から、”Should You Go To College Right After High School?”といった一致度の高い例文を探し出し、多数決で対訳文を作り、主語を置き換えるなどして体裁を整えているのだろう。
　なお、時間が立つと、AIは学習して正しく訳すようになるかもしれないが、それはAIが意味を理解したからではない。人間が間違いだと教えるようなプログラムの変更をしたか、あるいは、無数の対訳例文集を収集する過程で多数決で正しい訳にたどりついたなどの理由だ。
例えば、
Johnny went to war with his classmates. →　 ジョニーは同級生と戦争に行った。
In February 2022, Putin went to war with Ukraine. → 2022年2月、プーチン大統領はウクライナと戦争を始めた。
人間は、プーチンは人ではなく国家（元首）だから、この場合のgo to warは出征ではなく、開戦だと判断する。しかし、AIはそういう判断をしているのではなく、ニュースなどのデータを無数に持っていて、一致度の高いものから多数決で「開戦」を選んでいるに過ぎない。