Seq2seq による足し算の計算はジョン・サールの 中国語の部屋 - Wikipedia を彷彿とさせる。【外から記号の羅列を受け取り、確率的にありそうな記号の羅列にして外に返す。すると、AI の外にいる人間は「この AI は足し算を理解している」と考える。しかしな…