何年か前に仕事で統計をつくっていたときに、Excelの表計算で算出した答えを電卓で検算するという作業をやっていた。意味があるのかないのか、持ち家借り家論争に匹敵する永遠の論題と言える。
俺は「こんなん意味ねえだろ、どうせ間違ってねえんだからよ」と思いながら電卓を叩いていた。Excelが狂った数字を吐くようなら、俺の事務所という規模など秒で超えてこの世の終わりと言っていい。
その結果、計算すべて合っていました、というなら格好がつくが、間違っているからしょうもないことである。
もちろん、Excelが誤っているわけではなく、関数を入力した俺が間違っていたのだ。コンピューター（って表現も古いな）がどれだけ正確でも、それを操る人間法は完璧には程遠い、よくある話。
とにかく、電卓で検算できるような簡単な計算式ならまだいいが、もっと複雑な指示をコンピューターに出していると、話はかなりややこしいんじゃないだろうか、と思う。
というのは、式が膨大に大きくなると、それを人の手でやり直すのが大変なので、どこかで「もう、こういう数値が出てきたってことで（機械を）信用するしかないんじゃないスかね」という段階が訪れるような気がする、ということだ。
極端に複雑でブラックボックス化したものは、そこから吐き出された「答え」を信じるしかない。
…というのが、有効な領域もあれば、道義的に問題をはらむ場合もある、と思う。
2016年、Googleの持つディープマインドという企業が設計した対局用AIであるアルファ碁が、人間世界で最強と呼ばれる韓国の棋士に五番勝負で勝ち越した。
有名なエピソードだが、先日読んだ『AI監獄ウイグル』の中で補足的に紹介されていた逸話がとても心に残っていて、アルファ碁をつくった製作者も、このAIがなぜこんなに強いのか、理由がよくわからないのだという。
アルファ碁というプログラムの中で何が起きているのか、すでに人間の手を離れたということだ。
とにかく、AIが「この手が最善」というなら、実際にそうなのだろう、ということで信じるしかない。
信じた結果、災厄がやってくることもないだろう。アルファ碁に俺たちを騙す動機はないし、AIに従ってどこに石を置こうが、誰かを傷つけるわけじゃない（たぶん）。
そして、俺は、「ある材料を投下したときに、吐き出された答えがどういうロジックで出てきたのか、ある程度わかる、と同時に部分的に絶対にわからないもの」が知性の定義だと考えていて、人間や動物はそれを満たすわけだけど、AIもここに来てその要件を満たしたのだ、と思っている。
