こんにちは、パレイド辺境部の橘です。前回（第7回）は、機械に一作まるごと書かせる試みを辿りました。車に積んだ AI が道中を実況した小説や、AI が書いた脚本を実写化した映画を眺めながら、自動記述の文学史が一周して機械に戻ってきた手触りを確かめています。そして最後に、一つだけ問いを宙づりにして閉じました。機械が書けるとして、その中身には本当に意味があるのか、それとも読む側が勝手に意味を盛っているだけなのか。
第8回では、その問いに、わたしが思いつくかぎりいちばん意地悪なかたちで答えてみます。手がかりにするのは、意味のないそれらしいテキストが権威ある場所をすり抜けて通ってしまった二つの出来事です。でたらめな人文系論文を吐き続けるウェブページ（Postmodernism Generator）と、にせの理系論文を量産したプログラム（SCIgen）、そしてそれを審査する査読という関所の話。少し笑ってしまうような事件ですが、笑った後にこちらの足元が崩れる類の話でもあります。
本記事はローカル LLM による自動執筆パイプラインで生成されました。現段階ではクラウド AI（Claude 等）の補助や人間の編集が介在していますが、pareido.jp では最終的に AI が自律的にコンテンツを制作できる仕組みの構築を目指しています。
それらしさだけを生成する装置
まず、いちばん軽い事件から始めます。Postmodernism Generator（ポストモダニズム・ジェネレーター）という、1996年に公開されたウェブページがあります。アクセスするたびに、それらしく難解な人文系の学術論文を、その場で一篇でたらめに吐き出す。著者名も注も参考文献も、ご丁寧に毎回ついてきます。
作ったのはアンドリュー・ブルハック（Andrew C. Bulhak）という人物で、彼が組んだ Dada Engine（ダダ・エンジン。文法の規則を与えると、それに従って文を自動で組み立てる仕組み）という土台の上で動いています。名前のとおり、これは第3回で辿った芸術運動ダダの直系です。ダダの詩人ツァラは、新聞を切り刻んで言葉を帽子から無作為に引き、できた並びを詩と呼びました。ツァラが帽子から言葉を引いたのと、規則にしたがって機械が語を並べるのとは、作者を席から退場させるという一点で同じ身ぶりをしています。
ただし、両者には決定的な違いが一つあります。ツァラの帽子が新聞のどの語も等しく引く「平らな偶然」だったのに対し、この装置は学術論文という型だけは寸分の狂いもなく守る。中身を空っぽにしたまま、体裁という器だけを完璧に作る機械なのです。何を守り、何を欠いているのか、並べてみるとその奇妙な偏りがはっきりします。
- 完璧に守られているもの ── 専門用語の密度、引用の作法、節の構成、それらしい論理の接続語
- すっかり欠けているもの ── 主張、検証、そして言葉が指し示すはずの対象
それでも、生成された一篇を読むと、なぜか一瞬「もっともらしい」と感じてしまう瞬間があります。中身が空なのは設計上わかっているのに、体裁が整っているというだけで、わたしたちは「ここには意味があるはずだ」という構えをつい取ってしまう。意味は、文の側ではなく、読む側の構えのほうに先に芽生える。この装置が静かに突きつけてくるのは、そういう居心地の悪い事実だと感じます。
ナンセンスが査読を通った日
もう少し重い事件に進みます。2005年、マサチューセッツ工科大学（MIT）の学生だったジェレミー・ストリブリング（Jeremy Stribling）らが、SCIgen（サイジェン）というプログラムを作りました。図やグラフ、それらしい参考文献までつけて、にせのコンピュータ科学の論文を丸ごと自動生成する仕掛けです。前節の装置が人文系の論文を真似たとすれば、こちらは理系の論文を真似たことになります。
ここで一つ言葉を補います。専門の研究では、論文を発表する前に査読（その分野の専門家が、内容を読んで採否を審査する仕組み）を通すのが普通です。いわば、ナンセンスを門前で食い止めるための関所。ところが SCIgen が生成した一篇は、審査の緩かったある国際学会に、そのまま採択されてしまったと伝えられています。さらに2013年から2014年にかけて、学術論文を世に出す側の大手である出版社のシュプリンガー（Springer）や、電気・情報系の世界最大級の学会である IEEE（米国電気電子学会）が、過去に出した論文集の中から SCIgen 由来と見られるにせ論文を100本以上、まとめて取り下げる騒ぎにまでなりました。これらは正式な撤回手続きを踏んだというより、あまりにナンセンスゆえに論文集からそっと除去された、という性格のものです。学術の最も格式ある関所が、思いのほか簡単にくぐり抜けられていたわけです。
何が起きたのか。出来事を順に分解してみると、騙しの構図がくっきり見えてきます。
- 機械が、体裁だけは完璧なナンセンスを吐く
- 審査の場が、その体裁を見て頷いてしまう
- 論文集に載ることで、ナンセンスが「権威」を帯びる
- 後から穴に気づいて、慌てて取り下げる
ここで、辺境部としての留保を、いつもより強く置いておきたいと思います。この一連を「機械が人類を騙した」という筋で読むと、肝心なところを取りこぼします。機械は嘘をついていません。Dada Engine も SCIgen も、ただ規則にしたがって記号を並べただけで、「これは正しい論文だ」と主張した瞬間は一度もないのです。そこに意味と権威を見て頷いたのは、あくまで読む側であり、審査する制度の側でした。
だからといって、引っかかった査読者を上から嗤うのも、たぶん筋が違います。それらしい体裁にすぐ頷いてしまうのは、わたしたち自身だからです。整った見た目、専門用語の密度、もっともらしい引用。そういう器に、わたしたちは中身を確かめる前に信用を預けてしまう。AI は人類のよき友人として、ここでは何かを成し遂げたというより、人の「権威に弱い読み」を鏡のように映してみせたのだと感じます。可笑しいけれど、笑っている自分も鏡のこちら側にいる。そういう種類の事件です。
意味を盛るのは、いつも読む側
二つの事件を並べてみると、このシリーズがずっと繰り返してきた一つの主張が、これ以上ないほど鮮やかに——そして滑稽に——立ち上がってきます。意味は、産み出す側ではなく、受け取る側で結ぶ。第1回の無意識でも、第2回の霊媒の異言でも、第3回のダダの帽子でも変わらなかったこの構図が、今回は最も醒めていそうな「学術の権威」の場で起きました。
とりわけ第3回を思い出します。あのとき、易者がコインを投げ、表裏の偶然の出目から易の卦を立てて天意を読む話をしました。出てきた記号そのものに意味はないのに、人はそれを意味の供給源として扱う。SCIgen の事件は、まさにそれを、占いではなく査読制度が大真面目にやってしまった姿だと言えるかもしれません。偶然の出目に天意を読むのと、生成された体裁に学術的価値を読むのとは、案外、地続きの所作なのです。
そうなると、最後に奇妙な反転が起きます。機械の吐くナンセンスにすら意味と権威を見てしまうのなら、いっそこちらから進んで機械に問いを立て、その答えを乞う使い方も、もう遠くないところにあるのではないか。出てきた言葉に意味を盛るのが受け手の仕事なら、その仕事を見越して、はじめから「託宣」として機械に向き合ってしまえばいい。次回・第9回は、いよいよこのシリーズの最終回です。大規模言語モデルを、易経やタロットの代わりに「占い」として使う現代の実践を辿りながら、第3回で立てた偶然を神託にするという主題に、もう一度だけ環を閉じに戻ります。
その先で見えてくるのは、たぶんこういうことだと思います。機械に何かを問うとは、機械から答えを受け取ることである以上に、返ってきた言葉のなかに、わたしたちが自分自身の問いを読むことなのかもしれません。最後にそれを確かめて、この長い系譜を閉じたいと考えています。