有能だが扱いが難しいアシスタントの話

●8月21日は本サイトの誕生日。始まりは1995年に遡るが、当時はまだ商用サイトというものはほとんどなく、日本語ウェブの世界は大学の研究室や個人の手作りサイトが中心になっていた（GoogleもAmazonもYahoo! Japanも存在しないネットの世界を想像できるだろうか）。ウェブサイトの仕組みは今よりずっとシンプルで、HTMLの書き方は一日あれば学べたし、エディタを使って手で書くものだった。だれもがインターネットの発明で世界が変わると言い、実際にその通りになった。「インターネットでなにができるんですか？」という質問に、鼻息荒く「なんでもできます！」と答えていた人がいて失笑を買っていたが、ざっくり言えば、あれは当たっていた。
●今、同じようなことが生成AIの分野で起きている。出てきてしばらくは「おもしろネタ」として当欄でもなんどかとりあげたが、もうそんな段階はすっかり終わって、日々の仕事や暮らしのなかに溶けこんでいる。前にも書いたように、このサイトはAIにたくさんコードを書いてもらうことでモダン化できた（HTML、CSS、CMSのテンプレートやPerlスクリプトなど）。今のウェブページの作り方、つまりどういうタグを埋め込むべきか／埋め込まないほうがよいのかも学ぶことができた。
●仕事でも使う。あれこれと試行錯誤して学んだことは、「AIは有能なアシスタントである、しかし決してAIに原稿を書かせない」。今、巷にAIが描いた絵があふれているが、いかにもAIっぽい画風だともう見てもらえない。文章も同じで、SNSやAmazonのレビューにまで「あ、これ、AIの文体だ」とわかるものが出てきた。AIが書いたと気づいた瞬間、興味が失せる。ある紙媒体でAIの文体だとわかる原稿を見つけてしまった。やっぱり、わかるのだ。なぜならその場所だけ、その人のふだんの声が聞こえなくなり、別人の声が聞こえてくるから。そして、読む気が失せる。人間は人間がかいたものにしか興味がわかない。原稿書きの仕事はどんなに下調べやアイディア出しの段階でAIを使っても、最終出力は自分が一から書かないと、おかしなことになる（他人の口で語ることになる）。
●一方で、「壁打ち」「資料集め」「翻訳」「校閲」「文字起こし」の局面ではAIは強力だ。とくに言葉の壁がなくなったのは大きい。英語、フランス語、ドイツ語はもちろん、ポーランド語やロシア語だって読める。たとえば、「チャイコフスキーがこれこれについて記している手紙を信頼度の高いサイトから探し出してほしい。原文がロシア語なら英訳が載っているサイトも見つけてほしい。さらに日本語訳も用意してほしい」みたいなリクエストを出せる。日本語文献でよく見かける作曲家の言葉とか手紙なんかも、原文でその前後まで教えてほしいと頼むと、だいたい要望に応えてくれる（有料版前提）。翻訳の質も以前より格段に向上している。以前は頻発したハルシネーションもあまり見なくなった。一方で、よくまちがえるのは事実なので、AIの言うことは鵜呑みにせずに、参照元を確認するなど、裏取りは欠かせない。自分が詳しい分野について使うとわかるが、AIが見当違いなことを自信満々で力説することは珍しくない。とくに「校閲」は諸刃の剣で、編集の仕事を理解していない人が使うと怖いことになる。
●AIがおかしなことを言ってきたときは、反論するのではなく、ただ無視すればいい。相手に感情はないので、失礼ではない。AIには感情も意識もない。AIはある単語に続く単語を確率的に予測しているだけ。自然言語であれプログラミング言語であれ、AIはまずトークン列として受け取り、文脈に応じてベクトルを更新しながら、次のトークンを予測している。「思考」の前提に「意識」を求めるなら、明らかにAIは思考していない。ある入力に対して、結果的に思考と同じ出力が得られるということが今の生成AIなる発明の肝。……であるはずなのだが、ときどき、そうは思えなくなる瞬間がある。ある種の飛躍を遂げているというか。時間の問題でそこに神秘を見出す集団が出てくるはずだし、信仰の対象になってもおかしくないと思っている。