TRACK 06概念1:56

大規模言語モデル

しりとりチャンピオン:大規模言語モデル(LLM)はどうやって話すのか

頭の中に大きな辞典が入っていて、聞けばそのページを開いてくれる。そう思っていませんか。違います。本は一ページも入っていない。覚えたのは、言葉を一つずつつないでいく技だ。しりとりのように、文全体を当てていく。この回は一つのことを歌う。大規模言語モデルとは何か、どうやって話すのか。

動画を見る

この回で話していること

まず、あの辞典を分解する多くの人は、頭の中に大きな辞典が入っていて、質問すればそのページを開いて答えを読み上げてくれると思っている。歌の最初の段は、この思い込みをその場で覆す。本は一ページも入っていない。入っているのは、本から学んだ決まりだ。どの文の後にはどの文が来やすいか、どんな言い方が人らしく聞こえるか。名前を分解してみる。「言語」は、学んだものが人の書いた言葉だということ。「モデル」は、決まりを内側に収めた機械のこと。「大」は、読んだ文章の量が数え切れないほどだということ。英語の略語 LLM(Large Language Model)は、この三つの言葉そのものだ。このページとタイトルに添えてあるので、ほかの場所で見かけても分かるようにしてほしい。

話し方は三段階第一に、まず読む。大量の本、文章、会話を読んで、覚えるのは暗記ではなく決まりだ。第二に、言葉を当てる。あなたが話の頭を渡すと、いちばん「らしい」次の言葉を当てて書き、できた並びを見て、また次を当てる。一語ずつ、文全体をつないでいく。第三に、だから仕事ができる。おしゃべり、作文、翻訳、長い文を短く言う。どれも本質は同じで、場面に合わせて言葉をつなぐことだ。もう一つ、先に決まる条件がある。歌の Pre-Chorus が歌っている通り、つなぎの出来は、あなたの出し方で決まる。質問がはっきりしていれば、答えは安定する。あいまいな質問には、あいまいにつないでいくしかない。

得意なこと、苦手なこと得意なのは「らしくつなぐ」仕事だ。下書き——作文、手紙、物語にまず形を与える。書き換え——言い方を変える、長い話を短くする。翻訳——ある言語の手紙を、別の言語につなぎ直す。アイデア出し——方向をいくつか並べて、人に選ばせる。苦手なのは「事実を決める」仕事だ。数字、日付、名前、値段。出てくるのは、調べて確かめた真実ではなく、当てた「らしさ」だ。歌の一行をここで説明しておく。「可数字和日期,你得自己核对」の「得」は děi と読み、「〜しなければならない」という意味だ。もう一つ、向こうが自分からはしないことがある。当てが外れそうなときに止まって、「分かりません」と言うことだ。言わない。言葉を滑らかに、丸くつないでいく。滑らかさは「当てがうまい」証拠であって、正しさとは別物だ。

歌に入り切らなかった二つの技を、ここに足す一つ目、理由を言わせる。答えをもらったら、「なぜそうなるの」ともう一言聞く。手順を一歩ずつ話させると、間違いが見えやすくなる。どの段であいまいになり始めたか、そこが当ての場所だ。二つ目、聞き方を変えてもう一度聞く。同じことを、別の言い方で聞く。二つの答えが合えば、少し安心できる。合わなければ、それは当てているということだ。信じずに、調べに行く。どちらもお金はかからない。難しいのは習慣にすることだ。大事な答えほど、この二関門を通す。

いちばん落ちやすい穴あなたの質問の中に、先に間違った話が埋まっていると、向こうは訂正せず、その間違いに沿ってつないでいく。しかも、とても丸く聞こえる。たとえば「あの小さな店は、去年なぜ潰れたの」と聞く。本当は潰れてなどいなくて、今も元気に開いている。それでも、潰れた理由を三つ、それらしく並べてくれる。だから、答えを聞く前に、質問そのものを確かめる。前提が違えば、後がどれだけ滑らかでも間違いだ。この話は EP03『一本正经地编』と一本の線でつながっている。向こうの作り話を防ぐには、まず自分の質問の穴を防ぐことだ。

最後に、あの龍に戻る。話すたびに、龍は一節ずつ伸びていく。伸びた節は、全部当てたものだ。らしく当てることと、本当であることは違う。大事なことは、自分で確かめる。

歌詞 · 『接龙冠军』(中国語原詞のまま)

VERSE 1 你以为它脑子里,藏着一本大词典, 问它什么它去翻,答案就在里面。 错啦,它肚子里,一页都没装下, 它练成的本事,是把词往下接。

PRE-CHORUS 它读过数不清的书,文章、故事、对话, 哪句话后头爱接哪句,它学了个透。 你把问题说清楚,它接得就稳当, 你问得含含糊糊,它只能跟着含糊。

CHORUS 一个词,一个词,它往下猜, 猜出整句话来,像接龙排队。 它读过千千万万本书,学的不是背答案, 学的是话怎么接,才讲得像样。 它就是大语言模型,接龙猜词的冠军, 聊天、写作、翻译,都能搭把手。 只是它猜的是像不像,不是真不真—— 说得再顺,你也要自己留个心。

VERSE 2 让它写篇小作文,它刷刷就成行, 长长的一篇讲完,它能说成三句。 外文的信它能翻,故事它能续, 出主意、打草稿,它都是把好手。 可数字和日期,你得自己核对, 它编起话来一本正经,脸都不红。

BRIDGE 来玩一把接龙——「床前明月」, 后头那个字,你接哪个? 是「光」,对不对?你怎么猜得这么准, 这首诗,你从小听到大。 它读过的句子太多,猜得又快又稳, 可猜得稳是因为像,像不等于真。

FINAL CHORUS 一个词,一个词,它往下猜, 猜出整句话来,像接龙排队。 它就是大语言模型,接龙猜词的冠军, 聊天、写作、翻译,都能搭把手。 记住它猜的是像不像,不是真不真—— 说得再顺,你也要自己留个心。 下次它答得又快又顺,你先想一想: 它这是在猜,还是真的查到了? 要紧的答案,你会自己再核对一遍吗?

この回の出どころ

この回は AI の土台の名詞を扱うため、特定の発表資料を元にしていない。内容は当サイトの選題庫「LLM 大規模言語モデル」の項目と、一般的な解説の口調に沿って書き、歌詞と解説はすべてオリジナルだ。変わりやすい数字(パラメータ数、読んだ本の量)は歌詞に入れず、「千千万万」「数不清」のような量の言い方だけを使った。来年になっても古くならないためだ。

締めの質問

締めの質問を持ち帰ってほしい。次に、答えが速くて滑らかに返ってきたら、まず考える。それは当てているのか、本当に調べたのか。大事な答えは、自分でもう一度確かめるか。数字、日付、名前は、元の資料か公式のページを一度見てから使う。

制作ノート

歌詞を書くとき、全曲で十か所ある「得」の読みを一行ずつ決めた。九か所は軽声で、一か所だけ——「你得自己核对」の「得」は děi と読み、「しなければならない」の意味だ。録れた二つの版では、この一字がどちらも軽く短く歌われ、文の中ではほとんど聞き取れなかった。三つ目は録らなかった。字幕は一字ずつ正しく書き、文章版で読みを示し、画面ではその行に大きなカードを灯した。耳が拾い損ねても、目が拾う。今の版に決めたのは、二回の定義の行がどちらもはっきり聞こえるからだ。「大语言模型、接龙猜词的冠军」、一字も曇っていない。最後には五秒あまりの鼻歌があった。大半を切り、一息だけ残して、最後の問いにつないだ。途中のあの一拍の空白は、わざと空けたものだ。「你接哪个?」で止まり、聞く人が自分で「光」をつなぐのを待つ。自分でつなげられれば、その手で仕組みを確かめたことになる。

ホームにもどって、ほかを聴く