まず知っておきたい3つ — AI・ハルシネーション・推論モード
は生き物ではありません。人が作ったで、確率で答えを出します。AIには、顔を見分ける、翻訳する、動画をすすめるなど、いろいろな種類があります。この授業で扱うのは、そのうち文章を書く種類、言語モデルです。言語モデルは、答えを小さなかけら、つまりトークンを一つずつつなげて作ります。
「」は、もっともらしく聞こえるのに、間違っていたり、裏付けがなかったりする答えにつけた技術上のあだ名にすぎません。中で何かが幻を見ているわけではないのです。ニュースで専門家たちが、AIは「ミスをする」「ハルシネーションを起こす」と何度も言うと、機械が生きているように聞こえますが、そういう意味ではありません。
「考える」「ミスをする」は、生きているものに使う言葉です。ところが、多くのAI製品には「思考（）モード」があり、機械が生きて考えているように見えます。思考モードとは、答える前にプログラムが解き方、つまり手順や計画、点検を先に文章に書いてみる、という意味にすぎません。この文章は数文のこともあれば、数千語になることもあり、これも確率で作られます。難しい問題では役に立つことがありますが、正しい答えを保証するわけではありません。
点数と選び方 — バイグラムからサンプリングまで
言語モデルを動かすプログラムの中には、次に来る可能性のあるかけらすべてに点数をつけて、一つを選ぶ部分が実際にあります。だから、AIの答えは確率で作られると言うのです。信じてくださいという話ではありません。自分で確かめられることです。このあと、そのとても小さな版を自分で作ります。どの単語の後にどの単語が来るかを数えるだけのモデルです。本物のモデルはずっと大きく、点数のつけ方もずっと上手です。でも最後のステップ、点数をつけて選ぶところは同じです。
たとえば「空は何色？」と聞いたとします。AIは、正解を知っているから答えるのではありません。それまでの言葉を見て、次に来そうな言葉それぞれに点数をつけます。その点数は、ものすごい量の文章から学んだパターンから生まれます。保存してある文を探して取り出しているのではありません。
青 70点、灰色 20点、オレンジ 10点……（考え方を見せるための作り話の数字です）。AIはこの点数表から言葉を一つ引きます。点数が高いほど、選ばれる確率も高くなります。ここには、心と呼べるものは何もありません。そして次の言葉のために新しい点数表を作り、文が終わるまで、これをくり返します。
まったく同じ質問を二回してみてください。答えが少し違うことがあります。不思議なことではありません。点数の高い言葉の中から、くじを引いているからです。
もっともらしいことと、正しいことはちがう
AIの答えは、もっともらしいですよね。それは、あなたを理解したからではありません。学んだ文章から、いちばん自然に続きそうな言葉を選んだのです。もっともらしいことと、正しいことは同じではありません。点数が高いというのは「よくこう書かれている」という意味で、「本当だ」という意味ではありません。間違った主張も、正しい主張とまったく同じ、自信たっぷりの口調で出てきます。
確率は選択を説明し、証拠は事実の主張を支えます。二つの役割を分けましょう。
考えはありません。気分もありません。うそをつこうという気持ちもありません。あるのは、計算された点数表と、そこから引いた結果だけです。うそをつくには、人をだまそうという意図が必要です。でも機械には、そんな意図はありません。だから、自分が間違っていることにも気づけないのです。ですから、AIはいつも確かめるべき道具として扱いましょう。
AIの答えが間違っていたとき、機械が「ミスをした」と言って終わりにしないでください。原因を探しましょう。学んだ文章が間違っていたか、古かったのかもしれません。作った人が、事実を確かめるステップを入れなかったのかもしれません。プログラムにバグがあったのかもしれません。あるいは、質問に必要な情報が抜けていたのかもしれません。こうした原因がなくても、確率で選んでいるうちに、間違ったことが出てくることがあります。はっきりした質問は大きな助けになりますが、確かめるのはやはりあなたの役目です。
よくある3つの思いちがい
-
思いちがい AIはインターネットで正しい答えを探してくる。
ほんとうは 言語モデルは、のときに身につけたを使って、次のトークンの点数を計算します。検索ツールがついていても、持ってきた情報の出どころは自分でたしかめる必要があります。
-
思いちがい 確率が高い答えは正しい答えだ。
ほんとうは 確率は、こういう文脈のあとにどんな言葉がよく来るかを表すだけです。言っていることが正しいかどうかは、証拠でたしかめなければなりません。
-
思いちがい 温度を0にすると、答えはいつもまったく同じになる。
ほんとうは ふつうはとてもよく似ています。でも、モデルのバージョン、ついているツール、計算のしかたによって、結果が変わることがあります。
学習・推論・確認、そしてはじめての実験
AIは中でものすごい量の計算をしますが、結局は、人が書いてきた膨大な文章から学んだ言葉のパターンを使って、次の言葉を確率で選びます。そのパターンを学ぶことを学習、または訓練といいます。学んだものを使って答えることを推論といいます。チャット欄に貼りつけた文書は、今回AIが読む文章を変えるだけです。AIを学習し直させるわけではありません。
AIから答えをもらったら、自分に聞いてみましょう。「これは本当に正しいのかな。それとも、よく出てくる言い回しなだけかな」。そして、一つは実際に確かめましょう。元の出典を開く、日付を見る、数字を計算し直す、のどれかです。この一つの質問を習慣にすれば、AIに振り回されることはありません。
最初の実験です。ある単語の後に候補Aが3回、Bが1回なら、それぞれの確率はいくつでしょう。下の「人工知能を作る」を開く前に予想し、貪欲法とサンプリングを比較しましょう。
答えをたしかめる
Aは4回のうち3回出たので、確率は 3 ÷ 4 = 75% です。Bは1回なので 1 ÷ 4 = 25% です。貪欲法はいつもAを選びます。サンプリングで何回も引くと、だいたい4回に3回はA、1回はBが出ます。
さあ、とても小さなAIを自分で作ってみましょう。点数表を一度自分で作ってみれば、AIがどうやって答えを選ぶのか、自分の目で分かります。
今度は確率を目で見て、あなただけの小さな人工知能を自分で設計します。