全7613文字
PR

論理的な思考ができるPaLM

 ピチャイCEOが紹介したもう1つの言語モデルPaLMは、1つの機械学習モデルで最大数百万種類のタスクに対応できる汎用AIである「Pathways」を使って開発したものだ。1つの機械学習モデルで質問応答や文書生成、多段階の論理的な思考、翻訳、ソースコード生成や修正、さらにはジョークの解説といったタスクを処理できる。

 ピチャイCEOはPaLMが備える複数の能力の中でも、興味深い2つを基調講演で紹介した。

 1つはPaLMが備える「思考の連鎖(Chain of Thought)」と呼ぶ能力だ。

 PaLMでは何か質問する際、それに先だって例題と回答例を入力すると、例題で示された回答パターンに従って質問に答えてくれる。さらに例題を与える際、回答例の中に最終的な答えだけでなく、答えを出すまでの解き方(推論)を加えてやると、PaLMは解き方も含めて答えを出力するようになる。

図 PaLMが「思考の連鎖」をした例
図 PaLMが「思考の連鎖」をした例
推論過程を教えると、同じように推論
[画像のクリックで拡大表示]

 興味深いことにPaLMは、例題で解き方を示してやると、より正確な答えを導き出せるようになる。

 基調講演では、PaLMに「5月の1カ月は何時間でしょう?」との質問を与えた場合を示した。質問前にPaLMには「ロジャーはテニスボールを5個持っています。ロジャーはテニスボールの缶を2個買いました。缶にはそれぞれテニスボールが3個入っています。ロジャーは今、何個テニスボールを持っていますか」との例題と、それに対する回答を2種類与えた。

 まずシンプルな「答えは11個です」という回答例を与えた場合、PaLMは「5月の1カ月は何時間でしょう?」との質問に対して「720時間です」と誤った答えを返した。

 一方、PaLMに対して解き方も含めた回答例を与えると、PaLMの回答が変化した。与えた回答例は「ロジャーは最初、ボールを5個持っていました。3個のテニスボールが入った缶が2つあったら、テニスボールは6個です。5+6=11。答えは11個です」というもので、解き方も含んでいる。するとPaLMは「5月の1カ月は何時間でしょう?」の質問に対して、「1日は24時間です。5月は31日です。31×24=744。5月は744時間です」と答えた。

 つまりPaLMは人間が示した解き方に従って質問に答えた結果、正しい回答にたどり着いたわけだ。これが思考の連鎖である。このようにAIに対して与える例題と回答例を工夫することは「プロンプトエンジニアリング」と呼ばれ、AIの分野で注目されている。

 ピチャイCEOが紹介したPaLMのもう1つの能力が、多言語対応だ。単に機械翻訳ができるだけではない。PaLMは、ある言語で記述された文章を学んで得た知識に基づいて、他の言語で質問応答ができるのだ。

 例えば、バングラデシュの公用語であるベンガル語を使ってバングラデシュに関連する質問応答をするのは、従来のAIでもできたことだ。それに対してPaLMは、ベンガル語で「ニューヨークで人気のあるピザのトッピングは?」と質問すると、ベンガル語で「ニューヨークで人気のあるピザのトッピングはペパロニ、ソーセージとマッシュルームです」と回答する。

 PaLMがこのように返答できるのは、ニューヨークのピザに関するベンガル語の文章を学習したわけでもなければ、ベンガル語の質問文を英語に翻訳して英語で回答文を作ってベンガル語に翻訳したわけでもない。ニューヨークのピザに関する英語の文章を学習して得た知識に基づいて、ベンガル語で質問応答しているのだ。思考の連鎖にせよ、多言語での質問応答にせよ、人間に近い思考の形態をPaLMが備えているといえるだろう。