Google生成AI学習 Vol.2

入門編合格したので次の学習に行きます！次が、「大規模言語モデル（LLMs）」について学びます。大規模言語モデル（LLMs）は、深層学習の1つで、一般的な言語問題を解決するために訓練される大規模な言語モデルです。それでは、大規模言語モデルについて勉強していきます！

大規模言語モデルの概要

大規模言語モデルは、広範で深い自然言語処理（NLP）能力を持つAIモデル。これらのモデルは大量のテキストデータから学習し、それにより様々なタイプの言語ベースのタスクを処理することが可能になります。

具体的には、テキスト分類、質問応答、文書要約、テキスト生成などのタスクができる。これらのモデルは業界全体で広範に使われていて、それぞれの業界うあ領域に固有の課題を解決するために微調整されることが一般的。

大規模言語モデルの主な特徴

大規模言語モデルの特徴として以下の3つがあります。

大規模なデータセット

大規模言語モデルは、数億から数兆の単語を含む巨大なデータセットで訓練されている。このデータセットは、インターネットから収集された文章、書籍、ウェブサイトなど様々なテキストで構成されている。この膨大なデータを使って、モデルは文脈や表現のニュアンス、言葉の意味などを学ぶ。

パラメータの多さ

大規模言語モデルは非常に多くのパラメータを持っています。たとえば、GPT-3は1750億のパラメータを持っています。これらのパラメータはモデルの「知識」を表す。

モデルは訓練中にこれらのパラメータを調整し、学習した内容を表すために使われます。それため、パラメータが多ければ多いほど、もでるはより複雑なパターンや関係性を把握できる。

汎用性

大規模言語モデルは、幅広いタスクに対応するために作られている。これは、「転移学習」または「汎用学習」の１つとして捉えられる。つまり、モデルは1つのタスク（たとえば、テキスト生成）で学んだことを別のタスク（たとえば、質問応答）に適応することができる。これは、一般的な知識や原則が多くのタスク間で共有されるため。

「転移学習」と「汎用学習」について

これは、動画内で説明はなかったのですが調べていたら出てきたので書きます。

転移学習(Transfer Learning)

転移学習は、1つのタスクで学んだ知識を別の関連するタスクに適応する手法です。たとえば、画像認識タスクで訓練したネットワークが、その知識を利用して新しいタスク（たとえば、特定の種類の動物を認識する）をより効率的に学ぶことができます。転移学習は、データが不足している時や新たなタスクを迅速に学ぶ必要がある場合にいい。

汎用学習 (General Learning)

汎用学習は、多様なタスクを解決するための知識やスキルを獲得する能力のこと。これは、人間が様々なタスクで共通の知識や理解をする能力に似ている。たとえば、言語モデルは、文章生成、質問応答、文章要約など、様々な言語タスクに対応する汎用能力を持っている。

大規模言語モデルの利点

多機能性

大規模言語モデルは、ペタバイトのデータと数十億のパラメータにより、様々なタスク（言語翻訳、文章補完、テキスト分類、質問応答など）ができる。

データ効率

モデルはドメインのトレーニングデータが少なくても優れたパフォーマンスを発揮し、最小限のデータまたはモデルが以前に学習していないデータで使用できる。

持続的な改善

データとパラメータの追加により、大規模言語モデルのパフォーマンスは継続的に向上します。

GoogleのPaLM（Pathways Language Model）

GoogleがリリースしたPaLM（Pathways Language Model）は、5400億のパラメータを持つ人工知能モデル。PaLMは、基本的にはトランスフォーマーの一種で、これはAIがテキストを理解し、生成するための現在最も一般的なアーキテクチャです。ただし、このモデルは「密なデコーダー専用トランスフォーマーモデル」という特性を持っており、特にテキスト生成タスク（たとえば、文章の自動生成など）に強いことが示されている。

これを可能したのがGoogleの新しいPathwaysシステムで、これによりGoogleは複数のTPU V4ポッド（Googleが開発した高性能なAI計算プロセッサ）を使ってこの巨大なモデルを効率的に訓練できます。

Pathwaysとは、複数のタスクを同時に処理したり、新しいタスクを迅速に学習したり、そしてAIの「理解」が現実世界をよりよく反映するようにする新しいAIアーキテクチャを指します。PaLMシステムはこのシステムを活用して分散計算をオーケストレーション（一元管理）し、各種AIトレーニングをアクセラレータ（高速化装置）に適応させます。

つまり、PaLMとはGoogleが作った超頭良くて、色んな事ができる賢いツールということ。

プロンプトデザインとプロンプトエンジニアリング

プロンプトデザイン

プロンプトデザインは、AIやNLPシステムが適切に応答できるように指示の設計を指します。これは、AIが理解できる形式で提供し、適切な結果を得るためのフレームワークを提供します。

たとえば、AIに「明日の天気は何ですか？」と尋ねるのが一種のプロンプトデザインです。このプロンプトは、AIが特定の行動（ここでは、天気予報の取得）を取るように設計されています。

プロンプトエンジニアリング

これは、プロンプトデザインの一部であり、パフォーマンスを最適化するためのプロンプトを調整をさします。プロンプトエンジニアリングでは、ドメイン固有の知識や望ましい出力の例を使用して、プロンプトを精緻化し、より高品質な結果を得ることを目指します。

たとえば、AIが特定の文脈でより適切な応答を提供できるように、プロンプトを調整したり、特定の情報を含めるためにプロンプトを拡張したりします。

プロンプトチューニングとパラメータ効率の最適化

プロンプトチューニングを理解するためにはGPT-4の動きについてみるといい。GPT-4は、あらかじめ大量のテキストデータからパターンを学び、それを使って新たなテキストを生成する能力を持つ言語モデル。

しかし、一般的なテキスト生成だけではなく、特定のタスクやドメインでよりいいパフォーマンスを発揮させるためには、モデルをさらに微調整する必要があります。これがプロンプトチューニング。

一方、パラメータの最適化とは、すでに訓練されたベースモデルのパラメータを変更することなく、新しいパラメータ（通常は追加のレイヤー）を訓練することで、モデルを特定のタスクに対してより高度に調整することができるようになる。

プロンプトチューニングとパラメータ効率の最適化は、一般的な言語モデルを特定の目的に合わせて最適化するために有効な方法。

GoogleのGenerative AI Studio

Generative AI Studioは、開発者が自分のアプリケーションに利用できるGenerative AIモデルを簡単に探し、カスタマイズできるようにするツールやリソースを提供。

予めトレーニングされたモデルのライブラリ、モデルの微調整ツール、本番環境へのモデルの展開ツール、開発者がアイデアを共有し協力するためのコミュニティフォーラムなどが含まれている。

まとめ

今回は、大規模言語モデル（LLMs）について学びました。大規模言語モデルは、大規模なデータセットとパラメータ数により優れた性能になったのですね。

大規模言語モデルの特徴から利点、プロンプトデザインとプロンプトエンジニアリングなどについてたくさんのことを知りました。