生成AIパスポート 第2章「埋め込み(エンベディング)」|言葉を数字に変える仕組みとベクトルの見分け方

記事
学び
AIは言葉を「言葉のまま」理解しているわけではありません。生成AIパスポート第2章で問われる「埋め込み(エンベディング)」は、言葉や文を数字の並び(ベクトル)に変換する仕組みです。AIが文章の意味を扱えるのは、この変換があるからです。なお、この記事の問題例は主催団体の公式問題ではなく、シラバスに沿って作ったオリジナルの練習問題です。

埋め込みとは何か
埋め込みとは、言葉や文章を、意味を保ったまま数値のベクトルに変換することです。たとえば「猫」という言葉は、数百個の数字が並んだベクトルに変換されます。「犬」も別のベクトルになります。このとき、意味が近い言葉ほどベクトル同士の距離が近くなるように作られているのがポイントです。「猫」と「犬」は近く、「猫」と「自動車」は遠くなります。試験では、この「意味の近さが距離になる」という性質がよく問われます。埋め込みは言葉をただ数字に置き換えるのではなく、意味の関係を数字の世界に写し取る技術だと押さえましょう。

ベクトルで何ができるのか
ベクトルに変換できると、コンピュータは「意味の近さ」を計算で比べられるようになります。たとえば検索の場面では、ユーザーの質問文をベクトルに変換し、蓄積された文書のベクトルとの距離を測ることで、キーワードが一致しなくても意味の近い文書を探し出せます。これが「ベクトル検索」と呼ばれる考え方です。第3章のRAGともつながる論点です。RAGで「検索してから答える」とき、その検索の裏側では埋め込みとベクトル検索が使われていることがあります。ただし、試験のすり替えに注意してください。埋め込みそのものが「検索」なのではなく、埋め込みは「言葉をベクトルに変える変換」であり、検索はそのベクトルを使った別の処理です。役割の区別が問われます。

すり替えポイント3つ
1つ目は「埋め込み=暗号化」ではありません。暗号化は元の情報を隠すための変換ですが、埋め込みは意味を保ちながら数字に変換するものです。目的が違います。
2つ目は「ベクトル=数値の並び」であって、ベクトル自体が答えを出すわけではない点です。ベクトルは意味を表す「材料」であり、その材料を使って分類や検索、生成といった処理が行われます。「埋め込みをすればAIが賢くなる」という説明は、仕組みを飛ばしすぎています。
3つ目は「似た言葉は近く、違う言葉は遠い」という関係が、学習データから作られる点です。埋め込みの質は学習データに依存します。偏ったデータで作られた埋め込みは、偏った近さを反映してしまうため、第4章のバイアスとも関係します。

練習問題
問1.埋め込み(エンベディング)の説明として、最も適切なものはどれか。
1.言葉や文章を暗号化して、第三者に読めないようにする技術
2.言葉や文章を意味を保ったまま数値のベクトルに変換する技術
3.言葉や文章を圧縮して、保存容量を小さくする技術
4.言葉や文章を音声に変換して読み上げる技術
問2.埋め込みによって作られたベクトルについて、正しいものはどれか。
1.意味が近い言葉ほど、ベクトル同士の距離が近くなる
2.意味が近い言葉ほど、ベクトル同士の距離が遠くなる
3.ベクトル同士の距離は、言葉の文字数だけで決まる
4.ベクトルは言葉の品詞だけを表し、意味は表さない
問3.ベクトル検索の説明として、最も適切なものはどれか。
1.キーワードが完全に一致する文書だけを探す方法
2.質問文をベクトルに変換し、意味の近い文書を距離で探す方法
3.文書を日付順に並べて、最新のものだけを表示する方法
4.文書の文字数を数えて、短いものから順に表示する方法
答え:問1=2、問2=1、問3=2。問1の1は暗号化、3は圧縮、4は音声合成の説明で、埋め込みではありません。問2の2は逆の関係、3は文字数ではなく意味で決まる点、4は品詞だけでなく意味全体を表す点が誤りです。問3の1はキーワード検索、3は日付順の並べ替え、4は文字数順の並べ替えで、ベクトル検索ではありません。

まとめ
埋め込みは「言葉を意味を保ったままベクトルに変える変換」、ベクトルは「意味の近さが距離になる数字の並び」、ベクトル検索は「その距離で意味の近い文書を探す方法」です。3つの役割を分けて覚えると、第2章の用語問題でも、第3章のRAGの問題でも、すり替えに強くなります。
生成AIパスポートの第2章は、特徴量のほかにも埋め込みや過学習、評価指標など、基礎用語の区別が多く出ます。まとめて練習したい方は、『生成AIパスポート 直前7日ドリル』(ココナラで販売中、1,500円)のDay 2で、練習問題12問と一緒に整理しています。
※この記事は生成AIパスポートの出題範囲に沿って作成した解説で、公式問題ではありません。試験の最新情報は主催団体の公式サイトでご確認ください。
サービス数100万件のスキルマーケット、あなたにぴったりのサービスを探す