「ファインチューニング」という言葉をご存じでしょうか。これはゼロから新しいAIを作るのではなく、既存のAIをもとにして新しいAIを開発していくための手法の1つです。
機械学習やニューラルネットワークの分野において、既存のモデルを応用し、強化するために使用されます。
本記事ではファインチューニングの概要、仕組みからメリット・デメリットなどを紹介していきますので、興味のある方は最後までお読みいただき、参考にしてください。
目次
閉じる
1.ファインチューニングの基礎をわかりやすく解説
ファインチューニングの概要
ファインチューニングとは、機械学習モデルのトレーニング手法の1つです。
この手法は「あらかじめトレーニングされたモデルに対して、特定のタスクや活用例に合わせて、調整（チューニング）を行うプロセス」を指します。
因みに機械学習モデルとは、「大量のデータからルールやパターンを学習し、それをもとに分析や予測を行ってくれる仕組み」のことです。
これは生成AIのトレーニングでよく使用される手法で、生成AIの基盤となるモデルを作成しておいて、「音声」「画像」「文章」などの用途に応じてプロセスの調整を行っていきます。
ファインチューニングの目的・役割
ファインチューニングを使用する目的はモデルのトレーニングを効率化することです。
そもそも、特定のタスクをこなしてくれるモデルをゼロからトレーニングをするとどうしても時間と費用が多くかかります。そのため、対象のタスクに関連する広範な学習済みの基盤モデルを用意しておいて、その機能を特定のタスク用に研ぎ澄ます方が短時間かつ安価です。
また、機械学習の中でも高度な技術を必要とするディープラーニング関連の以下の技術はこの手法を活用しないと「膨大なデータ」「時間」「費用」がかかってしまいます。
大規模言語モデル（LLM）
これは、人間が普段の会話やSNSなどで使用している自然言語を分析して理解を行う「自然言語処理（NLP）」を使用するモデルです。そのため、言語の種類（日本語、英語など）が違うだけで「文法」「単語の扱い方」「前後の単語との関連」など膨大なパラメータが必要になります。
そこで、言語毎の基本データを学習させた基盤モデルを用意することで、SNSの分析やカスタマーサービスでの活用などの用途に合わせた調整のみをファインチューニングで行うのです。
ビジョン・トランスフォーマー（ViT）
これは、「画像認識」「物体の検出」などのデジタル画像や動画、センサなどからのデータから情報を抽出して処理する技術を指します。これも画像や動画を処理するための基礎的なトレーニングだけでも膨大なデータが必要です。
そこで基礎的なトレーニング済みの基盤モデルを用意して、「画像の生成」や「画像の分類」などの用途に合わせて、ファインチューニングで調整していきます。
まとめると、ファインチューニングはあるタスクで事前に学習させたモデル（基盤モデル）を別の特定のタスクへ効率的に適応させるために重要な役割を果たしてくれる手法と言えるでしょう。
2.ファインチューニングと転移学習、RAGの違い
ファインチューニングと転移学習
ファインチューニングと転移学習は、どちらも対象のモデルに蓄積されているトレーニングを新しい目的に応用するための手法です。これらの違いというのは新しい目的に対応するために「調整するパラメータ」になります。
ファインチューニングと転移学習が使用される「ニューラルネットワーク」は入力層・中間層（隠れ層）・出力層という複数の層で構成されるモデルです。
ファインチューニングでは、特定の層に対してパラメータの微調整をするための再学習を行います。
対して、転移学習では、出力層のみに対してパラメータの調整をする学習をする手法です。出力層以外のパラメータは変更しないため、基盤モデルとの類似性の高い新規モデルの
作成に活用されます。
基盤モデルとの類似性を保った新規モデルの作成は転移学習、全体的なモデルの拡張などの柔軟な対応はファインチューニングというような使い分けがされるといえるでしょう。
ファインチューニングとRAG
RAG（Retrieval Augmented Generation）は、大規模言語モデル（LLM）の能力を、インターネットやアクセス可能なデータベースなどの外部リソースを活用した情報取得で補強する手法です。
具体的には、大規模言語モデル（LLM）が分析結果を出力する際、外部リソースから関連する最新データも活用して行います。つまり、パラメータの変更などが必要な再学習を必要としない手法です。
ファインチューニングは特定のタスクのために用意したデータでモデルに再学習を行うのに対して、RAGはモデルはそのままで外部リソースで機能を補強するという違いがあります。
ファインチューニングでは再学習でパラメータの調整を行い、変更したパラメータの評価次第で実用となりますが、RAGではパラメータの変更がないため実用まで難易度が低いと言えるでしょう。
3.ファインチューニングの仕組みとやり方
ここではファインチューニングの具体的な仕組みとやり方について紹介していきます。
ファインチューニングの仕組み
ファインチューニングは複数の層で構成されるニューラルネットワークに特定のタスクを行えるように最終層を置き換えることで機能の調整を行う仕組みです。置き換えた層はまだ学習できていないため、学習済みモデルの層の一部または全体と連携して追加学習を行います。
ここで大切なのが、追加した層で行いたいタスクと類似の機能を基盤モデルが持っていることです。
例えば、「木の種類を識別する機能」を有する基盤モデルに「花の種類を識別する機能」を追加する場合、すでに「識別機能」を有しているため、ファインチューニングを使用したトレーニングができます。
しかし、同じ基盤モデルに対して、「文章から要約を生成する機能」を追加しようとしても、基盤モデルは「言語処理機能」を持っていないため、ファインチューニングでのトレーニングは不可能です。
ファインチューニングは新たに作りたいタスクの基盤となる機能を持っているモデルをカスタマイズするための仕組みであることを理解しておきましょう。
ファインチューニングのやり方
ファインチューニングは以下のような流れで行います。
※基盤モデルは用意してあるものとしての説明です。
①データセットの準備
一番重要といっても過言ではないのが「データセットの準備」になります。
準備の流れは以下の通りです。
タスクの目的整理
ファインチューニングで新たに作成するタスクの用途を明確化して、データ収集で漏れやズレがないようにします。
目的に応じたデータ収集
既存のデータセットや社内外のリソースなどから目的に沿ったデータの収集です。
データの前処理
モデルが学習しやすいように成形する処理になります。
具体的にはデータの正規化やサイズの統一、不要部分の削除などです。
データの分割
トレーニング用、検証用、テスト用に用意したデータを分けていきます。約8割はトレーニング用にして残りを検証やテストのために使用するのが一般的です。
品質の確認
データに偏りや曖昧な要素がないかなどの品質を確認していきます。ファインチューニングの結果を左右する重要な工程です。
②データセットのアップロード
ファインチューニングを行う基盤モデルを管理しているシステムやサービスなどのトレーニングを行う環境に学習用のデータをアップロードして、ファインチューニングを行えるようにしていきます。
③ファインチューニングの実行
ここからは仕組みでも説明したような流れです。
新たなタスク用に最終層を置き換え
仕組みでも説明したようにまずは新たなタスクを処理するための基盤となる層の追加を行います。
新たなタスクとともに再学習する既存の層を選定
新たなタスクの基盤となる機能を持っている層を確認して、再学習をともに行う層を決める工程です。ここで必要な能力を持った層が足りていないと再学習しても意味がありません。
準備したデータセットでの再学習
既存の層と新たに追加した層の再学習を行います。
トレーニング後の評価
検証用、テスト用のデータセットを使用して、ファインチューニングを行ったモデルの評価です。期待している結果が得られていれば、実用に向けたシステムやサービスへの統合を行っていきます。
関連記事
AI(人工知能)の作り方【初心者向け】対話型AI・生成AI・自立思考型AIの作成手順をわかりやすく解説
PythonでAI開発！【初心者向け】ライブラリの紹介学習のヒント、未来展望など解説
4.ファインチューニングのメリット・デメリット
メリット
コスト・リソース削減
ファインチューニングはゼロからではなく、基盤となるモデルを応用して行う手法です。そのため、ゼロスタートでモデルを構築していくのではなく、既存のモデルをカスタマイズするような形式のため、時間や費用などのコストやリソースを削減することができます。
ゼロからモデルを作成する場合、モデルで使用する処理手法の開発と膨大なデータセットの収集、計算資源などのさまざまなコストとリソースを割くことが必要です。
場合によっては億単位のコストが必要になることもあるため、ファインチューニングによる既存モデルの拡張はかなり有用と言えるでしょう。
性能の向上
ファインチューニングは特定のタスクをこなせるように最終層を置き換えて、他の層も再学習するため、モデル全体の性能を向上させることが可能です。再学習をすることでより、対象タスクに関する分析能力がより詳細になるため、関連する分析を行う既存のモデルの精度も高まります。
運用する中で発見されたデータのフィードバックを行い、改善を繰り返すことでより柔軟で高い性能を有するAIにすることもできるでしょう。
応用力の高さ
ファインチューニングで使用するモデルはビッグデータなどを使用した学習をすでに行っているため、基本的な分析や予測の能力を持っているモデルになります。そのため、基盤モデルに備わった機能を応用するタスクであれば、さまざまなタスクを低コストで作成することが可能です。
ビッグデータとは言えない量のデータセットからでも新しいモデルの作成が期待できるため、基盤モデルを派生させた応用モデルの開発をスムーズにできるでしょう。
デメリット
過学習の問題
過学習とは、データの偏りや少なさ、モデルの自由度の高さが原因で期待した機能より室が低くなってしまう状態を指します。
ファインチューニングでは、ゼロから作成するより少ないデータセットでの新規モデル作成が可能とは言いましたが、それには基盤モデルと学習データの相性が重要です。もし、追加データが基盤モデルに対する量や質の面で相性が合わなかった場合に過学習に陥り、新規モデルの作成に失敗してしまうことがあります。
過学習に限らずAIのトレーニングで起こりうる問題への対処は考えながら、活用することが必要になるでしょう。
準備するデータセットの質が高い必要がある
前述の内容からもわかるようにモデルを特定のタスクに対応させる手法であるため、「偏りがない」「余分な情報の少ない」などの品質が高いデータである必要があります。そして、そういった品質の高いデータを追加機能に合わせて適切な量を用意することが必要です。
これに関してはファインチューニングで作成する機能とデータセット準備のコストが見合っているかをしっかり確認することで対処しましょう。
ファインチューニングではその機能を作成するため、ベストな調整方法とはどのようなものかをしっかりと検討することが大切です。
関連記事
AIにできること・できないことは？AIに仕事が代替される？その他活用事例を解説
AIエンジニアとはどんな仕事？年収や向いている人の特徴なども解説！
5.ファインチューニングとChatGPT
Open AIが開発した言語モデル「GPT」を使用している「ChatGPT」は教師ありファインチューニングとRLHF（Reinforcement Learning from Human Feedback：人間のフィードバックによる強化学習）を組み合わせて開発されたものになります。
ユーザーとの質問と回答というやり取りを繰り返すような形式でファインチューニングを行っていき、より良い回答が出せるようにしていったのです。
ChatGPTを利用したファインチューニング
因みにOpen AIでは「ChatGPT」を活用したファインチューニングを実行することもできます。
データセットを準備したら、Open AIのWebサイトでAPIキーを取得し、APIキーを使用してデータセットをアップロード、そのデータを基にファインチューニングを実行してくれます。
ChatGPTファインチューニングの料金
実際にChatGPTでのファインチューニングを行いたいと思ったときに気になるのが、使用料金です。費用の計算はトークン数（単語数）やエポック数（学習回数）などで決まります。
100万トークンあたりのモデルごとの料金はOpen AIの公式サイトに記載されていますので、使用する単語の数と学習させたい回数などからコストを計算して見ると良いでしょう。
関連記事
プロンプトインジェクションとは？仕組みや種類・実例・リスク・対策方法を徹底解説
6.まとめ
本記事ではファインチューニングについて、基礎や他の手法との違い、仕組みなどを中心に紹介しました。ファインチューニングが活用できるようになれば、既存のモデルから応用的な新機能を持ったモデルを簡単に作成することが可能です。
ファインチューニングでデータの品質や過学習への対策、基盤モデルと新タスクとの相性などをしっかり確認する必要があります。しかし、ゼロから新しく作成するよりはほとんどの場合、コストが減少する可能性が高いため、それぞれの条件をもとに検討すると良いでしょう。
本記事が皆様にとって少しでもお役に立てますと幸いです。
「フリーランスボード」は、数多くのフリーランスエージェントが掲載するITフリーランスエンジニア・ITフリーランス向けの案件・求人を一括検索できるサイトです。
開発環境、職種、単価、稼働形態、稼働日数など様々な条件から、あなたに最適なフリーランス案件・求人を簡単に見つけることができます。
単価アップを目指す方や、自分の得意なスキルを活かせる案件に参画したい方は、ぜひ「フリーランスボード」をご利用ください。
自身に最適なフリーランスエージェントを探したい方はこちらよりご確認いただけます。