2023年6月13日にGPTモデルがアップデートされました。大きな改善点がいくつか含まれていて、注目を集めています。この記事ではその改善点をわかりやすくまとめました。

本題に入る前に、頻出単語の確認をしていきましょう。

GPTモデル

OpenAIが開発した大規模言語モデルです。 現在はgpt-3.5-turbo やgpt-4といったモデルがリリースされています（gpt-4のAPIは2023/6/20現在予約待ち）。ChatGPTで使われているモデルです。

トークン

テキストデータの最小単位のことです。本記事では単語や句読点などと思ってもらって支障はありません。例えば、文章 "Hello, world!" をトークン化すると、["Hello", ",", "world", "!"]というように分割されます。

では、本題に参ります。今回のアップデートにより、以下の点が改善されました。

1. 機能呼び出し: チャットボットが外部ツールを使ったり、人間の言葉をコンピュータが理解できる命令に変えたりできるようにする新機能です。例えば、ボストンの今の天気は？と尋ねると、weatherapiという機能を呼び出し、ボストンの今の天気を答えてくれます。
2. 改良された"steerability": steerabilityとは、モデルの振る舞いを人間が理解しやすいように制御したり、特定の目標に向けて誘導する能力を指します。OpenAIの新しいgpt-3.5-turbo-0613モデルは、system messageと呼ばれる特殊な指示文により、確実な制御、誘導を可能にします。system messageの例として、”あなたは私の家庭教師です。すぐに答えを教えず、段階的に指導してください”という指示があります。これにより、学習者に寄り添う段階的な回答をしてくれるようになります。今回のアップデートで、以前よりも家庭教師としての役割を的確にこなしてくれるようになった、ということです。
3. 大幅なコスト削減: OpenAIは大幅なコスト削減も行いました。特に、人気のあるgpt-3.5-turboの入力トークンの価格が25％削減され、開発者は1,000入力トークンあたり約$0.0015、1,000出力トークンあたり$0.002でこのモデルを使用できるようになりました。さらに、"text-embedding-ada-002"というエンベッディングモデル（単語やフレーズを高次元のベクトル空間に埋め込むモデル）のコストも75％削減されました。
4. コンテキストウィンドウの拡大: OpenAIは新たに16,000トークンのコンテキストウィンドウを持つgpt-3.5-turbo-16kを導入しました。これにより、プロンプトが最大16,000トークンの長さまで扱うことが可能になり、標準の4,000トークン版の4倍のコンテキスト長さを扱うことができます。gpt-3.5-turbo-16kは一度のリクエストで約20ページのテキストを処理でき、大量のテキストを処理し生成する必要がある開発者にとって大きなメリットとなります。
5. 旧モデルの非推奨化: OpenAIは定期的にモデルを更新し続けており、旧モデルは永遠に利用可能なわけではありません。今回のアップデートで、gpt-3.5-turbo-0301やgpt-4-0314などの早期のモデルの非推奨化が始まり、開発者は2023年9月13日までこれらのモデルを利用することができます。
   

これらのアップデートにより、GPTモデルの機能強化とコスト削減を通じて、開発者がより効率的に、またコスト効率よくAIアプリケーションを構築できるようになりました。特に今回はgpt-3.5-turbo-16kの登場により扱えるトークン数が急増した点が注目を集めています。

著：藤本