みなさん、GPTのAPIがアップデートされたことをご存知ですか？
今回のアップデートでGPT-3.5 APIが「はやい、やすい、（トークン数が）でかい」になりました。
どこかの牛丼チェーンみたいですね！
そこで今回は、APIについて何がアップデートされたのか、速さや価格はどうなったのかをまとめました。
ぜひ最後までご覧ください。

今回のアップデート

2023年6月13日に次のようなアップデートがありました。

1. モデルの改善：gpt-3.5-turbo-16kの導入された。開発者は一度に日本語だと約8000文字を処理できるようになり、より効率的なテキスト生成が可能になりました。
2. コスト削減：開発者向けのコストが大幅に削減されました。
3. 新機能の導入：Function Call という機能が追加されました。開発者はチャットボットが外部ツールを呼び出したり、自然言語をAPI呼び出しに変換したりすることが可能になりました。

なお、Function Call の所感をまとめた記事は後日書こうと思ってます。
では、旧バージョンとの比較を見ていきましょう！

比較してみた

比較項目は以下の2つです。

1. 処理速度
2. 価格

比較したモデルは、以下の4つです。

1. gpt-3.5-turbo-0301
2. gpt-3.5-turbo-0613
3. gpt-3.5-turbo-0613-16k
4. Azure OpenAI 3.5-turbo-0301

それではそれぞれ確認していきましょう！

処理速度

次のようなプロンプトとシェルスクリプトを使い、速度を計測しました。
プログラムを3回実行した平均値から、速い順番を決めています。

シェルスクリプト:

curl https://api.openai.com/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer {your_api_key}" \
  -d @message.json \
  -w "%{time_total}\n"

プロンプト(message.json):

{
    "model": "gpt-3.5-turbo-0613",
    "messages": [
        {
            "role": "user",
            "content": "hello, worldと10回言ってください。"
        }
    ]
}

ちなみに、「Hello,worldと10回言ってください」としたのは、測定結果から偶然性をなくしたいからです。
仮に1回だけにすると、たまたま速かった/遅かったとなると思うので、なるべく公平にするためにこのようなプロンプトにしています。
速い順に並べた結果は以下のとおりです。

1. GPT3.5-turbo-0613
2. GPT3.5-turbo-0613-16k
3. Azure OpenAI
4. GPT3.5-turbo-0301

実験結果の詳細は、表にまとめています。

旧バージョン（gpt-3.5-turbo-0301） と、新バージョン（gpt-3.5-turbo-0613）を比較すると約3倍の差がありますね。
めちゃくちゃ速くなってる！

価格

OpenAIの情報によると、gpt-3.5-turboの入力トークンのコストを25％削減したそうです。（出力トークンについては記載がなかったです。）
gpt-3.5-turbo-0301に関しては、0.002ドル/1kトークン（非公式）。

たしかに安くなってそうですね。

精度

精度に関しては、感覚的にはアップしているように感じました。
強化学習の成果だと思います。
検証項目を改めて、後日まとめますのでお楽しみに！

まとめ

OpenAIのGPT APIがアップデートされました。
主な変更点は以下のとおりです。

1. モデルの改善：新たなgpt-3.5-turbo-16kが導入された。開発者は一度に日本語で約8000文字を処理が可能。
2. コスト削減：開発者向けのコストが大幅に削減され、入力トークンのコストが25％削減。
3. 新機能の導入：Function Callという新機能が追加。開発者はチャットボットが外部ツールを呼び出したり、自然言語をAPI呼び出しに変換したりすることが可能。

スピードテストの結果では、新しいモデルgpt-3.5-turbo-0613が最も速い。
旧バージョンのgpt-3.5-turbo-0301と比較して約3倍のスピードアップが達成されています。

価格に関して、gpt-3.5-turboの入力トークンは、25％安くなりました。

最後に

今回は、GPT-3.5のアップデートについてまとめました。
トークン数も増えて、出力スピードも上がっていて最高ですね！
3ヶ月に1度のペースでアップデートがあるらしいので、次回にも期待しましょう！

以上、株式会社SaaSis AIエバンジェリストLeonでした。

また、SaaSisでは、全体最適の視点でシステム提案から検証、導入、連携までワンストップで支援いたします。
「“ChatGPT × 社内データ“のAIチャットボットを作りたい」
「ChatGPTを使って、社内業務をどのように効率化できるか知りたい」
などChatGPT関連のご相談も承っております。
お気軽にご連絡くださいっ！

この記事を描いた人

Leon Kobayashi

必ずフォローすべきAIエバンジェリスト（自称）

=> 元東証一部上場ITコンサル

（拙者、早口オタク過ぎて性に合わず退社）<-イマココ

【好きなもの】官能小説・リコリコ・しゃぶ葉
宜しくおねがいします。

フォローする

この記事を描いた人

Leon Kobayashi

自称: 必ずフォローすべきAIエバンジェリスト

=>元東証一部上場ITコンサル

（拙者、早口オタク過ぎて性に合わず退社）<-イマココ

【好きなもの】

官能小説・リコリコ・しゃぶ葉
宜しくおねがいします。

フォローする

この記事を描いた人

Leon Kobayashi

必ずフォローすべきAIエバンジェリスト（自称）

=>元東証一部上場ITコンサル

（拙者、早口オタク過ぎて性に合わず退社）<-イマココ

【好きなもの】

官能小説・リコリコ・しゃぶ葉
宜しくおねがいします。

フォローする

Recruit

現在、生成系AI事業急成長のため

積極的に人材採用を行なっています

採用情報はこちら