@@ -45,10 +45,15 @@ def num_tokens_from_completion(message: Message, model: str) -> int:
4545
4646
4747GPT_3_5_TURBO_PRICE_PER_TOKEN = {
48- "prompt" : 0.002 / 1000 ,
48+ "prompt" : 0.0015 / 1000 ,
4949 "response" : 0.002 / 1000 ,
5050}
5151
52+ GPT_3_5_TURBO_16K_PRICE_PER_TOKEN = {
53+ "prompt" : 0.003 / 1000 ,
54+ "response" : 0.004 / 1000 ,
55+ }
56+
5257GPT_4_PRICE_PER_TOKEN = {
5358 "prompt" : 0.03 / 1000 ,
5459 "response" : 0.06 / 1000 ,
@@ -72,10 +77,15 @@ def num_tokens_from_completion(message: Message, model: str) -> int:
7277PRICE_PER_TOKEN = {
7378 "gpt-3.5-turbo" : GPT_3_5_TURBO_PRICE_PER_TOKEN ,
7479 "gpt-3.5-turbo-0301" : GPT_3_5_TURBO_PRICE_PER_TOKEN ,
80+ "gpt-3.5-turbo-0613" : GPT_3_5_TURBO_PRICE_PER_TOKEN ,
81+ "gpt-3.5-turbo-16k" : GPT_3_5_TURBO_16K_PRICE_PER_TOKEN ,
82+ "gpt-3.5-turbo-16k-0613" : GPT_3_5_TURBO_16K_PRICE_PER_TOKEN ,
7583 "gpt-4" : GPT_4_PRICE_PER_TOKEN ,
7684 "gpt-4-0314" : GPT_4_PRICE_PER_TOKEN ,
85+ "gpt-4-0613" : GPT_4_PRICE_PER_TOKEN ,
7786 "gpt-4-32k" : GPT_4_32K_PRICE_PER_TOKEN ,
7887 "gpt-4-32k-0314" : GPT_4_32K_PRICE_PER_TOKEN ,
88+ "gpt-4-32k-0613" : GPT_4_32K_PRICE_PER_TOKEN ,
7989 "claude-v1" : CLAUDE_V1_PRICE_PER_TOKEN ,
8090 "claude-v1-100k" : CLAUDE_V1_PRICE_PER_TOKEN ,
8191 "claude-v1.0" : CLAUDE_V1_PRICE_PER_TOKEN ,
0 commit comments