OpenAI对GPT系列发布了重⼤更新,其中最核⼼的是API新增函数调⽤(Function calling)能⼒。
此外还有:更新和更可控制的gpt-4和gpt-3.5-turbo版本;新推出的gpt-3.5-turbo⽀持16k的上下⽂输⼊;gpt-3.5-turbo输⼊token成本降低25%;最先进embeddings model降价75%;开放gpt-3.5-turbo和gpt-4 API,不再设置等待时间表。
在这次更新中,OpenAI重点介绍了函数调⽤:开发者不⽤⼿动选择函数,只需要模型描述需要⽤到的函数,何时调⽤哪个函数都是模型根据提示词⾃⼰决定的,与GPT-4调⽤插件的机制⼀样。这些模型已经进⾏了微调,可以检测到何时需要调⽤函数,也可以⽣成符合函数签名的JSON响应。换句话说,函数调⽤使得开发者能够更可靠地从模型中获取结构化数据。
更新模型:GPT-4和gpt-3.5-turbo⼤升级。
GPT-4/GPT-3.5-turbo有两个模型,编号都是0613。其中,gpt-4-0613包括⼀个更新且改进的模型,具有函数调⽤功能;gpt-4-32k-0613包括与gpt-4-0613相同的改进,同时扩展了上下⽂⻓度,以便更好地理解较⼤的⽂本。
gpt-3.5-turbo-0613包括与GPT-4相同的函数调⽤以及通过系统消息提供的更可靠的可控性;gpt-3.5-turbo-16k的16k上下⽂意味着该模型现在可以在单个请求中⽀持约20⻚⽂本。
此次更新,OpenAI提供了更多的服务,但却只收取更低的价格,妥妥的业界良⼼:text-embedding-ada-002成本降低75%,每1K Token 0.0001美元;gpt-3.5-turbo-16k的定价为每1K输⼊Token 0.003美元,每1K输出Token 0.004美元;gpt-3.5-turbo输⼊Token的成本降低了25%。
价格计划更新后,有⽹友表示:OpenAI好像、貌似给免单了。
API使⽤示例,解放开发者双⼿。关于函数调⽤功能,OpenAI给出了以下⼏个示例。1.请求转换“给Anya发邮件,看她是否想在下周五喝咖啡”这样的请求转换为函数调⽤:“波⼠顿的天⽓如何?”转换为函数调⽤:2.将⾃然语⾔转换为API调⽤或数据库查询本⽉前⼗名的客户是谁?
Acme公司上个⽉下了多少订单,能转换为SQL查询:3.从⽂本中提取结构化数据定义函数提取Wikipedia⽂章中提到的所有⼈物:send_email(to: string, body: string) get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。
OpenAI和它的GPT计划在最近的⼀次访谈中,OpenAI的掌舵⼈Sam Altman公布了最近两年的GPT计划,如2023年的计划是降低GPT-4的成本,以及提⾼响应速度,其他还包括:1.更⻓的上下⽂窗⼝,可能会⽀持100w的token;2.微调API,帮助开发⼈员更好的开发;3.⽀持会话状态的API。显然,这次更新是对更⻓的上下⽂窗⼝,帮助开发⼈员更好开发的承诺的⼀种回应。
果然,这种纯粹创业团队,更多的是考虑如何让AI技术更好地服务更多的⼈群。⽽⾮像某公司,动不动就商业化、赋能啥的,把技术包装成普通⽤户⽤不起的样⼦。