ChatGPT重磅更新!新增API函数调用,上下文飙升4倍,价格打“骨折”

大数据文摘 · 2023年06月15日

大数据文摘出品

刚刚!OpenAI 对 GPT系列发布了重大更新。其中包括最核心的是API新增函数调用(Function calling)能力。

此外还有:

更新和更可控制的gpt-4和gpt-3.5-turbo版本。

新推出的gpt-3.5-turbo 支持16k的上下文输入。

gpt-3.5-turbo输入token成本降低25%。

最先进embeddings model降价75%

开放gpt-3.5-turbo和gpt-4 API,不再设置等待时间表。

在这次更新中,OpenAI 重点介绍了函数调用:开发者不用手动选择函数,只需要模型描述需要用到的函数,何时调用哪个函数都是模型根据提示词自己决定的,与GPT-4调用插件的机制一样。

这些模型已经进行了微调,可以检测到何时需要调用函数,也可以生成符合函数签名的JSON响应。换句话说,函数调用使得开发者能够更可靠地从模型中获取结构化数据。

更新模型:GPT-4和gpt-3.5-turbo大升级

GPT-4/GPT-3.5-turbo有两个模型,编号都是0613(意为:6月13号更新?)。

其中,gpt-4-0613包括一个更新且改进的模型,具有函数调用功能;gpt-4-32k-0613包括与gpt-4-0613相同的改进,同时扩展了上下文长度,以便更好地理解较大的文本。

gpt-3.5-turbo-0613 包括与 GPT-4 相同的函数调用以及通过系统消息提供的更可靠的可控性;gpt-3.5-turbo-16k 的16k 上下文意味着该模型现在可以在单个请求中支持约 20 页文本。

此次更新OpenAI提供了更多的服务,但却只收取更低的价格,妥妥的业界良心啊:

“text-embedding-ada-002 将成本降低 75% 至每 1K Token 0.0001 美元。

gpt-3.5-turbo-16k 的定价为每 1K 输入Token 0.003 美元,每 1K 输出Token 0.004 美元。

gpt-3.5-turbo’s 输入Token的成本降低了 25%”

价格计划更新后,有网友表示:OpenAI好像、貌似给免单了。

API使用示例,解放开发者双手

关于函数调用功能,OpenAI给出了以下几个示例。

1.请求转换

“给Anya发邮件,看她是否想在下周五喝咖啡”这样的请求转换为函数调用:

send_email(to: string, body: string)

“波士顿的天气如何?”转换为函数调用:

get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。

2.将自然语言转换为API调用或数据库查询

本月前十名的客户是谁?

get_customers_by_revenue(start_date: string, end_date: string, limit: int)

Acme公司上个月下了多少订单,能转换为SQL查询:

sql_query(query: string)

3.从文本中提取结构化数据

定义函数提取Wikipedia文章中提到的所有人物:

extract_people_data(people: [{name: string, birthday: string, location: string}])

图注:调用外部API执行操作或回答问题

OpenAI 和它的GPT计划

在最近的一次访谈中,OpenAI的掌舵人Sam Altman公布了最近两年的GPT计划。例如2023年的计划是降低GPT-4的成本,以及提高响应速度,其他还包括:

1.更长的上下文窗口,可能会支持100w的token;

2.微调API,帮助开发人员更好的开发;

3.支持会话状态的API。

显然,这次更新是对更长的上下文窗口,帮助开发人员更好开发的承诺的一种回应。果然,这种纯粹创业团队,更多考虑如何让AI技术更好的服务更多的人群。而非像一些公司,动不动就商业化、赋能啥的,把技术包装成普通用户用不起的样子。

如果细数OpenAI,会发现它是一家坚持梦想的机构,且想把事情做到极致的公司。

OpenAI最初是一个非盈利性人工智能研究实验室,2016年获得了萨姆•奥尔特曼和埃隆•马斯克10亿美元的资助。

2019年OpenAI转型为盈利性人工智能研究实验室,以吸收投资者的资金。

在实验室支持其研究的资金已所剩无几的时候,微软又宣布将在实验室投资10亿美元。

CEO Altman 表示,在早期的时候,GPT-4 非常慢,还有bug,很多事情做得不好。但是,最早期的计算机也是这样,它们仍然指向了我们生活中将要变得非常重要的东西的道路,尽管需要几十年的时间才能发展。换句话说,这家公司并没有因为初始的KPI不好,就放弃计划。

正如微软亚洲研究院前副院长、澜舟科技创始人周明在一次采访中提到的:

OpenAI最大的功绩是把各方面做到极致,是集成创新的典范。

世界上有几类人,有人就是要研究底层创新。有的是在底层创新上做应用,一般的应用是解决单项任务。还有的是做集成创新,把所有工作、应用、算法都在一个大平台上体现,形成里程碑。OpenAI 恰好集成创新做得非常好。

参考链接:

https://mp.weixin.qq.com/s/p42pBVyjZws8XsstDoR2Jw

https://openai.com/blog/function-calling-and-other-api-updates

原标题:《ChatGPT重磅更新!新增API函数调用,上下文飙升4倍,价格打“骨折”》

相关标签:ChatGPTGPT-4
评论
暂无任何评价