OpenAI 为开发者推出 GPT 聊天机器人 API 大更新,同时降低价格

OpenAI 为开发者推出 GPT 聊天机器人 API 大更新,同时降低价格

人工智能 2023-06-15 12:20:02 1年以前

IT酷哥 6 月 14 日消息,OpenAI 今日宣布对其大型语言模型 API(包括 GPT-4 和 gpt-3.5-turbo)进行重大更新,包括新增函数调用功能、降低使用成本、以及为 gpt-3.5-turbo 模型提供 16000 个 token的版本。

大型语言模型(LLM)是一种能够处理自然语言的人工智能技术,它的“上下文窗口(context window)”相当于一个短期记忆,可以存储输入的内容或者聊天机器人的对话内容。在语言模型中,增加上下文窗口大小已经成为一种技术竞赛,Anthropic 公司最近宣布其 Claude 语言模型可以提供 75000 个 token 上下文窗口选项。此外,OpenAI 也开发了一个 32000 个 token 的 GPT-4 版本,但尚未公开推出。

OpenAI 刚刚推出了一个新的 16000 上下文窗口的 gpt-3.5-turbo 版本,名为“gpt-3.5-turbo-16k”,可以处理长度达到 16000 个 token 的输入,这意味着可以一次处理大约 20 页的文本,这对于需要模型处理和生成较大文本块的开发者来说是一个很大的提升。

除了这一变化之外,OpenAI 还列出了至少四个其他主要的新功能:

在 Chat Completions API 中引入函数调用功能

GPT-4 和 gpt-3.5-turbo 的改进版和“更易控(more steerable)”的版本

将“ada”嵌入模型的价格降低了 75%

将 gpt-3.5-turbo 模型的输入 token 价格降低了 25%

函数调用功能可以让开发者更容易地构建能够调用外部工具、将自然语言转换为外部 API 调用或进行数据库查询的聊天机器人。例如,它可以将“给 Anya 发邮件,看看她下周五是否想喝咖啡”这样的输入转换为“send_email (to: string, body: string)”这样的函数调用。尤其是,这个功能还可以让 API 用户更容易地生成 JSON 格式的输出,这是之前很难实现的。

关于“更易控”方面,这是一个指代如何让 LLM 按照你想要的方式行事的专业术语,OpenAI 表示其新的“gpt-3.5-turbo-0613”模型将包含“通过系统消息更可靠地控制”的功能。系统消息是 API 中一种特殊的指令输入,可以告诉模型如何行事,例如“你是格林姆斯,你只谈论奶昔。”

除了功能上的改进之外,OpenAI 还提供了相当大幅度的成本降低。值得注意的是,受欢迎的 gpt-3.5-turbo 模型的 token 价格降低了 25%。这意味着开发者现在可以以每 1000 个 token 约 0.0015 美元、每 1000 个 token 约 0.002 美元的价格使用这个模型,相当于每美元可以处理大约 700 页文本。gpt-3.5-turbo-16k 模型则定价为每 1000 个 token 0.003 美元、每 1000 个 token 0.004 美元。

此外IT酷哥注意到,OpenAI 还将其“text-embedding-ada-002”嵌入模型的价格降低了 75%。嵌入模型是一种让计算机理解单词和概念的技术,可以将自然语言转换为机器可以理解的数字语言,这对于搜索文本和推荐相关内容等任务很重要。

由于 OpenAI 不断更新其模型,旧的模型不会一直存在。今天,该公司还宣布开始淘汰一些早期版本的模型,包括 gpt-3.5-turbo-0301 和 gpt-4-0314。该公司表示,开发者可以继续使用这些模型直至 9 月 13 日,之后这些旧模型将不再可用。值得注意的是,OpenAI 的 GPT-4 API 仍然处于等待名单中,尚未完全开放。

文章版权声明:除非注明,否则均为网络转载文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 360 周鸿祎训练数字人代替演讲,称有点危机感、不想被干掉
  • 支持普通话,桌面端 Bing Chat 新增语音聊天方式
  • 微软 GitHub Copilot 编程助手被投诉:换口吻改写公共代码来躲版权
  • 韩国宣布 2025 年起将 AI 引入中小学课程,三年内实现全覆盖
  • 毕马威调查显示,过半美国白领不担心 AI 威胁自己的工作
  • 报告称 70% 程序员已使用各种 AI 工具编程
  • 普通人也能成为音频剪辑师,Meta 推出 AI 模型 Voicebox
  • 语音生成 AI 初创公司 ElevenLabs 发布合成语音检测工具,号称准确率超过 99%
  • 科学家利用 AI 识别热门歌曲,准确率高达 97%
  • Dropbox 网盘推出 AI 搜索工具 Dropbox Dash:聚合多办公平台,可视化管理工作任务
  • AI 作画工具 Midjourney 迎来 5.2 版本更新,可生成相机“变焦效果”
  • 中国联通发布鸿湖图文 AI 大模型 1.0,可实现以文生图、视频剪辑
  • 英科智能推出 AI 设计的罕见病特效药,已在中美同时启动人体临床试验
  • 美国银行分析师:聊天机器人中 ChatGPT 占据最大优势,过半用户会为其付费服务买单
  • 近 12 年由 AI 造成的事故暴涨 15 倍,Facebook、特斯拉、OpenAI 位居总量前三
  • 首款搭载 ChatGPT 的自行车问世,让你骑行不再孤单
  • 谷歌更新隐私政策规定,可使用互联网上的公开信息训练 AI 模型
  • 亚马逊 Kindle 自助出版功能被滥用,AI 生成的书籍泛滥
  • 奔驰正在车辆生产中测试 ChatGPT,进行质量管理和流程优化等活动
  • 精准度可提高 20%:英国九家银行签约使用基于 AI 的“消费者欺诈风险系统”应对诈骗
  • 最新资讯

    热门资讯