OpenAI Function Calling特性示例详解
Function Calling使用
OpenAI 在gpt-3.5-turbo-0613 和 gpt-4-0613两个模型的chat completion api中增加了一个叫 Function Calling 的新功能，本篇文章对其功能进行探究，并分析其作用。
我认为这是一种比Plugin更优雅的方式，给开发者提供了更多的自由度，一方面识别出何时需要调用函数来对输出格式化，一方面设定具体的格式化数据有助于接入后续业务逻辑。达到尽可能保证（注意这里，是根据你的函数描述最大可能保证，不能100%）LLM输出可控的基础上，来增强自己业务的目的。
show me code
下面以记账应用为例，告诉AI：“今天喝奶茶花了6元”，正常思路来说，交互流程应该是这样的：
- 用户输入prompt
- AI进行语义分析
- 返回结构化的数据（每个子项是什么，花费是多少）
- 拿到数据进行下一步操作
借助Function Calling，微调后的模型可以检测何时应该调用函数并使用符合函数签名的 JSON 进行响应，下面看代码例子👇
import openai
import json
from enum import Enum
class BaseTool(Enum):
Bookkeeping = "record_price"
RecordingTask = "record_task"
def record_price(category, price):
print(category, price)
# 记账应用 API
print("记账成功!")
def funtion_call_conversation():
response = openai.ChatCompletion.create(
model="gpt-3.5-turbo-0613",
messages=[
{"role": "user", "content": "今天喝奶茶花了6元"},
],
temperature=0,
functions=[
{
"name": BaseTool.Bookkeeping.value,
"description": "bookkeeping assistant",
"parameters": {
"type": "object",
"properties": {
"category": {
"type": "string",
"description": "类目",
},
"price": {"type": "string", "description": "金额"},
},
"required": ["category", "price"],
},
}
],
function_call="auto",
)
message = response["choices"][0]["message"]
if(message.get("function_call")):
function_name = message["function_call"]["name"]
if function_name == BaseTool.Bookkeeping.value:
arguments = json.loads(message["function_call"]["arguments"])
record_price(arguments.get('category'), arguments.get('price'))接口调用说明
- name字段表示要调用的函数名，description表示函数描述，paramters是一个符合JSON Schema格式的对象，用来描述这个函数的入参信息（让 LLM 读得懂的工具函数说明）
record_price是用来给Function Calling调用的函数，这个函数接收两个必填的参数，category类目（string类型），price金额（string类型）
functions=[
{
"name": BaseTool.Bookkeeping.value,
"description": "bookkeeping assistant",
"parameters": {
"type": "object",
"properties": {
"category": {"type": "string","description": "类目"},
"price": {"type": "string", "description": "金额"},
},
"required": ["category", "price"],
},
}
],LLM分析结果
LLM 分析后命中了函数签名描述，就会返回给我们 function_call 这个字段以及函数签名中我们预定义的相关信息：
{
"role": "assistant",
"content": null,
"function_call": {
"name": "record_price",
"arguments": "{\n \"category\": \"\u5976\u8336\",\n \"price\": \"6\u5143\"\n}"
}
}- category返回给我们了类目是奶茶
- price识别出了金额是6元
接下来拿到参数，调用 record_price 进行记账的操作即可；如果没有命中函数签名描述，就不会返回function_call字段，也就不需要进行任何操作：
if(message.get("function_call")):
function_name = message["function_call"]["name"]
if function_name == BaseTool.Bookkeeping.value:
arguments = json.loads(message["function_call"]["arguments"])
record_price(arguments.get('category'), arguments.get('price'))按照这种思路，可以扩展自己的外部工具，比如发邮件，记录待办清单，让LLM变成私人管家。
AI记账应用设想
LLM 加持的记账应用设想，不需要打开记账软件写类目记金额👇：
- 直接对照Siri说“今天喝奶茶花了6元”
- 然后利用STT，转换为文本
- 利用上述程序提取类目和金额，调用记账API，记录成功
存在问题
- 函数描述是会被计入token的（果然魔法都是有成本的🤡
- 潜在的风险：分析不准确，出现无法命中函数签名描述的情况
参考
以上就是OpenAI Function Calling特性作用详解的详细内容，更多关于OpenAI Function Calling的资料请关注脚本之家其它相关文章！
相关文章
python的print输出在控制台并且将输出内容保存为文件(最新推荐)
这篇文章主要介绍了python的print输出在控制台并且将输出内容保存为文件，我感觉就是类似于重写一下调用print的时候执行的方法，让他既能够在控制台输出，也能保存到文件里去，需要的朋友可以参考下2023-01-01
在现代社会中,摇号系统广泛应用于车牌摇号、房屋摇号等公共资源分配领域,本文将详细介绍如何使用Python实现一个简单的摇号系统,有需要的可以了解下2024-11-11
这篇文章主要介绍了Python脚本利用adb进行手机控制的方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-07-07
Python hashlib模块与哈希算法保护数据完整性教程
hashlib模块为Python提供了一种简便的方式来使用各种哈希算法,如MD5、SHA-1、SHA-256等,哈希函数广泛用于密码学、数据完整性验证和安全存储等领域2024-01-01
这篇文章主要介绍了深度学习环境配置之Anaconda安装和pip源方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2024-02-02
这篇文章主要介绍了python tkinter事件绑定，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2019-03-03
这篇文章主要给大家介绍了关于python批量插入数据到mysql的3种方法,在日常处理数据的过程中,我们都有批量写入数据库的需求,文中通过代码介绍的非常详细,需要的朋友可以参考下2023-10-10
今天小编就为大家分享一篇python numpy 按行归一化的实例，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
下面小编就为大家带来一篇python一键升级所有pip package的方法。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧2017-01-01
这篇文章主要介绍了基于python的selenium全网最新超详细教程,本文内容比较长，结合实例代码给大家讲解的非常详细，需要的朋友可以参考下2023-12-12
最新评论