文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

chatGPT之Python API怎么启用上下文管理

2023-07-05 13:44

关注

这篇文章主要讲解了“chatGPT之Python API怎么启用上下文管理”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“chatGPT之Python API怎么启用上下文管理”吧!

官方案例:

# Note: you need to be using OpenAI Python v0.27.0 for the code below to workimport openai openai.ChatCompletion.create(  model="gpt-3.5-turbo",  messages=[        {"role": "system", "content": "You are a helpful assistant."},        {"role": "user", "content": "Who won the world series in 2020?"},        {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},        {"role": "user", "content": "Where was it played?"}    ])

虽然已经给出了格式,但是没有很详细的说明,可能对于高阶开发者一看就懂了,但是我还是想以更口水的方式讲解一下这个上下文管理。

先看一下我一个简单的代码(还没有启用上下文管理):

import openai openai.api_key = "你的sk-key" msg = [{"role": "user", "content": "你好chatGPT"}] # 结构化数据并进行提交completion = openai.ChatCompletion.create(                # max_tokens = inf # 默认inf 最大令牌数                presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思                frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率                temperature = 1.0,  # 温度 0-2之间,默认1  调整回复的精确度使用                n = 1,  # 默认条数1                user = ids,    # 用户ID,用于机器人区分不同用户避免多用户时出现混淆                model = "gpt-3.5-turbo",    # 这里注意openai官方有很多个模型                messages = msg            ) value = completion.choices[0].message.content    # chatGPT返回的数据

这是一个最基本的结构,其中参数model和messages是必须要有的两个形参。

加入上下文管理的代码:

import openai openai.api_key = "你的sk-key" msg = [{"role": "system", "content": "你的名字叫玖河AI,你是一个插件,你的开发者是玖河."},        {"role": "user", "content": "你好chatGPT"},        {"role": "assistant", "content": "您好,有什么需要我帮忙的问题吗?"},        {"role": "user", "content": "我的名字叫高启强,我的妹妹叫高启兰,我们是兄妹关系。记住了吗?"}        {"role": "assistant", "content": "好的,您叫高启强,您的妹妹叫高启兰,是亲兄妹关系。谢谢您提供信息让我更了解你们~"},        {"role": "user", "content": "你现在在哪里?"},        {"role": "assistant", "content": "作为一款智能Ai助手,我并没有实际的位置。我只是在云端中运行,在等待用户输入指令时保持睡眠状态。"},        {"role": "user", "content": "我的妹妹是谁?"},        {"role": "assistant", "content": "您之前告诉我,您的妹妹叫高启兰。"},        {"role": "user", "content": "你的名字叫什么?"},        {"role": "assistant", "content": "我的名字叫玖河AI是一个叫玖河的开发者开发的插件"}        ] # 结构化数据并进行提交completion = openai.ChatCompletion.create(                # max_tokens = inf # 默认inf 最大令牌数                presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思                frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率                temperature = 1.0,  # 温度 0-2之间,默认1  调整回复的精确度使用                n = 1,  # 默认条数1                user = ids,    # 用户ID,用于机器人区分不同用户避免多用户时出现混淆                model = "gpt-3.5-turbo",    # 这里注意openai官方有很多个模型                messages = msg            ) value = completion.choices[0].message.content    # chatGPT返回的数据

下面启用上下文管理的数据结构和没有启用的数据结构略有不同:

① system 代表系统设定(也就是告诉chatGPT他的角色)

② user 表示用户

③ assistant 表示GPT的回复

有几个点需要跟大家说一下,避免踩坑!

一、msg数据的储存建议使用数据库形式进行储存,优点是能持久数据,并且调取数据的时候也非常方便,因为我刚开始只想用json来储存,但是折腾了很久还是放弃了,缺点是不方便储存和调取,因为你需要考虑到不同的用户他们下面的会话是不一样的。

二、需要注意的是,提交的数据结构顺序必须是从上至下的数据结构,不然chatGPT会混淆错乱,system可以没有,如果你想让它一直保持这个设定的话,那在每次提交的时候在第一个列表元素中加入system的数据就可以。

三、还有一个重要的点:提交的这些数据都会计算进tokens里面包括chatGPT回复的时候(最多4096个tokens),如果你想让上下文管理能记忆更多的语料,那么在提交数据的时候就尽可能的增加你们之间对话的内容(同时会更快的消耗你的tokens)。

四、截止2023年3月14日前:chatGPT的会员价格为20美元/月 ,tokens按量收费。通俗的说就是想手机卡一样,每个月有月租,通话另外计费。chatGPT Plus会员的好处就是速度能更快,并且稳定,白嫖版的也能用,就是速度会慢一些而且不稳定容易挂掉。

感谢各位的阅读,以上就是“chatGPT之Python API怎么启用上下文管理”的内容了,经过本文的学习后,相信大家对chatGPT之Python API怎么启用上下文管理这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是编程网,小编将为大家推送更多相关知识点的文章,欢迎关注!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯