14
langchain调用ernie-bot-4示例代码
大模型开发/技术交流
- LLM
- 文心大模型
- API
2023.10.2431026看过
langchain版本要求>=0.0.318
1)chatmodel+llmchain 实现
from langchain.chat_models import ErnieBotChatfrom langchain.chains import LLMChainfrom langchain.prompts import PromptTemplatellm = ErnieBotChat(ernie_client_id="xxx",ernie_client_secret="xxxxxx",model_name='ERNIE-Bot-4',temperature=0.01)template = """你是一个翻译大师,请对用户的输入翻译为英文。用户输入:{input}"""prompt_template = PromptTemplate(input_variables=["input"], template=template)chain = LLMChain(llm=llm, prompt=prompt_template)ret = chain.run("我是谁")print(ret)
2)chatmodel实现
from langchain.chat_models import ErnieBotChatfrom langchain.chains import LLMChainfrom langchain.prompts import PromptTemplatellm = ErnieBotChat(ernie_client_id="xxx",ernie_client_secret="xxxxx",model_name='ERNIE-Bot-4',temperature=0.01)template = """你是一个翻译大师,请对用户的输入翻译为英文。用户输入:{input}"""prompt_template = PromptTemplate(input_variables=["input"], template=template)final_prompt = prompt_template.format(input='我是谁')# print(final_prompt)ret=llm.predict(final_prompt)print(ret)
3)langchain+qianfan SDK实现
from langchain.llms import QianfanLLMEndpointimport osllm = QianfanLLMEndpoint(streaming=True,model="ERNIE-Bot-4",endpoint="completions_pro",qianfan_ak="xxxx",qianfan_sk="xxxxx")res = llm("翻译:我是谁")print(res)
评论
