Kuinka rakentaa kehotemalleja LangChainissa?

Kuinka Rakentaa Kehotemalleja Langchainissa



LangChain on kehys, joka sisältää useita riippuvuuksia ja kirjastoja, joita voidaan käyttää suurten kielimallien rakentamiseen. Näitä malleja voidaan käyttää vuorovaikutuksessa ihmisten kanssa, mutta ensin mallin on opittava ymmärtämään/ymmärtämään ihmisen esittämä kehote/kysymys. Tätä varten mallia on koulutettava kehotemalleihin ja sitten käyttäjä kysyy kysymyksen annetun mallin sisällä.

Tämä opas havainnollistaa kehotemallien luomisprosessia LangChainissa.







Kuinka rakentaa kehotemalleja LangChainissa?

Voit luoda kehotemalleja LangChainissa käymällä läpi seuraavan oppaan, jossa on useita vaiheita:



Vaihe 1: Asenna moduulit ja asennusympäristö

Aloita kehotemallien luominen LangChainissa asentamalla LangChain-kehys:



pip asennus langchain





Asenna nyt OpenAI-moduulit päästäksesi sen kirjastoihin ja määritä ympäristö sen avulla:

pip install openai



Määritä OpenAI-ympäristö käyttöjärjestelmän kirjaston avulla päästäksesi käyttöjärjestelmään ja antamaan OpenAI API -avain:

tuo meille
tuoda getpass

os.environ['OPENAI_API_KEY'] = getpass.getpass('OpenAI API Key:')

Vaihe 2: Käytä kehotemallia

LangChainin asentamisen jälkeen tuo PromptTemplate-kirjasto ja luo malli vitsiä koskevalle kyselylle, jossa on joitain lisäominaisuuksia, kuten adjektiivi, sisältö jne.:

langchain import PromptTemplatesta

prompt_template = PromptTemplate.from_template(
'Kerro minulle {style}-vitsi aiheesta {theme}'
)
prompt_template.format(style='hauska', teema='kanat')

Kehote on asetettu ja annettu mallille muuttujan arvoilla, jotka on lisätty komentoon:

Käyttäjä voi muokata kehotemallia yksinkertaisella kyselyllä, joka pyytää vitsi:

langchain import PromptTemplatesta

prompt_template = PromptTemplate.from_template(
'Kerro minulle vitsi'
)
prompt_template.format()

Yllä oleva menetelmä on tarkoitettu yhdelle kyselylle ja vastaukselle, mutta joskus käyttäjä haluaa olla vuorovaikutuksessa mallin kanssa chatin muodossa ja seuraavassa osiossa selitetään sen muoto.

Vaihe 3: Chat-kehotemallin käyttäminen

Tämä osio selittää chat-mallin mallin, joka perustuu keskustelumalliin, kuten kahden ihmisen vuorovaikutukseen toistensa kanssa:

langchain.promptsista tuo ChatPromptTemplate

template = ChatPromptTemplate.from_messages([
('järjestelmä', 'AI chat bot auttamaan käyttäjää. Sinua kutsutaan nimellä {name}.'),
('ihminen', 'Hei, miten voit'),
('ai', 'Kuinka voit'),
('ihminen', '{user_input}'),
])

messages = template.format_messages(
nimi='John',
user_input='Miksi minun pitäisi soittaa sinulle'
)

Kun olet määrittänyt mallirakenteen, kirjoita tekstiin muutama rivi kertoaksesi mallille, mitä mallilta odotetaan, ja käytä llm()-funktiota kehotteen antamiseen:

langchain.promptsista tuo ChatPromptTemplate
langchain.prompts.chat-tuonnista SystemMessage, HumanMessagePromptTemplate

template = ChatPromptTemplate.from_messages(
[
SystemMessage(
sisältö=(
'Olet täällä auttamassa ja auttamaan käyttäjää kirjoittamaan käyttäjän tekstin uudelleen tehokkaammin'
)
),
HumanMessagePromptTemplate.from_template('{teksti}'),
]

)

langchain.chat_modelsista tuo ChatOpenAI

llm = ChatOpenAI()
llm(template.format_messages(text='en tykkää syödä maukkaita'))

SystemMessage()-metodi sisältää LLM:ssä käytetyn kyselyn vastauksen sisällön:

Siinä on kyse kehotemallien luomisesta LangChainissa.

Johtopäätös

Jos haluat luoda kehotemallin LangChainissa, asenna LangChain- ja OpenAI-moduulit ja määritä ympäristö OpenAI API-avaimen avulla. Luo sen jälkeen kehotemalli yhdelle kehotteelle, kuten vitsille tai yksittäiselle kysymykselle mistä tahansa. Toinen tapa on muokata chat-mallipohjaa kahden eri ihmisen välisen vuorovaikutuksen prosessin perusteella. Tämä viesti on havainnollistanut nopean mallin rakentamisprosessia LangChainissa.