Kuinka käyttää lähtöjäsennintä LangChainissa?

Kuinka Kayttaa Lahtojasenninta Langchainissa



LangChain on kehys, joka sisältää kaikki riippuvuudet ja kirjastot, joiden avulla voidaan rakentaa malleja, jotka voivat tuottaa tulosteita tekstin muodossa. Tulosteksti poimitaan tai luodaan luonnollisilla kielillä, jotta ihmiset voivat ymmärtää ja kommunikoida helposti. Tulosteen tulee kuitenkin olla oikeassa muodossa ja hyvä, jäsennelty tieto voi tarjota käyttäjälle kattavaa tietoa.

Tämä viesti havainnollistaa menetelmää käyttää tulosten jäsennystoimintoja ja luokkia LangChain-kehyksen kautta.

Kuinka käyttää lähtöjäsennintä LangChainin kautta?

Lähtöjäsentimet ovat lähtöjä ja luokkia, jotka voivat auttaa saamaan mallin strukturoidun tulosteen. Jos haluat oppia käyttämään LangChainin lähtöjäsentimiä, käy läpi luetellut vaiheet:







Vaihe 1: Asenna moduulit
Aloita ensin lähtöjäsenninten käyttö asentamalla LangChain-moduuli riippuvuuksineen prosessin läpikäymiseksi:



pip Asentaa langchain



Asenna sen jälkeen OpenAI-moduuli käyttääksesi sen kirjastoja, kuten OpenAI ja ChatOpenAI:





pip Asentaa openai

Aseta nyt ympäristö OpenAI:lle käyttämällä OpenAI-tilin API-avainta:



tuo meille
tuoda getpass

os.environ [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API Key:' )

Vaihe 2: Tuo kirjastot
Seuraava vaihe on tuoda kirjastoja LangChainista käyttääksesi kehyksessä olevia lähtöjäsentimiä:

langchain.promptsista tuo PromptTemplate
langchain.promptsista tuo HumanMessagePromptTemplate
pydantic tuontikentästä
langchain.promptsista tuo ChatPromptTemplate
Tuo PydanticOutputParser osoitteesta langchain.output_parsers
pydantic import BaseModelista
pydantic tuontivalidaattorista
langchain.chat_modelsista tuo ChatOpenAI
Tuo OpenAI osoitteesta langchain.llms
kirjoittamalla tuontiluettelo

Vaihe 3: Luo tietorakenne
Tuotoksen rakenteen rakentaminen on suurien kielimallien lähtöjäsenninten elintärkeä sovellus. Ennen kuin pääset mallien tietorakenteeseen, on määritettävä mallin nimi, jota käytämme strukturoidun tulosteen saamiseksi lähtöjäsentimistä:

mallin_nimi = 'text-davinci-003'
lämpötila = 0,0
malli = OpenAI ( mallinimi =mallin_nimi, lämpötila = lämpötila )

Käytä nyt BaseModelin sisältävää Joke-luokkaa tulosteen rakenteen määrittämiseen saadaksesi vitsin mallista. Sen jälkeen käyttäjä voi lisätä mukautetun validointilogiikan helposti pydantisen luokan avulla, joka voi pyytää käyttäjää asettamaan paremmin muotoillun kyselyn/kehotteen:

luokan vitsi ( Perusmalli ) :
setup: str = Kenttä ( kuvaus = 'kysely näyttää vitsi' )
punchline: str = Kenttä ( kuvaus = 'vastaa kyselyyn vitsillä' )
#Kyselyn looginen validointi, koska mallin on ymmärrettävä se oikein
@ validaattori ( 'perustaa' )
def question_ends_with_question_mark ( cls, kenttä ) :
jos ala [ - 1 ] ! = '?' :
nosta ValueError ( 'Huonosti muotoiltu kysymys!' )
palata ala

Vaihe 4: Kehotemallin asettaminen
Määritä jäsennysmuuttuja, joka sisältää PydanticOutputParser()-menetelmän ja sen parametrit:

parser = PydanticOutputParser ( pydantinen_objekti = Vitsi )

Kun olet määrittänyt jäsentimen, määritä kehotemuuttuja käyttämällä PromptTemplate()-metodia kyselyn/kehotteen rakenteen kanssa:

kehote = PromptTemplate (
sapluuna = 'Vastaa käyttäjän kyselyyn. \n {format_instructions} \n {kysely} \n ' ,
input_variables = [ 'kysely' ] ,
osittaiset_muuttujat = { 'muoto_ohjeet' : parser.get_format_instructions ( ) }
)

Vaihe 5: Testaa Output Parser
Kun olet määrittänyt kaikki vaatimukset, luo muuttuja, joka määritetään kyselyllä, ja kutsu sitten format_prompt()-metodi:

vitsi_kysely = 'Kerro minulle vitsi'
_input = kehote.format_prompt ( kysely =vitsi_kysely )

Kutsu nyt malli()-funktio määrittääksesi tulosmuuttujan:

lähtö = malli ( _input.to_string ( ) )

Viimeistele testaus kutsumalla parser()-menetelmää lähtömuuttujan parametrina:

parser.parse ( ulostulo )

Siinä on kyse LangChainin tulosten jäsentimen käyttöprosessista.

Johtopäätös

Jos haluat käyttää lähtöjäsennintä LangChainissa, asenna moduulit ja määritä OpenAI-ympäristö API-avaimella. Tämän jälkeen määritä malli ja määritä sitten lähdön tietorakenne käyttäjän toimittaman kyselyn loogisen validoinnin avulla. Kun tietorakenne on määritetty, aseta vain kehotemalli ja testaa sitten tulosten jäsentäjä saadaksesi tuloksen mallista. Tämä opas on havainnollistanut tulosten jäsentimen käyttöä LangChain-kehyksessä.