Kuinka ajaa LLMChaineja LangChainissa?

LangChain on kehys, jonka avulla kehittäjät voivat rakentaa suuria kielimalleja tai chat-malleja, joita ihmiset voivat käyttää tiedon poimimiseen. Näitä malleja voidaan käyttää vuorovaikutukseen luonnollisilla kielillä, kun olet ymmärtänyt komennot luoda tekstit vastaavasti. LLM:t tai chatbotit käyttävät ketjuja ollakseen vuorovaikutuksessa ihmisten kanssa tallentamalla aikaisemmat viestit havaintoja saadakseen keskustelun kontekstin.

Tämä opas havainnollistaa LLMChains-ajon prosessia LangChainissa.

Kuinka ajaa LLMChaineja LangChainissa?

LangChain tarjoaa ominaisuuksia tai riippuvuuksia LLMChainien rakentamiseen käyttämällä LLM:itä/Chatbotteja ja kehotemalleja. Jos haluat oppia LLMChainien rakentamis- ja käyttöprosessin LangChainissa, seuraa yksinkertaisesti seuraavaa vaiheittaista ohjetta:

Vaihe 1: Asenna paketit

Aloita ensin prosessi asentamalla LangChain-moduuli saadaksesi sen riippuvuudet LLMChainien rakentamiseen ja käyttämiseen:

pip asennus langchain

Asenna OpenAI-kehys pip-komennolla saadaksesi kirjastot käyttämään OpenAI()-funktiota LLM:ien rakentamiseen:

pip install openai

Moduulien asennuksen jälkeen yksinkertaisesti perustaa ympäristöä muuttujat OpenAI-tilin API-avaimella:

tuonti sinä

tuonti getpass

sinä . suunnilleen [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API Key:' )

Vaihe 2: Tuo kirjastot

Kun asennus on valmis ja kaikki tarvittavat paketit on asennettu, tuo tarvittavat kirjastot kehotemallin rakentamista varten. Sen jälkeen rakenna LLM käyttämällä OpenAI()-menetelmää ja määritä LLMChain käyttämällä LLM:itä ja kehotemallia:

alkaen langchain tuonti PromptTemplate

alkaen langchain tuonti OpenAI

alkaen langchain tuonti LLMChain

kehote_malli = 'Annako minulle hyvä nimi yritykselle, joka valmistaa {product}?'

llm = OpenAI ( lämpötila = 0 )

llm_chain = LLMChain (

llm = llm ,

kehote = PromptTemplate. from_template ( kehote_malli )

)

llm_chain ( 'värikkäitä vaatteita' )

Vaihe 3: Ajoketjut

Hanki syöteluettelo, joka sisältää erilaisia yrityksen tuottamia tuotteita ja näytä luettelo näytöllä ajamalla ketjua:

input_list = [
{ 'tuote' : 'sukat' } ,
{ 'tuote' : 'tietokone' } ,
{ 'tuote' : 'kengät' }
]

llm_chain. Käytä ( input_list )

Suorita generate()-menetelmä käyttämällä input_list LLMChainsilla saadaksesi mallin luomaan keskusteluun liittyvän lähdön:

llm_chain. Tuottaa ( input_list )

Vaihe 4: Yhden tulon käyttäminen

Lisää toinen tuote ajaaksesi LLMChains-ketjuja käyttämällä vain yhtä syötettä ja ennusta sitten LLMChain luomaan lähdön:

llm_chain. ennustaa ( tuote = 'värikkäät sukat' )

Vaihe 5: Useiden tulojen käyttäminen

Luo nyt malli useiden syötteiden käyttämiseksi komennon antamiseksi mallille ennen ketjun suorittamista:

sapluuna = '''Kerro minulle {adjektiivi} vitsi aiheesta {subject}.'''
kehote = PromptTemplate ( sapluuna = sapluuna , input_variables = [ 'adjektiivi' , 'aihe' ] )
llm_chain = LLMChain ( kehote = kehote , llm = OpenAI ( lämpötila = 0 ) )

llm_chain. ennustaa ( adjektiivi = 'surullinen' , aihe = 'ankat' )

Vaihe 6: Output Parserin käyttäminen

Tämä vaihe käyttää tulosten jäsennysmenetelmää LLMChainin suorittamiseen saadakseen tulosteen kehotteen perusteella:

alkaen langchain. output_parsers tuonti CommaSeparatedListOutputParser

output_parser = CommaSeparatedListOutputParser ( )

sapluuna = '''Luettelo kaikki värit sateenkaaressa'''

kehote = PromptTemplate ( sapluuna = sapluuna , input_variables = [ ] , output_parser = output_parser )

llm_chain = LLMChain ( kehote = kehote , llm = llm )

llm_chain. ennustaa ( )

Parse()-menetelmän käyttäminen tulosteen saamiseksi luo pilkuilla erotetun luettelon kaikista sateenkaaren väreistä:

llm_chain. ennustaa_ja_jäsentä ( )

Vaihe 7: Alustus merkkijonoista

Tämä vaihe selittää prosessin, jolla merkkijonoa käytetään kehotteena LLMChainin suorittamiseen käyttämällä LLM-mallia ja -mallia:

sapluuna = '''Kerro minulle {adjektiivi} vitsi aiheesta {subject}'''

llm_chain = LLMChain. from_string ( llm = llm , sapluuna = sapluuna )

Anna muuttujien arvot merkkijonokehotteessa saadaksesi tulos mallista suorittamalla LLMChain:

llm_chain. ennustaa ( adjektiivi = 'surullinen' , aihe = 'ankat' )

Siinä on kyse LLMChainien ajamisesta LangChain-kehyksen avulla.

Johtopäätös

Luodaksesi ja käyttääksesi LLMChaineja LangChainissa, asenna edellytykset, kuten paketit, ja määritä ympäristö OpenAI:n API-avaimella. Tuo sen jälkeen tarvittavat kirjastot LLMChainin suorittamiseen käytettävän kehotemallin ja mallin määrittämistä varten LangChain-riippuvuuksien avulla. Käyttäjä voi käyttää lähtöjäsentimiä ja merkkijonokomentoja LLMChainien suorittamiseen oppaan osoittamalla tavalla. Tässä oppaassa on käsitelty LLMChainien koko prosessia LangChainissa.

Kuinka ajaa LLMChaineja LangChainissa?