Kuinka käyttää keskustelupuskuriikkunaa LangChainissa?
Keskustelupuskuri-ikkunaa käytetään pitämään keskustelun viimeisimmät viestit muistissa uusimman kontekstin saamiseksi. Se käyttää K:n arvoa viestien tai merkkijonojen tallentamiseen muistiin LangChain-kehyksen avulla.
Jos haluat oppia käyttämään keskustelupuskuriikkunaa LangChainissa, käy läpi seuraava opas:
Vaihe 1: Asenna moduulit
Aloita keskustelupuskuriikkunan käyttö asentamalla LangChain-moduuli, jossa on tarvittavat riippuvuudet keskustelumallien rakentamiseen:
pip asennus langchain
Asenna sen jälkeen OpenAI-moduuli, jolla voidaan rakentaa suuria kielimalleja LangChainissa:
pip install openai
Nyt, määritä OpenAI-ympäristö LLM-ketjujen rakentaminen OpenAI-tilin API-avaimella:
tuonti sinä
tuonti getpass
sinä . suunnilleen [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API Key:' )
Vaihe 2: Keskustelupuskurin ikkunan muistin käyttäminen
Jos haluat käyttää keskustelupuskuriikkunan muistia LangChainissa, tuo ConversationBufferWindowMemory kirjasto:
alkaen langchain. muisti tuonti ConversationBufferWindowMemoryMääritä muisti käyttämällä ConversationBufferWindowMemory ()-menetelmä, jonka argumentti on k:n arvo. K:n arvoa käytetään säilyttämään keskustelun viimeisimmät viestit ja määrittämään sitten harjoitustiedot syöte- ja lähtömuuttujien avulla:
muisti = ConversationBufferWindowMemory ( k = 1 )muisti. save_context ( { 'syöttö' : 'Hei' } , { 'lähtö' : 'Miten menee' } )
muisti. save_context ( { 'syöttö' : 'Minulle kuuluu hyvää Entä sinulle' } , { 'lähtö' : 'ei paljon' } )
Testaa muisti soittamalla numeroon load_memory_variables () tapa aloittaa keskustelu:
muisti. load_memory_variables ( { } ) 
Saat keskustelun historian määrittämällä ConversationBufferWindowMemory()-funktion käyttämällä return_messages Perustelu:
muisti = ConversationBufferWindowMemory ( k = 1 , return_messages = Totta )muisti. save_context ( { 'syöttö' : 'Hei' } , { 'lähtö' : 'miten menee' } )
muisti. save_context ( { 'syöttö' : 'en paljon sinä' } , { 'lähtö' : 'ei paljon' } )
Soita nyt muistiin käyttämällä load_memory_variables () tapa saada vastaus keskustelun historiaan:
muisti. load_memory_variables ( { } ) 
Vaihe 3: Puskuriikkunan käyttäminen ketjussa
Rakenna ketju käyttämällä OpenAI ja Keskusteluketju kirjastot ja määritä sitten puskurimuisti tallentamaan keskustelun viimeisimmät viestit:
alkaen langchain. ketjut tuonti Keskusteluketjualkaen langchain. llms tuonti OpenAI
#keskustelun yhteenveto useilla parametreilla
keskustelu_yhteenvedon kanssa = Keskusteluketju (
llm = OpenAI ( lämpötila = 0 ) ,
#building muistipuskuri käyttää sen funktiota arvolla k viimeaikaisten viestien tallentamiseen
muisti = ConversationBufferWindowMemory ( k = 2 ) ,
#configure monisanainen muuttuja saadaksesi luettavamman tulosteen
monisanainen = Totta
)
keskustelu_yhteenvedon kanssa. ennustaa ( syöttö = 'Hei miten menee' )
Jatka nyt keskustelua esittämällä mallin tuottoon liittyvä kysymys:
keskustelu_yhteenvedon kanssa. ennustaa ( syöttö = 'Mikä heidän ongelmansa on' ) 
Malli on määritetty tallentamaan vain yksi aikaisempi viesti, jota voidaan käyttää kontekstina:
keskustelu_yhteenvedon kanssa. ennustaa ( syöttö = 'Meneekö hyvin' ) 
Pyydä ratkaisua ongelmiin ja tulostusrakenne jatkaa puskuriikkunan liukumista poistamalla aikaisemmat viestit:
keskustelu_yhteenvedon kanssa. ennustaa ( syöttö = 'Mikä on ratkaisu' ) 
Siinä on kaikki keskustelupuskurin LangChain-ikkunoiden käyttöprosessista.
Johtopäätös
Jos haluat käyttää keskustelupuskuriikkunan muistia LangChainissa, asenna moduulit ja määritä ympäristö OpenAI:n API-avaimella. Rakenna sen jälkeen puskurimuisti käyttämällä k:n arvoa, jotta keskustelun viimeisimmät viestit säilyvät kontekstin säilyttämiseksi. Puskurimuistia voidaan käyttää myös ketjujen kanssa keskustelun käynnistämiseen LLM:n tai ketjun kanssa. Tässä oppaassa on käsitelty keskustelupuskuriikkunan käyttöä LangChainissa.