Syntaksi:
Kuten tunnemme ChatGPT:n, tiedämme, että tämä alusta on Open AI -yhteisön omistama ja se tarjoaa työkaluja, arkkitehtuureja, API:ita ja useita kehyksiä, joita voimme hyödyntää sovelluksiemme ja luonnollisen kielen käsittelymallien käyttöönotossa. Open AI tarjoaa sovellusliittymiä, joiden kautta voimme käyttää mitä tahansa valmiiksi koulutettua AI- ja NLP-malleja Open AI -alustalta ja saada ne toimimaan sovelluksissamme, esimerkiksi antamaan ennusteita reaaliaikaisista tiedoista. Samoin GPT4All tarjoaa käyttäjilleen mahdollisuuden integroida valmiiksi koulutetut tekoälymallinsa eri sovelluksiin.
GPT4All-malli on koulutettu rajoitetulle datalle verrattuna ChatGPT:hen. Sillä on myös joitain suorituskykyrajoituksiaan verrattuna ChatGPT:hen, mutta sen avulla käyttäjä voi käyttää yksityistä GPT:tä paikallisessa laitteistossaan, eikä se vaadi verkkoyhteyksiä. Tämän artikkelin avulla saamme tietää kuinka voimme käyttää GPT4All-malleja Python-skriptissä, koska GPT4Allilla on viralliset sidokset Pythonin kanssa, mikä tarkoittaa, että voimme käyttää ja integroida GPT4All-malleja myös Python-skriptin kautta.
Python IDE:n GPT4All:n asentaminen vaatii online-komennon. Sitten voimme integroida niin monta tekoälymallia kuin sovelluksemme. Komento asentaa tämä GPT4All Pythonissa on seuraavanlainen:
$ pip asennus gpt4all
Esimerkki 1:
Tämän esimerkin aloittamiseksi meidän on ladattava ja asennettava Python järjestelmiimme. Pythonin suositellut versiot ovat 'versio 3.7' tai ne, jotka tulivat tämän version jälkeen. Toinen tapa työskennellä Pythonin kanssa, jotta vältytään pitkältä 'Python-asennusten' asentamiselta järjestelmiimme, on käyttää 'Google Colabia', joka on Pythonin pilvipohjainen ympäristö. Voimme käyttää tätä ympäristöä millä tahansa verkkoselaimella ja rakentaa tekoäly- ja koneoppimismalleja. Tässä toteuttamamme esimerkit suoritetaan Google Colabissa.
Tämä esimerkki kattaa menetelmän GPT4All:n asentamiseksi Pythonissa ja sen esikoulutettujen mallien käyttämisen. Aloitamme asentamalla ensin GPT4All. Tätä varten suoritetaan aiemmin mainitsemamme komento. Kun komento suoritetaan, GPT4All sekä sen paketit ja puitteet ladataan ja asennetaan.
Nyt mennään eteenpäin. Tuomme GPT4All:n GPT4All:sta. Tämä lisää projektiin kaikki valmiiksi koulutetut mallit GPT4Allista. Nyt voimme käyttää mitä tahansa yksittäistä mallia ja tehdä sen ennusteet sovelluksellemme. Kun tuomme GPT4All-paketin, on nyt aika kutsua tämä toiminto ja käyttää GPT4All-mallia, joka antaa tuloksen 'chatin loppuunsaattamiseksi'.
Toisin sanoen, jos kysymme jotain kyseiseltä mallilta syötteessä, se palauttaa sen ulostulossa. Tässä käyttämämme malli on 'ggml-gpt4all-j-v1.3-groovy'. Nämä mallit on jo tallennettu GPT4All-välimuistiin. Saat nämä mallit tästä linkistä https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ' manuaalista lataamista varten. Jos malli on jo GPT4All-välimuistissa, kutsumme vain mallin nimeä ja määritämme sen syöttöparametreiksi 'GPT4All()'-funktiolle. Jos lataamme sen manuaalisesti onnistuneesti, välitämme polun kansioon, jossa malli sijaitsee. Koska tämä malli on tarkoitettu viestien viimeistelyyn, tämän mallin syntaksi annetaan seuraavasti:
$ Chat_completion (viestit)Viestit ovat sanakirjaluettelo, ja jokaisen sanakirjan tulee sisältää 'rooliavain', jossa on käyttäjän, järjestelmän tai avustajan arvo, sekä 'avain'-sisältö, jonka arvo on merkkijonona. Tässä esimerkissä määritämme sisällön 'nimeä kolme väriä' ja rooliavaimen 'käyttäjä'.
$malli= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Nimeä 3 kukkaa'}]
Tämän määrityksen jälkeen kutsumme mallin kanssa chat_completion()-funktiota. Tämän koodi näkyy seuraavassa ulostulossa:
$ !pip asennus gpt4allgpt4allista tuo GPT4All
malli = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'role': 'user', 'content': 'Nimeä kolme väriä'}]
model.chat_completion(viestit)
Tämän esimerkin suorittamisen jälkeen malli palauttaa kolme väriä vastauksena syötteeseen.
Esimerkki 2:
Käsittelemme toisen esimerkin, jossa löydämme toisen menetelmän käyttää GPT4All:a Pythonissa. Tämä voidaan tehdä käyttämällä Pythonin virallisia sidoksia, jotka tarjoaa 'Nomic', joka on avoimen lähdekoodin tekoälyyhteisö, ja se suorittaa GPT4All:n. Käyttämällä seuraavaa komentoa integroimme 'nomic' Python-konsoliimme:
$ pip asennus nomicKun tämä on asennettu, tuomme GPT4All:n tiedostosta 'nomic.gpt4all'. Kun GPT4All on tuotu, alustamme GPT4All:n 'open()'-funktiolla. Sitten kutsumme 'prompt()'-funktiota ja välitämme kehotteen tälle funktiolle. Sitten kehotemalliin syötteeksi antamamme kehotteen perusteella luodaan kehotevastaus.
!pip install nomicosoitteesta nomic.gpt4all tuo GPT4All
# Alusta GPT4All-malli
aloittaa = GPT4All()
inicia.open()
# Luodaan vastaus kehotteen perusteella
model_response = inici.prompt('kirjoita lyhyt tarina tietokoneesta)
# luodun vastauksen näyttäminen
tulosta (mallivastaus)
Tulos näyttää nopean vastauksen mallista, jonka loimme käyttämällä Pythonissa esikoulutettua GPT4All-mallia. Jos haluamme tietää enemmän malleista ja siitä, kuinka voimme käyttää näitä malleja vastausten luomiseen, tai yksinkertaisin sanoin, jos haluamme saada tietoa syntaksista näiden mallien vastausten luomiseksi, voimme ottaa lisäapua GPT4Kaikki teknisen dokumentaation tiedot.
Johtopäätös
GPT4All pyrkii edelleen saavuttamaan suoritustarkkuuden. Sitä ylläpitää nomic AI -alusta, jonka tavoitteena on tarjota käyttäjilleen keinotekoisesti älykkäitä chatbotteja kuluttajatason prosessoreilla, koska GPT4All toimii ilman verkkoyhteyttä ja GPU:ita. Tämä artikkeli opastaa meitä käyttämään PyGPT4All:a taitavasti Python-ympäristössä ja luomaan vuorovaikutuksen sovelluksiemme ja valmiiksi koulutettujen GPT4All AI -mallien välille. Käsittelimme tässä oppaassa kahta erilaista tapaa asentaa GPT4All Pythonissa.