Hugging Face Inference API Pythonilla

Hugging Face Inference Api Pythonilla



Hugging Face tunnistetaan avoimen lähdekoodin tekoälyn yhteisöksi, ja se koostuu laajasta valikoimasta avoimen lähdekoodin kehyksiä, työkaluja, arkkitehtuureja ja malleja tekoälyn ja luonnollisen kielen käsittelymallien rakentamiseen ja vuorovaikutukseen. Hugging Face tarjoaa sovelluksella ohjelmoitavan häiriön nimellä 'Inference API'. Tätä päättelysovellusliittymää käytetään koneoppimisen ja tekoälymallien käyttöönotossa päätöksentekoon ja reaaliaikaisiin ennusteisiin. Tämän API:n avulla kehittäjät voivat käyttää esikoulutettuja NLP-malleja ennusteiden antamiseen uudesta tietojoukosta.

Syntaksi:

Hugging Facen tarjoamia palveluita on useita, mutta yksi sen laajalti käytetyistä palveluista on 'API'. API mahdollistaa valmiiksi koulutetun tekoälyn ja suurten kielimallien vuorovaikutuksen eri sovelluksissa. Hugging Face tarjoaa sovellusliittymiä eri malleille, jotka on lueteltu seuraavassa:

  • Tekstin sukupolven mallit
  • Käännösmallit
  • Malleja tunteiden analysointiin
  • Mallit virtuaalisten agenttien (älykkäiden chatbottien) kehittämiseen
  • Luokittelu ja regressiomallit

Katsotaanpa nyt tapa saada henkilökohtainen päättelysovellusliittymämme Hugging Facesta. Tehdäksemme niin meidän on ensin rekisteröitävä itsemme Hugging Facen viralliselle verkkosivustolle. Liity tähän Hugging Face -yhteisöön kirjautumalla tälle verkkosivustolle kirjautumistiedoillasi.









Kun saamme tilin Hugging Faceen, meidän on nyt pyydettävä päättelysovellusliittymää. Pyydä API:ta siirtymällä tilin asetuksiin ja valitsemalla 'Pääsytunnus'. Uusi ikkuna avautuu. Valitse 'New Token' -vaihtoehto ja luo sitten tunnus antamalla ensin tunnuksen nimi ja sen rooli 'WRITE'. Uusi tunnus luodaan. Nyt meidän on tallennettava tämä merkki. Tähän asti meillä on halaavan kasvomme merkki. Seuraavassa esimerkissä näemme, kuinka voimme käyttää tätä merkkiä päätelmä-API:n saamiseksi.







Esimerkki 1: Prototyypin luominen Hugging Face Inference API:lla

Toistaiseksi olemme keskustelleet menetelmästä Hugging Facen käytön aloittamiseksi ja alustimme Hugging Facen tunnuksen. Tämä esimerkki näyttää, kuinka voimme käyttää tätä äskettäin luotua merkkiä saadaksemme päättelysovellusliittymän tietylle mallille (koneoppiminen) ja tehdä ennusteita sen avulla. Valitse Hugging Facen kotisivulta mikä tahansa malli, jonka kanssa haluat työskennellä ja joka liittyy ongelmaasi. Oletetaan, että haluamme työskennellä tekstiluokituksen tai tunteiden analyysimallin kanssa, kuten seuraavassa näiden mallien luettelon katkelmassa näkyy:



Valitsemme mielialan analyysimallin tästä mallista.

Mallin valinnan jälkeen sen mallikortti tulee näkyviin. Tämä mallikortti sisältää tietoja mallin koulutustiedoista ja mallin ominaisuuksista. Mallimme on roBERTa-base, joka on koulutettu 58 miljoonan twiitin avulla tunteiden analysointiin. Tässä mallissa on kolme pääluokkamerkintää ja se luokittelee jokaisen syötteen asiaankuuluviin luokkatunnisteisiin.

Mallin valinnan jälkeen, jos valitsemme ikkunan oikeassa yläkulmassa olevan käyttöönottopainikkeen, se avaa pudotusvalikon. Tästä valikosta meidän on valittava 'Inference API' -vaihtoehto.

Päätelmä-API tarjoaa sitten täydellisen selityksen siitä, kuinka tätä tiettyä mallia käytetään tämän päätelmän kanssa, ja antaa meidän luoda nopeasti prototyypin tekoälymallille. Päätelmä-API-ikkuna näyttää koodin, joka on kirjoitettu Pythonin komentosarjassa.

Kopioimme tämän koodin ja suoritamme tämän koodin missä tahansa Python IDE:ssä. Käytämme tähän Google Colabia. Kun tämä koodi on suoritettu Python-kuoressa, se palauttaa tulosteen, joka tulee tuloksen ja otsikon ennusteen mukana. Tämä nimike ja pisteet annetaan syötteemme mukaan, koska valitsimme 'teksti-sentimenttianalyysi' -mallin. Sitten mallille antamamme syöte on positiivinen lause ja malli on esiopetettu kolmelle tarraluokalle: nimiö 0 tarkoittaa negatiivista, etiketti1 tarkoittaa neutraalia ja nimiö 2 on asetettu positiiviseksi. Koska syötteemme on positiivinen lause, mallin pistemäärän ennuste on enemmän kuin kaksi muuta etikettiä, mikä tarkoittaa, että malli ennusti lauseen 'positiiviseksi'.

tuonti pyynnöt

API_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
otsikot = { 'Valtuutus' : 'Kantaja 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' }

def kysely ( hyötykuorma ) :
vastaus = pyynnöt. lähettää ( API_URL , otsikot = otsikot , json = hyötykuorma )
palata vastaus. json ( )

ulostulo = kysely ( {
'sisääntulot' : 'Minusta tuntuu hyvältä, kun olet kanssani' ,
} )

Lähtö:

Esimerkki 2: Yhteenvetomalli päättelyn kautta

Noudatamme samoja vaiheita, jotka on esitetty edellisessä esimerkissä, ja prototyyppimme yhteenvetomalliväylän käyttämällä sen Hugging Facen päättelysovellusliittymää. Yhteenvetomalli on esikoulutettu malli, joka tiivistää koko tekstin, jonka annamme sille syötteeksi. Siirry Hugging Face -tilille, napsauta mallia ylävalikkopalkista ja valitse sitten yhteenvetoon liittyvä malli, valitse se ja lue sen mallikortti huolellisesti.

Valitsemamme malli on valmiiksi koulutettu BART-malli ja se on hienosäädetty tietojoukkoon CNN mail mail. BART on malli, joka muistuttaa eniten BERT-mallia, jossa on kooderi ja dekooderi. Tämä malli on tehokas, kun se on hienosäädetty ymmärtämiseen, yhteenvetoon, kääntämiseen ja tekstin luomiseen.

Valitse sitten 'käyttöönotto'-painike oikeasta yläkulmasta ja valitse päättelysovellusliittymä avattavasta valikosta. Päättelysovellusliittymä avaa toisen ikkunan, joka sisältää koodin ja ohjeet tämän mallin käyttämiseen tämän päätelmän kanssa.

Kopioi tämä koodi ja suorita se Python-kuoressa.

Malli palauttaa lähdön, joka on yhteenveto sille syöttämästämme syötteestä.

Johtopäätös

Työskentelimme Hugging Face Inference -sovellusliittymän parissa ja opimme, kuinka voimme käyttää tämän sovelluksen ohjelmoitavaa käyttöliittymää työskennelläksesi esikoulutettujen kielimallien kanssa. Kaksi esimerkkiä, jotka teimme artikkelissa, perustuivat pääasiassa NLP-malleihin. Hugging Face API voi tehdä ihmeitä, jos haluamme kehittää nopean prototyypin tarjoamalla tekoälymallien nopean integroinnin sovelluksiimme. Lyhyesti sanottuna Hugging Face tarjoaa ratkaisuja kaikkiin ongelmiisi vahvistusoppimisesta tietokonenäköön.