Yksittäiset tiedot tallennetaan muodossa ' Tensorit ' PyTorchissa ja ' kaltevuudet ” tensorit lasketaan käyttämällä taaksepäin etenemistä syväoppimismallin harjoitussilmukassa. Termi ' skaalaamaton ” tarkoittaa, että data on raakaa eikä siihen liity esikäsittelyä tai optimointia. Tensorin skaalaamaton gradientti tarjoaa määritetyn häviöfunktion muutoksen todellisen arvon.
Tässä blogissa keskustelemme Tensorin skaalaamattoman gradientin laskemisesta PyTorchissa.
Mikä on skaalaamaton tensorin gradientti PyTorchissa?
Tensorit ovat moniulotteisia taulukoita, jotka sisältävät dataa ja joita voidaan käyttää PyTorchin GPU:illa. Tensoreita, jotka sisältävät raakadataa tietojoukosta ilman esikäsittelyä, muunnoksia tai optimointeja, kutsutaan skaalaamattomiksi tensoreiksi. Kuitenkin ' Skaalaamaton gradientti ” eroaa skaalaamattomasta tensorista, ja on varottava sekoittamasta näitä kahta. Tensorin skaalaamaton gradientti lasketaan suhteessa valittuun häviöfunktioon, eikä siinä ole muita optimointeja tai skaalauksia.
Kuinka laskea tensorin skaalaamaton gradientti PyTorchissa?
Tensorin skaalaamaton gradientti on valittua häviöfunktiota koskevien syötetietojen muutosnopeuden todellinen arvo. Raaka gradienttidata on tärkeä mallin käyttäytymisen ja sen etenemisen ymmärtämiseksi harjoitussilmukan aikana.
Seuraa alla annettuja vaiheita oppiaksesi laskemaan tensorin skaalaamaton gradientti PyTorchissa:
Vaihe 1: Aloita projekti määrittämällä IDE
Google Colaboratory IDE on yksi parhaista vaihtoehdoista PyTorch-projektien kehittämiseen, koska se tarjoaa ilmaisen pääsyn grafiikkasuoriin nopeuttaakseen käsittelyä. Mene Colabiin verkkosivusto ja napsauta ' Uusi muistikirja ”vaihtoehto aloittaa työskentely:
Vaihe 2: Tuo Essential Torch Library
Kaikki PyTorch-kehyksen toiminnot sisältyvät ' Soihtu ' kirjasto. Jokainen PyTorch-projekti alkaa asentamalla ja tuomalla tämä kirjasto:
!pip install taskulampputuonti taskulamppu
Yllä oleva koodi toimii seuraavasti:
- “! pip ” on Pythonin asennuspaketti, jota käytetään kirjastojen asentamiseen projekteihin.
- ' tuonti ” -komentoa käytetään asennettujen kirjastojen kutsumiseen projektiin.
- Tämä projekti tarvitsee vain ' taskulamppu ' kirjasto:
Vaihe 3: Määritä PyTorch-tensori gradientin avulla
Käytä ' taskulamppu.tensori ()' menetelmä tensorin määrittämiseksi gradientilla ' vaatii_grad=Tosi 'menetelmä:
A = taskulamppu.tensor([5.0], vaatii_grad=True)Vaihe 4: Määritä yksinkertainen häviöfunktio
Häviöfunktio määritellään käyttämällä yksinkertaista aritmeettista yhtälöä kuvan mukaisesti:
häviöfunktio = A*5 
Vaihe 5: Laske gradientti ja tulosta tulosteeseen
Käytä ' taaksepäin ()' menetelmä skaalaamattoman gradientin laskemiseksi kuvan mukaisesti:
loss_function.backward()unscaled_grad = A.grad
print('PyTorch Tensorin skaalaamaton gradientti: ', skaalaamaton_grad)
Yllä oleva koodi toimii seuraavasti:
- Käytä ' taaksepäin ()' -menetelmä skaalaamattoman gradientin laskemiseksi taaksepäin etenemisen kautta.
- Määritä ' A.grad ' kohtaan ' skaalaamaton_grad ”muuttuja.
- Käytä lopuksi ' Tulosta ()' -menetelmä skaalaamattoman gradientin tulosteen näyttämiseksi:
Huomautus : Pääset käyttämään Colab-muistikirjaamme tästä linkki .
Pro-Tip
Tensorien skaalaamaton gradientti voi näyttää syötetietojen tarkan suhteen PyTorch-kehyksen hermoverkon häviöfunktioon. Raaka muokkaamaton gradientti näyttää, kuinka molemmat arvot liittyvät systemaattisesti.
Menestys! Olemme juuri osoittaneet, kuinka lasketaan tensorin skaalaamaton gradientti PyTorchissa.
Johtopäätös
Laske tensorin skaalaamaton gradientti PyTorchissa määrittämällä ensin tensori ja sitten käyttämällä backward()-menetelmää gradientin etsimiseen. Tämä osoittaa, kuinka syväoppimismalli yhdistää syöttötiedot määritettyyn häviöfunktioon. Tässä blogissa olemme antaneet vaiheittaisen oppaan tensorin skaalaamattoman gradientin laskemiseen PyTorchissa.