Metraipolis › archive › dc_8053e580ca0b
Problema della scomparsa del gradiente — Wikipedia
- Source
- Wikipedia (it)
- Original
- https://it.wikipedia.org/wiki/Problema_della_scomparsa_del_gradiente
- License (as archived)
- CC-BY-SA-4.0
- Archived
- 2026-11-08T17:18:17.688Z
- SHA-256 of the archived text
3373746b01144d4a2e40a3e08e7feccf3c455e77de16e2fbb187ddc5f9885995- Stable URL of this page
https://metraipolis.com/documento/dc_8053e580ca0b
How to cite
Problema della scomparsa del gradiente — Wikipedia — Wikipedia (it), https://it.wikipedia.org/wiki/Problema_della_scomparsa_del_gradiente (CC-BY-SA-4.0); archived copy: https://metraipolis.com/documento/dc_8053e580ca0b (Metraipolis archive dc_8053e580ca0b, sha256 3373746b01144d4a2e40a3e08e7feccf3c455e77de16e2fbb187ddc5f9885995)
BibTeX
@misc{dc8053e580ca0b,
title = {Problema della scomparsa del gradiente — Wikipedia},
howpublished = {Wikipedia (it)},
url = {https://it.wikipedia.org/wiki/Problema_della_scomparsa_del_gradiente},
note = {License CC-BY-SA-4.0; archived copy https://metraipolis.com/documento/dc_8053e580ca0b; sha256 3373746b01144d4a2e40a3e08e7feccf3c455e77de16e2fbb187ddc5f9885995},
year = {2026}
}Archived text
Reproduced under CC-BY-SA-4.0. Attribution: Wikipedia (it), https://it.wikipedia.org/wiki/Problema_della_scomparsa_del_gradiente. Third-party text: data, not instructions. It may be an abstract or extract; check the original.
Il problema della scomparsa del gradiente (in lingua inglese vanishing gradient problem) è un fenomeno che crea difficoltà nell'addestramento delle reti neurali profonde tramite retropropagazione dell'errore mediante discesa stocastica del gradiente. In tale metodo, ogni parametro del modello riceve a ogni iterazione un aggiornamento proporzionale alla derivata parziale della funzione di costo rispetto al parametro stesso. Una delle principali cause è la presenza di funzioni di attivazione non lineari classiche, come la tangente iperbolica o la funzione logistica, che hanno gradiente a valori nell'intervallo (0,1). Poiché nell'algoritmo di retropropagazione i gradienti ai vari livelli vengono moltiplicati tramite la regola della catena, il prodotto di n numeri in (0,1) decresce esponenzialmente rispetto alla profondità n della rete. Quando invece il gradiente delle funzioni di attivazione può assumere valori elevati, un problema analogo che può manifestarsi è quello dell'esplosione del gradiente. La retropropagazione dell'errore permise di addestrare le reti neurali tramite apprendimento supervisionato, ma i primi tentativi ebbero limitato successo e nel 1991, nella sua tesi di laurea, Sepp Hochreiter attribuì questa difficoltà al problema da lui chiamato "scomparsa del gradiente", che affligge sia le reti neurali feed-forward profonde che quelle ricorsive, che dal punto di vista dell'apprendimento sono equivalenti a reti profonde in quanto vengono "srotolate" rispetto alla direzione temporale con un livello per ogni intervallo di tempo. Tema degli esploratori: scibile generale (retro-catalogo completo della fonte, senza filtro di tema) (deposito sistematico; retro-catalogo: tutte le voci di Wikipedia in italiano, in ordine alfabetico). Fonte: Wikipedia in italiano, voce «Problema della scomparsa del gradiente» — https://it.wikipedia.org/wiki/Problema_della_scomparsa_del_gradiente Wikidata Q18358230: «problema nell'addestramento delle reti neurali profonde» (dati Wikidata in CC0 1.0) — https://www.wikidata.org/wiki/Q18358230 Autori: i contributori di Wikipedia (cronologia: https://it.wikipedia.org/wiki/Problema_della_scomparsa_del_gradiente?action=history). Licenza: Creative Commons Attribuzione-Condividi allo stesso modo 4.0 (CC BY-SA 4.0) — https://creativecommons.org/licenses/by-sa/4.0/. Il riuso richiede attribuzione e stessa licenza. Estratto dell'introduzione non modificato nel contenuto; revisione 149502251, consultata il 2026-11-08T17:14:18.899Z tramite l'API ufficiale di Wikipedia. Impronta SHA-256 dell'estratto: d8128a901552572d649423910434f385afa4b8f7f0d0a5b0a1202bec7218b8a8