Come suggerisce il nome, la backpropagation è un file algoritmo che a sua volta propaga gli errori dai nodi di output ai nodi di input. Pertanto, è semplicemente indicato come 'propagazione all'indietro di errori'. Questo approccio è stato sviluppato dall'analisi di un cervello umano. Riconoscimento vocale, riconoscimento dei caratteri, verifica della firma, riconoscimento del volto umano sono alcune delle applicazioni interessanti delle reti neurali. Le reti neurali passano attraverso l'apprendimento supervisionato, il vettore di input che passa attraverso la rete produce il vettore di output. Questo vettore di output viene verificato rispetto all'output desiderato. Se il risultato non corrisponde al vettore di output, viene generato un rapporto di errore. In base al rapporto di errore, i pesi vengono regolati per ottenere l'output desiderato.
Cos'è una rete neurale artificiale?
Un Rete neurale artificiale impiega la regola di apprendimento supervisionato per diventare efficiente e potente. Le informazioni nelle reti neurali fluiscono in due modi diversi. In primo luogo, quando il modello viene addestrato o in fase di apprendimento e quando il modello funziona normalmente, per il test o per eseguire qualsiasi attività. Le informazioni in forme diverse vengono immesse nel modello attraverso i neuroni di input, attivando diversi strati di neuroni nascosti e raggiungono i neuroni di output, che è noto come una rete feedforward.
Poiché tutti i neuroni non si attivano contemporaneamente, i neuroni che ricevono gli input da sinistra vengono moltiplicati per i pesi mentre viaggiano attraverso strati nascosti. Ora, somma tutti gli input di ogni neurone e quando la somma supera un certo livello di soglia, i neuroni che erano rimasti in silenzio si attiveranno e si connetteranno.
Il modo in cui la Rete neurale artificiale apprende è che impara da ciò che ha fatto di sbagliato e fa il bene, e questo è noto come feedback. Le reti neurali artificiali utilizzano il feedback per apprendere cosa è giusto e cosa è sbagliato.
Cos'è la Backpropagation?
Definizione: La backpropagation è un meccanismo essenziale mediante il quale le reti neurali vengono addestrate. È un meccanismo utilizzato per mettere a punto i pesi di una rete neurale (altrimenti indicata come modello in questo articolo) per quanto riguarda il tasso di errore prodotto nell'iterazione precedente. È simile a un messaggero che dice al modello se la rete ha commesso un errore o meno non appena previsto.
backpropagation-neural-network
La backpropagation nelle reti neurali riguarda il trasmissione di informazioni e correlare queste informazioni all'errore generato dal modello quando è stata fatta un'ipotesi. Questo metodo cerca di ridurre l'errore, altrimenti denominato funzione di perdita.
Come funziona Backpropagation - Simple Algorithm
La backpropagation nel deep learning è un approccio standard per l'addestramento di reti neurali artificiali. Il modo in cui funziona è che: inizialmente quando viene progettata una rete neurale, i valori casuali vengono assegnati come pesi. L'utente non è sicuro che i valori di peso assegnati siano corretti o si adattino al modello. Di conseguenza, il modello restituisce un valore diverso dall'output effettivo o previsto, che è un valore di errore.
Per ottenere l'output appropriato con un errore minimo, il modello deve essere addestrato su un set di dati o parametri pertinenti e monitorarne l'avanzamento ogni volta che prevede. La rete neurale ha una relazione con l'errore, quindi, ogni volta che i parametri cambiano, cambia anche l'errore. La backpropagation utilizza una tecnica nota come regola delta o discesa del gradiente per modificare i parametri nel modello.
Il diagramma sopra mostra il funzionamento della backpropagation e il suo funzionamento è dato di seguito.
- 'X' agli ingressi raggiungono dal percorso precollegato
- 'W', i pesi reali vengono utilizzati per modellare l'input. I valori di W sono assegnati in modo casuale
- L'output per ogni neurone viene calcolato attraverso la propagazione di inoltro: il livello di input, il livello nascosto e il livello di output.
- L'errore viene calcolato sulle uscite utilizzando l'equazione Propagando nuovamente all'indietro attraverso l'output e gli strati nascosti, i pesi vengono regolati per ridurre l'errore.
Anche in questo caso si propaga in avanti per calcolare l'uscita e l'errore. Se l'errore è ridotto al minimo, questo processo termina, oppure si propaga all'indietro e regola i valori di peso.
Questo processo si ripete fino a quando l'errore si riduce al minimo e si ottiene l'output desiderato.
Perché abbiamo bisogno della backpropagation?
Questo è un meccanismo utilizzato per addestrare la rete neurale relativa al particolare set di dati. Alcuni dei vantaggi di Backpropagation siamo
- È semplice, veloce e facile da programmare
- Vengono sintonizzati solo i numeri dell'ingresso e nessun altro parametro
- Non è necessario avere una conoscenza preliminare della rete
- È flessibile
- Un approccio standard e funziona in modo efficiente
- Non richiede che l'utente apprenda funzioni speciali
Tipi di rete di backpropagation
Esistono due tipi di reti di backpropagation. È classificato come di seguito:
Backpropagation statica
La backpropagation statica è un tipo di rete che mira a produrre una mappatura di un input statico per un output statico. Questi tipi di reti sono in grado di risolvere problemi di classificazione statica come il riconoscimento ottico dei caratteri (OCR).
Backpropagation ricorrente
La backpropagation ricorrente è un altro tipo di rete impiegata nell'apprendimento a punto fisso. Le attivazioni in backpropagation ricorrente vengono alimentate fino a raggiungere un valore fisso. Successivamente, un errore viene calcolato e propagato all'indietro. UN Software , NeuroSolutions ha la capacità di eseguire la backpropagation ricorrente.
Le differenze principali: la backpropagation statica offre una mappatura immediata, mentre la mappatura della backpropagation ricorrente non è immediata.
Svantaggi della backpropagation
Gli svantaggi della backpropagation sono:
- La backpropagation potrebbe essere sensibile a dati rumorosi e irregolarità
- Le prestazioni di questo dipendono fortemente dai dati di input
- Ha bisogno di tempo eccessivo per l'allenamento
- La necessità di un metodo basato su matrice per la backpropagation invece del mini-batch
Applicazioni di Backpropagation
Le applicazioni sono
- La rete neurale è addestrata per enunciare ogni lettera di una parola e una frase
- È utilizzato nel campo della riconoscimento vocale
- Viene utilizzato nel campo del riconoscimento dei caratteri e dei volti
Domande frequenti
1). Perché abbiamo bisogno della backpropagation nelle reti neurali?
Questo è un meccanismo utilizzato per addestrare la rete neurale relativa al particolare set di dati
2). Qual è l'obiettivo dell'algoritmo di backpropagation?
L'obiettivo di questo algoritmo è creare un meccanismo di addestramento per le reti neurali per garantire che la rete sia addestrata per mappare gli input ai loro output appropriati.
3). Qual è il tasso di apprendimento nelle reti neurali?
Il tasso di apprendimento è definito nel contesto dell'ottimizzazione e della riduzione al minimo della funzione di perdita di una rete neurale. Si riferisce alla velocità alla quale una rete neurale può apprendere nuovi dati sovrascrivendo i vecchi dati.
4). La rete neurale è un algoritmo?
Sì. Le reti neurali sono una serie di algoritmi o regole di apprendimento progettati per identificare i modelli.
5). Qual è la funzione di attivazione in una rete neurale?
La funzione di attivazione di una rete neurale decide se il neurone deve essere attivato / attivato o meno in base alla somma totale.
In questo articolo, il concetto di Backpropagation delle reti neurali viene spiegato utilizzando un linguaggio semplice da comprendere per il lettore. In questo metodo, le reti neurali vengono addestrate dagli errori generati per diventare autosufficienti e gestire situazioni complesse. Le reti neurali hanno la capacità di apprendere accuratamente con un esempio.
