Πώς υπολογίζει το Lstm τον αριθμό των παραμέτρων;
Πώς υπολογίζει το Lstm τον αριθμό των παραμέτρων;

Βίντεο: Πώς υπολογίζει το Lstm τον αριθμό των παραμέτρων;

Βίντεο: Πώς υπολογίζει το Lstm τον αριθμό των παραμέτρων;
Βίντεο: Finance with Python! Portfolio Diversification and Risk 2024, Νοέμβριος
Anonim

Έτσι, σύμφωνα με τις αξίες σας. Η τροφοδοσία του στον τύπο δίνει:->(n=256, m=4096), σύνολο αριθμός παραμέτρων είναι 4*((256*256) + (256*4096) + (256)) = 4*(1114368) = 4457472. Το αριθμός των βαρών είναι 28 = 16 (αριθμοί_μονάδες * αριθμοί_μονάδες) για τις επαναλαμβανόμενες συνδέσεις + 12 (εισόδου_μειωμένος * αριθμός_μονάδων) για είσοδο.

Ρωτήθηκε επίσης, πώς βρίσκετε τον αριθμό των παραμέτρων;

Προς το υπολογίζω ο μαθητευόμενος Παράμετροι Εδώ, το μόνο που έχουμε να κάνουμε είναι απλώς να πολλαπλασιάσουμε το με το σχήμα του πλάτους m, του ύψους n και να υπολογίσουμε όλα αυτά τα φίλτρα k. Μην ξεχνάτε τον όρο μεροληψίας για καθένα από τα φίλτρα. Αριθμός παραμέτρων σε ένα επίπεδο CONV θα ήταν: ((m * n)+1)*k), προστέθηκε 1 λόγω του όρου πόλωσης για κάθε φίλτρο.

Ομοίως, πόσες κρυφές μονάδες έχει το Lstm; Ενα LSTM δίκτυο. Το δίκτυο έχει πέντε εισόδους μονάδες , ένα κρυφό στρώμα που αποτελείται από δύο LSTM μπλοκ μνήμης και τρεις έξοδοι μονάδες . Κάθε μπλοκ μνήμης έχει τέσσερις εισόδους αλλά μόνο μία έξοδο.

Στη συνέχεια, κάποιος μπορεί επίσης να ρωτήσει, πώς βρίσκετε τον αριθμό των παραμέτρων στο RNN;

1 Απάντηση. Οι οντότητες W, U και V είναι κοινές σε όλα τα βήματα του RNN και αυτά είναι τα μόνα Παράμετροι στο μοντέλο που περιγράφεται στο σχήμα. Ως εκ τούτου αριθμός παραμέτρων να μαθαίνεται κατά την προπόνηση = dim(W)+dim(V)+dim(U). Με βάση τα δεδομένα στην ερώτηση αυτό = n2+kn+nm.

Πόσα επίπεδα έχει το Lstm;

Γενικά, 2 στρώματα έχουν αποδειχθεί αρκετά για τον εντοπισμό πιο περίπλοκων χαρακτηριστικών. Περισσότερο στρώματα μπορεί να είναι καλύτερο αλλά και πιο δύσκολο στην εκπαίδευση. Κατά γενικό κανόνα - 1 κρυφό στρώμα δουλέψτε με απλά προβλήματα, όπως αυτό, και δύο είναι αρκετά για να βρείτε αρκετά σύνθετα χαρακτηριστικά.

Συνιστάται: