Πώς λειτουργεί η αυτοπροσοχή;
Πώς λειτουργεί η αυτοπροσοχή;

Βίντεο: Πώς λειτουργεί η αυτοπροσοχή;

Βίντεο: Πώς λειτουργεί η αυτοπροσοχή;
Βίντεο: Πως Να ΜΗΝ Πληγωθείς Ξανά|Ατομική Σκέψη VS Συλλογική Σκέψη👁️ 2024, Νοέμβριος
Anonim

Με λαϊκούς όρους, το εαυτός - προσοχή ο μηχανισμός επιτρέπει στις εισόδους να αλληλεπιδρούν μεταξύ τους (" εαυτός ”) και μάθετε ποιον πρέπει να πληρώσουν περισσότερα προσοχή προς το (" προσοχή ”). Οι έξοδοι είναι συσσωματώματα αυτών των αλληλεπιδράσεων και προσοχή βαθμολογίες.

Επίσης, τι είναι η Αυτοπροσοχή;

Εαυτός - προσοχή , μερικές φορές ονομάζεται ενδο- προσοχή είναι ένα προσοχή μηχανισμός που συσχετίζει διαφορετικές θέσεις μιας μεμονωμένης ακολουθίας προκειμένου να υπολογιστεί μια αναπαράσταση της ακολουθίας.

Επίσης, τι είναι η αυτοπροσοχή στη βαθιά μάθηση; Αρχικά, ας ορίσουμε τι « εαυτός - Προσοχή " είναι. Οι Cheng et al, στην εργασία τους με τίτλο "Long Short-Term Memory-Networks for Μηχανή Ανάγνωση», ορίζεται εαυτός - Προσοχή ως ο μηχανισμός συσχέτισης διαφορετικών θέσεων μιας ενιαίας ακολουθίας ή πρότασης προκειμένου να αποκτηθεί μια πιο ζωντανή αναπαράσταση.

Σχετικά με αυτό, τι είναι ο μηχανισμός προσοχής;

Μηχανισμός Προσοχής επιτρέπει στον αποκωδικοποιητή να παρακολουθεί διαφορετικά μέρη της πρότασης πηγής σε κάθε βήμα της παραγωγής εξόδου. Αντί να κωδικοποιήσουμε την ακολουθία εισόδου σε ένα ενιαίο σταθερό διάνυσμα περιβάλλοντος, αφήνουμε το μοντέλο να μάθει πώς να δημιουργεί ένα διάνυσμα περιβάλλοντος για κάθε χρονικό βήμα εξόδου.

Τι είναι το μοντέλο που βασίζεται στην προσοχή;

Προσοχή - βασισμένα μοντέλα ανήκουν σε μια κατηγορία μοντέλα κοινώς ονομάζεται αλληλουχία σε ακολουθία μοντέλα . Ο στόχος αυτών μοντέλα , όπως υποδηλώνει το όνομα, για να παράγει μια ακολουθία εξόδου δεδομένης μιας ακολουθίας εισόδου που είναι, γενικά, διαφορετικών μηκών.

Συνιστάται: