Το Spark χρησιμοποιεί zookeeper;
Το Spark χρησιμοποιεί zookeeper;

Βίντεο: Το Spark χρησιμοποιεί zookeeper;

Βίντεο: Το Spark χρησιμοποιεί zookeeper;
Βίντεο: Рэмзи Мусаллам: 3 способа пробудить интерес к обучению 2024, Δεκέμβριος
Anonim

Ξεκινήστε το Σπίθα Master σε πολλούς κόμβους και βεβαιωθείτε ότι αυτοί οι κόμβοι έχουν το ίδιο Ζωολογοφύλακας διαμόρφωση για ZooKeeper URL και κατάλογος.

Πληροφορίες.

Ιδιότητα συστήματος Εννοια
σπίθα .παρατάσσω. φύλακας ζωολογικού κήπου .σκην Ο κατάλογος στο ZooKeeper για αποθήκευση της κατάστασης ανάκτησης (προεπιλογή: / σπίθα ). Αυτό μπορεί να είναι προαιρετικό

Ως εκ τούτου, μπορείτε να τρέξετε spark τοπικά;

Spark can είναι τρέξιμο χρησιμοποιώντας τον ενσωματωμένο αυτόνομο προγραμματιστή συμπλέγματος στο τοπικός τρόπος. Αυτό σημαίνει ότι όλα τα Σπίθα διαδικασίες είναι τρέξιμο εντός του ίδιου JVM-αποτελεσματικά, μια ενιαία, πολυνηματική παρουσία του Σπίθα.

Δεύτερον, μπορεί να χρησιμοποιηθεί το Spark χωρίς Hadoop; Σύμφωνα με Σπίθα τεκμηρίωση, Spark can τρέξιμο χωρίς Hadoop . Μπορείτε να το εκτελέσετε ως αυτόνομη λειτουργία χωρίς οποιονδήποτε διαχειριστή πόρων. Αλλά αν θέλετε να εκτελέσετε τη ρύθμιση πολλών κόμβων, χρειάζεστε έναν διαχειριστή πόρων όπως το YARN ή το Mesos και ένα κατανεμημένο σύστημα αρχείων όπως HDFS , S3 κλπ. Ναι, σπινθήρα μπορεί τρέξιμο χωρίς hadoop.

Επίσης, πρέπει να γνωρίζετε γιατί το ZooKeeper χρησιμοποιείται στο Hadoop;

Ζωολογοφύλακας σε Hadoop μπορεί να θεωρηθεί ως κεντρικό αποθετήριο όπου οι κατανεμημένες εφαρμογές μπορούν να τοποθετήσουν δεδομένα και να αντλήσουν δεδομένα από αυτά. είναι μεταχειρισμένος να διατηρήσει το κατανεμημένο σύστημα να λειτουργεί μαζί ως ενιαία μονάδα, χρησιμοποιώντας τους στόχους συγχρονισμού, σειριοποίησης και συντονισμού.

Πώς λειτουργεί το Spark standalone;

Αυτόνομη Η λειτουργία είναι ένας απλός διαχειριστής συμπλέγματος που ενσωματώνεται με Σπίθα . Διευκολύνει τη ρύθμιση ενός συμπλέγματος που Σπίθα η ίδια διαχειρίζεται και μπορεί να τρέξει σε Linux, Windows ή Mac OSX. Συχνά είναι ο απλούστερος τρόπος για να τρέξετε Σπίθα εφαρμογή σε περιβάλλον συμπλέγματος. Μάθετε πώς να εγκαταστήσετε Apache Spark Επί Αυτόνομη Τρόπος.

Συνιστάται: