Μπορώ να τρέξω το spark τοπικά;
Μπορώ να τρέξω το spark τοπικά;
Anonim

Spark can είναι τρέξιμο χρησιμοποιώντας τον ενσωματωμένο αυτόνομο προγραμματιστή συμπλέγματος στο τοπικός τρόπος. Αυτό σημαίνει ότι όλα τα Σπίθα διαδικασίες είναι τρέξιμο εντός του ίδιου JVM-αποτελεσματικά, μια ενιαία, πολυνηματική παρουσία του Σπίθα.

Από αυτή την άποψη, πώς μπορώ να εκτελέσω το Apache spark τοπικά;

Τα παρακάτω βήματα δείχνουν πώς να εγκαταστήσετε το Apache Spark

  1. Βήμα 1: Επαλήθευση εγκατάστασης Java.
  2. Βήμα 2: Επαλήθευση εγκατάστασης Scala.
  3. Βήμα 3: Λήψη του Scala.
  4. Βήμα 4: Εγκατάσταση του Scala.
  5. Βήμα 5: Λήψη του Apache Spark.
  6. Βήμα 6: Εγκατάσταση Spark.
  7. Βήμα 7: Επαλήθευση της εγκατάστασης Spark.

Επιπλέον, μπορούμε να τρέξουμε spark χωρίς Hadoop; Σύμφωνα με Σπίθα τεκμηρίωση, Το Spark μπορεί να τρέξει χωρίς Hadoop . Εσείς ενδέχεται τρέξτο ως αυτόνομη λειτουργία χωρίς οποιονδήποτε διαχειριστή πόρων. Αλλα αν εσείς θέλω να τρέξιμο σε ρύθμιση πολλών κόμβων, εσείς χρειάζεστε έναν διαχειριστή πόρων όπως το YARN ή το Mesos και ένα κατανεμημένο σύστημα αρχείων όπως HDFS , S3 κλπ. Ναι, ο σπινθήρας μπορεί να τρέξει χωρίς hadoop.

Εκτός από τα παραπάνω, πώς μπορώ να εκτελέσω το spark σε αυτόνομη λειτουργία;

Για εγκατάσταση Λειτουργία Spark Standalone , απλά τοποθετείτε μια μεταγλωττισμένη έκδοση του Σπίθα σε κάθε κόμβο στο σύμπλεγμα. Μπορείτε να αποκτήσετε προκατασκευασμένες εκδόσεις του Σπίθα με κάθε κυκλοφορία ή φτιάξτε το μόνοι σας.

Μπορεί το spark να τρέχει στα Windows;

ΕΝΑ Σπίθα εφαρμογή μπορώ να είσαι α Windows -σενάριο κελύφους ή αυτό μπορώ να είναι ένα προσαρμοσμένο πρόγραμμα σε γραπτή Java, Scala, Python ή R. Χρειάζεστε Windows εκτελέσιμα αρχεία που είναι εγκατεστημένα στο σύστημά σας για να τρέξιμο αυτές οι εφαρμογές.

Συνιστάται: