Πίνακας περιεχομένων:

Πώς μπορώ να προγραμματίσω μια εργασία κυψέλης στο oozie;
Πώς μπορώ να προγραμματίσω μια εργασία κυψέλης στο oozie;

Βίντεο: Πώς μπορώ να προγραμματίσω μια εργασία κυψέλης στο oozie;

Βίντεο: Πώς μπορώ να προγραμματίσω μια εργασία κυψέλης στο oozie;
Βίντεο: Πώς κόβουμε παραφυάδες χωρίς μεταφορά !!! 2024, Νοέμβριος
Anonim

Προς το χρονοδιάγραμμα Εργασίας κυψέλης χρησιμοποιώντας Oozie , πρέπει να γράψετε α Κυψέλη -δράση.

hql) σε αυτό.

  1. Δημιουργήστε έναν κατάλογο στο HDFS ενεργοποιώντας την παρακάτω εντολή.
  2. hadoop fs -mkdir -p /user/ oozie /ροές εργασιών/
  3. Βάλτε ροή εργασιών. xml, Κυψέλη script (create_table. hql) και κυψέλη -ιστοσελίδα. xml στον κατάλογο που δημιουργήθηκε στο βήμα 2. Μπορείτε να χρησιμοποιήσετε την παρακάτω εντολή.

Έτσι, πώς μπορώ να εκτελέσω το σενάριο Hive στο oozie;

Εκτελέστε Hive Jobs με το Oozie

  1. Καθορίστε την τοποθεσία κυψέλης. xml στην παράμετρο job-xml.
  2. Καθορίστε το όνομα του σεναρίου (για παράδειγμα, script. q) που περιέχει το ερώτημα hive στην παράμετρο script.
  3. Προαιρετικά, προσθέστε ιδιότητες που χρησιμοποιούνται από την εργασία εκκίνησης Oozie. Προσθέστε το πρόθεμα oozie. εκτοξευτή στα ονόματα ιδιοτήτων.

Επιπλέον, πώς εκτελώ τη ροή εργασίας του oozie; Εκτέλεση ροής εργασίας Oozie από τη γραμμή εντολών

  1. Συνδεθείτε στην Κονσόλα Ιστού.
  2. Αντιγράψτε παραδείγματα oozie στον αρχικό σας κατάλογο στην κονσόλα Ιστού: cp /usr/hdp/current/oozie-client/doc/oozie-examples. πίσσα. gz.
  3. Εξαγωγή αρχείων από το tar tar -zxvf oozie-examples.tar.gz.
  4. Αντιγράψτε τον κατάλογο παραδειγμάτων στα παραδείγματα HDFS hadoop fs -copyFromLocal.

Από αυτή την άποψη, πώς μπορώ να προγραμματίσω μια εργασία Hadoop;

Πως να προγραμματίσετε εργασίες σε hadoop - Quora. Ο απλούστερος τρόπος είναι να τυλίξετε τον κώδικά σας σε ένα σενάριο κελύφους και πρόγραμμα το ως κρον δουλειά στον κόμβο άκρης (ο κόμβος όπου συνήθως υποβάλλετε το δικό σας θέσεις εργασίας ). Αλλά συνήθως συσκευάζετε τον κώδικα σε ένα σενάριο και τον εκτελείτε ως α δουλειά είναι δύσκολο να εντοπιστούν σφάλματα. δοκιμή και συντήρηση.

Τι είναι η ροή εργασίας oozie;

Oozie είναι ένα ροή εργασιών σύστημα προγραμματισμού για τη διαχείριση εργασιών Apache Hadoop. Oozie Workflow Οι εργασίες είναι Κατευθυνόμενα Ακυκλικά Γραφήματα (DAG) ενεργειών. Oozie Οι εργασίες του συντονιστή είναι επαναλαμβανόμενες Oozie Workflow εργασίες που ενεργοποιούνται από το χρόνο (συχνότητα) και τη διαθεσιμότητα δεδομένων. Oozie είναι ένα επεκτάσιμο, αξιόπιστο και επεκτάσιμο σύστημα.

Συνιστάται: