Hugging Face Inference API με Python

Hugging Face Inference Api Me Python



Το Hugging Face αναγνωρίζεται ως μια κοινότητα τεχνητής νοημοσύνης ανοιχτού κώδικα και αποτελείται από μια τεράστια ποικιλία πλαισίων ανοιχτού κώδικα, εργαλείων, αρχιτεκτονικών και μοντέλων για τη δημιουργία και την αλληλεπίδραση με τα μοντέλα επεξεργασίας τεχνητής νοημοσύνης και φυσικής γλώσσας. Το Hugging Face παρέχει μια προγραμματιζόμενη παρέμβαση εφαρμογής ως 'Inference API'. Αυτό το API συμπερασμάτων χρησιμοποιείται για την ανάπτυξη μοντέλων μηχανικής μάθησης και τεχνητής νοημοσύνης για λήψη αποφάσεων και προβλέψεις σε πραγματικό χρόνο. Αυτό το API επιτρέπει στους προγραμματιστές να χρησιμοποιούν τα προεκπαιδευμένα μοντέλα NLP για να παρέχουν προβλέψεις για το νέο σύνολο δεδομένων.

Σύνταξη:

Υπάρχει μια ποικιλία υπηρεσιών που παρέχει το Hugging Face, αλλά μια από τις ευρέως χρησιμοποιούμενες υπηρεσίες του είναι το 'API'. Το API επιτρέπει την αλληλεπίδραση των προεκπαιδευμένων μοντέλων τεχνητής νοημοσύνης και μεγάλων γλωσσών σε διαφορετικές εφαρμογές. Το Hugging Face παρέχει τα API για διαφορετικά μοντέλα όπως αναφέρονται παρακάτω:

  • Μοντέλα δημιουργίας κειμένου
  • Μεταφραστικά μοντέλα
  • Μοντέλα για την ανάλυση των συναισθημάτων
  • Μοντέλα για την ανάπτυξη εικονικών πρακτόρων (έξυπνα chatbots)
  • Ταξινόμηση και μοντέλα παλινδρόμησης

Ας ανακαλύψουμε τώρα τη μέθοδο για να λάβουμε το εξατομικευμένο API συμπερασμάτων μας από το Hugging Face. Για να το κάνουμε αυτό, πρέπει πρώτα να εγγραφούμε στον επίσημο ιστότοπο του Hugging Face. Γίνετε μέλος αυτής της κοινότητας του Hugging Face εγγραφείτε σε αυτόν τον ιστότοπο με τα διαπιστευτήριά σας.









Μόλις αποκτήσουμε έναν λογαριασμό στο Hugging Face, πρέπει τώρα να ζητήσουμε το API συμπερασμάτων. Για να ζητήσετε το API, μεταβείτε στις ρυθμίσεις λογαριασμού και επιλέξτε το 'Access Token'. Θα ανοίξει ένα νέο παράθυρο. Επιλέξτε την επιλογή «Νέο διακριτικό» και, στη συνέχεια, δημιουργήστε το διακριτικό παρέχοντας πρώτα το όνομα του διακριτικού και τον ρόλο του ως «ΕΓΓΡΑΦΗ». Δημιουργείται ένα νέο διακριτικό. Τώρα, πρέπει να αποθηκεύσουμε αυτό το διακριτικό. Μέχρι αυτό το σημείο, έχουμε το διακριτικό μας από το Πρόσωπο αγκαλιάς. Στο επόμενο παράδειγμα, θα δούμε πώς μπορούμε να χρησιμοποιήσουμε αυτό το διακριτικό για να λάβουμε ένα API συμπερασμάτων.







Παράδειγμα 1: Πώς να κάνετε πρωτότυπο με το Hugging Face Inference API

Μέχρι στιγμής, συζητήσαμε τη μέθοδο για το πώς να ξεκινήσετε με το Hugging Face και αρχικοποιήσαμε ένα διακριτικό από το Hugging Face. Αυτό το παράδειγμα δείχνει πώς μπορούμε να χρησιμοποιήσουμε αυτό το διακριτικό που δημιουργήθηκε πρόσφατα για να λάβουμε ένα API συμπερασμάτων για ένα συγκεκριμένο μοντέλο (μηχανική εκμάθηση) και να κάνουμε προβλέψεις μέσω αυτού. Από την αρχική σελίδα του Hugging Face επιλέξτε οποιοδήποτε μοντέλο με το οποίο θέλετε να εργαστείτε και το οποίο σχετίζεται με το πρόβλημά σας. Ας υποθέσουμε ότι θέλουμε να εργαστούμε με την ταξινόμηση κειμένου ή το μοντέλο ανάλυσης συναισθήματος όπως φαίνεται στο παρακάτω απόσπασμα της λίστας αυτών των μοντέλων:



Επιλέγουμε το μοντέλο ανάλυσης συναισθήματος από αυτό το μοντέλο.

Αφού επιλέξετε το μοντέλο, θα εμφανιστεί η κάρτα μοντέλου του. Αυτή η κάρτα μοντέλου περιέχει πληροφορίες σχετικά με τις λεπτομέρειες εκπαίδευσης του μοντέλου και τα χαρακτηριστικά που έχει το μοντέλο. Το μοντέλο μας είναι η βάση roBERTa που έχει εκπαιδευτεί στα 58 εκατομμύρια tweets για ανάλυση συναισθήματος. Αυτό το μοντέλο έχει τρεις κύριες ετικέτες κλάσης και κατηγοριοποιεί κάθε είσοδο στις σχετικές ετικέτες κλάσης.

Μετά την επιλογή του μοντέλου, αν επιλέξουμε το κουμπί ανάπτυξης που υπάρχει στην επάνω δεξιά γωνία του παραθύρου, ανοίγει ένα αναπτυσσόμενο μενού. Από αυτό το μενού, πρέπει να επιλέξουμε την επιλογή 'Inference API'.

Το API συμπερασμάτων παρέχει στη συνέχεια μια ολόκληρη εξήγηση του τρόπου χρήσης αυτού του συγκεκριμένου μοντέλου με αυτό το συμπέρασμα και μας επιτρέπει να δημιουργήσουμε γρήγορα το πρωτότυπο για το μοντέλο AI. Το παράθυρο του API συμπερασμάτων εμφανίζει τον κώδικα που είναι γραμμένος στο σενάριο της Python.

Αντιγράφουμε αυτόν τον κώδικα και εκτελούμε αυτόν τον κώδικα σε οποιοδήποτε από τα Python IDE. Χρησιμοποιούμε το Google Colab για αυτό. Μετά την εκτέλεση αυτού του κώδικα στο κέλυφος της Python, επιστρέφει μια έξοδο που συνοδεύεται από τη βαθμολογία και την πρόβλεψη της ετικέτας. Αυτή η ετικέτα και η βαθμολογία δίνονται σύμφωνα με τη συμβολή μας, καθώς επιλέξαμε το μοντέλο «ανάλυσης κειμένου-συναισθήματος». Στη συνέχεια, η είσοδος που δίνουμε στο μοντέλο είναι μια θετική πρόταση και το μοντέλο έχει εκπαιδευτεί εκ των προτέρων σε τρεις κατηγορίες ετικετών: η ετικέτα 0 υποδηλώνει αρνητική, η ετικέτα 1 υποδηλώνει ουδέτερη και η ετικέτα 2 ορίζεται σε θετική. Δεδομένου ότι η εισαγωγή μας είναι μια θετική πρόταση, η πρόβλεψη βαθμολογίας από το μοντέλο είναι μεγαλύτερη από τις άλλες δύο ετικέτες που σημαίνει ότι το μοντέλο προέβλεψε την πρόταση ως 'θετική'.

εισαγωγή αιτήσεων

API_URL = 'https://api-inference.huggingface.co/models/cardiffnlp/twitter-roberta-base-sentiment'
κεφαλίδες = { 'Εξουσιοδότηση' : 'Φορέας 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' }

def ερώτηση ( φορτίο επί πληρωμή ) :
απάντηση = αιτήσεων. Θέση ( API_URL , κεφαλίδες = κεφαλίδες , json = φορτίο επί πληρωμή )
ΕΠΙΣΤΡΟΦΗ απάντηση. json ( )

παραγωγή = ερώτηση ( {
'εισροές' : «Νιώθω καλά όταν είσαι μαζί μου» ,
} )

Παραγωγή:

Παράδειγμα 2: Μοντέλο περίληψης μέσω συμπερασμάτων

Ακολουθούμε τα ίδια βήματα που φαίνονται στο προηγούμενο παράδειγμα και δημιουργούμε πρωτότυπο τον δίαυλο μοντέλου σύνοψης χρησιμοποιώντας το API συμπερασμάτων του από το Hugging Face. Το μοντέλο σύνοψης είναι ένα εκ των προτέρων εκπαιδευμένο μοντέλο που συνοψίζει ολόκληρο το κείμενο που του δίνουμε ως είσοδο. Μεταβείτε στον λογαριασμό Hugging Face, κάντε κλικ στο μοντέλο από την επάνω γραμμή μενού και, στη συνέχεια, επιλέξτε το μοντέλο που σχετίζεται με τη σύνοψη, επιλέξτε το και διαβάστε προσεκτικά την κάρτα μοντέλου.

Το μοντέλο που επιλέξαμε είναι ένα προεκπαιδευμένο μοντέλο BART και είναι προσεκτικά συντονισμένο στο σύνολο δεδομένων CNN dail mail. Το BART είναι ένα μοντέλο που μοιάζει περισσότερο με το μοντέλο BERT που διαθέτει κωδικοποιητή και αποκωδικοποιητή. Αυτό το μοντέλο είναι αποτελεσματικό όταν είναι καλά συντονισμένο για εργασίες κατανόησης, περίληψης, μετάφρασης και δημιουργίας κειμένου.

Στη συνέχεια, επιλέξτε το κουμπί 'ανάπτυξη' από την επάνω δεξιά γωνία και επιλέξτε το API συμπερασμάτων από το αναπτυσσόμενο μενού. Το API συμπερασμάτων ανοίγει ένα άλλο παράθυρο που περιέχει τον κώδικα και τις οδηγίες χρήσης αυτού του μοντέλου με αυτό το συμπέρασμα.

Αντιγράψτε αυτόν τον κώδικα και εκτελέστε τον σε ένα κέλυφος Python.

Το μοντέλο επιστρέφει την έξοδο που είναι η περίληψη της εισόδου που τροφοδοτήσαμε σε αυτό.

συμπέρασμα

Δουλέψαμε στο Hugging Face Inference API και μάθαμε πώς μπορούμε να χρησιμοποιήσουμε την προγραμματιζόμενη διεπαφή αυτής της εφαρμογής για να εργαστούμε με τα προεκπαιδευμένα μοντέλα γλώσσας. Τα δύο παραδείγματα που κάναμε στο άρθρο βασίστηκαν κυρίως στα μοντέλα NLP. Το Hugging Face API μπορεί να κάνει θαύματα εάν θέλουμε να αναπτύξουμε ένα γρήγορο πρωτότυπο παρέχοντας τη γρήγορη ενσωμάτωση μοντέλων AI στις εφαρμογές μας. Με λίγα λόγια, το Hugging Face έχει λύσεις σε όλα τα προβλήματά σας, από την ενισχυτική μάθηση μέχρι την όραση υπολογιστή.