Σύνταξη:
Καθώς είμαστε εξοικειωμένοι με το ChatGPT, γνωρίζουμε ότι αυτή η πλατφόρμα ανήκει στην κοινότητα Open AI και παρέχει εργαλεία, αρχιτεκτονικές, API και πολλά πλαίσια που μπορούμε να χρησιμοποιήσουμε για την ανάπτυξη των εφαρμογών μας και τα μοντέλα επεξεργασίας φυσικής γλώσσας. Το Open AI προσφέρει τα API μέσω των οποίων μπορούμε να χρησιμοποιήσουμε οποιαδήποτε προεκπαιδευμένα μοντέλα AI και NLP από την πλατφόρμα Open AI και μπορούμε να τα κάνουμε να λειτουργούν για τις εφαρμογές μας, όπως, για παράδειγμα, να δίνουμε προβλέψεις σε δεδομένα σε πραγματικό χρόνο. Ομοίως, το GPT4All παρέχει επίσης στους χρήστες του να ενσωματώνουν τα προεκπαιδευμένα μοντέλα AI με διαφορετικές εφαρμογές.
Το μοντέλο GPT4All εκπαιδεύεται σε περιορισμένα δεδομένα σε σύγκριση με το ChatGPT. Έχει επίσης μερικούς από τους περιορισμούς απόδοσης σε σύγκριση με το ChatGPT, αλλά επιτρέπει στον χρήστη να χρησιμοποιεί το ιδιωτικό του GPT στο τοπικό του υλικό και δεν απαιτεί συνδέσεις δικτύου. Με τη βοήθεια αυτού του άρθρου, θα μάθουμε πώς μπορούμε να χρησιμοποιήσουμε τα μοντέλα GPT4All στο σενάριο Python, καθώς το GPT4All έχει τις επίσημες συνδέσεις με την Python που σημαίνει ότι μπορούμε να χρησιμοποιήσουμε και να ενσωματώσουμε τα μοντέλα GPT4All μέσω του σεναρίου Python επίσης.
Όλα χρειάζονται μια ηλεκτρονική εντολή για να εγκαταστήσετε το GPT4All για το Python IDE. Στη συνέχεια, μπορούμε να ενσωματώσουμε τόσα μοντέλα τεχνητής νοημοσύνης όσα και οι εφαρμογές μας. Η εντολή για την εγκατάσταση αυτού του GPT4All στην Python είναι όπως φαίνεται παρακάτω:
$ pip εγκατάσταση gpt4all
Παράδειγμα 1:
Για να ξεκινήσετε με αυτό το παράδειγμα, πρέπει να κατεβάσουμε και να εγκαταστήσουμε την Python στα συστήματά μας. Οι προτεινόμενες εκδόσεις της Python είναι η 'έκδοση 3.7' ή αυτές που ήρθαν μετά από αυτήν την έκδοση. Ένας άλλος τρόπος για να εργαστείτε με την Python για να αποφύγετε τη μακρά διαδικασία εγκατάστασης της 'Ρύθμισης Python' στα συστήματά μας είναι να χρησιμοποιήσετε το 'Google Colab', το οποίο είναι ένα περιβάλλον που βασίζεται σε σύννεφο για την Python. Μπορούμε να εκτελέσουμε αυτό το περιβάλλον σε οποιοδήποτε πρόγραμμα περιήγησης ιστού και μπορούμε να δημιουργήσουμε μοντέλα τεχνητής νοημοσύνης και μηχανικής εκμάθησης. Τα παραδείγματα που θα εφαρμόσουμε εδώ εκτελούνται στο Google Colab.
Αυτό το παράδειγμα καλύπτει τη μέθοδο εγκατάστασης του GPT4All στην Python και τον τρόπο χρήσης των προεκπαιδευμένων μοντέλων του. Ξεκινάμε εγκαθιστώντας πρώτα το GPT4All. Για αυτό, εκτελείται η εντολή που αναφέραμε προηγουμένως. Με την εκτέλεση της εντολής γίνεται λήψη και εγκατάσταση του GPT4All μαζί με τα πακέτα και τα πλαίσια του.
Τώρα, προχωράμε μπροστά. Από το GPT4All, εισάγουμε το 'GPT4All'. Αυτό προσθέτει όλα τα προεκπαιδευμένα μοντέλα από το GPT4All στο έργο. Τώρα, μπορούμε να χρησιμοποιήσουμε οποιοδήποτε μοντέλο και να το κάνουμε τις προβλέψεις για την εφαρμογή μας. Μόλις εισαγάγουμε το πακέτο GPT4All, είναι τώρα ώρα να καλέσουμε αυτήν τη λειτουργία και να χρησιμοποιήσουμε το μοντέλο GPT4All που δίνει την έξοδο για την «ολοκλήρωση συνομιλίας».
Με άλλα λόγια, αν ζητήσουμε κάτι από αυτό το μοντέλο στην είσοδο, το επιστρέφει στην έξοδο. Το μοντέλο που χρησιμοποιούμε εδώ είναι 'ggml-gpt4all-j-v1.3-groovy'. Αυτά τα μοντέλα είναι ήδη αποθηκευμένα στην κρυφή μνήμη GPT4All. Μπορούμε να πάρουμε αυτά τα μοντέλα από αυτόν τον σύνδεσμο ' https://github.com/nomic-ai/gpt4all/tree/main/gpt4all-chat ” για μη αυτόματη λήψη. Εάν το μοντέλο υπάρχει ήδη στην κρυφή μνήμη GPT4All, καλούμε απλώς το όνομα του μοντέλου και το καθορίζουμε ως παραμέτρους εισόδου στη συνάρτηση 'GPT4All()'. Εάν το κατεβάσαμε με μη αυτόματο τρόπο με επιτυχία, περνάμε τη διαδρομή στον φάκελο όπου βρίσκεται το μοντέλο. Δεδομένου ότι αυτό το μοντέλο προορίζεται για συμπλήρωση μηνύματος, η σύνταξη για αυτό το μοντέλο δίνεται ως εξής:
$ Chat_completion (μηνύματα)Τα μηνύματα είναι μια λίστα λεξικού και κάθε λεξικό πρέπει να περιέχει ένα κλειδί «ρόλου» με την τιμή του χρήστη, του συστήματος ή του βοηθού και το περιεχόμενο «κλειδί» που έχει την τιμή ως συμβολοσειρά. Σε αυτό το παράδειγμα, καθορίζουμε το περιεχόμενο ως 'όνομα τριών χρωμάτων' και το κλειδί ρόλου ως 'χρήστης'.
$model= GPT4All('ggml-gpt4all-j-v1.3-groovy')$messages = [{'role': 'user', 'content': 'Name 3 flowers'}]
Μετά από αυτήν την προδιαγραφή, καλούμε τη συνάρτηση «chat_completion()» με το μοντέλο. Ο κωδικός για αυτό εμφανίζεται στην ακόλουθη έξοδο:
$ !pip εγκατάσταση gpt4allαπό το gpt4all εισαγωγή GPT4All
μοντέλο = GPT4All('ggml-gpt4all-j-v1.3-groovy')
messages = [{'ρόλος': 'χρήστης', 'περιεχόμενο': 'Ονομάστε τρία χρώματα'}]
model.chat_completion(μηνύματα)
Μετά την εκτέλεση αυτού του παραδείγματος, το μοντέλο επιστρέφει τρία χρώματα ως απόκριση στην είσοδο.
Παράδειγμα 2:
Καλύπτουμε ένα άλλο παράδειγμα όπου ανακαλύπτουμε μια άλλη μέθοδο χρήσης του GPT4All στην Python. Αυτό μπορεί να γίνει χρησιμοποιώντας τις επίσημες συνδέσεις για την Python που παρέχονται από το 'Nomic' που είναι μια κοινότητα AI ανοιχτού κώδικα και εκτελεί το GPT4All. Χρησιμοποιώντας την ακόλουθη εντολή, ενσωματώνουμε το 'nomic' στην κονσόλα Python μας:
$ pip εγκατάσταση nomicΜόλις εγκατασταθεί, εισάγουμε το GPT4All από το 'nomic.gpt4all'. Μετά την εισαγωγή του GPT4All, αρχικοποιούμε το GPT4All με τη συνάρτηση «open()». Στη συνέχεια, καλούμε τη συνάρτηση 'prompt()' και περνάμε μια προτροπή σε αυτήν τη συνάρτηση. Στη συνέχεια, δημιουργείται μια άμεση απόκριση με βάση την προτροπή που έχουμε δώσει ως είσοδο στο μοντέλο προτροπής.
!pip install nomicαπό το nomic.gpt4all εισαγωγή GPT4All
# Αρχικοποιήστε το μοντέλο GPT4All
εκκίνηση = GPT4All()
initiate.open()
# Δημιουργία απάντησης βάσει της προτροπής
model_response = initiate.prompt('γράψτε μια σύντομη ιστορία για έναν υπολογιστή)
# διασπορά της δημιουργούμενης απόκρισης
print(model_response)
Η έξοδος εμφανίζει την άμεση απόκριση από το μοντέλο που δημιουργήσαμε χρησιμοποιώντας το προεκπαιδευμένο μοντέλο GPT4All στην Python. Εάν θέλουμε να μάθουμε περισσότερα για τα μοντέλα και πώς μπορούμε να χρησιμοποιήσουμε αυτά τα μοντέλα για να δημιουργήσουμε τις απαντήσεις, ή με απλά λόγια, εάν θέλουμε να αποκτήσουμε γνώση σχετικά με τη σύνταξη για να δημιουργήσουμε τις απαντήσεις από αυτά τα μοντέλα, μπορεί να λάβουμε περαιτέρω βοήθεια από το GPT4Όλες οι λεπτομέρειες τεχνικής τεκμηρίωσης.
συμπέρασμα
Το GPT4All εξακολουθεί να προσπαθεί να αποκτήσει ακρίβεια απόδοσης. Εκτελείται από την ονομαστική πλατφόρμα AI, η οποία στοχεύει στην παροχή τεχνητά ευφυών chatbots στους χρήστες της στις CPU καταναλωτικής ποιότητας, καθώς το GPT4All λειτουργεί χωρίς σύνδεση δικτύου και GPU. Αυτό το άρθρο μάς διαφωτίζει να χρησιμοποιούμε επιδέξια το PyGPT4All σε περιβάλλον Python και να δημιουργήσουμε μια αλληλεπίδραση μεταξύ των εφαρμογών μας και των προεκπαιδευμένων μοντέλων AI GPT4All. Καλύψαμε δύο διαφορετικές μεθόδους για τον τρόπο εγκατάστασης του GPT4All στην Python σε αυτόν τον οδηγό.