Αυτή η ανάρτηση απεικονίζει τη μέθοδο χρήσης των συναρτήσεων και κλάσεων ανάλυσης εξόδου μέσω του πλαισίου LangChain.
Πώς να χρησιμοποιήσετε τον αναλυτή εξόδου μέσω LangChain;
Οι αναλυτές εξόδου είναι οι έξοδοι και οι κλάσεις που μπορούν να βοηθήσουν να ληφθεί η δομημένη έξοδος από το μοντέλο. Για να μάθετε τη διαδικασία χρήσης των αναλυτών εξόδου στο LangChain, απλώς ακολουθήστε τα βήματα που αναφέρονται:
Βήμα 1: Εγκατάσταση μονάδων
Αρχικά, ξεκινήστε τη διαδικασία χρήσης των αναλυτών εξόδου εγκαθιστώντας τη λειτουργική μονάδα LangChain με τις εξαρτήσεις της για να προχωρήσετε στη διαδικασία:
κουκούτσι εγκαθιστώ langchain
Μετά από αυτό, εγκαταστήστε τη λειτουργική μονάδα OpenAI για να χρησιμοποιήσετε τις βιβλιοθήκες της όπως OpenAI και ChatOpenAI:
κουκούτσι εγκαθιστώ openai
Τώρα, ρυθμίστε το περιβάλλον για το OpenAI χρησιμοποιώντας το κλειδί API από το λογαριασμό OpenAI:
εισάγετε μας
εισαγωγή getpass
os.περιβάλλον [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'Κλειδί OpenAI API:' )
Βήμα 2: Εισαγωγή βιβλιοθηκών
Το επόμενο βήμα είναι να εισαγάγετε βιβλιοθήκες από το LangChain για να χρησιμοποιήσετε τους αναλυτές εξόδου στο πλαίσιο:
από το langchain.prompts εισαγωγή HumanMessagePromptTemplate
από πυδαντικό πεδίο εισαγωγής
από το langchain.prompts εισαγωγή ChatPromptTemplate
από το langchain.output_parsers εισαγωγή PydanticOutputParser
από το pydantic import BaseModel
από τον επικυρωτή εισαγωγής pydantic
από το langchain.chat_models εισαγωγή ChatOpenAI
από το langchain.llms εισαγωγή OpenAI
από την πληκτρολόγηση λίστα εισαγωγής
Βήμα 3: Δόμηση Δομής Δεδομένων
Η οικοδόμηση της δομής της εξόδου είναι η ζωτική εφαρμογή των αναλυτών εξόδου στα μοντέλα μεγάλων γλωσσών. Πριν φτάσουμε στη δομή δεδομένων των μοντέλων, απαιτείται να ορίσουμε το όνομα του μοντέλου που χρησιμοποιούμε για να λάβουμε τη δομημένη έξοδο από τους αναλυτές εξόδου:
θερμοκρασία = 0,0
μοντέλο = OpenAI ( όνομα μοντέλου =όνομα_μοντέλου, θερμοκρασία =θερμοκρασία )
Τώρα, χρησιμοποιήστε την κλάση Joke που περιέχει το BaseModel για να διαμορφώσετε τη δομή της εξόδου ώστε να λαμβάνεται το αστείο από το μοντέλο. Μετά από αυτό, ο χρήστης μπορεί να προσθέσει εύκολα προσαρμοσμένη λογική επικύρωσης με την κλάση pydantic, η οποία μπορεί να ζητήσει από το χρήστη να βάλει ένα ερώτημα/προτροπή καλύτερα διαμορφωμένο:
τάξη αστείο ( BaseModel ) :εγκατάσταση: str = Πεδίο ( περιγραφή = 'ερώτημα για εμφάνιση αστείου' )
punchline: str = Πεδίο ( περιγραφή = 'απάντηση στο ερώτημα με ένα αστείο' )
#Επικύρωση λογικής για το ερώτημα καθώς το μοντέλο πρέπει να το κατανοήσει σωστά
@ επικυρωτή ( 'ρύθμιση' )
ορίστε ερώτηση_τελειώσεις_με_ερωτητικό_σημάδι ( cls, πεδίο ) :
αν πεδίο [ - 1 ] ! = ';' :
αυξήστε το ValueError ( 'Κακώς διαμορφωμένη ερώτηση!' )
ΕΠΙΣΤΡΟΦΗ πεδίο
Βήμα 4: Ρύθμιση προτύπου προτροπής
Διαμορφώστε τη μεταβλητή ανάλυσης που περιέχει τη μέθοδο PydanticOutputParser() που περιέχει τις παραμέτρους της:
Αφού ρυθμίσετε τον αναλυτή, απλώς ορίστε τη μεταβλητή προτροπής χρησιμοποιώντας τη μέθοδο PromptTemplate() με τη δομή του ερωτήματος/προτροπής:
prompt = PromptTemplate (πρότυπο = 'Απαντήστε στο ερώτημα χρήστη. \n {format_instructions} \n {ερώτηση} \n ' ,
input_variables = [ 'ερώτηση' ] ,
partal_variables = { 'format_instructions' : parser.get_format_instructions ( ) }
)
Βήμα 5: Δοκιμάστε τον αναλυτή εξόδου
Αφού ρυθμίσετε όλες τις απαιτήσεις, δημιουργήστε μια μεταβλητή που εκχωρείται χρησιμοποιώντας ένα ερώτημα και, στη συνέχεια, καλέστε τη μέθοδο format_prompt():
_input = prompt.format_prompt ( ερώτηση =αστείο_ερώτημα )
Τώρα, καλέστε τη συνάρτηση model() για να ορίσετε τη μεταβλητή εξόδου:
έξοδος = μοντέλο ( _input.to_string ( ) )Ολοκληρώστε τη διαδικασία δοκιμής καλώντας τη μέθοδο parser() με τη μεταβλητή εξόδου ως παράμετρό της:
αναλυτής.αναλύω ( παραγωγή ) 
Αυτό αφορά τη διαδικασία χρήσης του αναλυτή εξόδου στο LangChain.
συμπέρασμα
Για να χρησιμοποιήσετε τον αναλυτή εξόδου στο LangChain, εγκαταστήστε τις μονάδες και ρυθμίστε το περιβάλλον OpenAI χρησιμοποιώντας το κλειδί API του. Μετά από αυτό, ορίστε το μοντέλο και στη συνέχεια διαμορφώστε τη δομή δεδομένων της εξόδου με λογική επικύρωση του ερωτήματος που παρέχεται από τον χρήστη. Μόλις διαμορφωθεί η δομή δεδομένων, απλώς ορίστε το πρότυπο προτροπής και, στη συνέχεια, δοκιμάστε τον αναλυτή εξόδου για να λάβετε το αποτέλεσμα από το μοντέλο. Αυτός ο οδηγός επεξηγεί τη διαδικασία χρήσης του αναλυτή εξόδου στο πλαίσιο LangChain.