Πώς να προσθέσετε κατάσταση μνήμης στην αλυσίδα χρησιμοποιώντας το LangChain;

Pos Na Prosthesete Katastase Mnemes Sten Alysida Chresimopoiontas To Langchain



Το LangChain επιτρέπει στους προγραμματιστές να δημιουργήσουν μοντέλα συνομιλίας που μπορούν να συνομιλούν με ανθρώπους χρησιμοποιώντας φυσικές γλώσσες. Για να έχει μια αποτελεσματική συνομιλία, το μοντέλο πρέπει να έχει μνήμη για το πού αποθηκεύεται το πλαίσιο της συνομιλίας. Τα μοντέλα LangChain μπορούν να αποθηκεύουν τα μηνύματα συνομιλίας ως παρατηρήσεις, έτσι ώστε η έξοδος να μπορεί να βρίσκεται στο πλαίσιο της συνομιλίας όλη την ώρα

Αυτός ο οδηγός θα απεικονίσει τη διαδικασία φόρτωσης αλυσίδων από το LangChain Hub.

Πώς να προσθέσετε κατάσταση μνήμης στην αλυσίδα χρησιμοποιώντας το LangChain;

Η κατάσταση μνήμης μπορεί να χρησιμοποιηθεί για την προετοιμασία των αλυσίδων καθώς μπορεί να αναφέρεται στην πρόσφατη τιμή που είναι αποθηκευμένη στις αλυσίδες που θα χρησιμοποιηθεί κατά την επιστροφή της εξόδου. Για να μάθετε τη διαδικασία προσθήκης μιας κατάστασης μνήμης σε αλυσίδες χρησιμοποιώντας το πλαίσιο LangChain, απλώς διαβάστε αυτόν τον εύκολο οδηγό:







Βήμα 1: Εγκατάσταση μονάδων

Αρχικά, μπείτε στη διαδικασία εγκαθιστώντας το πλαίσιο LangChain με τις εξαρτήσεις του χρησιμοποιώντας την εντολή pip:



pip install langchain



Εγκαταστήστε επίσης τη μονάδα OpenAI για να αποκτήσετε τις βιβλιοθήκες της που μπορούν να χρησιμοποιηθούν για την προσθήκη κατάστασης μνήμης στην αλυσίδα:





pip εγκατάσταση openai

Λάβετε το κλειδί API από τον λογαριασμό OpenAI και δημιουργήσει το περιβάλλον χρησιμοποιώντας το έτσι ώστε οι αλυσίδες να έχουν πρόσβαση σε αυτό:



εισαγωγή εσείς

εισαγωγή getpass

εσείς . κατά προσέγγιση [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'Κλειδί OpenAI API:' )

Αυτό το βήμα είναι σημαντικό για τη σωστή λειτουργία του κώδικα.

Βήμα 2: Εισαγωγή βιβλιοθηκών

Μετά τη ρύθμιση του περιβάλλοντος, απλώς εισαγάγετε τις βιβλιοθήκες για την προσθήκη της κατάστασης μνήμης όπως το LLMChain, το ConversationBufferMemory και πολλά άλλα:

από langchain. αλυσίδες εισαγωγή Αλυσίδα συνομιλίας

από langchain. μνήμη εισαγωγή ConversationBufferMemory

από langchain. chat_models εισαγωγή ChatOpenAI

από langchain. αλυσίδες . llm εισαγωγή LLMCchain

από langchain. προτρέπει εισαγωγή PromptTemplate

Βήμα 3: Κατασκευή αλυσίδων

Τώρα, απλώς δημιουργήστε αλυσίδες για το LLM χρησιμοποιώντας τη μέθοδο OpenAI() και το πρότυπο της προτροπής χρησιμοποιώντας το ερώτημα για να καλέσετε την αλυσίδα:

κουβέντα = ChatOpenAI ( θερμοκρασία = 0 )

prompt_template = 'Γράψε ένα {style} αστείο'

llm_chain = LLMCchain ( llm = κουβέντα , προτροπή = PromptTemplate. from_template ( prompt_template ) )

llm_chain ( εισροές = { 'στυλ' : 'κακής ποιότητος' } )

Το μοντέλο έχει εμφανίσει την έξοδο χρησιμοποιώντας το μοντέλο LLM όπως φαίνεται στο παρακάτω στιγμιότυπο οθόνης:

Βήμα 4: Προσθήκη κατάστασης μνήμης

Εδώ θα προσθέσουμε την κατάσταση μνήμης στην αλυσίδα χρησιμοποιώντας τη μέθοδο ConversationBufferMemory() και θα εκτελέσουμε την αλυσίδα για να λάβουμε 3 χρώματα από το ουράνιο τόξο:

συνομιλία = Αλυσίδα συνομιλίας (

llm = κουβέντα ,

μνήμη = ConversationBufferMemory ( )

)

συνομιλία. τρέξιμο ( 'δώσε εν συντομία τα 3 χρώματα στο ουράνιο τόξο' )

Το μοντέλο έχει εμφανίσει μόνο τρία χρώματα του ουράνιου τόξου και το πλαίσιο αποθηκεύεται στη μνήμη της αλυσίδας:

Εδώ τρέχουμε την αλυσίδα με μια διφορούμενη εντολή ως ' αλλα 4? Έτσι το ίδιο το μοντέλο παίρνει το πλαίσιο από τη μνήμη και εμφανίζει τα υπόλοιπα χρώματα του ουράνιου τόξου:

συνομιλία. τρέξιμο ( 'άλλα 4;' )

Το μοντέλο έκανε ακριβώς αυτό, καθώς κατάλαβε το πλαίσιο και επέστρεψε τα υπόλοιπα τέσσερα χρώματα από το σετ ουράνιου τόξου:

Αυτό αφορά τη φόρτωση αλυσίδων από το LangChain Hub.

συμπέρασμα

Για να προσθέσετε τη μνήμη σε αλυσίδες χρησιμοποιώντας το πλαίσιο LangChain, απλώς εγκαταστήστε μονάδες για να ρυθμίσετε το περιβάλλον για τη δημιουργία του LLM. Μετά από αυτό, εισαγάγετε τις βιβλιοθήκες που απαιτούνται για τη δημιουργία των αλυσίδων στο LLM και, στη συνέχεια, προσθέστε την κατάσταση μνήμης σε αυτό. Αφού προσθέσετε την κατάσταση μνήμης στην αλυσίδα, απλώς δώστε μια εντολή στην αλυσίδα για να πάρει την έξοδο και, στη συνέχεια, δώστε μια άλλη εντολή στο πλαίσιο της προηγούμενης για να λάβετε τη σωστή απάντηση. Αυτή η ανάρτηση έχει επεξεργαστεί τη διαδικασία προσθήκης κατάστασης μνήμης σε αλυσίδες χρησιμοποιώντας το πλαίσιο LangChain.