விரைவான அவுட்லைன்
இந்த இடுகையில் பின்வரும் பிரிவுகள் உள்ளன:
- LangChain இல் Async API முகவரை எவ்வாறு பயன்படுத்துவது
- முறை 1: தொடர் செயல்படுத்தலைப் பயன்படுத்துதல்
- முறை 2: ஒரே நேரத்தில் செயல்படுத்துதல்
- முடிவுரை
LangChain இல் Async API முகவரை எவ்வாறு பயன்படுத்துவது?
அரட்டை மாதிரிகள் ஒரே நேரத்தில் பல பணிகளைச் செய்கின்றன, ப்ராம்ட்டின் கட்டமைப்பைப் புரிந்துகொள்வது, அதன் சிக்கல்கள், தகவலைப் பிரித்தெடுத்தல் மற்றும் பல. LangChain இல் Async API முகவரைப் பயன்படுத்துவது, ஒரே நேரத்தில் பல கேள்விகளுக்கு பதிலளிக்கக்கூடிய திறமையான அரட்டை மாதிரிகளை உருவாக்க பயனரை அனுமதிக்கிறது. LangChain இல் Async API முகவரைப் பயன்படுத்தும் செயல்முறையை அறிய, இந்த வழிகாட்டியைப் பின்பற்றவும்:
படி 1: கட்டமைப்புகளை நிறுவுதல்
முதலில், LangChain கட்டமைப்பை நிறுவி அதன் சார்புகளை Python தொகுப்பு மேலாளரிடமிருந்து பெறவும்:
pip நிறுவல் langchain
அதன் பிறகு, llm போன்ற மொழி மாதிரியை உருவாக்க OpenAI தொகுதியை நிறுவி அதன் சூழலை அமைக்கவும்:
pip நிறுவல் openai
படி 2: OpenAI சூழல்
தொகுதிகளை நிறுவிய பின் அடுத்த கட்டம் சூழலை அமைக்கிறது OpenAI இன் API விசையைப் பயன்படுத்துதல் மற்றும் Serper API Google இலிருந்து தரவைத் தேட:
இறக்குமதி நீ
இறக்குமதி கெட்பாஸ்
நீ . தோராயமாக [ 'OPENAI_API_KEY' ] = கெட்பாஸ் . கெட்பாஸ் ( 'OpenAI API விசை:' )
நீ . தோராயமாக [ 'SERPER_API_KEY' ] = கெட்பாஸ் . கெட்பாஸ் ( 'Serper API விசை:' )
படி 3: நூலகங்களை இறக்குமதி செய்தல்
இப்போது சூழல் அமைக்கப்பட்டுள்ளது, தேவையான நூலகங்களான அசின்சியோ மற்றும் பிற நூலகங்களை லாங்செயின் சார்புகளைப் பயன்படுத்தி இறக்குமதி செய்யவும்:
இருந்து லாங்செயின். முகவர்கள் இறக்குமதி துவக்க_முகவர் , load_toolsஇறக்குமதி நேரம்
இறக்குமதி அசின்சியோ
இருந்து லாங்செயின். முகவர்கள் இறக்குமதி முகவர் வகை
இருந்து லாங்செயின். llms இறக்குமதி OpenAI
இருந்து லாங்செயின். திரும்ப அழைக்கிறது . stdout இறக்குமதி StdOutCallbackHandler
இருந்து லாங்செயின். திரும்ப அழைக்கிறது . ட்ரேசர்கள் இறக்குமதி LangChainTracer
இருந்து aiohttp இறக்குமதி வாடிக்கையாளர் அமர்வு
படி 4: அமைவு கேள்விகள்
இணையத்தில் தேடக்கூடிய பல்வேறு டொமைன்கள் அல்லது தலைப்புகள் தொடர்பான பல வினவல்களைக் கொண்ட கேள்வி தரவுத்தொகுப்பை அமைக்கவும் (Google):
கேள்விகள் = ['2021 இல் யு.எஸ் ஓபன் சாம்பியன்ஷிப்பை வென்றவர் யார்' ,
'ஒலிவியா வைல்டின் காதலனின் வயது என்ன' ,
'சூத்திரம் 1 உலக பட்டத்தை வென்றவர் யார்' ,
'2021 இல் யுஎஸ் ஓபன் மகளிர் இறுதிப் போட்டியில் வென்றவர் யார்' ,
'பியோனஸின் கணவர் யார் மற்றும் அவரது வயது என்ன' ,
]
முறை 1: தொடர் செயல்படுத்தலைப் பயன்படுத்துதல்
அனைத்து படிகளும் முடிந்ததும், தொடர் செயலாக்கத்தைப் பயன்படுத்தி அனைத்து பதில்களையும் பெற கேள்விகளை இயக்கவும். இதன் பொருள் ஒரு நேரத்தில் ஒரு கேள்வி செயல்படுத்தப்படும்/காட்டப்படும், மேலும் இந்தக் கேள்விகளைச் செயல்படுத்த எடுக்கும் முழு நேரத்தையும் வழங்கும்:
llm = OpenAI ( வெப்ப நிலை = 0 )கருவிகள் = load_tools ( [ 'google-header' , 'எல்எம்-கணிதம்' ] , llm = llm )
முகவர் = துவக்க_முகவர் (
கருவிகள் , llm , முகவர் = முகவர் வகை. ZERO_SHOT_REACT_DESCRIPTION , வாய்மொழி = உண்மை
)
கள் = நேரம் . perf_counter ( )
#முழு செயல்முறைக்கு பயன்படுத்தப்படும் நேரத்தை பெற நேர கவுண்டரை உள்ளமைத்தல்
க்கான கே உள்ளே கேள்விகள்:
முகவர். ஓடு ( கே )
கழிந்தது = நேரம் . perf_counter ( ) - எஸ்
பதில்களைப் பெற முகவர் பயன்படுத்தும் மொத்த நேரத்தை #அச்சிடு
அச்சு ( f 'சீரியல் {elapsed:0.2f} வினாடிகளில் செயல்படுத்தப்பட்டது.' )
வெளியீடு
பின்வரும் ஸ்கிரீன்ஷாட் ஒவ்வொரு கேள்விக்கும் தனித்தனி சங்கிலியில் பதிலளிக்கப்பட்டதைக் காட்டுகிறது மற்றும் முதல் சங்கிலி முடிந்ததும் இரண்டாவது சங்கிலி செயலில் உள்ளது. எல்லா பதில்களையும் தனித்தனியாகப் பெற தொடர் செயலாக்கம் அதிக நேரம் எடுக்கும்:
முறை 2: ஒரே நேரத்தில் செயல்படுத்துதல்
கன்கர்ரண்ட் எக்ஸிகியூஷன் முறையானது அனைத்து கேள்விகளையும் எடுத்து ஒரே நேரத்தில் பதில்களைப் பெறுகிறது.
llm = OpenAI ( வெப்ப நிலை = 0 )கருவிகள் = load_tools ( [ 'google-header' , 'எல்எம்-கணிதம்' ] , llm = llm )
ஒரே நேரத்தில் பதில்களைப் பெற மேலே உள்ள கருவிகளைப் பயன்படுத்தி முகவரை உள்ளமைத்தல்
முகவர் = துவக்க_முகவர் (
கருவிகள் , llm , முகவர் = முகவர் வகை. ZERO_SHOT_REACT_DESCRIPTION , வாய்மொழி = உண்மை
)
#முழு செயல்முறைக்கு பயன்படுத்தப்படும் நேரத்தை பெற நேர கவுண்டரை உள்ளமைத்தல்
கள் = நேரம் . perf_counter ( )
பணிகள் = [ முகவர். நோய் ( கே ) க்கான கே உள்ளே கேள்விகள் ]
asyncio காத்திருங்கள். சேகரிக்க ( * பணிகள் )
கழிந்தது = நேரம் . perf_counter ( ) - எஸ்
பதில்களைப் பெற முகவர் பயன்படுத்தும் மொத்த நேரத்தை #அச்சிடு
அச்சு ( f 'ஒன்றாகச் செயல்படுத்தப்பட்டது {கடந்த:0.2f} வினாடிகளில்' )
வெளியீடு
ஒரே நேரத்தில் செயல்படுத்தல் அனைத்து தரவையும் பிரித்தெடுக்கிறது மற்றும் தொடர் செயல்படுத்தலை விட குறைவான நேரத்தை எடுக்கும்:
LangChain இல் Async API முகவரைப் பயன்படுத்துவது அவ்வளவுதான்.
முடிவுரை
LangChain இல் Async API முகவரைப் பயன்படுத்த, asyncio நூலகத்தைப் பெற, அவற்றின் சார்புகளிலிருந்து நூலகங்களை இறக்குமதி செய்ய தொகுதிகளை நிறுவவும். அதன் பிறகு, அந்தந்த கணக்குகளில் உள்நுழைந்து OpenAI மற்றும் Serper API விசைகளைப் பயன்படுத்தி சூழல்களை அமைக்கவும். வெவ்வேறு தலைப்புகள் தொடர்பான கேள்விகளின் தொகுப்பை உள்ளமைத்து, அவற்றின் செயலாக்க நேரத்தைப் பெற, தொடர் மற்றும் ஒரே நேரத்தில் சங்கிலிகளை இயக்கவும். LangChain இல் Async API முகவரைப் பயன்படுத்தும் செயல்முறையை இந்த வழிகாட்டி விவரித்துள்ளது.