லாங்செயின் என்பது செயற்கை நுண்ணறிவைப் பயன்படுத்தி பெரிய மொழி மாதிரிகளை உருவாக்குவதற்கான ஒரு கட்டமைப்பாகும், இதனால் அது உரையை உருவாக்கி மனிதர்களுடன் தொடர்பு கொள்ள முடியும். அசின்சியோ என்பது ஒரே கட்டளை அல்லது வினவலைப் பயன்படுத்தி LLM போன்ற மாதிரியை பல முறை அழைக்க பயன்படும் நூலகம் ஆகும். இது உரையை திறமையாக உருவாக்க எங்கள் எல்எல்எம் மாடலின் வேலை வேகத்தில் ஊக்கத்தை அளிக்கிறது.
LangChain இல் 'asyncio' நூலகத்தை எவ்வாறு பயன்படுத்துவது என்பதை இந்தக் கட்டுரை விளக்குகிறது.
LangChain இல் 'asyncio' நூலகத்தை எவ்வாறு பயன்படுத்துவது/செயல்படுத்துவது?
Async API ஆனது LLMகளுக்கான ஆதரவாகப் பயன்படுத்தப்படலாம், எனவே LangChain இல் asyncio நூலகத்தைப் பயன்படுத்த, இந்த வழிகாட்டியைப் பின்பற்றவும்:
முன்நிபந்தனைகளை நிறுவவும்
LangChain இல் உள்ள asyncio நூலகத்தைப் பயன்படுத்தி LLMகளை ஒரே நேரத்தில் அழைக்க, LangChain தொகுதியை நிறுவவும்:
பிப் நிறுவு லாங்செயின்
OpenAIEmbeddings ஐப் பயன்படுத்தி LLMகளை உருவாக்க OpenAI தொகுதியும் தேவை:
பிப் நிறுவு ஓப்பனை
நிறுவல்களுக்குப் பிறகு, பின்வரும் குறியீட்டைப் பயன்படுத்தி OpenAI API விசையை உள்ளமைக்கவும்:
எங்களை இறக்குமதிgetpass இறக்குமதி
os.சூழல் [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API விசை:' )
LLM ஐ உருவாக்க அசின்சியோவைப் பயன்படுத்துதல்
பின்வரும் குறியீடு LangChain இல் பயன்படுத்துவதால், LLMகளை ஆதரிக்க asyncio நூலகத்தைப் பயன்படுத்தலாம்:
இறக்குமதி நேரம்asyncio இறக்குமதி
#LangChain இலிருந்து asyncio நூலகங்களைப் பயன்படுத்த இறக்குமதி செய்கிறது
langchain.llms இலிருந்து OpenAIஐ இறக்குமதி செய்கிறது
#தொடர் தலைமுறையின் நேர முத்திரையைப் பெறுவதற்கான செயல்பாட்டை வரையறுக்கவும்
டெஃப் உருவாக்க_தொடர் ( ) :
llm = OpenAI ( வெப்ப நிலை = 0.9 )
க்கான _ உள்ளே சரகம் ( 5 ) :
resp = llm.generate ( [ 'நீ என்ன செய்து கொண்டிருக்கிறாய்?' ] )
அச்சு ( resp.generations [ 0 ] [ 0 ] .உரை )
#ஒத்திசைவான தலைமுறையின் நேரமுத்திரையைப் பெறுவதற்கான செயல்பாட்டை வரையறுக்கவும்
async def async_generate ( llm ) :
resp = காத்திருக்கவும் llm.agenerate ( [ 'நீ என்ன செய்து கொண்டிருக்கிறாய்?' ] )
அச்சு ( resp.generations [ 0 ] [ 0 ] .உரை )
#தரவை ஒரே நேரத்தில் உருவாக்கும் நேரமுத்திரையைப் பெறுவதற்கான செயல்பாட்டை வரையறுக்கவும்
async def generate_concurrently ( ) :
llm = OpenAI ( வெப்ப நிலை = 0.9 )
பணிகள் = [ ஒத்திசைவு_உருவாக்கம் ( llm ) க்கான _ உள்ளே சரகம் ( 10 ) ]
asyncio.gather காத்திருங்கள் ( * பணிகள் )
#ஒரே நேரத்தில் வெளியீட்டைப் பெற, அசின்சியோவைப் பயன்படுத்தி விளைவாக வெளியீட்டை உள்ளமைக்கவும்
s = time.perf_counter ( )
காத்திருங்கள் உருவாக்க_ஒரே நேரத்தில் ( )
கழிந்த = நேரம்.perf_counter ( ) - எஸ்
அச்சு ( '\033[1மீ' + f 'ஒரே நேரத்தில் {எலாப்ஸ்:0.2f} வினாடிகளில் செயல்படுத்தப்பட்டது.' + '\033[0மீ' )
#தொடர் வெளியீட்டைப் பெற, விளைந்த வெளியீட்டிற்கான நேரமுத்திரையை உள்ளமைக்கவும்
s = time.perf_counter ( )
உருவாக்க_தொடர் ( )
கழிந்த = நேரம்.perf_counter ( ) - எஸ்
அச்சு ( '\033[1மீ' + f 'சீரியல் {elapsed:0.2f} வினாடிகளில் செயல்படுத்தப்பட்டது.' + '\033[0மீ' )
மேலே உள்ள குறியீடு அசின்சியோ நூலகத்தைப் பயன்படுத்தி உரைகளை உருவாக்குவதற்கான நேரத்தை அளவிடுவதற்கு இரண்டு தனித்துவமான செயல்பாடுகளைப் பயன்படுத்துகிறது. வரிசையாக () மற்றும் ஒரே நேரத்தில் () :
வெளியீடு
பின்வரும் ஸ்கிரீன்ஷாட் செயல்பாடுகளின் நேரச் சிக்கலானது மற்றும் ஒரே நேரத்தில் உரை உருவாக்கத்தின் நேர சிக்கலானது தொடர் உரை உருவாக்கத்தை விட சிறந்தது என்பதைக் காட்டுகிறது:
LangChain இல் LLMகளை உருவாக்க 'asyncio' நூலகத்தைப் பயன்படுத்துவது அவ்வளவுதான்.
முடிவுரை
LangChain இல் asyncio நூலகத்தைப் பயன்படுத்த, செயல்முறையைத் தொடங்க LangChain மற்றும் OpenAI தொகுதிகளை நிறுவவும். Async API ஆனது, முந்தைய உரையாடல்களில் இருந்து கற்றுக்கொள்ள, chatbotகளை உருவாக்க LLM மாதிரியை உருவாக்கும் போது உதவியாக இருக்கும். LangChain கட்டமைப்பைப் பயன்படுத்தி LLMகளை ஆதரிக்க, asyncio நூலகத்தைப் பயன்படுத்தும் செயல்முறையை இந்த வழிகாட்டி விளக்கியுள்ளது.