책 “Generative AI with LangChain” chapter9에 해당 하는 내용입니다. LLM App을 운영환경에 배포하고 평가하고, 모니터링하는 다양한 방법에 대해 소개 합니다.또한 CPU, GPU를 사용하는 병렬처리 프레임워크 Ray를 통해 embedding 속도를 높이고, 활요하는 방법에 대한 소개도 있습니다.평가 및 모니터링, 배포를 위한 다양한 도구도 소개 합니다.
[python, ai, gpt, langchain] langchain 예제 – Generative AI in Production 소개 Read More »
책 “Generative AI with LangChain” chapter8에 해당 하는 내용입니다. LLM fine tuning, Prompt engineering 예시 소개 opensource hugginface의 llm을 사용한 fine tuning 소개openai llm과 scikit-llm을 통한 분류등 소개여러 가지 prompting 소개
원문 : 다운 아래 그림은 생성 AI에 영향을 받는 직업군(노출점수)과 일자리를 찾는데 드는 저항(마찰점수)를 나타내고 있다. Y축은 AI에 노출을 많이 받는 직업군(AI에로 쉽게 대체 될 수 있는 직업군) , X 축은 기존 기술로 새로운 일자리를 찾는데 드는 마찰력(낮을 수록 쉽게 일자리 찾음) 실직 근로자가 새로운 일자리를 찾는 것이 얼마나 어려운지 파악하기 위해 다양한 직업군에 대한
[ai, ai impact, job change] AI 노출 및 마찰 점수 Read More »
책 “Generative AI with LangChain” chapter7에 해당 하는 내용입니다. LLM을 데이터사이언스에 활용하는 방법을 보여 줍니다. 예제로Jupyter-AI,AutoML, Agent를 통한 데이터에 대한 질문 및 답변,PythonREPL, WolframAlpha tool사용,LLM을 통한 데이터 탐색등을 소개 합니다.
[python, ai, gpt langchain] langchain 예제 – Data Science에 LLM 활용 Read More »
책 “Generative AI with LangChain” chapter 6에 해당 하는 내용입니다. 여기서는 python code 생성의 다양한 사례를 보여 줍니다. llm과 tool을 사용하여 python code를을 생성하기 위해 HuggingFace StarChat,Salesforce code생성 llm,OpenAI ChatGPT(gpt-4-1106-preview model)등을 사용하여 몇가지 python 소스코드를 생성합니다.현재는 gpt-4-1106-preview를 능가하는 코드 생성기는 없네요. 커스텀 소스 빌더도 소개 합니다.(python_developer.py 참조) 하지만 위에 언급한 코드생성 방법만으로는 큰 규모의 코드를
[python, ai, gpt langchain] langchain 예제 – python Code생성 Read More »
책 “Generative AI with LangChain” chapter 5에 해당 하는 내용입니다. chatbot을 만들기 위해 Document load, Embedding, Vectorstore, Retriever, Memory, 다양한 LLM등을 소개합니다. 오픈소스 Vectorstore ZepVectorStore와 ZepMemory등을 사용하는 방법을 소개 합니다. 맨 뒤에 Chatbot 소스 있습니다.
[python, ai, gpt langchain] langchain 예제 – Chatbot Read More »
책 “Generative AI with LangChain” chapter4에 해당 하는 내용입니다. langchain과 openai를 사용하여 내용을 요약하고, Chain of density(CoD), Map-Reduce를 통한 요약, 이력서에서 정보 추출, 도구를 사용한 정보 전달, 추론탐색전략(ReWOOD방법 – plan-and-solve 기법)등을 소개 합니다. ReWOOD의 논문에는 zero-shot-react보다 plan-and-solve가 더 좋은 결과를 보여 준다고 했는데 lanchain_experimetal package에 있는 구현을 사용해본 결과 성능과 비용이 zero-shot-react보다 훨씬! 별로 입니다.
[python, ai, gpt langchain] langchain 예제 – 요약,CoD, Map-Reduce, 정보추출,RAG, 추론전력탐색 Read More »
ChatGPT에서 Fine-Tuning하는 방법을 소개 합니다. 책- “GPT-4, ChatGPT, 라마인덱스, 랭체인을 활용한 인공지능 프로그래밍“의 데이터와 내용, 그리고 OpenAI Fine-Tuning, Medium ,Fine-Tuning GPT-3.5 on Custom Dataset: A Step-by-Step Guide 를 참고 하였습니다. 데이터 원본 : 일본어 애니메이션 대사 (책이일본어판 번역본 입니다.) 데이터 번역본(cvs파일) – 다운로드 아래 소스 코드에 사용된 Fine-Tuning 데이터 포맷 검증, 토큰수 카운트, 파인 튜닝
[Python, GPT, Fine-Tuning] ChatGPT Fine-Tuning Read More »
유투브 : [Vector Embeddings Tutorial – Code Your Own AI Assistant with GPT-4 API + LangChain + NLP] Vector Embeding에 대한 아주 쉬운 개념 부터 실제 코딩 까지 잘 설명 했어요 참조 해볼 만 합니다. 아래에 사용된 코드를 추가 했어요
위 그림 처럼 Proxy Stric SSL을 언체크 하여 무시한다. 물론 보안 우려가 있긴 하지만!~
[Github Copilot, Tip] 인증서 오류 해결 방법 Read More »
