분류 전체보기

ollama나 open-web-ui를 통해서 모델을 다운로드하다가 오류 혹은 사용자가 다운로드를 중단시킬 경우 아무것도 안 남는 것 같지만 blobs에 파일이 남게 된다. 원래는 ollama를 재시작할 때 자동으로 불완전한 파일들을 지우는 프로세스가 있다고 하는데, 나는 왜인지 docker을 재시작해도 실제 모델은 없지만 blobs폴더에 데이터들이 남아있었다. 그래서 이런 찌꺼기 파일들을 수동으로 지우는 방법들을 까먹지 않게 적어두려고 한다.(docker을 사용하지않아도 경로만 다를 뿐 똑같음)docker exec -it {containeID} /bin/bashcd /root/.ollama/models위의 경로대로 이동하면 이렇게 `blobs`와 `mainfests` 폴더가 보인다.여기서 `blobs`에..

오늘은 Huggingface를 CLI 사용법 중 자주 쓰는 것만 정리해두려고 한다.1. 라이브러리 설치pip install -U "huggingface_hub[cli]"2. 계정관리우선 기본적인 사용법과 로그인을 진행해야 한다.huggingface-cli --helphuggingface-cli login`help` 명령어를 치면 간단한 사용법을 알 수 있고, `login`커맨드를 치면 token을 입력하라고 하면서 링크가 뜨게 된다.해당 링크에 들어가서 로그인을 진행하면 token이 뜨고, token이 없다면 생성하여 복붙 해주면 된다.이후 토큰을 git-credential에 저장하냐는 알림이 뜨고, 저장해주면 다음번부터는 logout을 하지 않는 이상 token을 재입력해주지 않아도 된다.만약 로그인이..

공부1. 토익 재시험(900이상)2. 자격증 따기(SQLD,빅분기, tensorflow, aws,오픽)3. LLM, 쿠버네티스?공부4. 딥러닝 이론 공부하기5. 이력서, 자소서, 프로젝트 정리운동1. 바디프로필 찍기2. 벤치 70-80 찍기3. 하체 운동하기4. 유산소 일주일에 한번 하기 돈1. 적금 꾸준히 들기(주택청약, 청년희망, 토스정기)2. 투자 꾸준히 하기(S&P500, 나스닥, 다우존스) + 국장일부3. 한달에 쓰는 지출 60-70 이하 유지하기4. 충동구매 금지그 외1. 나대지말기2. 급발진 하지 말기3. 버티기

오늘의 실습저번글에서 기본적인 template사용법을 알아봤다면 이번에는 FewShotPrompt를 알아볼 것이다. 내가 원하는 형식의 답변을 끌어내고자 내가 먼저 특정 형식의 질문과 답안을 제시해 주고 최종 질문을 하는 방식이다.FewShotPromptfrom langchain_core.prompts.few_shot import FewShotPromptTemplateexamples = [ { "question": "메시와 호날두 중 누가 더 잘하는 축구선수인가요?", "answer": """이 질문에 추가 질문이 필요한가요: 예. 추가 질문: 메시와 호날두 중 누가 더 많은 골을 넣었나요? 중간 답변: 메..

오늘의 실습 CH02 프롬프트(Prompt)프롬프트 단계는 검색기에서 검색된 문서들을 바탕으로 **언어 모델이 사용할 질문이나 명령을 생성하는 과정**입니다. 이 단계는 **검색된 정보를 바탕**으로 최종 사용자의 질문에…wikidocs.net 챗봇을 사용해 본 적이 있다면, 프롬프트라는 말을 무수히 많이 들었을 것이다. 유튜브나 책 같은 데서도 프롬프트만 알아도 달라진다 뭐 이런 것도 많고 나도 처음에는 어차피 모델의 성능이 좌우하는 것 아닌가 싶었지만 프롬프트만 바꿈으로써 모델이 내가 하는 말을 더 잘 이해하고 내가 원하는 답을 준다는 것을 깨달았다.참고로 프롬프트는 크게 아래와 같이 4가지 구성요소로 구성된다.PromptTemplatefrom_template템플릿을 정의하며, input이 되는 변수..

오늘의 실습 05. LangChain Expression Language(LCEL).custom { background-color: #008d8d; color: white; padding: 0.25em 0.5…wikidocs.netLangChain Expression Language(LCEL)가장 일반적인 사용법으로, prompt와 모델을 연결하여 출력하는 방식으로 f-string 형태로, 변수를 `{}`로 감싸서 입력을 넣어주면 된다. from langchain_core.prompts import PromptTemplatetemplate = "{country}의 가장 부자는 누구인가요"prompt_template = PromptTemplate.from_template(template)print(prom..