알쓸신잡

ollama나 open-web-ui를 통해서 모델을 다운로드하다가 오류 혹은 사용자가 다운로드를 중단시킬 경우 아무것도 안 남는 것 같지만 blobs에 파일이 남게 된다. 원래는 ollama를 재시작할 때 자동으로 불완전한 파일들을 지우는 프로세스가 있다고 하는데, 나는 왜인지 docker을 재시작해도 실제 모델은 없지만 blobs폴더에 데이터들이 남아있었다. 그래서 이런 찌꺼기 파일들을 수동으로 지우는 방법들을 까먹지 않게 적어두려고 한다.(docker을 사용하지않아도 경로만 다를 뿐 똑같음)docker exec -it {containeID} /bin/bashcd /root/.ollama/models위의 경로대로 이동하면 이렇게 `blobs`와 `mainfests` 폴더가 보인다.여기서 `blobs`에..

오늘은 Huggingface를 CLI 사용법 중 자주 쓰는 것만 정리해두려고 한다.1. 라이브러리 설치pip install -U "huggingface_hub[cli]"2. 계정관리우선 기본적인 사용법과 로그인을 진행해야 한다.huggingface-cli --helphuggingface-cli login`help` 명령어를 치면 간단한 사용법을 알 수 있고, `login`커맨드를 치면 token을 입력하라고 하면서 링크가 뜨게 된다.해당 링크에 들어가서 로그인을 진행하면 token이 뜨고, token이 없다면 생성하여 복붙 해주면 된다.이후 토큰을 git-credential에 저장하냐는 알림이 뜨고, 저장해주면 다음번부터는 logout을 하지 않는 이상 token을 재입력해주지 않아도 된다.만약 로그인이..

vscode에서 디버깅을 할 때, 자신이 작성한 코드가 아닌 라이브러리에 있는 코드들도 디버깅을 해야 할 때가 있다.그러나 해당 코드들에 breakpoint를 잡아도 원래는 안멈추고 아래와 같이 안내창이 뜬다.설명에 친절하게 나와있듯이, 이는 `launch.json`에서 설정을 따로 해주면 된다. `launch.json`은 디버깅을 할 때 `Debug using launch.json`을 하게 되면 해당 workspace에 자동으로 생성된다. 이후 `lauch.json`에서 안내창에 뜬 것 처럼 `"justMycode":false`를 추가해 주면 라이브러리에 있는 모듈들에 걸어놓은 breakpoint에서도 잘 멈춘다~

저번에는 Linux에서 `INNORIX-EX-Agent`를 설치하여서 윈도에서처럼 AIHub에 있는 데이터를 받아보았는데, 대용량 데이터셋 같은 경우에는 서버에서 바로 다운로드해야 되기 때문에 api를 이용해서 다운로드하려고 했다.마침 AIHub에서 `aihubshell`이라는 편리한것이 있길래, 이미 설명이 잘되어있지만 정리겸 작성해보려고 한다. 1. aihubshell 다운로드~$ curl -o "aihubshell" https://api.aihub.or.kr/api/aihubshell.do # 다운로드chmod +x aihubshell # 실행권한부여sudo cp aihubshell /usr/bin ..

gradio로 학습을 시작하면 로그가 쌓이고 해당 로그를 화면에 띄우는 기능을 구현하고 있었다. 단순히 로그를 보려면 `Code`componet를 이용하면 볼 수 있었다.로그가 계속해서 쌓이기 때문에 맨 처음에는 `Button` component을 이용해서 새로 고침버튼을 만들고, 새로고침 버튼을 누르면 다시 파일을 읽어와서 출력하도록 맨 처음에는 구현했었다.import gradio as grdef get_file_content(file): try: with open(file, 'r', encoding='utf-8') as f: lines = f.readlines() return ''.join(lines) except Exception as e: ..

오늘은 내부망(오프라인)에서 docker을 설치를 해볼 것이다. 다양한 방법들이 있겠지만 찾다 보면 크게 2가지 방법이 있는 것 같다.1. 온라인환경에서 docker로 내부망과 동일한 서버 세팅을 만든 다음, 거기서 docker 설치에 필요한 모든 패키지들을 다운로드하고, local repository로 만든 다음 그 폴더를 통째로 내부망으로 옮겨서 설치하는 방법2. 바이너리파일로 docker을 설치하는 방법 찾아보니까 1번 방법이 더 많이 나왔는데, 나의 경우는 내부망이 redhat 서버여서 docker에서 필수 패키지들은 모두 받았는데, 로컬 레포지토리로 설정하는 `createrepo`패키지가 docker 내부에서 설치가 안돼서 이후 과정을 진행할 수 없었다.. 왜인지 모르겠는데 안 깔림...(아시는..