알쓸신잡

오늘은 로컬에서 쉽게 LLM을 사용할 수 있도록 해준 Ollama를 설치해보도록 하겠다.(이번에 새로나온 llama:3.1 70B을 2080ti 7개로 돌리니 엄청빠르게 한글도 잘되고 똑똑한 놈을 사용 가능하다.) 우선 Ollama는 Window, Ubunti, MacOs 모두에서 지원하며 Windows에서는 wsl을 이용하여 진행된다. GitHub - ollama/ollama: Get up and running with Llama 3.1, Mistral, Gemma 2, and other large language models.Get up and running with Llama 3.1, Mistral, Gemma 2, and other large language models. - ollama/olla..

회사의 Gitlab에 올리려고 작성했던 Docker 관련 repository를 내 개인 Github에도 올리고 싶었다.(프로젝트 관련된 것이 아니라, 단순 Docker 환경 설정 관련된 repo임.) 단순하게 clone해서 새로운 repo에 올리면되지만, commit 기록들도 남기고 싶었는데, 찾아보니 아주 간단해서 기록해두려고 한다.나는 `Gitlab->Github`을 진행한거지만, 반대도 동일하게 진행하면 될 것이다.1. 우선 개인 Github에 빈 repository를 생성한다.2. gitlab에 있던 이전 repository를 bare clone한다.clone할 때와 동일하게 repo에서 주소를 복사하여 `--bare`옵션만 추가해주면 된다.git clone --bare {old-repo}3. g..

오늘은 아이폰, 아이패드를 이용하여 ssh접속을 하는 방법을 알아볼 것이다. 참고로 뭐 설명할 것도 없이 매우 쉽다.1. Termius 설치우선 앱스토어에서 Termius라는 어플을 설치해 준다. 2. 서버 정보 기입그런다음 New Host를 클릭하여하던 대로 `ip`,`port`,'username`,`password` 등을 적어주면 된다. 끝!(참고로 Termius는 데스크탑용 프로그램으로도 있다)+) openvpn 사용시openvpn을 경유하여 서버가 구성되어 있는 경우(아마 서버와 로컬 ip를 같은 위치에 두는) 해당 openvpn 프로그램을 설치(나는 이미 pc에서 해당방법으로 사용하고 있었음)데스크톱에서는 호스트에서 제공해 준 exe파일을 설치하고 계정명만 입력하면 연결이 됐는데, 모바일에서 접..

이전 글에서 이제 서버를 putty를 이용해서 접속하게 됨으로써 putty를 자주 쓰게 될 것 같아 간단한 설정 및 커스텀을 진행하였다. 단순히 이쁘기 위해서 커스텀한게 아니라 눈이 너무 아파서 필수적인 커스텀이다.. 그리고 이렇게 설정한걸 매번하고싶지않다면 꼭 마지막에 있는 설정 저장을 해야 합니다!!!!!!! 1. 폰트 우선 아래와 같이 들어가서 폰트를 설정할 수 있고, Font quality를 Clear Type으로 설정하면 조금 더 선명하게 볼 수 있고 아래의 창과 글씨의 간격을 3 정도로 설정해 주면 좀 편하게 볼 수 있다. 2. 복사 붙여 넣기 다음으로 putty 내에서 기존 윈도에서 익숙한 우클릭 하면 메뉴가 뜨거나, 복붙을 할 때 클립보드에 있는 것을 복사하도록 설정하려면 아래와 같이 설정..

오늘은 ssh 연결이 끊겨도 프로그램이 돌아갈 수 있도록 백그라운드에서 동작시키는 법을 알아볼 것이다.(이 글을 작성할 때는 screen이니 tmux니 몰랐음..)우선 하기 전에 검색을 통해서 다양하게 찾아봤는데 `py` 파일을 실행시키는 것은 매우 단순해서 많이 나와있었는데 `ipynb` 파일을 실행시키는 방법이 없었고, 나처럼 이런 서버에 무지한 사람이 이해하기 어려운 것들이 많아서 그냥 내가 이해한 대로 설명해 보겠다.0. Putty 설치기존에는 vscode를 이용하여 ssh 접속을 해서 쉽게 코드를 작성하고 실행시켰는데 백그라운드로 파일을 넘겨서 실행시키려면 vscode 같은 것이 아니라 putty, 터미널, mobaxterm을 이용해야 했다.우선 아래 링크에서 서버 접속을 위한 putty를 설치..

예전에는 계속 페이지를 넘겨야해서 페이지 넘기는 소스코드들이 있었는데, 이번년도에 들어가보니 그냥 듣는 걸로 바뀌었다. 진행바가 드래그는 안되서 그냥 배속하는 코드를 사용했고 20분짜리 동영상 3개니까 대략 5분이면 다 끝낼 수 있다. 아래 코드를 동영상 재생후 F12를 들어가서 console에 붙여넣으면 끝! 맨 뒤에 숫자는 변경하면되는데 아마 해당 동영상 플레이어의 최대값이 다르므로 하나씩 해보면 될듯~ document.querySelector('video').playbackRate = 10;