오늘은 Mac에서 MacFUSE 와 sshfs 를 이용하여 다른 시스템을 마운트 하는 방법을 알아볼 것이다.linux 같은 경우는 sshfs만 설치하면 가능하지만, Mac은 별도의 MacFuse라는 것을 설치해줘야 한다.1. MacFUSEmacFUSE는 macOS용 FUSE(Filesystem in Userspace) 파일 시스템 지원을 제공하는 소프트웨어 패키지이다.이를 통해 사용자 공간에서 실행되는 파일 시스템을 개발하고 사용할 수 있으며, 클라우드 저장소 통합, 파일 암호화/복호화, macOS에서 지원하지 않는 볼륨 접근 등이 가능하다.2. MacFUSE 설치2-1. Macfuse 다운로드최신 버전 다운로드: macfuse.io 또는 github.com/macfuse/macfuse/releases에..

오늘은 최근 NCSOFT에서 공개한 VARCO-VISION-2.0-1.7B-OCR 에 대해서 간략한 소개 및 실습을 해볼 것이다.VARCO-VISION-2.0-1.7B-OCR은 이전에 출시한 VARCO-VISION-2.0-1.7B 모델에서 파생된 OCR(광학 문자 인식)에 특화되어 있는 Vision-Language Model(VLM)이다. NCSOFT/VARCO-VISION-2.0-1.7B-OCR · Hugging FaceVARCO-VISION-2.0-1.7B-OCR Introduction VARCO-VISION-2.0-1.7B-OCR is a lightweight yet powerful OCR-specialized model derived from VARCO-VISION-2.0-1.7B, designe..

이번에는 Ubuntu 22.04에 테마를 적용해 볼 것이다. 원래 꾸미기를 좋아해서 항상 pc나 폰을 사면 이런 테마 설정부터 한다!오늘 적용해볼 테마는 Mac 테마로 기존에는 WhiteSur 테마로 이미 유명했는데 얼마 전 IOS가 업데이트되면서 MacTahoe라는 os가 나오면서그거에 맞게 새로운 MacTahoe-gtk-theme 이라는 테마가 나와서 적용해 봤다.이미 repository에 설치방법이 자세하게 나와있긴 하지만, 그래도 나중에 보기 편하게 하기 위해서 정리해 봤다. 매우 간단하니 빠르게 가보자.Requirements우선 테마를 정상적으로 적용하기 위해서는 몇 가지 Ubuntu 프로그램들이 필요하다.설정은 테마를 설치하고 나서 진행할 거니까 우선 다운로드만 하여놓자.tweakssudo a..

0. Langfuse 란?오늘은 대규모 언어 모델(LLM)을 활용한 애플리케이션 개발과 운영의 복잡성을 해결해 줄 강력한 오픈소스 도구, Langfuse에 대해 알아보려 한다.LLM을 프로덕션 환경에서 운영하다 보면 예측 불가능한 결과, 디버깅의 어려움, 숨겨진 비용, 성능 저하 등 다양한 문제에 직면하게 된다.복잡하게 얽힌 체인(Chain), 에이전트(Agent), RAG(Retrieval-Augmented Generation) 파이프라인의 내부 동작을 어떻게 투명하게 들여다볼 수 있을까? 프롬프트 하나를 바꿨을 때 전체 시스템에 어떤 영향을 미치는지 어떻게 체계적으로 측정할 수 있을까? 수많은 사용자로부터 들어오는 피드백을 어떻게 효율적으로 수집하고 제품 개선에 반영할 수 있을까? Langfuse는 ..

오류 : TypeError: Can't instantiate abstract class OpenAI with abstract method _prepare_chat_with_tools 해결: `pip install -U llama-index llama-index-llms-openai` 참조: https://github.com/run-llama/llama_index/issues/14898

🆕 이제 Hugging Face Hub에서 비공개(private) GGUF 모델도 실행할 수 있다!개요대부분 Ollama에서 지원하는 model들을 ollama pull을 이용해서 사용해 보거나 혹은 GGUF들을 받아서 Modelfile을 만든 뒤에는 사용해 봤어도 Hugging Face에서 커뮤니티(bartowski, MaziyarPanahi 등)가 만든 모든 GGUF 양자화 모델을 새로운 Modelfile을 생성하지 않고도 사용해보지는 않았을 것이다.현재 Hugging Face Hub에 있는 약 45,000개의 공개 GGUF 체크포인트들을 단일 ollama run 명령어로 실행할 수 있다또한 양자화 타입 선택, 시스템 프롬프트 설정 등의 커스터마이징도 가능하다.Quick Start자신이 사용하고자하..

Dev tuunel에 대한 설명과 기본적인 사용법은 이전에 작성한 글을 참고하면 된다. Microsoft Dev Tunnels1. Dev Tunnel이란?개발자 터널(Dev Tunnel)은 개발자가 인터넷을 통해 로컬 웹 서비스를 안전하게 공유할 수 있게 해주는 Microsoft의 서비스이다.(이전에 작성한 ngrok, Vscode Local Port Forwarding와 같은 기능changsroad.tistory.com1. Global Options모든 devtunnel 명령에서 사용할 수 있는 옵션이다.-v, --verbose: 자세한 정보 표시 출력-?, -h, --help: 도움말 및 사용 정보를 표시--version: 현재 설치된 버전을 확인2. Manage user credentialsMicr..