programming
PERSONAL TECH ARCHIVE
배운 것을 기록,
생각을 연결
개발과 데이터, 시스템을 만들며 마주친 문제와 답을 모으는 공간
MOONGCHIARCHIVE
WRITTEN NOTES
364꾸준히 쌓인 기록TOPICS
[ONNX] gemma → onnx
ONNX 시리즈의 글입니다.
[Frontend] .env로 환경별 빌드 설정 나누기
[ONNX] llama2 with lora to onnx
[ONNX] llama2 with lora onnx변환후 서빙
ONNX 시리즈의 글입니다.
RECENT NOTES
최근 포스트
programming
[MLOps] MLflow Evaluate로 LLM 평가하기
mlflow에서도 대세에 발맞춰 LLM을 쉽게 평가할 수있는 기능을 추가했다.
programming
[MLOps] PyTriton
PyTriton이란?
programming
[MLOps] KoGPT 추론 속도 실험
실험 1. 모델을 8bit로 로딩