테크 프레스
Apple Silicon macOS VM에서 llama.cpp 추론 16배 가속하는 법
macOS 가상머신이 GPU 기능을 실제보다 낮게 보고하던 문제를 속임수로 풀어서 llama.cpp 속도를 최대 16배까지 끌어올린 거예요
GeekNews
태그
Apple Silicon
‘Apple Silicon’ 태그가 달린 글 1건
태그
‘Apple Silicon’ 태그가 달린 글 1건
macOS 가상머신이 GPU 기능을 실제보다 낮게 보고하던 문제를 속임수로 풀어서 llama.cpp 속도를 최대 16배까지 끌어올린 거예요