연구소/벤더
HuggingFace 오픈모델 리포트, 중국 대형화 vs Qwen 생태계 장악
HuggingFace 데이터를 보면 중국 랩들은 처음부터 초대형 모델만 내놓고, 미국은 NVIDIA, AMD 같은 하드웨어 회사가 오픈소스를 주도하는 반면 실제 다운로드와 파생 생태계는 규모보다 다양한 크기를 골고…
HuggingFace
태그
llama.cpp
‘llama.cpp’ 태그가 달린 글 3건
AI 트렌드
테크 프레스
Apple Silicon macOS VM에서 llama.cpp 추론 16배 가속하는 법
macOS 가상머신이 GPU 기능을 실제보다 낮게 보고하던 문제를 속임수로 풀어서 llama.cpp 속도를 최대 16배까지 끌어올린 거예요
GeekNews
연구소/벤더
Liquid AI의 LFM2.5-230M 온디바이스 추론 지원 확대, llama.cpp, MLX, vLLM 등 지원
Liquid AI가 자신의 작은 언어 모델 LFM2.5 230M을 휴대폰이나 노트북 같은 개인 기기에서 바로 실행할 수 있도록 준비했다는 거예요
Meta AI