오늘부터 토요일 까지 온라인으로 하는 Ubuntu Summit 25.10 스트림 잘 시청 중이신가요?
오늘 첫날 세션 중 흥미로운 것 하나 소개가 되어 공유 드립니다. 바로 세션을 통해 출시가 발표된 Inference Snap 입니다. 정확히는 silicon-optimized inference snap 이 되겠는데요. 생성형 AI 모델을 그냥 단순히 쉽게 설치 할 수 있도록 할 뿐만 아니라, 설치할 하드웨어에 최적화된 구성을 자동으로 선택해서 생성형 AI 모델을 설치하고 바로 사용할 수 있도록 해 줍니다.
이번에 퍼블릭 베타로 공개 된 것은 Qwen VL, DeepSeek R1 이라고 하네요. 아래 명령어로 바로 설치해 볼 수 있다고 합니다.
- Qwen VL:
sudo snap install qwen-vl --beta - DeepSeek R1:
sudo snap install deepseek-r1 --beta
이후 <inference snap> chat 명령으로, (예: qwen-vl chat) 설치한 Inference snap 이 제공하는 생성형 AI 모델과 바로 대화가 가능하다고 하네요.
공식 보도 자료는 아래 링크에서 확인이 가능합니다.
https://canonical.com/blog/canonical-releases-inference-snaps
그리고 함께 나온 공식 문서입니다.
Ubuntu Summit 25.10 - Inference Snaps 세션 정보 페이지 입니다.