확실히 애플 실리콘 기기가 저전력에 저렴하게 로컬 LLMs 돌리기에는 가성비가 참 좋은 거 같습니다 LLMs 돌리려면 램 32기가 보다는 깡통 두 대 묶는 게 성능이 더 좋네요 썬더볼트 브릿지로 묶는 게 좋은데 포트가 세 개 밖에 없다는 게 아쉽습니다 물론 지금 당장은 한 대만 가지고 노는 걸로 충분 하지만 언젠가 관련 기술로 뭔가를 …
확실히 애플 실리콘 기기가 저전력에 저렴하게 로컬 LLMs 돌리기에는 가성비가 참 좋은 거 같습니다 LLMs 돌리려면 램 32기가 보다는 깡통 두 대 묶는 게 성능이 더 좋네요 썬더볼트 브릿지로 묶는 게 좋은데 포트가 세 개 밖에 없다는 게 아쉽습니다 물론 지금 당장은 한 대만 가지고 노는 걸로 충분 하지만 언젠가 관련 기술로 뭔가를 …