EXO Labs — 집 안의 남는 맥북과 스마트폰 묶어 GPU 클러스터 만들기
맥북 하나로는 절대 돌릴 수 없는 70B 파라미터 거대 모델. 하지만 집 안의 남는 맥북, 데스크탑, 심지어 아이폰까지 Wi-Fi로 묶어 거대한 GPU 클러스터로 만들어버리는 마법, EXO Labs를 소개한다.
분산추론 (1)
맥북 하나로는 절대 돌릴 수 없는 70B 파라미터 거대 모델. 하지만 집 안의 남는 맥북, 데스크탑, 심지어 아이폰까지 Wi-Fi로 묶어 거대한 GPU 클러스터로 만들어버리는 마법, EXO Labs를 소개한다.