챗GPT1 삼성전자의 온디바이스 AI를 아시나요? (클라우드, 모델 압축, 스마트폰) 삼성전자가 300억 파라미터 규모의 AI 모델을 3GB 이하 메모리에서 구동하는 데 성공했습니다. 처음 이 소식을 접했을 때 저는 "대단하다"는 감탄보다 "그래서 폰 값은 또 얼마나 오르나"는 걱정이 먼저 들었습니다. 기술은 빨라지는데, 그 기술을 감당할 소비자의 지갑은 점점 얇아지고 있으니까요. 클라우드 없이 폰 안에서 AI가 돌아간다는 것지금 우리가 쓰는 대부분의 AI 서비스는 클라우드 기반입니다. 클라우드(Cloud)란 내 기기 밖에 있는 원격 서버에서 연산을 처리하고 결과만 돌려받는 구조를 말합니다. 스마트폰이 명령을 보내면 수백 킬로미터 떨어진 데이터센터에서 AI가 계산하고, 그 결과가 다시 폰으로 돌아오는 방식입니다.반면 온디바이스 AI(On-Device AI)는 이 과정을 폰 내부에서 모두 .. 2026. 4. 12. 이전 1 다음
