안녕하세요, 제시예요. 8월 18일에 나온 소식 하나가 계속 마음에 걸려서, 오늘은 이 이야기를 해볼게요. Etched라는 칩 회사가 7억 달러를 더 받으면서 기업가치가 210억 달러가 됐어요. 7월에 3억 달러를 받았을 때가 103억 달러였으니까, 한 달 남짓 만에 두 배가 된 셈이에요. 이번 라운드는 제인스트리트가 이끌었고 클라이너퍼킨스, 세쿼이아, a16z, 타이거글로벌, 베인캐피털벤처스가 같이 들어왔어요.
숫자만 보면 또 하나의 AI 하드웨어 소식 같은데, 이 회사가 만드는 물건이 꽤 특이해요. Sohu라는 이 칩은 트랜스포머 말고는 아무것도 못 돌려요. 이미지 생성도 안 되고, 학습도 안 되고, 요즘 흔한 멀티모달 모델도 안 돌아가요. 그리고 그게 고장이 아니라, 이 회사가 210억 달러를 받은 바로 그 이유예요. 오늘은 왜 그런지 풀어볼게요.
GPU가 성능을 흘리는 자리
엔비디아 GPU는 이름 그대로 범용 연산기예요. 트랜스포머도 돌리고, 확산 모델도 돌리고, 물리 시뮬레이션도 돌려요. 그런데 뭐든 돌릴 수 있으려면 "지금 뭘 해야 하는지"를 매번 소프트웨어가 정해줘야 해요. 명령을 읽고, 데이터를 어디서 가져올지 정하고, 연산 유닛에 배치하는 과정이 계속 붙어요.
그 과정에서 칩이 낼 수 있는 최대 연산량 중 실제로 쓰이는 건 대략 30~40% 수준이에요. 나머지는 스케줄링과 데이터 이동을 기다리며 흘러나가요. 주방으로 치면 칼도 있고 믹서도 있고 오븐도 있는데, 요리사가 매번 어떤 도구를 쓸지 정하고 꺼내오는 시간이 조리 시간만큼 붙는 거예요.
Etched의 선택은 도구를 하나만 남기는 거였어요. 트랜스포머의 어텐션 연산을 아예 실리콘에 붙박이로 새겨 넣었어요. 회로가 그 계산 하나만 하도록 배선돼 있으니까 "무엇을 할지" 정하는 단계가 통째로 없어져요. 회사 설명으로는 이렇게 해서 칩 연산량의 90% 가까이를 실제로 쓴다고 해요.
그래서 얼마나 빠른가요
Etched가 내놓은 수치는 이래요. Sohu 칩 여덟 개가 들어간 서버 한 대가 라마 70B 모델로 초당 50만 토큰을 처리한다는 거예요. 같은 여덟 장짜리 H100 서버가 약 2만 3천 토큰, 최신 B200 서버가 약 4만 3천~4만 5천 토큰이라고 하니까 열 배에서 스무 배 차이가 나는 셈이에요.
칩 자체는 TSMC에서 만들고 144GB HBM3E 메모리를 붙였어요. 전압을 다른 AI 가속기의 절반 이하로 낮춰 돌리고, 자체 인터커넥트로 다른 칩이 4초 걸리는 작업을 0.7초에 끝낸다는 설명도 붙어 있어요.
여기는 좀 냉정하게 봐야 하는 자리예요. 벤더가 내놓는 벤치마크는 대개 자기한테 제일 유리한 조건에서 재요. 실제로 이 측정은 요청을 한 번에 하나씩 처리하는 조건에서 잰 것으로 보이는데, 서버가 수백 명의 요청을 한꺼번에 묶어 처리하는 실제 서비스 환경에서는 GPU 쪽 효율이 훨씬 올라가요. 열 배가 실전에서도 열 배일 거라고 그대로 믿기는 어려워요.
다만 방향까지 의심할 필요는 없어요. 전용 회로가 범용 회로보다 빠른 건 반도체에서 오래 확인된 사실이거든요. 비트코인 채굴이 GPU에서 전용 ASIC으로 넘어가면서 효율이 수십 배 벌어진 게 같은 이야기예요.
진짜 베팅은 못 돌리는 목록에 있어요
이 회사의 도박이 어디 있는지는 성능표가 아니라 "안 되는 것" 목록에 있어요.
- 멀티모달 · 비전이미지를 보는 모델은 못 돌려요
- 확산 모델이미지·영상 생성이 통째로 빠져요
- 동적 MoE 라우팅요즘 큰 모델이 즐겨 쓰는 구조예요
- 맘바 · 상태공간 모델트랜스포머를 대체하려는 후보들이에요
- 학습 · 파인튜닝추론 전용이라 모델을 만들 수는 없어요
마지막 두 줄이 핵심이에요. 이 칩은 앞으로도 트랜스포머가 계속 표준으로 남는다는 데 회사 전체를 걸었어요. 만약 몇 년 뒤 업계가 맘바 계열이나 아직 나오지 않은 다른 구조로 옮겨간다면, 실리콘에 새겨 넣은 회로는 소프트웨어처럼 고쳐 쓸 수가 없어요. 그냥 못 쓰는 칩이 되는 거예요.
반대로 트랜스포머가 앞으로도 계속 쓰인다면, 범용성을 위해 성능을 흘려보내던 GPU가 갑자기 아주 비싼 선택으로 보이게 돼요. 투자자들이 산 건 칩이 아니라 이 갈림길의 한쪽이에요.
왜 하필 지금 돈이 몰렸을까요
몇 년 전이었다면 이 베팅은 훨씬 무모해 보였을 거예요. 그때는 모델 구조가 계속 바뀌고 있었고, 무엇보다 학습이 연산 수요의 대부분이었거든요.
지금은 무게중심이 옮겨갔어요. 모델은 한 번 만들고 수십억 번 돌려요. 챗봇도, 코딩 도구도, 요즘 늘어나는 에이전트도 전부 이미 만들어진 모델을 계속 호출하는 일이에요. 그러면 "무엇이든 돌릴 수 있는 유연함"보다 "이거 하나를 싸고 빠르게"가 더 값이 나가요. 추론 비용이 서비스 원가의 대부분을 차지하는 회사라면 특히요.
이번 라운드를 이끈 제인스트리트가 첫 고객이라는 점도 그래서 읽을 만해요. 이 회사는 7월에 자사 데이터센터에 Sohu 랙을 실제로 설치했어요. 초단위 지연이 그대로 손익이 되는 곳이 먼저 손을 든 거예요. Etched는 산호세에 2메가와트 규모 클러스터를 두고 잠재 고객이 직접 돌려볼 수 있게 하고 있어요.
우리가 볼 지점
당장 우리 같은 사람이 Sohu를 쓸 일은 없어요. 이건 데이터센터에 랙으로 들어가는 물건이고, 첫 랙을 만드는 데만 3년이 걸렸다고 창업자가 직접 말했을 만큼 아직 초기예요. 2021년에 세워진 회사이고, 제3자 벤치마크는 여전히 없어요.
그래도 두 가지는 기억해 둘 만해요. 하나는 AI 인프라 경쟁이 "더 큰 GPU"에서 "덜 범용적인 칩"으로 축이 하나 더 생겼다는 거예요. 다른 하나는 우리가 쓰는 API 값이 이런 하드웨어 층에서 결정된다는 거예요. 추론 원가가 정말 열 배 내려가면, 지금은 비싸서 못 하는 일들이 그때 가서 갑자기 가능해져요.
그러니 다음에 새 모델 소식이 나올 때, 모델 이름 옆에 어떤 칩에서 돌아가는지도 한 번 같이 봐주세요. 요즘은 그쪽이 더 많은 걸 알려주더라고요. 🙂
출처: Etched의 7억 달러 조달·210억 달러 기업가치·투자자 구성·제인스트리트 랙 설치·산호세 클러스터는 SiliconANGLE 보도(2026-08-18). Sohu의 처리량 수치(라마 70B 초당 50만 토큰), 144GB HBM3E 사양, 미지원 아키텍처 목록과 벤치마크 검증 관련 단서는 Spheron 기술 분석 및 Etched 공개 자료(2026). 연산 유닛 활용률 비교는 Etched의 자체 설명 기준입니다.
