영국의 반도체 스타트업 프랙타일(Fractile)이 팩토리얼 펀드(Factorial Funds), 액셀(Accel), 피터 틸의 파운더스 펀드(Founders Fund)가 주도한 시리즈 B 펀딩 라운드에서 2억 2,000만 달러(약 3283억원) 규모의 투자를 유치했다.

이번 투자 유치를 통해 프랙타일은 거대 언어 모델의 연산 효율을 극대화하는 차세대 하드웨어 개발에 박차를 가할 전망이다.

▲ AI 추론의 핵심 병목 현상, '지연 시간' 해결에 집중

13일(현지 시각) 월스트리트저널(WSJ)에 따르면 2022년 옥스퍼드 출신 엔지니어 월터 굿윈(Walter Goodwin)이 설립한 프랙타일은 AI 모델이 사용자의 질문에 응답하는 과정인 '추론(Inference)' 전용 칩을 전문적으로 설계한다.

굿윈은 현재 최첨단 AI 모델들이 직면한 가장 큰 제약으로 유용한 답변을 생성하는 데 걸리는 '시간'을 꼽았다.

AI 모델이 거대해지고 복잡해짐에 따라 고난도 문제를 해결하기 위해서는 수천만 개의 '토큰(전산 처리의 기본 단위)'이 필요하게 되었다.

이때 프로세서와 메모리 칩 사이에서 데이터가 이동하는 속도가 전체 응답 시간(지연 시간)을 결정짓는데, 프랙타일은 바로 이 구간의 효율성을 극대화하는 데 주력하고 있다.

[사진=챗지피티 생성 이미지]

▲ 기존 메모리 한계 넘는 독자적 설계 방식 도입

프랙타일은 서버 렉 내부에 메모리를 부착하는 새로운 로직 칩과 아키텍처를 설계했다. 이를 통해 대역폭을 최대한 확보하면서도 속도 저하를 방지할 수 있다고 회사 측은 설명했다.

특히 굿윈 대표는 자사의 목표가 "빠르면서도 저렴한" 솔루션을 제공하는 것임을 분명히 했다.

기술적 세부 사항은 공개되지 않았으나, 프랙타일은 현대 AI 산업에서 가장 흔히 사용되는 고대역폭 메모리(HBM)나 칩 내부 정적 랜덤 액세스 메모리(SRAM)에 의존하지 않는 독자적인 메모리 활용 방식을 채택한 것으로 알려졌다. 이는 기존 반도체 거인들과는 차별화된 하이브리드 접근법으로 업계의 주목을 받고 있다.

▲ '에이전트 AI' 시대, 폭증하는 컴퓨팅 수요 선점 경쟁

최근 자율적으로 작업을 수행하는 '에이전트 AI'의 부상으로 컴퓨팅 수요가 폭증하면서, 프랙타일과 같은 하드웨어 스타트업 간의 시장 선점 경쟁이 치열해지고 있다.

대형 AI 칩을 제조하는 세레브라스(Cerebras)가 대규모 기업공개(IPO)를 앞두고 있으며, 매제스틱 랩스(Majestic Labs) 등 경쟁사들도 초거대 모델 처리를 위한 서버 제품을 잇달아 발표하고 있다.

엔비디아를 비롯해 아마존 웹 서비스(AWS), 구글 클라우드 등 빅테크 기업들이 이미 추론 전용 프로세서를 출시한 상황에서, 프랙타일의 이번 대규모 투자 유치는 스타트업 특유의 유연한 아키텍처가 거대 기업들과의 경쟁에서 충분한 시장성을 인정받았음을 의미한다고 평가받았다.