성능 목표를 사용자 한 명 기준으로 말하는 이유 — 총량 지표와 체감의 간극 (2026)
성능을 말할 때 흔히 쓰는 단위는 전체 처리량입니다.
한 시간에 몇 건, 하루에 몇 건 같은 식입니다.
그런데 사람이 기다리는 서비스에서는 이 숫자가 체감과 어긋납니다.
총량은 같아도 경험은 다릅니다
같은 설비가 한 시간에 같은 양을 처리해도, 한 명에게 돌아가는 속도는 다를 수 있습니다.
여러 요청을 모아서 한꺼번에 처리하면 전체 효율은 올라가지만 개별 대기 시간은 길어집니다.
반대로 한 명씩 빨리 돌려주면 체감은 좋아지고 전체 처리량은 떨어집니다.
그래서 서비스의 성격이 바뀌면 목표 지표도 바뀝니다.
사람이 읽는 속도와 기계가 쓰는 속도
사람이 화면의 글을 따라 읽는 속도는 제한되어 있습니다.
그 수준만 맞추면 되는 서비스는 개별 속도를 더 올릴 이유가 크지 않습니다.
반면 사람이 읽지 않고 기계가 다음 단계의 입력으로 곧바로 쓰는 구조에서는 사정이 다릅니다.
여러 단계를 이어 붙이면 각 단계의 대기가 그대로 쌓입니다.
2026년 9월에 공개된 한 발표에서는 대화형 서비스의 개별 속도를 초당 100 수준으로 보고, 자동화된 작업에는 그 열 배가 필요하다고 제시했습니다.
열 배는 같은 방식으로 나오지 않습니다
같은 구조에서 열 배를 내려면 설비를 열 배 놓으면 된다고 생각하기 쉽습니다.
그러나 개별 속도는 설비를 늘린다고 비례해서 빨라지지 않습니다.
한 요청이 끝나기까지의 시간은 데이터가 오가는 경로의 길이에 묶여 있기 때문입니다.
그래서 이 목표는 대체로 배치 방식의 변경, 즉 저장 공간을 연산 장치에 더 가깝게 붙이는 방향으로 이어집니다.
지표가 바뀌면 부품 구성이 바뀝니다
전체 처리량이 목표일 때는 연산 장치의 수가 중요합니다.
개별 속도가 목표가 되면 연산 장치당 붙는 저장 용량과 그 연결 방식이 중요해집니다.
같은 투자 금액이라도 어느 부품에 더 많이 배분되는지가 달라집니다.
그래서 이런 발표는 특정 회사의 제품 소식이라기보다, 향후 몇 년간 돈이 어느 쪽으로 흐를지에 대한 단서로 읽는 편이 낫습니다.
다만 발표된 성능 배수는 조건을 맞춘 비교이고, 양산 일정과는 별개입니다.
확인해 두면 좋은 네 가지
첫째, 발표가 로드맵인지 출시 일정인지입니다. 시료 공급 시점과 양산 시점은 다릅니다.
둘째, 성능 배수의 비교 대상입니다. 무엇과 비교해 몇 배인지가 빠지면 숫자만 남습니다.
셋째, 열 문제입니다. 가까이 붙일수록 발열 처리 난이도가 올라갑니다.
넷째, 비용입니다. 같은 성능을 더 싼 저장 방식으로 대체하려는 시도가 함께 나오는지 보면 실제 병목이 어디인지 보입니다.
정리
전체 처리량과 사용자당 속도는 다른 목표이고, 달성 방법도 다릅니다.
자동화된 작업이 늘어날수록 개별 속도가 기준이 되고, 그러면 저장 장치의 배치가 핵심이 됩니다.
로드맵 발표는 일정이 아니라 자금 배분의 방향을 알려 주는 자료로 읽습니다.
본 글은 투자자문이 아니며 투자 판단과 책임은 사용자에게 있습니다.