정답 1건당 비용 — 토큰 단가 대신 작업 단위로 원가 재는 법 (2026)

결론부터 말하면, 인공지능 도입 비용을 토큰 단가로 비교하면 거의 항상 틀립니다. 실제로 회사가 지불하는 것은 업무 하나를 제대로 끝내는 데 든 총액이고, 여기에는 실패한 시도, 다시 읽힌 입력, 사람이 검수한 시간이 모두 들어갑니다. 단가가 절반이어도 단계를 두 배로 밟으면 싸지 않습니다.

📊 인공지능 투자 확대가 실제 실적으로 잡히는 기업이 어디인지는 Passive의 기업 실적에서 확인해 보세요.

왜 토큰 단가가 오답을 주는가

에이전트 방식으로 일을 시키면 모델은 매 단계마다 지금까지의 맥락을 다시 읽습니다. 그래서 청구서의 대부분은 새로 쓴 글자가 아니라 다시 읽은 글자에서 발생합니다. 2026년 9월 기준 공개된 기업용 에이전트 측정에서는 입력 쪽이 전체 청구액의 6591%를 차지했고, 출력 단가만으로 원가를 추정하면 실제 비용을 311배 낮게 잡는 것으로 나타났습니다.

여기에 캐시 정책이 붙습니다. 같은 맥락을 반복해서 읽을 때 얼마를 깎아 주는지는 제공사마다 다르고, 이 비율 하나로 총액이 크게 바뀝니다. 단가표를 볼 때 입력·출력 단가만 보고 캐시 단가를 빼먹으면 비교가 성립하지 않습니다.

계산식은 단순합니다

작업 하나당 원가는 이렇게 잡습니다.

작업당 원가 = (정답 1건을 얻기까지 청구된 입력 토큰 × 입력 단가) + (출력 토큰 × 출력 단가)

핵심은 분모가 ‘시도’가 아니라 **‘정답’**이라는 점입니다. 성공률이 90%라면 열 번 중 한 번은 값을 치르고도 결과를 못 쓰므로, 그 실패분이 성공한 작업의 원가에 얹힙니다. 성공률이 낮을수록 같은 단가에서도 원가가 빠르게 올라갑니다.

📈 관련 종목을 조건별로 비교하려면 Passive의 종목 스크리너를 활용할 수 있습니다.

신뢰도는 곱셈으로 붙는다

한 단계짜리 작업의 성공률이 그대로 유지된다고 착각하기 쉽지만, 여러 단계를 이어 붙이면 성공률은 곱해집니다. 단계별 99%는 다섯 단계에서 약 95%가 되고, 단계별 95%는 다섯 단계에서 약 77%로 떨어집니다. 1년에 수만 건을 돌리는 업무라면 이 차이가 곧 사람이 뒤처리해야 하는 건수입니다.

그래서 도입 검토에서는 단일 작업 정확도보다 실제로 쓰려는 단계 수에서의 완주율을 물어야 합니다. 벤치마크 표에 한 줄로 적힌 정확도는 대개 한 단계 기준입니다.

비용표에 안 잡히는 실패

같은 실패라도 성격이 다릅니다. 모델이 “모르겠다”고 멈추면 비용은 늘어도 위험은 작습니다. 반면 문서에 없는 답을 지어내면 결과가 그럴듯한 형식으로 다음 단계에 넘어가고, 잘못된 값이 보고서까지 흘러갑니다.

이 지어내기 비율은 원가표에 숫자로 나타나지 않습니다. 대신 검수 인력, 사후 정정, 잘못된 의사결정으로 비용이 옮겨갈 뿐입니다. 실제 측정에서도 정답당 비용이 가장 싼 모델과 지어내기가 가장 적은 모델이 서로 다른 경우가 흔합니다. 어느 쪽을 고를지는 업무 성격이 정합니다. 사람이 최종 확인하는 내부 초안 작업이면 싼 쪽이 맞고, 고객에게 바로 나가는 답변이면 지어내기가 적은 쪽이 맞습니다.

도입 검토 체크리스트

• 단가가 아니라 정답 1건당 총액으로 비교했는가
• 입력·캐시 단가를 포함했는가
• 실제로 쓸 단계 수 기준 완주율을 확인했는가
• 실패가 ‘멈춤’인지 ‘지어내기’인지 구분했는가
• 정리되지 않은 실제 사내 데이터에서도 측정했는가

마지막 항목이 특히 중요합니다. 잘 정리된 데이터에서의 성적과 중복·모순이 섞인 실제 데이터에서의 성적은 크게 벌어지며, 회사가 마주하는 것은 후자입니다.

정리

인공지능 원가는 단가표가 아니라 작업표로 계산해야 합니다. 정답 1건당 총액, 단계 수 기준 완주율, 실패의 종류. 이 세 가지를 같이 놓고 보면 “싼 모델”과 “실제로 싼 모델”이 다르다는 점이 분명해집니다.

🔎 인공지능 관련 업종에 자금이 실제로 붙고 있는지는 Passive의 수급 분석에서 이어서 볼 수 있습니다.