블로그

최근 몇 달 사이, 정말 많은 해고 소식이 들려옵니다. 2025년 9월까지 발표된 일자리 감축 소식만 해도 94만 건이 넘는다고 하죠. 작년 같은 기간보다 55%나 증가한 수치입니다.

많은 사람들이 그 원인으로 AI를 지목합니다. 투자자들은 기업에게 AI를 어떻게 활용하고 있는지, 왜 비용 절감에 쓰지 않는지 묻기 시작했습니다. 하지만 이 모든 대규모 구조조정이 정말 AI 때문에 일어나는 걸까요? 어쩌면 우리가 진짜 이유를 놓치고 있는 건 아닐까요?

 

AI는 정말 일자리를 대체하고 있나

우리는 흔히 AI가 사람의 일을 간단히 대체할 수 있다고 생각합니다. 하지만 현실은 그렇게 단순하지 않습니다.

기업이 AI를 도입해 비용을 절감하는 과정은 사실 매우 복잡하고 시간이 많이 듭니다. 결코 간단하거나 저렴하지 않죠.

실제로 기업들은 “AI 컴퓨터 한 대로 직원 1만 명을 대체합니다”라고 말하지 않습니다. AI가 지금 당장 영향을 미치는 분야는 일부 저숙련 일자리에 한정될 뿐, 중간 관리자급의 화이트칼라 업무를 대체한다는 증거는 아직 찾기 힘듭니다.

 

‘AI 때문’이라는 말의 숨은 뜻

그렇다면 왜 이렇게 AI가 주범처럼 이야기될까요? 여기에는 월스트리트의 기대감이 큰 역할을 합니다.

AI 혁신에 대한 기대가 높아지면서, CEO들은 AI를 비즈니스에 활용해야 한다는 압박을 받고 있습니다. 심지어 AI 관련 성과를 내지 못하면 2년 안에 해고될 수 있다는 두려움을 느낀다는 CEO가 79%에 달한다는 조사도 있습니다.

이런 상황은 경영진에게 ‘AI 워싱’의 유혹을 만듭니다. 실제로는 경영 실적이 나빠져서 사람을 내보내는 것인데도, “AI 때문에 구조조정을 한다”고 발표하는 것이죠.

놀랍게도 월스트리트는 ‘AI’라는 단어가 붙은 발표를 좋아합니다. AI를 이유로 들면 주가가 오히려 오르는 현상까지 나타나고 있습니다.

 

진짜 해고의 이유는 따로 있다

사실 최근의 해고는 AI보다는 다른 이유와 더 깊게 연관되어 있습니다. 많은 경우, 이는 대대적인 기업 구조 개편이나 비용 절감 노력의 일환입니다.

지난 몇 년간 많은 기업의 몸집이 거대해졌습니다. 불필요한 중간 관리 직책이 늘어나고, 하나의 프로젝트를 진행하는 데도 너무 많은 결재 단계를 거쳐야 했죠.

소위 ‘기업 비만’ 상태가 된 것입니다. 직원들은 실제 일하는 시간보다 회의에 더 많은 시간을 쓰게 됩니다.

하지만 고금리와 소비 심리 위축 같은 경제적 어려움이 닥치자, 기업들은 이런 비대한 구조를 더 이상 유지할 수 없게 되었습니다. 불필요한 관리 계층을 3~4단계씩 줄여야만 고객에게 더 빠른 결과물을 내놓을 수 있게 된 것이죠.

 

구조조정은 정말 최선일까

그렇다면 이렇게 인력을 감축하는 것이 항상 옳은 답일까요? 흥미롭게도 최근 몇 년간의 연구는 다른 이야기를 합니다.

연구에 따르면, 해고를 최대한 미루고 버티는 기업이 장기적으로 더 나은 재무 성과를 거두는 것으로 나타났습니다.

인력 감축으로 아낄 수 있는 비용은 생각보다 크지 않습니다. 반면, 나중에 경기가 회복되었을 때 새로운 사람을 뽑고 교육하며 조직을 안정시키는 데는 훨씬 더 큰 비용과 시간이 들기 때문입니다.

‘AI가 모든 일자리를 빼앗을 것’이라는 이야기는 매우 자극적입니다. 하지만 우리는 더 확실한 증거가 나오기 전까지, 이 말을 조금 더 신중하게 받아들일 필요가 있습니다.

 

출처: CNBC 유튜브

 

인공지능(AI)이 마치 공기처럼 우리 삶에 스며들고 있습니다. 생성형 AI가 세상을 바꾸리라는 예측은 이제 기정사실처럼 느껴집니다. 하지만 이 거대한 변화 속에서, 정작 ‘나의 일’ 혹은 ‘우리 회사’의 미래 전략은 무엇이 되어야 할까요?

무작정 AI 기술을 도입하는 것이 해답은 아닐 겁니다. 수많은 기업이 AI라는 거대한 파도 앞에서 고민합니다. 불확실한 미래에 대응하기 위한 선도적인 기업의 생존 전략은 우리에게 중요한 인사이트를 제공합니다. 글로벌 무대에서 AI를 통해 새로운 성장의 길을 모색하는 한 기업의 전략을 통해 그 답을 찾아봅니다.

 

소버린 AI, ‘놓쳤을 때의 대가’에 투자해야 하는 이유

현재 AI를 둘러싼 논의는 소버린 AI(Sovereign AI)와 버티컬 AI(Vertical AI) 두 축으로 나뉩니다.

소버린 AI는 쉽게 말해 ‘국가적 차원의 AI 역량 확보’를 의미합니다. 주변의 평가를 들어보면 소버린 AI에 대해 부정적인 시각이 60%, 긍정적인 시각이 40% 정도라고 합니다.

단순 확률로만 본다면 부정적인 의견이 더 많으니 시도하지 않는 것이 합리적일 수 있습니다. 그러나 이 계산에는 결정적인 함정이 있습니다. 만약 소버린 AI를 시도하지 않았는데 그 방향이 맞다면, 우리가 잃게 되는 기댓값은 상상 이상이기 때문입니다. 실패했을 때의 손실보다 성공했을 때의 기대 이익이 압도적으로 크다면, 확률이 낮더라도 도전하는 것이 옳습니다. 소버린 AI는 결국 ‘내수’를 위한 안전망이며, 놓치지 않기 위해 투자해야 할 영역입니다.

 

결국 돈을 벌어오는 건 ‘버티컬 AI’다

반면, 버티컬 AI는 우리에게 실질적인 성과를 가져다줄 ‘수출용’ 무기입니다. 소버린 AI가 한국 시장에서 뒤처지지 않기 위한 방어적 조치라면, 버티컬 AI는 해외에서 돈을 벌어오는 공격적인 전략입니다.

버티컬 AI를 키우는 것은 단순히 특정 산업에 AI를 적용하는 것을 넘어섭니다. 이 전략은 막대한 투자와 동시에 글로벌 스케일로 인프라를 구축해야만 성공할 수 있습니다. 예를 들어, 야놀자는 지난 10년간 축적한 데이터를 기반으로 여행 산업에서 세계 시장을 선도하는 버티컬 AI를 만들겠다는 목표를 세웠습니다. 돈을 벌어올 영역에 대한 객관적이고 구체적인 계획이 필수적입니다.

 

AI 인프라를 넘어 수요를 창출할 ‘글로벌 스케일’ 전략

AI 경쟁력을 갖추기 위해서는 크게 세 가지 축이 필요합니다. ‘머리’ 역할을 하는 소버린 AI, 그리고 이를 뒷받침할 데이터센터, 마지막으로 실질적 수익을 창출할 버티컬 AI입니다.

특히 데이터센터 구축에 대해서는 신중해야 합니다. 과거 한국이 수요 고민 없이 에어하우스를 지었다가 비어있던 것처럼, 수요 예측 없이 AI 데이터센터만 짓는 것은 위험합니다.

AI 데이터센터는 지역(로컬) 단위가 아닌 글로벌 네트워크 스케일로 구성되어야 합니다. 정부와 협력하여 스타게이트(Stargate) 프로젝트와 같은 방식으로 글로벌 파트너십을 맺어야 수요에 대한 우려를 해소할 수 있습니다. 나아가, 기업이 해외 사업을 할 때 인지도가 부족하다면 ‘대한민국’이라는 브랜드를 적극적으로 활용해야 합니다. 현재 K-컬처를 필두로 한 한국의 소프트파워는 해외에서 매우 높이 평가받고 있습니다. 이 국가 브랜드는 기업의 부족한 인지도를 메워주는 강력한 글로벌 자산입니다.

 

완벽한 ‘개인화’와 ‘운영 자동화’로 만드는 Vic AI의 미래

궁극적으로 버티컬 AI 기업이 지향해야 할 목표는 명확합니다. 공급자를 위해서는 완벽한 운영 자동화를 이루어 매출과 이익을 극대화해야 합니다. 예를 들어, 고객이 호텔에 도착했을 때 리셉션 직원이 오래 걸리는 복잡한 체크인을 대체하는 ‘스마트 프론트’ 서비스가 있습니다. 하드웨어와 고객 간의 커뮤니케이션을 고도화하여 줄을 서는 불편함이나 키 카드 오류, 퇴실 시 불이 켜진 채로 나가는 비효율까지 모두 제거하는 것입니다.

사용자(고객)에게는 완벽한 개인화된 경험을 제공해야 합니다. 나에게 가장 합리적인 가격의 제품을 찾도록 돕는 것입니다. 이는 단순히 마진을 줄여 가격을 낮추는 방식이 아닙니다. 개인에게 최적화된 상품을 추천함으로써 원가를 절감하고 그만큼 가격을 낮추는 지속 가능한 방식입니다. 이러한 자동화와 개인화가 결합되어 AI 에이전트가 오케스트레이션을 하는 구조가 완성될 때, 가장 대표적인 버티컬 AI 기업이 탄생하게 됩니다.

 

새로운 도전을 위한 ‘타이밍’과 ‘능력’

지금은 스타트업에게 또 다른 기회의 ‘타이밍’이 왔습니다. 모바일 혁명기에 인프라를 깔았던 기업보다 그 위에서 서비스를 만든 기업들이 결국 스타가 되었습니다. AI 역시 마찬가지입니다. 현재는 AI 인프라가 깔리는 시기이며, 이것이 완성되고 나면 ‘수요’가 폭발할 것입니다. 그리고 그 수요는 서비스 기업에서 올 것입니다. 지금이 바로 모바일 시대의 재림과 같은 혁신적인 기회의 순간입니다.

다만, 이 기회를 잡기 위해서는 능력에 대한 자기 객관화가 필수입니다. 시장의 움직임, 고객의 페인 포인트(Pain Point), 그리고 성공을 위해 내가 갖춰야 할 능력에 대해 얕게 접근해서는 안 됩니다. 깊게 파고들수록 성공 확률이 높아집니다. 새로운 기회가 온 지금, 치열함과 치밀함을 바탕으로 깊이 있는 분석과 실행만이 우리를 미래로 이끌 것입니다.

 

출처: 티타임즈TV 유튜브

 

매일매일 쏟아지는 업무 속에서 우리는 수많은 도구와 AI 서비스를 사용하고 있습니다. 하지만 단순한 하나의 작업을 처리하기 위해 여러 시스템 사이를 오가며 데이터를 옮기고 붙여넣는 일에 지치지는 않으셨나요? 흩어진 여러 도구들을 하나의 ‘신경 시스템’처럼 엮어내, 복잡한 업무를 스스로 완수하는 새로운 AI의 시대가 열리고 있습니다. 바로 이 모든 과정을 조율하는 핵심이 ‘오케스트레이터 에이전트’입니다. 이는 곧 당신의 비효율적인 업무 방식을 근본적으로 개선할 열쇠가 될 것입니다.

오케스트레이터 에이전트: AI 도구들의 ‘신경 시스템’

오케스트레이터 에이전트는 여러 AI 에이전트나 도구들의 작업을 총괄하고 감독하는 ‘지휘자’ 역할을 수행합니다. 이 에이전트 덕분에 다양한 보조 에이전트들이 협력하여 하나의 목표를 효율적으로 달성할 수 있습니다. 수많은 하위 에이전트와 도구들이 함께 움직이며 복잡한 작업을 처리할 때, 우리는 이것을 멀티 에이전트 시스템(Multi-Agent System, MAS)이라고 부릅니다. 오케스트레이터는 이 MAS의 효율적인 운영을 가능하게 하는 핵심 요소입니다.

 

감사 노트 작성 요청, AI는 네 단계를 거칩니다

우리가 오케스트레이터 에이전트에게 “최근 프로젝트를 도와준 팀원들에게 맞춤형 감사 노트를 작성해줘”라고 요청하는 상황을 가정해 봅시다.
이 에이전트는 작업을 시작하기 전, 데이터 접근을 위한 API 연결과 업무 실행 순서를 먼저 정의합니다.
이후 에이전트 선정, 워크플로우 조정, 데이터 공유, 지속적인 학습이라는 네 가지 핵심 단계를 순차적으로 실행합니다. 이 과정을 통해 요청 사항은 인간의 개입 없이 매끄럽게 완성됩니다.

 

작업에 적합한 ‘최적의 동료’를 선택하는 방법

가장 먼저 오케스트레이터는 작업에 필요한 최적의 에이전트와 도구를 카탈로그에서 신중하게 고릅니다. 감사 노트 작성이라는 임무를 위해, 오케스트레이터는 세 가지 시스템과의 협력을 결정할 수 있습니다. 이는 팀원 정보가 담긴 프로젝트 관리 시스템, 특정 톤으로 글을 쓰는 이메일 생성 에이전트, 그리고 사내 직원 감사 앱입니다. 올바른 도구를 선택하는 이 과정은 오케스트레이터가 작업을 효율적으로 진행하기 위한 첫걸음이 됩니다.

 

API를 활용한 워크플로우의 ‘조율’과 ‘실행’

에이전트 선정을 마친 오케스트레이터는 이제 전체 작업을 여러 하위 작업으로 쪼갭니다. 그리고 이를 적절한 에이전트나 도구에 할당하며 실행을 지시합니다. 오케스트레이터는 API를 통해 프로젝트 관리 시스템에 연결하여 프로젝트에 참여한 팀원 정보를 확인합니다. 이후 이메일 생성 에이전트를 활용해 원하는 톤과 스타일로 맞춤형 감사 메시지를 작성합니다. 마지막으로, 사내 앱을 통해 실제로 노트를 발송하도록 모든 과정을 조율합니다.

 

이질적인 시스템을 연결하는 ‘USB-C 포트’: MCP

여기서 만약 팀원 정보가 있는 시스템과 감사 노트를 생성하는 AI가 서로 다른 회사에서 만들었다면 어떻게 될까요? 이질적인 시스템들은 서로의 데이터 구조를 알지 못해 통신할 수 없습니다. 이 문제 해결의 핵심이 바로 **모델 컨텍스트 프로토콜(Model Context Protocol, MCP)**입니다. 이 기술은 AI 애플리케이션을 위한 ‘USB-C 포트’와 같아서, 서로 다른 제조사의 장치라도 표준화된 방식으로 연결합니다.

 

MCP의 작동 원리: 모델, 컨텍스트, 프로토콜

MCP를 통해 에이전트는 데이터의 저장 위치나 검색 방법을 알지 못해도 “X에 대한 정보를 줘”라고 요청할 수 있게 됩니다. 여기서 M은 에이전트의 중심에 있는 대규모 언어 모델(Model)을 의미합니다. C는 작업 수행에 필요한 문서나 검색 결과 등 모든 추가적인 정보(Context)를 통칭합니다. 마지막으로 P는 모델이 다양한 도구 및 데이터 소스와 상호 작용할 수 있도록 하는 표준화된 통신 방식(Protocol)입니다.

 

작업의 완성: 산출물과 끊임없는 학습

각 하위 에이전트는 작업을 실행한 후 그 정보를 오케스트레이터 에이전트에게 다시 보냅니다. 오케스트레이터는 이 결과를 하나로 묶어 ‘산출물(Artifact)’이라는 완성된 형태로 포장합니다. 최종적으로 오케스트레이터는 팀원들에게 멋지게 작성된 감사 노트를 전달하며 업무를 마무리합니다. 더 나아가, 이 에이전트는 완료된 작업을 되돌아보며 성능을 모니터링하고 다음번 작업을 위해 개선 사항을 반영하는 지속적인 학습 과정을 거치게 됩니다.

 

오케스트레이터 에이전트를 활용한 멀티 에이전트 시스템은 단순한 자동화를 넘어섭니다. 이는 복잡하게 얽힌 업무 환경 속에서 AI가 스스로 생각하고, 협력하고, 개선하는 ‘똑똑한 자동화’의 미래를 제시합니다. 당신이 직접 여러 도구를 감독하는 대신, 이 ‘지휘자 에이전트’에게 일을 맡기고 더 중요한 핵심 업무에 집중해보세요.

출처: IBM Technology 유튜브

 

방금 AI 비서가 중요한 파트너에게 메일을 보냈다는 알림을 받았습니다. 하지만 메일 내용이 내가 의도했던 것과 완전히 다르다면 어떨까요?

특히 AI 에이전트가 ‘실행력’을 갖게 될 때, 사용자의 불안감은 커질 수밖에 없습니다. 메일 발송이나 대규모 예산 승인처럼 한 번 실행되면 되돌릴 수 없는 행동을 AI가 하기 직전, 인간이 멈춰 세우고 확인해야 합니다.

이러한 AI의 위험하거나 비싼 행동을 사전에 방지하는 것이 바로 ‘휴먼 인 더 루프(Human-in-the-Loop, HIL)’ 미들웨어의 핵심입니다. HIL은 AI의 효율성과 인간의 최종 통제력을 결합하는 필수적인 안전장치입니다.

 

AI 에이전트의 기본적인 ‘실행 루프’

AI 에이전트는 기본적으로 모델이 외부 도구를 호출하는 반복적인 작업을 수행합니다. 모델은 최종적인 응답을 사용자에게 전달하기 전까지 필요한 도구를 연쇄적으로 계속 실행합니다.
예를 들어, 메일을 보내야 한다면 ‘메일 발송 도구(Send Email Tool)’를 호출하는 식입니다. HIL 미들웨어는 이 실행 루프의 중간에 인간의 개입 단계를 추가하여 안전성을 높입니다.

 

비싸거나 위험한 도구 실행을 막는 방패

HIL 미들웨어는 도구 실행이 실제 돈이 들거나(Expensive) 큰 비즈니스 리스크를 수반할 때 특히 유용합니다. 실제 결제가 일어나는 금융 API를 호출하거나, 대량의 고객 데이터를 삭제하는 등의 행위가 여기에 해당합니다. 미들웨어는 모델이 도구 호출을 결정하는 순간 그 실행을 잠시 멈춥니다. 그 후 인간 사용자의 최종적인 피드백을 받고 나서야 실제 도구 실행을 조건부로 재개합니다.

 

HIL 미들웨어가 제공하는 세 가지 의사결정 방식

HIL은 단순한 ‘실행 또는 중지’를 넘어 세밀한 인간의 통제를 지원합니다. 사용자가 AI의 잠재적 행동에 대해 내릴 수 있는 가장 일반적인 세 가지 의사결정 방식이 있습니다.

첫째, 승인(Approval)은 AI가 작성한 내용(예: 메일 초안)을 검토한 후 이상이 없다고 판단할 때 사용합니다. 초안은 작성된 그대로 최종 발송이 진행됩니다.
둘째, 수정(Edit)은 AI의 초안에 수신자 변경이나 문구 수정과 같은 부분적인 편집이 필요할 때 사용합니다. 수정된 내용을 바탕으로 도구 실행이 즉시 재개됩니다.
셋째, 거부(Rejection)는 AI의 초안을 완전히 거부하고 모델에게 왜 다시 작성해야 하는지 피드백 메시지를 제공할 때 선택합니다.

 

100만 달러 예산 승인 사례로 본 안전장치 작동

예를 들어, AI 에이전트에게 100만 달러(약 10억 원) 규모의 분기 예산 승인 메일을 파트너에게 작성하도록 요청하는 상황을 가정해 봅시다. AI는 “검토 후 승인했습니다”는 내용으로 메일 초안을 만들고 이를 발송 도구에 전달합니다.

이때 HIL 미들웨어가 즉시 개입하여 실행을 가로챕니다. 만약 성급한 승인이 부담된다면, 사용자는 ‘수정’ 옵션을 선택하여 “제안을 상세 검토 중입니다. 곧 최종 확정본을 보내드리겠습니다”라는 신중한 문구로 직접 변경하여 발송할 수 있습니다.

혹은 ‘거부’ 옵션으로 “세부 제안 내용에 대한 더 많은 정보가 필요합니다”라는 메시지를 모델에 되돌려 보냅니다. 모델은 이 피드백을 학습하여 메일 초안을 개정하고, 개정된 초안은 다시 HIL 미들웨어를 거쳐 최종 승인을 기다리게 됩니다.

HIL 미들웨어는 AI 에이전트가 복잡하고 민감한 비즈니스 로직을 수행하는 환경에서 인간의 통제력을 유지하는 핵심 기술입니다. 우리는 AI에게 업무를 위임하는 동시에, 최종적인 책임과 판단을 놓치지 않는 균형 잡힌 시스템을 구축해야 합니다.

 

출처: LangChain 유튜브

 

다음 세대 AI는 왜 인간의 감정을 이해해야 하는가? 엘리븐랩스 CEO가 말하는 ‘음성 인터페이스’ 혁신

혹시 해외 영화를 볼 때 어색한 한국어 더빙 때문에 몰입이 깨진 경험이 있으신가요? 혹은 AI 스피커에게 말을 걸 때, 감정 없는 모노톤의 답변에 답답함을 느낀 적은 없으신가요? 기술이 발전했음에도 불구하고, 여전히 우리가 마주하는 AI 음성은 차갑고 기계적입니다.

우리의 일상 대화는 단순한 단어 전달이 아닌, 감정과 뉘앙스가 담긴 복잡한 경험입니다. 그리고 바로 이 지점, ‘인간의 감정을 포착하는 음성 AI’에 집중하여 폭발적으로 성장한 기업이 있습니다. 바로 엘리븐랩스(ElevenLabs)입니다. 엘리븐랩스의 CEO인 마티 스타니셰프스키(Mati Staniszewski)가 말하는 다음 세대 AI 인터페이스의 혁신 전략을 깊이 들여다봅니다.

 

감정을 이해하는 음성 합성: AI의 새로운 문맥 이해 능력

엘리븐랩스가 처음 해결하고자 했던 문제는 ‘문맥’이었습니다. 기존의 음성 합성(Text-to-Speech) 모델은 단지 텍스트를 소리로 변환하는 역할에 머물렀습니다. 하지만 엘리븐랩스는 단순히 텍스트를 읽는 것을 넘어섭니다.

이들의 모델은 문장이 담고 있는 감정과 억양, 맥락을 이해하고 목소리에 반영합니다. 나이, 성별, 특정 지역의 억양과 같은 미세한 목소리 특성까지 포착하여 구현해냅니다. 이 핵심 기술을 바탕으로 엘리븐랩스는 텍스트-음성 변환뿐만 아니라 음성-텍스트, 그리고 AI 에이전트 플랫폼까지 영역을 확장하고 있습니다.

 

속도를 위한 결단: 연구와 제품 사이의 3개월 규칙

기술 스타트업이 마주하는 가장 어려운 숙제는 연구(R&D)의 완성도와 제품(Product) 출시 속도의 균형을 맞추는 일입니다. 엘리븐랩스 역시 이 딜레마를 피해 갈 수 없었습니다. 초기에는 고객들이 음성 속도를 조절하는 슬라이더 기능을 요구했습니다.

하지만 CEO는 단순한 편집 기능을 추가하기보다는 연구 단계에서 음성 속도를 완벽하게 해결하려 했습니다. 결국 9개월 동안 연구팀은 이 문제를 풀지 못했고, 그 사이에 제품팀이 간단한 슬라이더 기능을 출시했습니다. 이 경험을 통해 엘리븐랩스는 중요한 교훈을 얻었습니다. 만약 연구 해결에 3개월 이상이 걸릴 것이 예상되면, 제품팀은 즉시 사용자에게 필요한 임시 기능이라도 출시하여 시장의 피드백을 받기로 결정했습니다.

 

전권을 부여한 소규모 팀과 타이틀 없는 조직 문화

엘리븐랩스는 조직 구조에서도 독특한 방식을 고수합니다. 현재 5명에서 10명 규모의 소규모 제품팀 약 20개가 운영되고 있습니다. 각 팀에게는 제품 출시에 대한 완전한 독립성과 전권이 부여됩니다.

이러한 방식은 중복된 작업을 발생시키기도 하지만, 팀원 개개인의 오너십을 극도로 높이는 결과를 가져왔습니다. 또한, 엘리븐랩스는 1년 전부터 직위(Title)를 없앴습니다. 팀에 합류한 지 얼마 되지 않았더라도, 뛰어난 능력과 열정을 보여주면 연차에 상관없이 빠르게 영향력을 발휘할 수 있습니다.

 

창작 생태계와의 상생: 보이스 마켓플레이스 전략

AI가 등장했을 때, 창작자들 사이에서는 일자리를 위협하는 기술이라는 부정적인 반응이 많았습니다. 엘리븐랩스는 이러한 초기 반발을 피하고 산업과 함께 성장하는 전략을 택했습니다. 이들이 출시한 서비스가 바로 ‘보이스 마켓플레이스’입니다.

성우나 일반 사용자는 자신의 목소리를 공유하고, 해당 목소리가 사용될 때마다 수익을 분배받습니다. 현재까지 약 1만 개의 목소리가 등록되었고, 커뮤니티에 100억 원 이상의 수익이 지급되었습니다. 이 전략은 AI가 일방적으로 산업을 파괴하는 것이 아니라, 오히려 새로운 수익 창출 기회를 제공할 수 있음을 입증했습니다.

 

기업 전환의 핵심: 인센티브 설계

엘리븐랩스는 개인 사용자 중심의 PLG(Product-Led Growth) 모델로 시작했지만, 결국 엔터프라이즈(기업) 시장으로 진출했습니다. 기업 고객을 유치하는 과정은 단순히 제품이 좋은 것을 넘어섭니다. 보안, 규정 준수, 그리고 99.99% 이상의 고가용성을 갖춘 인프라 구축이 필수적입니다.

특히 흥미로운 점은 기업 영업팀의 인센티브(성과급) 설계에 대한 CEO의 통찰입니다. 조직이 커지면서 인센티브 구조는 결국 회사의 전략을 결정하는 ‘후행 지표’가 됩니다. CEO는 영업팀에게 인센티브를 포기하더라도, 장기적인 회사 전략에 해가 되는 딜(예: 경쟁사에 핵심 모델을 판매하는 행위)은 스스로 거절하도록 독려했습니다. 이처럼 인센티브와 전략을 일치시키는 것이 대규모 조직을 이끄는 핵심입니다.

엘리븐랩스의 이야기는 단순히 목소리 기술의 발전사를 넘어, 급변하는 AI 시대에 기업이 어떻게 문화, 조직 구조, 그리고 시장 전략을 동시에 혁신해야 하는지를 보여줍니다. 인간의 감정을 이해하는 AI를 만들겠다는 목표처럼, 그들의 경영 방식 또한 인간적인 연결과 오너십을 기반으로 하고 있습니다.

출처: a16z 유튜브

 

멋진 AI 데모를 보고 감탄한 경험, 다들 한 번쯤 있죠. 하지만 막상 우리가 만든 AI 제품을 출시하면, 예상치 못한 곳에서 문제가 터지곤 합니다. 분명히 테스트할 땐 완벽했는데, 왜 이런 일이 생길까요? 이 글은 AI 앱의 품질을 ‘진짜로’ 측정하고 개선하는 법에 대한 이야기입니다.

 

테스트를 통과한 ‘과일 글자 수 세기’ 앱

여기 ‘과일 글자 수 세기’라는 간단한 앱이 있습니다. 말 그대로 과일 이름의 글자 수를 세어주는 AI 앱입니다. ‘apple’을 입력하니 ‘5’이라고 정확히 답했습니다. 두 번이나 테스트에 성공했고, 저희는 자신 있게 제품을 출시했습니다.

 

“딸기에 R이 2개라는데요?”

하지만 출시 직후, ‘존’이라는 이름의 사용자에게서 트윗이 날아왔습니다. “딸기(Strawberry)에 R이 몇 개냐고 물었더니 2개라고 답했어요.” AI 모델은 본질적으로 신뢰하기 어렵습니다. 데모에서는 멋져 보이지만, 실제 운영 환경에서는 환각(Hallucination)이 우리를 기다립니다.

 

프롬프트 엔지니어링, 10번의 성공, 그리고 또다시 실패

우리는 포기하지 않고 프롬프트를 개선하기 위해 밤을 새웠습니다. “활기 넘치는 과일 애호가 AI…”로 시작하는 멋진 프롬프트를 만들었습니다. 이번엔 같은 질문으로 10번 연속 테스트했고, 10번 모두 성공했습니다.

하지만 존은 다시 나타났습니다. 그는 이번에 “딸기, 바나나, 파인애플, 망고…” 등 긴 과일 목록을 한꺼번에 질문했습니다. 사용자는 우리가 상상하지 못한 방식으로 앱을 사용합니다. 앱의 로그인, UI 등 95%가 완벽해도, 가장 치명적인 5%의 AI 로직이 실패할 수 있습니다.

 

해답은 ‘농구 코트’에 있습니다

여기서 바로 ‘이밸(Eval)’, 즉 AI 평가의 개념이 등장합니다. 이를 설명하기 위해 농구 코트 비유를 들어보겠습니다. 골대는 ‘정답’, 농구공을 던지는 행위는 ‘사용자 질문(Task)’입니다. 슛이 성공하면 ‘파란색 점(성공)’, 실패하면 ‘빨간색 점(실패)’입니다.

 

우리 앱의 ‘코트’는 어떻게 생겼을까?

좋은 이밸을 만들려면, 먼저 우리 앱의 ‘코트’를 이해해야 합니다. “딸기에 R이 몇 개?”처럼 쉬운 질문은 골대와 가까운 ‘파란 점’일 것입니다. 존의 긴 과일 목록 질문은 골대에서 아주 먼 ‘빨간 점’이겠죠.

이 ‘코트’를 그릴 때 흔히 빠지는 함정이 있습니다. 첫째, ‘코트 밖(out-of-bounds)’ 질문에 시간을 낭비하는 것입니다. ‘당근의 음절은 몇 개?’ 같은 질문은 우리 앱의 영역이 아니죠. 둘째, 골대 앞 쉬운 질문만 테스트하는 것입니다. 코트의 경계를 명확히 알고, 구석구석 모든 영역을 테스트해야 합니다.

 

사용자 데이터 수집, 지름길은 없습니다

이 빨간 점과 파란 점들은 어떻게 수집할까요? 사용자의 ‘좋아요/싫어요’ 피드백은 훌륭한 신호가 될 수 있습니다. 꾸준히 로그를 살피며 무작위 샘플을 확인하는 것도 좋은 방법입니다.

커뮤니티 포럼이나 트위터에서 사용자의 실제 불만을 직접 파악할 수도 있습니다. 안타깝게도 이 ‘코트’를 이해하는 작업에는 지름길이 없습니다. 제대로 된 데이터셋을 구축하면, 우리 시스템이 코트의 ‘우측 하단’에서 유독 약하다는 식의 명확한 진단을 내릴 수 있습니다.

 

이밸은 유닛 테스트가 아닙니다

이밸은 유닛 테스트와 근본적으로 다릅니다. 이밸은 ‘실전 연습’에 가깝습니다. “딸기에 R이 몇 개?” 같은 ‘데이터(질문)’는 상수로 고정합니다.

우리가 실제로 바꾸며 테스트할 것은 ‘태스크(변수)’입니다. 예를 들어, 새로운 시스템 프롬프트나 RAG 설정을 이 변수에 넣고 테스트합니다. 이렇게 하면, 연습(이밸)이 실전(운영)과 거의 동일한 코드를 공유하게 되어 매우 효율적입니다.

 

점수 매기기, 단순할수록 좋습니다

마지막 단계는 이 슛이 성공했는지 ‘점수’를 매기는 것입니다. 이 점수 시스템은 가능한 한 ‘결정론적(deterministic)’이고 ‘성공/실패’로 명확해야 합니다. 점수판이 복잡하면 무엇이 잘못됐는지 디버깅하기가 극도로 어려워집니다.

스스로에게 “이 테스트가 실패했다는 것을 알려면 무엇을 확인해야 하지?”라고 질문해 보세요. 때로는 이밸 전용 프롬프트에 <answer> 같은 태그를 추가해, 점수 매기기(스트링 매칭)를 더 쉽게 만드는 트릭을 쓸 수도 있습니다. 정 코드로 만들기 어렵다면, 사람이 직접 리뷰하는 것도 괜찮습니다.

 

측정이 없으면, 개선도 없습니다

이밸 시스템을 CI(지속적 통합)에 연결하는 것을 적극 권장합니다. 동료가 프롬프트를 수정한 PR을 올렸을 때, 이 변경이 코트의 한쪽을 고쳤지만 다른 쪽을 망가뜨렸는지 바로 알 수 있습니다. “측정 없는 개선은 제한적이고 부정확합니다.”

이밸은 우리에게 시스템을 체계적으로 개선할 수 있는 ‘명확성’을 줍니다. 이는 더 높은 신뢰도, 더 높은 품질로 이어집니다. 결국 고객 지원에 쏟는 시간을 줄이고, 더 나은 사용자 경험을 만드는 선순환을 만들게 될 것입니다.

출처: AI Engineer 유튜브