Time To Be

블로그

  • 챗봇만으로는 안 되는 일: 은행 대출을 승인하는 ‘멀티 에이전트 AI’의 작동 원리

    대규모 언어 모델(LLM)을 활용한 에이전트 AI는 혁신적인 기술로 큰 주목을 받고 있습니다. 그러나 LLM은 데이터의 일관성이나 프로세스 관리 등에서 분명한 한계와 제약이 존재합니다. 단순히 하나의 도구만으로는 복잡한 비즈니스 문제를 해결하고 엄격한 규제를 충족하기 어렵습니다.

    따라서 우리는 입증된 다른 자동화 기술을 LLM과 결합한 **’멀티 메서드 에이전트 AI’**를 도입해야 합니다. 이러한 접근 방식은 시스템을 더욱 투명하고 적응력 있게 구축할 수 있도록 돕습니다. 우리는 은행의 대출 신청 프로세스를 통해 이 복합적인 에이전트 프레임워크가 어떻게 작동하는지 자세히 살펴보겠습니다.

     

    고객 접점 및 정보 처리

    은행 고객은 이제 길고 지루한 양식 작성을 원하지 않으며, 대화형 경험을 선호합니다. 이를 위해 챗 에이전트가 고객 상호 작용의 최전선에서 작동합니다. 챗 에이전트는 고객의 의도와 발화를 정확하게 이해하는 LLM을 기반으로 합니다.

    이 에이전트는 고객의 입력(질문 또는 요청)을 은행 시스템이 처리할 수 있는 형태로 변환합니다. 변환된 요청은 시스템 내부의 오케스트레이션 에이전트에게 전달됩니다. 오케스트레이션 에이전트 역시 LLM을 사용하며, 요청의 성격에 따라 다음 행동을 수행할 적절한 에이전트를 찾아 연결합니다.

    고객이 대출 정책에 대해 질문할 경우, 오케스트레이션 에이전트는 대출 정책 에이전트를 호출합니다. 이 에이전트는 은행의 방대한 문서 자료를 활용하여 답변을 생성합니다. 특히 검색 증강 생성(RAG) 기술을 활용해 문서에서 관련성 높은 정보를 빠르게 찾아 명쾌한 자연어 답변을 만듭니다.

     

    복잡한 프로세스 및 상태 관리

    고객이 단순히 질문을 넘어 “대출을 신청하고 싶다”는 구체적인 요청을 할 때, 시스템은 실행 단계를 시작합니다. 대출 신청 에이전트는 여러 단계로 이루어진 복잡한 프로세스를 관리해야 합니다. 대출 신청은 한 번에 완료되지 않을 수 있어, 에이전트는 진행 상황인 ‘상태(State)’를 반드시 기억해야 합니다.

    LLM은 이러한 상태 관리에 취약하므로, 이 에이전트는 워크플로우 기술 플랫폼을 기반으로 구축됩니다. 워크플로우 플랫폼은 비즈니스 프로세스 모델링 표기법(BPMN)과 같은 방식으로 프로세스를 정의합니다. 또한 데이터베이스를 통해 개별 고객의 진행 상태를 추적하여 중단 후에도 매끄러운 경험을 보장합니다.

    투명하고 일관된 결정 수행

    워크플로우의 중요한 단계는 고객이 대출 적격성(Eligibility)이 있는지를 판단하는 것입니다. 이 역할은 적격성 에이전트가 수행합니다. 대출 결정은 규제 준수를 위해 항상 일관성 있고 투명하며 설명 가능해야 합니다.

    LLM은 이 일관성과 투명성을 보장하기 어렵기에, 은행은 비즈니스 규칙 관리 시스템(BRMS) 또는 결정 플랫폼을 사용합니다. 이 시스템은 명시적인 논리를 적용하여 모든 고객에게 동일한 기준을 일관되게 적용합니다. 더불어 데이터 에이전트는 고객 정보나 외부 신용 조사국 데이터 등을 제공하여 결정 과정을 지원합니다.

    비정형 데이터 처리 및 전문가 지원

    고객이 대출을 원하는 자산(예: 보트)에 대한 정보를 브로슈어와 같은 비정형 문서로 제공할 수도 있습니다. 문서 수집(Ingestion) 에이전트는 이 역할을 능숙하게 처리합니다. 이 에이전트는 LLM의 뛰어난 분석 능력을 활용합니다.

    LLM은 흐릿한 사진이나 수기로 작성된 가격표, 스테이플러 자국 등으로 복잡해진 문서에서도 핵심 데이터를 정확하게 추출합니다. 이를 통해 복잡한 비정형 데이터를 빠르고 효율적으로 시스템에 통합할 수 있습니다.

    만약 대출 심사 결과가 보류되어 고객이 콜센터 상담원과 대화해야 할 경우, 두 가지 보조 에이전트가 상담원을 돕습니다. 컴패니언 에이전트는 모든 고객 정보(신용 기록, 신청서, 자산 정보 등)를 빠르게 요약하여 상담원에게 제공합니다. 또한 익스플래이너 에이전트는 결정 에이전트가 만든 내부 심사 기록을 상담원이 고객에게 설명할 수 있는 자연어 형태로 번역해줍니다.

     

    은행의 대출 프로세스 시스템은 대화형 LLM과 신뢰성 높은 결정 및 워크플로우 기술이 성공적으로 결합된 사례입니다. 고객에게는 자연스러운 대화처럼 느껴지지만, 그 뒤에서는 정교하고 신뢰할 수 있는 자동화가 작동합니다.

    LLM은 고객 의도 파악과 비정형 데이터 처리 속도를 높이는 역할을 수행합니다. 반면, 워크플로우 및 결정 에이전트는 일관된 실행과 투명성을 보장하며 중대한 업무를 담당합니다. 이처럼 에이전트 기술을 다각도로 조합하는 것이 복잡하고 규제가 엄격한 환경에서 성공하는 핵심 전략이 됩니다.

     

    출처: IBM Technology 유튜브

     

  • 엔비디아 없이 AI를? 아마존의 거대한 도박

    최근 AI 기술 경쟁은 ‘엔비디아 GPU’를 누가 더 많이 확보하느냐의 싸움처럼 보였습니다. 그런데 아마존(AWS)이 이 공식을 깨는 거대한 프로젝트를 공개했습니다. 엔비디아 칩 없이, 오직 자체 칩으로만 운영되는 초대형 AI 데이터 센터를 구축한 것입니다.

    이 데이터 센터는 단순한 실험이 아닙니다. 아마존이 AI 시대의 주도권을 잡기 위해 꺼내든 핵심 전략을 보여줍니다. 과연 아마존은 어떻게 엔비디아의 그늘에서 벗어나려 하는지, 그 거대한 계획의 면면을 살펴보았습니다.

    핵심은 자체 칩 ‘트레이니엄’

    아마존이 공개한 ‘프로젝트 러니어(Project Reineer)’의 핵심은 바로 자체 개발한 AI 칩입니다. 이 데이터 센터는 엔비디아 GPU 대신, 수십만 개의 아마존 ‘트레이니엄 2(Tranium 2)’ 칩으로 가득 차 있습니다. 이는 세계에서 가장 큰 비(非)엔비디아 칩 클러스터입니다.

    아마존이 자체 칩에 집중하는 이유는 분명합니다. 바로 비용과 공급 안정성입니다. 트레이니엄 칩은 엔비디아 GPU 대비 더 나은 가격 대비 성능을 제공하며, 무엇보다 공급망 문제에서 자유롭습니다. 아마존은 이미 2013년부터 자체 칩을 설계해왔고, 트레이니엄은 그 기술력의 집약체입니다.

     

    단 한 곳의 고객, 앤트로픽

    더욱 놀라운 점은 이 거대한 시설이 단 한 곳의 고객을 위해 운영된다는 사실입니다. 그 주인공은 OpenAI의 라이벌로 꼽히는 ‘앤트로픽(Anthropic)’입니다. 아마존은 앤트로픽에 약 80억 달러를 투자하며 핵심 AI 파트너로 삼았습니다.

    이번 프로젝트는 단순한 고객 지원을 넘어섭니다. 앤트로픽은 아마존의 차세대 칩 ‘트레이니엄 3’ 개발에도 긴밀하게 협력했습니다. 즉, 아마존은 하드웨어를 제공하고 앤트로픽은 그 위에서 최고의 AI 모델을 구현하는 강력한 동맹을 구축한 것입니다.

     

    직접 경쟁 대신 ‘판’을 까는 전략

    아마존의 AI 전략은 구글이나 OpenAI와는 조금 다릅니다. 이들은 자체적인 플래그십 AI 모델을 만드는 데 집중합니다. 반면 아마존은 ‘AWS 베드락(Bedrock)’ 플랫폼을 통해 다양한 AI 모델이 활약할 수 있는 ‘판’을 까는 데 주력하고 있습니다.

    앤트로픽과의 파트너십은 이러한 전략의 정점입니다. 아마존은 최고의 인프라(트레이니엄 칩과 데이터 센터)를 제공함으로써, AI 시장의 핵심 ‘기반 기술’ 공급자로 자리매김하려 합니다.

     

    거대한 프로젝트의 그림자

    하지만 이 거대한 프로젝트에는 명확한 그림자도 존재합니다. 인디애나주 옥수수밭을 밀어내고 1년 만에 세워진 이 시설은 총 30개 동, 2.2기가와트(GW)의 전력을 소비할 예정입니다. 이는 100만 가구 이상이 사용할 수 있는 막대한 양입니다.

    지역 주민들은 농지 손실은 물론, 엄청난 전력과 물 소비로 인한 부담을 우려하고 있습니다. 전력 공급을 위해 지역 전력회사가 천연가스 발전소를 인수하는 등, 아마존의 ‘2040년 넷 제로(Net Zero)’ 목표와 상충하는 모습도 보입니다. 막대한 세금 감면 혜택에 비해 지역 사회에 돌아오는 이익이 적다는 비판도 나옵니다.

     

    AI 패권을 향한 새로운 길

    아마존의 이번 행보는 AI 패권 경쟁이 단 하나의 정답만 있는 것이 아님을 보여줍니다. 모두가 엔비디아를 바라볼 때, 아마존은 자체 하드웨어와 강력한 파트너십이라는 자신만의 길을 선택했습니다.

    이 거대한 도박이 아마존을 AI 시대의 진정한 승자로 만들 수 있을지는 아직 알 수 없습니다. 하지만 한 가지는 분명합니다. AI 인프라 전쟁은 이제 막 새로운 국면에 접어들었습니다.

     

    출처: CNBC 유튜브

     

  • AI, 대기업이 못하는 이유? 스타트업에겐 기회입니다

    ‘AI 프로젝트 95%가 실패한다’는 말을 들으면, 어떤 생각이 드시나요? AI가 거품이 아닐까, 불안감이 들기 쉽습니다. 하지만 이 숫자 뒤에는 완전히 다른 이야기가 숨어있습니다. 놀랍게도, 이 현상은 스타트업에게 엄청난 기회가 되고 있습니다.

    거대한 애플, 구글조차 AI 앞에서 고전하는 이유, 그리고 그 빈틈을 스타트업이 어떻게 차지하는지. 그 이유를 명확하게 알려드립니다.

     

    대기업은 왜 AI에 실패할까요?
    대기업의 AI 프로젝트 실패율이 높은 건, 우연이 아닙니다. 명확한 이유가 있죠. MIT 연구에 따르면, 실패한 프로젝트의 3분의 2는 내부 IT팀이 직접 만들었거나, 언스트앤영(E&Y) 같은 거대 컨설팅사에 맡긴 경우였습니다. 한마디로, 대기업의 일하는 방식 자체가 AI와 맞지 않는 겁니다.

    자원은 무한해도, 결과는 다릅니다
    사실, 대기업은 원래 소프트웨어 개발에 서툴렀습니다. 놀랍지만 사실이죠. 세계 1위 애플조차 매일 쓰는 ‘캘린더 앱’의 버그 하나를 완벽하게 잡지 못합니다. 무한한 돈과 최고의 인재를 가진 애플도 이 정도라면, 일반 기업의 IT팀이 복잡한 AI 시스템을 만드는 건 얼마나 어려울까요? 문제는 자원이 아니었습니다.

    ‘정치’는 해결하지만, ‘제품’은 못 만듭니다
    내부에서 안 되면, 밖으로 눈을 돌립니다. 거대 컨설팅사를 부르죠. 이들은 여러 부서의 ‘정치’를 조율하고 멋진 보고서를 쓰는 데는 전문가입니다. 하지만 딱 거기까지입니다. 복잡한 AI를 실제 ‘제품’으로 구현할 기술력이 부족합니다. 결국 ‘사공이 많아 산으로 간 배’처럼, 쓸모없는 결과물만 남게 되죠.

    가장 큰 적은 ‘내부의 불신’입니다
    하지만 진짜 문제는 조직 내부에 있습니다. 바로 ‘AI 회의론’이죠. AI를 그저 ‘과장된 유행’이라며 믿지 않는 엔지니어들이 너무 많습니다. 이들은 AI 코딩 툴을 쓰지 않고, AI의 한계를 지적하는 기사에만 열광합니다. 만들어야 할 사람부터 AI를 믿지 않는데, 제대로 된 제품이 나올 수 있을까요? 당연히 불가능합니다.

    스타트업이 파고들 ‘틈’
    대기업 내부, 컨설팅사, 기존 업체까지 모두가 실패했습니다. 시장엔 거대한 ‘틈’이 생겼죠. AI에 대한 수요는 폭발하는데, 아무도 해결해주지 못하는 겁니다. 바로 이 지점에서 대기업은 절박해졌습니다. 그리고 놀랍게도, 스타트업에게 손을 내밀기 시작했습니다. 이전에는 상상도 못 할 기회입니다.

    왜 스타트업은 성공할까요?
    스타트업은 뭐가 다를까요?

    첫째, 창업가입니다. AI 기술, 제품 감각, 그리고 비즈니스 현장 이해까지. 이 모든 걸 갖춘 ‘폴리매스(박식가)’가 문제를 해결합니다.

    둘째, ‘제품의 탁월함’입니다. YC의 ‘그린라이트’는 거대 컨설팅사가 1년 걸려 실패한 은행 시스템을 성공시켰습니다. ‘리덕트’는 빅테크 기업이 수년간 못한 문서 처리 시스템을 오직 ‘제품력’ 하나로 뚫었죠.

    승리의 전략: ‘진정성’입니다
    거대 기업을 뚫는 전략은 의외로 간단합니다. 정장을 입고 기존 기업을 흉내 내는 게 아닙니다. 오히려 스타트업다운 ‘진정성’과 ‘낙관’이 무기가 됩니다. 내부의 ‘챔피언’을 내 편으로 만드는 겁니다. 스타트업을 꿈꿨지만 시도하지 못한 그들은, 창업가의 열정에 감염되어 든든한 아군이 되어줍니다.

    진짜 기회는 ‘힘든 일’에 있습니다
    전문가들이 ‘AI가 과대평가되었다’고 말할 때, 사람들은 AI가 끝났다고 오해합니다. 하지만 그 말의 진짜 뜻은 다릅니다. ‘프롬프트 한 줄로 마법은 일어나지 않는다’는 겁니다. 데이터를 다듬고, 맥락을 만들고, 훌륭한 툴을 만드는 ‘힘든 작업’이 필요하다는 뜻이죠.

    바로 이 ‘힘든 일’이 스타트업을 위한 진짜 기회입니다. 모든 것을 ‘AI 네이티브’로 다시 만들어야 하는 거대한 시장이 열렸습니다.

    95%의 실패, 5%의 기회
    한 금융사 CIO는 말합니다. “일단 한 AI 시스템에 시간을 투자하면, 바꾸는 건 거의 불가능하다.” 이것이 스타트업의 진정한 ‘해자(Moat)’가 됩니다. 기술이 아니라, 기업의 핵심에 깊숙이 파고들어 만들어낸 ‘전환 비용’이죠.

    95%가 실패한다는 통계에 겁먹을 필요 없습니다. 그건 대기업의 이야기입니다. 나머지 5%의 성공은, 기술과 제품, 그리고 사람을 꿰뚫어 보는 스타트업의 몫입니다. 이 거대한 기회는 바로 당신의 것이 될 수 있습니다.

  • 쓰레기는 정말 쓸모없을까? ‘버려진 것’에서 미래 자원을 찾는 혁신

    우리는 매일 엄청난 양의 쓰레기를 만들어냅니다. 전 세계에서 사용되는 모든 물질의 약 90%가 결국 폐기물로 버려지고 맙니다. 하지만 자연계에는 ‘쓰레기’라는 개념 자체가 존재하지 않습니다. 모든 것은 유기적으로 순환하며 스스로를 처리합니다. 이러한 관점에서 폐기물을 단순히 버려야 할 대상이 아니라, 아직 사용 방법을 찾지 못한 잠재적인 자원으로 재정의하는 혁신이 전 세계적으로 일어나고 있습니다. 덴마크, 미국, 인도에서 쓰레기에 대한 인식을 완전히 바꿔버린 놀라운 사례들을 살펴봅니다.

    유럽의 선진 모델: 쓰레기 소각장 위의 스키장, 코펜힐

    덴마크 코펜하겐은 유럽에서도 가장 진보한 재활용 시스템을 자랑합니다. 이 도시는 모든 폐기물의 65%를 재활용하고 있으며, 특히 병과 캔은 92%를 회수합니다. 코펜하겐은 재활용으로도 처리할 수 없는 잔여 폐기물을 처리하기 위해 도시 한가운데에 세계적인 수준의 소각장, 바로 **코펜힐(CopenHill)**을 건설했습니다. 이 시설은 매일 약 2,000톤의 폐기물을 태워 코펜하겐 연간 에너지 수요의 17%에 해당하는 열과 전기를 생산합니다.

    이 시설은 환경 문제를 해결하는 동시에 사람들을 환영하는 포용적인 시설을 목표로 했습니다. 코펜힐은 단순히 쓰레기 처리 시설이 아니라 건물 위에 인공 스키장을 설치했습니다. 사람들은 도심 속 소각장 건물 위에서 레저를 즐기며, 쓰레기 처리 시설을 도심의 자랑거리로 만들었습니다. 또한 소각 후 남는 부산물조차 자원으로 활용합니다.

    폐기물을 태우고 남은 바닥재에서 금속을 분류하여 재활용합니다. 여기서 나오는 자갈 성분은 도로 건설용으로까지 쓰이는 등 모든 것을 활용합니다. 이 시설은 다이옥신과 같은 유해 물질을 완전히 걸러내어 굴뚝에서는 독성 가스가 아닌 수증기와 이산화탄소만이 배출되도록 설계되었습니다.

    코펜힐의 궁극적인 목표는 배출되는 이산화탄소까지 포집하는 것입니다. 현재 시범 플랜트에서는 특수 용매로 연소 가스의 $\text{CO}_2$를 포집하여 액화시킨 후, 영하 80도의 드라이아이스로 변환합니다. 이 포집된 탄소는 식료품이나 화학 공정에 사용되는 제품으로 탈바꿈합니다. 이들은 2030년까지 연간 50만 톤의 $\text{CO}_2$를 상쇄하여 환경에 부정적인 영향을 전혀 미치지 않는 폐기물-에너지 발전소 모델을 완성하고자 합니다.

    자연의 분해 능력을 빌리다: 균사체 기반의 건축 폐기물 혁신

    미국에서는 매년 1억 5천 6백만 톤의 건축 폐기물이 매립지로 향합니다. 단열재, 카펫, 지붕재 등은 복잡한 화학 성분 때문에 재활용이 매우 까다롭습니다. 이러한 난제를 해결하기 위해, 한 혁신 기업은 자연의 해체자, 즉 **곰팡이 균사체(Mycelium)**에 주목했습니다. 곰팡이의 뿌리 구조인 균사체는 숲에서 나무가 썩을 때처럼 탄소를 포함하는 유기물을 먹고 분해하는 역할을 합니다.

    연구진은 바로 이 원리를 산업 폐기물에 적용했습니다. 잘게 부순 건축 폐기물을 균사체에게 먹이로 제공합니다. 균사체가 폐기물을 먹고 자라면서, 폐기물의 섬유질 주위를 촘촘하게 감싸 새로운 복합 바이오 소재를 만들어냅니다.

    이 바이오 고분자 물질은 수확되어 플라스틱을 대체하는 제품으로 재탄생합니다. 이 소재는 자동차 범퍼나 대시보드 부품 등으로 활용되며, 기존 플라스틱보다 더 가볍고 충격 저항성이 뛰어납니다. 이러한 방식은 새로운 자원을 사용하는 대신, 이미 만들어진 폐기물을 재활용하여 새로운 가치를 창출합니다. 지구상에 폐기물은 없으며, 단지 우리가 활용법을 아직 알지 못했던 자원만이 존재한다는 자연의 순환 원리를 그대로 보여줍니다.

     

    문화와 종교의 경계를 넘어: 갠지스 강을 살리는 꽃 쓰레기의 변신

    인도의 갠지스 강은 수억 명의 삶의 터전이자 성스러운 여신으로 여겨지지만, 심각한 오염에 시달리고 있습니다. 그 오염원 중 하나는 놀랍게도 사원에서 나오는 꽃 쓰레기입니다. 신에게 바쳐진 꽃은 성스럽게 여겨져 일반 쓰레기통에 버릴 수 없다는 종교적 관념 때문에 강에 그대로 투기되었습니다. 이 꽃들은 잔류 농약과 화학 비료 성분을 강물에 유입시켜 지하수까지 오염시키고 있습니다.

    ‘풀(Phool)’이라는 이름의 회사는 이 문제에 착수했습니다. 그들은 사제들을 설득하여 꽃 쓰레기(매일 30톤)를 수거하고 이를 가치 있는 제품으로 재탄생시킵니다. 수거된 꽃은 깨끗이 세척하고 말려 가루로 만든 후, 반죽을 만들어 **숯이 들어가지 않은 친환경 향(Incense sticks)**으로 제조합니다.

    더 나아가, 이들은 곰팡이가 핀 꽃 더미에서 영감을 얻어 **플레더(Fleather)**라는 꽃 가죽 소재를 개발했습니다. 꽃잎에서 추출한 영양분으로 균사체를 배양하여 가죽과 유사한 질감의 시트를 만들어낸 것입니다. 이 플레더는 가죽 가공 시 발생하는 유해 화학 물질과 갠지스 강 오염을 동시에 줄일 수 있는 초친환경적인 대안입니다.

    또한, 이 회사는 빈민층 여성과 취약계층에게 750개가 넘는 존엄한 일자리를 제공합니다. 쓰레기를 치우는 것뿐만 아니라, 오랫동안 사회적으로 무시당했던 이들의 삶에 새로운 가치를 부여하는 데 기여했습니다. 회사는 이전 세대가 남긴 환경 오염을 청소하는 동시에, 사람들의 삶까지 정화하는 중요한 역할을 수행합니다.

     

    폐기물은 더 이상 처리해야 할 골칫덩이가 아닙니다. 덴마크의 첨단 소각 기술, 미국의 균사체 바이오 소재 혁신, 인도의 종교적 폐기물을 활용한 친환경 제품 개발 사례는 모두 이 사실을 증명합니다. 모든 쓰레기는 미지의 잠재력을 가진 자원입니다. 인류가 자연의 순환 시스템을 모방하고 기술 혁신을 더한다면, 우리 행성이 직면한 거대한 환경 문제를 해결할 열쇠를 ‘버려진 것’ 속에서 찾을 수 있을 것입니다.

    이 글은 YouTube 영상 ‘Why Trash Isn’t Useless | An Optimist’s Guide to the Planet’의 내용을 바탕으로 재구성되었습니다.

     

  • AI 엔지니어링 101: 성공적인 AI 제품 개발, 최신 기술보다 중요한 것은?

    오늘날 우리는 인공지능(AI) 기술이 폭발적으로 발전하는 시대에 살고 있습니다. 엔비디아(Nvidia), 스탠퍼드, 넷플릭스 등 유수의 기관에서 AI 제품과 플랫폼 개발을 주도했으며, 베스트셀러 ‘AI 엔지니어링’의 저자인 **칩 후옌(Chip Huyen)**은 이 분야의 최전선에서 활동하는 전문가입니다. 그녀는 AI 제품을 성공적으로 구축하고 AI 전략을 수립하는 기업들을 컨설팅하며, 현장에서 실제로 효과를 발휘하는 것과 그렇지 않은 것을 명확히 구분합니다. 그녀의 통찰력은 AI 혁신의 본질이 화려한 최신 기술이 아닌, 사용자에게 집중하는 기본적인 공학적 원리에 있음을 강조합니다.

    성공적인 AI 앱 개발의 진짜 핵심

    많은 사람이 AI 앱 성능 향상을 위해 최신 AI 뉴스 파악이나 새로운 에이전트 프레임워크 도입, 또는 벡터 데이터베이스 선정에 과도하게 몰두합니다. 그러나 칩 후옌은 이러한 활동이 실제로는 앱 성능 개선에 미치는 영향이 미미하다고 지적합니다. 성공적인 AI 앱 개발은 기술적 화려함보다 사용자 경험과 플랫폼의 신뢰성에 달려 있습니다.

    실제로 AI 앱을 개선하는 핵심 요소는 다음과 같습니다.

    • 사용자와 대화하기: 사용자의 피드백을 깊이 있게 이해하고, 그들이 진정으로 원하는 것과 원하지 않는 것을 파악합니다.
    • 더 나은 데이터 준비: 모델에 투입되는 데이터의 품질을 향상하고 체계적으로 준비하는 작업에 집중합니다.
    • 안정적인 플랫폼 구축: AI 모델이 안정적으로 작동할 수 있는 플랫폼을 구축하여 사용자에게 끊김 없는 서비스를 제공합니다.
    • 전체 워크플로 최적화: AI 앱의 모든 종단 간(end-to-end) 프로세스를 최적화하여 효율성을 높입니다.
    • 프롬프트 작성 능력 강화: 모델을 최대한 활용할 수 있도록 더 효과적인 프롬프트를 작성하는 데 공을 들입니다.
    AI 모델 학습, ‘사전’보다 ‘사후’에 집중해야 하는 이유

    AI 모델 학습 과정은 크게 **사전 학습(Pre-training)**과 **사후 학습(Post-training, 미세 조정)**으로 나뉩니다. 사전 학습은 방대한 인터넷 데이터로 통계적 정보를 인코딩하여 다음 단어를 예측하는 모델의 기본 능력을 키웁니다. 모델의 일반적인 역량을 높이는 이 과정은 대규모 프론티어 연구소에서 주로 진행합니다.

    반면, 사후 학습은 모델의 행동을 특정 목표에 맞게 조정하는 과정으로, 실제 응용 제품의 성능을 좌우합니다. 사후 학습은 전문가의 정답 데이터로 모델을 훈련시키는 지도 학습 기반 미세 조정 방식을 포함합니다. 또한, 사람의 선호도를 반영한 인간 피드백 기반 강화 학습(RLHF) 방식도 중요합니다. 이는 사람이 두 모델의 응답 중 더 나은 것을 비교하여 ‘보상 모델(Reward Model)’을 훈련시키고, 모델이 원하는 방향의 응답을 생성하도록 유도합니다.

    최근 몇 년간 기반 모델 자체의 성능 향상 속도는 과거처럼 비약적이지 않을 수 있습니다. 따라서 AI 연구 및 개발의 주요 가치는 사후 학습 단계에서 나옵니다. 모델의 잠재력을 최대한 끌어내어 실제 사용 환경에서 의미 있는 결과를 만드는 데 집중해야 합니다.

     

    검색 증강 생성(RAG): 데이터 준비가 성능을 좌우한다

    AI 모델이 질문에 정확히 답하기 위해 관련 문서를 검색하여 컨텍스트를 제공하는 기술을 **검색 증강 생성(RAG)**이라고 부릅니다. 이는 대규모 언어 모델(LLM)에 외부 지식을 주입하는 핵심적인 방법론입니다.

    칩 후옌은 RAG 솔루션의 성능에서 가장 큰 영향을 미치는 것은 데이터베이스를 선택하는 고민이 아니라 데이터를 준비하는 방식이라고 강조합니다. 데이터 접근 속도를 결정하는 레이턴시나 접근 패턴에 따라 벡터 데이터베이스가 중요해지기는 하지만, 답변의 순수한 품질 측면에서는 데이터 준비가 압도적으로 중요합니다.

    효과적인 데이터 준비는 여러 방식을 포함합니다. 예를 들어, 문서를 최적의 크기로 나누어 청크(Chunk)하고, 각 청크에 요약이나 메타데이터, 심지어 가상의 질문 등 맥락 정보를 추가합니다. 또한, 기존 문서를 질문과 답변 형식으로 다시 작성하여 모델이 정보를 쉽게 검색하고 활용하도록 돕는 방법도 있습니다.

    AI 성과 측정의 딜레마와 실용적인 평가(Eval) 활용법

    AI 제품 개발 과정에서 **평가(Evals)**의 필요성에 대한 논쟁이 있습니다. 일부 기업은 엄격한 평가 대신 ‘감(Vibe)’으로 제품을 출시하기도 합니다. 칩 후옌은 평가의 중요성을 인정하면서도, 상황에 따른 실용적인 접근을 제안합니다.

    평가는 규모가 큰 서비스나 실패 시 치명적인 결과를 초래하는 제품, 그리고 경쟁 우위를 확보해야 하는 핵심 기능에 반드시 필요합니다. 하지만 모든 기능에 완벽한 평가를 적용하는 것은 막대한 비용을 소모하며, 때로는 그 작은 성능 향상을 위해 엔지니어를 투입하는 것보다 새로운 기능을 빠르게 출시하는 것이 더 큰 사업적 가치를 가져옵니다.

    궁극적으로 평가는 단순히 최종 결과만 측정하는 것이 아닙니다. 복잡한 AI 워크플로의 모든 단계에서 모델이 제대로 작동하는지 확인하는 작업입니다. 이는 제품 개발 방향을 제시하고, 모델이 특정 사용자 세그먼트에서 제대로 작동하지 않는 **실패 지점(Failure Mode)**을 찾아 개선 기회를 발견하는 데 결정적인 역할을 합니다.

    미래 조직의 변화: 시스템 사고력의 중요성

    AI 도구가 엔지니어의 일상에 깊숙이 들어오면서, 조직 구조와 엔지니어링 역할도 변화하고 있습니다. AI 코딩 도구는 코드를 빠르게 생성하여 주니어 엔지니어의 생산성을 높일 수 있습니다. 실제로 한 회사에서는 성과가 가장 높은 시니어 엔지니어가 AI 도구를 통해 가장 큰 생산성 향상을 경험했다는 실험 결과도 나왔습니다. 반면, 어떤 회사에서는 코딩 스타일에 대한 기준이 높은 시니어 엔지니어가 AI 생성 코드에 저항감을 보이기도 했습니다.

    이러한 변화에 따라 일부 기업은 시니어 엔지니어에게 PR 검토와 엔지니어링 프로세스 설계를 맡기고, 주니어 엔지니어나 AI가 코드를 생성하도록 역할을 재분배합니다. 이는 앞으로 AI가 코딩 자동화를 가속화할 미래에 대비하는 전략입니다.

    AI가 단순 코딩 업무를 자동화할수록, **시스템 사고력(System Thinking)**은 더욱 중요한 역량이 됩니다. 컴퓨터 공학은 단순히 코딩 언어를 배우는 것이 아니라, 전체 시스템이 어떻게 작동하는지를 이해하고 복잡한 문제를 단계별로 해결하는 방법을 배우는 것입니다. AI는 명확히 정의된 작업을 잘 수행하지만, 여러 구성 요소가 얽힌 복잡한 환경에서의 디버깅이나 전체론적 문제 해결에는 여전히 어려움을 겪습니다.

    AI 시대, ‘무엇을 만들까’ 아이디어 고갈 시대 극복법

    놀라운 AI 도구가 많아졌음에도 불구하고, 많은 개발자가 **”무엇을 만들어야 할지”**에 대한 아이디어 고갈을 겪습니다. AI가 코드를 짜주고 디자인까지 도와주는 시대에, 오히려 새로운 아이디어를 구상하는 것이 더 큰 문제로 떠오른 것입니다.

    칩 후옌은 이 ‘아이디어 위기’를 극복하기 위한 실용적인 조언을 제공합니다. 바로 일상의 불편함에 주목하는 것입니다. 지난 한 주 동안 자신이 했던 일 중 가장 좌절감을 느꼈던 순간을 찾아보세요. 그리고 ‘이 일을 다른 방식으로 할 수 없을까?’라고 질문을 던집니다.

    AI는 개인의 니즈를 충족하는 **마이크로 도구(Micro Tools)**를 만드는 데 매우 강력한 힘을 발휘합니다. 일상의 작은 문제점, 예를 들어 구글 문서에서 이미지를 일괄 다운로드하는 것과 같은 틈새 문제를 해결하는 작은 앱을 만드는 것부터 시작하면 됩니다. 자신의 좌절감을 해소하기 위해 무언가를 구축하는 과정에서, AI를 활용하고 채택하는 능력 또한 자연스럽게 성장합니다.

     

    AI 엔지니어링의 본질은 최첨단 기술 자체에 매몰되는 것이 아니라, 사용자와의 연결을 통해 현실 문제를 해결하는 견고한 공학적 토대를 구축하는 데 있습니다. 모델의 사후 학습에 집중하고, 데이터 준비를 최적화하며, 시스템 전체를 이해하는 시스템 사고력을 키우는 것이 성공의 열쇠입니다. 화려한 AI 뉴스 속에서도 변치 않는 기본에 충실할 때, 우리는 AI 시대를 선도하는 가치 있는 제품을 만들어낼 수 있을 것입니다.

  • 테슬라 옵티머스처럼 고성능 로봇을 만든다면: 제어 정책만큼 중요한 소프트웨어 시스템 설계의 함정

    최첨단 로봇 시스템은 복잡한 제어 **정책(Policy)**과 정교한 소프트웨어 시스템의 결합으로 작동합니다. 로봇이 예상대로 움직이지 않을 때마다 우리는 종종 인공지능이 설계한 제어 정책만을 의심하곤 합니다. 하지만 전문가들은 문제의 근원이 정책이 아니라 데이터를 전달하고 수집하는 기본 소프트웨어 시스템에 있는 경우가 많다고 지적합니다. 이 글은 고성능 로봇을 설계할 때 반드시 고려해야 할 통신 지연, 데이터 동기화, 시스템 오버헤드 등 소프트웨어 시스템의 주요 함정을 분석하고 그 해결책을 제시합니다.

    CAN 통신 지연 문제와 파이프라인 기법

    로봇의 핵심 부품인 액추에이터, 센서, CPU는 보통 **CAN(Controller Area Network)**이라는 통신 프로토콜로 데이터를 주고받습니다. CAN 통신은 저렴하고 호환성이 좋지만, 고속으로 많은 데이터를 처리할 때는 병목 현상이 발생하기 쉽습니다. 예를 들어, 2밀리초(ms) 주기로 작동해야 하는 제어 루프에서 10개의 메시지를 전송하고 수신하면, 통신 시간만 1ms가량 소요될 수 있습니다.

    이러한 통신 시간은 제어 루프 실행 시간과 비슷한 수준이 되어, 결국 루프 주기가 3ms로 지연되는 결과를 낳습니다. 이 1ms의 지연은 고성능 로봇에게 치명적인 성능 저하로 이어집니다. 따라서 단순한 지연을 감수하기보다는 시스템 구조를 근본적으로 개선해야 합니다. 우리는 작업을 세분화하고 병렬 처리하여 이 문제를 해결할 수 있습니다.

    가장 효과적인 방법은 **멀티 스레딩(Multi-threading)**을 통해 제어 루프를 **파이프라인(Pipelining)**화하는 것입니다. 즉, 데이터를 송신(TX), 수신(RX), 그리고 정책 실행(Policy) 세 가지 독립적인 스레드로 분리합니다. 이렇게 작업을 나누어 다음번 데이터를 수신하는 작업을 현재 정책이 완료되기 전에 미리 시작합니다. 이처럼 파이프라인 구조를 도입하면 통신 지연 시간을 효과적으로 숨기고 원래 목표였던 2ms의 루프 시간을 유지할 수 있습니다.

     

    액추에이터 떨림 현상과 동기화 문제 해결

    시스템을 멀티 스레드로 구성하면, 이번에는 스레드 간의 동기화(Synchronization) 문제가 새로운 성능 저하를 일으킵니다. 만약 제어 정책 실행 시간이 길어져 데이터 송신(TX) 시점을 놓치면, 이전 메시지와 현재 메시지 두 개가 다음 루프에서 한꺼번에 전송됩니다. 이처럼 두 명령이 동시에 액추에이터에 전달되면, 로봇은 심하게 떨리는(Jitter) 비정상적인 움직임을 보이게 됩니다.

    마찬가지로, 데이터 수신(RX) 스레드가 지연되면 정책은 이전 루프의 오래된 데이터를 가지고 작동하게 됩니다. 이로 인해 로봇은 중간 과정을 건너뛴 채 뒤늦게 두 명령을 한 번에 따라잡으려는 듯한 동작을 보입니다. 이러한 떨림 현상은 제어 정책의 오류처럼 보이지만, 실제로는 소프트웨어 동기화의 실패에서 비롯된 문제입니다.

    이 문제를 해결하려면 **뮤텍스(Mutex)**나 **세마포어(Semaphore)**와 같은 저수준의 시스템 동기화 기본 요소를 활용해야 합니다. 만약 실시간 운영체제(RTOS)나 마이크로컨트롤러 환경처럼 이러한 기능이 제한적이라면 패딩(Padding) 기법을 적용할 수 있습니다. 데이터를 처리할 때 약간의 여유 공간이나 완충 장치(Cushion)를 두어 데이터가 정확한 시점에 올바른 정책에 입력되도록 보장해야 시스템의 강건성(Robustness)이 확보됩니다.

     

    성능 저하의 숨은 주범, 로깅과 우선순위 역전

    로봇 시스템에서 디버깅을 위해 사용하는 로깅(Logging) 기능조차 치명적인 시스템 지연을 유발할 수 있습니다. 제어 루프가 너무 많은 정보를 로그로 기록하고 이를 하드디스크에 저장하려 할 때 문제가 발생합니다. 특히 SD 카드 같은 느린 저장 매체를 사용하는 경우, 이 디스크 쓰기 작업 때문에 로봇의 핵심 제어 루프가 수십 밀리초 동안 멈출 수 있습니다.

    이러한 로깅 오버헤드를 막는 가장 확실한 방법은 로깅 기능을 전담하는 별도의 CPU를 추가하는 것입니다. 또한, 마이크로컨트롤러에서는 로그를 기록하는 간단한 UART(범용 비동기 송수신기) 통신조차 밀리초 단위의 시간을 소모합니다. 따라서 패킷 드롭이 발생했을 때 이를 로그로 남기는 행위가 오히려 다음 패킷 드롭을 유발하여 시스템 전체가 마비되는 연쇄적인 문제를 일으키지 않도록 주의해야 합니다.

    마지막으로, 우선순위 역전(Priority Inversion) 현상 역시 주의해야 합니다. 로봇 공학에서는 주요 제어 프로세스의 우선순위를 너무 높게 설정하는 경향이 있습니다. 하지만 이처럼 우선순위를 지나치게 높이면, 데이터 수집을 담당하는 리눅스 커널(Kernel) 프로세스가 오히려 실행되지 못하고 차단될 수 있습니다. 결국 데이터를 받고자 우선순위를 올린 행위가 데이터 수신 자체를 막아 시스템이 멈추는 역설적인 상황이 발생하는 것입니다.

     

    고성능 로봇 시스템의 성공은 단순히 뛰어난 AI 제어 정책을 개발하는 것에만 달려있지 않습니다. 정책과 하드웨어 사이에서 데이터를 빠르고 안정적으로 처리하는 소프트웨어 시스템의 설계가 필수적입니다. 통신 지연을 극복하기 위한 파이프라인 구조 도입, 액추에이터 떨림을 막기 위한 정교한 스레드 동기화, 그리고 시스템을 마비시키는 로깅 오버헤드 관리 및 우선순위 역전 회피가 핵심 고려 사항입니다. 이러한 소프트웨어 공학적 함정들을 사전에 인지하고 해결할 때 비로소 로봇은 본래 설계된 대로 빠르고 정확하게 임무를 수행할 수 있게 됩니다.

    출처: AI Engineer 유튜브

  • 트럼프는 어떻게 암호화폐를 장악하고 ‘패밀리 비즈니스’로 만들었나

    도널드 트럼프 전 대통령은 암호화폐에 대한 입장을 180도 선회하며 미국 금융계의 주요 화두로 떠올랐습니다. 과거 비트코인에 회의적이었던 그는 이제 열렬한 지지자로 변모했습니다. 이러한 변화는 단순한 정치적 스탠스를 넘어, 그의 가족을 중심으로 한 거대한 암호화폐 사업 제국을 건설하는 발판이 되었습니다. 이 글은 트럼프 가문이 암호화폐 산업을 어떻게 장악했으며, 그 사업 모델과 구조가 무엇인지 심층적으로 분석합니다.

    정치적 격변: 비트코인 회의론자에서 지지자로

    트럼프 대통령은 첫 임기 당시 암호화폐에 대해 매우 비판적인 입장을 취했습니다. 하지만 재선 캠페인을 준비하면서 그는 전략적인 변화를 택했습니다. 바이든 행정부와 SEC(증권거래위원회)의 규제 집행에 불만을 품은 암호화폐 업계의 막대한 자금력과 표심을 확인했기 때문입니다.

    따라서 그는 암호화폐 커뮤니티가 원하는 정책들을 적극적으로 주장하기 시작했습니다. 그 결과 암호화폐 로비 단체들은 트럼프 당선을 위해 천억 원에서 이천억 원에 달하는 막대한 자금을 쏟아부었습니다. 이러한 정치적 배경을 바탕으로 트럼프는 규제 환경을 친(親)암호화폐적으로 바꾸는 동시에, 자신의 이름으로 된 새로운 사업을 빠르게 확장할 수 있었습니다.

     

    ‘트럼프 상표’의 확장: 새로운 사업 모델

    트럼프 가문의 암호화폐 사업은 본질적으로 트럼프의 전통적인 사업 방식과 동일합니다. 즉, 자신의 강력한 브랜드를 라이선스 형태로 빌려주고 그 대가를 받는 방식입니다. 트럼프의 두 아들인 에릭 트럼프와 도널드 트럼프 주니어가 이 사업을 주도하며 전방위적으로 관여하고 있습니다.

    현재 트럼프 암호화폐 제국은 크게 네 개의 독립적인 사업 축으로 나뉘어 운영됩니다. 이 네 개 팀은 서로 협력하기도 하지만, 때로는 경쟁하며 독자적인 프로젝트를 진행하고 있습니다. 이 복잡한 구조를 이해하는 것이 트럼프 암호화폐 비즈니스의 핵심입니다.

     

    트럼프 암호화폐 제국의 네 가지 핵심 축

    NFT 및 밈코인 벤처

    트럼프의 첫 암호화폐 프로젝트는 2022년 12월에 시작된 NFT(대체 불가능 토큰) 컬렉션이었습니다. 이 컬렉션은 트럼프를 슈퍼히어로, 카우보이 등으로 묘사한 디지털 트레이딩 카드 형태였습니다. 이와 함께 트럼프 밈코인과 멜라니아 밈코인도 출시되었는데, 멜라니아의 코인은 현재 거의 사장된 상태입니다. 밈코인의 상위 보유자들은 트럼프 골프 클럽 만찬에 초대되는 등 실제적인 혜택을 제공받기도 했습니다.

    월드 리버티 파이낸셜(World Liberty Financial, WLF)

    WLF는 트럼프 가문의 가장 야심찬 암호화폐 사업으로 꼽힙니다. 이 회사는 원래 대출 및 차입을 위한 탈중앙화 금융(DeFi) 앱을 목표로 했으나 아직 앱은 출시되지 않았습니다. 현재 WLF는 세 가지 주요 상품을 보유하고 있습니다.

    1. WLFI 토큰: 프로토콜 운영에 대한 투표권을 부여하는 유틸리티 토큰입니다.
    2. USD1 스테이블코인: 미국 달러에 가치가 고정된 암호화폐로, 20억 달러 이상의 시가총액을 형성했습니다. 이 코인은 바이낸스 및 아부다비 엔티티와의 거래를 통해 대규모로 발행되었으며, 여기서 발생하는 이자는 WLF와 트럼프 가문에 돌아갑니다.
    3. 상장 주식: 바이오테크 회사인 알트 5 시그마(Alt 5 Sigma)를 인수한 후, 이 회사를 WLFI 토큰을 축적하는 공적 지주회사로 활용하는 전략을 취했습니다.

     

    트럼프 미디어 & 테크놀로지 그룹 (TMTG)

    트럼프의 소셜 미디어 플랫폼인 트루스 소셜을 운영하는 TMTG 역시 암호화폐 시장에 적극적으로 진출하고 있습니다. 이들은 비트코인을 축적하고 ETF(상장지수펀드)를 출시하는 방안을 모색하고 있습니다. 더 나아가 크립토닷컴(Crypto.com)과의 파트너십을 통해 자체 플랫폼에 해당 거래소의 토큰을 통합하려는 계획도 가지고 있습니다.

     

    아메리칸 비트코인 (채굴 벤처)

    아메리칸 비트코인은 비트코인 채굴 사업으로, 주로 에릭 트럼프가 관여하는 것으로 알려져 있습니다. 이들은 기존 채굴 회사인 헛 8(Hut 8)과의 계약을 통해 운영 부문을 분리한 후, 상장된 소규모 회사와 역합병을 진행하여 트럼프 브랜드를 입혔습니다. 이는 이미 운영 중인 사업에 트럼프의 명성을 더하는 방식으로 채굴업에 진출한 사례입니다.

     

    사업을 둘러싼 논란과 미래 전망

    이러한 트럼프 암호화폐 제국은 정치적 윤리 논란에서 자유롭지 못합니다. 비평가들은 익명성이 높은 암호화폐를 통해 외국 정부나 이해관계자가 트럼프에게 쉽게 자금을 전달할 수 있다고 지적합니다. 이는 대통령의 공직을 이용해 개인의 부를 축적하는 전례 없는 행위라는 비판을 받습니다.

    또한, 트럼프 암호화폐 제국 내부에서도 권력 다툼이 존재합니다. 실제로 에릭 트럼프와 돈 주니어 측은 빌 장커가 추진하던 별도의 암호화폐 지갑 출시를 저지하며 영역 싸움을 벌이기도 했습니다.

    이들 사업의 현재 가치는 수십억 달러에 달하지만, 이는 대부분 트럼프라는 브랜드 가치에 기반한 것입니다. 실제 수익 창출 능력보다는 유명세로 인해 투자자들의 관심을 끄는 일종의 ‘바람’ 현상으로 해석될 수 있습니다. 그러나 트럼의 암호화폐 지지 행보가 미국의 디지털 자산 산업에 긍정적인 영향을 미치고 새로운 입법을 이끌어낸 점은 부인할 수 없는 유산입니다.

     

    도널드 트럼프의 암호화폐 시장 진출은 그의 이름이 가진 막대한 영향력을 보여주는 또 하나의 사례입니다. 그의 가족 구성원들은 트럼프라는 강력한 브랜드를 등에 업고 네 개의 사업 축을 통해 빠르게 암호화폐 제국을 확장했습니다. 이 현상은 단순히 금융 혁신으로 보기보다는, 강력한 정치적 브랜딩과 자본이 결합한 새로운 형태의 패밀리 비즈니스로 평가됩니다. 다만, 트럼프가 더 이상 대통령이 아닌 시점에도 이러한 프로젝트들이 현재의 가치와 영향력을 유지할 수 있을지는 앞으로 지켜봐야 할 중요한 과제로 남아있습니다.