우리는 지금 단순한 챗봇의 시대를 지나, 사용자의 의도를 읽고 복잡한 과업을 수행하는 ‘AI 에이전트’의 시대로 접어들고 있습니다. 하지만 단순히 거대 언어 모델을 서비스에 연결한다고 해서 혁신적인 사용자 경험이 만들어지지는 않습니다. 아크 브라우저를 개발한 브라우저 컴퍼니가 새로운 AI 시스템 ‘디아’를 구축하며 얻은 교훈을 통해, 실제 비즈니스 환경에서 작동하는 AI 제품 설계의 핵심 전략을 상세히 살펴봅니다.

도구와 프로세스를 AI에 최적화하여 실험 속도 극대화하기

AI 제품 개발의 핵심은 모델이 내뱉는 결과물을 얼마나 빠르게 수정하고 테스트할 수 있느냐에 달려 있습니다. 브라우저 컴퍼니는 초기 개발 과정에서 엔지니어들만 다룰 수 있는 별도의 프롬프트 관리 도구를 사용했습니다. 하지만 이 방식은 실제 사용자가 처한 맥락을 실시간으로 반영하기 어렵다는 치명적인 한계가 있었습니다. AI의 성능은 결국 사용자가 보고 있는 화면이나 현재 수행 중인 작업이라는 ‘맥락’ 위에서 결정되기 때문입니다.

이 문제를 해결하기 위해 이들은 프롬프트 편집 도구를 실제 제품 인터페이스 내부로 옮겼습니다. 개발자나 기획자가 브라우저를 직접 사용하면서 실시간으로 프롬프트를 수정하고 그 결과를 즉각 확인할 수 있는 환경을 만든 것입니다. 이러한 통합은 단순히 편리함을 넘어 제품 전체의 품질을 결정하는 결정적인 요인이 되었습니다. 전 직원이 매일 제품을 쓰며 자신의 실제 데이터 위에서 AI의 행동을 교정할 수 있게 되었기 때문입니다.

또한 ‘제파’라고 불리는 자동화된 프롬프트 최적화 파이프라인을 구축했습니다. 이는 수천 개의 테스트 케이스를 사람이 일일이 검토하는 대신, 고성능 모델이 하위 모델의 결과물을 평가하고 개선 방향을 제시하도록 설계한 시스템입니다. 엔지니어가 직접 모델의 가중치를 수정하는 미세 조정(Fine-tuning)에 매달리는 대신, 텍스트 수준에서의 반복적인 실험을 자동화하여 제품의 지능을 비약적으로 끌어올렸습니다.

모델 행동 설계를 전문적인 영역으로 구축하기

모델의 행동을 정의하는 일은 이제 단순한 설정을 넘어 하나의 전문적인 공예의 영역으로 간주되어야 합니다. 브라우저 컴퍼니는 이를 위해 ‘모델 행동 팀’이라는 독자적인 조직을 운영합니다. 이 팀은 모델이 사용자에게 어떤 어조로 말을 걸지, 정보의 우선순위를 어떻게 배치할지, 그리고 제품이 지향하는 가치관을 어떻게 답변에 녹여낼지를 전문적으로 설계합니다.

흥미로운 점은 이 전문 조직의 기틀을 잡은 사람이 엔지니어가 아닌 전략 및 운영 담당자였다는 사실입니다. 그는 주말 동안 직접 만든 도구를 활용해 수백 개의 프롬프트를 완전히 새롭게 작성했고, 이는 엔지니어들이 기술적으로 접근했을 때보다 훨씬 더 높은 품질의 사용자 경험을 만들어냈습니다. 모델을 다루는 핵심 역량은 복잡한 코딩 능력이 아니라, 제품이 전달해야 하는 가치를 정교한 언어로 구조화하는 능력에 있음을 증명한 사례입니다.

나아가 이들은 단순한 텍스트 생성을 넘어 모델이 스스로 추론하고 도구를 사용하는 ‘에이전틱(Agentic)’한 행동을 설계하는 데 집중합니다. 모델이 자신의 결과물을 스스로 검토하고 오류가 있다면 수정하는 프로세스를 내재화한 것입니다. 이러한 정교한 행동 설계는 사용자가 AI를 단순한 도구가 아닌 신뢰할 수 있는 파트너로 느끼게 만드는 결정적인 차이를 만들어냅니다.

기술적 보안 한계를 사용자 경험 디자인으로 극복하기

AI 서비스에서 가장 까다로운 문제 중 하나는 프롬프트 주입 공격과 같은 보안 위협입니다. 공격자가 웹사이트 내부에 악의적인 명령을 숨겨두면, AI가 해당 페이지를 요약하는 과정에서 사용자의 데이터를 외부로 전송하는 등의 오작동을 일으킬 수 있습니다. 기술적으로 명령과 데이터를 완벽하게 분리하는 것은 현재 모델 구조상 매우 어려운 과제입니다.

브라우저 컴퍼니는 이 보안 문제를 기술적인 방어에만 의존하지 않고 ‘사용자 경험 설계’를 통해 영리하게 해결했습니다. AI가 사용자를 대신해 중요한 동작을 수행하기 직전에 반드시 사용자의 최종 승인을 거치도록 설계한 것입니다. 예를 들어 AI가 웹 페이지의 양식을 자동으로 채워준다면, 곧바로 제출 버튼을 누르는 것이 아니라 입력된 내용을 사용자가 평문으로 직접 확인하게 합니다.

이러한 접근은 기술적 결함을 숨기는 것이 아니라 오히려 사용자에게 통제권을 부여함으로써 신뢰를 쌓는 계기로 활용됩니다. 이메일을 대신 작성하거나 일정을 예약할 때도 AI의 작업 결과물을 명확하게 보여주고 사용자가 ‘승인’하는 단계를 둡니다. 보안상의 취약점이 발생하더라도 사용자가 마지막 방어선이 되어 위험을 차단할 수 있도록 설계함으로써, 기술적 한계를 디자인의 힘으로 극복해 낸 것입니다.

출처: AI Engineer 유튜브