5인 회사 운영하며 직접 헤르메스 에이전트 720시간 돌려본 후기 (feat. Slack, Hostinger)

한 줄 요약

여섯 명 남짓한 AX 컨설팅 회사를 운영하는 조쉬가 헤르메스 에이전트(Hermes Agent)를 슬랙에 '팀원'으로 들여 한 달(제목 기준 720시간) 동안 써 본 기록이에요. 설치 환경부터 데이터 적재, 매일 갱신되는 SOP, 이메일·ERP 업무 위임, 그리고 아직 사람이 맡아야 하는 영역까지 차례로 짚습니다.

전체 내용 정리

조쉬는 왜 AI를 '팀원'으로 들이고 싶었을까요

조쉬는 조슈아 앤 컴퍼니라는 AX 컨설팅 회사의 대표예요. 대기업을 비롯한 여러 회사에 기업 교육, 구축 서비스, AX 컨설팅을 납품하고 있죠. 남의 회사 AX(AI 전환)를 돕겠다고 나선 이상 자기 조직부터 바뀌어야 한다는 생각이 컸다고 합니다. 회사 규모는 조쉬를 포함해 여섯 명 정도이고 이 인원으로 헤르메스 에이전트를 슬랙에 설치해 한 달간 굴려 본 결과를 공유하는 영상이에요.

출발점은 노션 코리아 행사에서 들은 'AI 발전의 4단계'였어요. 노션 지사장이 소개한 구분은 이렇습니다. 1단계는 사고 파트너로서의 AI로, ChatGPT에 질문하거나 PPT를 만들어 달라고 하는 수준이에요. 2단계는 비서로서의 AI인데, 회사 내부 맥락이나 지식 시스템을 바탕으로 산출물을 만들고 지식을 끌어내 개별 작업을 더 빨리 끝내게 돕는 단계입니다.

그런데 발표 슬라이드에는 2단계와 3단계 사이에 빨간 줄이 그어져 있었다고 해요. 3단계는 조직 안에서 팀원으로 일하는 AI, 4단계는 모든 의사 결정과 업무 흐름에 AI가 들어가 있는 시스템으로서의 AI예요. 조쉬는 아직 많은 사람이 3단계에 닿지 못했다고 봅니다.

헤르메스 에이전트 같은 도구를 쓰면 슬랙에 AI 팀원 한 명이 들어오는 셈이에요. 다만 그 팀원이 매일 무슨 일을 할지 고민해 일을 심어 주고 에이전트의 몫을 의식적으로 키워 나가야 팀원 역할이 가능해진다는 게 조쉬의 생각입니다. 그걸 헤르메스 에이전트로 직접 구현해 보고 싶었다고 해요.

맥미니보다 VPS가 공용 에이전트에 더 맞았어요

처음에는 사무실 맥미니에 헤르메스 에이전트를 로컬로 설치해 테스트했어요. 컴퓨터가 24시간 켜져 있다는 장점은 분명했습니다. 그런데 맥미니가 밤사이 갑자기 업데이트를 하거나 전기가 끊기는 일이 생겼고 전기세 걱정도 따라왔어요.

업데이트 문제도 있었어요. 헤르메스 에이전트는 스스로 매일 업데이트하지 못해서 누군가 터미널을 열고 헤르메스 업데이트 명령을 직접 실행해야 합니다. 그러다 보니 버전이 그대로 머물러 있는 경우가 은근히 있었다고 해요. 보안 지식이 부족하면 구멍이 생길 수 있다는 점까지 더해 조쉬는 맥미니가 개인용으로는 괜찮아도 회사 공용 에이전트용으로는 맞지 않는다고 판단했습니다.

대안으로 고른 건 호스팅어(Hostinger)의 VPS(가상 사설 서버) 서비스예요. 온라인 웹 서버에 헤르메스를 올리면 24시간 켜 둘 수 있고 갑자기 컴퓨터가 꺼지거나 OS 업데이트가 끼어드는 변수도 없어요. 보안 설정과 검토는 따로 챙겨야 하지만 서버 주소를 유출하지 않는 한 외부 접근 측면에서도 생각보다 나쁘지 않다는 게 조쉬의 평가입니다. 그래서 작은 조직을 운영하는 대표라면 한번 고려해 볼 만한 선택지로 꼽아요.

설치 흐름은 단순해요. 호스팅어 화면에서 매니지(Manage)를 누르고 도커 매니저(Docker Manager)로 들어가 헤르메스를 설치했다고 합니다. 저장 공간도 넉넉한 편이라 헤르메스가 필요한 데이터를 알아서 저장하기에 무리가 없었어요. 터미널을 열고 hermes를 입력하면 헤르메스 에이전트에 바로 접속됩니다.

최근에는 macOS·윈도우용 데스크톱 버전도 나왔어요. 인터페이스는 괜찮지만 보안 면에서는 한번 따져 볼 여지가 있다고 조쉬는 말합니다. 무엇보다 슬랙에서 여럿이 함께 쓰려는 목적과는 결이 달라서 데스크톱 버전은 개인용에 더 맞다고 봐요.

맥락 허브부터 만들어야 에이전트가 일을 해요

조쉬는 Y Combinator가 'AI 네이티브 컴퍼니'를 주제로 내는 영상들과 블록(Block) CEO이자 트위터 창업자인 잭 도시(Jack Dorsey)의 이야기를 인용해요. 사람의 일과 조직 계층에서 AI가 핵심 역할을 하게 되고 "AI는 회사의 가정을 깨버린다"는 표현까지 나온다는 거죠. AI가 매일 스스로 나아지는 시스템을 만들 수 있기 때문이라는 설명이에요. 조쉬는 헤르메스 에이전트가 그 지점에 가장 가까운 도구일 수 있다고 봅니다.

그가 정리한 프로세스는 다섯 단계예요. 첫째는 회사 활동과 노션 등에 흩어진 데이터를 자동으로 적재하는 시스템을 만드는 일입니다. 둘째는 쌓인 데이터를 매일 하나의 중앙화된 문서나 체계로 정리하는 일, 셋째는 옵시디언(Obsidian)이나 깃허브(GitHub)처럼 헤르메스와 잘 붙는 도구를 세팅하는 일이에요. 넷째는 하네스(harness, 에이전트가 일하는 실행 환경 설정)를 다듬는 일인데, 많은 사람이 헤르메스를 ChatGPT처럼만 쓰지만 실제로는 코딩 도구나 업무 자동화 도구로도 쓸 수 있다는 거죠. 마지막은 에이전트가 자가 학습할 수 있는 환경을 세팅하는 일이에요.

조쉬가 가장 강조하는 건 첫 단계예요. 노션, 슬랙, Gmail처럼 회사의 공용 자산을 먼저 에이전트에 붙여야 합니다. 다만 헤르메스는 별도 연동 도구를 잘 지원하지 않아서 헤르메스에게 물어 가며 하나씩 API로 연결해야 하는 불편이 있다고 해요. 조쉬는 다른 회의록 서비스 대표의 노션에서 가져온 그림도 보여 주는데, 맥락 허브 하나만 있으면 콘텐츠 제작·업무·코딩 같은 파생 에이전트를 다 만들 수 있다는 내용이에요.

실제 적재 방식은 이래요. 고객, 이메일, 문의, CS를 전부 슬랙으로 들어오게 연동했고 슬랙을 메인 채널로 삼아 헤르메스가 매일 읽게 합니다. 회의록은 날짜별 마크다운 파일로 따로 쌓여요. 여기에 GPT 이미지 2.0 API를 연동해서 회의가 끝나면 구성원들이 요약 이미지로도 받아 봅니다. 긴 글보다 이미지가 훨씬 편했다고 하네요.

매일 아침에는 일부러 조간 회의(데일리 스크럼)를 해요. 어제 성과와 오늘 할 일을 이야기하는 이 회의를 플라우드 노트(Plaud Note)로 녹음합니다. 얇은 카드 모양 기기인데, 버튼을 누르면 녹음이 시작되고 녹음이 끝나면 회의록이 슬랙과 서버에 자동으로 쌓이게 세팅해 뒀어요. 플라우드 노트는 자동화 도구 재피어(Zapier)를 지원해서 무료 요금제에서도 녹음본을 다른 곳으로 보낼 수 있고 조쉬네는 슬랙·옵시디언·깃허브로 연결해 뒀습니다. 조쉬는 광고가 아니라고 밝히면서 AI 네이티브 컴퍼니를 만들려면 매일 녹음하는 문화가 가장 중요하다고 권해요.

그 밖에도 구성원들이 아침마다 슬랙에 오늘 할 일을 데일리 스탠드업으로 적으면 헤르메스가 하루 한 번 모아 자기 데이터로 저장해요. 출퇴근 기록과 업무 맥락도 함께 쌓입니다. Gmail도 연동해서 광고·협업 문의 같은 이메일 흐름까지 데이터로 들어와요. 노션은 마크다운 문법을 쓸 수는 있어도 마크다운 기반 서비스는 아니라서 데이터를 점점 옵시디언으로 옮기는 중이라고 합니다.

마지막으로 붙인 게 G스택(gstack)이에요. Y Combinator 대표 게리 탄(Garry Tan)이 만든 오픈 소스로, 조쉬는 그 안에 두 가지가 들어 있다고 설명합니다. 하나는 Y Combinator의 사업 SOP와 기준을 에이전트로 옮긴 G스택이고 다른 하나는 헤르메스가 더 잘 기억하도록 돕는 G브레인(gbrain)이에요. G브레인은 회사 자산을 더 많이 적재해서 고성능 RAG(검색 증강 생성) 같은 시스템을 만들어 준다고 해요. 조쉬는 "회사 헤르메스 에이전트에 지브레인을 탑재한 뒤에 사업 멘토가 생긴 느낌이다"라는 글을 쓴 적도 있어요. 회사 맥락 파일을 토대로 위임 방식과 사업 방향을 구체적이고 정확하게 짚어 줬기 때문이라고 합니다.

회사의 뇌인 SOP를 에이전트가 매일 고쳐 써요

적재 시스템을 갖춘 다음 조쉬가 집중한 건 회사의 뇌를 만드는 일이었어요. 조쉬는 "회사의 뇌는 곧 SOP입니다"라고 말합니다. SOP(표준 운영 절차서)는 흔히 어디를 클릭하라는 식의 매뉴얼로 생각하지만 조쉬가 말하는 SOP는 더 상위 개념이에요. 회사가 가는 방향, 현재 업무, 직원별 역할, 운영 절차까지 큰 단위부터 작은 단위까지 담은 문서입니다.

핵심은 이 문서를 사람이 쓰지 않는다는 점이에요. 헤르메스가 매일 SOP를 갱신하게 하면 살아 있는 뇌처럼 만들 수 있다는 걸 알게 됐다고 해요. 조쉬네는 초안을 만든 뒤 하루 한 번 갱신된 문서를 받습니다. 매일 저녁 7시에 "SOP 업데이트 완료"라는 보고가 오는 식이에요.

이 구조는 안드레 카파시(Andrej Karpathy)가 제시한 LLM 위키 개념에서 빌려 왔다고 합니다. 수백 시간 분량의 데이터가 매일 쌓여도 AI가 원본을 다 훑으면 비효율적이거든요. 그래서 회의록·문서 같은 원본은 맥미니나 데이터베이스에 적재하고 그 위에 압축·요약된 문서를 따로 둡니다. 예를 들면 SK라는 클라이언트와는 이런 일을, LG라는 클라이언트와는 저런 일을 하고 있다는 식으로 정리해 두는 거예요. 이렇게 관리하면 거버넌스 측면에서도 토큰 측면에서도 훨씬 효율적이라는 설명입니다.

효과는 인수인계에서 커요. 신입이나 다른 직원이 들어왔을 때 지금 무슨 일을 하는지, 가이드가 뭔지, 그 일을 가장 잘하는 방법이 뭔지를 에이전트가 막힘없이 넘겨줄 수 있어요. 이 SOP 문서를 바탕으로 G스택과 G브레인을 써서 사업 방향을 평가해 달라고 하면 사업 평가 도표를 이미지로 돌려주기도 합니다. 최종 방향은 좋다는 평가와 함께 보완할 점도 짚어 줬다고 해요.

매일 아침 그날 할 일을 제안하는 데일리 태스크 제안도 있어요. 회사의 모든 맥락을 바탕으로 오늘 할 일과 마감이 다가온 일을 알려 주고 이를 요약 이미지로도 보내 줍니다. 대표와 직원들이 지금 무슨 일을 하는지, 확인이 필요한 리스크와 다음 액션이 무엇인지 도표로 한눈에 보여 주는 거죠.

처음부터 잘 돌아가지는 않았어요. 맥락이 부족해서 직원들이 이미 이야기한 내용이라 오늘은 별 필요가 없다는 피드백을 줬다고 해요. 조쉬는 헤르메스가 계속 나아진다는 점을 믿고 "컨텍스트가 쌓일 때까지만 조금 기다려 봅시다"라고 했는데, 지금은 답변 품질이 크게 올라가 조쉬도 놀랄 때가 있다고 합니다. 대표가 직접 업무를 챙겨 나눠 줄 필요가 줄면서 대표의 일도 어느 정도 덜었다는 게 조쉬의 체감이에요.

이메일 답장부터 사내 ERP까지 에이전트에게 넘겼어요

슬랙에는 이메일 문의 채널이 따로 있어요. 유튜버이면서 B2B 사업을 하다 보니 하루에 많게는 30건에서 50건 정도의 이메일이 오간다고 해요. 그중 꾸준히 들어오는 유형이 광고 요청 메일인데, 예전에는 답장을 안 했지만 지금은 AI가 답장을 자동으로 처리합니다. 자동 답장 검토 리포트를 받고 조쉬가 승인하면 일괄 발송되는 구조예요.

1일 요약도 받아요. 답장을 놓쳤거나 꼭 답해야 하는 메일을 빠짐없이 챙기도록 어시스턴트가 제안해 줍니다. 여기에 "일괄로 답장 초안 작성해 줘"라고 하면 헤르메스가 회사 맥락에 맞춰 바로 보낼 수 있는 답장 초안을 써 주고 승인만 하면 일괄 발송돼요. 조쉬는 헤르메스 에이전트에 Gmail API를 붙이면 회사 맥락에 걸맞은 답장을 훨씬 좋은 품질로 받을 수 있다고 말합니다. 이메일 답장에 매일 많은 시간을 쓰는데 요즘 같은 때에 AI 없이 그걸 다 하는 건 사업을 어렵게 운영하는 방식일 수 있다는 거예요.

사내 시스템도 직접 만들어 쓰고 있어요. 프로젝트 관리, 휴가 관리처럼 직원들 요구로 생긴 기능을 모은 사내 ERP 대시보드인데, 조쉬는 100% ERP라고 보긴 어렵다고 덧붙입니다. 헤르메스가 이 시스템을 직접 개발할 수 있게 연동해 뒀어요. 견적서와 세금 계산서를 쉽게 발행할 수 있고 에이전트 탭에서 "세금 계산서 발급해 보자"라고 입력하면 필요한 정보를 물어 가며 대화로 발급까지 진행합니다.

카피라이팅 기능도 있어요. 멤버들이 가장 어려워하던 게 문구 쓰기였는데, 조쉬가 쌓아 온 데이터와 지식 베이스를 바탕으로 회사 스타일에 맞는 카피를 뽑아 줍니다. 회사 소개서도 에이전트에게 만들어 달라고 해요. 스크린샷을 일일이 넣지 않아도 회사 역량, 업데이트 내용, 프로젝트를 토대로 그때그때 최신 소개서를 새로 만들 수 있다고 합니다.

구성원별 활용도는 제각각이에요. 커뮤니티 업무를 맡은 직원은 에이전트에게 도와줄 수 있는 일을 리뷰해 달라고 하면서 아이디어를 얻었어요. 비개발자인 PD는 ERP 유지보수를 위임받아 대화로 에이전트와 함께 고치고 있습니다. PM은 업무에 필요한 도구를 ERP에 추가하거나 프로젝트 관리 기능이 필요할 때 에이전트를 써요. 가장 잘 쓰는 사람은 개발자인데, 매일 데일리 스탠드업에서 에이전트를 불러 한 일을 체크하고 저장하는 것까지 스스로 하고 있어요.

조쉬네는 회의가 끝난 뒤 발표 자료, 요약 이미지, 리포트, 이메일 같은 산출물을 빨리 만들어야 하는 B2B 특성 때문에 회의록 서비스도 따로 개발하고 있어요. 회사 전체 업무 도표에는 사람이 하는 일과 AI 에이전트가 하는 일을 구분해 적어 두고 매일 무엇을 넘길 수 있는지 가려 자동화하려고 합니다. 현장과 사람을 많이 다루는 일이라 아직 사람이 필요한 영역이 남아 있어요. 그래도 지금 맡긴 브리핑·요약·태스크·자동화의 범위가 점점 넓어질 거라고 조쉬는 봅니다.

조쉬가 정말 중요하다고 꼽은 건 개선 루프예요. 회의록, 오늘 할 일, 마감한 일을 계속 입력하고 직원들이 에이전트에게 이런 건 하지 말고 이런 건 더 잘해 달라고 피드백을 남기게 하는 거죠. 작은 팁도 하나 있어요. 에이전트와 대화할 때마다 슬랙 알림이 울려서 에이전트 채널을 따로 만들고 알림을 꺼 뒀다고 합니다. 에이전트와의 대화를 프라이버시처럼 여길 수도 있지만 조쉬는 DM보다 공개된 곳에서 대화해 데이터가 쌓이게 하는 편이 낫다고 봐요.

한 달을 써 보니 잘 되는 것과 아직 사람 몫인 것이 갈렸어요

정말 잘 되고 있느냐는 물음에 조쉬는 일단 되고 있고 매일 나아지고 있다고 답해요. 팀원 모두 Claude Code를 일상적으로 쓰는 조직이라 따로 불러 쓰는 에이전트도 함께 섞어 쓰고 있다고 합니다.

한계도 분명히 짚어요. 외부 커뮤니케이션 자동화처럼 맥락이 아주 깊은 대화는 아직 AI가 답하기 어렵고 계약 같은 일은 AI에게 맡길 일이 아니라고 말해요. 돈이 오가는 일이나 견적서도 사람의 검수가 반드시 필요한 영역입니다. 생각보다 암묵지에 기대는 부분이 많아서 조심해서 설계해야 한다는 거예요.

팀원별 AI 리터러시 편차도 계속 남을 수밖에 없다고 봐요. 다만 에이전트가 회사 안에서 늘 대화하고 있다는 기록이 보이니 직원들이 리터러시를 더 올려야겠다고 느끼는 간접 효과는 분명히 있었다고 합니다. 토큰 사용량은 예측하기 어려운데, 조쉬네는 GPT 100달러 플랜으로 쓰면서 한도를 넘겼거나 토큰이 모자라 못 썼다는 이야기는 아직 듣지 못했대요. 공용 에이전트라면 ChatGPT 100달러 플랜 정도로 충분히 쓸 수 있을 거라는 게 조쉬의 생각이에요.

조쉬가 깨달은 점은 세 가지예요. 첫째, 헤르메스 에이전트는 소규모 조직이나 막 출발한 신생 조직에 맞아요. 레거시 조직은 데이터를 적재하기도 어렵고 기존 도구와 관성을 깨기도 어렵습니다. 그래서 AI 네이티브 조직은 레거시가 없는 작은 조직에서 시작하는 편이 낫다고 권해요.

둘째, 헤르메스는 AI 코딩 도구가 하는 일을 다 할 수 있어요. 처음엔 ChatGPT처럼 지식 시스템 정도로 여기고 대화만 많이 했는데, 영업 메일 자동 발송, 회사에 맞는 PPT나 HTML 페이지 제작, ERP 같은 자체 프로덕트 개발까지 영역이 넓다는 걸 알게 됐다고 해요. 가능성이 무궁무진하다는 걸 점점 더 느끼고 있다고 합니다.

셋째이자 가장 중요한 건 보안 관리예요. 조쉬네는 비교적 신생 조직이라 아직 자유로운 편이지만 고객사 정보는 절대 적재하지 않아요. 회의록이라도 고객사 정보가 들어간 부분은 전부 빼고 쌓고 개발자와 함께 2차 인증 같은 이중 보안에도 신경 쓴다고 합니다. 별도 담당자를 정해 안전한 가드레일 안에서 공용 에이전트를 써야 한다는 거죠. 조쉬는 모든 조직에 데이터 거버넌스와 보안을 관리할 직원이나 에이전트가 필요하다고 봐요.

핵심 인사이트

• 에이전트의 실력은 쌓인 맥락에서 나와요: 데일리 태스크 제안은 처음엔 이미 아는 이야기라는 반응을 들었지만 맥락이 쌓이자 품질이 크게 올랐어요. 도입 초기 결과만 보고 판단하면 이 구간을 넘기지 못하고 접게 됩니다.
• 원본보다 매일 갱신되는 요약 문서가 일을 해요: LLM 위키 방식으로 원본 위에 압축된 SOP를 두면 토큰을 아끼고 인수인계 문서까지 함께 생겨요. 사람이 쓰지 않아도 문서가 계속 살아 있다는 점이 차이를 만듭니다.
• 설치 위치는 공용인지 개인용인지로 정해요: 맥미니나 데스크톱 버전은 개인용에 맞고 여럿이 슬랙에서 쓰는 에이전트는 24시간 켜져 있고 OS 변수가 없는 VPS가 더 안정적이라는 게 조쉬의 결론이에요.
• 자동화 범위와 사람 검수 범위를 먼저 나눠요: 이메일 답장은 승인 후 일괄 발송, 세금 계산서는 대화로 발급하지만 계약·돈·견적은 사람 검수를 남겨 둬요. 경계를 미리 그어 둬야 맡길 수 있는 일이 늘어납니다.

오늘 당장 해볼 것

1. 슬랙에 에이전트 전용 채널을 하나 만들고 알림을 꺼 두세요. 조쉬처럼 DM 대신 공개 채널에서 대화하면 맥락이 팀 전체의 데이터로 쌓입니다.
2. 회의 녹음을 자동 적재로 연결해 보세요. 녹음 기기나 앱의 녹음본이 재피어(Zapier)를 거쳐 슬랙·옵시디언·깃허브 중 한 곳에 자동 저장되게 해 두면 매일 쌓이는 회의록이 에이전트의 재료가 돼요.
3. 회사 SOP 초안을 한 장 만들고 에이전트에게 매일 정해진 시각에 갱신해서 보고하게 해 보세요. 조쉬네처럼 저녁 7시 보고를 걸어 두면 며칠만 돌려 봐도 문서가 어떻게 바뀌는지 눈에 보입니다.