에이전트 AI, 기업의 의사결정을 바꾼다고?

1. 생성형 AI를 넘어 에이전트형 AI의 시대로

최근 인공지능 업계는 스스로 인지하고 추론해 능동적으로 행동하는 에이전트형 AI(Agentic AI)의 가능성에 대해서 주목하고 있습니다. 주요 빅테크도 고성능 거대언어모델(LLM) 기반의 기술 경쟁력을 확보한 상태에서, 이젠 LLM을 어떻게 활용해 실제 문제를 해결하는가를 핵심 과제로 삼고 있죠.

이런 변화는 특히 기업에서의 단순한 업무 효율화를 넘어 의사결정 구조의 근본적인 재편을 예고하고 있습니다. 과거의 AI가 인간의 질문에 수동적으로 답변하는 '도구'에 머물렀다면, 에이전트형 AI는 목표를 부여받으면 스스로 계획을 수립하고, 도구를 선택하며, 복잡한 업무 프로세스를 완결하는 '주체'로서의 지위를 강화해 나갈 것으로 예상됩니다.

 

2. 현재 기업에서의 AI 활용 수준

최근 오픈AI(OpenAI)에서 제시한 분류 체계를 기준으로 살펴볼 때, 현재 대다수 기업의 AI 활용은 L1 또는 낮은 L2 수준에 머물러 있습니다. 이미 널리 알려진 2차 데이터 기반 시장 조사나 보고서 작성 위주인데요. 전문적인 스킬이 필요한 인수·합병(M&A), 마켓 인텔리전스(Market Intelligence), 그리고 시나리오 플래닝(Scenario Planning)과 같은 분야에서는 점차 높은 수준의 L2 및 일부 L3에 근접한 AI 서비스들이 활용되고 있습니다.

M&A는 기업의 적시성 있는 신사업 추진에서 점차 중요성이 높아지고 있지만, 대상 기업을 발굴하고 검증하는 과정은 많은 인력과 오랜 시간이 소요되는 업무였습니다. 현재 그라타(Grata), 헤비아(Hebbia), 리걸플라이(LegalFly)와 같은 AI 서비스들은 이 과정을 획기적으로 단축하고 있습니다.

예를 들어, "동남아시아 시장에서 최근 3년간 연평균 성장률(CAGR) 15% 이상이며, 최근 CTO를 새로 영입한 시리즈 B~C 단계의 B2B SaaS 기업을 찾아줘"라는 명령을 내리면, 에이전트는 수만 개의 웹사이트, 뉴스, 등기부 등본, 채용 공고를 크롤링하고 분석해 조건에 부합하는 리스트를 생성합니다. 실사 단계에서는 가상 데이터 룸(VDR)에 있는 수천 건의 계약서를 에이전트가 검토해 지배권 변경(Change of Control)에 따라 기업의 핵심 이해관계자와 협의가 필요한 사항이나 잠재적인 영업 리스크들을 식별해냅니다.

AI는 과거 보고서 형태로 제시되던 경쟁 정보를 상시 모니터링할 수 있는 체계로 전환했습니다. 크레용(Crayon)이나 클루(Klue)와 같은 경쟁 정보 서비스는 경쟁사의 웹사이트 변경, 가격 정책 수정, 경영진의 SNS 활동, 특허 출원 현황 등을 24시간 감시하며 전략적 함의를 도출합니다. 예를 들어 경쟁사가 특정 기술 분야의 엔지니어 채용을 급격히 늘리는 신호를 포착하면, 에이전트는 이를 "경쟁사가 6개월 이내에 신규 AI 제품을 출시할 가능성이 높음"으로 해석하여 담당자에게 경보를 보냅니다.

또한, 패컬티(Faculty)나 팔란티어(Palantir)와 같은 AI 의사 결정 에이전트(AI Decision Agent) 서비스를 제공하는 기업은 문제 해결을 위한 가상의 시나리오를 생성해 최적의 의사결정을 지원합니다. 연간 수천억 원의 마케팅 예산을 집행하는 글로벌 대형 소비재 유통사가 "과연 이 채널에 광고 비용을 지출하는 것이 효과적일까?"라고 질문하면, 에이전트는 채널별 마케팅 비용 시뮬레이션 및 인과관계 추론을 통하여 효율적인 마케팅 예산의 재배분을 지원하는 것이죠.

 

3. 에이전트형 AI, 최종 의사결정자 될 수 있을까?

현재의 발전 속도를 고려할 때, 향후 기업 전략 분야의 AI는 업무 도구의 역할을 넘어 업무의 주체로 진화할 수 있을 것으로 예상됩니다. 이 단계에서는 AI가 조직의 디지털 트윈(Digital Twin)으로 실시간으로 전략을 수립하고 수정하는 유기적인 시스템이 될 것입니다.

궁극적인 에이전트형 AI(Agentic AI)는 기업의 내부 시스템 및 외부 정보와 실시간으로 연동돼 상위 수준의 목표 하에 능동적인 의사결정 지원 역할을 할 것입니다. 예를 들어 "현재 북미 지역의 원자재 가격 상승과 경쟁사의 프로모션 강화로 인해 3분기 영업이익 목표 달성이 위험합니다. 마케팅 예산을 B 제품군에서 A 제품군으로 15% 재배정하고, 공급처를 다변화할 것을 제안합니다"와 같은 구체적인 제안이 가능해질 것입니다.

논쟁적인 질문은 과연 AI 에이전트가 최종 의사결정자의 지위에 오를 수 있는가 하는 점입니다. 운영적 의사 결정 등 속도가 중요하고 개별 건의 리스크가 낮은 영역에서는 AI가 이미 일정 수준 의사결정자 역할을 수행하고 있으며, 이런 흐름은 점점 가속할 것입니다. 다만, M&A, 신사업 진출, 대규모 구조조정 등 매크로 의사결정 측면에서는 AI가 제안자에 머물고, 최종 승인은 인간이 하게 될 가능성이 높습니다. 이는 AI의 능력 부족 때문이 아니라 책임 소재의 문제 때문입니다.

 

4. AI가 넘어야 할 산

현재의 AI 수준에서 더 높은 레벨로 도약하기 위해서는 기술, 데이터, 정책, 규제 측면에서 여러 돌파구가 마련돼야 합니다. 전략적 의사결정에서 사소한 오류는 치명적인 결과를 초래합니다. 현재의 LLM이 가진 확률적 특성으로 인한 환각(Hallucination) 현상은 여러 사고 단계를 거쳐야 하는 의사결정에 있어서 최대 걸림돌입니다. 

그러려면 AI가 단순히 결론만 던지는 게 아니라, 어떤 과정을 거쳐 그 결론에 도달했는지 논리적 단계를 보여줘야 합니다. 이런 '생각의 사슬'(Chain of Thought)이 정교해져야 인간 의사결정자가 AI를 더 신뢰할 수 있게 됩니다.

또한, 단일 모델에 의존하는 것이 아니라, 서로 다른 역할을 가진 여러 에이전트가 협업하는 구조 즉, 멀티 에이전트 시스템(Multi-Agent Systems)이 필수적입니다. 예를 들어 '전략 수립 에이전트'가 안을 내면 '리스크 검토 에이전트'가 이를 체크하는 멀티 에이전트간의 상호 검증 방식을 통해 환각을 줄이고 논리적 정합성을 높여야 합니다.

그리고, 텍스트 검색에 의존하는 기존 검색증강생성(RAG) 방식은 전략적 맥락을 놓치기 쉽습니다. 기업 내의 모든 데이터를 지식 그래프(Knowledge Graph) 형태로 연결하여, "A 공급사의 파산이 B 제품 생산 중단으로 이어지고, 이것이 C 고객사와의 계약 위반이 된다"라는 인과관계를 이해할 수 있는 GraphRAG 기술의 확산이 필요합니다.

그 외에 정형화된 재무 데이터뿐만 아니라 이메일, 회의록, 계약서 등 비정형 데이터(Dark Data)의 관리도 필요합니다. 기업 내부의 파편화된 형태의 데이터 사일로를 허물고, AI가 모든 데이터 소스에 접근할 수 있는 통합된 데이터 인프라의 구축도 필요합니다.

AI가 수행할 수 있는 권한의 범위와 책임을 명시한 자율성 인증서(Autonomy Certificates)와 같은 디지털 인증 체계도 필요합니다. 특히, 유럽의 AI 법은 채용, 신용 평가 등 중요 의사결정에 AI를 사용할 경우 고위험으로 분류하여 엄격한 투명성과 인간 감독을 요구합니다. 기업은 이런 규제 환경 속에서 에이전트를 합법적으로 운용하기 위한 거버넌스 프레임워크를 구축해야 합니다.

 

5. 비즈니스 관점에서 본 AI 유망 분야는?

글로벌 시장조사기관 가트너는 에이전트형 AI 시장이 2025년부터 2030년까지 연평균 40% 이상의 폭발적인 성장세를 보이며, 수백억 달러 규모의 시장을 형성할 것으로 전망합니다. 이 과정에서 특히 아래와 같은 비즈니스 기회에 주목해야 합니다.

 

1️⃣ 버티컬 AI 에이전트(Vertical AI Agent)

기업의 전략적 의사결정 분야의 사례에서 알 수 있듯이 향후 범용 에이전트보다는 특정 도메인 지식과 워크플로우에 특화된 버티컬 에이전트가 좀 더 빠른 속도로 고도화할 가능성이 높으며, 단기적으로는 큰 가치를 창출할 수 있습니다. 본문의 전략적 의사결정 분야 활용 사례 외에도 특정 영역을 타겟으로 한 사례를 들자면, 소프트웨어 엔지니어링, CX(고객경험) 관점의 고객 응대 및 관리, 데이터 분석 및 연결, 의료 진단 기록 자동화, 교육 등 분야에서의 괄목할 만한 발전이 주목됩니다.

 

2️⃣ 에이전트 오케스트레이션 및 인프라(AgentOps)

기업이 향후 다양한 AI 에이전트 모듈을 운용하게 됨에 따라 이를 관리할 서비스도 필요합니다. 랭체인(LangChain), 마이크로소프트 파운드리(Microsoft Foundry)와 같은 AI 에이전트의 생성·배포·연결을 관리하는 오케스트레이션 소프트웨어에 대한 투자가 증가하고 있습니다. 또한, AI 에이전트가 제대로 작동하는지, 환각은 없는지, 보안 위협은 없는지를 실시간으로 감시하는 모니터링 솔루션이 기업의 필수 도입 항목이 될 것입니다.

 

3️⃣ 서비스형 소프트웨어(Software as a Service)에서 서비스형 업무(Service as a Service)로의 전환

가장 파괴적인 변화는 소프트웨어를 도구로 파는 것이 아니라, 업무 결과물 자체를 파는 모델의 등장입니다. 마케팅 리서치 분야에서 셀프 온라인 서베이 툴을 제공하는 업체가 서베이 결과에 대한 인사이트 보고서까지 자동으로 제공해 주는 영역으로 서비스를 확대하고 있는 사례가 생겨나고 있습니다. 향후에는 맥킨지나 BCG 같은 전통적 컨설팅 회사의 고비용 구조를 위협하는 AI 기반 전략 컨설팅 스타트업들이 확대될 가능성도 고려해 볼 수 있습니다.

 

6. 지금 주목해야 할 기회는?

AI는 기업에겐 이미 강력한 조력자가 됐습니다. 특히, 데이터 집약적인 업무에서 탁월한 성과를 보이고 있죠. 향후 기술적 신뢰성과 법적 제도가 정비됨에 따라 AI는 에이전트로서 역할을 확대해 가면서, 스스로 상황을 판단하고 대안을 제시하는 업무 주체로 진화해 나갈 것입니다.

지금은 AI가 궁극적인 목표인 인공 일반 지능(AGI)으로 나아가는 과정에서 나타나는 다양한 기회를 주목해야 할 시점입니다. 특정 분야에 특화된 버티컬 에이전트, 여러 AI가 협업하는 멀티 에이전트 환경의 인프라, 그리고 서비스형 업무 솔루션 등이 대표적입니다.