[투자의 단상/241119] AI의 세번째 도약: 에이전트 (미래에셋)#2

오늘도 어제에 이어 AI 에이전트 관련 리뷰를 해보도록 하겠습니다.

---

AI 에이전트로의 진화

22년 말 챗GPT 등장 이후 23~24년은 고도화된 챗봇을 개발하는데 주력
에이전트란 단순히 질문에 답을 하는 챗봇을 넘어 복잡한 업무가 주어졌을 때 도구와 메모리를 활용해서 적절한 계획을 세우고 필요한 경우 액션까지 수행할 수 있는 비서를 의미

AI 에이전트의 기본 개념을 도구와 메모리를 활용해 계획을 세우고 액션까지 수행하는 것으로 보고 있는 것 같습니다.

앤드류 응의 에이전틱 워크플로우(Agentic Workflow)

파운데이션 모델은 기본적으로 확률에 기반한 답변을 하기 때문에 부정확한 답변을 내놓거나 복잡한 추론을 하기 어려움. AI가 액션까지 하는 에이전트로 발전하기 위해서는 이 문제를 해결해야함
최근 에이전틱 워크플로우(Agentic Workflow)를 통해 AI의 정확도와 유용성이 크게 발전하기 시작: 하나의 AI 모델이 그대로 답을 내놓는 것이 아니라 다른 AI를 활용해 답변을 재검토하거나 복잡한 추론을 하는 방법론

아마도 기본적 방법론은 멀티모달과 다중 AI 에이전트가 재귀호출 및 검증을 통해 다층화된 추론을 수행하고 최종 액션까지 수행하는 방식인 것 같습니다.

1)반추

앤드류 응은 에이전트적인 접근법으로 1) 반추, 2) 도구 사용, 3) 계획, 4) 에이전트간 협력을 제시

코딩하는데에 있어서 coder agent와 critic agent가 상호 협업하며 디버깅을 하는 모습이 인상적이네요.
기본 기술로는 반추(reflection)와 tool 사용을, 부상하는 기술로는 계획(planning)과 협력(multi-agent collaboration)을 들고 있습니다.

2)도구 사용

RAG(검색 증강 생성) 기법은 외부 소스에서 가져온 정보로 생성 AI 모델의 정확성과 신뢰성을 향상

흔히 생각하기 쉬운 도구는 search engine이 될텐데, 그외 Knowledge Base, Code Interpreter, Text API 등 다양한 종류의 사전 정의된 도구들을 활용할 수 있을 것 같습니다.
이러한 도구들이 critic agent가 verify단계에서 활용하여 정정된 output들을 만들어 내어 정확도를 계속해서 향상시키는 기법인 것 같습니다.

3)계획(Planning)

계획(Planning)이란 AI가 복잡한 작업을 추론하고 고안하며 분해할 수 있도록 훈련하는 것으로 자율적으로 작업을 세분화하고, 필요한 하위 단계와 도구를 식별하며, 다양한 모델을 호출함으로써 작업을 수행

작업 Request에 대해 planning agent가 자동으로 작업을 세분화, 단계와 도구를 식별, 호출, 수행 등의 하위 작업 flow를 관장하는 일련의 과정을 planning이라 할 수 있을 듯 합니다.
일련의 추론과 수정,액션 과정에 인간의 작업이 전혀 개입하지 않아도 된다는 점이 인상적인 것 같습니다.

4)에이전트간의 협력

오토젠이라는 프로젝트는 코드 생성에 필요한 작업을 위해 요구 사항 이해, 아키텍처 디자인, 코드 실행 등 다양한 역할을 하는 에이전트들을 만들고 이들 간의 대화를 통해 복잡한 업무를 수행: 실험 결과 단일 에이전트보다 뛰어난 성능을 보이는 것으로 확인

24년 11월 마이크로소프트는 ‘마젠틱 원(Magentic-One)’ 공개: 총괄 에이전트인 오케스트레이터(Orchestrator)가 계획을 세우고 진행 상황을 추적하며 오류가 발생할 경우 재계획하여 복구하는 동시에, 웹 브라우저 조작이나 파이썬 코드 작성/실행 등의 작업을 전문 수행하는 에이전트들을 지휘함으로써 기존 AI 대비 성능 개선을 이뤄냄

기존 클라우드 네이티브 플랫폼의 기반이 되는 오케스트레이션이 생성AI를 넘은 AI Agent 시대에서는 인간이 최종 행위자가 되는 하나의 툴로서의 오케스트레이션이 아니라, AI Agent 자율적으로 계획,도구사용,반추,액션까지 멀티에이전트 협업을 통해 E2E 기반으로 완결성 있게 수행해 낸다고 하는 것이 Agentic Workflow의 핵심이 아닐 까 합니다.

AI 발전 5단계

1단계: 22년 말 발표된 챗GPT는 사람에 가까운 챗봇을 만들 수 있는 잠재력을 보여줌
2/3단계: 향후 2~3년간 추론 능력의 발전을 통해 행동할 수 있는 에이전트로 발전
4/5단계: AI가 스스로 시뮬레이션을 통해 데이터를 만들고 학습하거나 AI간의 상호 협력을 통해 더 나은 성능을 구현. 인간의 성능을 넘어서는 발전으로 이어질 잠재력

용어들을 보면 결국 최종 5단계 종착점에서는 AI DAO라고 할만한 분산화된 AI 협업조직이 생겨나게 되지 않을 까 하는 생각이 들기도 합니다.
인간의 개별 자아들을 대변하는 인터넷과 분산환경 상의 Avatar들이 아닌, AI가 개별 주체로써 스스로 의식하고 분석하고 행동하는 AI DAO의 시대에서는 어쩌면 (인간이 의도하고자 하는 최종 산물을 AI DAO 조직들이 내놓는다는 전제조건만 빼놓는다면) 인간이 의사결정의 주체가 아닌 철저히 소외되고 피상적인 존재로 남게 될 개연성까지 생겨나지 않을 까 싶습니다.
그것이 AI의 규제되지 않은 무분별한 발전을 우려하는 소수 전문가 집단의 목소리가 나오는 배경이 되고 있는 것 같습니다.

오늘은 Agentic Workflow의 기술과 동향에 대해 살펴보았습니다.
내일은 기업용 AI 시장의 잠재력에 대한 리뷰를 이어가 보도록 하겠습니다.

오늘 하루도 활기찬 시간들 되시기 바랍니다.~