Agentic AI가 소프트웨어 개발 전반에서 주목을 받고 있습니다. 이제 기업과 조직은 기술의 놀라움은 뒤로하고 AI 기술과 조직이 협력하여 구현된 구체적인 결과물을 찾고 경험하고 있죠.
이번 아티클에서는 Agentic AI의 발전 과정과 기술을 알아보고 그 속에서 AI 기술이 어떻게 조직 내 일하는 방식을 바꿔가는지 알아봅니다.
From LLM to Agentic AI
![[표1] AI Agent vs LLM vs RAG vs Agentic AI (출처: Rakesh Gohel at Juteq, 2025)](https://cdn.imweb.me/upload/S20260107398d081d98db4/74fb32863eb4c.png)
[표1] AI Agent vs LLM vs RAG vs Agentic AI (출처: Rakesh Gohel at Juteq, 2025)
1. LLM의 첫 등장, 강력하지만 만능은 아닙니다
LLM은 사람처럼 글을 이해하고 쓰도록 훈련된 인공지능입니다. 질문을 하면 책, 기사, 대화 등을 참고해 자연스럽게 대답해 주는 똑똑한 답변가죠. 하지만, 한계가 분명히 존재합니다.
긴 대화나 복잡한 문맥에선 이전 정보를 누락하거나 오정보를 제공할 수도 있습니다. 또한 기존 데이터 기반이기 때문에 좀 더 구체적이거나 창의적인 답변은 어렵습니다.
▫ 긴 대화나 복잡한 문맥에서 정보 누락
▫ 기존 데이터 기반 응답으로 창의적이거나 풍부한 답변 불가
2. 그래서 RAG가 등장합니다
RAG는 외부 데이터베이스나 문서에서 관련 정보를 검색하여 LLM의 답변을 보강합니다. 또한 사용자의 질문에 관련된 추가 문서를 검색해 풍부한 응답도 가능하도록 하죠. 그리고 무엇보다 최신 정보를 제공합니다.
3. Function Call과 Tool Call 사용
에이전트가 텍스트로만 답변하는 것을 넘어 외부 도구를 사용하게 된 것이 Function Call입니다. Agent AI가 정해진 기능을 호출해서 계산하거나 정보 조회처럼 하나의 일을 처리할 때 사용됩니다. (예: “날씨 알려줘”하면 AI가 날씨 보는 기능을 호출합니다)
Tool Call은 여러 도구를 연결해서 더 복잡한 작업을 처리할 수 있습니다. (예: “여행 일정 짜줘” 하면 AI가 지도, 날씨, 예약도구 등을 순서대로 활용합니다)
4. 그리고 Agentic AI가 등장합니다
Agentic AI는 ‘생각하는 동료’입니다. 기존의 LLM에 ‘목표를 스스로 이해하고’, 필요한 도구를 골라 사용하며, 결과를 해석해 다음 행동을 결정하는 능력을 더한 개념이자 그런 구조를 설계하는 방식이죠.
Agentic AI가 변화시키는 기업의 일하는 모습
이렇듯 AI가 단순히 답변을 생성하는 시대는 끝났으며 ‘능동적인 Agentic AI’ 시대를 맞이한 것입니다. 이 변화는 결국 조직의 일하는 방식 그 자체를 다시 쓰고 있습니다.
1. 반복 업무에서 '문제 해결형 업무' 로 중심축이 이동합니다
과거 자동화가 반복 작업을 줄였다면, Agentic AI는 더 나아가 업무의 흐름(workflow) 자체를 재설계합니다. 예를 들어, 보고서 초안을 만드는 것이 아니라 보고서 작성 → 데이터 수집 → 요약 → 시각화 → 상위 보고 구조까지 이어지는 전체 프로세스를 자동화합니다. 그 결과 직원들은 ‘손으로 하는 일’이 아니라 프로세스를 설계하고 판단하는 일에 집중하게 되는 것입니다.
2. 부서 간 경계가 흐려지고 '문제 중심 협업'이 강화됩니다
Agentic AI는 각 부서가 쪼개서 처리하던 태스크를 ‘end-to-end’로 묶어서 처리할 수 있습니다. 업무가 부서를 기준으로 흘러갔다면, AI 기반 자동화로 빠르게 수렴될 수 있는 것입니다.즉, Agentic AI 플랫폼의 도입은 ‘일을 더 빨리 하는 도구’가 아니라 ‘일의 구조를 바꾸는 기술’인 것입니다.
플래티어 Agentic AI 플랫폼, XGEN
XGEN은 Agentic AI 플랫폼으로 변화는 조직과 일의 구조에 민첩하게 대응할 수 있는 대안입니다. XGEN은 안심하고 사용할 수 있는 하이브리드 클라우드 및 온프레미스 환경에서 원하는 언어모델을 사용하여 빠르고 유연하게 조직 및 비즈니스에 최적화된 맞춤형 AI 서비스 구현을 지원합니다.
Agentic AI가 소프트웨어 개발 전반에서 주목을 받고 있습니다. 이제 기업과 조직은 기술의 놀라움은 뒤로하고 AI 기술과 조직이 협력하여 구현된 구체적인 결과물을 찾고 경험하고 있죠.
이번 아티클에서는 Agentic AI의 발전 과정과 기술을 알아보고 그 속에서 AI 기술이 어떻게 조직 내 일하는 방식을 바꿔가는지 알아봅니다.
From LLM to Agentic AI
[표1] AI Agent vs LLM vs RAG vs Agentic AI (출처: Rakesh Gohel at Juteq, 2025)
1. LLM의 첫 등장, 강력하지만 만능은 아닙니다
LLM은 사람처럼 글을 이해하고 쓰도록 훈련된 인공지능입니다. 질문을 하면 책, 기사, 대화 등을 참고해 자연스럽게 대답해 주는 똑똑한 답변가죠. 하지만, 한계가 분명히 존재합니다.
긴 대화나 복잡한 문맥에선 이전 정보를 누락하거나 오정보를 제공할 수도 있습니다. 또한 기존 데이터 기반이기 때문에 좀 더 구체적이거나 창의적인 답변은 어렵습니다.
▫ 긴 대화나 복잡한 문맥에서 정보 누락
▫ 기존 데이터 기반 응답으로 창의적이거나 풍부한 답변 불가
2. 그래서 RAG가 등장합니다
RAG는 외부 데이터베이스나 문서에서 관련 정보를 검색하여 LLM의 답변을 보강합니다. 또한 사용자의 질문에 관련된 추가 문서를 검색해 풍부한 응답도 가능하도록 하죠. 그리고 무엇보다 최신 정보를 제공합니다.
3. Function Call과 Tool Call 사용
에이전트가 텍스트로만 답변하는 것을 넘어 외부 도구를 사용하게 된 것이 Function Call입니다. Agent AI가 정해진 기능을 호출해서 계산하거나 정보 조회처럼 하나의 일을 처리할 때 사용됩니다. (예: “날씨 알려줘”하면 AI가 날씨 보는 기능을 호출합니다)
Tool Call은 여러 도구를 연결해서 더 복잡한 작업을 처리할 수 있습니다. (예: “여행 일정 짜줘” 하면 AI가 지도, 날씨, 예약도구 등을 순서대로 활용합니다)
4. 그리고 Agentic AI가 등장합니다
Agentic AI는 ‘생각하는 동료’입니다. 기존의 LLM에 ‘목표를 스스로 이해하고’, 필요한 도구를 골라 사용하며, 결과를 해석해 다음 행동을 결정하는 능력을 더한 개념이자 그런 구조를 설계하는 방식이죠.
Agentic AI가 변화시키는 기업의 일하는 모습
이렇듯 AI가 단순히 답변을 생성하는 시대는 끝났으며 ‘능동적인 Agentic AI’ 시대를 맞이한 것입니다. 이 변화는 결국 조직의 일하는 방식 그 자체를 다시 쓰고 있습니다.
1. 반복 업무에서 '문제 해결형 업무' 로 중심축이 이동합니다
과거 자동화가 반복 작업을 줄였다면, Agentic AI는 더 나아가 업무의 흐름(workflow) 자체를 재설계합니다. 예를 들어, 보고서 초안을 만드는 것이 아니라 보고서 작성 → 데이터 수집 → 요약 → 시각화 → 상위 보고 구조까지 이어지는 전체 프로세스를 자동화합니다. 그 결과 직원들은 ‘손으로 하는 일’이 아니라 프로세스를 설계하고 판단하는 일에 집중하게 되는 것입니다.
2. 부서 간 경계가 흐려지고 '문제 중심 협업'이 강화됩니다
Agentic AI는 각 부서가 쪼개서 처리하던 태스크를 ‘end-to-end’로 묶어서 처리할 수 있습니다. 업무가 부서를 기준으로 흘러갔다면, AI 기반 자동화로 빠르게 수렴될 수 있는 것입니다.즉, Agentic AI 플랫폼의 도입은 ‘일을 더 빨리 하는 도구’가 아니라 ‘일의 구조를 바꾸는 기술’인 것입니다.
플래티어 Agentic AI 플랫폼, XGEN
XGEN은 Agentic AI 플랫폼으로 변화는 조직과 일의 구조에 민첩하게 대응할 수 있는 대안입니다. XGEN은 안심하고 사용할 수 있는 하이브리드 클라우드 및 온프레미스 환경에서 원하는 언어모델을 사용하여 빠르고 유연하게 조직 및 비즈니스에 최적화된 맞춤형 AI 서비스 구현을 지원합니다.