AI 기술이 빠르게 발전하면서 실무에서 접하게 되는 용어 역시 점점 낯설고 복잡해지고 있습니다. 특히 Agentic AI 플랫폼은 모델,도구,데이터,오케스트레이션이 서로 긴밀하게 연결되어 동작하기에, 핵심 개념을 정확히 이해하는 것만으로도 활용도가 크게 높아지는데요. 이번 아티클에서는 최근 기업형 Agentic AI 플랫폼에서 자주 언급되지만, 명확하게 설명하기엔 막상 어려운 주요 개념들을 정리했습니다.
1. AI 시스템의 기반을 구성하는 인프라/운영 영역
a. MCP (Model Context Protocol)
MCP는 AI 모델이 외부 데이터나 시스템과 동일한 방식으로 소통할 수 있도록 하는 '표준 연결 규약'입니다.
쉽게 말해, 여러 종류의 기기를 USB-C타입 하나로 연결하듯, 여러 AI 모델과 시스템을 단일 방식으로 연결하는 기술입니다.
한 번 MCP 커넥터를 개발하면, MCP를 지원하는 모든 AI 모델이 동일한 방식으로 시스템을 활용할 수 있어, 새로운 모델이 등장하더라도 즉시 확장 및 연결이 가능한 것이 특징입니다.
b. AI Orchestration
AI Orchestration은 여러 AI 모델과 시스템을 유기적으로 통합해, 중앙에서 여러 에이전트를 상황에 맞게 조율하여 협업을 통해 복잡한 작업을 처리하는 기술입니다.
✨ 실질적인 AI Orchestration 적용 예
사용자가 '최근 계약 관련 법규 검토 및 요약을 알려줘'라고 요청한 경우를 가정했을 시, 아래와 같이 동작합니다
▫ 문서 분석 AI 지시 : 내부 DB에서 관련 계약서 및 법규 문서 수집 및 분류
▫ 자연어 처리 AI 활용 : 핵심 내용과 법적 조항 추출 및 검색용 메타데이터 생성
▫ 최종 응답 제공 : 검색엔진 AI가 구축된 데이터베이스 기반 사용자에게 최적의 응답 제공
C. LLMOps
LLMOps란 LLM 기반 시스템의 개발, 배포, 관리, 최적화까지 모델의 전체 수명 주기를 운영하는 체계입니다.
기존 AI 운영 전략인 MLOps를 LLM에 맞게 확장한 형태로, 대규모 모델의 안정성 및 성능 개선을 위해 필수적인 운영 방식입니다.
🔄 6단계로 순환하는 모델 수명 주기
LLMOps는 다음과 같은 6단계 순환 구조를 지속해서 관리하며 모델의 성능 및 안정성을 유지합니다.
2. AI 시스템의 학습 및 에이전트 기술 영역
a. Tool Calling
Tool Calling은 Agent 동작의 핵심을 이루는 기술로, LLM이 스스로 적절한 외부 도구나 API를 호출해 실제 작업을 수행하도록 돕는 기술입니다.
🔄 Tool-Calling 작동 원리
사용자 요청 분석 → 필요한 도구 선택 → 선택한 Tool 실행 → Tool 결과를 판단해 다음 행동 결정 → 순차적인 도구 활용을 통해 최종 목표 달성
b. RAG (Retrieval Augmented Generation)
RAG은 언어 모델에 외부 지식을 결합하여 보다 정확하고 최신 정보를 생성하도록 돕는 기술입니다. 기존 LLM은 학습 시점에 데이터에 기반해 동작하기에, 최신 정보 반영이나 특정 도메인의 전문 지식을 제공하는 데 한계가 있었는데요. RAG은 이를 보완하고 응답의 신뢰도 및 정확도를 높이기 위해 등장한 대표적인 기술입니다.
🔄 RAG 작동 원리
RAG은 다음과 같이 세 단계를 통해 최신 이슈나 빠르게 변화하는 환경에 대응할 수 있으며, 각 산업의 전문 지식을 쉽게 통합할 수 있습니다.
마무리
AI 기술은 앞으로도 급격한 속도로 진화할 것입니다. 이번 글에서 다룬 핵심 개념들을 이해해두면, 새로운 기술이나 용어가 등장하더라도 그 흐름을 훨씬 쉽게 파악할 수 있을 것입니다. 앞으로도 변화하는 AI 환경 속에서 도움이 될 인사이트를 지속적으로 전해드리겠습니다.
AI 기술이 빠르게 발전하면서 실무에서 접하게 되는 용어 역시 점점 낯설고 복잡해지고 있습니다. 특히 Agentic AI 플랫폼은 모델,도구,데이터,오케스트레이션이 서로 긴밀하게 연결되어 동작하기에, 핵심 개념을 정확히 이해하는 것만으로도 활용도가 크게 높아지는데요. 이번 아티클에서는 최근 기업형 Agentic AI 플랫폼에서 자주 언급되지만, 명확하게 설명하기엔 막상 어려운 주요 개념들을 정리했습니다.
1. AI 시스템의 기반을 구성하는 인프라/운영 영역
a. MCP (Model Context Protocol)
MCP는 AI 모델이 외부 데이터나 시스템과 동일한 방식으로 소통할 수 있도록 하는 '표준 연결 규약'입니다.
쉽게 말해, 여러 종류의 기기를 USB-C타입 하나로 연결하듯, 여러 AI 모델과 시스템을 단일 방식으로 연결하는 기술입니다.
b. AI Orchestration
AI Orchestration은 여러 AI 모델과 시스템을 유기적으로 통합해, 중앙에서 여러 에이전트를 상황에 맞게 조율하여 협업을 통해 복잡한 작업을 처리하는 기술입니다.
✨ 실질적인 AI Orchestration 적용 예
사용자가 '최근 계약 관련 법규 검토 및 요약을 알려줘'라고 요청한 경우를 가정했을 시, 아래와 같이 동작합니다
▫ 문서 분석 AI 지시 : 내부 DB에서 관련 계약서 및 법규 문서 수집 및 분류
▫ 자연어 처리 AI 활용 : 핵심 내용과 법적 조항 추출 및 검색용 메타데이터 생성
▫ 최종 응답 제공 : 검색엔진 AI가 구축된 데이터베이스 기반 사용자에게 최적의 응답 제공
C. LLMOps
LLMOps란 LLM 기반 시스템의 개발, 배포, 관리, 최적화까지 모델의 전체 수명 주기를 운영하는 체계입니다.
기존 AI 운영 전략인 MLOps를 LLM에 맞게 확장한 형태로, 대규모 모델의 안정성 및 성능 개선을 위해 필수적인 운영 방식입니다.
🔄 6단계로 순환하는 모델 수명 주기
LLMOps는 다음과 같은 6단계 순환 구조를 지속해서 관리하며 모델의 성능 및 안정성을 유지합니다.
2. AI 시스템의 학습 및 에이전트 기술 영역
a. Tool Calling
Tool Calling은 Agent 동작의 핵심을 이루는 기술로, LLM이 스스로 적절한 외부 도구나 API를 호출해 실제 작업을 수행하도록 돕는 기술입니다.
🔄 Tool-Calling 작동 원리
사용자 요청 분석 → 필요한 도구 선택 → 선택한 Tool 실행 → Tool 결과를 판단해 다음 행동 결정 → 순차적인 도구 활용을 통해 최종 목표 달성
b. RAG (Retrieval Augmented Generation)
RAG은 언어 모델에 외부 지식을 결합하여 보다 정확하고 최신 정보를 생성하도록 돕는 기술입니다. 기존 LLM은 학습 시점에 데이터에 기반해 동작하기에, 최신 정보 반영이나 특정 도메인의 전문 지식을 제공하는 데 한계가 있었는데요. RAG은 이를 보완하고 응답의 신뢰도 및 정확도를 높이기 위해 등장한 대표적인 기술입니다.
🔄 RAG 작동 원리
RAG은 다음과 같이 세 단계를 통해 최신 이슈나 빠르게 변화하는 환경에 대응할 수 있으며, 각 산업의 전문 지식을 쉽게 통합할 수 있습니다.
마무리
AI 기술은 앞으로도 급격한 속도로 진화할 것입니다. 이번 글에서 다룬 핵심 개념들을 이해해두면, 새로운 기술이나 용어가 등장하더라도 그 흐름을 훨씬 쉽게 파악할 수 있을 것입니다. 앞으로도 변화하는 AI 환경 속에서 도움이 될 인사이트를 지속적으로 전해드리겠습니다.