AI 관련 용어 정리

🔹AI Application

• AI 모델을 사용해 특정 기능이나 서비스를 제공하는 모든 소프트웨어
• ex. AI Agent, 챗봇

 

[AI Application Workflow]

User
↓
Application
↓
AI Model
↓
Response

 

---

🔹AI Agent

• 사용자 개입 없이 상황을 스스로 판단해 최적의 행동을 수행하는 s/w 시스템 (환경 인식, 판단, 행동)
  → 즉, AI 모델을 사용해 단순 질의 응답을 넘어 특정 유저, 특정 task에 특화된 맞춤형 서비스를 제공하고, 필요시 스스로 상황을 판단해 적절한 외부 시스템이나 도구를 호출해 작업을 수행할 수 있는 s/w

 

[AI Agent Workflow]

User 요청
↓
LLM 판단
↓
Agent가 Tool/API 선택
↓
실제 작업 수행

 

---

🔹Human-In-The-loop

• AI 시스템의 의사결정 과정 중 일부 단계에 사람이 개입해 검토, 승인, 수정할 수 있는 구조
• hallucination, 잘못된 판단, 위험한 행동 실행, 민감한 데이터 처리 등 아직 AI가 완전하지 않기 때문에 중요한 단계에서는 사람의 개입이 필요

 

---

🔹RAG (Retrieval-Augmented Generation)

• LLM이 답변을 생성하기 전에 외부 지식이나 문서를 검색(Retrieval)해 그 정보를 기반으로 답변을 생성하는 방식
  → 검색 + 답변 생성 구조
• Hallucination(환각) 감소, 내부 문서 활용, 최신 정보 제공 등
• chunking/top-k/reranking

 

[RAG Workflow]

User 질문
↓
질문 Embedding 생성
↓
Vector DB에서 유사 문서 검색 (Similarity Search)
↓
관련 문서 retrieval
↓
LLM에게 같이 전달
↓
답변 생성

 

---

🔹Vector DB

• 텍스트를 숫자 벡터로 저장하고 벡터간 유사도 검색을 통 의미 기반 검색을 하는 DB

1️⃣ 벡터 저장
2️⃣ 벡터 검색
3️⃣ similarity 계산
4️⃣ top-k retrieval

 

---

🔹Prompt

• AI에게 주는 입력 지시문

 

---

🔹MCP (Model Context Protocol)

• LLM이 외부 도구나 시스템과 표준화된 방식으로 연결할 수 있도록 만든 프로토콜 (Suggested by Anthropic)

[LLM-MCP]

LLM → MCP → Tool (Database, API, File System, Search, ...)