Gen AI Tech 최신 동향
Graph RAG
- 검색 과정에서 지식그래프를 활용하는 RAG
- 지식 간 관계를 명시적으로 포착하여 필요한 컨텍스트 추출
- 보다 실행 가능하고 구체적인 날리지 검색 → 대규모 날리지베이스에서 검색성능 개선
Multi-Agent
- Multi-Agent 시스템(MAS)은 여러 독립적인 에이전트들이 상호작용하며 협력하거나 경쟁해 목표를 달성하는 분산형 시스템입니다. 각 에이전트는 자율적으로 행동하고, 환경을 인식하며 독립적인 의사결정을 내립니다. 주로 로보틱스, 교통 관리, 전자 상거래, 게임 AI, 스마트 그리드 등에서 사용됩니다. MAS는 확장성과 복잡한 문제 해결에 강점을 가지지만, 에이전트 간 조정과 통신 비용이 도전 과제가 될 수 있습니다.
Lessons & Learns
- 챗봇은 그다지 좋은 UX가 아니다.
- 사용자의 생각과 노력을 요구하기 때문
- 개방형 질문일수록 LLM이 실수를 잘함
- 중요한 유스케이스는 Chatbot보다는 Copilot지향
- LLM의 성능이 정보를 생성할만큼 정확하지 않음
- 가급적 정보 생성보다는 소비(분석, 요약)하여 인사이트를 제공하는데 활용
- 구성원들이 스스로 구현/테스트/배포할 수 있는 안전한 환경이 필요
- RAG와 에이전트 최적화는 굉장히 어렵다.
LLM Application Builder를 활요한 AI Agent 개발 효율 개선
마크다운으로 변환하여 날리지베이스에 저장
모델 선택 시 일반적인 고려 사항