[컨퍼런스] AI Tech 2025 참석 후기

AI Tech 2025 컨퍼런스에서 확인한 LLMOps, A2A, Embodied AI 등 최신 AI 시스템 운영 전략

실무자 중심의 AI 도입 이후 전략, 오케스트레이션 구조, 에이전트 협업 사례 중심


1. 행사 개요

AI Tech 2025는 단순한 모델 개발이나 비전 소개를 넘어서,
“AI를 어떻게 현업에 도입하고 운영할 것인가”를 주제로 구성된 실무 중심의 컨퍼런스였다.
다양한 기업과 기술 리더들이 실제 적용 사례, 인프라 설계, 오케스트레이션 전략을 공유했으며,
AI 도입 이후 단계에서 실질적인 생산성을 확보하기 위한 전략들이 인상 깊었다.


2. 키노트 요약: Embodied AI와 기술 진화 방향

서울대 장병탁 교수의 기조연설에서는 AI의 진화 방향이 강조되었다.

  • 기존: 디지털 정보 공간 내 추론 중심의 AI
  • 변화: 실세계와 상호작용하며 학습·판단·행동하는 Embodied AI

Embodied AI는 물리적 환경을 인식하고 그에 반응할 수 있는 에이전트로, 강화학습 및 체화 학습을 통해 자율성을 확보한다.


Figure: Embodied AI – 환경 인지, 판단, 행동이 통합된 AI 시스템


3. A2A 시대의 도래: Agent 협업 구조

🔍 A2A(Agent-to-Agent Protocol)

이번 행사에서 가장 빈번하게 언급된 개념 중 하나는 A2A였다.

  • 의미: 에이전트 간 데이터 공유 및 협업을 위한 통신 프로토콜
  • 기능: 목적 지향형 대화, 작업 분담, 협업형 워크플로우 구성
  • 사례: 문서 요약 에이전트 → 일정 정리 에이전트로 결과 전달
요약 에이전트 → 분석 결과 전달 → 일정 에이전트가 회의 제안 자동화

🧩 관련 개념

  • Agent Hub: 에이전트 설계/운영 통합 플랫폼

    • ADK: Agent Design Kit
    • Agent Engine: 배포 및 실행 환경
    • Agent Garden: 에이전트 레지스트리/관리

이와 같은 구조는 기존 **MSA(마이크로서비스 아키텍처)**와 유사하게, AI 시스템에서도 다수의 특화 에이전트가 상호작용하는 구조적 전환을 의미한다.


4. AI는 이제 운영의 시대

기술보다 중요한 건 운영과 조율이다. 특히 다음과 같은 통찰이 강조되었다.

  • AGI는 단일 모델이 아닌, 여러 특화 에이전트의 조합
  • 이 조합을 조율하는 AI 오케스트레이션 계층이 핵심
  • 개발자는 모델 사용자에서 AI 아키텍처 설계자로 역할 확장 필요

A2A는 단순한 API 호출이 아니라, 에이전트 간 협업 흐름을 구성하는 전략적 도구로 자리잡고 있다.


5. 실무 적용 사례 및 전략

📌 주요 사례

  • 한화생명: 보험 상담 자동화 (LLM + RAG 기반 챗봇 운영)
  • KT: 기관 문서 기반 검색 시스템 구축
  • MARA: 자산 시장 분석 자동화
  • Nota AI: 엣지 디바이스용 AI 모델 경량화 및 배포

이 외에도 다양한 기업들이 AI를 ‘기능’으로서가 아닌, 문제 해결 도구로서 어떻게 전략적으로 운영하고 있는지를 소개했다.


6. 기술 인사이트

🛠️ 실용 기술

  • Structured Pruning: 불필요한 파라미터 제거로 경량화
  • Filter Decomposition: 병렬 연산을 직렬화하여 성능 최적화
  • RAG 기반 검색: 문서 기반 답변 정확도 향상
  • Agent Workflow: 도메인 특화 다중 에이전트 협업 구성

7. 결론

AI 시스템은 이제 단일 모델의 정확도보다, 어떻게 운영되고 협업 구조를 갖추는가가 더 중요해지고 있다.

이번 컨퍼런스를 통해 확인한 핵심은 다음과 같다:

  • AI는 플랫폼이다: 단일 모델보다 다중 에이전트의 구조화된 조율이 핵심
  • A2A는 미래의 기본 요소: 마이크로서비스처럼 에이전트 협업이 표준화될 것
  • 운영 전략이 곧 성패를 가른다: 기술보다 프로덕션 환경 최적화가 우선시됨

기술을 넘어 전략으로서의 AI를 고민하게 된 의미 있는 자리였다.