Blog
현장에서 동작하는 AX
AI 에이전트 구축 사례와 개발·운영 과정에서 얻은 경험을 공유합니다.
AI 기술
8편
임베딩 모델 뜻: RAG 검색 품질을 좌우하는 부품과 폐쇄망에서 고르는 기준
임베딩 모델은 문장과 문서를 벡터로 바꿔 뜻이 비슷한 글끼리 가까운 위치에 놓는 AI 모델이고, RAG에서는 답변 모델에 넘길 문서를 고르는 단계를 맡습니다. 임베딩의 뜻과 RAG 안에서 하는 일을 정리하고, 외부 API를 쓸 수 없는 폐쇄망 기관이 임베딩 모델을 고를 때 확인할 기준을 살펴봅니다.
MoE 뜻: 총 파라미터와 활성 파라미터, 온프렘 GPU 산정 기준
MoE는 모델 안에 여러 전문가 신경망을 두고 토큰마다 일부만 골라 계산하는 구조입니다. 계산량은 활성 파라미터를 따르지만, GPU 메모리에는 전체 가중치를 올려야 합니다. 총 1조 파라미터 중 490억 개만 활성화하는 Mistral Large 4를 예로, 온프렘 GPU를 산정할 때 따로 계산해야 할 것을 정리합니다.
RAG 운영 단계에서 정확도가 떨어지는 이유 4가지
사내 문서 RAG는 며칠이면 만들 수 있지만, 실제 업무에 쓰기 시작하면 잘못된 답이 나옵니다. 원인은 대부분 모델보다 문서 상태에 있습니다. 운영 단계에서 정확도가 떨어지는 네 가지 원인과 판단이 필요한 질문을 규칙에 맡기는 방법, Ground Truth를 먼저 정리해야 하는 이유를 다룹니다.
엔터프라이즈 온톨로지 플랫폼, 무엇으로 고를 것인가
Palantir, Databricks, Snowflake, Microsoft가 15개월에 걸쳐 전부 온톨로지 계층을 갖췄습니다. 모두가 같은 답을 내놓으면 그 답은 더 이상 선택 기준이 되지 못합니다. 온톨로지가 차별점에서 기본값으로 내려온 지금, 기업이 실제로 봐야 할 네 가지 기준을 정리합니다.
하네스 엔지니어링: 에이전트보다 환경이 먼저다
같은 모델로도 어떤 회사에서는 에이전트가 제법 일하고 다른 회사에서는 엉뚱한 방향으로 달립니다. 격차를 만드는 건 모델이나 프롬프트가 아니라 에이전트를 둘러싼 환경입니다. 2026년 '하네스 엔지니어링'이 기업 AI의 다음 계층으로 떠오른 배경과, 하이퍼이지가 Skein OS에 이 원칙을 어떻게 녹여 냈는지 정리합니다.
디지털 트윈은 로봇의 학습장이다: NVIDIA Isaac Sim과 Physical AI
디지털 트윈은 더 이상 모니터링 대시보드가 아닙니다. 로봇과 AI가 현실에 나오기 전 학습하는 환경이 되었습니다. NVIDIA Isaac Sim·Omniverse·GR00T·Cosmos가 그려낸 Physical AI 표준과, 한국 제조가 점검해야 할 두 가지 함정을 정리합니다.
LLM만으론 기업이 안 돌아간다: Ground Truth와 온톨로지
AI 도입률은 역대 최고인데 실제 성과를 내는 기업은 5%에 불과합니다. 모델이 부족해서가 아니라, AI가 참고할 기업의 Ground Truth가 정리돼 있지 않기 때문입니다. 온톨로지가 어떻게 그 간극을 메우는지 풀어봅니다.
MCP로 기업 AI를 운영하는 법
MCP(Model Context Protocol)는 AI 모델과 외부 시스템을 연결하는 공용 프로토콜입니다. N×M 어댑터 지옥을 N+M으로 바꾸는 이 표준을 기업이 도입할 때 마주하는 네 가지 현실, 그리고 Skein OS가 54개+ MCP Store로 이를 실전 운영하는 방식을 정리합니다.
AI 도입을 검토하고 계신가요?
현재 업무와 데이터 환경을 살펴보고, 적용 가능한 범위와 구축 방향을 제안해 드립니다.