회사 전용 AX는 어떻게 만들어지나
AX 전환의 핵심은 범용 ChatGPT가 아니라 우리 회사 업무를 아는 전용 AI입니다. 사내 AI 구축의 학습 재료가 되는 근무 데이터와 기업 AI 도입 방법을 정리했습니다.
요즘 조직마다 AX라는 말이 자주 나옵니다. AX는 AI 전환(AI Transformation)의 약자로, 사람이 손으로 하던 업무를 AI가 거들거나 대신하도록 일하는 방식 자체를 바꾸는 것을 뜻합니다. 회사 입장에서 AX의 목표는 분명합니다. 우리 회사의 실제 업무에 AI를 붙여서 같은 인원으로 더 많은 일을, 더 빠르게 처리하는 것입니다.
문제는 그 AI가 무엇을 아느냐입니다. ChatGPT나 Claude 같은 범용 AI는 세상의 일반적인 지식은 넓게 알지만, 우리 회사가 무슨 제품을 어떻게 만드는지, 지난 분기에 어떤 프로젝트가 있었는지, 누가 어떤 업무를 맡고 있는지는 알지 못합니다. 그래서 "지난달 우리 팀 개발 일정 정리해줘" 같은 요청에는 답하지 못하고, 일반론만 돌려줍니다. AX를 제대로 하려면 우리 회사 업무 맥락을 아는 AI, 즉 회사 전용 AI가 필요합니다.
왜 범용 AI만으로는 사내 AI 구축이 안 되나
여기서 많은 조직이 부딪힙니다. 계정만 사면 누구나 쓸 수 있는 범용 AI를 도입했는데, 정작 업무 성과로는 잘 이어지지 않는 것입니다. MIT의 프로젝트 NANDA가 2025년 발표한 조사에 따르면, 기업의 생성형 AI 도입 시도 가운데 약 95%가 측정 가능한 성과를 내지 못했다고 합니다 (MIT report: 95% of generative AI pilots at companies are failing, 2025). 보고서는 그 원인을 모델의 성능이 아니라, AI가 회사의 실제 업무 맥락을 학습하지 못하고 일상 업무와 겉돈 데서 찾았습니다.
이유는 단순합니다. 회사 업무의 대부분은 우리 조직 안에만 있는 정보로 돌아갑니다. 어떤 문서를 주로 쓰는지, 반복되는 작업은 무엇인지, 어떤 프로그램에서 하루가 흘러가는지 같은 것들입니다. 이 맥락이 빠진 범용 AI는 "똑똑한 검색 도구"에 가깝지, 우리 회사의 일을 대신 처리하는 동료는 아닙니다. 기업 데이터 리더 550여 명을 대상으로 한 한 조사에서도 AI 확산에 실패한 이유의 절반 가까이(49%)를 "충분한 업무 맥락의 부재"로 꼽았습니다 (Do Enterprises Need a Context Layer? What Data Says In 2026, 2026).
정리하면 사내 AI 구축의 병목은 모델보다 재료 쪽입니다. 우리 회사가 어떻게 일하는지를 담은 데이터가 있어야, 그 위에서 전용 AI가 만들어집니다.
그 재료는 어디서 나오나
회사의 업무 맥락은 대부분 흩어져 있습니다. 문서는 여기, 대화는 저기, 일정은 또 다른 곳에 있습니다. 이걸 한데 모아 AI가 학습할 형태로 만드는 일이 사내 AI 구축의 실제 어려움입니다. 그런데 조직이 일하는 방식을 가장 촘촘하게 담고 있는 데이터가 하나 있습니다. 구성원이 근무 중에 실제로 무엇을 하는지에 대한 활동 기록입니다.
오피오는 근무 중에 어떤 프로그램과 웹사이트를 쓰는지, 하루가 어떤 업무로 채워지는지, AI는 얼마나 쓰는지를 기록합니다. 이 기록은 곧 우리 조직이 일하는 방식 그 자체입니다. 어떤 팀이 어떤 도구로 무엇을 만드는지, 반복되는 업무는 무엇인지, 사람마다 어떤 일에 시간을 쓰는지가 데이터로 남습니다. 무엇을 어디까지 수집할지는 회사가 항목별로 직접 켜고 끄기 때문에, 업무 성격과 민감도에 맞춰 필요한 만큼만 학습 재료로 삼을 수 있습니다.
이렇게 쌓인 근무 데이터는 회사 전용 AI의 바탕이 됩니다. 범용 AI가 갖지 못한 우리 회사의 업무 맥락이, 매일의 활동 기록에서 나오기 때문입니다. 조직이 어떻게 일하는지 궁금하다면 근무 데이터로 무엇을 볼 수 있는지부터 확인해 볼 수 있습니다.
그렇게 만든 전용 AI로 무엇을 하나
우리 회사 업무 맥락을 학습한 전용 AI가 있으면, AI에게 물어보는 질문의 종류가 달라집니다.
첫째, 업무 인사이트를 자연어로 물을 수 있습니다. "김OO님 요즘 어떤 일에 집중하고 있어?"라고 물으면 최근 활동 데이터를 근거로 답하고, 지금 누구에게 어떤 업무를 맡기는 게 적합한지까지 제안받을 수 있습니다. 관리자가 일일이 진행 상황을 묻지 않아도, 조직이 지금 무엇을 하고 있는지 한눈에 파악됩니다.
둘째, AI 활용 자체를 숫자로 관리할 수 있습니다. AX 전환을 한다면서도 정작 우리 조직이 AI를 얼마나 쓰는지 숫자로 아는 회사는 드뭅니다. 어떤 팀이 이미 AI를 업무에 들였고 어떤 팀은 아직 쓰지 않는지 사용 비중으로 보이면, 기업 AI 도입을 넓힐 곳과 교육이 필요한 곳을 감이 아니라 데이터로 정할 수 있습니다.
셋째, 시간이 지날수록 이 데이터는 회사만의 자산이 됩니다. 구성원의 활동과 성과 기록이 쌓이면, 감이 아닌 실제 데이터로 업무를 배분하고 더 공정한 인사 판단의 근거로 삼을 수 있습니다. 흩어져 있던 업무 맥락이 한 곳에 모여, 다음 사람이 들어와도 조직이 어떻게 일해 왔는지를 이어받을 수 있습니다.
AX는 계정을 사서 되는 일이 아니라, 우리 회사가 어떻게 일하는지를 아는 데서 시작합니다. 오피오는 그 첫 재료인 근무 데이터를 모으고, 회사는 그 위에서 자기 업무를 아는 AI를 만들어 갈 수 있습니다.
참고
- MIT Project NANDA, "The GenAI Divide: State of AI in Business 2025" — 생성형 AI 도입의 약 95%가 성과 없음 (MIT report: 95% of generative AI pilots at companies are failing, 2025) (2026년 9월 확인)
- Atlan — AI 확산 실패 원인의 49%가 업무 맥락 부재 (Do Enterprises Need a Context Layer? What Data Says In 2026, 2026) (2026년 9월 확인)
