안녕하십니까, CEO·CFO 여러분
어느덧 레터 여덟 번째입니다. 이번 달에는 요즘 많은 경영진분들과 나누는 화두, 즉 "ERP를 먼저 바꿀 것인가, AI에 먼저 투자할 것인가"라는 고민을 다뤄보려 합니다. 결론부터 말씀드리면, 저는 이 질문 자체가 조금 빗나간 이분법이라고 생각합니다. 진짜 답은 그 사이에 있는 '데이터 레이어'에 있습니다.
2027년 말이면 SAP ECC 6.0의 표준 유지보수가 종료됩니다. 이미 S/4HANA 전환과 AI 투자 사이에서 예산 배분을 고민하고 계신 분들이 적지 않으실 겁니다. BCG 조사에 따르면 이 종료 조치는 전 세계 726개 PE 보유 기업에 영향을 미치고, 투자자 56%는 수명 말기 ERP를 보유한 기업의 밸류에이션을 10% 이상 할인한다고 답했습니다. 방치할 수 없는 시계라는 뜻입니다.
그렇다고 AI로 올인하는 것도 아직은 조심스럽습니다. McKinsey에 따르면 AI 이니셔티브에서 전사 EBIT 임팩트를 보고한 기업은 40%에 그치고, 중견기업의 94%가 생성형 AI를 쓰고 있지만 스케일 단계에서 운영화한 곳은 2%에 불과합니다. 어느 쪽이든 섣불리 큰돈을 들이면 낭패를 보기 쉬운 구도입니다.
저는 이 답답함의 근본 원인이 ERP나 AI 자체가 아니라, 두 투자를 모두 뒷받침할 공통 인프라, 즉 데이터 레이어의 부재에 있다고 봅니다. 그래서 이번 호에서는 이 관점에서 귀사의 우선순위를 다시 짜보시기를 권해드리고자 합니다.
AI가 진짜 필요로 하는 것은 S/4HANA 같은 하이엔드 ERP 그 자체가 아니라 정합성 있는 데이터입니다. 마스터데이터 관리(MDM), 시맨틱 레이어, 데이터 카탈로그는 ERP를 지금 도입하시든 3년 뒤에 도입하시든 버려지지 않는 유일한 공통 부품입니다. 여기에는 세 가지 이유가 있습니다.
첫째, 비용과 기간의 문제입니다. 데이터 레이어 정비는 전면 ERP 도입보다 비용이 낮고, 통상 12개월 내외면 성과를 확인할 수 있습니다. Exit까지 3년 이내로 남은 회사라도 지금 착수하실 수 있는 규모입니다.
둘째, Exit 때 자산으로 인정받습니다. 미완성 ERP 프로젝트는 buyer 눈에 이행 리스크로 비쳐 밸류에이션 할인 요인이 됩니다. 반면 정비된 마스터데이터와 데이터레이크는 그 자체로 IT DD에서 우호적인 자산으로 평가되고, "이 회사는 AI를 바로 얹을 수 있다"는 스토리텔링의 근거가 됩니다.
셋째, 어떤 길을 택해도 재사용됩니다. 데이터 레이어가 갖춰져 있으면 이후에 S/4HANA로 가시든, 저가 로컬 ERP와 AI를 조합하시든, 도메인별 SaaS로 가시든 그대로 쓸 수 있습니다. 다시 말해, 지금 결정을 유예해도 손해가 없는 유일한 투자라는 뜻입니다.
그래도 회사마다 처한 상황은 다릅니다. 데이터 복잡성(가로축)과 인사이트 요구 수준(세로축)의 두 축으로 진단보면 방향이 보다 명료해집니다. 다만 어느 분면에 속하시든, 데이터 레이어 정비는 공통 선행 과제라는 점은 변하지 않습니다.
| 데이터 복잡성 : 낮음 | 데이터 복잡성 : 높음 | |
| 인사이트 요구 높음 |
③ AI-First 전환 저비용 로컬 ERP 위에 AI 유스케이스에 예산의 60% 이상. 데이터 레이어는 최우선 착수. 예: 단일 브랜드 D2C, 서비스 B2B |
④ 도메인 단위 동시 재설계 AI가 필요로 하는 도메인부터 역산해 S/4HANA 이전 순서 결정. Change management에 3배 배정. 예: 다국가 제조업, 대형 유통 |
| 인사이트 요구 낮음 |
① Local ERP + AI Copilot 클라우드 네이티브 ERP로 백본 최소 정비. 재무·구매·CS 코파일럿 중심. 예: 매출 수백억 단일사업 회사 |
② ERP 정비 우선, AI Quick-Win ECC → S/4HANA 이전 우선. 정형 워크플로에 3~5개 quick-win embed. 예: 다법인·규제산업 중견기업 |
| ※ 어느 분면이든 데이터 레이어(MDM·시맨틱·카탈로그) 정비를 공통 선행 과제로 전제합니다. | ||
첫째, ERP와 AI 투자 관점을 재정립 해보십시오. ERP와 AI를 별개의 IT capex 항목으로 승인받으려 하기보다, '데이터 레이어 → 응용 시스템 → AI Use case'라는 3계층 로드맵으로 통합해 제시하는 편이 스폰서 설득에도, 내부 정렬에도 훨씬 유리합니다. 특히 데이터 레이어 항목은 인수 직후 든, Exit 직전이든 가치가 있는 주제로 우선 순위에 올리시기를 권합니다.
둘째, 스폰서 하우스의 표준을 적극적으로 빌려 쓰십시오. BCG에 따르면 ERP 전환에 전담 팀을 둔 PE는 25%에 불과합니다. 하우스 차원의 표준 데이터 온톨로지나 MDM 참조 모델이 있다면 이를 가져다 쓰는 것이 귀사가 처음부터 시행착오를 겪는 것보다 훨씬 빠르고 쌉니다. 없다면 만드는 데 귀사가 첫 사례로 참여하시는 것도 좋은 전략입니다.
셋째, 데이터를 'Exit 자산'으로 관리하십시오. 정비된 마스터데이터, 카탈로그화된 데이터셋, 문서화된 시맨틱 레이어는 Exit 시점의 IT DD에서 AI-readiness의 정량적 근거가 되고, 미완성 ERP에서 발생할 수 있는 밸류에이션 할인을 상쇄하는 협상 카드가 됩니다. 데이터 정비를 IT 비용이 아니라 밸류에이션 방어 투자로 보시는 관점 전환을 권해드립니다.
"ERP냐 AI냐"는 그럴듯한 이분법이지만, 자본 배분의 실제 문제는 아닙니다. 지금 결단하셔야 할 것은 두 시스템 중 하나를 고르는 일이 아니라, 어느 경로를 택하더라도 살아남는 유일한 자산 — 데이터 레이어 — 을 선제적으로 갖추는 일입니다. 막 인수된 지 얼마 안 된 회사에도, Exit을 준비 중인 회사에도, 어떤 시나리오에서도 폐기되지 않는 몇 안 되는 밸류업 옵션입니다.
귀사가 지금 어느 분면에 있는지, 그리고 데이터 레이어 정비를 어떻게 시작하면 좋을지 함께 진단해보는 자리를 마련해드리겠습니다. 편하게 연락 주시기 바랍니다.