앱을 만드는 문턱은 무너졌지만, 사용자 데이터에 닿는 문턱은 그대로다

이커머스 기업의 플랫폼 조직(中台) 책임자들이 최근 들어 같은 질문을 던진다. 비즈니스 측은 일주일이면 AI로 내부용 소형 툴 세 개를 직접 만들어 내는데, IT 개발 일정은 여전히 다음 분기로 밀려 있다. 도대체 어디서 막히는 걸까.

우리의 답은 하나로 요약된다. 개발 문턱은 무너졌지만, 사용자 데이터에 닿는 문턱은 그대로다.

이 한마디 뒤에는 동시에 벌어지고 있는 두 가지 현실이 자리한다.

Bolt.new는 StackBlitz가 만든 제품으로, 2024년 10월 트윗 한 줄로 조용히 출시된 뒤 5개월 만에 연간매출(ARR) 4,000만 달러를 달성했다. Sacra와 Growth Unhinged는 이를 “ChatGPT 다음으로 역사상 두 번째로 빠르게 성장한 제품”으로 추적하고 있다. 2026 회계연도 마감 시점에 StackBlitz CEO Eric Simons는 LinkedIn을 통해 Bolt.new가 포춘 500대 기업의 4분의 3이 사용하고 있으며, 엔터프라이즈 ARR이 전년 대비 10배 성장했다고 밝혔다 (Eric Simons 공식 게시물, 2026 회계연도 말 기준). Lovable은 스웨덴 스톡홀름 기반 팀(창업자 Anton Osika)으로, 2025년 11월 $200M 규모의 A 라운드에서 기업가치 $1.8B를 인정받았고, 2025년 12월 말 B 라운드에서는 $6.6B로 평가받아 6개월 만에 기업가치가 약 4배 상승했다 (Forbes/CNBC/Bloomberg/TechCrunch 교차 확인). 2026년 6월, Lovable의 ARR은 $500M을 돌파했으며 (Forbes 보도, TechCrunch 2026-06-09 동시 게재), Forbes는 당일 복수의 소식통을 인용해 회사가 $12B 규모의 기업가치로 신규 투자 유치를 진행 중이라고 보도했다 (약 2배 상승). 이러한 도구들은 “앱 하나를 만드는 일”을 몇 명이 몇 달 걸리던 작업에서, 한 사람이 오후 하나로 끝내는 작업으로 바꿔놓았다.

하지만 개발 진입장벽이 무너진 동시에, 회사에서 진짜로 비용이 많이 들고 진짜로 병목이 되는 몇 가지 관문은 한 치도 움직이지 않았습니다: 개인정보 국외 이전 평가(PIPA 제 28조의 2), ISMS-P 인증(정보보호 및 개인정보보호 관리체계, 한국인터넷진흥원 KISA 주관), 인공지능기본법 안전성 점검(2026.1 시행), 변경 승인(CAB, Change Advisory Board) + 금융위원회 IT 감리, 전자금융거래법상 대사 및 감사(PIPA 제 26조 포함). 이 관문들은 코드 자체와는 거의 무관하지만, 각각 몇 주씩 소요됩니다. 앱 생성기가 첫 번째 문을 걷어차 버리면서 비즈니스 측에서 직접 애플리케이션을 만들 수 있게 됐지만, 두 번째 문(누가 프로덕션 데이터에 접근할 자격이 있는가, 누가 핵심 거래를 변경할 수 있는가)은 한 치도 움직이지 않았습니다.

그 결과, 대부분의 의사결정자가 아직 인지하지 못한 리스크가 드러나고 있습니다: 앱을 만들 수 있는 사람이, 그 앱이 합법적으로 데이터에 접근할 자격을 갖추게 할 수 있는 것은 아니다.

우리가 실제로 동행했던 현장 (이커머스, 비식별화 완료): 한 홈퍼니싱 이커머스의 KOL 운영팀이 Lovable을 활용해 두 달 만에 7개의 내부 도구를 직접 만들었습니다. KOL 매칭, 커미션 계산, 히트 상품 추적, 반품 원인 분석 등이었죠. 기술 중간 플랫폼에는 아무도 알리지 않았습니다. 연중 섀도 IT 실사 때 발견된 사실인데, 그중 4개가 휴대폰 번호와 배송 주소가 포함된 주문 와이드 테이블을 읽고 있었고, 2개는 데이터를 내보내 개인 클라우드에 저장하고 있었습니다. 2025년 하반기부터 이커머스 중간 플랫폼 팀이 자산 실사에서 흔히 마주치는 상황입니다. 결코 단일 사례가 아닙니다.

우리가 실제로 동행했던 현장 (통신사, 비식별화 완료): 한 지방급 통신사가 지사에서 내부 교육을 복기하는 자리에서, 마케팅 센터 프로젝트 매니저가 이미 Bolt로 “고객 프로필 빠른 조회 도구”를 만들었다고 인정했습니다. 휴대폰 번호만 입력하면 최근 90일간의 요금제 변경 이력, 민원 내역, 추천 상품 테이블이 조회되는 도구였죠. 기술 부서는 전혀 모르고 있었습니다. 이는 PIPA(개인정보 보호법) 제 24조(개인정보 처리 제한)와 KISA의 통신망 이용촉진 및 정보보호 등에 관한 법률(약칭: 정보통신망법)이 규정한 개인정보 조회 권한의 레드라인을 정면으로 위반한 것입니다.

먼저 그림 한 장으로 이 노출이 어떤 형태인지 확인해 보겠습니다.

두 가지 문턱: 하나는 무너지고, 하나는 그대로 높음 낮음 2020 2024 2026 문턱 높이 개발 문턱 (코드 작성) AI 생성기: 오후 한 번 컴플라이언스 문턱 (PIPA / ISMS-P / AI 기본법 / CAB / 전자금융거래법) 거의 움직이지 않음 리스크 노출 두 문턱 사이의 격차 = 앱을 만들 줄 아는 사람 데이터를 다룰 자격이 없을 수 있음 빠른 개발 ≠ 빠른 인도 — 위에서 움직이지 않는 빨간선이 병목

이제 하나씩 풀어보겠습니다. 이 도구들이 누구의 어떤 문제를 해결했는지, 엔지니어의 역할은 어떻게 바뀌는지, 이커머스에서 폭발적으로 늘어나는 섀도 앱의 실체, 규제가 강한 산업에서 실제로 걸리는 관문들, 그리고 비즈니스 측에 합법적인 통로를 만들어 주는 방법까지 말입니다.

1. 먼저 이 다섯 가지 도구를 각자의 자리에 놓아보자

많은 사람들이 이런 도구들을 한데 묶어 “AI 코딩”이라고 부릅니다. 하지만 이들은 서로 다른 두 집단을 위한 것입니다. 이 구분을 명확히 해야 이후의 판단이 성립합니다.

한 집단은 “코드를 작성할 줄 아는 사람들”입니다. 이들이 원하는 것은 더 빠른 코드 편집기입니다. 코드베이스의 맥락을 이해하고, 파일을 넘나들며 수정하고, 테스트를 자동 실행하고, 에러를 설명해주는 도구 말입니다. 이 범주의 대표주자는 Cursor, ByteDance의 Trae, Microsoft Copilot(구 GitHub Copilot 통합)입니다. 이 도구들의 전제는 사용자가 이미 엔지니어링을 이해하고 있다는 것이며, 도구가 반복 작업을 덜어주는 역할을 합니다. 이 유형은 시리즈 4편에서 다뤘으므로 여기서는 자세히 설명하지 않겠습니다.

다른 한 집단은 “코드를 작성할 줄 모르는 사람들”입니다. 이번 편의 주인공은 바로 이들을 위한 **앱 생성기(App Generator)**입니다. 한국어로 원하는 것을 한 문장으로 설명하면, 바로 실행 가능한 애플리케이션을 만들어줍니다. 프런트엔드, 백엔드, 데이터베이스, 배포까지 한 번에 처리합니다. 코딩을 할 줄 안다고 가정하지 않습니다.

이번 편에서는 앱 생성기 네 가지를 중점적으로 다루고, AI IDE 중에서는 Trae만 별도로 다룹니다. Trae가 강한 규제를 받는 산업에 치명적인 포인트를 정확히 짚었기 때문입니다.

Bolt.new (by StackBlitz). 2024년 10월, 조용히 올라온 트윗 하나로 시작된 이 제품은 Sacra와 Growth Unhinged가 추적한 결과, ChatGPT 다음으로 가장 빠르게 성장한 제품으로 기록됐다. 첫 주에 ARR 100만 달러를 돌파하더니, 4주 만에 400만 달러, 약 2개월 만에 2,000만 달러, 5개월 만에 4,000만 달러를 달성했고, 누적 가입자 수는 약 500만 명에 이른다(StackBlitz CEO 공식 발표 기준). 이 제품의 핵심 기술은 WebContainers로, 브라우저 안에서 완전한 Node.js 환경을 구동할 수 있게 해준다. 덕분에 AI가 직접 파일을 조작하고, 패키지를 설치하고, 서버를 띄우는 것까지 가능하며, 사용자가 로컬 환경을 별도로 구성할 필요가 없다. 2026 회계연도 마감 기준, 포춘 500대 기업의 4분의 3이 Bolt.new를 사용하고 있으며, 엔터프라이즈 ARR은 전년 대비 10배 성장했다(Eric Simons의 LinkedIn 공식 게시물, 2026 회계연도 기준). StackBlitz는 2025년 1월 약 1억 550만 달러 규모의 시리즈 B 투자를 유치했고, 기업 가치는 약 7억 달러로 평가받았다(Business Insider 등 보도). 주로 바로 열어볼 수 있는 간단한 앱이나 랜딩 페이지를 만드는 용도로 활용된다.

Lovable (스톡홀름 기반, 창업자 Anton Osika, 오픈소스 프로젝트 GPT Engineer와 같은 계보). “한 문장에서 완전한 배포 가능한 애플리케이션까지”라는 접근 방식으로, Bolt보다 풀스택 비즈니스 애플리케이션에 더 가깝게 포지셔닝되어 있다. 2025년 11월 $200M 시리즈 A 라운드에서 기업가치 $1.8B를 기록했고, 2025년 12월 말 $330M 시리즈 B 라운드에서는 $6.6B로 평가받아 6개월 만에 기업가치가 약 4배 가까이 상승했다. 2026년 6월 ARR은 $500M을 돌파했다(Forbes 2026-06-05 보도, TechCrunch 동시 보도). 같은 날 Forbes는 네 명의 내부 사정에 정통한 소식통을 인용해 회사가 약 $12B의 기업가치로 새로운 라운드 투자 유치를 진행 중이라고 보도했다(약 2배 상승, Forbes/Rashi Shrivastava). Lovable의 기업 고객 명단에는 이미 Workday, Asana, NVIDIA가 포함되어 있다(ARR.club 2026 집계).

Vercel v0. 2023년 10월에 출시된 이 도구는 2026년 2월 3일부로 v0.dev에서 v0.app으로 공식 명칭을 변경하며, UI 컴포넌트 스캐폴딩 도구에서 풀스택 애플리케이션 생성기(샌드박스 런타임 + GitHub 통합 + Snowflake/AWS 데이터베이스 연동)로 진화했습니다. Vercel은 2026년 3월 기준 공식적으로 600만 명 이상의 개발자가 사용하고 있으며, 월간 활성 팀은 약 8만 개에 달한다고 밝혔습니다(경쟁사 애널리스트 추정 ARR은 약 4,200만 달러, Taskade 2026-03 집계 기준).

Replit Agent 4. 2026년 3월 13일에 출시된, Replit 역사상 가장 중요한 업데이트입니다. 이번 업데이트에서는 세 가지가 동시에 바뀌었습니다. ① Design Mode가 Infinite Design Canvas로 업그레이드되어 디자인하면서 동시에 코드를 수정할 수 있게 되었고, ② 협업 방식이 fork-and-merge에서 “동일 프로젝트 내 멀티스레드 태스크” 방식으로 전환되었습니다. 여러 sub-agent가 병렬로 작업을 수행하고, 마지막에 conflict resolution sub-agent가 자동으로 병합하는 구조입니다. 공식 데이터에 따르면 Agent 4는 병합 충돌의 90%를 자동으로 해결합니다 (AlphaSignal 2026 보도, Replit 공식 2026-03 changelog 동시 게재). ③ 계획과 실행이 더 이상 직렬로 이루어지지 않고, 계획을 세우면서 동시에 실행할 수 있습니다. 같은 시기에 Replit은 시리즈 D 투자 유치에 성공했으며, 기업가치는 약 90억 달러에 달합니다 (Atal Upadhyay 2026 보도; TechCrunch/Bloomberg 등 다수 소스에서 확인). Replit은 온라인 코딩 환경에서 출발해 자연스럽게 협업과 호스팅 기능을 갖추게 되었는데, Agent 4는 “여러 명이 모여 하나의 제품을 만드는” 과정을 개인 단위의 속도에 가깝게 압축했습니다.

이 네 가지의 공통점은 바로 “앱을 만드는” 비용을 팀·개월(team-month) 수준에서 개인·시간(personal-hour) 수준으로 낮췄다는 점입니다.

Trae는 통신·금융·이커머스 기업 사용자에게 구체적인 공급업체 리스크가 되기 때문에 별도로 다룬다. Trae는 형태상 IDE(에디터)지만, 실질적으로는 ByteDance 서버에 완전히 종속된 개발 환경이다. 기업 사용자 입장에서는 ‘일반 IDE’가 아니라 ‘해외 데이터 반출 도구’로 간주하고 승인 평가를 수행해야 한다. ByteDance가 2025년 1월에 출시했으며, Cursor를 겨냥해 Claude, GPT-4o 같은 고급 모델을 무료로 제공하는 전략을 취하고 있다. 출시 12개월 만에 가입자 600만 명, 월간 활성 사용자 160만 명, 누적 생성 코드 약 1,000억 줄을 기록했다(OpenAI Tools Hub 2026-05 조사 종합). 그러나 2025년 7월, 보안 연구원 segmentationf4u1t가 telemetry_research 프로젝트를 통해 다음을 입증했다: 설정에서 원격 측정(telemetry)을 꺼도 Trae는 여전히 백그라운드에서 ByteDance의 mon-va.byteoversea.com 등 서버로 데이터를 지속 전송한다 — 하드웨어 정보, 운영체제 버전, 지속적인 기기·머신 식별자, 프로젝트 활동 데이터를 포함한다. 단일 telemetry 배치(batch)는 최대 53,606바이트에 달하며, 약 7분간 정상 사용 시 500회 이상의 호출과 약 26MB의 데이터가 발생한다(GitHub segmentationf4u1t/trae_telemetry_research 1차 데이터, The Register/Cybernews 2025-07-28 보도).

ByteDance의 후속 대응은 기록해 둘 만하다. Cybernews는 2026-08-01 업데이트에서 이렇게 썼다: ByteDance는 공식 성명을 통해 IDE 설정의 telemetry toggle이 VS Code 프레임워크 부분의 텔레메트리만 제어하며, Trae의 다른 도구 데이터 수집에는 이 스위치가 영향을 미치지 않는다고 인정했다 — 쉽게 말하면, 끈 줄 알았는데 실제로는 안 꺼져 있었다는 뜻이다. 연구진이 Trae 팀에 직접 연락한 결과, 별도의 Privacy Mode가 2026년 8월경 출시될 예정임을 확인했다. 한편, Trae는 2026년 2월 도입한 “token-based paywall”로 “forever free” 약속을 깨뜨렸고, 이를 프로덕션 환경에 적용했던 많은 개발자가 재평가에 나서게 됐다 (OpenAI Tools Hub 2026-05 조사 결과 종합).

개인 개발자 입장에서는 무료 Claude가 꽤 매력적이다. 하지만 결정권자인 당신의 입장에서 이건 전형적인 데이터 국외 이전(data出境) 컴플라이언스 문제다. 엔지니어가 회사 코드, 경우에 따라 설정과 인터페이스까지 ByteDance 서버로 데이터를 전송하는 도구에 넣고 있는 셈이다. PIPA(개인정보 보호법) 제 28조의 2(개인정보의 국외 이전)와 정보통신망법의 적용을 받는 통신·금융 업종이라면, 이 행위 자체만으로도 PIPC(개인정보보호위원회) 통보 의무와 ISMS-P 인증 갱신 요구가 트리거될 수 있다. 이 내용은 4절에서 자세히 다룬다.

2. 개발이 다시 쓰인다: “코드 작성”에서 “검토, 오케스트레이션, 품질 관리”로

앱 생성기를 두고 “이제 엔지니어가 필요 없어지는 거 아니냐”는 오해가 가장 흔하다. 방향부터 틀렸다.

정확히 말하면 이렇다. 이 도구가 바꾸는 것은 엔지니어의 업무 중심이지, 직무 자체를 없애는 것이 아니다. AI와 비즈니스 담당자가 코드와 앱을 만들어낼 수 있게 되면서, 엔지니어의 가치는 “직접 작성”에서 세 가지로 이동한다. 즉, 산출물이 올바른지 검토하고, 이를 신뢰할 수 있는 시스템으로 오케스트레이션하며, 보안과 품질의 관문을 지키는 일이다.

이 세 가지는 “코드 작성”보다 더 희소하고, 더 가치 있다. React 컴포넌트 하나쯤 작성할 줄 아는 사람은 흔하다. 하지만 AI가 생성한 프로모션 앱이 실제 주문 데이터에 붙어도 되는지, 그 인증이 진짜인지, 로그가 해외 서버로 새 나가고 있지 않은지 판단할 수 있는 사람은 훨씬 드물다.

여기서 분명한 층위 구분이 필요하다. 너무 많은 기업이 이 문제에서 극단으로 치우치기 때문이다. 뭐든 생성기에 맡기는 쪽, 아니면 전면 금지하는 쪽. 둘 다 손해다.

어떤 앱은 생성기에 맡기고, 어떤 앱은 절대 안 되는가 복잡도 낮음 ←────────────→ 복잡도 높음 데이터 민감도: 낮음 ↑ 높음 ↓ 안심하고 생성기에 맡기기 랜딩 페이지, 캠페인 페이지 민감 데이터를 다루지 않는 내부 대시보드(로그인 불필요, 읽기 전용) 프로토타입 / 데모 요건: 비식별 데이터 + 컴플라이언스 경로 시도는 가능, 엔지니어링 팀이 인수 내부 운영 도구(주문/재고에 접근) 고객 매니저 워크벤치 B사이드 셀프서비스 백엔드 요건: 생성기가 프로토타입, 엔지니어가 재구축해 출시 생성기가 무대, 강한 거버넌스가 받침 고객 서비스 지식 베이스 프런트 개인정보를 포함한 조회 페이지 로그인 필요한 내부 포털(사용자 식별 + 권한 등급) 요건: 인증/감사/ISMS-P 하나도 빠짐없이 절대 생성기에 맡기지 않기 거래 시스템 / 결제 / 청산 리스크 엔진 / 사기 탐지 핵심 회계 / 규제 보고 요건: 전문 엔지니어링 팀, 전 과정 관리 판거: 가로축 = 논리 복잡도, 세로축 = 돈과 개인정보에 접근하는지

이 그림이 전하려는 메시지는 단 하나다. 가로축은 이 앱의 로직이 얼마나 복잡한지, 세로축은 돈과 개인정보에 얼마나 닿는지다. 오른쪽 아래 칸(고복잡 + 고민감)은 앱 생성기가 아무리 똑똑해도 나설 자리가 아니다. 프로모션 랜딩 페이지를 Lovable에 맡기는 건 문제없다. 하지만 결제 게이트웨이를 맡기는 건? 사고가 나는 건 시간문제다.

이 기준선을 새겨두고, 이제 이커머스에서 실제로 벌어지고 있는 일을 보자.

3. 전자상거래의 진짜 병목: 섀도우 애플리케이션이 주문 데이터에 닿았다

시야를 조금 넓혀서, 먼저 Gartner가 2025년 하반기에 내놓은 수치를 보자. 2026년 말까지 기업 애플리케이션의 40%가 태스크 특화 AI 에이전트를 내장하게 될 것이며, 2025년 현재 그 비율은 5% 미만이다 (Gartner 공식 전망, Process Excellence Network 2025-08-27 동시 보도). 여기에 더 눈에 띄는 수치가 하나 더 있다. Gartner는 2024년 1분기부터 2025년 2분기 사이에 멀티에이전트 시스템에 대한 기업 문의가 1445% 증가했다고 보고했다 — Gartner AI 자문 사업에서 가장 빠르게 성장한 주제이며, 단연 1위다 (RAPIDCLAW/Hendricks.ai/Arion Research 복수 출처 종합).

이 두 수치를 전자상거래 언어로 번역하면 이렇습니다: 기업용 애플리케이션의 40%에서 AI 에이전트가 구동된다, 그리고 여기에 짝을 이루는 또 다른 수치 — 기업용 멀티 에이전트 시스템 컨설팅 수요가 +1445% 증가 (Gartner AI advisory 사업의 컨설팅 증가 기준이며, 실제 배포 기준은 아니지만 방향성을 보여주는 신호는 분명합니다): AI 에이전트는 이제 “사람의 코드 작성을 돕는 도구”에서 “여러 에이전트가 협력해 전체 업무 흐름을 완주하는 시스템”으로 전환되고 있습니다. AI 에이전트가 기업 애플리케이션에 실제로 자리 잡기 시작하면서 데이터를 다루고, 프로세스를 실행하고, 로그를 남기게 되자, 앱 생성 도구의 성격은 “도구”에서 “시스템”으로 격상되었습니다.

UpGuard의 2025년 보고서(‘State of Shadow AI’, Cybersecurity Dive 보도)에는 Gartner의 40%보다 더 눈에 띄는 두 가지 수치가 있다. 직원의 80% 이상이 승인되지 않은 AI 도구를 업무에 사용하고 있으며, 보안 팀 내부에서도 약 90%가 그렇게 하고 있다는 것이다. 그리고 한 가지 더: 직원의 약 절반이 회사 기밀 데이터를 승인되지 않은 도구에 그대로 붙여넣었다고 인정했다. Mimecast는 51%, Teramind는 49%로 집계해 비슷한 수준을 보여준다. Gartner의 또 다른 조사에 따르면, 69%의 조직이 직원들이 금지된 AI 도구를 사용하고 있다고 의심하거나 확인했지만, AI 사용 정책을 마련한 조직은 37%에 불과하다(The Hacker News 인용).

이 수치들을 이커머스 언어로 바꿔보자. 여러분의 운영팀, 마케팅팀, 프로모션 기획팀은 Bolt, Lovable, v0 같은 도구를 활용해 자체적으로 애플리케이션을 만들고 있다. 프로모션 규칙 설정기, 셀러 발굴 대시보드, 재고 조회 미니 앱, 고객센터 티켓 처리 도구까지. 빠르고, 쓰기 편하고, 실제 문제를 해결해준다. 하지만 거의 전부가 IT와 데이터 거버넌스를 우회하고 있다.

2026 H1:네 가지 숫자가 말하는긴급성 5% 2025 엔터프라이즈 앱 AI 에이전트 내장 40% 2026 예측 Gartner 2025-08 +1445% 기업 문의량 멀티 에이전트 2024Q1→2025Q2 80%+ 미승인 AI 도구 사용 직원 (UpGuard 2025) ~50% 기밀 데이터를 이 도구에 붙여넣는 직원 엔터프라이즈 앱의 완전한 에이전트화 + 직원의 사적 AI 도구 사용 = 섀도 앱은 계속 늘어남 의사결정자의 시간 창: 3-6개월 Gartner 경고: 지금 AI 에이전트 전략을 정의하라, 아니면 더 빠른 경쟁사에 뒤처진다 데이터는 대표 수치;조사 방법에 따라 차이,방향성은 일치

실제로 겪은 사례 (이커머스, 비식별화 완료): 2025년 하반기부터 저희가 접촉한 중대형 이커머스 4곳(미들웨어 50~200명 규모)의 섀도 IT(Shadow IT) 점검에서, 단 한 곳도 빈손이 아니었습니다. 가장 전형적이었던 홈퍼니싱 이커머스의 사례: 인플루언서 운영팀이 2개월 만에 자체적으로 Lovable 내부 도구 7개를 만들었고, 그중 4개는 주문 정보 원시 테이블(휴대폰 번호·배송지 포함)에 접근했으며, 2개는 데이터를 내보내 개인 클라우드에 저장하고 있었습니다. 점검 당일 보안 책임자의 한마디: “그때 점검을 계속 진행하지 못할 뻔했습니다. 드러난 사실을 보고했을 때 아무도 감당하지 못할까 봐요.”

이런 형태를 ‘데이터 섀도 IT’라고 불러도 무방합니다. 지난 10여 년간 골칫거리였던 섀도 IT는 영업팀이 알아서 구매한 SaaS(영업팀이 CRM을, 마케팅팀이 이메일 발송 도구를 사오는 식)였습니다. 하지만 지금의 섀도 IT는 업무 부서가 직접 만든 애플리케이션입니다. 승인되지 않은 도구를 사용하는 데 그치지 않고, 더 심각하게는 민감 데이터를 다루는 새로운 시스템을 자체적으로 만들어내는데, 그 시스템은 IT 자산 목록에조차 없습니다.

차이는 규모에 있습니다. SaaS 하나를 사는 건 외부 시스템 하나를 연결하는 일입니다. 하지만 생성형 도구로 애플리케이션을 만드는 건, 회사 내부에 데이터 인터페이스를 갖추고 외부 접근이 가능한 새로운 시스템이 수십 개씩 우후죽순 생겨나는 것과 같습니다. 1년이면 이커머스 한 곳에서 수백 개의 애플리케이션이 추가로 생겨날 수 있고, 그 어느 것도 IT 자산 목록에 없습니다.

이 문제는 막아도 막히지 않는다. UpGuard의 그 80% 수치가 이미 말해준다. “금지”로는 막을 수 없다는 걸. 사람들은 가장 편한 도구를 찾아서 일을 끝내려 한다. 그게 인간의 본성이고, KPI다. 그러니 “비즈니스 측이 생성 도구를 안 쓰게 하려면 어떻게 하지?”라고 묻지 말고, “안전하게 쓰게 하려면 어떻게 하지?”라고 물어야 한다. 4절에서는 규제 준수 관문을 다루고, 5절에서는 통로를 만드는 방법을 다룬다.

4. 규제 준수 관문, 몇 개나 있나: 테스트라고 생각하면 안 된다

이번 글에서 가장 제대로 짚고 넘어가야 할 절이고, 동시에 가장 틀리기 쉬운 절이기도 하다.

인터넷 기업 출신이라면 “검증”이라고 하면 자연스럽게 CI/CD의 자동화 테스트를 떠올린다. 단위 테스트, 통합 테스트, 회귀 테스트 돌리고 초록불 뜨면 통과. 대규모 프로모션을 운영하는 이커머스 기술 조직이라면 이 방식에 익숙하다.

하지만 통신, 금융, 규제를 받는 제조업과 이커머스에서 “검증”은 테스트 그 이상이다. 진짜 병목은 코드 자체와는 거의 무관하지만, 각각 몇 주씩 잡아먹는 여러 관문들이다. 이걸 “테스트”라고 부르는 건 인터넷 업계의 편견이고, 의사결정권자가 개발 주기를 과소평가하게 만든다.

하나씩 짚어보자.

데이터 국경 간 이동 평가(개인정보 국외 이전 평가).[^1] 애플리케이션이 해외 AI 서비스(많은 생성형 AI의 백엔드는 OpenAI, Anthropic 기반)를 사용하거나, 엔지니어가 Trae처럼 데이터를 해외로 전송하는 IDE를 사용하는 경우, 데이터에 개인정보나 중요 데이터가 포함되어 있다면 PIPA 제 28조의 2와 PIPC의 2023 국외 이전 가이드라인(APEC CBPR 인증 + 표준 계약 + 사전 동의 경로)상의 데이터 국외 이전 요건을 충족해야 한다. 정식 데이터 국외 이전 안전 평가 또는 표준 계약(SCC) 절차를 완료하는 데는 빠르면 1~2개월, 길면 6개월 이상이 걸린다. Trae에서 “원격 측정(telemetry)을 꺼도 데이터가 전송된다”는 사실이 밝혀진 것은, 사용자가 전송되지 않는다고 생각해도 실제로는 전송되고 있음을 의미한다. 이런 도구는 규제가 엄격한 산업에서는 개발 환경에 도입해서는 안 된다.

ISMS-P 인증(정보보호 및 개인정보보호 관리체계).[^2] 한국에는 등급 보호와 동일한 제도는 없지만, 정보통신망법과 KISA의 ISMS-P 인증이 사실상 표준이다. ISMS-P는 인터넷에 연결되어 100만 명 이상의 이용자 정보를 보유한 ISP·포털, 또는 300명 이상의 직원/일 이용자 수를 보유한 기업이 의무 인증 대상이다(2025년 말 기준 KISA 고시). 인증 심사·개선·유지 한 사이클에 보통 3~6개월이 소요된다. 이는 법적 요구사항이지 선택 사항이 아니다. AI로 만든 애플리케이션이라고 해서 개발 속도가 빠르다는 이유로 ISMS-P 인증을 면제받을 수는 없다. PIPC는 2024년 쿠팡에 624억 원 과징금을 부과한 바 있으며, ISMS-P 부재가 직접적인 처분 사유였다.

인공지능기본법 안전성 점검 + PIPC AI 자율점검표.[^3] 애플리케이션이 일반 공개를 대상으로 하고 생성형 AI를 사용한다면(예: 상품 상세 설명 자동 생성, 고객센터 자동 응답, AI 생성 콘텐츠를 포함한 개인화 추천), 인공지능기본법(2025.1 제정, 2026.1 시행) 제 31-34조의 고위험 AI 의무와 PIPC의 AI 자율점검표(2025)에 따라 사전 영향평가 + 안전성 점검이 필요하다. 점검 없이 서비스를 출시하는 것은 규제 위반 사고로 간주된다. 과학기술정보통신부(과기정통부)는 2026년 초 고위험 AI 인증 절차를 구체화할 예정이며, 한국은 글로벌 첫 종합 AI 국가법 체계를 운영하게 된다.

변경 승인(CAB) 및 롤백 계획.[^4] 금융·통신의 핵심 시스템은 한 번의 배포에도 Change Advisory Board(CAB) 승인을 거쳐야 한다: 영향 범위 평가, 롤백 방안, 유지보수 시간대 확인. 이 단계가 잡아먹는 건 머신 시간이 아니라 달력 시간이다. 이번 주 창구를 놓치면 다음 주까지 기다려야 한다.

대사 및 감사.[^5] 이커머스의 대규모 프로모션, 금융의 결제·정산은 배포 후 자금 및 상위 시스템과의 대사가 필요하고, 모든 거래를 추적할 수 있는 감사 로그가 있어야 한다. 한국의 경우 전자금융거래법 제 21조(전자금융감독규정 준수), 특정금융거래법(자금세탁방지), PIPA 제 26조(개인정보 처리 위탁 시 감독 의무), 금융지주회사 감독업무 규정 등이 동시 적용된다. AI가 생성한 애플리케이션은 이 부분에서 흔히 무방비 상태다. 돌아가긴 하는데, 대사 로직이 설계돼 있지 않아서 장부상 차이가 발생해도 원인을 찾을 수가 없다. 토스·카카오페이 같은 핀테크 기업의 내부 통제 감리에서도 같은 패턴이 반복적으로 지적된다.

이걸 종합해 보면 직관에 반하는 결론이 나온다: 앱 생성기는 “아이디어”에서 “동작하는 프로토타입”까지는 한 자릿수로 시간을 단축시켜 주지만, “동작하는 프로토타입”에서 “규제 준수 배포”까지는 조금도 줄여 주지 않는다. 그 관문들이 예전에 며칠이 걸렸다면 지금도 며칠이 걸린다.

이것이 1절 그림에서 움직이지 않던 빨간 선이다. 개발 장벽은 무너졌고, 절약된 것은 엔지니어가 코드를 작성하는 시간이다. 규제 준수 장벽은 그대로라서, 거쳐야 할 평가·심사·승인은 하루도 줄지 않았다. 의사결정권자들이 가장 흔히 빠지는 함정은 전자의 가속이 자연스럽게 후자의 가속으로 이어질 것이라는 기대다. 그렇지 않다.

5. 비즈니스 측에 규제 준수 통로를 만들어라, 방치하지 말고

막을 수 없다면 통로를 만들어 주는 것—이것이 섀도 IT를 통제하는 몇 안 되는 실효성 있는 방법이다.

섀도 IT 의 두 갈래 길:막을 수 없으면 통로를 주어라 현실:야생적 성장 운영팀이 Lovable 로 독자적으로 앱 구축 ↓ 아무도 모름 주문 / 전화번호 / 주소 에 접근 ↓ 등록 없음 데이터는 개인 클라우드로 내보내기 ↓ 스캔 없음 사고 나서야 발견 수백 개 앱이 가동, 자산 목록에 0 → 거버넌스:빠른 통로를 제공 회사에서 sanctioned 생성기 제공 ↓ 셀프 등록 (5 분) 데이터 등급화:비식별 / 테스트 데이터만 ↓ 자동 보안 스캔 민감 데이터 접근 → 이전 평가 + 등급 보호 ↓ 자산 목록에 등록 감사 가능,중단 가능,추적 가능 업무는 여전히 빠르지만,모든 앱이 목록에

이 통로를 실제로 구축하는 방법은 네 단계로 나뉜다.

1단계: 기업이 자체적으로 보안 검증을 통과한 생성형 AI 도구를 제공한다. 운영팀이 아무 검증 없이 외부에서 Lovable 같은 도구를 가져다 쓰게 두는 대신, 기업이 ISMS-P 인증과 PIPC AI 자율점검표를 통과하고 데이터가 외부로 반출되지 않는 버전을 직접 구매하거나 자체 구축해 내부 전용 진입점을 제공하는 방식이다. 비즈니스 현장에서 불편함 없이 사용할 수 있다면 굳이 외부 도구를 찾아 나설 이유가 없다. 이는 ‘차단’이 아닌 ‘유도’에 가깝다. Microsoft의 FY26 사례가 좋은 참고 모델이다. EY는 Copilot을 전 직원 15만 명에게 배포해 15%의 생산성 향상을 얻었고, Atos는 54개국 5만 6,000명의 직원에게 Copilot을 도입하면서 통합 ID, 보안, 규정 준수, 에이전트 거버넌스 체계 아래에서 19,000개의 AI 에이전트를 관리하고 있다(Microsoft FY26 회고 블로그 2026-07-28, Atos 공식 뉴스 2026-06-09, 모두 공급업체와 고객사가 공동으로 발표한 사례). 두 기업의 공통점은 AI 도구를 엔터프라이즈급 보안 및 규정 준수 통제 평면에 통합했다는 점이다. 이것이 바로 ‘승인된 채널(sanctioned channel)’의 실제 작동 사례다. 한국에서는 KISA의 ‘AI 보안 가이드라인’이나 과기정통부의 ‘인공지능기본법 시행 안내’(2026.1 시행)와 금융위원회의 핀테크 샌드박스 내 컴플라이언스 채널 사례를 참고할 수 있다. 네이버·카카오·토스 같은 국내 플랫폼 기업은 이미 사내 ISMS-P + PIPC AI 자율점검표 기반의 AI 도구 도입 프로세스를 운영 중이다. 현지화된 경로는 이미 작동 중이며, 남은 과제는 이를 기업의 필수 프로세스로 편입시키는 것이다.

둘째, 강제 등록. 누가 어떤 앱을 만들었는지, 어떤 데이터를 읽는지, 어떤 사용자를 대상으로 하는지를 등록부에 기록한다. 등록은 가볍게—5분이면 끝나는 폼 하나로 충분하다. 두 달 걸리는 프로세스로 만들면 아무도 등록하지 않고 다시 그림자로 숨어들게 된다. 등록의 목적은 모든 앱을 승인하는 것이 아니라, 파악 가능한 목록을 확보하는 데 있다.

셋째, 데이터 등급에 따른 분기 처리. 2절의 매트릭스를 활용한다. 비식별화된 데이터나 테스트 데이터만 다루는 경우는 자동 승인한다. 반면 실제 주문 정보나 개인정보에 접근하려는 요청이 들어오면 자동으로 데이터 국외 이전 사전 심사(PIPA 제 28조의 2)와 ISMS-P 인증 갱신 + 인공지능기본법 안전성 평가가 트리거된다. 모든 앱에 동일한 기준을 적용하는 대신, 데이터 민감도에 따라 프로세스가 달라지도록 설계하는 것이다.

4단계: 자동 보안 스캔. AI가 생성한 애플리케이션은 사람이 직접 작성한 코드보다 보안 취약점 비율이 현저히 높다. CodeRabbit은 2026년 보고서에서 이 수치를 갱신했다. AI 지원으로 생성된 코드에서 발생하는 문제 수(로직 및 정확성 버그 포함)는 기존 수작업 코드 대비 1.7배에 달한다(CodeRabbit 자체 기준이며, 상업적 입장을 포함함. DORA 2026-02 웨비나 및 Kunal Ganglani의 2026년 비교 평가와 연동). Veracode의 2025년 GenAI 코드 보안 보고서는 더 직접적이다. 평가 샘플에서 AI 생성 코드의 약 45%가 OWASP Top 10 수준의 취약점을 포함했다(Java 생성 코드의 실패율은 70%를 초과, Veracode 자체 기준, 상업적 입장 포함). GitHub 공개 저장소를 대상으로 한 대규모 실증 분석 논문(arXiv:2510.26103)도 같은 방향을 뒷받침한다. 따라서 스캔 단계는 AI 생성 애플리케이션에게 선택이 아닌 필수다. SAST, 의존성 스캔, 시크릿 스캔을 생성기의 릴리스 파이프라인에 통합하고, 모든 검사가 통과해야만 배포를 허용해야 한다. CodeRabbit은 2026년 6월 기준 GitHub/GitLab에서 가장 많이 설치된 AI 코드 리뷰 도구로 공개적으로 입증되었으며, 15,000곳 이상의 유료 고객과 600만 개의 저장소를 검토했다. NVIDIA CEO Jensen Huang조차 “NVIDIA 전사가 CodeRabbit을 사용한다”고 공개적으로 지지했다. 이를 기업용 AI 코드 품질 게이트의 기준선으로 삼는 것은 합리적이다.

이 네 단계를 거치면 비즈니스 측의 속도는 거의 떨어지지 않으면서도, 모든 애플리케이션이 감사 가능한 목록에 등재되고, 민감 데이터에 접촉하는 것은 차단되어 정식 평가를 거치게 된다. 이것은 거버넌스이지, 속도 저하가 아니다.

여기서 한 가지 잘못 알려진 수치를 명확히 짚고 넘어가야 한다. 원문에 “45% 섀도 AI 채택률”이라는 표현이 있었는데, 이는 사실을 잘못 옮긴 것이다. 45%는 Veracode 보고서에 나온 AI 생성 코드의 결함률이지, 도구 채택률이 아니다. 섀도 AI 채택률은 UpGuard의 80%+ 수치를 봐야 한다. 두 숫자는 완전히 다른 대상을 말하니 혼동하지 말자.

여섯째, 앱 생성기를 쓰면 안 되는 경우

앱 생성기는 은탄환이 아니다. 우리가 서비스한 고객사에서 실제로 목격한 전형적인 오용 사례 네 가지를 소개한다.

핵심 트랜잭션이나 리스크 관리에 쓰는 경우. 이것이 가장 위험하다. “생성기가 이렇게 강한데 결제 게이트웨이도 한번 시도해 보자”는 식의 접근이다. 앞서 본 매트릭스의 우하단은 레드존이다. 로직이 복잡하고 돈이 걸린 영역을 생성기에 맡기는 것은, 책임을 질 수 없는 인턴에게 핵심 시스템을 맡기는 것과 같다. 자금 사고가 났을 때 대사·검증도, 감사도, 롤백 계획도 없다.

AI가 생성한 코드는 기본적으로 안전하다는 가정은 위험하다. CodeRabbit의 1.7배, Veracode의 45%라는 수치가 이미 답을 준다. AI가 생성한 애플리케이션에서 ‘실행되는 것처럼 보이는 것’과 ‘안전하게 실행되는 것’ 사이에는 보안 엔지니어링 전체가 들어가 있다. AI 생성 애플리케이션을 사람이 작성한 코드와 다르게 취급하고 보안 기준을 낮추는 것은, 더 빠른 속도로 더 많은 취약점을 만드는 길이다.

해외 생성형 AI 도구로 개인정보를 처리하면서 데이터 이전 평가를 건너뛰는 경우. 이는 전자상거래에서 특히 교묘하게 발생한다. 마케팅 팀이 소비자 대상 이벤트 페이지를 만들면서 백엔드에서 OpenAI를 호출해 카피를 생성하고, 사용자가 입력한 휴대폰 번호가 그대로 해외 서버로 전송되는 식이다. 이는 PIPA(개인정보 보호법) 제 28조의 2(개인정보의 국외 이전)와 정보통신망법의 금지선을 넘는 행위다. 문제가 생기면 단순한 기술 버그가 아니라 데이터 보안 사고로 처리된다. PIPC는 2024년 쿠팡에 개인정보 보호 조치 부족으로 624억 원 과징금을 부과한 사례가 대표적이다.

Trae처럼 데이터가 해외로 전송되는 IDE를 전사 엔지니어에게 기본 설치하도록 방치하는 경우. 무료 고성능 모델의 유혹은 크고, 엔지니어들은 스스로 설치하게 된다. 핵심 코드, 설정, 인터페이스가 일단 바이트댄스(ByteDance)나 기타 해외 사업자의 서버에 들어가면, 사후 대응은 이미 늦다. 이런 도구를 개발 환경에 도입할 때는 보안·법무 부서와 함께 사전 승인 평가를 거쳐야 하며, 기술 조직 단독으로 결정할 사안이 아니다.

7. 네 가지 산업 렌즈: 어떤 AI 애플리케이션을 도입해도 되고, 절대 안 되는가

이 장에서는 우리가 실제로 기업들과 함께 문제를 겪었던 4개 산업(전자상거래 / 금융 / 통신 / 제조)에 초점을 맞춘다. 공공, 의료 등 규제가 강한 산업의 사례는 별도 문서에서 다룬다.

카메라를 네 개 업종으로 돌려보자. 각 업종마다 우리가 실제로 목격한 사례를 하나씩 곁들인다.

이커머스. 가장 터지기 쉬운 곳은 “프로모션 룰 설정 도구”, “셀러 상품 선정 대시보드”, “재고 조회 미니앱”이다. 이들은 겉으로는 단순 도구처럼 보이지만, 실제로는 휴대폰 번호와 주소가 담긴 주문 와이드 테이블을 읽고 있다. 쿠팡·네이버 쇼핑·G마켓·옥션 같은 대형 플랫폼에서 이 패턴은 거의 표준이다. 이런 류의 애플리케이션은 반드시 3절에서 설명한 sanctioned 채널로 등록해야 하며, 실제 데이터에 닿는 순간 자동으로 ISMS-P 인증 갱신 및 데이터 해외 이전 평가(PIPA 제 28조의 2) 대상이 된다. 우리는 한 이커머스 기업의 운영팀이 2개월 만에 내부 도구 7개를 만들었고, 그중 4개가 주문 와이드 테이블을 읽고 있는 것을 직접 목격했다. 이는 일부 사례가 아니다.

금융. 레드라인은 “트레이딩 시스템 / 결제 / 청산결제 / 리스크 관리 / 사기 탐지 / 규제 보고”다. 생성 도구가 적합한 영역은 영업점 직원용 워크벤치, 마케팅 캠페인 설정 도구, 대사(대조 검증) 보고서 프런트엔드다. 절대 리스크 엔진이나 사기 탐지 규칙을 만드는 데 사용해서는 안 된다. CodeRabbit이 제시한 1.7배 로직 버그 배율(CodeRabbit 자체 산정 기준이며, 상업적 입장을 포함함)은 금융 시나리오에서는 자금 리스크로 증폭된다. 해당 사례 기업은 익명 처리했다: 한 시중 은행이 2025년 말부터 AI 프로그래밍을 규제 보고서 보조 생성에 도입했는데, 금융감독원(FSS, Financial Supervisory Service) 기준의 보고 스크립트에서 필드 매핑 오류 3건이 발견되어 감독 당국에 소환 조사를 받았다. KB 국민은행·신한은행·하나은행·토스·카카오페이 같은 금융사에서도 내부 통제 감리에서 유사 패턴이 반복 지적된다. 근본 원인 중 하나는 AI가 생성한 “그럴듯해 보이는 코드”를 아무도 검증하지 않았다는 점이다.

통신/통신사. 우리가 함께 일했던 한 지방급 통신사 사례를 보면, 지사 마케팅 센터에서 자체적으로 Bolt를 활용해 ‘고객 프로필 빠른 조회’ 도구를 만들었습니다. 휴대폰 번호만 입력하면 최근 90일간의 요금제, 민원, 추천 이력을 한 번에 볼 수 있었죠. 문제는 이게 PIPA(개인정보 보호법) 제 24조상 조회 권한의 한계를 정면으로 위반한다는 점입니다. SKT·KT·LG U+ 같은 통신 3사는 모두 ISMS-P 인증 의무 대상이며, 통신망 이용촉진 및 정보보호 등에 관한 법률(약칭 정보통신망법) 제 23조의 2(개인정보의 기술적·관리적 보호조치)를 함께 적용받는다. 통신사 환경에서 생성형 AI는 ‘고객 담당자 업무 화면’, ‘고객센터 지식베이스 프런트엔드’, ‘마케팅 캠페인 설정’ 정도까지는 맡길 수 있지만, 과금, 요금 청구, 상세 내역 조회에는 절대 손대면 안 됩니다 — 이 영역은 통신사의 핵심 인프라라서, 한 번만 잘못돼도 뉴스에 오릅니다.

제조업. MES/ERP 통합 연동, 품질 검사, 실적 보고는 핵심 시스템이다. 생성형 AI 코딩 도구는 주변부만 맡아야 한다——공장 현황판, 공정 경로 조회, 설비 OEE 데모 등. 절대 건드리면 안 되는 영역: 생산 스케줄링 핵심 알고리즘, 품질 판정 규칙, 상위 ERP와의 대사 인터페이스. 삼성전자·LG에너지솔루션·SK 하이닉스·현대차 같은 제조 4강의 협력사 네트워크에서 동일 패턴이 산발적으로 보고된다. 실제 사례(익명 처리): 한 자동차 부품 공급업체(공개 정보로 확인 가능한 유사 리콜 사례도 여러 건 있으며, 사례 세부 내용은 공개 리콜 공고와 필자가 참여한 프로젝트를 종합해 의사결정 논리를 설명하기 위한 것으로, 특정 기업을 지칭하지 않음)가 IT 부서에 Bolt를 이용해 “품질 검사 AI 모델 프론트엔드 대시보드”를 만들게 했다. 의도는 단순히 샘플 검사 이미지와 판정 결과를 보여주려는 것이었다. 그런데 프론트엔드 렌더링 과정에서 AI 모델 추론의 원본 신뢰도 임계값(confidence threshold)이 클라이언트에 하드코딩되었고, 업무 담당자가 실수로 0.85를 0.6으로 바꿔버렸다. 3일 동안 200여 개의 “불량” 판정을 받아야 할 부품이 “양호”로 표시되어 하위 공정으로 흘러갔고, 결국 3개 배치(batch) 리콜로 마무리됐다. 중견 제조 기업이 가장 흔히 저지르는 실수는 “품질 검사 AI 모델 프론트엔드”까지 생성형 코딩 도구에 맡기는 것이다. 품질 검사 규칙의 하류는 제품 리콜이다. 한 번 틀리면 리콜 공고가 나온다.

8. 의사결정자를 위한 시사점

교훈 1: 도구를 도입하기 전에 먼저 애플리케이션 계층 구조도를 그려라. 2절의 매트릭스를 꺼내서, 현재 보유 중이거나 도입 예정인 애플리케이션을 복잡성과 데이터 민감도에 따라 분류해 보라. 그러면 어떤 영역이 생성형 AI로 안전하게 속도를 높일 수 있는 ‘그린 존’이고, 어떤 영역이 절대 건드려서는 안 되는 ‘레드 존’인지 즉시 명확해진다. 이 한 장의 그림만으로도 “생성형 AI로 핵심 시스템을 재구축하자”는 충동적인 제안을 상당 부분 차단할 수 있고, 속도를 높여야 할 부분은 정당하게 추진할 수 있다.

교훈 2: 데이터 국외 이전(cross-border data transfer) 및 ISMS-P 인증(정보보호 관리체계)은 서비스 도입 후 사후 조치가 아니라, 사전 진입 장벽으로 간주하라. 코드나 데이터에 접근하는 AI 도구를 도입하기 전에 먼저 이 두 가지 관문을 통과해야 한다. 한국 환경에서는 PIPA 제 28조의 2(개인정보의 국외 이전) + PIPC 2023 Cross-Border Transfer Guideline + KISA의 ISMS-P 인증 + 인공지능기본법(2026.1 시행) 제 31-34조(고위험 AI 안전성 평가)가 동시에 작동한다. Trae 같은 도구의 문제는 “사용 가능 여부”가 아니라 “해당 규제 환경에서 사용 가능한지”에 있다. 이 판단은 사전에 이루어져야 하며, 잘못 판단할 경우 사후 대응, PIPC 통보, 심지어 서비스 중단이라는 대가를 치를 수 있다. 구체적인 실행 방안: AI 도구 도입을 보안·법무 부서와의 공동 승인 프로세스에 통합하고, “개발 환경 반입 가능” 목록과 “개별 사례 심의 필요” 목록을 명확히 구분하라.

교훈 3: 비즈니스 측에 규정을 준수하는 합법적 경로를 제공하라. 그렇지 않으면 섀도 애플리케이션(Shadow IT)은 더욱 늘어날 것이다. 3절의 80%라는 수치는 차단만으로는 해결되지 않음을 보여준다. 문제가 발생한 후에 파악하기보다는, 지금 바로 5절에서 제안한 경로를 구축하라: 승인된 생성형 AI 도구, 간단한 등록 절차, 데이터 유형별 분기 처리, 자동 스캔. 비즈니스 측이 빠르게 움직일 수 있게 하되, 모든 도구가 목록에 등록되도록 하는 것이다. 이는 섀도 IT를 관리되지 않는 사각지대에서 감사 가능한 자산으로 전환하는 방법이다.

교훈 4: 지표를 바꿔라. 그렇지 않으면 예산은 전부 도구에 쏟아붓고, 병목은 여전히 해결되지 않는다.
이 조항은 최고 의사결정권자를 위한 것이다. 요즘 많은 이사회가 “AI 라이선스를 몇 개나 샀는지”, “개발 속도가 얼마나 빨라졌는지”로 AI 전환의 성과를 측정한다. 이 지표 체계의 결과는 명확하다. 예산이 전부 도구 구매로 흘러가고, 실제로 납품을 가로막는 핵심 단계(데이터 국외 이전 평가 담당, ISMS-P 인증 및 KISA 심사 담당, PIPC AI 자율점검표 담당, 보안 엔지니어링, 대사 검증 및 감사)에는 돈도 사람도 배정되지 않는다. 그 결과 도구만 쌓이고 납품은 여전히 느리다. “알아도 움직이지 못하는” 병을 고치려면, 이 지표 체계 자체를 위에서 바꿔야 한다. “컴플라이언스 채널을 통과한 애플리케이션 비율”, “섀도우 애플리케이션이 N개에서 M개로 감소”, “핵심 애플리케이션의 프로토타입부터 컴플라이언스 승인까지의 소요 기간” 같은 지표를 추가하라. 지표가 바뀌어야 예산도 실제로 병목을 해소하는 곳으로 흘러간다.

역방향 자가 점검(대답할 때 미화하지 말 것): 지금 우리 회사에서 각 사업 부서가 AI로 직접 만든 애플리케이션이 몇 개나 돌아가고 있는지, 숫자를 말할 수 있는가? 그중 몇 개가 주문, 휴대폰 번호, 주소 같은 데이터를 다루고 있는가? 엔지니어에게 기본으로 설치해 준 AI IDE의 데이터가 어디로 전송되는지, 확인해 본 적이 있는가? AI 성과를 측정할 때 쓰는 지표가 “도구 구매”를 장려하고 있는가, 아니면 “납품 속도 향상”을 장려하고 있는가? 네 가지 중 하나라도 자신 있게 답하지 못한다면, 이 글에서 다룰 위험은 이미 우리 회사에서 발생하고 있는 것이다.

다음 단계

이 글은 “AI 시대 소프트웨어 엔지니어링 혁신” 시리즈 18편 중 다섯 번째 편입니다. 우리는 앱 생성기와 AI IDE가 “앱을 만드는 것”의 진입장벽을 어떻게 무너뜨렸는지, 그리고 왜 데이터를 다루는 진입장벽은 함께 무너지지 않는지를 살펴봤습니다.

다음 편(6편)에서는 업계의 합의로 자리잡고 있는 반대 방향의 흐름을 다룹니다: Spec-Driven Development(명세 기반 개발). GitHub Spec Kit, Claude Code, AWS Kiro, OpenAI의 AGENTS.md가 왜 모두 “요구사항을 문서로 먼저 확정한 뒤 AI에게 작업을 맡기는” 방향으로 나아가고 있는지 살펴봅니다. 직전 절에서 AI가 생성한 코드의 취약점 비율이 인간이 작성한 코드보다 높다는 점을 다뤘는데, 명세 기반 개발은 바로 이 문제를 해결하는 방법 중 하나입니다. 모호한 구두 요구사항을 검증 가능한 명세로 바꿔야 AI의 결과물을 제대로 검토할 수 있습니다.

시리즈 안내: 본 시리즈는 AI 코딩 도구, 조직 구조, 소프트웨어 엔지니어링 패러다임의 최신 변화를 지속적으로 추적합니다. 시리즈를 팔로우하여 최신 인사이트를 받아보세요.

이 판단을 실제 회사에 적용하고 싶으신가요?

앱 생성기가 기업에 도입된 후 실제로 풀어야 할 문제는 대개 몇 가지로 좁혀집니다: 어떤 애플리케이션과 데이터를 비즈니스 측이 직접 생성하도록 맡길 것인지, 어떤 것은 반드시 IT가 관리해야 하는지, 기존 검증 프로세스를 어느 수준까지 보강해야 하는지, 그리고 파일럿을 어떤 지표로 평가할 것인지.

현재 다음과 같은 세 가지 형태의 협업을 제공합니다.

  • 기업 내부 교육: 실제 사내 프로젝트를 기반으로 App 생성기 선정 기준, 사용 범위, 규제 준수 경로, 거버넌스 체계 설계를 함께 진행합니다.
  • 전문 컨설팅: “비즈니스 부서에 승인된 App 생성기를 열어줄 것인가” 같은 명확한 의사결정에 집중하거나, 섀도우 애플리케이션 실태 파악 후 개선 우선순위를 도출합니다.
  • 경영진 세미나 및 업계 발표: AI 코딩 도구, 섀도우 애플리케이션 거버넌스, 기업 AI 전환과 조직 거버넌스를 주제로 다룹니다.

이 글은 일반적인 프레임워크를 제시하지만, 실제 도입 시에는 기업의 데이터 경계, 규제 요구사항, 엔지니어링 성숙도, 기존 전달 프로세스를 고려해 재설계해야 합니다. 협업 문의는 coach@iaiuse.com으로 연락 주시기 바랍니다.

추천 자료: ‘간판 방법론 v1.0’(ゆっくり学ぶAI 187) — 기업 AI 전환을 위한 7단계 프레임워크를 체계적으로 소개합니다.

시리즈 소개

“AI 시대 소프트웨어 엔지니어링 혁신”은 통신, 금융, 제조, 전자상거래 업계의 CIO, CDO, CTO 및 디지털 전환 책임자를 대상으로 한 연구 시리즈로, 총 18편으로 구성됩니다. AI 코딩 도구, App 생성기, 섀도우 애플리케이션 거버넌스가 소프트웨어 전달 프로세스, 조직 구조, 거버넌스 체계, 관리 지표에 어떤 영향을 미치는지 중점적으로 다룹니다.

시리즈는 학술 논문, 업체 자료, 업계 보고서를 지속적으로 추적하며, 연구 자료 DB는 누적 200편을 넘었고, 핵심 판단에는 근거 수준(evidence level)을 표기해 검증된 사실, 업체 주장, 업계 관찰, 필자 추론을 최대한 구분해 두었습니다.

저는 대기업 컨설팅 및 비즈니스 분석 경력 약 8년을 보유하고 있으며, IBM 재직 시절 통신, 금융, 보험, 제조 분야 프로젝트에 참여한 바 있습니다. 이후에도 통신사 프로덕트, 인터넷 프로덕트, AI 애플리케이션 개발 현장에서 요구사항 분석, 제품 설계, 크로스 팀 협업을 계속해 왔습니다.

본 시리즈의 도구 선정, 앱 생성기 사용 범위, 컴플라이언스 채널 설계, 조직 거버넌스에 관한 판단은 이러한 실무 경험에서 비롯되었으며, 공개 연구 및 업계 사례를 교차 검증에 활용했습니다. 특정 프로젝트와 관련된 내용은 모두 비식별화했고, 일부 업계 시나리오는 전형적인 문제에 대한 추론적 전개이며, 관련 근거는 본문 말미의 참고 자료에 정리되어 있습니다.

이 채널은 사실 소규모 팀이 운영하고 있습니다. 저와 장기 협업 중인 동료 1~2명이 AI 코딩 도구 연구, 조직 거버넌스 사례 정리, 코칭 대화를 각각 나누어 맡고 있습니다. 본문에서 “기업과 함께 고민을 풀어낸” 프로젝트의 대부분은 저희가 공동으로 수행한 것들입니다. 고객의 컴플라이언스 경계와 인명은 여전히 밝히지 않으며, 익명성은 향후 협업할 동료들을 위해 유지합니다.

참고 자료 (모두 검증 완료, 항목별 근거 수준 + 입장 표기)

  • StackBlitz CEO Eric Simons (LinkedIn, 2026 회계연도 마감). Bolt.new는 포춘 500대 기업의 4분의 3이 사용 중이며, 기업용 ARR은 전년 대비 10배 성장했습니다. 1차 자료(공급업체 입장). https://www.linkedin.com/posts/eric-simons-a464a664_a-growth-update-as-we-close-out-our-fiscal-activity-7425263313049026560-5tdV

  • Sacra / Growth Unhinged (2025). Bolt.new의 ARR 성장 추적(약 5개월 만에 ARR 4,000만 달러, 약 500만 사용자, ChatGPT 다음으로 역사상 두 번째로 빠른 성장). 1차 리서치/추적. https://sacra.com/c/bolt-new/ , https://www.growthunhinged.com/p/boltnew-growth-journey

  • Taskade (2026-03) / Business Insider. StackBlitz 2025년 1월 시리즈 B 라운드에서 1억 550만 달러를 유치하며 기업가치 약 7억 달러를 인정받았고, Bolt V2는 Bolt Cloud를 통해 출시되었다. 업계 종합 보도.

  • Forbes / Rashi Shrivastava (2026-06-05). Lovable이 기업가치 120억 달러로 신규 투자 유치를 협의 중이며, 연간 반복 매출(ARR)은 5억 달러를 돌파했다 (2026-06-09 TechCrunch 동시 보도). 주요 업계 매체 보도. https://www.forbes.com/sites/rashishrivastava/2026/06/05/ai-coding-startup-lovable-in-talks-to-raise-funding-at-a-12-billion-valuation

  • CNBC / Bloomberg (2025-12) / TechCrunch (2025-11). Lovable은 시리즈 B에서 3억 3천만 달러를 유치하며 기업가치 66억 달러를, 시리즈 A에서는 2억 달러를 유치하며 기업가치 18억 달러를 기록했다. 업계 보도.

  • ARR.club (2026-07). Lovable의 ARR 성장 곡선: $17M(2025-02) → $100M(2025-07) → $200M(2025-11) → $400M(2026-02) → $500M(2026-06); 엔터프라이즈 고객에는 Workday, Asana, NVIDIA 포함. 업계 트래킹 자료.

  • Vercel (2026-02-03 공식 블로그 “Introducing the new v0”). v0가 v0.dev에서 v0.app으로 이름을 바꾸고, UI 컴포넌트 도구에서 풀스택 애플리케이션 생성기(샌드박스 런타임 + GitHub + Snowflake/AWS 통합)로 진화. 공식 입장. https://vercel.com/blog/introducing-the-new-v0

  • Taskade (2026-03) / Vercel. v0는 2026년 3월 기준 사용자 6M+, 월간 활성 팀 약 8만 개, 추정 ARR 약 $42M. 업계 종합 추정치.

  • Replit (2026-03-13 공식 업데이트 로그 + 공식 블로그 “What’s changed from Agent 3 to Agent 4”). Agent 4는 2026-03-11에 출시되었으며, Infinite Design Canvas를 도입하고, 기존 fork-and-merge 협업 방식을 동일 프로젝트 내 멀티스레드 작업으로 전환하고, 충돌 자동 병합(90% 자동 해결) 기능을 추가했습니다. 1차 벤더 공식 입장 자료. https://docs.replit.com/updates/2026/03/13/changelog

  • AlphaSignal (2026). Replit Agent 4가 팀 병합 충돌의 90%를 자동으로 해결한다는 세부 내용을 보도. 업계 뉴스. https://alphasignal.ai/news/replit-s-agent-4-resolves-90-of-team-merge-conflicts-automatically

  • Atal Upadhyay (2026-03-19). Replit은 같은 주에 4억 달러 규모의 시리즈 D 투자 유치를 발표하며 기업가치 90억 달러를 인정받았다(6개월 만에 3배 성장). 업계 보도 종합. https://atalupadhyay.wordpress.com/2026/03/19/replit-agent-4-replit-just-changed-everything

  • Cybernews (2026-08-01 업데이트) / The Register (2025-07-28) / segmentationf4u1t (GitHub 1차 연구). Trae는 원격 측정(telemetry)을 비활성화해도 하드웨어/기기 ID/프로젝트 활동 데이터를 바이트댄스(ByteDance) 서버로 전송하며, 단일 배치 데이터 크기는 최대 53,606바이트에 달함. 7분 동안 500회 이상의 호출 시 약 26MB가 전송됨. 바이트댄스는 공식적으로 토글(toggle)이 VS Code 프레임워크 부분만 제어한다고 인정함. Privacy Mode는 2026년 8월경 출시 예정. Trae는 2026년 2월 ‘forever free’ 정책을 폐지하고 토큰 기반 유료화(paywall)로 전환함. 1급 보안 연구 + 업계 보도 + 제조사 공식 입장을 종합. https://cybernews.com/security/bytedance-ai-coding-tool-trae-data-collection , https://www.theregister.com/software/2025/07/28/bytedance-ai-ide-trae-telemetry-continues-even-after-opt-out/ , https://github.com/segmentationf4u1t/trae_telemetry_research

  • OpenAI Tools Hub / Jim Liu (2026-05-18). Trae는 12개월 만에 가입자 600만 명 / 월간 활성 사용자 160만 명 / 누적 1,000억 줄의 코드를 생성했다. 2월부터는 token paywall을 도입하면서 ‘forever free’ 정책을 폐기했다. 종합 리서치(애널리스트 관점) 기반.

  • Gartner (Process Excellence Network, 2025-08-27 / DevOpsDigest / UC Today 경유 재인용). 2026년 말까지 기업용 애플리케이션의 40%가 특정 업무 전담 AI 에이전트를 내장할 것이며(2025년 기준 5% 미만), 2035년까지 에이전틱 AI가 기업 소프트웨어 시장의 약 30%(4,500억 달러)를 차지할 것으로 전망된다. 공식 예측 문서 기준. https://www.processexcellencenetwork.com/ai/news/gartner-40-percent-of-enterprise-apps-will-feature-task-specific-ai-agents-by-2026

  • Gartner (RapidClaw / Hendricks.ai / Arion Research 인용, 2025-2026). 2024년 1분기부터 2025년 2분기까지 기업의 multi-agent 시스템 관련 문의가 1445% 증가했습니다. 이는 Gartner AI 자문 서비스에서 가장 빠르게 성장한 주제입니다. 1차 리서치 및 인용 자료.

  • Microsoft (FY26 회고 블로그, 2026-07-28). EY는 150,000명의 직원에게 Copilot을 배포하여 15%의 생산성 향상을 달성했으며, 현재 전 세계 400,000명의 직원으로 확대 적용 중입니다. Atos는 54개국 56,000명의 직원에게 Copilot을 배포하고, 통합 제어 플레인 아래에서 19,000개의 AI 에이전트를 관리하고 있습니다. 공급업체 및 고객 입장을 직접 확인 가능(공급업체 + 시스템 통합업체 관점). https://blogs.microsoft.com/blog/2026/07/28/looking-back-on-microsofts-fy26-from-ai-experimentation-to-frontier-transformation

  • Atos Group (2026-06-09 공식 보도자료). Atos가 Microsoft와의 협력을 확대하여 56,000명의 임직원에게 Copilot E7(Frontier Suite)을 배포하고, Entra/Defender/Intune/Purview/Agent 365 제어 평면을 통합하며 19,000개의 에이전트를 운영합니다. 기업의 1차 발표 자료입니다. https://www.atosgroup.com/en/press/atos-group-and-microsoft-expand-strategic-collaboration-scale-secure-agentic-ai-across-atos

  • UpGuard / Cybersecurity Dive (2025). 직원의 80% 이상, 보안 책임자의 약 90%가 승인되지 않은 AI 도구를 사용하고 있으며, 약 절반의 직원이 기밀 데이터를 이러한 도구에 붙여넣은 적이 있는 것으로 나타났습니다 (Mimecast, Teramind의 유사 보고서도 비슷한 수치를 보여 교차 검증됨). 1차 조사 + 업계 보도. https://www.cybersecuritydive.com/news/shadow-ai-employee-trust-upguard/805280/

  • Gartner (The Hacker News, 2026-5 재인용). 69%의 조직이 직원의 금지된 AI 도구 사용을 의심하거나 확인했으며, AI 사용 지침을 마련한 조직은 37%에 불과합니다. 업계 보도 재인용.

  • CodeRabbit (2026-02 DORA 공동 웨비나 + Kunal Ganglani 2026-06 벤치마크 비교). AI가 생성한 코드에서 발견되는 문제(로직 및 정확성 버그 포함)는 기존에 사람이 직접 작성한 코드보다 약 1.7배 많은 것으로 나타났다. CodeRabbit은 GitHub/GitLab에서 가장 많이 설치된 AI 코드 리뷰 도구로, 15,000곳 이상의 유료 고객을 보유하고 있으며 600만 개의 저장소를 검토했다. NVIDIA CEO 젠슨 황(Jensen Huang)이 공개적으로 지지한 도구이기도 하다. 1차 연구 / 벤더 데이터 / 업계 비교 평가 자료. https://www.coderabbit.ai/blog/state-of-ai-vs-human-code-generation-report

Veracode (2025년 생성형 AI 코드 보안 보고서): AI가 생성한 코드 샘플의 약 45%가 OWASP Top 10 취약점을 포함하고 있음(Java 생성 코드의 실패율은 70% 초과). 1차 연구. https://www.veracode.com/blog/genai-code-security-report/ (注: 이전 초안에서는 이 ‘45%’를 ‘섀도우 AI 도입률’로 잘못 해석한 적이 있으나, 이는 방향 오류였음 — 45%는 AI 생성 코드의 결함률을 가리키며 도구 도입률이 아님; 섀도우 AI 도입률은 UpGuard의 80% 이상을 참조할 것.)

arXiv:2510.26103: AI 생성 코드 내 보안 취약점 — 공공 GitHub 저장소 대규모 분석 (AI 생성 코드 보안 취약점에 대한 1차 실증 연구).

데이터 범위 설명: 본 게시글의 모든 정량적 데이터는 출처를 명시했습니다. 일부 업체가 공식 수치를 공개하지 않았거나 독립적으로 검증되지 않은 숫자(예: Lovable의 $12B 규모 신규 투자 유치 협상 진행 중, Atos의 19,000개 에이전트 정확한 집계 시점)는 등급을 낮춰 처리했습니다. 고객 사례는 비식별화되었으며(이커머스 운영팀, 통신사 지방사업부 마케팅센터 등), 출처는 필자가 납품 과정에서 직접 목격한 사실적 시나리오로, 특정 기업을 지칭하지 않습니다. 규제 요건(PIPA 제 28조의 2 데이터 국외 이전, ISMS-P 인증, 인공지능기본법 안전성 평가)은 현행 법규를 기준으로 하며, 구체적 적용은 비즈니스 및 데이터 유형에 따라 달라지므로, 도입 전 법무/컴플라이언스 검토 의견을 반드시 확인하시기 바랍니다.

[^1]: 개인정보의 국외 이전은 PIPA(개인정보 보호법) 제 28조의 2(2024.9 전면 개정)를 따르며, PIPC(개인정보보호위원회)가 2023년 발간한 Cross-Border Transfer Guideline + APEC CBPR 인증 경로 + 표준 계약(SCC) + 사전 동의 중 하나를 선택해야 한다. 고유식별정보(주민등록번호·여권번호 등)의 국외 이전은 별도로 PIPC의 인증을 받아야 한다. 사후 통지 의무 위반 시 과징금은 매출의 5% 또는 50억 원 중 큰 금액이다.

[^2]: 한국에는 등급 보호(MLPS, 중국)와 동일한 강제 등급 제도는 없지만, **ISMS-P 인증(정보보호 및 개인정보보호 관리체계)**이 사실상 표준이다. 정보통신망법 제 47조의 2 및 KISA 고시에 따라, ISP·포털 등 100만 명 이상 이용자 정보 보유 사업자, 300명 이상 직원/일 이용자 수 보유 사업자는 매년 ISMS-P 인증 심사를 받아야 한다. PIPC는 2024년 쿠팡에 624억 원 과징금을 부과하며 ISMS-P 부재가 직접적 처분 사유였다고 명시한 바 있다.

[^3]: 한국은 글로벌 첫 종합 AI 국가법을 운영한다. 인공지능기본법(2025.1 제정, 2026.1 시행) 제 31-34조에 따라 고위험 AI는 사전 영향평가 + 안전성 점검이 의무이며, 과학기술정보통신부(과기정통부)가 인증 절차를 운영한다. PIPC는 2025년 AI 자율점검표를 발표했고, 과기정통부는 AI 윤리 가이드라인(2024)을 병행 시행 중이다. 앱 생성기가 만든 코드 자체가 반드시 이 평가를 촉발하는 것은 아니지만, 생성된 앱이 외부에 생성형 AI 서비스를 제공하거나 고위험 의사결정에 사용된다면 인공지능기본법 제 31조의 영향을 평가 대상으로 처리된다.

[^4]: 변경 관리 일반 프레임워크는 ITIL 4 Change Enablement를 참조한다. 금융 업계의 최신 기준은 전자금융거래법 및 ISMS-P 인증(KISA 주관) + 금융위원회 IT 감리 가이드(2024 개정)이며, 보험 업계는 금융감독원의 보험회사 IT 운영 리스크 관리 감독 지침을 추가로 따른다. 2024년 금융감독원은 토스·카카오페이 등 핀테크 기업의 내부 통제 미흡에 대한 현장 검증을 강화한 바 있다.

[^5]: 거래 기록 보존: 한국 환경에서 전자상거래 거래 정보는 전자상거래 등에서의 소비자보호에 관한 법률(전자상거래법) 제 6조(거래 기록 5년 보존) + 개인정보 보호법 제 21조(개인정보의 처리 제한)에 따라 보존 의무가 적용된다. 감사 로그: ISMS-P 인증 기준 + 전자금융감독규정에 따라 5년 이상 보존이 권장되며, 6개월은 PIPA 제 21조의 최소 기준일 뿐 권장 값이 아니다. 대사 로직 부재는 금융감독원 IT 감리에서 직접 지적되는 위반 항목이다.