직원이 개인용 생성형 AI에 계약서나 고객 자료를 붙여 넣는 순간, 조직 밖에서 관리되지 않는 데이터 처리가 시작된다. 이를 Shadow AI라고 부른다. 그러나 원인을 직원의 부주의 하나로 돌리면 사용은 사라지기보다 보이지 않는 곳으로 이동한다. 공식 도구가 느리거나 쓸모없고 승인 절차가 현실과 맞지 않을 때 직원은 업무를 끝내기 위해 우회한다. 따라서 전면 차단이 아니라 승인 도구, 데이터 분류, 계정 통제, 탐지, 신속한 신고를 함께 설계해야 한다.
- Shadow AI는 악의보다 승인된 업무 수단과 현장 요구의 간극에서 생기는 경우가 많다.
- IBM 조사와 Menlo 텔레메트리는 각 표본에서의 관측치이며 전체 기업의 발생률이 아니다.
- 금지 공지와 DLP만으로 끝내지 말고 안전한 대안과 no-blame 신고 절차를 마련해야 한다.
뚜껑과 몸체를 강철 케이블로 감싼 닫힌 금속 장비 케이스로 Shadow AI 데이터 보안을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
Shadow AI의 본질은 관리되지 않는 데이터 처리다
영국 NCSC는 허가 없이 사용하는 AI를 Shadow IT 범주에 포함한다. 문제는 단순히 어떤 웹사이트에 접속했는지가 아니다. 누가 어떤 계정으로 어떤 자료를 넣었고, 서비스가 이를 얼마나 보존하며, 학습에 사용하는지, 삭제 요청이 가능한지를 조직이 알 수 없다는 데 있다. 회의봇, 브라우저 확장 프로그램, 문서 요약 플러그인, 개인 스마트폰 앱도 같은 문제를 만든다.
NCSC는 Shadow IT가 종종 악의가 아니라 승인된 도구와 절차로 업무를 수행하기 어려울 때 생긴다고 설명한다. 비난과 처벌을 앞세우면 직원은 실수를 숨기고 보안팀은 중요한 초기 신호를 잃는다. 명확한 금지 데이터와 쓸 수 있는 기업용 대안을 한 페이지로 제시하는 편이 가시성을 높인다.
투명 보관함 안의 은색 직사각형 상자로 Shadow AI 데이터 보안을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
IBM 수치: 조사 표본의 사고 보고로 읽어야 한다
IBM과 Ponemon의 2025년 침해 조사에서 대상 조직의 13%는 AI 모델 또는 AI 애플리케이션 침해를 보고했고 8%는 침해 여부를 모른다고 답했다. AI 관련 침해를 보고한 조직 가운데 97%는 적절한 AI 접근통제가 없었다고 응답했다. 침해 경험 조직의 63%는 AI 거버넌스 정책이 없거나 작성 중이었고, 정책 보유 조직 중 비승인 AI 사용을 정기 감사한다는 비율은 34%였다.
‘5곳 중 1곳이 Shadow AI로 인한 침해를 보고했다’는 결과도 함께 제시됐다. 이 문장은 IBM 연구 표본의 응답과 사고 분석을 나타낸다. 세계 모든 기업에서 같은 확률로 사고가 난다는 뜻이 아니며, 조사 방식과 응답자 구성의 영향을 받는다. 수치는 경고 신호로 활용하되 우리 조직의 서비스 목록, 접속 기록, 데이터 흐름을 별도로 조사해야 한다.
밀폐형 접속함 소켓에서 간격을 두고 분리된 파란 데이터 케이블로 Shadow AI 데이터 보안을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
Menlo 수치: 고객 환경 텔레메트리의 범위를 지킨다
Menlo Security는 수백 개 글로벌 고객 조직의 텔레메트리에서 2024년 2월부터 2025년 1월까지 생성형 AI 사이트 트래픽이 70억 회에서 105억3천만 회로 50% 증가했다고 보고했다. 보고서에는 직원의 68%가 개인 계정으로 무료 AI 도구를 사용하고, 그중 57%가 민감한 데이터를 입력했다는 내용도 있다.
이 역시 일반 직장인 전체를 대표하는 무작위 모집단 조사가 아니다. Menlo 고객 환경에서 관측된 활동이라는 조건을 떼어내면 과장된다. 활용이 늘었다는 방향과 개인 계정이 통제 사각지대가 될 수 있다는 운영 문제를 확인하는 자료로 쓰는 것이 적절하다.
스냅 걸쇠 투명 보관함 안의 황동 열쇠로 Shadow AI 데이터 보안을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
개인정보 입력은 왜 되돌리기 어려운가
호주 개인정보감독기관 OAIC는 공개형 생성형 AI에 개인정보, 특히 민감정보를 입력하지 말 것을 권고한다. 한 번 입력하면 어떤 경로로 사용되는지 추적하거나 통제하기 어렵고 삭제가 불가능할 수도 있기 때문이다. 고객의 건강, 가족, 재정난 정보를 요약하게 한 뒤 부정확한 결과로 불리한 결정을 내리는 CarCover 사례도 제시한다.
중요한 한계가 있다. CarCover는 위험을 설명하기 위한 규제기관의 사례연구 시나리오이지 확인된 실명 기업 사고가 아니다. 실제 유출 사고처럼 서술하면 안 된다. 이 시나리오의 교훈은 개인정보 최소화, 처리 근거 검토, 정확성 검증, 사람의 최종 판단이 필요하다는 데 있다.
분리된 편조 케이블 옆 밀폐형 금속 케이스로 Shadow AI 데이터 보안을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
차단보다 먼저 설계할 운영 원칙
첫 단계는 발견이다. AI 웹서비스뿐 아니라 확장 프로그램, 회의봇, 개인 계정, 모바일 앱, API 키를 조사한다. 다음으로 개인정보, 영업비밀, 소스코드, 계약서, 고객자료를 등급별로 나누고 각 등급에서 허용되는 도구와 행위를 정한다. 기업 계정에는 SSO와 MFA를 적용하고 개인 계정으로 업무 자료를 처리하지 않도록 한다.
공급자의 입력 데이터 학습 사용 여부, 보존기간, 삭제 절차, 처리지역도 계약과 설정에서 확인한다. RAG나 커넥터를 붙이면 기존 SharePoint·Drive의 과도한 권한이 AI 검색을 통해 확대될 수 있으므로 원본 저장소 권한을 먼저 정리한다. CASB나 DLP는 업로드와 붙여넣기를 탐지하는 보조 수단이지만, 승인된 서비스 안에서 개인 계정을 쓰는 상황까지 항상 구분하는 것은 아니다.
장비함 하단 앞에 세운 반투명 패널로 Shadow AI 데이터 보안을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
사고가 의심될 때는 빠른 신고가 통제다
직원이 잘못된 자료를 입력했을 때 즉시 말할 수 있어야 공급자 삭제 요청, 노출 범위 확인, 자격증명 회전, 고객 통지를 제때 시작할 수 있다. 고의적 남용과 선의의 실수를 구분하고, 신속 신고 자체는 불이익을 줄이는 no-blame 절차가 필요하다. 교육은 공포 사례보다 ‘어떤 데이터는 어디에 넣어도 되는가’와 신고 연락처를 반복하는 편이 실용적이다.
캐나다의 2025년 별도 IBM 설문은 AI 도구에 익숙한 북미·중남미 사무직 4천 명을 대상으로 했고, 캐나다 응답자의 업무 AI 사용과 개인·회사 도구 혼용을 보고했다. 이 역시 특정 모집 조건의 인식 조사다. 객관적 생산성이나 전체 노동자의 행동으로 일반화하지 않고 정책 설계를 위한 보조 신호로만 사용해야 한다.
사내 AI 보안 체크리스트
- AI 서비스, 확장 프로그램, 회의봇, 개인 계정 사용 현황을 조사한다.
- 승인 도구와 금지 데이터 유형을 한 페이지로 명확히 안내한다.
- 개인정보, 영업비밀, 소스코드, 계약서, 고객자료를 분류한다.
- 기업 계정에 SSO·MFA를 적용하고 개인 계정의 업무 사용을 제한한다.
- 입력 데이터의 학습 사용, 보존기간, 삭제, 처리지역을 확인한다.
- 커넥터가 접근하는 SharePoint·Drive 권한을 최소화한다.
- DLP·CASB 탐지와 함께 안전한 기업용 대안을 제공한다.
- 실수의 빠른 신고를 유도하는 no-blame 대응 절차를 만든다.
- 삭제 요청, 자격증명 회전, 고객 통지를 포함한 플레이북을 연습한다.
철망 안쪽에 파란 케이블을 보관한 잠금식 캐비닛으로 Shadow AI 데이터 보안을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
FAQ
Q1. 공개형 AI에 회사 자료를 넣으면 모두 유출인가요?
A. 곧바로 침해가 확정되는 것은 아니다. 다만 처리·보존·학습·삭제 조건을 조직이 통제하지 못할 수 있으므로 민감자료 입력을 금지하고 사실관계를 조사해야 한다.
Q2. AI 사이트를 전부 차단하면 해결되나요?
A. 아니다. 개인기기와 개인 계정으로 사용이 이동할 수 있다. 업무에 쓸 수 있는 승인 대안과 명확한 데이터 규칙이 함께 필요하다.
Q3. 기업용 계정이면 어떤 데이터든 넣어도 되나요?
A. 아니다. 계약과 설정이 좋아도 최소수집, 처리 근거, 원본 권한, 정확성 검증 의무는 남는다. 데이터 등급별 허용 범위를 정해야 한다.
Q4. CASB나 DLP만 도입하면 충분한가요?
A. 탐지와 제한에는 도움이 되지만 승인 서비스 안의 개인 계정이나 새 플러그인을 놓칠 수 있다. 계정 통제, 자산 조사, 교육, 신고 절차를 결합해야 한다.
Shadow AI를 줄이는 목표는 사용 흔적을 숨기는 것이 아니라 관리 가능한 경로로 옮기는 것이다. 승인 도구의 편의성, 최소권한, 데이터 분류, 빠른 신고가 함께 작동할 때 보안팀은 차단자가 아니라 안전한 업무의 설계자가 된다.
자물쇠로 잠근 닫힌 금속 트레이 바깥의 단색 천 파우치로 Shadow AI 데이터 보안을 설명하는 이미지. ※ 생성형 AI로 만든 이해용 이미지이며, 실제 기업·기관 현장 기록 사진이 아닙니다.
출처
'AI와 비즈니스' 카테고리의 다른 글
| 제조업 AX의 현실｜AI보다 먼저 설비·품질 데이터 연결이 필요한 이유 (0) | 2026.09.06 |
|---|---|
| AI 에이전트 도입 전 확인할 것｜자동 실행이 사고로 이어지는 순간 (0) | 2026.09.06 |
| 생성형 AI 생산성은 왜 엇갈리나｜하루 26분 절약과 개발 19% 지연 읽는 법 (0) | 2026.09.06 |
| 중소기업 AX는 어디서 시작할까｜한 업무·한 KPI로 검증하는 현실적 순서 (0) | 2026.09.06 |
| 공공기관 AX의 현실｜개인정보·망분리·조달을 함께 푸는 방법 (0) | 2026.09.06 |