도구 이름 옆에 데이터가 지나가는 길을 적는다
가상 회사의 마케팅팀은 공개 보도자료를 퇴고합니다. 지원팀은 상담 기록에서 문의 유형을 뽑고 싶어 합니다. 개발팀은 편집기에 붙인 도우미로 비공개 코드를 제안받습니다. 세 팀 모두 ‘AI를 쓴다’고 답할 수 있지만 실제로 공급자에게 가는 데이터와 회사가 회수해야 할 권한은 다릅니다.
회사가 승인하거나 관리하지 않는 AI 도구·계정·연동의 업무 사용을 흔히 Shadow AI라고 부릅니다. 도구 목록에는 웹 채팅 제품 외에 브라우저 확장, 코드 편집기 플러그인, 회의 기록 봇, 자료실 커넥터, 별도 API 계정, 이미 쓰는 SaaS에 추가된 AI 기능도 넣습니다. 회의 기록 봇은 직원이 직접 입력하지 않아도 발언을 수집할 수 있습니다. 코드 편집기에서는 커서 주변뿐 아니라 플러그인이 요청하는 저장소 범위를 확인해야 합니다. 별도 설치 목록만 조사하면 관리 중인 SaaS에 새로 활성화된 내장 기능을 놓칠 수 있습니다.
첫 등록 작업은 팀에 최근 업무 유형과 데이터 범위를 묻는 방식으로 시작합니다. 입력 원문을 제출양식에 붙여 넣게 하면 별도 보관처가 생기므로, 문서 분류와 출처 유형, 권한 범위로 확인합니다. 회사 계정에는 설치 기록과 동의한 애플리케이션 권한을 대조합니다. 발견된 도구는 즉시 없애기 전에 누가 어떤 일을 이어받아야 하는지 확인합니다. 이미 퇴사자가 소유하는 프로젝트나 일정을 발견했다면 데이터와 승인 기록의 소유권을 업무 담당자에게 넘기는 경로가 필요합니다. NIST의 생성형 AI 위험관리 프로파일[1]
어떤 조합을 먼저 확인하는가
우선순위는 사용자가 많아 보이는 도구보다 반출 범위와 권한을 넓게 주는데 회수가 어려운 조합에서 시작합니다. 개인 계정에 고객지원 폴더 전체를 연결한 경우는 보도자료 초안을 잠깐 다듬는 경우보다 먼저 확인할 일입니다. 공유 확장에 조직 전원이 설치 권한을 갖고 무엇에 접근하는지 모르는 경우에는 실제 권한과 공개 범위를 확인할 때까지 추가 사용을 제한할 수도 있습니다.
사용량 자체가 작아도 곧 만료될 개인 API 키가 업무 배치를 실행한다면 운영 위험이 큽니다. 반대로 계정 사용량이 많아도 입력이 공개 문구로 한정돼 있고 승인된 회사 작업공간에서 관리할 수 있다면, 먼저 계정을 막기보다 입력과 결과 검토가 계획대로 이뤄지는지 확인하는 편이 낫습니다. 판단표에는 데이터 등급뿐 아니라 처리량, 지속되는 권한, 원상회복 가능성, 업무 종료 시점을 함께 적습니다.
데이터 종류와 사용 목적에서 허용 범위를 정한다
아래 표는 사내 분류 기준을 업무에 연결하는 설계 예시입니다. 표의 허용 조건은 적용할 공급자 약관, 고객과의 계약 및 내부 정책 확인과 함께 사용합니다. 공개 웹페이지도 공개 책임자가 게시한 버전인지 확인합니다. 같은 프로젝트의 작업 파일 전체를 내보내면 비공개 메모나 개인 식별정보가 섞일 수 있습니다.
| 데이터 | 가상 업무 목적 | 허용 조건 | 담당자 판단과 증거 |
|---|---|---|---|
| 이미 공개된 제품 소개와 보도자료 | 번역 초안, 문장 편집 | 등록된 도구와 허용 계정에서 공개 문구만 입력 | 게시된 원본 링크와 편집 담당자가 작성 결과 검토 |
| 내부 부서 안내와 미공개 일정 | 문서 정리, 형식 변환 | 회수 가능한 조직 작업공간과 확인된 보관 조건 | 문서 소유자의 등급 확인, 공유 링크 기본값 점검 |
| 고객 상담 기록과 첨부 | 문의 유형 집계, 답변 초안 | 개인정보와 주문 정보 최소화, 승인된 데이터 경로와 접근권한 | 승인한 필드, 입력 표본 검증, 보관·삭제 범위와 결과 확인 담당자 |
| 비공개 코드와 설계 문서 | 코드 설명, 변경 제안 | 승인된 저장소·경로 한정, 나머지 연결 권한과 비밀 입력 제한 | 저장소 소유자의 허용 목록, 확장 권한 시험, 계정 회수 기록 |
| 비밀번호·API 키·서명키, 고위험 원본 | 예외 보안 진단 | 원문 입력 제한. 별도 업무가 필요하면 격리 환경과 최소 자료 검토 | 키 소유자와 보안 담당자가 승인된 환경 및 테스트 데이터를 지정 |
가상의 지원팀은 문의 목록에서 고객 이름을 비웠지만 주문 번호와 주문 상세 링크를 함께 보냈습니다. 이 값을 읽을 수 있는 내부 시스템과 결합하면 개인의 주문을 다시 찾을 수 있습니다. 가린 필드와 값을 바꾼 테스트 데이터의 차이를 확인하고 불필요한 식별자가 주제 분류용 입력에 남지 않게 합니다. 회신 초안에 실제 주문 상태가 필요하다면 그 경로를 별도로 승인해 조회할 수 있는 주문과 볼 수 있는 필드를 좁힙니다.
나머지 팀의 대안도 표에서 나옵니다. 공개 보도자료는 승인 도구에 문장만 붙여 넣고, 내부 표시가 많은 소스코드는 승인 전 승인된 코드 검색이나 내부 리뷰로 돌립니다. 회의 요약 기능이 승인되더라도 참가자, 첨부 자료, 녹화 저장 범위가 바뀌면 기존 승인을 다시 봅니다. 직원은 ‘허용되지 않음’ 표시만 받아서는 일을 끝낼 수 없으므로, 현재 운영하는 대체 도구와 일반적인 승인 처리 시간을 함께 알려줍니다.
캠페인에 필요한 데이터부터 연결 — 캠페인에서 역산한 이벤트와 속성을 정의하고 식별자와 전송 시점, 측정 도구의 역할을 맞춥니다.
계정 공급자에게 확인할 다섯 가지
처리 목적과 보관은 별도 항목이다
공급자에게 입력·응답·첨부·로그를 서비스 개선이나 학습에 사용하는지 확인합니다. 그와 별도로 각 자료가 어디서, 어떤 이유로, 얼마 동안 보관되는지 확인합니다. 예를 들어 OpenAI API의 공식 데이터 통제 문서는 API에 보낸 데이터의 모델 훈련 기본값과 남용 모니터링 로그, 기능 동작에 필요한 애플리케이션 상태를 별개로 설명합니다. 이 사례를 다른 제공자, 소비자 서비스, 기능과 요금제 전반으로 확대해 적용할 수 없습니다. 공급자 문서나 계약의 확인 부분, 실제 조직 설정, 예외가 있는 기능을 한 행에 기록해야 합니다. OpenAI API의 데이터 통제 문서[2]
위치와 재위탁 범위를 데이터 경로에 표시한다
저장 위치와 실제 처리가 이뤄지는 위치, 기술지원 담당자가 접속할 수 있는 위치를 확인합니다. 커넥터가 별도 색인이나 요약을 만들거나 외부 도구가 결과를 받는다면, 최초 채팅을 제공한 공급자 외에 그 경로의 재위탁자와 처리 조건도 확인합니다. 조직 콘솔에서 지역을 고를 수 있어도 그 선택이 모든 저장소·전송·기능에 적용된다고 가정하면 안 됩니다. 답이 없는 항목은 보류로 남기고 필요한 경로를 제외한 상태에서 사용 범위를 검토합니다.
관리자가 회수할 수 있는 계정을 지정한다
이메일 주소가 회사 도메인이어도 개인 작업공간이라면 좌석을 회수하거나 공유물을 회사로 이전할 수 있는지 따로 확인합니다. 조직이 소유한 작업공간의 관리자 역할, 회사 인증 수단, 계정 비활성화, 감사 이벤트, 외부 링크의 만료를 실제 시험 계정에서 점검합니다. 계정의 비활성화와 확장·커넥터 승인 철회, API 자격 증명 폐기는 여러 위치에서 이뤄질 수 있습니다. 운영 배치에 개인 토큰을 쓰는 경우에는 기존 권한을 없애기 전에 마이그레이션과 업무 정상 동작을 확인합니다.
커넥터의 읽기와 쓰기 범위를 따로 확인한다
업로드가 허용된 문서 한 종류와 폴더 전체를 읽을 수 있는 커넥터는 별도 승인 대상입니다. 연결하기 전에 읽을 폴더, 검색할 사용자, 다운로드와 재공유 가능 여부를 확인합니다. 외부 시스템에 작업을 쓰거나 메시지를 보내는 기능까지 연결한다면 승인된 작업을 실제로 강제할 수 있는지도 검토합니다. 연결 해제 뒤 기존 색인과 대화에서 자료가 어떻게 취급되는지는 공급자 문서와 시험에서 확인합니다. OWASP의 에이전트 설계와 권한 통제 가이드[3]
종료 때 남는 저장소와 책임을 기록한다
업무 별 데이터 내보내기, 삭제 요청 경로, 처리 확인서, 로그·백업의 예외 조건, 조직 측 보관 필요 범위를 확인합니다. 사용자 목록을 삭제해도 공유한 링크와 기기 확장, SMTP로 전송된 메일, 저장한 첨부가 남을 수 있습니다. 해지 절차는 종료 통보 한 건으로 끝내기보다 어느 저장소를 누가 어떻게 확인하는지 기록합니다. 법령 적용과 계약 해석이 필요한 경우에는 회사 담당자가 사용 범위에 맞는 근거를 검토합니다.
AI 도구 등록 카드
새 기능을 쓰려는 팀은 아래 항목 중 목적과 데이터를 먼저 작성합니다. 비밀 값이나 상담 원문을 붙이지 않고, 사내 분류명과 도구 문서 위치를 기록합니다. 데이터 책임자와 IT 담당자가 배포·이관·종료까지 필요한 근거를 붙이면 같은 카드에서 승인 범위를 읽을 수 있습니다.
| 항목 | 가상 등록 예 | 다시 검토할 변경 |
|---|---|---|
| 도구·기능·소유자 | 지원팀의 문의 유형 집계 기능, 지원 운영 리드 | 조직 소유자·플랜·기능 변경 |
| 목적·적격 입력 | 제공한 분류표로 가공된 문의의 유형 검토 | 원본 대화, 새 고객 DB 또는 첨부 연결 |
| 조직 계정·권한 | 회사 작업공간, 지정 그룹, 편집·내보내기 권한 제한 | 개인 계정, 외부 위탁 좌석, 관리자 부재 |
| 연결 경로와 처리 조건 | 입력·출력 위치별 문서 링크, 확인일, 재위탁자 범위 | 제공자 정책, 지역, 보관 기한 또는 연결 조건 변경 |
| 검증과 관리 | 테스트 자료 반출 확인, 연결 해제 후 접근 시험, 재검토일 | 점검 증거를 재현할 수 없음, 권한 변경 실패 |
| 승인과 종료 | 업무 책임자와 데이터 책임자, 계정·링크·토큰 회수 담당자 | 승인 만료, 도구 해지, 담당자 퇴사 |
이 카드로 팀장이 같은 공급자의 추가 기능을 무조건 승인할 필요가 없습니다. 예를 들어 문서 편집을 승인한 상태라도 외부 전송 기능이나 조직 전체 검색을 켜려면 새로운 데이터 경로를 검토합니다. 시험은 승인된 샘플과 시험 계정으로 제한하고 실제 고객 원문 투입은 각 조건이 확인된 뒤에 결정합니다. 직원이 승인 요청을 올릴 때 담당자가 언제 답하는지 알 수 있어야 회피 경로가 줄어듭니다.
이상 사용을 발견했을 때
입력한 데이터의 종류, 연결된 시스템, 공유 범위, 연결이 지속되는지부터 파악합니다. 키가 들어갔다면 삭제 요청과 함께 발급처에서 접근 차단·교체를 진행합니다. 내부 자료가 이미 외부에 전달됐을 수 있다면 사건 대응 담당자가 확인할 최소 증거를 보존하고 데이터 담당자와 공급자 지원 채널에 연결합니다. 사고 대응 역할과 증거 보존 방식은 NIST의 사고 대응 권고[4]와 IXC의 비밀키 노출 대응을 참고할 수도 있습니다.
회수 시험에서는 탈퇴한 사용자가 앱에 로그인하지 못하는지, 남은 브라우저 세션이나 통합 토큰으로 다시 조회할 수 있는지, 조직 소유의 자료를 후임이 이용할 수 있는지 확인합니다. 관리자 경로의 세션과 감사 기준은 관리자 접근 방식 비교에서도 다룹니다. 관리 대상이 늘었다면 등록 건수만 집계하기보다 처리 지연으로 사용자가 우회한 건, 회수하지 못한 좌석·연결과 승인 조건이 바뀐 건을 운영 회의에서 확인합니다.
