AI를 소방 업무에 쓰기 시작할 때 가장 먼저 필요한 것은 기능 목록이 아니라 넘지 말아야 할 선입니다. 이 안내서는 개인정보·환각·법령 해석·결재와 공개에 관한 기존 안내서의 안전 원칙을 다섯 문장으로 모았습니다. 정답이나 업무 허가를 대신하지 않고, 멈춰야 할 순간에 원자료와 사람 검토로 돌아가기 위한 입문용 앵커입니다.
학습 목표
- AI에 넣기 전에 멈춰야 할 자료를 구분할 수 있습니다.
- 마스킹과 비식별 결과가 외부 전송 허가는 아님을 설명할 수 있습니다.
- AI 출력에서 원자료와 대조해야 할 사실·출처·법령 표현을 찾을 수 있습니다.
- 결재·발송·공개·실행 전에 사람이 맡아야 할 경계를 확인할 수 있습니다.
배경지식
AI 도구의 입력창은 개인 메모장이 아닐 수 있습니다. 입력한 내용이 어디로 전송되고 어떻게 처리되는지는 도구, 계약, 계정 설정, 소속 기관 기준에 따라 달라집니다. 따라서 요금제나 제품 이름만 보고 실제 사건 자료를 넣어도 된다고 판단할 수 없습니다.
출력도 마찬가지입니다. AI가 자연스럽게 쓴 문장은 승인된 기록이 아니며, 링크가 붙은 답변도 원문 확인을 마친 근거가 아닙니다. 마스킹 도구, 비식별 모델, 출처 링크, 매끄러운 문장은 모두 사람의 확인을 돕는 수단이지 안전·정확성·업무 사용을 보증하는 증명서가 아닙니다.
이 안내서에서 기억할 한 문장은 다음과 같습니다.
확인되지 않은 실제 자료는 넣지 않고, 원자료로 확인되지 않은 결과는 내보내지 않습니다.
이 문장은 AI 사용을 무조건 금지한다는 뜻이 아닙니다. 탐지, 확인, 승인을 서로 다른 상태로 다루자는 뜻입니다. 도구가 위험한 패턴을 탐지하지 못한 상태는 안전을 확인한 상태가 아니고, 사람이 일부 내용을 확인한 상태도 기관이 그 전송이나 공개를 승인한 상태와 같지 않습니다. 어느 단계까지 마쳤는지 섞어 말하지 않아야 다음 담당자가 같은 오해를 반복하지 않습니다.
멈춤도 최종 답을 대신하지 않습니다. 이 안내서의 금지선은 “절대 사용할 수 없다”는 판정을 자동으로 내리는 규칙이 아니라, 현재 정보만으로 진행해서는 안 되는 지점을 표시합니다. 그다음에는 원자료의 위치, 자료를 다룰 권한, 최신 공식 원문, 실제 검토 책임자를 찾아야 합니다. 확인할 수 없는 항목은 AI에게 다시 추측시키지 않고 미확인 상태로 남깁니다.
검토 기록에는 확인한 사실과 아직 확인하지 못한 항목을 함께 남깁니다.
금지선 1 — 전송이 승인되지 않은 실제 자료를 넣지 않습니다
실제 신고자·환자·요구조자·민원인의 정보, 상세주소, 사건번호, 의료·수사 정보, 내부 작전·점검 자료를 AI 입력창에 그대로 붙여넣지 않습니다. 먼저 그 도구로의 전송과 해당 목적의 사용이 소속 기관 기준에서 허용되는지 확인해야 합니다.
자료가 업무에 필요해 보인다는 이유만으로 입력 범위를 넓히지 않습니다. 허용 여부를 모르면 진행하지 않고, 이름과 번호뿐 아니라 날짜·장소·희귀한 직책처럼 조합하면 사람이나 사건을 특정할 수 있는 정보까지 줄입니다.
확인할 곳은 개인정보, AI에 넣기 전에 점검하기입니다. 이 안내서는 외부 전송 전 데이터 최소화, 로컬 패턴 점검, 문맥 확인, 사람 최종 확인의 순서를 설명합니다.
금지선 2 — 비식별 결과를 안전 보증으로 여기지 않습니다
정규식이나 비식별 모델이 "탐지 없음"을 표시해도 개인정보가 없다고 단정하지 않습니다. 이름·상세주소·새로운 사건번호 형식·준식별자 조합은 도구가 놓칠 수 있고, 일부만 가려진 값이 통과할 수도 있습니다.
자동 비식별을 거쳤다는 사실은 외부 AI 입력, 공개 저장소 업로드, 제3자 제공의 허가가 아닙니다. 비식별본의 사용 목적과 제공 범위는 별도로 확인하고, 결과 표본을 사람이 다시 봅니다. 원본과 가명을 연결하는 대응표가 있다면 그 표 자체가 재식별 자료가 될 수 있으므로 비식별본과 같은 곳에 두지 않습니다.
대량 자료의 탐지 한계와 사람 재검수는 개인정보 비식별 파이프라인에서 이어서 확인합니다.
금지선 3 — AI가 만든 사실을 원자료 대조 없이 쓰지 않습니다
AI가 만든 숫자·날짜·이름·기관명·출처·링크를 보고서나 안내문에 바로 옮기지 않습니다. 입력에 없던 구체 정보가 출력에 나타났다면, 그럴듯함과 관계없이 원자료의 정확한 위치를 찾아 대조합니다.
AI가 출처를 달았더라도 링크가 실제 원문인지, 원문에 해당 내용이 있는지, 문장이 원문의 범위를 넘지 않는지는 사람이 직접 확인해야 합니다. 찾을 수 없는 내용은 빈칸을 추측으로 채우지 않고 "확인 필요"로 남깁니다.
숫자·출처·개인정보·단정 표현을 제출 직전에 확인하는 방법은 AI 결과, 제출 전 1분 점검에 정리돼 있습니다.
금지선 4 — 법령 후보를 공식 해석이나 처분 판단으로 쓰지 않습니다
AI가 제시한 법령명·조문번호·시행일은 근거가 아니라 확인할 후보입니다. 공식 원문에서 존재와 현재 내용을 확인하기 전에는 "의무입니다", "위반입니다", "처분 대상입니다"처럼 적용 결과를 단정하지 않습니다.
조문이 실제로 존재해도 특정 업무와 사건에 어떻게 적용되는지는 별도의 판단입니다. 확인일이 최근이거나 링크가 공식 사이트처럼 보여도 해석과 적용이 자동으로 승인되는 것은 아닙니다. 법령 원문, 내부 기준, 소속 기관의 법무·감사·예방 담당 검토가 필요한 항목을 구분합니다.
후보·원문 확인·해석의 경계는 법령 근거 확인 브리프 만들기에서 확인합니다.
금지선 5 — 사람 검토 없이 내보내거나 실행하지 않습니다
AI 결과를 그대로 결재에 올리거나 발송·공개하지 않습니다. 코드나 자동화 결과도 삭제·전송·상태 변경처럼 되돌리기 어려운 동작을 사람 확인 없이 실행하지 않습니다.
검토자는 문장이 매끄러운지만 읽는 사람이 아닙니다. 원자료와 업무 맥락을 알고 숫자·이름·출처·권한을 대조할 수 있어야 합니다. 확인할 자료가 없거나 담당 경계가 불분명하면 일정을 이유로 통과시키지 않고, 수정 또는 중단 상태로 남깁니다.
최종 판정과 검토 기록은 AI 결과, 제출 전 1분 점검의 pass·needs changes·block 절차로 이어갑니다. 그 판정도 결재나 업무 승인을 대신하지 않습니다.
멈춰야 하는 신호와 돌아갈 곳
아래 표는 통과표가 아니라 멈춤 지점을 찾는 표입니다. 하나라도 해당하면 결과를 내보내지 말고 연결된 원자료와 사람 검토로 돌아갑니다.
| 보이는 신호 | 멈출 지점 | 돌아갈 안내서 |
|---|---|---|
| 실제 신고·환자·민원 자료를 AI 입력창에 붙여넣으려 함 | 입력 전 | 개인정보 입력 전 점검 |
| 자동 비식별이 끝났으므로 바로 외부 제공하려 함 | 전송·공개 전 | 개인정보 비식별 파이프라인 |
| 입력에 없던 숫자·이름·날짜·링크가 출력에 생김 | 인용·제출 전 | AI 결과 제출 전 점검 |
| AI가 특정 조문과 의무·처분 여부를 단정함 | 해석·안내 전 | 법령 근거 확인 브리프 |
| 검토자와 원자료 대조 기록 없이 발송·공개·실행하려 함 | 최종 동작 전 | AI 결과 제출 전 점검 |
가상 사례 1 — 교육자료 요약 전에 실제 기록을 발견한 경우
다음 상황은 학습을 위해 만든 가상 사례입니다. 교육 담당자가 출동 사례를 요약하려고 외부 AI 입력창을 열었습니다. 문서에는 이름과 전화번호를 지웠지만, 상세한 발생 일시·장소·희귀한 직책·사건번호가 함께 남아 있습니다.
이 자료는 금지선 1과 2에서 멈춥니다. 일부 값을 가렸다는 사실만으로 특정 사건과의 연결 가능성이나 외부 전송 승인이 해결되지 않았기 때문입니다. 담당자는 원문을 입력하지 않고, 교육 목적에 필요한 구조만 남긴 합성 사례로 바꿀 수 있는지 검토합니다. 실제 자료 사용이 필요하다면 도구와 사용 목적에 대한 소속 기관의 승인 경계를 먼저 확인합니다.
핵심은 "더 잘 가리면 무조건 넣어도 된다"가 아닙니다. 비식별은 허가를 만드는 과정이 아니라, 이미 승인된 목적에서도 노출 위험을 줄이기 위한 한 단계입니다.
가상 사례 2 — AI가 법령과 기한을 채워 넣은 경우
다음도 실제 법령이나 업무와 무관한 가상 사례입니다. AI가 만든 안내문 초안에 입력하지 않은 조문번호와 처리 기한이 들어 있고, 문장은 "법에 따라 반드시 처리해야 합니다"라고 끝납니다. 링크도 하나 붙어 있어 겉으로는 근거가 갖춰진 것처럼 보입니다.
이 초안은 금지선 3·4·5에서 멈춥니다. 링크를 직접 열어도 해당 조문, 시행일, 적용 범위가 확인되기 전에는 근거가 아닙니다. 담당자는 조문과 기한을 확정 문장에서 제거하고 확인 후보로 분리한 뒤, 공식 원문과 내부 기준을 담당자가 검토하도록 넘깁니다. 확인을 마치기 전에는 안내문을 발송하지 않습니다.
이 안내서가 보증하지 않는 것
이 안내서는 학습을 위한 비공식·미검토 안전 앵커입니다. 다음을 보증하거나 대신하지 않습니다.
- 특정 AI 도구나 계정으로의 자료 전송 승인
- 개인정보의 완전한 제거 또는 재식별 불가능성
- AI 출력의 정확성·최신성·완전성
- 법령의 공식 해석, 의무·처분 여부, 개별 사건 적용
- 소방 현장의 지휘·판단 또는 소속 기관의 결재·보안 검토
소속 기관의 개인정보·보안·AI 활용·기록관리 기준이 이 안내서보다 우선합니다. 기준이 없거나 적용 여부가 불분명하면 이 안내서를 허가 근거로 쓰지 않고 담당 부서에 확인합니다.
용어 한 줄 사전
| 용어 | 한 줄 설명 |
|---|---|
| 외부 전송 | 자료가 기관이 통제하는 경계 밖의 서비스나 제3자에게 전달되는 일입니다. |
| 데이터 최소화 | 목적에 꼭 필요한 정보만 남기고 나머지는 입력·수집하지 않는 원칙입니다. |
| 비식별 | 사람이나 사건을 알아볼 가능성을 줄이도록 식별 요소를 제거·변환하는 처리입니다. |
| 원자료 | AI 출력의 숫자·이름·출처를 직접 대조할 수 있는 최초 기록이나 공식 원문입니다. |
| 사람 검토 | 업무 맥락과 권한을 가진 사람이 원자료를 대조하고 다음 행동을 결정하는 절차입니다. |
자주 묻는 질문
Q. 유료 AI 도구라면 실제 업무 자료를 넣어도 되나요?
요금제만으로 전송이 허용되지는 않습니다. 도구의 처리 조건과 계약, 계정 설정, 자료 등급, 사용 목적이 소속 기관 기준에서 승인됐는지 따로 확인해야 합니다.
Q. 이름과 전화번호를 지우면 개인정보가 아닌가요?
항상 그렇지는 않습니다. 날짜·장소·직책·사건 서사를 조합해 사람이나 사건을 좁힐 수 있고, 자동 도구가 일부 표현을 놓칠 수도 있습니다. 외부 제공 가능 여부와 사람 표본 검토를 별도로 확인합니다.
Q. AI가 공식 출처 링크를 달면 사실 확인이 끝난 것인가요?
아닙니다. 링크가 실제 원문인지, 원문에 해당 내용이 있는지, 질문의 맥락에 적용되는지를 사람이 직접 대조해야 합니다. 링크의 존재와 근거의 일치는 다른 문제입니다.
Q. 긴급하면 검토를 나중에 해도 되나요?
긴급함이 개인정보 전송이나 확인되지 않은 사실의 사용을 허가하지는 않습니다. 승인된 비상 절차와 공식 정보원을 사용하고, AI 초안을 공식 판단이나 현장 지시로 대신하지 않습니다.
핵심 정리
- 확인되지 않은 실제 자료는 AI에 넣지 않습니다.
- 비식별 결과는 안전 보증이나 외부 전송 허가가 아닙니다.
- AI가 만든 사실·출처·법령 후보는 원자료와 공식 원문에서 확인합니다.
- 사람 검토 없이 결과를 결재·발송·공개·실행하지 않습니다.
- 이 안내서는 기관 기준과 업무 책임을 대신하지 않습니다.
다음 단계
- 개인정보, AI에 넣기 전에 점검하기 — 소량 자료를 외부로 내보내기 전 로컬 점검과 사람 확인을 익힙니다.
- AI 결과, 제출 전 1분 점검 — 숫자·출처·개인정보·공식 판단을 제출 전에 대조합니다.
- 법령 근거 확인 브리프 만들기 — AI가 제시한 법령 후보를 공식 원문 확인 목록으로 바꿉니다.