홈 / 용어사전

소방 AI 용어사전

모르는 단어에서 멈추지 않도록 — 비유로 먼저, 기술로 정확히, 그리고 소방 업무와 잇습니다. 학습용 설명이며 법령·운영 판단에 사용할 때는 원문과 기관 기준을 다시 확인해야 합니다.

먼저 익힐 개념

핵심 12개

용어 검색

영역

난이도

전체 116개 용어

AI·모델 기초

20개

생성형 AIGenerative AI핵심입문 비유배운 패턴을 바탕으로 새 글·그림·소리의 초안을 만드는 제작 도구.

비유: 배운 패턴을 바탕으로 새 글·그림·소리의 초안을 만드는 제작 도구.
기술: 학습 데이터의 분포를 바탕으로 새로운 콘텐츠를 생성하는 인공지능 계열. 결과가 새로 생성된다는 사실은 정확성을 보장하지 않는다.
소방 연결: 출동보고 요약이나 교육 문안 초안에 쓸 수 있지만 사실 확인과 사람 승인이 필요하다.
구분하기: 검색 시스템은 저장된 정보를 찾고, 생성형 AI는 입력 맥락에 맞는 출력을 새로 만든다.

인공지능Artificial Intelligence, AI입문 비유사람이 하던 인식·예측·생성 같은 과업을 컴퓨터가 수행하게 하는 큰 우산.

비유: 사람이 하던 인식·예측·생성 같은 과업을 컴퓨터가 수행하게 하는 큰 우산.
기술: 학습·추론·인식·의사결정과 관련된 기능을 기계가 수행하도록 만드는 기술과 연구 분야의 총칭.
소방 연결: 화재 영상 탐지부터 문서 요약까지 서로 다른 기술이 모두 AI로 불릴 수 있어 구체적 기능을 확인해야 한다.
구분하기: 생성형 AI와 머신러닝은 인공지능이라는 더 큰 범주 안에 있다.

머신러닝Machine Learning, ML입문 비유규칙을 일일이 적기보다 사례를 보여주고 공통 패턴을 배우게 하는 방식.

비유: 규칙을 일일이 적기보다 사례를 보여주고 공통 패턴을 배우게 하는 방식.
기술: 데이터에서 패턴을 학습해 분류·예측·생성 등의 과업을 수행하도록 모델을 만드는 인공지능 방법.
소방 연결: 공개 화재 통계로 위험 패턴을 탐색할 수 있지만 실제 운영 판단에는 데이터 대표성과 검증이 필요하다.

관련 안내서지역별 화재 위험도 예측 모델 구축

딥러닝Deep Learning실무 비유여러 층의 거름망을 통과하며 단순한 특징에서 복잡한 특징을 차례로 배우는 방식.

비유: 여러 층의 거름망을 통과하며 단순한 특징에서 복잡한 특징을 차례로 배우는 방식.
기술: 많은 층을 가진 신경망을 이용해 데이터의 표현과 과업 규칙을 함께 학습하는 머신러닝 분야.
소방 연결: 연기 영상·음성·문장처럼 복잡한 입력을 다루지만 학습 데이터 밖 조건에서는 성능이 달라질 수 있다.

관련 안내서화재 영상에서 화염·연기 탐지하기

신경망Neural Network실무 비유많은 조절 손잡이가 연결되어 입력을 조금씩 변환하고 최종 답을 만드는 계산망.

비유: 많은 조절 손잡이가 연결되어 입력을 조금씩 변환하고 최종 답을 만드는 계산망.
기술: 가중치가 있는 계산 단위를 층으로 연결해 입력과 출력 사이의 복잡한 관계를 학습하는 모델 구조.
소방 연결: 영상 탐지나 언어 생성의 기반이지만 내부 계산이 곧 현장 인과관계 설명은 아니다.

모델Model입문 비유훈련을 마친 뒤 새 입력을 받아 결과를 내는 계산 규칙 묶음.

비유: 훈련을 마친 뒤 새 입력을 받아 결과를 내는 계산 규칙 묶음.
기술: 데이터와 학습 절차를 통해 정해진 파라미터를 사용해 입력에서 출력을 계산하는 시스템.
소방 연결: 같은 업무라도 모델 버전과 설정이 달라지면 결과가 달라지므로 사용 모델을 기록해야 한다.

파라미터Parameter실무 비유훈련 중 조정되어 모델의 행동을 결정하는 수많은 내부 손잡이.

비유: 훈련 중 조정되어 모델의 행동을 결정하는 수많은 내부 손잡이.
기술: 학습 과정에서 갱신되며 모델의 입력 변환 방식을 결정하는 수치 값. 실행 때 사용자가 주는 설정값과 구분된다.
소방 연결: 파라미터 수가 많다는 사실만으로 소방 업무 정확성이나 안전성이 보장되지는 않는다.
구분하기: 온도 같은 생성 설정은 실행 시 조절하고, 모델 파라미터는 학습으로 정해진다.

학습Training입문 비유많은 연습 문제를 풀고 오답을 줄이도록 내부 손잡이를 반복 조정하는 과정.

비유: 많은 연습 문제를 풀고 오답을 줄이도록 내부 손잡이를 반복 조정하는 과정.
기술: 학습 데이터에 대한 손실을 줄이도록 모델 파라미터를 반복 갱신하는 과정.
소방 연결: 소방 데이터가 학습에 포함됐다는 주장만으로 지역·시기·업무 조건에 맞는지는 알 수 없다.

추론Inference입문 비유훈련을 마친 모델이 새 문제를 받아 실제 답을 내는 시간.

비유: 훈련을 마친 모델이 새 문제를 받아 실제 답을 내는 시간.
기술: 고정된 모델 파라미터와 입력을 사용해 예측이나 생성을 계산하는 실행 단계.
소방 연결: 같은 입력도 생성 설정·도구 결과·모델 버전에 따라 달라질 수 있어 실행 조건을 함께 남겨야 한다.
구분하기: 학습은 파라미터를 바꾸고, 추론은 주어진 파라미터로 결과를 계산한다.

LLM 대규모 언어모델Large Language Model핵심입문 비유방대한 글에서 언어 패턴을 익혀 다음 글 조각을 이어 쓰는 고성능 자동완성 엔진.

비유: 방대한 글에서 언어 패턴을 익혀 다음 글 조각을 이어 쓰는 고성능 자동완성 엔진.
기술: 대규모 텍스트로 학습해 주어진 맥락에서 다음 토큰의 확률을 계산하고 언어 작업을 수행하는 신경망 모델.
소방 연결: 보고서 초안과 요약에 유용하지만 사실 데이터베이스가 아니므로 원문 대조가 필요하다.

토큰Token핵심입문 비유모델이 글을 읽고 쓰기 위해 나누는 작은 글 조각.

비유: 모델이 글을 읽고 쓰기 위해 나누는 작은 글 조각.
기술: 토크나이저가 텍스트를 변환한 처리 단위. 단어 전체일 수도 있고 단어 일부·문장부호일 수도 있다.
소방 연결: 긴 출동보고를 입력할 때 토큰 수가 컨텍스트 한도와 비용에 영향을 준다.
구분하기: 인증에 쓰는 액세스 토큰과는 이름만 같고 뜻이 다르다.

관련 안내서소방관을 위한 프롬프트 작성 기초

토크나이저Tokenizer실무 비유문장을 모델이 읽을 수 있는 조각과 번호로 바꾸는 절단기이자 사전.

비유: 문장을 모델이 읽을 수 있는 조각과 번호로 바꾸는 절단기이자 사전.
기술: 텍스트를 토큰 ID의 열로 인코딩하고 다시 텍스트로 디코딩하는 규칙과 구성요소.
소방 연결: 같은 문서라도 모델의 토크나이저에 따라 토큰 수가 달라질 수 있어 실제 도구에서 확인해야 한다.

다음 토큰 예측Next-token Prediction실무 비유앞에 놓인 글 조각을 보고 다음에 올 가능성이 큰 조각을 하나씩 고르는 이어쓰기.

비유: 앞에 놓인 글 조각을 보고 다음에 올 가능성이 큰 조각을 하나씩 고르는 이어쓰기.
기술: 현재 컨텍스트에 조건부인 다음 토큰의 확률분포를 계산하고 선택하는 과정을 반복해 출력을 만드는 방식.
소방 연결: 문장이 자연스럽다는 사실과 내용이 사실이라는 판단을 분리해야 하는 이유를 설명한다.

컨텍스트 윈도우Context Window핵심입문 비유모델이 한 번의 작업에서 펼쳐 볼 수 있는 제한된 책상 넓이.

비유: 모델이 한 번의 작업에서 펼쳐 볼 수 있는 제한된 책상 넓이.
기술: 모델이 한 요청에서 처리할 수 있는 입력과 출력 토큰의 최대 범위. 큰 용량이 모든 내용을 고르게 활용한다는 뜻은 아니다.
소방 연결: 긴 법령·SOP·보고를 한꺼번에 넣기보다 필요한 부분을 선별하고 누락 여부를 확인해야 한다.

관련 안내서소방관을 위한 프롬프트 작성 기초

트랜스포머Transformer심화 비유문장 속 여러 위치를 동시에 비교해 서로 중요한 관계를 찾는 언어 처리 구조.

비유: 문장 속 여러 위치를 동시에 비교해 서로 중요한 관계를 찾는 언어 처리 구조.
기술: 어텐션을 중심으로 토큰 간 관계를 계산하는 신경망 구조로 현대 LLM의 주요 기반이다.
소방 연결: 구조 이름을 아는 것보다 입력 한계·검증 절차·데이터 경계를 이해하는 것이 실무에서 더 중요하다.

어텐션Attention심화 비유답을 만들 때 문장 안에서 지금 참고할 부분에 서로 다른 무게를 주는 표시 장치.

비유: 답을 만들 때 문장 안에서 지금 참고할 부분에 서로 다른 무게를 주는 표시 장치.
기술: 각 토큰이 다른 토큰과 얼마나 관련되는지 가중치를 계산해 표현을 결합하는 메커니즘.
소방 연결: 어텐션 값은 참고 신호일 뿐 법령 근거나 모델 판단의 완전한 설명으로 간주하면 안 된다.

멀티모달Multimodal실무 비유글뿐 아니라 사진·음성·표처럼 여러 형태의 자료를 함께 다루는 AI.

비유: 글뿐 아니라 사진·음성·표처럼 여러 형태의 자료를 함께 다루는 AI.
기술: 텍스트·이미지·음성·영상 등 둘 이상의 데이터 양식을 입력이나 출력으로 처리하는 모델 또는 시스템.
소방 연결: 현장 사진과 신고 음성 활용 가능성이 있어도 개인정보·오탐·전사 오류를 각각 평가해야 한다.

파인튜닝 미세조정Fine-tuning심화 비유이미 훈련된 모델을 특정 과업의 추가 사례로 다시 교육하는 과정.

비유: 이미 훈련된 모델을 특정 과업의 추가 사례로 다시 교육하는 과정.
기술: 사전학습 모델의 일부 또는 전체 파라미터를 추가 데이터로 갱신해 특정 작업이나 행동에 맞추는 학습 방식.
소방 연결: 프롬프트나 RAG로 해결 가능한지 먼저 확인하고 데이터 권리·대표성·재평가 비용을 따져야 한다.
구분하기: RAG는 실행 때 근거를 넣고, 파인튜닝은 모델 파라미터를 바꾼다.

컴퓨터 비전Computer Vision실무 비유컴퓨터가 사진과 영상에서 물체·위치·상태의 패턴을 찾게 하는 눈 역할의 기술.

비유: 컴퓨터가 사진과 영상에서 물체·위치·상태의 패턴을 찾게 하는 눈 역할의 기술.
기술: 이미지와 영상에서 분류·탐지·분할·추적 등의 정보를 추출하는 인공지능 분야.
소방 연결: 연기나 장비 탐지는 조명·가림·카메라 위치별 누락과 오탐을 공개·합성 자료로 먼저 평가한다.

관련 안내서화재 영상에서 화염·연기 탐지하기

음성 인식Automatic Speech Recognition, ASR실무 비유들리는 말을 시간순 글자로 옮기는 자동 기록 장치.

비유: 들리는 말을 시간순 글자로 옮기는 자동 기록 장치.
기술: 음성 신호를 문자 열로 변환하는 기술. 잡음·억양·겹침·고유명사에 따라 오류 양상이 달라진다.
소방 연결: 신고 통화의 주소·숫자·부정 표현은 자동 전사만 믿지 말고 원음과 사람이 확인한다.

관련 안내서신고 전사 심화, 화자 결합과 품질 관리

프롬프트·컨텍스트

19개

프롬프트Prompt핵심입문 비유AI에게 주는 작업 지시와 필요한 재료를 함께 담은 업무 요청서.

비유: AI에게 주는 작업 지시와 필요한 재료를 함께 담은 업무 요청서.
기술: 모델에 전달되는 지시·질문·맥락·예시·데이터의 입력. 좁게는 이번 지시문만 뜻하기도 한다.
소방 연결: 목적·사용 자료·출력 형식·금지 사항을 분명히 적고 실제 사건 개인정보는 넣지 않는다.

관련 안내서소방관을 위한 프롬프트 작성 기초 막혔을 때 구원 프롬프트

시스템 프롬프트System Prompt실무 비유대화 전체에서 우선 적용되는 역할·범위·안전 수칙을 적은 근무 규정.

비유: 대화 전체에서 우선 적용되는 역할·범위·안전 수칙을 적은 근무 규정.
기술: 애플리케이션이 모델에 제공하는 상위 수준 지시로 역할·행동 원칙·출력 정책을 설정한다.
소방 연결: 근거 없는 단정 금지와 사람 검토 표시를 둘 수 있지만 기술적 강제나 완전한 보안 경계는 아니다.

관련 안내서소방관을 위한 프롬프트 작성 기초

지시Instruction입문 비유자료를 주는 것과 별개로 무엇을 어떻게 하라고 적은 작업 절차.

비유: 자료를 주는 것과 별개로 무엇을 어떻게 하라고 적은 작업 절차.
기술: 모델이 수행해야 할 과업·제약·형식·판단 기준을 표현한 입력 부분.
소방 연결: 법령 자료와 지시를 구분하고 확인할 수 없으면 보류하라는 조건을 명시한다.
구분하기: 자료는 참고 대상이고 지시는 모델이 수행할 행동을 정한다.

컨텍스트Context입문 비유모델이 이번 답을 만들 때 책상 위에 펼쳐 놓은 모든 정보.

비유: 모델이 이번 답을 만들 때 책상 위에 펼쳐 놓은 모든 정보.
기술: 시스템 지시·대화 기록·제공 자료·도구 결과·현재 질문을 포함해 모델이 한 요청에서 볼 수 있는 정보.
소방 연결: 오래된 지시나 다른 사건 자료가 섞이면 잘못된 전제가 이어질 수 있어 작업별로 분리한다.

컨텍스트 엔지니어링Context Engineering실무 비유모델 책상 위에 어떤 자료를 어떤 순서로 놓고 언제 치울지 설계하는 일.

비유: 모델 책상 위에 어떤 자료를 어떤 순서로 놓고 언제 치울지 설계하는 일.
기술: 모델이 과업을 수행하도록 지시·자료·기억·도구 결과의 선택과 구조를 설계하는 접근.
소방 연결: 최신 SOP만 넣고 출처·시점·불확실성을 함께 전달해 오래된 자료 혼입을 줄인다.
구분하기: 프롬프트 엔지니어링보다 입력 환경 전체를 다루는 넓은 개념이다.

역할과 페르소나Role and Persona실무 비유답변자가 어떤 관점과 독자 수준으로 말할지 정하는 배역 설정.

비유: 답변자가 어떤 관점과 독자 수준으로 말할지 정하는 배역 설정.
기술: 모델 출력의 관점·톤·전문 수준을 유도하기 위해 역할이나 독자를 명시하는 기법.
소방 연결: 소방 법률 전문가 역할을 줘도 실제 자격이나 최신 법령 지식이 생기지는 않는다.

구분자Delimiter실무 비유지시·자료·예시의 경계를 나누는 문서철의 색인 탭.

비유: 지시·자료·예시의 경계를 나누는 문서철의 색인 탭.
기술: XML 태그·제목·따옴표처럼 입력의 서로 다른 구역을 명확히 구분하는 표식.
소방 연결: 법령 원문과 작성 지시를 나눠 모델이 자료 속 문장을 명령으로 오인할 가능성을 낮춘다.
구분하기: 구분자는 구조를 돕지만 프롬프트 인젝션을 완전히 차단하지 않는다.

제로샷Zero-shot입문 비유정답 예시 없이 지시와 기준만으로 처음 과업을 맡기는 방식.

비유: 정답 예시 없이 지시와 기준만으로 처음 과업을 맡기는 방식.
기술: 프롬프트에 완성 예시를 제공하지 않고 모델이 지시만으로 과업을 수행하게 하는 설정.
소방 연결: 단순 요약은 가능해도 기관별 분류처럼 형식이 중요한 일은 결과 편차를 먼저 점검한다.

원샷One-shot입문 비유완성 사례 하나를 보여주고 같은 방식으로 새 작업을 맡기는 방식.

비유: 완성 사례 하나를 보여주고 같은 방식으로 새 작업을 맡기는 방식.
기술: 하나의 입력·출력 예시를 프롬프트에 포함해 기대 형식과 판단 패턴을 유도하는 기법.
소방 연결: 보고 양식 예시 하나가 편향되거나 예외를 빠뜨릴 수 있어 다른 사례에서도 검증한다.

퓨샷 예시Few-shot실무 비유원하는 답의 좋은 사례를 몇 개 보여주고 공통 기준을 따라 하게 하는 방식.

비유: 원하는 답의 좋은 사례를 몇 개 보여주고 공통 기준을 따라 하게 하는 방식.
기술: 소수의 입력·출력 예시를 컨텍스트에 넣어 모델의 형식과 과업 수행 패턴을 유도하는 기법.
소방 연결: 정상·누락·보류 사례를 함께 보여줘 한 종류의 보고서만 흉내 내지 않게 한다.

관련 안내서소방관을 위한 프롬프트 작성 기초

구조화 출력Structured Output실무 비유자유로운 문장 대신 정해진 칸이 있는 서식에 답을 채우게 하는 방식.

비유: 자유로운 문장 대신 정해진 칸이 있는 서식에 답을 채우게 하는 방식.
기술: JSON Schema 등 미리 정의한 구조와 자료형을 따르도록 모델 출력을 제한하거나 검증하는 기능.
소방 연결: 신고 분류 결과를 시스템에 넘길 때 형식 오류를 줄이지만 값의 사실성과 적정성은 별도 검증한다.
구분하기: 구조가 맞는 것과 내용이 정확한 것은 서로 다른 품질 조건이다.

온도Temperature실무 비유다음 글 조각을 고를 때 가능성이 낮은 선택에도 기회를 주는 정도를 조절하는 손잡이.

비유: 다음 글 조각을 고를 때 가능성이 낮은 선택에도 기회를 주는 정도를 조절하는 손잡이.
기술: 다음 토큰 확률분포의 날카로움을 조절해 출력 다양성에 영향을 주는 생성 설정. 제품별 지원과 의미가 다를 수 있다.
소방 연결: 반복 가능한 문서 작업은 기본값과 모델 지침을 우선하고 설정 변경 전 같은 평가셋으로 비교한다.
구분하기: 낮은 온도도 사실 오류를 없애지 않으며 일부 추론 모델은 조정을 권하지 않는다.

Top-pNucleus Sampling심화 비유다음 후보 중 누적 가능성이 일정 범위에 드는 선택지만 남기는 문턱.

비유: 다음 후보 중 누적 가능성이 일정 범위에 드는 선택지만 남기는 문턱.
기술: 다음 토큰 후보를 누적 확률 p 안의 집합으로 제한한 뒤 그 안에서 선택하는 샘플링 설정.
소방 연결: 온도와 함께 무작정 바꾸지 말고 업무 품질 평가셋으로 변경 효과를 확인한다.

사고 사슬Chain-of-Thought, CoT심화 비유복잡한 문제를 한 번에 결론 내리지 않고 중간 판단 단계로 나누는 방식.

비유: 복잡한 문제를 한 번에 결론 내리지 않고 중간 판단 단계로 나누는 방식.
기술: 모델이 답을 만들 때 중간 추론 단계를 활용하는 현상과 이를 유도하는 기법. 모든 내부 추론 공개를 요구하는 것과 같지 않다.
소방 연결: 시간순 정리는 단계별 근거를 요구하되 숨은 사고 전체보다 확인 가능한 요약 근거와 결과를 받는다.
구분하기: 추론 모델에는 장황한 사고 공개 요구가 불필요하거나 성능을 해칠 수 있다.

추론 모델Reasoning Model심화 비유답을 내기 전에 더 많은 계산 시간을 써 복잡한 문제를 검토하도록 훈련된 모델.

비유: 답을 내기 전에 더 많은 계산 시간을 써 복잡한 문제를 검토하도록 훈련된 모델.
기술: 수학·코딩·계획 등 다단계 과업에서 추가 추론 계산을 사용하도록 설계되거나 학습된 모델 계열.
소방 연결: 추론 시간이 길어도 법령·현장 사실의 출처가 생기는 것은 아니므로 근거 확인은 그대로 필요하다.

프롬프트 체이닝Prompt Chaining실무 비유큰 업무를 작은 공정으로 나누고 앞 단계 결과를 다음 단계 재료로 넘기는 방식.

비유: 큰 업무를 작은 공정으로 나누고 앞 단계 결과를 다음 단계 재료로 넘기는 방식.
기술: 여러 모델 호출을 순서대로 연결해 각 호출이 한 가지 하위 과업을 맡도록 구성하는 패턴.
소방 연결: 전사·분류·요약·검토를 분리하면 오류 위치를 찾기 쉽지만 앞 단계 오류가 전파되는지 검사해야 한다.

멀티턴 대화Multi-turn Conversation실무 비유한 번에 끝내지 않고 질문과 답을 여러 차례 주고받는 대화.

비유: 한 번에 끝내지 않고 질문과 답을 여러 차례 주고받는 대화.
기술: 이전 메시지와 결과가 컨텍스트에 누적되는 여러 왕복의 모델 상호작용.
소방 연결: 사건이 바뀌면 새 대화를 시작해 이전 사건의 사람·주소·판단이 섞이지 않게 한다.

컨텍스트 압축Compaction심화 비유가득 찬 업무철에서 핵심만 새 요약지로 옮겨 다음 작업 공간을 만드는 것.

비유: 가득 찬 업무철에서 핵심만 새 요약지로 옮겨 다음 작업 공간을 만드는 것.
기술: 긴 대화나 도구 결과를 요약·선별해 더 작은 컨텍스트로 바꾸는 과정.
소방 연결: 압축 과정에서 수치·부정·예외가 사라질 수 있어 핵심 사실은 원문과 다시 대조한다.

중간 소실Lost in the Middle심화 비유긴 서류철의 맨 앞과 끝은 기억하지만 가운데 항목을 놓치기 쉬운 현상.

비유: 긴 서류철의 맨 앞과 끝은 기억하지만 가운데 항목을 놓치기 쉬운 현상.
기술: 긴 컨텍스트에서 중간 위치의 정보가 시작이나 끝의 정보보다 덜 활용되는 경향.
소방 연결: 긴 SOP의 핵심 예외를 가운데 둔 채 답을 맡기지 말고 필요한 조항을 선별해 위치와 함께 제공한다.

데이터·검색·RAG

19개

데이터Data입문 비유분석과 학습에 쓰는 관찰·기록·측정값을 일정한 형식으로 모은 재료.

비유: 분석과 학습에 쓰는 관찰·기록·측정값을 일정한 형식으로 모은 재료.
기술: 사실·사건·대상을 표현하는 값과 기록. 수집 목적·정의·시점·품질이 해석 범위를 결정한다.
소방 연결: 출동 건수 하나도 집계 기준과 누락 규칙에 따라 의미가 달라져 데이터 사전을 함께 확인한다.

관련 안내서지저분한 출동 데이터 깔끔하게 정제하기

데이터셋Dataset입문 비유같은 목적과 규칙으로 모아 한 묶음으로 관리하는 자료철.

비유: 같은 목적과 규칙으로 모아 한 묶음으로 관리하는 자료철.
기술: 분석·학습·평가를 위해 구조화한 데이터의 집합과 그 스키마·설명.
소방 연결: 공개 데이터셋도 수집 대상과 기간이 다르면 지역 소방 업무를 대표하지 않을 수 있다.

관련 안내서소방 공공데이터·API 지도

학습 데이터Training Data실무 비유모델이 패턴을 배우기 위해 반복해서 보는 연습 문제 묶음.

비유: 모델이 패턴을 배우기 위해 반복해서 보는 연습 문제 묶음.
기술: 모델 파라미터를 갱신하는 학습 과정에 사용되는 입력과 정답·목표 데이터.
소방 연결: 실제 신고·환자 자료는 학습 목적과 권한이 별도로 확인되지 않으면 사용하면 안 된다.

관련 안내서소방 AI, 이것만은 하지 마세요

합성 데이터Synthetic Data실무 비유실제 기록을 복사하지 않고 연습 목적에 맞춰 새로 만든 모의 자료.

비유: 실제 기록을 복사하지 않고 연습 목적에 맞춰 새로 만든 모의 자료.
기술: 현실 데이터의 형식이나 통계적 특징을 모사해 인공적으로 생성한 데이터. 실제 개인 기록과 같은 것이 아니다.
소방 연결: 교육과 파이프라인 시험에 우선 사용하되 실제 분포와 차이가 있어 운영 성능 증거로 단정하지 않는다.
구분하기: 개인정보를 가린 실제 데이터와 처음부터 만든 합성 데이터는 출처와 위험이 다르다.

메타데이터Metadata입문 비유자료 내용이 아니라 언제·어디서·어떻게 만들어졌는지 적은 표지와 관리 기록.

비유: 자료 내용이 아니라 언제·어디서·어떻게 만들어졌는지 적은 표지와 관리 기록.
기술: 데이터의 출처·형식·생성 시각·작성자·버전 등 데이터를 설명하는 부가 정보.
소방 연결: 본문에서 이름을 지워도 파일명·위치·시간 메타데이터가 개인이나 사건을 드러낼 수 있다.

관련 안내서개인정보 비식별 파이프라인, 이름·주소까지 자동으로

전처리Preprocessing실무 비유분석 전에 자료 형식과 오류를 정리해 같은 기준으로 맞추는 준비 작업.

비유: 분석 전에 자료 형식과 오류를 정리해 같은 기준으로 맞추는 준비 작업.
기술: 결측·중복·형식·단위·문자열 등을 검사하고 변환해 후속 분석이나 학습에 적합하게 만드는 과정.
소방 연결: 원본을 덮어쓰지 말고 제외·변환 건수와 규칙을 기록해 결과를 되짚을 수 있게 한다.

관련 안내서지저분한 출동 데이터 깔끔하게 정제하기

데이터 라벨링Data Labeling실무 비유각 사례에 모델이 배울 정답표나 분류 이름을 붙이는 작업.

비유: 각 사례에 모델이 배울 정답표나 분류 이름을 붙이는 작업.
기술: 학습·평가 데이터에 목표 범주·경계·값을 부여하는 과정. 기준과 작업자 일치도가 품질에 영향을 준다.
소방 연결: 화재·비화재나 신고 유형의 경계 사례를 정의하고 사람 간 불일치를 별도로 기록한다.

관련 안내서훈련 데이터 라벨 품질, 학습 전에 잡기

토큰화Tokenization실무 비유긴 글을 모델이 처리할 수 있는 규칙적인 조각으로 나누는 과정.

비유: 긴 글을 모델이 처리할 수 있는 규칙적인 조각으로 나누는 과정.
기술: 텍스트를 토큰 열로 변환하는 처리. 방식은 사용하는 토크나이저와 모델에 따라 달라진다.
소방 연결: 주소·약어·장비명이 예상과 다르게 쪼개질 수 있어 길이와 인식 오류를 실제 입력으로 확인한다.

임베딩Embedding핵심실무 비유문장이나 항목의 의미 특징을 지도 위 좌표처럼 숫자 목록으로 바꾸는 표현.

비유: 문장이나 항목의 의미 특징을 지도 위 좌표처럼 숫자 목록으로 바꾸는 표현.
기술: 텍스트·이미지 등의 항목을 의미적 유사성이 거리로 비교되도록 고정 길이 벡터로 변환한 표현.
소방 연결: 표현이 다른 유사 신고나 문서를 찾는 데 쓸 수 있지만 가까운 결과가 같은 사건이나 정답이라는 뜻은 아니다.

관련 안내서소방 법령·SOP, RAG로 근거 있게 답하기

벡터Vector실무 비유여러 특징을 한 줄의 숫자 좌표로 적은 위치표.

비유: 여러 특징을 한 줄의 숫자 좌표로 적은 위치표.
기술: 순서가 있는 숫자 값의 배열. 임베딩에서는 항목의 학습된 특징을 표현한다.
소방 연결: 벡터 자체는 사람이 읽는 법령 근거가 아니므로 검색 결과의 원문을 함께 보여줘야 한다.

유사도Similarity실무 비유두 좌표가 의미 지도에서 얼마나 가까운지 계산한 비교 점수.

비유: 두 좌표가 의미 지도에서 얼마나 가까운지 계산한 비교 점수.
기술: 벡터 간 방향이나 거리를 이용해 항목의 가까움을 수치화한 값. 점수의 의미는 모델과 자료에 의존한다.
소방 연결: 유사도가 높아도 적용 법령·시점·지역이 다를 수 있어 원문 조건을 확인한다.

벡터 스토어Vector Store실무 비유의미 좌표와 원문 위치를 함께 보관하고 가까운 자료를 찾아주는 서고.

비유: 의미 좌표와 원문 위치를 함께 보관하고 가까운 자료를 찾아주는 서고.
기술: 임베딩 벡터와 메타데이터를 저장하고 유사도 검색을 제공하는 저장·검색 계층.
소방 연결: 법령 문서를 넣을 때 버전·시행일·권한 메타데이터와 원문 링크를 함께 관리한다.

관련 안내서소방 법령·SOP, RAG로 근거 있게 답하기

청크Chunk실무 비유큰 문서를 검색과 입력에 알맞은 크기로 나눈 한 조각.

비유: 큰 문서를 검색과 입력에 알맞은 크기로 나눈 한 조각.
기술: 검색·임베딩·컨텍스트 주입을 위해 문서를 분할한 단위로 제목·문단·토큰 길이 등을 기준으로 만든다.
소방 연결: 조항과 예외가 서로 다른 청크로 끊기면 잘못 해석될 수 있어 앞뒤 문맥을 보존한다.

청킹Chunking실무 비유서류철을 검색하기 좋은 단위로 자르되 제목과 연결 관계를 남기는 작업.

비유: 서류철을 검색하기 좋은 단위로 자르되 제목과 연결 관계를 남기는 작업.
기술: 문서를 여러 청크로 나누는 전략과 과정. 크기·겹침·구조 보존 방식이 검색 품질에 영향을 준다.
소방 연결: 법령·SOP는 조·항·별표 경계를 고려하고 잘린 예외 문구가 없는지 평가한다.

검색Retrieval입문 비유질문과 관련된 자료를 서고에서 골라 작업 책상으로 가져오는 과정.

비유: 질문과 관련된 자료를 서고에서 골라 작업 책상으로 가져오는 과정.
기술: 질의에 맞는 문서·청크·레코드를 저장소에서 찾아 순위를 매겨 반환하는 단계.
소방 연결: 답변 생성 전에 최신 원문과 적용 범위가 맞는 자료가 실제로 검색됐는지 확인한다.

키워드 검색Keyword Search입문 비유문서에 적힌 같은 단어나 표현을 기준으로 찾는 색인 검색.

비유: 문서에 적힌 같은 단어나 표현을 기준으로 찾는 색인 검색.
기술: 질의의 단어·형태와 문서의 일치 정도를 이용해 관련 결과를 찾는 방식.
소방 연결: 정확한 법령명·장비명에 강하지만 표현이 다른 유사 문서를 놓칠 수 있다.

의미 검색Semantic Search실무 비유같은 단어가 없어도 뜻이 비슷한 자료를 의미 좌표로 찾는 검색.

비유: 같은 단어가 없어도 뜻이 비슷한 자료를 의미 좌표로 찾는 검색.
기술: 임베딩 등 의미 표현의 유사도를 이용해 질의와 관련된 문서를 찾는 방식.
소방 연결: 심정지와 의식 없음처럼 표현이 다른 자료를 찾을 수 있지만 조건이 다른 유사 사례도 함께 나올 수 있다.

검색증강생성 RAGRetrieval-Augmented Generation핵심실무 비유모델 기억에만 맡기지 않고 관련 서류를 먼저 찾아 펼친 뒤 답하게 하는 오픈북 방식.

비유: 모델 기억에만 맡기지 않고 관련 서류를 먼저 찾아 펼친 뒤 답하게 하는 오픈북 방식.
기술: 질의와 관련된 외부 자료를 검색해 모델 컨텍스트에 넣고 그 자료를 바탕으로 출력을 생성하는 구조.
소방 연결: 법령·SOP 답변에 원문 근거를 연결할 수 있지만 검색 누락과 잘못된 인용을 별도로 평가한다.
구분하기: RAG는 환각을 줄일 수 있으나 없애지 않으며 파인튜닝과 달리 실행 때 자료를 제공한다.

근거화Grounding실무 비유답의 각 주장에 확인 가능한 자료와 위치를 연결해 발을 땅에 붙이는 것.

비유: 답의 각 주장에 확인 가능한 자료와 위치를 연결해 발을 땅에 붙이는 것.
기술: 모델 출력을 제공된 데이터·검색 결과·도구 관측 같은 확인 가능한 근거에 제약하고 연결하는 접근.
소방 연결: 법령명만 붙이는 것이 아니라 조항·시행일·원문 위치까지 추적 가능하게 한다.
구분하기: 근거가 연결됐다는 사실도 그 근거의 최신성·적용 가능성을 자동 보장하지 않는다.

에이전트·도구·자동화

16개

에이전트Agent핵심입문 비유목표를 받아 다음 행동을 고르고 도구 결과를 보며 여러 단계를 이어가는 조수.

비유: 목표를 받아 다음 행동을 고르고 도구 결과를 보며 여러 단계를 이어가는 조수.
기술: 모델이 상태를 바탕으로 행동이나 도구 호출을 선택하고 관찰 결과에 따라 과정을 반복하는 시스템.
소방 연결: 자율 실행 범위를 좁히고 외부 전송·수정·게시 전 사람 승인과 중단 조건을 둔다.

에이전틱Agentic실무 비유한 번 답하는 데서 끝나지 않고 목표 달성을 위해 행동을 이어가는 성질.

비유: 한 번 답하는 데서 끝나지 않고 목표 달성을 위해 행동을 이어가는 성질.
기술: 모델이나 시스템이 계획·도구 사용·상태 갱신을 통해 여러 단계를 주도적으로 수행하는 특성.
소방 연결: 에이전틱하다는 표현을 자동화 수준·권한·사람 개입 지점으로 구체화해야 위험을 평가할 수 있다.

에이전트 루프Agent Loop실무 비유상황을 보고 행동하고 결과를 다시 확인하는 순환 근무 절차.

비유: 상황을 보고 행동하고 결과를 다시 확인하는 순환 근무 절차.
기술: 모델 호출·행동 선택·도구 실행·관찰·상태 갱신을 종료 조건까지 반복하는 실행 구조.
소방 연결: 반복 횟수·비용·실패·권한 초과의 중단 조건과 전체 추적 로그를 둔다.

워크플로Workflow입문 비유입력부터 검토·승인·출력까지 정해 둔 업무 단계와 연결 순서.

비유: 입력부터 검토·승인·출력까지 정해 둔 업무 단계와 연결 순서.
기술: 작업 단계·분기·책임·데이터 이동을 명시적으로 연결한 실행 흐름.
소방 연결: 전사·분류·초안·사람 확인을 분리해 어느 단계에서 오류가 생겼는지 추적한다.
구분하기: 에이전트는 다음 행동을 동적으로 고를 수 있고 워크플로는 사람이 정한 흐름이 중심이다.

자동화Automation입문 비유반복 업무를 정해진 조건과 절차에 따라 시스템이 대신 수행하게 하는 것.

비유: 반복 업무를 정해진 조건과 절차에 따라 시스템이 대신 수행하게 하는 것.
기술: 사람의 반복 조작을 코드·규칙·모델·도구로 실행하도록 구성하는 방식.
소방 연결: 초안 생성과 형식 점검은 자동화해도 법령 해석·대외 발송·현장 판단은 승인 경계를 둔다.

도구 사용Tool Use실무 비유모델이 말로만 답하지 않고 계산기·검색·파일 기능 같은 실제 도구를 요청하는 것.

비유: 모델이 말로만 답하지 않고 계산기·검색·파일 기능 같은 실제 도구를 요청하는 것.
기술: 모델이 정의된 도구의 이름과 입력을 선택하고 실행 결과를 다시 컨텍스트로 받아 사용하는 기능.
소방 연결: 조회와 수정 도구의 권한을 분리하고 실제 실행 전 입력 검증과 사람 승인을 둔다.

함수 호출Function Calling실무 비유모델이 자유문장 대신 정해진 기능 이름과 입력 서식을 작성해 실행을 요청하는 방식.

비유: 모델이 자유문장 대신 정해진 기능 이름과 입력 서식을 작성해 실행을 요청하는 방식.
기술: 모델이 제공된 함수나 도구 스키마에 맞춰 구조화된 호출 인자를 생성하는 메커니즘.
소방 연결: 호출 형식이 맞아도 대상·권한·값이 안전하다는 뜻은 아니므로 실행 경계에서 다시 검증한다.

APIApplication Programming Interface입문 비유프로그램이 다른 프로그램의 기능을 정해진 방식으로 요청하는 접수 창구.

비유: 프로그램이 다른 프로그램의 기능을 정해진 방식으로 요청하는 접수 창구.
기술: 소프트웨어 구성요소가 요청·응답·자료 형식에 따라 기능과 데이터를 주고받는 인터페이스.
소방 연결: 외부 AI API에 보내기 전 실제 사건·개인정보 포함 여부와 기관의 사용 승인을 확인한다.

JSONJavaScript Object Notation입문 비유이름표가 붙은 칸과 목록으로 데이터를 적는 가벼운 공통 서식.

비유: 이름표가 붙은 칸과 목록으로 데이터를 적는 가벼운 공통 서식.
기술: 객체·배열·문자열·숫자·불리언·null을 표현하는 텍스트 기반 데이터 교환 형식.
소방 연결: 신고 분류 결과를 시스템 간 전달할 때 쓰되 필드 누락·자료형·허용 값을 스키마로 검증한다.

스키마Schema실무 비유어떤 칸이 필요하고 각 칸에 어떤 값이 들어가는지 정한 서식 명세.

비유: 어떤 칸이 필요하고 각 칸에 어떤 값이 들어가는지 정한 서식 명세.
기술: 데이터의 필드·자료형·필수 여부·제약·관계를 정의한 구조 계약.
소방 연결: 도구 입력 스키마에서 주소·날짜·분류값의 형식과 허용 범위를 좁혀 잘못된 실행을 막는다.

MCP 모델 컨텍스트 프로토콜Model Context Protocol실무 비유AI 애플리케이션과 외부 도구·자료를 공통 방식으로 연결하는 표준 접속 규칙.

비유: AI 애플리케이션과 외부 도구·자료를 공통 방식으로 연결하는 표준 접속 규칙.
기술: 호스트가 서버의 도구·리소스·프롬프트 기능을 발견하고 호출하는 통신 프로토콜.
소방 연결: 내부 시스템 연결 시 허용 기능·접근 범위·동의·감사 기록을 서버별로 검토한다.

MCP 호스트MCP Host심화 비유사용자를 응대하면서 여러 MCP 연결과 모델 사용을 전체적으로 조정하는 본체.

비유: 사용자를 응대하면서 여러 MCP 연결과 모델 사용을 전체적으로 조정하는 본체.
기술: 하나 이상의 MCP 클라이언트를 관리하고 모델·사용자·서버 사이의 권한과 컨텍스트 흐름을 통제하는 애플리케이션.
소방 연결: 어떤 서버 결과를 모델에 보여주고 어떤 행동에 동의를 받을지 호스트 정책에서 결정한다.

MCP 클라이언트MCP Client심화 비유호스트 안에서 특정 MCP 서버 한 곳과 연결을 맡는 통신 담당.

비유: 호스트 안에서 특정 MCP 서버 한 곳과 연결을 맡는 통신 담당.
기술: MCP 호스트가 서버와 세션을 맺고 기능 목록·요청·응답을 주고받기 위해 사용하는 프로토콜 구성요소.
소방 연결: 서버별 연결 상태와 허용 기능을 분리해 한 서버의 권한이 다른 연결로 번지지 않게 한다.

MCP 서버MCP Server심화 비유외부 기능과 자료를 정해진 목록과 입력 규칙으로 내놓는 제공 창구.

비유: 외부 기능과 자료를 정해진 목록과 입력 규칙으로 내놓는 제공 창구.
기술: MCP를 통해 도구·리소스·프롬프트 같은 기능을 노출하고 요청을 처리하는 프로그램.
소방 연결: 최소 기능만 노출하고 입력·인증·인가·로그·오류 메시지를 서버 경계에서 검증한다.

메모리Memory실무 비유다음 작업에도 참고하도록 대화나 상태의 일부를 따로 보관하는 기록 장치.

비유: 다음 작업에도 참고하도록 대화나 상태의 일부를 따로 보관하는 기록 장치.
기술: 세션 안이나 외부 저장소에 정보를 유지해 이후 모델 호출에 다시 제공하는 구성요소나 패턴.
소방 연결: 실제 사건 정보를 장기 메모리에 자동 저장하지 말고 목적·보유기간·삭제·접근권한을 정한다.
구분하기: 모델 파라미터에 학습된 지식과 실행 중 저장하는 메모리는 다르다.

상태State실무 비유작업이 지금 어디까지 왔고 어떤 값과 승인 결과를 들고 있는지 적은 진행표.

비유: 작업이 지금 어디까지 왔고 어떤 값과 승인 결과를 들고 있는지 적은 진행표.
기술: 워크플로나 에이전트 실행 중 유지되는 입력·중간 결과·분기·오류·승인 정보의 집합.
소방 연결: 개인정보와 승인 상태를 분리하고 실패 후 재개할 때 오래된 상태를 그대로 쓰지 않는지 확인한다.

평가·운영

18개

평가Evaluation입문 비유훈련이 끝난 장비를 실제 배치하기 전에 정해 둔 점검표와 상황으로 성능을 확인하는 일.

비유: 훈련이 끝난 장비를 실제 배치하기 전에 정해 둔 점검표와 상황으로 성능을 확인하는 일.
기술: 모델이나 AI 시스템의 출력이 목적·품질·안전 기준을 얼마나 충족하는지 자료와 절차를 정해 측정하는 과정.
소방 연결: 요약·분류·검색처럼 용도가 다른 기능은 같은 점수 하나로 판단하지 말고 실제 사용 시나리오별 기준을 둔다.

평가셋Evaluation Set핵심입문 비유장비 성능을 비교할 때 매번 같은 조건을 재현하도록 준비한 표준 시험 상황 묶음.

비유: 장비 성능을 비교할 때 매번 같은 조건을 재현하도록 준비한 표준 시험 상황 묶음.
기술: 모델이나 시스템의 품질을 반복해서 비교할 수 있도록 입력·기대 결과·판정 기준을 함께 관리하는 사례 집합.
소방 연결: 실제 소방 업무의 문서 형태와 실패 유형을 반영하되 개인정보와 민감정보는 제거하거나 안전한 대체 자료를 쓴다.
구분하기: 학습셋은 모델을 학습시키는 데 쓰이고 평가셋은 학습 뒤 성능을 확인하는 데 쓰이므로 서로 섞지 않는다.

골든셋Golden Set실무 비유숙련자가 합의해 둔 모범 답안과 채점 근거를 반복 점검용으로 보관한 묶음.

비유: 숙련자가 합의해 둔 모범 답안과 채점 근거를 반복 점검용으로 보관한 묶음.
기술: 신뢰할 수 있는 담당자가 검토하고 승인한 입력·기대 결과·판정 근거로 구성된 고품질 평가 사례 집합.
소방 연결: 법령이나 절차가 바뀌면 골든셋의 답과 근거도 함께 갱신하고 변경 이력을 남겨야 한다.
구분하기: 모든 평가셋이 골든셋은 아니며 골든셋이라는 이름만으로 공식성이나 영구 정확성이 보장되지는 않는다.

정답 기준Ground Truth실무 비유평가자가 결과를 맞았다고 판정할 때 대조하는 확인된 기준 기록.

비유: 평가자가 결과를 맞았다고 판정할 때 대조하는 확인된 기준 기록.
기술: 관측·검증·합의된 자료를 바탕으로 평가에서 비교 기준으로 사용하는 값이나 라벨.
소방 연결: 판단이 갈리는 서술형 업무는 단일 문장을 절대 정답으로 두기보다 허용 범위와 판정 근거를 함께 기록한다.

벤치마크Benchmark입문 비유여러 장비나 설정을 같은 시험 코스에서 비교하는 공통 시험.

비유: 여러 장비나 설정을 같은 시험 코스에서 비교하는 공통 시험.
기술: 모델·시스템·설정의 성능을 같은 과제와 측정 방법으로 비교하기 위한 공개 또는 내부 평가 체계.
소방 연결: 일반 벤치마크 점수가 높아도 소방 업무 자료와 조건에서 같은 품질이 나온다고 단정하지 않는다.

기준선Baseline입문 비유새 장비의 효과를 보기 전에 현재 방식의 시간과 오류율을 먼저 재어 둔 출발점.

비유: 새 장비의 효과를 보기 전에 현재 방식의 시간과 오류율을 먼저 재어 둔 출발점.
기술: 변경이나 새 시스템의 효과를 판단하기 위해 비교 대상으로 정한 기존 방식·단순 모델·이전 버전의 성능.
소방 연결: AI 도입 전 수작업 절차의 정확도와 소요 시간을 기준선으로 남겨 실제 개선인지 확인한다.

평가지표Metric입문 비유속도·정확성·누락처럼 서로 다른 품질을 각각 재는 계기판.

비유: 속도·정확성·누락처럼 서로 다른 품질을 각각 재는 계기판.
기술: 시스템의 특정 품질을 일관된 방식으로 수치화하거나 등급화하기 위해 정의한 측정 기준.
소방 연결: 정확도 하나만 보지 말고 누락 위험·오탐·검토 시간·출처 제시율처럼 업무 피해와 연결된 지표를 함께 본다.

정확도Accuracy실무 비유전체 문제 가운데 맞게 판정한 문제가 차지하는 비율.

비유: 전체 문제 가운데 맞게 판정한 문제가 차지하는 비율.
기술: 모든 평가 사례 중 예측이 기준 답과 일치한 사례의 비율로 계산하는 분류 지표.
소방 연결: 드문 위험 사례를 찾는 업무에서는 대부분을 정상으로 답해도 정확도가 높을 수 있으므로 재현율과 함께 본다.

정밀도Precision실무 비유위험하다고 표시한 항목 중 실제로 위험한 항목이 얼마나 되는지 보는 비율.

비유: 위험하다고 표시한 항목 중 실제로 위험한 항목이 얼마나 되는지 보는 비율.
기술: 양성으로 예측한 사례 가운데 실제 양성인 사례의 비율로 오탐이 많을수록 낮아지는 지표.
소방 연결: 경보 검토 부담을 줄이려면 정밀도를 보되 놓친 위험을 나타내는 재현율도 동시에 확인한다.

재현율Recall실무 비유실제 위험 항목 전체 가운데 시스템이 찾아낸 항목이 얼마나 되는지 보는 비율.

비유: 실제 위험 항목 전체 가운데 시스템이 찾아낸 항목이 얼마나 되는지 보는 비율.
기술: 실제 양성인 사례 가운데 양성으로 올바르게 찾아낸 사례의 비율로 누락이 많을수록 낮아지는 지표.
소방 연결: 놓침의 피해가 큰 점검에서는 재현율을 중요하게 보되 오탐 증가와 사람 검토 부담을 함께 관리한다.

F1 점수F1 Score심화 비유정밀도와 재현율 가운데 한쪽만 높아서는 좋은 점수를 받기 어렵게 만든 균형 점수.

비유: 정밀도와 재현율 가운데 한쪽만 높아서는 좋은 점수를 받기 어렵게 만든 균형 점수.
기술: 정밀도와 재현율의 조화평균으로 두 지표의 균형을 하나의 값으로 요약한 분류 지표.
소방 연결: F1 점수가 같아도 오탐과 누락의 구성은 다를 수 있으므로 원래 지표와 실패 사례를 함께 본다.

오탐False Positive실무 비유문제가 아닌 항목을 문제라고 잘못 경보한 경우.

비유: 문제가 아닌 항목을 문제라고 잘못 경보한 경우.
기술: 실제로는 음성인 사례를 시스템이 양성으로 잘못 판정한 오류.
소방 연결: 오탐은 불필요한 확인 업무와 경보 피로를 만들 수 있으므로 발생 조건과 후속 조치 비용을 기록한다.

미탐False Negative실무 비유실제 문제가 있는데도 정상이라고 놓친 경우.

비유: 실제 문제가 있는데도 정상이라고 놓친 경우.
기술: 실제로는 양성인 사례를 시스템이 음성으로 잘못 판정한 오류.
소방 연결: 안전 관련 점검의 미탐은 피해가 클 수 있으므로 자동 결과만으로 종결하지 않고 보완 규칙과 사람 검토를 둔다.

회귀 테스트Regression Test실무 비유장비를 고친 뒤 새 기능뿐 아니라 전에 되던 기능도 그대로 되는지 다시 확인하는 점검.

비유: 장비를 고친 뒤 새 기능뿐 아니라 전에 되던 기능도 그대로 되는지 다시 확인하는 점검.
기술: 모델·프롬프트·데이터·코드를 변경한 뒤 기존에 통과하던 사례가 다시 실패하지 않는지 반복 확인하는 시험.
소방 연결: 발견된 중요 오류를 개인정보가 없는 재현 사례로 평가셋에 추가해 다음 변경 때 같은 문제가 돌아오지 않는지 본다.

실행 추적Tracing심화 비유요청이 어떤 단계와 도구를 거쳐 결과가 되었는지 시간순으로 남기는 운행 기록.

비유: 요청이 어떤 단계와 도구를 거쳐 결과가 되었는지 시간순으로 남기는 운행 기록.
기술: AI 요청의 입력 경계·모델 호출·검색·도구 실행·오류·지연을 연결된 흐름으로 관찰하는 운영 기법.
소방 연결: 원문 개인정보를 그대로 로그에 남기지 않도록 최소 기록·마스킹·접근 통제·보관 기간을 먼저 정한다.

드리프트Drift심화 비유계절과 현장 조건이 바뀌면서 처음 맞춘 장비 설정이 점차 맞지 않게 되는 현상.

비유: 계절과 현장 조건이 바뀌면서 처음 맞춘 장비 설정이 점차 맞지 않게 되는 현상.
기술: 운영 중 입력 데이터·업무 환경·정답 기준·모델 행동이 기준 시점과 달라져 성능이 변하는 현상.
소방 연결: 문서 양식이나 용어가 바뀌면 입력 분포와 오류 유형을 비교하고 평가셋과 기준선을 갱신한다.

관련 안내서예측 모델 운영, 드리프트 감지와 재학습 시점

모니터링Monitoring실무 비유배치한 장비의 상태와 경보를 계속 살펴 이상 징후를 일찍 찾는 일.

비유: 배치한 장비의 상태와 경보를 계속 살펴 이상 징후를 일찍 찾는 일.
기술: 운영 중인 AI 시스템의 품질·오류·지연·비용·입력 변화를 정해진 지표와 경보로 지속 관찰하는 활동.
소방 연결: 무엇을 누가 어느 주기로 보고 어떤 기준에서 사용 중지나 재검토를 할지 운영 절차로 정한다.

지연시간Latency실무 비유요청을 보낸 순간부터 결과가 돌아오기까지 걸린 시간.

비유: 요청을 보낸 순간부터 결과가 돌아오기까지 걸린 시간.
기술: 입력이 시스템에 도착한 뒤 응답이나 처리 결과가 제공될 때까지 경과한 시간.
소방 연결: 평균만 보지 말고 느린 구간의 지연과 시간 초과를 함께 측정하며 긴 지연이 안전 판단을 방해하지 않게 한다.

안전·보안·거버넌스

24개

환각 할루시네이션Hallucination핵심입문 비유모르는 내용을 빈칸으로 남기지 않고 그럴듯한 이야기로 메운 보고서.

비유: 모르는 내용을 빈칸으로 남기지 않고 그럴듯한 이야기로 메운 보고서.
기술: 생성형 AI가 사실이 아니거나 근거로 확인되지 않는 내용을 확신하는 표현으로 만들어 내는 현상.
소방 연결: 법령·수치·장비 사양·사건 사실은 원문과 최신 공신력 자료로 따로 확인하고 출처가 없으면 사용하지 않는다.
구분하기: 문장이 자연스럽거나 출처처럼 보이는 표기가 있다는 사실만으로 내용이 검증된 것은 아니다.

개인정보Personal Data핵심입문 비유이름 하나뿐 아니라 여러 조각을 합치면 특정 사람에게 닿을 수 있는 정보 묶음.

비유: 이름 하나뿐 아니라 여러 조각을 합치면 특정 사람에게 닿을 수 있는 정보 묶음.
기술: 특정 개인을 알아볼 수 있거나 다른 정보와 결합해 알아볼 가능성이 있는 정보 등을 가리키는 실무 용어로 정확한 법적 범위는 적용 법령과 조직 기준을 확인해야 한다.
소방 연결: 신고자·환자·대원 정보와 사건 기록을 외부 AI에 입력하기 전에 수집 목적·처리 근거·승인·보관·삭제 기준을 확인한다.
구분하기: PII는 널리 쓰이는 영어권 용어지만 개인정보와 법적 범위가 항상 정확히 같지는 않다.

PII 개인식별정보Personally Identifiable Information입문 비유이름·연락처처럼 단독으로 또는 다른 조각과 합쳐 사람을 가리킬 수 있는 단서.

비유: 이름·연락처처럼 단독으로 또는 다른 조각과 합쳐 사람을 가리킬 수 있는 단서.
기술: 개인을 식별하거나 식별 가능한 개인과 연결하는 데 쓰일 수 있는 정보를 가리키는 영어권 실무 용어.
소방 연결: PII라는 표지만 믿지 말고 국내 적용 법령과 기관의 개인정보·민감정보 분류 기준을 함께 확인한다.
구분하기: PII와 개인정보는 관할과 규정에 따라 범위가 달라질 수 있으므로 완전한 동의어로 단정하지 않는다.

민감정보Sensitive Data입문 비유노출되면 개인이나 조직에 큰 피해를 줄 수 있어 일반 자료보다 더 엄격히 다루는 정보.

비유: 노출되면 개인이나 조직에 큰 피해를 줄 수 있어 일반 자료보다 더 엄격히 다루는 정보.
기술: 건강·생체·신념 등 특별한 보호가 필요하거나 업무상 노출 피해가 큰 정보를 가리키며 구체 범위는 적용 법령과 조직 기준을 따른다.
소방 연결: 환자 상태·출동 위치·시설 취약점·접근 정보는 공개 가능 여부를 추정하지 말고 승인된 처리 경계 안에서만 다룬다.

비식별화De-identification실무 비유사람을 가리키는 표지와 조합 가능한 단서를 줄여 원래 대상을 알아보기 어렵게 만드는 작업.

비유: 사람을 가리키는 표지와 조합 가능한 단서를 줄여 원래 대상을 알아보기 어렵게 만드는 작업.
기술: 직접 식별자와 간접 식별자를 제거·변환·일반화해 개인을 식별할 가능성을 낮추는 여러 처리의 포괄적 표현.
소방 연결: 이름 삭제만으로 끝내지 말고 주소·시각·사건번호·희귀한 상황의 조합으로 다시 알아볼 위험을 점검한다.
구분하기: 비식별화라는 표현만으로 법적 익명성이나 재식별 불가능성이 보장되지는 않는다.

관련 안내서개인정보 비식별 파이프라인, 이름·주소까지 자동으로

익명처리Anonymization심화 비유합리적으로 쓸 수 있는 추가 단서까지 고려해도 특정 사람에게 되돌아가기 어렵게 만드는 처리.

비유: 합리적으로 쓸 수 있는 추가 단서까지 고려해도 특정 사람에게 되돌아가기 어렵게 만드는 처리.
기술: 개인을 더 이상 식별할 수 없도록 식별 가능성을 제거하거나 충분히 낮추는 처리로 판단 기준은 적용 법령과 상황을 따른다.
소방 연결: 익명이라고 표시하기 전에 원자료·외부 자료·희귀 조합을 이용한 재식별 가능성과 처리의 되돌림 가능성을 검토한다.
구분하기: 가명처리는 추가 정보를 이용한 재식별 가능성을 남기므로 익명처리와 같지 않다.

가명처리Pseudonymization심화 비유이름표를 임시 코드로 바꾸되 별도로 보관한 대응표가 있으면 다시 연결할 수 있는 처리.

비유: 이름표를 임시 코드로 바꾸되 별도로 보관한 대응표가 있으면 다시 연결할 수 있는 처리.
기술: 추가 정보를 사용하지 않고는 특정 개인을 알아볼 수 없도록 식별 정보를 대체하거나 분리하는 처리.
소방 연결: 대응 정보는 분리 보관하고 접근 권한과 결합 절차를 제한하며 가명정보도 무조건 공개 가능한 자료로 보지 않는다.
구분하기: 가명처리는 재식별 가능성이 남아 있으므로 익명처리와 보호 요구가 다르다.

마스킹Masking실무 비유전화번호 일부를 별표로 바꿔 화면에서 바로 읽히지 않게 하는 처리.

비유: 전화번호 일부를 별표로 바꿔 화면에서 바로 읽히지 않게 하는 처리.
기술: 정보의 전부 또는 일부를 삭제·치환·가림 문자로 바꿔 노출 범위를 줄이는 기법.
소방 연결: 화면 마스킹 뒤 원본이 로그·파일·요청 본문에 남아 있지 않은지 전체 처리 경로를 확인한다.
구분하기: 마스킹은 표현을 가리는 한 기법이며 그 자체로 익명처리나 안전한 삭제를 뜻하지 않는다.

관련 안내서개인정보, AI에 넣기 전에 점검하기

재식별Re-identification심화 비유가려진 기록을 다른 명부나 시간·장소 단서와 맞춰 원래 사람을 다시 알아내는 일.

비유: 가려진 기록을 다른 명부나 시간·장소 단서와 맞춰 원래 사람을 다시 알아내는 일.
기술: 비식별 또는 가명 처리된 자료를 추가 정보와 결합해 특정 개인과 다시 연결하는 과정이나 위험.
소방 연결: 희귀 출동·세부 위치·정확한 시각처럼 조합될 때 식별력이 커지는 항목을 포함해 위험을 평가한다.

데이터 유출Data Leakage입문 비유보호해야 할 정보가 승인되지 않은 사람이나 시스템 경계 밖으로 새어 나가는 사고.

비유: 보호해야 할 정보가 승인되지 않은 사람이나 시스템 경계 밖으로 새어 나가는 사고.
기술: 민감하거나 제한된 정보가 의도하지 않은 출력·로그·학습·전송·공유 경로를 통해 노출되는 현상.
소방 연결: 외부 모델 입력·도구 호출·로그·내보내기·공유 링크를 하나의 처리 경로로 보고 각 경계의 유출 가능성을 점검한다.

프롬프트 인젝션Prompt Injection실무 비유참고 문서나 웹페이지 속에 숨긴 지시가 원래 임무보다 우선인 명령처럼 작동하게 노리는 공격.

비유: 참고 문서나 웹페이지 속에 숨긴 지시가 원래 임무보다 우선인 명령처럼 작동하게 노리는 공격.
기술: 모델이 처리하는 외부 입력에 악의적 지시를 넣어 기존 지시를 무시하거나 정보 노출·원치 않는 도구 실행을 유도하는 공격 방식.
소방 연결: 검색 문서와 사용자 입력을 신뢰할 수 없는 데이터로 취급하고 권한 검사를 모델 판단 밖의 시스템 경계에서 강제한다.
구분하기: 문구로 금지하는 것만으로 막을 수 없으며 최소 권한·입력 경계·출력 검증·사람 승인이 함께 필요하다.

관련 안내서소방 AI, 이것만은 하지 마세요

탈옥 공격Jailbreak실무 비유안전 규칙을 예외처럼 보이게 꾸며 금지된 답이나 행동을 끌어내려는 시도.

비유: 안전 규칙을 예외처럼 보이게 꾸며 금지된 답이나 행동을 끌어내려는 시도.
기술: 모델이나 서비스의 안전 제한을 우회해 허용되지 않은 출력이나 행동을 유도하는 입력 전략.
소방 연결: 모델 거절만 믿지 말고 민감 기능은 인증·권한·입력 검증·감사 기록으로 별도 보호한다.
구분하기: 프롬프트 인젝션은 외부 입력이 지시를 바꾸는 위협을 넓게 다루고 탈옥은 안전 제한 우회에 초점을 둔다.

가드레일Guardrail입문 비유위험 구간에서 실수가 사고로 이어지지 않도록 여러 겹으로 설치한 난간과 정지 장치.

비유: 위험 구간에서 실수가 사고로 이어지지 않도록 여러 겹으로 설치한 난간과 정지 장치.
기술: AI 입력·출력·도구·권한·운영 절차에서 허용 범위를 제한하고 위험을 탐지하거나 차단하는 통제의 묶음.
소방 연결: 금칙어 필터 하나가 아니라 최소 권한·출처 확인·사람 승인·로그·중지 절차를 위험에 맞게 조합한다.

관련 안내서소방 AI, 이것만은 하지 마세요

사람 검토Human Review핵심입문 비유자동 초안이나 경보를 책임 있는 담당자가 근거와 원문에 대조해 승인하거나 되돌리는 절차.

비유: 자동 초안이나 경보를 책임 있는 담당자가 근거와 원문에 대조해 승인하거나 되돌리는 절차.
기술: AI 결과나 행동을 실제 책임과 권한을 가진 사람이 정해진 기준으로 확인·수정·승인·중지하는 통제.
소방 연결: 법령 해석·대외 발송·현장 판단·개인정보 처리처럼 영향이 큰 작업은 검토자·근거·승인 시점을 기록한다.
구분하기: 사람이 화면을 한 번 보는 것만으로 충분하지 않으며 필요한 자료·시간·권한·거부 절차가 있어야 한다.

최소 권한Least Privilege입문 비유작업에 필요한 문과 시간에만 열리는 출입증을 주고 나머지 구역은 닫아 두는 원칙.

비유: 작업에 필요한 문과 시간에만 열리는 출입증을 주고 나머지 구역은 닫아 두는 원칙.
기술: 사용자·에이전트·도구에 업무 수행에 꼭 필요한 최소 범위와 기간의 접근 권한만 부여하는 보안 원칙.
소방 연결: 조회와 수정·삭제 권한을 분리하고 고위험 행동은 별도 승인과 짧은 유효 기간을 둔다.

인증Authentication입문 비유출입증이 실제로 누구의 것인지 확인하는 절차.

비유: 출입증이 실제로 누구의 것인지 확인하는 절차.
기술: 사용자·서비스·장치가 주장하는 신원이 맞는지 자격 증명 등으로 확인하는 과정.
소방 연결: API 키와 계정은 코드나 프롬프트에 넣지 말고 승인된 비밀 관리 방식과 교체 절차를 쓴다.
구분하기: 인증은 누구인지 확인하고 인가는 그 신원이 무엇을 할 수 있는지 결정한다.

인가Authorization실무 비유신원이 확인된 사람에게 어느 방과 장비를 쓸 수 있는지 정하는 절차.

비유: 신원이 확인된 사람에게 어느 방과 장비를 쓸 수 있는지 정하는 절차.
기술: 인증된 주체가 특정 자료나 기능에 접근하거나 행동을 수행할 권한이 있는지 결정하는 과정.
소방 연결: 모델이 요청했다는 이유만으로 허용하지 말고 사용자와 업무 맥락에 따른 권한을 실행 직전에 검사한다.

접근 통제Access Control실무 비유신원·역할·장소·시간에 따라 문을 열거나 막고 출입을 기록하는 체계.

비유: 신원·역할·장소·시간에 따라 문을 열거나 막고 출입을 기록하는 체계.
기술: 자료와 기능에 누가 어떤 조건으로 어떤 행동을 할 수 있는지 정책으로 제한하고 집행하는 통제.
소방 연결: 프롬프트가 아니라 서버와 데이터 경계에서 권한을 검사하고 실패 시 기본적으로 거부되게 한다.

감사 추적 기록Audit Trail실무 비유누가 언제 무엇을 요청·변경·승인했는지 되짚을 수 있는 연속 기록.

비유: 누가 언제 무엇을 요청·변경·승인했는지 되짚을 수 있는 연속 기록.
기술: 중요한 입력·결정·도구 실행·변경·승인의 주체와 시각과 결과를 사후 확인할 수 있게 남긴 기록.
소방 연결: 원문 개인정보는 최소화하거나 마스킹하고 로그 자체의 접근 권한·무결성·보관·삭제 기준도 관리한다.

출처 이력Provenance실무 비유자료가 어디서 왔고 누가 언제 바꾸고 승인했는지 따라갈 수 있는 이력표.

비유: 자료가 어디서 왔고 누가 언제 바꾸고 승인했는지 따라갈 수 있는 이력표.
기술: 데이터·문서·모델 출력의 기원과 수집·변환·검토·버전 과정을 추적할 수 있게 하는 정보.
소방 연결: AI가 만든 초안과 사람이 확인한 사실을 구분하고 법령·통계·절차의 원문 위치와 확인 시점을 남긴다.

편향Bias실무 비유자료와 기준이 한쪽 상황에 치우쳐 특정 집단이나 조건에서 반복적으로 불리한 결과가 나는 현상.

비유: 자료와 기준이 한쪽 상황에 치우쳐 특정 집단이나 조건에서 반복적으로 불리한 결과가 나는 현상.
기술: 데이터·설계·측정·운영 과정의 치우침 때문에 시스템 오류나 영향이 특정 집단·상황에 체계적으로 달라지는 현상.
소방 연결: 전체 평균만 보지 말고 지역·문서 유형·상황별 실패를 살피되 불필요한 민감정보 수집으로 해결하려 하지 않는다.

설명가능성Explainability심화 비유결과만 제시하는 대신 어떤 자료와 규칙이 판단에 영향을 주었는지 사람이 검토할 단서를 주는 성질.

비유: 결과만 제시하는 대신 어떤 자료와 규칙이 판단에 영향을 주었는지 사람이 검토할 단서를 주는 성질.
기술: AI 시스템의 결과·근거·처리 과정을 이해하고 검토할 수 있는 형태로 설명할 수 있는 정도.
소방 연결: 유창한 사후 설명을 실제 내부 판단의 완전한 기록으로 믿지 말고 인용 원문·입력·도구 기록과 대조한다.
구분하기: 설명가능성이 높다는 사실만으로 결과가 참이거나 공정하거나 안전하다는 뜻은 아니다.

위험 평가Risk Assessment실무 비유장비를 배치하기 전에 고장 가능성·피해 크기·노출 범위·대응 수단을 함께 따지는 점검.

비유: 장비를 배치하기 전에 고장 가능성·피해 크기·노출 범위·대응 수단을 함께 따지는 점검.
기술: AI 사용에서 발생 가능한 위해의 가능성과 영향·노출·통제를 식별하고 허용 여부와 대응을 정하는 과정.
소방 연결: 현장 안전·권리·개인정보·대외 신뢰에 미치는 영향이 크면 자동화 범위를 줄이고 사람 승인과 중지 조건을 강화한다.

관련 안내서소방 AI, 이것만은 하지 마세요