부록 B. 안티패턴·미신 목록
이 분야에 떠도는 검증되지 않은 통념과 흔한 실수를 모았습니다. 각 항목은 "왜 틀렸는지 + 어디서 다뤘는지"를 함께 적었습니다. 이 목록 자체도 모델·맥락에 따라 예외가 있으니, 늘 직접 검증(23장)하세요.
미신 — 검증되지 않은 통념
| 미신 | 실제 | 장 |
|---|---|---|
| "팁 줄게/협박하면 더 잘한다" | 모델 진화로 무력화되는 주문류. 효과는 간절함이 아니라 정보에서 온다 | 1 |
| "비밀 문구를 넣으면 마법처럼 똑똑해진다" | 특정 모델에서 우연히 관찰된 것일 뿐, 일반 진리 아님 | 1 |
| "단계별로 생각해는 항상 좋다" | 추론 내장 모델엔 불필요·역효과일 수 있음 | 9 |
| "temperature 0이면 항상 똑같은 답" | 항상 참은 아니며, 최신 추론 모델은 기본값 유지 권장 | 2, 22 |
| "낮은 temperature = 항상 더 정확" | 복잡한 추론에선 오히려 문제 생길 수 있음 | 2, 22 |
| "예시는 많을수록 좋다" | attention 희석·과적합. 잘 고른 소수가 낫다 | 7 |
| "구조화 출력시키면 더 정확해진다" | 형식만 보장, 내용 정확성과 별개 | 8 |
| "윈도우 크니 다 넣자" | attention 유한·무관정보 방해·비용 증가 | 12, 31 |
| "정보는 많을수록 안전" | 모순·오류 자료가 결과를 흔든다 | 13 |
| "윈도우 안에 들면 다 똑같이 본다" | 중간 소실 — 위치에 따라 활용도 다름 | 14 |
| "대화 길게 이어가면 더 잘 이해한다" | 무관·오류 누적은 오염·부패를 부른다 | 15 |
| "최신 자료 주면 알아서 쓴다" | 명시 없으면 옛 상식으로 기울 수 있음 | 16 |
| "한 번 더 확인시키면 환각이 사라진다" | 자기 환각을 재확인할 수 있음 | 18, 25 |
| "절대 틀리지 마=환각 감소" | 오히려 자신 있는 거짓 유발 | 18 |
| "모델은 항상 장황하다" | 최신 모델은 기본 간결한 경우가 많음 | 19 |
| "RAG 붙이면 환각 사라진다" | 줄일 뿐. 검색 품질·충돌 처리에 달림 | 26 |
| "구분자로 감싸면 프롬프트 주입 막힌다" | 헷갈림은 줄지만 악의적 우회는 못 막음 | 11, 32 |
| "비밀이라고 말하면 안 샌다" | 컨텍스트에 넣은 순간 누출 위험. 안 넣기가 원칙 | 32 |
| "최신 모델이니 다 더 잘된다" | 전반적 향상 ≠ 모든 작업 향상 | 33 |
| "에이전트는 맡겨두면 알아서" | 자율성↑ = 위험↑. 통제·검증 필요 | 28 |
안티패턴 — 흔한 실수 행동
| 안티패턴 | 왜 문제 | 대신 | 장 |
|---|---|---|---|
| 간절함으로 채우기 ("정말 중요해!!") | 정보 0, 토큰 낭비 | 청자·형식·기준 등 정보 추가 | 1 |
| 모호한 고무줄 단어 ("좋게, 적절히") | 해석 폭이 넓어 결과 들쭉날쭉 | 구체값으로 대체 | 5 |
| 무조건 길게 = 구체적 | attention 분산 | 정보 밀도를 높이되 간결하게 | 5 |
| 포괄적 부정 ("추론하지 마") | 정당한 추론까지 마비 | 범위 좁혀 원하는 행동 지정 | 10 |
| 공허한 역할 ("도움되는 AI") | 정보 추가 없음 | 직군+전문영역+스타일 | 6 |
| 형식 혼용 (태그+제목+따옴표 뒤섞기) | 경계 신호 약화 | 한 형식 일관 사용 | 11 |
| 모든 걸 태그로 감싸기 | 핵심 구조 묻힘 | 헷갈릴 곳에만 | 11 |
| 한 프롬프트에 다 욱여넣기 | 어느 것도 충분히 못 함 | 체이닝으로 분해 | 24 |
| 너무 잘게 쪼개기 | 전달·관리 비용 증가 | 자연스러운 경계에서만 | 24 |
| 한 창에 여러 작업 | 컨텍스트 오염 | 작업별 격리 | 15 |
| 꼬인 대화 끝까지 우기기 | 누적·부패 심화 | 핵심만 들고 새 창 | 15 |
| 한 번에 여러 곳 수정 | 무엇이 효과인지 모름 | 한 번에 하나만 + 평가 | 23, 30 |
| 느낌으로 판단 ("좋아진 듯") | 운·표본 편향 | 평가 세트로 측정 | 23 |
| 거절을 무작정 뚫으려 함 | 정당한 거절은 받아들여야 | 유형 진단 후 대응 | 21 |
| 시스템 프롬프트 규칙 도배 | 깨지기 쉽고 유지 난망 | 원칙 중심(고도 올리기) | 27 |
| 민감정보 그냥 넣기 | 누출 위험 | 최소화·마스킹·안 넣기 | 32 |
| 모델 바꾸고 그대로 사용 | 역효과 가능 | 평가로 재검증 | 33 |
한 가지 메타 교훈
이 목록의 거의 모든 항목은 두 뿌리로 환원됩니다.
- "더 많이/더 세게 = 더 좋다"는 직관의 오류 — 예시·자료·지시·강조·길이·자율성 모두, 과하면 해롭습니다. 핵심은 적정이지 최대가 아닙니다.
- "한 번 좋으면 늘 좋다"는 가정의 오류 — 모델·버전·작업·맥락이 바뀌면 정답도 바뀝니다. 그래서 검증이 필요합니다.
📌 이 두 뿌리를 의식하면, 이 목록에 없는 새로운 미신을 만나도 스스로 의심할 수 있습니다.
목차로 · 다음 부록 → C. 좋은/나쁜 예시 모음