IT

IDS와 IPS란? 보안 위협을 감지하고 차단하는 네트워크의 두 번째 방패

AI전공자 2025. 10. 27. 17:00

IDS와 IPS란? 보안 위협을 감지하고 차단하는 네트워크의 두 번째 방패

안녕하세요 😊 쉽게 알아가는 IT입니다.

이전 글에서 방화벽(Firewall)이 네트워크 경계에서 허용·차단 정책을 적용하는 ‘문지기’라고 설명했죠. 하지만 지능형 공격은 정상 트래픽처럼 위장해 방화벽을 통과하기도 합니다. 이때 필요한 것이 바로 IDS(침입 탐지 시스템)IPS(침입 방지 시스템)입니다. 두 기술은 이름은 비슷하지만, 역할과 배치 방식, 대응 방법이 분명히 다릅니다.


1. IDS(침입 탐지 시스템): 보이는 것을 ‘알려주는’ 감시자

IDS는 네트워크나 호스트에서 발생하는 트래픽을 모니터링하여, 이상 징후(침입 시도, 정책 위반, 악성 행위)를 탐지하고 알림을 생성합니다. 즉, “지금 수상한 활동이 있어요!”라고 관리자에게 통보하는 역할입니다.

탐지 방식

  • 시그니처 기반: 알려진 공격 패턴(DB)에 매칭하여 탐지. 정확하지만 미지의 공격에 취약.
  • 행위/이상 기반: 정상 기준선에서 벗어난 행위를 탐지. 미탐 방지에 유리하지만 오탐 가능성 존재.

배치 형태

  • NIDS: 스위치 미러 포트/탭에 연결해 네트워크 구간을 감시
  • HIDS: 서버/단말 호스트 내부의 로그·행위를 감시
    HIDS(호스트 기반 침입 탐지 시스템) 개념도 — 서버나 단말 내부에서 로그와 행위를 모니터링해 의심스러운 활동을 탐지하는 구조를 보여주는 인포그래픽

 


2. IPS(침입 방지 시스템): 위협을 ‘즉시 막는’ 차단자

IPS는 IDS처럼 트래픽을 분석하되, 인라인(Inline)으로 배치되어 악성 또는 정책 위반 트래픽을 실시간 차단합니다. 즉, “수상하네? 바로 막자!”가 가능한 능동형 보안 장비입니다.

장단점

  • 장점: 즉시 차단, 대응 속도 빠름, 자동화 정책 연계 용이
  • 주의: 오탐 시 정상 서비스 차단 가능 → 정책 튜닝과 점진적 적용 필수

3. 방화벽 vs IDS vs IPS — 한눈 비교

구분 방화벽(FW) IDS IPS
핵심 역할 정책 기반 허용·차단 위협 탐지·알림 위협 실시간 차단
배치 인라인 미러/탭(수동) 인라인(능동)
분석 수준 L3/L4 (차세대는 L7 일부) L3~L7 (로그·행위 포함) L3~L7 (정책·시그니처)
장점 성능·정책 일관성 가시성·침해지표(IOC) 즉시 대응·자동화
주의 앱 레벨 공격 한계 차단은 불가(연동 필요) 오탐 차단 리스크

4. 어디에 배치할까? — 추천 아키텍처

  • 경계 구간(인터넷 ↔ 내부망): FW(경계) + IPS(인라인) + IDS(미러) 조합으로 탐지·차단·가시성 확보
  • DMZ 구간: 외부 노출 서버(웹/WAF, 메일) 앞뒤로 IPS 배치, IDS로 포렌식/로그 수집
  • 내부 중요 구간(서버/DB 존): 동서 트래픽(East-West)에 대한 세그먼트별 IPS/IDS 적용
  • 클라우드/하이브리드: 가상 어플라이언스(게이트웨이/에이전트)와 클라우드 네이티브 로그 연계

호스트 기반 침입 탐지(HIDS) 작동 개요 — 서버/단말 내부에서 로그와 행위를 수집·분석해 의심스러운 활동을 탐지하고 경고를 생성하는 과정

 


5. 실무 운영 팁 — 오탐을 줄이고 효과를 높이는 법

① 단계적 적용(Detect → Protect)

처음부터 차단(IPS) 정책을 강하게 걸면 오탐으로 서비스가 멈출 수 있습니다. 탐지 모드로 통계를 충분히 축적 → 부분 차단전체 적용 순으로 진행하세요.

② 시그니처·룰 업데이트

공격 트렌드는 빠르게 변합니다. 벤더 시그니처 DB, 커스텀 룰(예: 취약 서비스/포트) 업데이트를 정기화하세요.

③ 자산 분류 & 트래픽 기준선

업무 중요도에 따라 고위험 구간의 민감도 상향, 정상 트래픽 기준선(baseline)을 만들어 오탐을 줄입니다.

④ 연동 자동화

FW/WAF/SIEM과 연계해 차단·격리·알림을 워크플로우로 자동화하면 대응 시간이 크게 줄어듭니다.


6. 최신 트렌드 — 암호화 트래픽과 AI 탐지

  • TLS/SSL 트래픽 가시성: 트래픽의 상당수가 암호화되어 L7 가시성이 낮아집니다. 합법적 프라이버시를 해치지 않는 범위에서 프록시/복호화 존을 설계하세요.
  • AI/ML 기반 이상 탐지: 서명 없는 새로운 공격(제로데이, Living-off-the-Land) 탐지에 효과적. 다만 학습 데이터 품질과 운영 튜닝이 성패를 좌우합니다.

7. 마무리 — 보안은 다층 방어로 완성된다

방화벽은 정책 기반 경계 보안을, IDS는 가시성과 경보를, IPS는 실시간 차단을 담당합니다. 세 기술을 적재적소에 배치하고, 정책 튜닝·업데이트·자동화를 병행해야 현대적 위협에 대응할 수 있습니다.

오늘도 쉽게 알아가는 IT였습니다 😊