02핵심 기술Auto Collection
AI 기반 데이터 자동화 수집
크롤러 차단 우회 · 다크웹 접근 · SNS 동적 수집 전문 기술.
개요
공개·비공개 웹, SNS 동적 컨텐츠, 다크웹, IoT 스트림까지 포괄하는 자동화 수집 파이프라인. 크롤러 탐지·차단 기술에 대응하는 우회 기법, 동적 렌더링 · CAPTCHA 대응, Tor 기반 다크웹 접근을 내재화. 경찰청·대검찰청·한국마사회 수사·모니터링 현장 적용 이력.
핵심 역량
6개 역량
- 01크롤러 차단 우회 · 헤더·핑거프린트 랜덤화
- 02SNS 동적 렌더링 수집 (SPA · lazy load 대응)
- 03Tor · 다크웹 네트워크 접근
- 04IoT 네트워크 트래픽 수집 · 프로토콜 분석
- 05스케줄링 · 우선순위 큐 · 수집 속도 제어
- 06원본 무결성 · 증거 보존 체인
기술 · 방법
- Playwright
- Puppeteer
- Tor
- Proxy Rotation
- DPI