8장: AI 규제와 컴플라이언스

class TransparencyMiddleware:
    """AI 사용 사실을 사용자에게 고지"""
 
    DISCLOSURE_MESSAGES = {
        "chatbot": "이 대화는 AI 챗봇이 처리합니다. 인간 상담원 연결을 원하시면 '상담원 연결'을 입력하세요.",
        "content_generation": "이 콘텐츠는 AI에 의해 생성되었습니다.",
        "decision_support": "이 분석은 AI 보조 도구에 의해 생성되었으며, 최종 결정은 담당자가 수행합니다.",
    }
 
    def __init__(self, ai_type: str):
        self.disclosure = self.DISCLOSURE_MESSAGES.get(ai_type, "AI가 사용됩니다.")
 
    def wrap_response(self, response: str) -> dict:
        return {
            "content": response,
            "ai_disclosure": self.disclosure,
            "model_info": {
                "provider": "anthropic",
                "model": "claude-sonnet-4",
                "version": "20250514",
            },
            "timestamp": datetime.now().isoformat(),
        }

from dataclasses import dataclass, field
from datetime import datetime
 
@dataclass
class AuditRecord:
    request_id: str
    timestamp: datetime
    user_id: str
    input_text: str
    output_text: str
    model_used: str
    guardrail_results: list[dict]
    tools_invoked: list[str]
    risk_flags: list[str]
    processing_time_ms: float
    metadata: dict = field(default_factory=dict)
 
class AuditLogger:
    def __init__(self, storage_backend):
        self.storage = storage_backend
 
    async def log(self, record: AuditRecord):
        """불변 감사 로그 기록"""
        # 암호화하여 저장
        encrypted = self._encrypt(record)
        await self.storage.append(encrypted)
 
        # 고위험 플래그가 있으면 알림
        if record.risk_flags:
            await self._notify_compliance_team(record)
 
    async def query(
        self, start_date: datetime, end_date: datetime,
        user_id: str | None = None,
    ) -> list[AuditRecord]:
        """감사 로그 조회"""
        return await self.storage.query(
            start_date=start_date,
            end_date=end_date,
            user_id=user_id,
        )

class DataProtectionPolicy:
    """GDPR + AI Act 연계 데이터 보호"""
 
    def process_for_llm(self, user_data: dict) -> dict:
        """LLM에 전달하기 전 개인 데이터 처리"""
        sanitized = {}
        for key, value in user_data.items():
            if key in self.PII_FIELDS:
                # 가명화(Pseudonymization)
                sanitized[key] = self._pseudonymize(value)
            else:
                sanitized[key] = value
        return sanitized
 
    def handle_deletion_request(self, user_id: str):
        """삭제권(Right to Erasure) 처리"""
        # 1. 대화 이력 삭제
        self._delete_chat_history(user_id)
        # 2. 감사 로그는 법적 보존 기간 후 삭제
        self._schedule_audit_deletion(user_id, retention_days=365)
        # 3. 임베딩/벡터 DB에서 관련 데이터 제거
        self._remove_from_vector_store(user_id)
 
    PII_FIELDS = {
        "name", "email", "phone", "address",
        "resident_id", "credit_card",
    }

HIGH_RISK_REQUIREMENTS = {
    "risk_management": {
        "description": "위험 관리 시스템 구축",
        "checks": [
            "위험 식별 및 분석 문서화",
            "위험 완화 조치 구현",
            "잔여 위험의 수용 가능성 평가",
            "정기적 위험 재평가 프로세스",
        ],
    },
    "data_governance": {
        "description": "데이터 거버넌스",
        "checks": [
            "학습 데이터의 품질 기준 정의",
            "편향 탐지 및 완화 프로세스",
            "데이터 출처 문서화",
        ],
    },
    "technical_documentation": {
        "description": "기술 문서",
        "checks": [
            "시스템 아키텍처 문서",
            "모델 카드 작성",
            "성능 메트릭과 한계 문서화",
        ],
    },
    "transparency": {
        "description": "투명성",
        "checks": [
            "AI 사용 고지",
            "결정 과정의 설명 가능성",
            "사용자 이의 제기 메커니즘",
        ],
    },
    "human_oversight": {
        "description": "인간 감독",
        "checks": [
            "인간 개입 메커니즘 구현",
            "자동 결정 중지 기능",
            "감독자 대시보드",
        ],
    },
    "accuracy_robustness": {
        "description": "정확성과 견고성",
        "checks": [
            "정확도 벤치마크 달성",
            "적대적 공격 대응 테스트",
            "환경 변화 대응 테스트",
        ],
    },
}

# 모델 카드: [시스템명]
 
## 모델 정보
- 모델: Claude Sonnet 4
- 파인튜닝: 없음 (API 직접 사용)
- 용도: 고객 서비스 챗봇
 
## 의도된 사용
- 제품 문의 응답
- 주문 상태 조회
- FAQ 응답
 
## 의도되지 않은 사용
- 의료/법률 조언
- 개인 정보 조회
- 금융 거래 처리
 
## 성능 메트릭
- 응답 정확도: 92% (내부 벤치마크)
- 가드레일 통과율: 99.2%
- 평균 응답 시간: 1.8초
 
## 한계
- 실시간 재고 정보 미반영 가능
- 복잡한 환불 처리 불가
- 한국어 외 언어 미지원
 
## 편향 평가
- 성별 편향 테스트: 통과
- 연령 편향 테스트: 통과
- 지역 편향 테스트: 수도권 편향 일부 확인, 모니터링 중