2026년 1월 22일, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 AI 기본법)이 시행되었다. EU AI Act에 이어 세계에서 두 번째 포괄적 AI 규제 체계이지만, 전면 적용 시점으로는 사실상 세계 최초다. 콜센터·고객 응대에 Voice AI를 운용하는 기업이라면, 이 법이 우리 시스템에 어떤 의무를 부과하는지 지금 점검해야 한다.
고영향 AI란 무엇인가
AI 기본법은 EU AI Act의 '고위험(High-Risk)' 대신 '고영향(High-Impact)'이라는 용어를 채택했다. 에너지, 보건의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육, 먹는 물 등 10개 영역에서 사람의 생명·신체 안전·기본권에 중대한 영향을 미치는 AI가 대상이다.
핵심은 '영역 + 영향도'의 이중 요건이다. 단순히 10개 영역에 속한다고 자동으로 고영향 AI가 되는 것이 아니라, 해당 시스템이 실질적으로 인간의 권익에 중대한 영향을 미치는지를 함께 판단한다.
Voice AI는 고영향 AI에 해당하는가
콜센터 Voice AI의 고영향 여부는 활용 맥락에 따라 달라진다. 단순 FAQ 응대라면 해당 가능성이 낮다. 그러나 대출 상담에서 사전 심사 의견을 제시하거나, 보험 클레임 접수에서 승인·거절 판단에 관여하거나, 의료 예약 시 증상 분류(triage)를 수행한다면 고영향으로 분류될 수 있다.
AI 기본법 제27조: 고영향 인공지능을 운용하는 사업자는 위험관리방안 수립, 설명 방안 시행, 이용자 보호 방안 수립, 사람의 관리·감독 체계 확보, 관련 문서 5년 보관 의무를 진다.
고영향 여부가 불확실한 경우, 사업자는 과학기술정보통신부에 판단을 요청할 수 있다. 선제적으로 자가 평가를 수행하되, 모호한 케이스는 공식 확인을 받아두는 것이 안전하다.
생성형 AI 투명성 의무 — Voice AI에도 적용
고영향 여부와 무관하게, 생성형 AI를 활용하는 모든 사업자에게 투명성 의무가 적용된다. AI가 생성한 텍스트·음성·영상에는 이용자가 이를 인지할 수 있도록 표시해야 한다. Voice AI 맥락에서는 통화 시작 시 'AI 상담원입니다'라는 고지가 대표적 이행 방식이다.
- 통화 개시 시 AI 상담원임을 명확히 고지
- AI 생성 음성임을 식별할 수 있는 기술적 표시(워터마크 등) 적용
- 이용자 요청 시 사람 상담원으로 전환할 수 있는 경로 확보
EU AI Act와의 교차 규제 — 글로벌 기업이 주의할 점
한국에서 Voice AI를 운용하면서 유럽 고객도 서비스하는 기업이라면, AI 기본법과 EU AI Act를 동시에 충족해야 한다. EU AI Act는 고위험 AI에 대해 적합성 평가(Conformity Assessment), CE 마킹, EU 데이터베이스 등록을 요구하며, 한국법보다 기술적 요구사항이 상세하다.
반면 한국 AI 기본법은 자가 평가 기반이며 과태료 상한이 3,000만 원으로, EU의 매출액 비례 과징금(최대 3,500만 유로 또는 전 세계 매출 7%)에 비해 제재 수준이 낮다. 그러나 계도기간 이후 시행령 개정을 통해 제재가 강화될 가능성을 배제할 수 없다.
지금 당장 시작할 5단계 컴플라이언스 체크리스트
- AI 시스템 인벤토리 작성 — 현재 운용 중인 모든 AI 시스템을 목록화하고, 각각의 활용 영역과 의사결정 개입 수준을 기록한다.
- 고영향 여부 자가 판단 — 10개 영역 해당 여부와 권익 영향도를 기준으로 각 시스템을 분류한다. 모호한 경우 과기정통부 판단 요청을 검토한다.
- 투명성 프로토콜 설계 — AI 고지 문구, 워터마크, 사람 상담원 전환 경로를 설계하고 구현한다.
- 데이터 워크플로 매핑 — 학습 데이터의 수집·처리·보관 경로를 문서화한다. 고영향 AI의 경우 학습 데이터 요약 설명 의무가 있다.
- 문서화 및 5년 보관 체계 구축 — 안전성·신뢰성 확보 조치 확인 문서를 작성하고, 5년 보관 인프라를 마련한다.
BringTalk의 접근 — 컴플라이언스를 설계에 내장하다
BringTalk은 Voice AI 플랫폼 설계 단계에서부터 투명성과 설명 가능성을 핵심 요구사항으로 반영하고 있다. 통화 개시 AI 고지, 실시간 사람 전환(Human Handoff), 통화 로그 자동 보관은 기본 기능으로 제공된다. AI 기본법 시대에 컴플라이언스는 별도 프로젝트가 아니라, 제품의 기본 사양이어야 한다.