2026 AI 기본법 2부: "우리 AI가 '고영향'이라고요?” 안전성과 사업자의 무거운 책무 (IT법무/기업자문 편)

 Written by. Lawkit 기업자문본부 김용범 변호사

2026년 1월 22일 시행되는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)」 전면 시행이 이제 열흘 남짓 앞으로 다가왔습니다. 지난 1부에서는 모든 AI 사업자가 주의해야 할 '투명성(고지) 의무'를 다뤘다면, 오늘 2부에서는 이번 법안의 핵심이자 기업에 가장 무거운 책임을 지우는 '고영향 인공지능(High-Impact AI)' 리스크를 집중 분석합니다.

우리 회사의 AI가 사람의 생명이나 기본권에 영향을 미치는 영역에 발을 들이고 있다면, 단순한 '기술적 결함'이 '법적 파멸'로 이어질 수 있습니다.

🔍 Scene . "사람을 뽑고 대출을 해주는 AI, 그냥 써도 될까요?" (고영향 AI의 판정과 책임)

[상황] AI 기반 채용 솔루션을 개발하여 수백 개 기업에 공급 중인 B사. B사의 AI는 지원자의 자기소개서와 면접 영상을 분석해 합격 점수를 매깁니다. B사 대표님은 "우리는 공정하게 설계했으니 문제없다"고 자신하지만, 이번 시행령 소식을 듣고 당황했습니다. 채용이나 대출 심사처럼 개인의 권리 관계에 중대한 영향을 미치는 판단은 '고영향 AI'로 지정되어 일반 AI보다 훨씬 까다로운 규제를 받게 되었기 때문입니다.

[변호사's Deep Dive 📝] AI 기본법은 모든 AI를 규제하지 않지만, 사회적 영향이 큰 11개 분야는 '고영향 인공지능'으로 분류하여 특별 관리합니다.

1. 고영향 AI의 정의와 범위 (제2조 제4호): 사람의 생명, 신체 안전 및 기본권에 중대한 영향을 미칠 우려가 있는 영역입니다. 에너지 공급, 보건의료, 의료기기, 범죄 수사(생체인식), 채용·대출 심사, 교통(자율주행), 공공서비스 의사결정, 교육(학생 평가) 등이 포함됩니다.

2. 사업자의 5대 책무 (제34조): 고영향 AI 사업자로 확정되면 다음 조치를 반드시 이행해야 합니다.위험관리방안 수립: AI 수명주기 전반의 위험을 식별하고 완화하는 체계를 운영해야 합니다.설명 방안 마련: 영향받는 자(이용자)에게 AI가 도출한 최종 결과의 주요 기준과 원리 등을 기술적으로 가능한 범위에서 명확히 설명할 수 있어야 합니다.인간의 관리·감독: AI가 독단적으로 결정하게 두지 않고, 반드시 사람이 최종적으로 관리·감독하는 체계를 갖춰야 합니다.문서 작성 및 보관: 위 조치들의 이행 근거를 문서로 작성하여 5년간 보관해야 합니다.

3. 확인 요청 제도 (제33조): 우리 AI가 고영향인지 헷갈린다면 과학기술정보통신부장관에게 확인을 요청할 수 있으며, 정부는 30일 이내에 결과를 회신해야 합니다.

[Risk]

• 시정명령 및 과태료: 법 위반 사실이 발견되어 내려진 중지명령이나 시정명령을 이행하지 않을 경우, 3,000만 원 이하의 과태료가 부과됩니다.

• 공공 조달 시장 퇴출: 국가기관 등은 고영향 AI 이용 시 영향평가를 실시하거나 검·인증을 받은 제품을 우선적으로 고려해야 합니다. 준비되지 않은 기업은 정부 및 공공기관 비즈니스에서 즉시 배제될 것입니다.

[Lawkit의 솔루션] 정권 교체기의 혼란을 틈타 '자산 회수의 골든타임'을 잡듯, 규제 시행 초기에는 [신뢰성 입증 전략]으로 시장 주도권을 잡아야 합니다.

• 고영향 해당 여부 사전 진단: Lawkit의 법률 검토를 통해 귀사의 AI가 법적 '고영향' 범주에 드는지 확인하고, 필요시 정부에 공식 확인 요청서를 제출하십시오.

• 위험관리 프로세스 설계: 알고리즘의 편향성이나 오류 시나리오를 문서화하고, '설명 가능한 AI(XAI)' 기능을 강화하여 법적 설명 의무를 충족시키십시오.

• AI 영향평가 선제 실시: 법적 권고 사항인 '영향평가'를 미리 완료하여 B2B 고객사나 정부 기관에 "규제를 완벽히 준수하는 안전한 AI"임을 마케팅 포인트로 활용하십시오.

🛡️ [변호사의 필수 체크리스트 📌]

고영향 AI 영역에 해당하는 기업은 아래 항목을 즉시 점검하십시오.

• ☐ 분야 적합성 확인: 우리 AI가 채용, 금융(대출), 의료, 교통, 교육 등 법령이 지정한 11개 고영향 영역에서 활용되고 있는가?

• ☐ 위험관리 체계: AI의 오작동이나 편향된 결과로 인한 피해를 방지하기 위한 내부 모니터링 및 대응 매뉴얼이 수립되어 있는가?

• ☐ 설명 가능성: 이용자가 "왜 이런 결과가 나왔느냐"고 물었을 때, AI의 판단 근거와 원리를 논리적으로 설명할 기술적·행정적 준비가 되었는가?

• ☐ 인간 개입 절차: AI의 최종 결과물을 사람이 검토하고 승인하거나, 필요시 수동으로 개입할 수 있는 통제 장치가 작동하는가?

• ☐ 기록 관리 시스템: 입력값, 분석 결과, 수정 이력 등 일련의 과정을 5년간 안전하게 로깅(Logging)하고 보관할 수 있는 인프라를 갖추었는가?

[Next Step]

국제 정세가 예측이 아닌 대비의 영역이듯, AI 규제 역시 "설마 우리까지?"라는 의구심을 버리고 선제적으로 대응하는 기업만이 생존합니다. 고영향 AI로 분류되는 순간, 귀사의 비즈니스는 '기술'이 아닌 '신뢰'의 싸움터로 옮겨집니다.

Lawkit은 단순한 법률 해석을 넘어, 귀사의 AI 솔루션이 규제의 파고를 넘어 글로벌 표준으로 인정받을 수 있도록 최적의 방패를 구축해 드립니다.

👉 [우리 회사 고영향 AI 해당 여부 및 리스크 긴급 진단하기]