법무법인[유] 지평 || [노동] AI 활용 안전관리시스템과 중대재해처벌법상 안전보건확보의무

법률정보|칼럼

[노동] AI 활용 안전관리시스템과 중대재해처벌법상 안전보건확보의무

2026.07.24

<div style="text-align: justify;">
<div><span style="color:#c0392b;"><strong>1. 논의의 배경</strong></span><br />
<br />
수원고등법원은 최근 산업안전보건법상 구체적 안전조치의무와 중대재해 처벌 등에 관한 법률(이하 ‘<strong>중대재해처벌법</strong>’)상 안전보건확보의무는 상호 독자적으로 평가될 수 있음을 전제로 아래와 같이 판시했습니다(수원고등법원 2026. 4. 22. 선고 2025노1502 판결).<br />
<br />
“중대재해처벌법 제4조 제1항 제1호는 그 문언상 경영책임자 등으로 하여금 구축해야 하는 시스템, 즉 안전보건확보의무에 관해 안전 · 보건 관계 법령에 따른 조치를 그 전제로 하고 있지 않다.  안전 · 보건 관계 법령에 따른 주의의무의 존재와 그 위반을 전제로 하지 않아도 이 사건 시행령 제4조에 따른 의무를 위반해 중대재해가 발생하고 그 인과관계가 인정되면 중대재해처벌법 위반죄로 처벌할 수 있다.”<br />
<br />
이는 중대재해처벌법의 수범자인 경영책임자 등에게 매우 중요한 메시지를 전달합니다.  중대재해처벌법에 따른 안전보건관리체계의 구축 · 이행 의무가 안전 · 보건 관계 법령에 따른 개별 조치 의무의 단순 합산이 아니라 시스템적 · 구조적 차원의 의무라는 점이 분명해진 이상, 안전보건관리체계 구축 · 이행의 중요성과 그 구체적인 의무 이행 방안에 대해서도 새로운 차원의 점검이 불가피하기 때문입니다.<br />
<br />
이와 같은 법률 환경하에서 최근 인공지능(AI)을 활용한 사업장 안전관리시스템의 도입이 빠르게 확산되고 있습니다.  AI 안전관리시스템은 안전보건관리체계 구축에 기여할 수 있는 효과적인 도구이나, 그 도입과 운영에는 일정한 법률적 한계와 실무상 유의 사항이 따릅니다.  이하에서는 AI 안전관리의 활용 현황과 이에 관한 규범적 기준, 실무상 유의 사항을 차례로 살펴봅니다.<br />
<br />
<br />
<span style="color:#c0392b;"><strong>2. AI 활용 안전관리시스템의 확산</strong></span></div>

<div>최근 산업 현장에서 활용되고 있는 AI 안전관리시스템은 그 적용 범위가 빠르게 확장되고 있는데, 대체로 다음과 같은 유형으로 분류해 볼 수 있습니다.<br />
<br />
첫째, CCTV 영상 분석 기반의 작업자 상태 · 행동 감지 시스템입니다.  CCTV 영상에 비전 AI를 결합해 안전모 · 안전조끼 · 안전고리 등 개인 보호구 미착용, 위험구역 진입, 작업자 쓰러짐 · 낙상, 졸음 · 이상행동 등을 감지하는 것입니다.  이는 현재 가장 광범위하게 보급돼 있습니다.  최근에는 비전 AI에 거대언어모델(LLM)을 결합한 시각언어모델(VLM, Video-Language Model)을 통해 영상 정보를 텍스트로 자동 전환하고 시간대별 위험 패턴을 분석해 보고서를 자동 생성하는 시스템도 등장했습니다.<br />
<br />
둘째, 센서 · 사물인터넷(IoT) 데이터 기반의 시설물 · 공정 이상 감지 시스템입니다.  센서 · IoT 장비에서 수집된 데이터를 AI가 학습 · 분석해 가스 누출, 누유, 화재 전조 증상, 구조물 균열, 배터리 열폭주 등 시설물 · 공정의 이상 징후를 사전 감지합니다.  한국수력원자력의 사내벤처 ‘딥아이’가 개발한 AI 기반 관형열교환기 비파괴검사 자동 평가 기술이 2025년 산업통상자원부의 신기술(NET) 인증을 획득해 정유 · 석유화학 플랜트의 정기보수 현장에 적용되는 등 AI 기반 비파괴검사 자동 평가 기술도 상용화되고 있습니다.<br />
<br />
셋째, AI 위험성평가 자동화 시스템입니다.  산업안전보건법 제36조 및 중대재해처벌법 시행령 제4조 제3호가 요구하는 위험성평가 절차를 AI가 보조하는 시스템으로, 작업 내용을 입력하면 AI가 유해 · 위험 요인을 식별하고 위험도를 평가해 안전 작업 절차를 자동 생성합니다.  최근 석유화학 플랜트 현장에 보급되고 있는 공정 안전관리 AI 에이전트가 대표적이며, 일부 솔루션은 챗GPT 등 생성형 AI를 결합해 위험성평가 기능을 제공하기도 합니다.<br />
<br />
넷째, 협력업체 · 외주 통합 안전관리플랫폼입니다.  도급인이 다수의 협력업체 · 외주 현장을 통합 모니터링할 수 있도록 지원하는 AI 기반 플랫폼으로, 각 협력업체가 모바일 어플리케이션을 통해 작업 전 위험성평가와 안전 점검 결과(TBM 등)를 입력하면 통합 대시보드를 통해 전 현장의 안전 현황을 실시간 모니터링합니다.  다수의 건설사 · 제조사는 도급인의 협력업체 안전관리에 관한 안전보건확보의무 이행 수단으로 자체 플랫폼을 구축 · 운영하고 있는 것으로 확인됩니다.</div>

<div><br />
<strong>나. AI 활용 안전관리시스템의 확산과 그 한계</strong></div>
</div>

<div style="text-align: justify;">
<div><br />
AI 안전관리시스템의 도입 확산은 중대재해처벌법의 시행과 직접 연동돼 있습니다.  중대재해처벌법이 2022년 1월 27일 시행되고 2024년 1월 27일부터 상시 5인 이상 50인 미만 사업장으로 적용이 확대된 이후, 사업장 규모를 불문하고 경영책임자는 안전보건확보의무 이행의 증거를 체계적으로 확보할 수단으로 AI 솔루션을 적극 도입하고 있습니다.  관련 업체들의 마케팅도 이를 노골적으로 겨냥해 ‘AI 도입이 중대재해처벌법 대응의 핵심 수단’이라거나 ‘AI 시스템이 안전보건확보의무 이행의 실질적 증거가 된다’는 식의 홍보 문구가 만연한 상황입니다. <br />
<br />
정부도 AI 안전관리시스템 도입을 적극 지원하고 있습니다.  한국산업안전보건공단은 2025년 9월부터 ‘AI 기반 위험 사업장 집중 관리’ 체계를 운영 중이며, 고용노동부와 함께 2026년 4월 ‘AI · 스마트 산업안전기술 우수 사례 챌린지’를 통해 우수 적용 사례 발굴에 나서기도 했습니다.<br />
<br />
이러한 확산의 이면에는 AI 안전관리시스템의 도입이 중대재해처벌법상 안전보건확보의무의 이행으로 평가될 수 있는지에 관한 쟁점이 존재합니다. 시스템의 오작동, 사각지대 발생 등으로 인해 중대재해가 발생했을 경우, AI 기반 안전관리시스템을 도입해 안전보건확보의무를 다했다는 항변이 인정될 수 있을지 보아야 합니다. 이하에서는 AI 기반 안전관리시스템은 의무 이행에 기여할 수 있는 보조 수단일 뿐, 그 의무 이행 자체를 대체할 수는 없다는 전제에 기반해 AI 활용 안전관리에 관한 규범적 기준과 그에 따른 실무상 유의점을 살펴보고자 합니다.<br />
<br />
<br />
<span style="color:#c0392b;"><strong>3. AI 활용 안전관리에 관한 규범적 기준</strong></span></div>

<div><br />
<strong>가. 중대재해처벌법상 안전보건확보의무</strong></div>

<div><br />
중대재해처벌법 제4조 제1항 제1호는 사업주 또는 경영책임자 등에게 재해예방에 필요한 인력 및 예산 등 안전보건관리체계의 구축 및 그 이행에 관한 조치 의무를 부과하고, 동법 시행령 제4조는 그 구체적 내용을 9개 호로 열거하고 있습니다.  그 중 AI 기반 안전관리와 직접적으로 관련될 수 있는 주요 조항으로는 제1호(목표 및 경영방침 설정), 제3호(유해 · 위험 요인 확인 · 개선 업무 절차 마련), 제4호(안전 · 보건 예산의 편성 · 집행), 제5호(중대산업재해 대응 매뉴얼 마련), 제8호(안전보건 인력 · 시설 · 장비 구비) 등을 꼽을 수 있습니다.<br />
<br />
특히 제3호는 AI 기반 위험성평가 시스템과 직결되는 바, 같은 호 단서가 “산업안전보건법 제36조에 따른 위험성평가를 하는 절차를 마련하고, 그 절차에 따라 위험성평가를 직접 실시하거나 실시하도록 하여 실시 결과를 보고받은 경우에는 해당 업무 절차에 따라 유해 · 위험 요인의 확인 및 개선에 대한 점검을 한 것으로 본다”고 규정하고 있는 점에서 AI가 보조한 위험성평가가 법령상 의무 이행으로 평가될 수 있는지가 문제됩니다.  그러나, AI 위험성평가 시스템을 활용하더라도 그것은 유해 · 위험 요인의 ‘확인’ 또는 개선에 대한 ‘점검’ 단계에 기여할 뿐, 시행령 제4조 제3호 본문이 요구하는 ‘업무 절차 마련’ 의무 자체를 면제하지는 않습니다.  따라서 AI 위험성평가 시스템의 도입과는 별도로 사업주가 자체적으로 유해 · 위험 요인 확인 · 개선을 위한 업무 절차를 마련하는 작업이 병행돼야 할 것입니다.</div>

<div style="text-align: justify;">
<div><br />
<strong>나. 인공지능기본법상 인공지능 이용 사업자의 의무</strong><br />
<br />
2025년 1월 21일 공포된 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(법률 제20676호, 이하 ‘<strong>인공지능기본법</strong>’)이 2026년 1월 22일부터 시행되고 있습니다.  인공지능기본법 제2조 제4호는 ‘고영향 인공지능’의 적용 영역으로 에너지 · 먹는 물 · 보건의료 · 원자력 · 생체인식 · 채용 · 대출 심사 · 교통 · 공공서비스 · 학생 평가 등 10개 영역을 열거하고 있습니다.  인공지능을 이용한 안전관리 자체가 명시돼 있지는 않으나, 위 각목에서 명시된 영역에서 활용되는 AI 기반 안전관리시스템은 검 · 인증(제30조), 안전성 · 신뢰성 확보 조치(제34조) 등의 대상인 고영향 인공지능에 해당할 수 있습니다.<br />
<br />
인공지능기본법 제2조 제7호는 의무 주체인 ‘인공지능 사업자’를 ①인공지능개발사업자(가목)와 ②인공지능 이용 사업자(나목, ‘가목의 사업자가 제공한 인공지능을 이용하여 인공지능제품 또는 인공지능 서비스를 제공하는 자’)로 구분합니다.  문언상 인공지능이용사업자는 인공지능제품 또는 인공지능서비스를 ‘제공하는 자’이므로, 외부 솔루션 공급업체로부터 AI 안전관리 시스템을 도입하여 자신의 사업장 안전관리에 활용하는 데 그치는 사업주는 원칙적으로 ‘이용자’(같은 조 제8호)에 해당하여 위 책무의 직접적인 수범자가 아니라고 해석될 가능성이 있습니다.  그러나 사업주가 구축 · 운영하는 안전관리 플랫폼을 협력업체, 관계회사 등 제3자에게 제공하는 경우, 인공지능의 구체적 사양과 기능을 지정하여 시스템 개발을 위탁하는 경우 등에는 사업주도 인공지능이용사업자 내지 인공지능개발사업자로 평가될 수 있으므로, 외부 공급업체의 책임이라는 이유만으로 관련 규율로부터 자유롭다고 단정하기는 어렵습니다.<br />
<br />
나아가 인공지능기본법 제34조 제1항은 고영향 인공지능과 관련한 인공지능 사업자의 책무로, ①위험관리 방안 수립 · 운영, ②설명 방안 수립 · 시행, ③이용자 보호 방안 수립 · 운영, ④사람의 관리 · 감독, ⑤안전성 · 신뢰성 확보 조치 문서의 작성 · 보관 등의 책무를 부과하고 있습니다.  과학기술정보통신부가 발표한 ‘고영향 인공지능 사업자 책무 가이드라인’에서는 위 ④의 ‘사람의 관리 · 감독’ 의무를 Human-in-the-loop(인공지능이 의사결정을 수행하지 않으며, 사람이 수행하는 의사결정에 보조적인 용도로 사용), Human-over-the-loop(인공지능이 의사결정을 수행하나 사람이 해당 결과를 모니터링하고 최종 결정에 개입), Human-out-of-the-loop(인공지능이 독립적으로 의사결정)의 세 단계로 분류하면서, 개발사업자는 사람이 인공지능의 작동과 결과 도출을 식별하고 개입할 수 있도록 설계해야 하고, 이용 사업자는 예외 상황 등 발생 시 사람이 해당 문제를 진단하고 조치할 수 있는 권한과 도구를 갖출 것을 요구하고 있습니다.</div>

<div><br />
유럽연합(EU)은 최근 AI 기술에 관한 포괄적인 규정인 ‘인공지능에 관한 조화규칙[Regulation (EU) 2024/1689, 이하 ‘<strong>EU AI Act</strong>’]’을 2024년 6월 13일 제정했고, 이는 2024년 8월부터 발효됐습니다(고위험 AI에 대한 의무 조항은 2027년 12월부터 시행).<br />
<br />
EU AI Act 부속서(Annex) III 제2항은 핵심 디지털 기반 시설의 관리 및 운용, 도로교통 또는 물, 가스, 열 · 전기의 공급에서 안전 구성요소로 사용할 인공지능 시스템을 고위험 AI로 분류합니다.  일반 제조업 · 건설업 사업장의 안전관리시스템이 동 조항에 직접 포섭된다고 보기는 어려우나, 전력 · 가스 · 수도 등 핵심 인프라 운영 사업장의 안전관리 AI는 적용 대상이 될 수 있습니다.<br />
<br />
또한 부속서 III 제4항 ⒝호는 개인의 행동 또는 개인 특성이나 특징을 기반으로 업무를 할당하거나 이러한 관계에서 사람의 성과 및 행동을 모니터하고 평가하기 위해 사용할 인공지능 시스템을 고용 · 근로자 관리 영역의 고위험 AI로 별도 분류하고 있어, 작업자의 행동 · 생체 정보 등을 실시간 모니터링 · 분석하는 형태의 안전관리 AI도 이 항목에 포섭될 가능성을 완전히 배제하기는 어렵습니다.<br />
<br />
EU AI Act 제14조는 고위험 AI에 대한 ‘Human Over-sight(인적 감독)’ 의무를 규정하면서, 제2항에서 AI에 대한 사람의 감독 목적이 ‘건강, 안전 또는 기본권에 대한 위험을 방지 · 최소화하는 것’에 있음을 명시하고 있습니다.  특히 같은 조 제4항은 인적 감독 의무를 수행하는 사람이 행할 수 있어야 하는 사항으로 ⒜AI 시스템의 능력과 한계에 대한 적절한 이해와 운용 모니터링, ⒝자동화 편향(Automation Bias)에 대한 인식, ⒞산출물의 정확한 해석, ⒟AI 시스템을 사용하지 아니하거나 그 산출물을 무시 · 전환할 권한, ⒠‘정지’ 버튼 또는 유사한 절차를 통한 안전한 중지 권한을 열거하고 있습니다.  이와 같은 의무는 안전보건관리체계 내에서 AI 시스템을 운용하는 안전보건관리책임자 등의 경우 참고할 만한 기준이 될 수 있을 것입니다.<br />
<br />
<br />
<span style="color:#c0392b;"><strong>4. 실무상 유의점</strong></span><br />
<br />
<strong>가. AI 시스템 도입과 안전보건확보의무 이행 여부</strong><br />
<br />
AI 안전관리시스템의 도입 사실만으로 관련 안전보건확보의무를 이행한 것으로 평가하기는 어려울 것입니다.  중대재해처벌법 시행령 제4조 각 호의 체계 구축 및 이행에 관한 의무는 AI 시스템의 도입과 별개로 독자적으로 평가되며, AI 시스템은 그 의무 이행의 보조 수단임을 명확히 인식할 필요가 있습니다.<br />
<br />
오히려 다음과 같은 경우에는 AI 시스템 도입에도 불구하고 책임 가중 사유로 작용할 수 있다는 점에 유의해야 할 것입니다.  ①AI 시스템 도입을 명목으로 인적 안전관리 인력을 축소 · 재배치한 경우, ②AI 시스템 도입 예산만 편성되고 안전관리자 · 관리감독자 교육 예산이 감소한 경우, ③AI의 경보, 알람에 대한 인적 대응 매뉴얼이 부재한 경우, ④AI 시스템 도입 후 사업장의 안전 · 보건 목표와 경영방침이 그에 부합하도록 정비되지 않은 경우 등이 그러합니다.<br />
<br />
<strong>나. AI 시스템의 오작동과 책임 분배</strong><br />
<br />
AI 안전관리시스템은 본질적으로 통계적 모델에 기초하므로 오탐지(False Positive)와 미탐지(False Negative) 등 오작동을 완전히 제거할 수 없습니다.  특히 야간 · 악천후 · 조명 불량 등 환경 조건이 열악한 경우 또는 학습 데이터에 없던 새로운 위험 패턴이 발생하는 경우 시스템의 정확도가 급격히 저하될 수 있습니다.<br />
<br />
AI 시스템의 오작동으로 중대재해가 발생한 경우 책임 분배는 다음과 같이 나눠 볼 수 있습니다.  먼저, AI 시스템의 한계가 도입 단계에서 충분히 평가되고 안전보건관리규정에 명시됐으며 그에 부합하는 인적 감독, 점검 시스템이 마련돼 있는 경우라면, AI의 미탐지가 곧바로 경영책임자의 책임으로 귀속된다고 보기는 어려울 것입니다.  반대로 AI 시스템의 한계 등 평가 없이 인적 감독을 축소한 경우 또는 확인된 AI 시스템의 한계 영역에 대한 인적 대응 절차가 부재한 경우라면, AI의 미탐지로 인한 사고는 시스템적 결함의 결과로 평가돼 경영책임자에게 책임이 귀속될 가능성을 배제하기 어렵습니다.<br />
<br />
<strong>다. 외부 위탁과 면책의 한계</strong><br />
<br />
수원고등법원 2025노1502 판결은 산업안전보건법상 위험성평가를 외부 컨설팅 기관에 위탁해 실시한 사안에 관해, 위험성평가를 위탁 실시했다는 사정만으로 관련 업무 절차를 마련할 사업주의 의무까지 면제되지는 않는다고 판시했습니다.  AI 안전관리시스템은 대부분 외부 솔루션 공급업체로부터 도입되며, 시스템의 운영 · 유지보수도 외부 업체가 위탁받아 수행하는 경우가 많습니다.  AI 안전관리시스템의 운영에 관한 외부 위탁 시에도 유사한 법리가 적용될 수 있을 것입니다.<br />
<br />
특히, ①AI 시스템이 구체적으로 어떠한 사업장 내 유해 · 위험 요소를 감지하도록 설정할 것인지에 관한 의사결정, ②AI 시스템의 결과 탐지 시 인적 대응 절차의 마련, ③AI 시스템의 한계 또는 사각지대에 대한 감독 및 평가는 경영책임자의 의무로 판단될 가능성이 높습니다.<br />
<br />
<strong>라. AI 작동에 대한 인적 감독의 필요성</strong><br />
<br />
AI 안전관리시스템의 핵심 가치는 사고 발생 전 위험 신호를 안전보건관리체계 내로 전달하는 데 있습니다.  그러나 AI 시스템이 관련 위험 요인을 도출하더라도 그에 대한 인적 대응이 부재하거나 형해화돼 있다면 시스템 도입의 효과는 무력화됩니다.  따라서 AI 시스템 도입 단계에서 ①AI 경보의 위험도별 등급과 등급별 대응 절차, ②각 등급별 대응 주체(현장 작업자 · 관리감독자 · 안전관리자 · 경영책임자 등), ③대응 기준, ④대응 결과의 기록 · 보고 절차 등을 사전에 명문화할 것이 요구됩니다.<br />
<br />
안전관리자 · 관리감독자 등 안전보건관리체계 내 핵심 인력에 대한 AI 시스템의 작동 원리, 한계, 오탐지 · 미탐지 가능성, 환경 조건별 성능 변화 등 정기 교육을 통해 AI 시스템에 관한 비판적 검토 역량을 제고할 필요도 있습니다.  특히 EU AI Act 제14조 제4항이 요구하는 인적 감독의 5가지 기준을 AI 안전관리시스템 관련 직무 기준에 반영하는 방안도 고려할 수 있는데, 특히 ⒟AI 시스템을 사용하지 아니하거나 그 산출물을 무시 · 전환할 권한과 ⒠안전한 중지 권한에 대해서는 그 행사에 대한 합리적인 기준 마련도 함께 이루어져야 할 것입니다.<br />
<br />
<br />
<span style="color:#c0392b;"><strong>5. 마치며</strong></span><br />
<br />
AI 안전관리시스템이 안전보건관리체계 구축 · 이행에 기여할 수 있는 유효한 수단임을 부정하기는 어렵습니다.  그러나 AI 시스템 도입은 새로운 차원의 의무 이행을 요구하고 있습니다.  인공지능기본법 제34조 제1항의 사업자의 책무, 과학기술정보통신부 가이드라인이 제시한 사람의 관리 · 감독 의무, EU AI Act 제14조의 ‘인적 감독(Human Oversight)’ 의무는 공통적으로, AI 시스템의 작동 과정에 사람이 개입하고 책임을 부담할 것을 요구하고 있기 때문입니다.  향후 AI 안전관리시스템을 통해 이루어진 안전보건관리체계 구축 · 이행에 관한 유관기관의 판단 사례, 인공지능기본법 시행 이후 관련 시스템 운용 사례 축적에 따라 관련 논의가 보다 정교화될 수 있을 것으로 예상됩니다.<br />
<br />
<span style="color:#999999;">✻ 이 글은 월간 노동법률 2026년 6월호에 게재된 글을 수정 보완한 것입니다.</span></div>
</div>
</div>

칼럼 [노동] 취업규칙에 의한 정년연장형 임금피크제 도입의 불이익변경 해당성 및 절차적 유의점 2026.07.24

칼럼 [건설 · 부동산] 실무상 자주 문제되는 상가임대차법의 세 가지 쟁점 2026.07.23

목록으로

JIPYONG 법무법인[유] 지평

관련 업무분야

관련 구성원

관련 업무분야

관련 구성원

SHARE

면책공고

유한책임