법무법인[유] 지평 || [지평기술센터] AI 기반 신약개발 시대, 규제기관의 요구와 산업계의 준비

법률정보|칼럼

[지평기술센터] AI 기반 신약개발 시대, 규제기관의 요구와 산업계의 준비

2026.08.27

<div style="text-align: right;">김유미 고문변호사(前 식품의약품안전처 차장), 서경원 고문(前 식품의약품안전평가원)</div>

<div style="text-align: justify;"> 
1. 들어가며 
 
신약개발의 병목은 오랫동안 ‘시간’과 ‘실패율’이었습니다.  후보물질 발굴부터 허가까지 통상 10년 이상, 수조 원의 비용이 소요되고 그중 임상 단계에 진입한 물질의 대다수는 끝내 시장에 나오지 못합니다.  최근 수년 사이 이 구조에 균열을 내고 있는 것이 인공지능입니다.  가상 스크리닝으로 유효물질을 미리 걸러내고, 임상시험 설계를 최적화하며, 이상반응을 조기에 탐지하는 AI 도구들이 신약개발 현장에 빠르게 스며들고 있습니다. 
 
문제는 규제기관이 이 변화를 어떻게 받아들이고 있는지 입니다.  신약개발용 AI는 진단 보조 AI처럼 결과물이 눈에 보이는 것이 아니라, 개발 과정 곳곳에 스며들어 데이터의 신뢰성과 의사결정의 설명가능성 자체를 흔드는 유형의 기술입니다.  2026년 들어 미국 FDA와 한국 식약처, 그리고 국내 AI기본법이 거의 동시에 이 문제에 대한 답을 내놓기 시작했습니다.  이 글에서는 세 갈래의 최근 규제 동향을 짚어보고, 국내 제약바이오 기업과 함께 지금 무엇을 준비해야 하는지 살펴보겠습니다. 
 
 
2. AI, 신약개발의 방식을 바꾸다 
 
현재 신약개발 현장에서 AI는 크게 네 가지 방식으로 활용되고 있습니다.  첫째, 방대한 화합물 라이브러리에서 유효물질 후보를 예측하는 가상 스크리닝입니다.  둘째, 임상시험 대상자의 반응을 예측하고 최적의 시험군을 설계하는 예측 모델링입니다.  셋째, 기존 승인 약물의 새로운 적응증을 찾아내는 약물 재창출(drug repurposing)입니다.  넷째, 임상시험 진행 중 실시간으로 이상반응 신호를 탐지하는 안전성 모니터링입니다. 
 
이 네 가지 활용은 모두 개발 속도를 높이고 실패 확률을 낮춘다는 공통된 기대를 받고 있지만, 동시에 공통된 우려도 안고 있습니다.  AI가 예측하거나 생성한 데이터를 검증 없이 그대로 신뢰할 경우, 실제로 존재하지 않는 정보를 마치 사실인 것처럼 제시하는 이른바 환각(Hallucination) 현상이 임상 데이터의 신뢰성 자체를 훼손할 수 있다는 점입니다.  규제기관들이 최근 일제히 움직이기 시작한 배경에는 바로 이 지점이 있습니다. 
 
 
3. 美 FDA의 대응: ‘설명가능한 AI(XAI)’ 원칙의 도입 
 
FDA는 2025년 초 의약품 또는 바이오의약품 개발 과정에서 AI를 활용하는 경우에 관한 가이드라인 초안을 처음으로 발표하며 신뢰 기반 프레임워크를 제시한 바 있습니다(‘Considerations for the Use of AI to Support Regulatory Decision-Making for Drug and Biological Products’ Draft).  이어 2026년 5월에는 AI 기반 신약개발과 임상시험 설계에 관한 가이드라인 개정 논의를 공식적으로 시작했는데, 그 핵심은 ‘설명가능한 AI(Explainable AI, XAI)’ 원칙의 도입입니다. 
 
이는 AI가 도출한 예측 결과나 판단 근거를 규제당국이 사후적으로 검증할 수 있도록, 그 산출 과정을 명시적으로 제시하도록 요구하는 접근입니다.  기존의 신약개발 규제 프레임워크는 전통적인 개발 방식을 전제로 설계되어 있어, 예측 모델링이나 약물 재창출처럼 AI가 주도하는 프로세스를 그대로 규제하기 어렵다는 문제의식이 이번 개정 논의의 출발점입니다.  FDA는 AI 모델의 투명성과 편향성 검토, 학습 데이터의 품질 기준을 명확히 하는 방향으로 2026년 하반기 중 개정 초안을 내놓을 예정입니다. 
 
아울러 FDA는 심사 절차 자체에도 AI를 적극 도입하고 있습니다.  AI를 활용한 제품 검토를 확대하는 한편, 심사기간을 대폭 단축하는 바우처 프로그램과 동물실험 단계적 축소 계획도 함께 추진하며 ‘환자 중심·데이터 중심·윤리 중심’이라는 세 축을 새로운 표준으로 제시하고 있습니다. 
 
 
4. 식약처의 대응: AI 심사 도입 로드맵 
 
국내 식약처도 2026년을 기점으로 의약품·의료기기 규제 체계 전반의 개편에 나섰습니다.  허가·심사 속도를 세계 최고 수준으로 끌어올리는 것을 목표로, 허가자료 요약과 전문 번역, 검토서 초안 작성을 지원하는 AI 시스템을 단계적으로 도입하고 있습니다.  첫 단계에서는 전문 번역과 동등의약품 검토에 AI를 적용하고, 이후 개량신약과 신약 심사로 그 범위를 확대해 나갈 계획입니다. 
 
이러한 움직임은 기업이 제출하는 허가자료의 AI 활용 여부와는 별개로, 심사기관 스스로가 AI를 심사 도구로 채택한다는 점에서 또 다른 수준의 논의와 쟁점을 예고합니다.  심사기관이 AI로 초안을 작성한 검토서를 바탕으로 내려진 인허가 판단의 법적 안정성을 어떻게 담보할 것인지, 그 검증 책임을 심사관과 AI 시스템 사이에서 어떻게 배분할 것인지가 향후 실무상 쟁점으로 부상할 가능성이 있습니다. 
 
 
5. AI기본법 시행과 제약바이오기업의 새로운 컴플라이언스 
 
‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI기본법)이 2026년 1월 22일부터 시행되었고, 디지털 의료기기에 관한 규정은 이틀 뒤인 1월 24일부터 별도로 시행되었습니다(디지털 의료제품법).  AI기본법은 사람의 기본권이나 신체적 안전에 중대한 영향을 미칠 수 있는 ‘고영향 AI’를 제공하는 사업자에게 투명성 고지, 안전성·신뢰성 확보 조치, 위험관리방안 수립, 이용자 보호 조치 등을 요구합니다. 
 
의료 AI 솔루션을 개발·판매하는 제약바이오 기업이라면, 자사 AI가 고영향 AI에 해당하는지를 우선 판단해야 합니다.  법 위반 시 제재가 뒤따르는 명확한 강행규정 외에도, 고영향 AI에 대해서는 인권·윤리 영향평가를 자체적으로 실시하도록 노력할 의무가 함께 부과되어 있어, 이 부분도 소홀히 하기 어렵습니다.  이러한 AI기본법상 의무는 식약처의 소프트웨어 의료기기(SaMD) 규제와도 상당 부분 겹치므로, 두 규제를 개별적으로 대응할 것이 아니라 하나의 거버넌스 체계로 통합해 관리하는 것이 효율적입니다. 
 
 
6. 규제과학의 역할 변화 — 검증되지 않은 데이터의 위험 
 
AI가 신약개발 과정에 깊이 관여할수록, 규제과학의 역할도 ‘완성된 데이터를 평가하는 것’에서 ‘데이터가 만들어지는 과정 자체를 검증하는 것’으로 확장되고 있습니다.  AI가 제시한 예측 결과나 가상 실험 데이터를 인간 연구자의 검증 없이 그대로 신뢰하여 임상시험 설계나 허가자료에 반영하는 것은, 최선의 경우 심사 지연으로, 최악의 경우 실시가능요건이나 자료의 진실성 문제로 이어질 수 있습니다. 
 
<div style="background: rgb(238, 238, 238); border: 1px solid rgb(204, 204, 204); padding: 25px; text-align: justify;">Q&A: ‘설명가능한 AI(XAI)’란 무엇이고 왜 중요한가? 
 
설명가능한 AI란 AI가 특정한 예측이나 판단에 도달한 근거와 과정을 사람이 이해할 수 있는 형태로 제시할 수 있는 AI를 말합니다. 
 
신약개발에 활용되는 AI가 ‘블랙박스’처럼 결과만 제시한다면, 규제기관은 그 예측이 임상적으로 신뢰할 수 있는지 검증할 방법이 없습니다. 
 
FDA가 XAI 원칙을 도입하려는 이유도 여기에 있습니다.  AI의 판단 근거가 documented되어야, 규제기관이 사후적으로 그 타당성을 심사하고 문제 발생 시 원인을 추적할 수 있기 때문입니다.</div>
 
 
7. 국내 기업이 준비해야 할 것 
 
<ul>
	<li>AI 모델 문서화 체계 구축: 신약개발에 활용한 AI 모델의 학습 데이터 출처, 검증 방법, 의사결정 과정을 기록으로 남겨 두어야 향후 허가심사나 규제 대응 시 근거자료로 활용할 수 있습니다.</li>
	<li>데이터 품질·편향성 사전 점검: 특히 미국 시장 진출을 계획하는 기업이라면, FDA가 발표하는 최신의 XAI 가이드라인을 지속적으로 파악하고, 지금부터 내부 데이터 거버넌스 체계를 정비해 둘 필요가 있습니다.</li>
	<li>AI기본법상 고영향 AI 해당 여부 사전 판단: 의료 AI 솔루션을 자체 개발·판매하는 기업은 SaMD 규제와 AI기본법 규제를 통합적으로 검토하는 컴플라이언스 체계를 갖추어야 합니다.</li>
	<li>AI 산출 데이터의 인간 검증 프로세스 명문화: AI가 제시한 실험 결과·예측치를 연구자가 어떤 절차로 검증했는지 연구노트 등에 기록해 두는 것이, 향후 자료의 신뢰성이 문제가 되었을 때 가장 유력한 방어 근거가 됩니다.</li>
</ul>

8. 나오며 
 
AI 기반 신약개발을 둘러싼 규제는 아직 완성된 답을 내놓지 못했습니다.  FDA와 EMA 모두 의약품, 바이오의약품 개발과 관련된 XAI 가이드라인과 GMLP에 대한 규정 초안을 발표한 이후 지속적으로 최신화 하고 있습니다.  우리나라의 경우, 식약처의 AI 심사 도입이 이제 막 첫 단계를 밟고 있으며, AI 기본법 역시 시행 초기 단계로 구체적 적용 사례가 축적되지 않았습니다.  그러나 방향성만큼은 뚜렷합니다.  규제기관은 AI가 만들어낸 결과를 블랙박스로 남겨두지 않고, 그 과정을 설명할 수 있어야 한다는 요구를 공통적으로 내놓고 있습니다. 
 
규제과학과 지식재산, 개발 실무가 맞물려 있는 바이오헬스 산업의 특성상, AI 규제 대응은 특정 부서만의 과제가 아니라 개발 초기 단계부터 법무·인허가·연구개발이 함께 설계해야 하는 문제입니다.  지평기술센터는 앞으로도 국내외 AI 규제 동향을 지속적으로 모니터링하며, 바이오헬스 기업이 AI 활용의 이점을 안전하게 누릴 수 있도록 규제과학적 관점의 자문을 제공하겠습니다.
</div>

Issue Briefing [금융규제] 「펀드 핵심위험 표준안」 도입 — 고위험 펀드의 핵심 투자위험 · 과거 손실내역 공시 2026.09.03

목록으로

JIPYONG 법무법인[유] 지평

관련 업무분야

관련 업무분야

SHARE

면책공고

유한책임