[기고문] 인공지능 기술 적용 의료기기 수출과 유럽 인공지능법 준수사항 > 소식

이번 기고문에서는 인공지능 기술이 적용된 의료기기 수출을 위해 우리나라 기업들이 알아야 할 유럽 인공지능법의 적용 시점과 인공지능 기술을 활용하여 의료기기를 제조하는 기업의 주요 의무를 살펴보려고 합니다.

유럽 인공지능법은 2024년 7월 유럽 관보에 게재되어, 이미 8월 1일자로 효력이 발생했습니다. 해당 법의 적용 시점은 2026년 8월 2일이지만, 구체적인 규정에 따라 적용 시점이 달라집니다.

예를 들어, 금지된 인공지능 시스템에 대한 규정은 다른 규정들보다 빨리 적용될 예정입니다. 인간의 의사결정이나 행동을 왜곡하게 하는 경우, 인공지능이 인간의 등급을 매기는 경우, 인공지능이 범죄 예측을 하거나 회사나 학교에서 인간의 감정을 인식하고 예측하는 경우, 생체정보로 인종이나 정치적 성향 등을 예측하는 경우, 인터넷 등에서 얼굴 이미지를 스크래핑해서 얼굴 인식 데이터베이스를 생성하는 경우 등이 금지된 인공지능 시스템 분야인데, 이러한 인공지능이 포함된 제품은 바로 내년 초 2025년 2월 2일부터 유럽 내 공급이나 서비스 출시가 불가능합니다.

금지된 인공지능 시스템보다는 위험이 경미하지만, 높은 수준의 위험을 가진 인공지능 시스템을 고위험 인공지능 시스템으로 분류하는데, 유럽 인공지능법에서는 유럽 의료기기 규칙의 적용을 받는 의료기기에 인공지능이 사용되고, 해당 규칙에 따라 적합성 평가를 받아야 한다면 해당 의료기기를 고위험 인공지능 시스템으로 분류합니다.

따라서 유럽 인공지능법 중 고위험 인공지능 시스템이 적용되는 시점인 2027년 8월 2일부터는 인공지능 기술이 접목된 의료기기를 유럽 내에 공급, 유통하기 위해서 유럽의 의료기기 규칙(Medical Device Regulation 제2017/745호)을 준수해야 할 뿐만 아니라, 유럽 인공지능법의 고위험 인공지능 시스템에 대한 의무 규정을 준수해야 합니다.

구체적으로 유럽 인공지능법에서는 이러한 고위험 인공지능 시스템으로 분류되는 의료기기의 경우, ① 위험 관리 시스템을 운영해야 하고, ② 해당 인공지능 시스템에 관한 설계, 데이터셋, 모니터링 등 상세한 설명이 포함된 기술 문서를 작성해서 보관해야 합니다. 그리고 ③ 시스템 사용 기간 동안 로그를 자동 기록해야 하는 의무와 로깅 기능의 구체적 내용도 규정되어 있습니다.

④ 투명성 의무로서는 고위험 인공지능 시스템 자체를 추적, 설명이 가능한 방식으로 개발, 이용해야 하고, 이러한 시스템을 업무적으로 이용하는 자(deployer)에 대한 정보제공 의무도 있습니다. 또한 ⑤ 고위험 인공지능 시스템을 사람이 감독하는 체계를 마련해서 인간의 건강과 안전, 기본권에 대한 침해가 발생하지 않도록 해야 하고, ⑥ 정확성을 보장하며, 백업이나 오류의 방지 및 해킹 등에 대응할 능력 또한 갖추어야 합니다. 무엇보다 ⑦ 적합성 평가를 받고, CE 마크를 표기하여 제품을 유통하여야 하는데 이러한 의무는 유럽 의료기기 규칙의 준수사항과 유사한 점이기도 합니다.

나아가 데이터로 인공지능 모델 학습을 하는 것을 포함하는 경우라면 데이터 거버넌스와 관련된 의무도 준수해야 하고, 이외에 인공지능 기술이 적용된 의료기기 공급자는 품질관리 시스템 마련이나 유럽 데이터베이스 등록 의무 등도 준수해야 합니다. 따라서 현재 인공지능을 활용하여 의료기기를 제조하고 있거나 제조할 계획에 있는 기업들은, 향후 유럽 진출을 계획함에 있어 유럽 인공지능법의 규제 사항을 사전에 확인하여 이를 단계별로 준비할 필요가 있습니다.

원문 기사 링크(메디파나 뉴스): https://www.medipana.com/news/articleView.html?idxno=333315