[바이오타임즈] 코로나19 팬데믹은 보건 의료계에서 인공지능 기술의 빠른 상용화를 촉진했다. 영국의 인공지능 스타트업인 베네볼런트AI(BenevolentAI)는 신종 질병 치료약물을 식별하기 위해 통상적으로 8년이 걸리던 기간을 인공지능 기술을 활용해 단 1주일로 단축하기도 했다.

이처럼 AI는 신약 개발에 필요한 분자를 찾아내는 것은 물론, 환자의 질병 상태를 보다 정확하게 진단하고 환자가 치료에 어떻게 반응할지 예측할 뿐만 아니라 병상 현황을 파악하는 등 의료 자원 계획을 개선하는 데에도 활용되고 있다.

그러나 급속한 기술 도입이 데이터의 편향이나 오·남용 등의 맹점을 함께 가져왔다는 우려도 대두되고 있다. 그중에서도 보건 의료 분야는 인공지능을 뒷받침하는 데이터의 품질과 검증 여부가 생명과 직결되기 때문에 인공지능 기술의 타당성과 안전성이 무엇보다도 우선시 되어야 한다.

AI 기술이 빠르게 발전해 AI 의료 서비스가 점점 더 확대되면서, 이것을 얼마나 신뢰할 수 있는지, 서비스의 기반이 되는 데이터 품질이나 데이터 분석 결과가 제대로 되었는지 확인하는 것이 매우 중요해지고 있다. 의사와 환자들이 생명이 걸린 진단을 내릴 때, AI 기반 정보가 얼마나 신뢰할 수 있는 것인지를 이해할 필요가 있다는 의미다.

이에 KAIST는 더욱 많은 사람이 인공지능 기술의 책임성에 관한 질문을 던져야 한다는 문제의식을 바탕으로 가이드를 제작했다.
 

◇KAIST, 세계 최초로 보건의료 분야 인공지능 활용 가이드 개발

KAIST 한국4차산업혁명정책센터(센터장 김소영, 이하 KPC4IR)는 ʻ사회를 위한 보건의료 분야 인공지능 활용 가이드(Using Artificial Intelligence to Support Healthcare Decisions: A Guide for Society)ʼ를 국제 공동연구를 통해 개발했다고 15일 밝혔다.

KPC4IR의 이번 연구는 유럽과 아시아를 아우르는 국제 공동 연구자들이 보건 의료라는 특정 분야에서 인공지능 기술의 가이드를 제시한 세계 최초의 사례다.

공동연구에는 싱가포르국립대학교·테크놀로지기업 어피니디(Affinidi), 스페인 마드리드 카를로스 3세 대학교, 영국 로이드 선급 재단·가이 앤드 세인트 토마스 국가 보건 서비스 재단 등에 소속된 전문가들이 자문과 인터뷰, 워크숍 등의 방식으로 참여했다.

국내에서는 서울아산병원, 분당서울대병원 등을 비롯한 의료계와 KAIST AI대학원·바이오및뇌공학과, 과학기술정책연구원, 정보통신정책연구원, 인공지능 솔루션 기업 뷰노 등 다수의 산·학·연 관계자들이 함께했다.
 

◇인공지능 활용에서의 신뢰성과 공정성 확보를 위한 기준 제시

이번 가이드는 보건 의료 분야에 적용되고 있는 인공지능 기술의 신뢰성을 확보하기 위해 마련됐다. 연구진이 말하는 책임성이란 인공지능 기술이 데이터의 편향성으로 현존하는 불평등을 악화시키지 않도록 주의하고, 데이터의 정확성을 확보해 결과의 오류를 최소화하는 등의 노력이다.

KPC4IR은 이번 가이드 개발을 위해 지난 1년간 싱가포르국립대학교의 리스크공공이해연구소(National University of Singapore Lloyd’s Register Foundation Institute for the Public Understanding of Risk), 영국의 대표적인 과학 기술 비영리 기관인 센스 어바웃 사이언스(Sense about Science)와 함께 국제 공동연구를 수행했다.

이 가이드에는 의료영상 분석 및 진단의 효과성 제고와 빅데이터를 활용한 질병 예측 및 임상적 의사결정, 신약 개발 분야 시간 단축 등 의료 분야에 인공지능 기술을 적용한 국내·외 사례가 담겨 있다.

또한, 학습 데이터에 누락되거나 제외된 정보가 있다면 인공지능이 편향성을 나타낼 수 있으며, 원래와는 다른 용도로 사용할 경우 변수 간의 연관 관계나 심지어는 결과까지도 잘못 판단할 수 있다는 점도 강조했다.

사람들은 인공지능의 의사결정이 냉철하고 객관적일 것으로 생각하지만, 인공지능은 현실에 존재하는 데이터들 바탕으로 학습한다. 이는 우리가 가진 사회적 편견과 편향, 위험한 가정들을 그대로 내재한 결과가 도출될 수도 있다는 뜻이다.

연구진은 인공지능 기술을 보건의료 분야에 활용하는 데 있어 가장 중요한 요소 중 하나인 신뢰성(Reliability)을 중심으로 데이터의 품질·변수 등과 관련된 공정성 문제를 파악하고 기술의 정확성을 점검할 수 있는 다섯 가지 기준 ▲출처가 정확한 데이터 사용 ▲사용 목적에 맞는 데이터의 수집 또는 선택 ▲제한 사항과 가정의 정확한 언급 ▲데이터의 편향성 명시 ▲실제 환경에서의 적절한 테스트 등을 가이드에 담았다.

연구를 총괄한 김소영 KPC4IR 센터장은 “보건의료 분야의 인공지능 기술이 충분히 견고한지를 검증하는 질문들이 우리 사회에서 활발하게 논의된다면, 궁극적으로 인공지능 기술의 역량을 끌어올리는 것과 동시에 신뢰할 수 있는 기준을 마련할 수 있을 것ˮ이라고 말하며 “인공지능 기술에 대한 국민의 이해도를 높여 한계점과 개선 사항을 인식해나가는 과정에서 이번 가이드가 중요한 역할을 해 줄 것으로 기대하고 있다ˮ고 덧붙였다.

KPC4IR은 이번 성과를 국제적으로 공유하기 위해 8월 15일 오전 10시부터 온라인으로 열린 ʻ2021 KDD 국제 워크숍ʼ에서 연구 내용을 발표했다.

ʻ사회를 위한 보건의료 분야 인공지능 활용 가이드ʼ의 전체 내용은 KAIST 한국4차산업혁명정책센터와 싱가포르국립대 리스크공공이해연구소의 홈페이지에서 확인할 수 있다.

[바이오타임즈=김수진 기자] sjkimcap@biotimes.co.kr

김수진 기자 다른기사 보기