█ 인공지능이 인간을 대체할 수 없는 ‘이유가 존재한다’
█ 인공지능(AI) 의사에게도 치명적인 단점이 곳곳 노출
█ 2016년 AI 의사 ‘왓슨’ 광풍, 2018년에 소멸된 미풍
█ 개발자IBM 사업팀 구조 조정 국가별 특성 반영 안되
인공지능(AI)시대가 우리 앞에 현실로 다가오면서 인류는 앞으로 어떻게 될 것인가? 많은 혼란이 예상된다. 즉, 단 한 번도 경험하지 못한 시대가 오고 있기 때문이다. 인간이 하는 동작을 기계가 하는 세상이 왔기 때문이다. 로봇이 인간을 대체하고 인공지능이 인간을 지배하는 세상이 다가왔 다. 앞으로 인류는 두 계급으로 나뉜다고 한다. 인공지능에게 지시를 내리는 계급과 인공지능에게 지시를 받는 계급. 이 현상을 이해하지 못하면 우리들 생활 자체가 불편해진다. 최근 한국에서 미국의 IBM이 개발한 인공지능 “명의 왓슨”(Dr. Watson)을 성급히 도입했다가 크게 낭패를 보았던 사건 은 우리에게 인공지능을 다시금 보는 계기를 마련했다. 인공지능을 만능으로 보는 인식을 다시 보도록 했기 때문이다.
<성진 취재부 기자>
지난 2016년 12월 초 인공지능 의사 “왓슨”(Dr. Watson)이 국내 처음으로 길병원에 들어왔을 때 의료계에 그야말로 광풍이 불었다. 당시 인공지능 알파고가 이세돌 구단을 꺾는 열풍과 맞물리 면서 왓슨은 병원에 ‘혁명’을 불러올 것처럼 보였다. 왓슨이 의사보다 더 뛰어난 실력을 보이면 어쩌나 하는 부질없는 고민을 하던 시기였다. 당시 국내 최초로 왓슨을 도입한 길병원은 이를 대대적으로 홍보했고, 결국 서울로 향하던 암 환자들의 발길을 돌려 세웠다. 다음 해인 2017년 대구가톨릭대병원, 건양대병원, 조선대 병원, 전남대병원 등이 가세했다. 심지어 중앙보훈병원도 왓슨을 병원에 들여놓으면서 왓슨의 전성 시대는 계속될 것만 같았다.
왓슨 (Dr. Watson)광풍과 쇄퇴
당시 인공지능 의사 왓슨은 이렇게 소개되었다. 8,500개 이상의 의료기관이 축적한 의료 정보, 120만 편 이상의 의학 논문, 400만 건 이상의 제약 특허, 1억명 이상의 환자 정보, 2억명 이상의 생체 정보, 300억장 이상의 의료, 이미지 X-RAY, CT, MRI 파일을 지니고 있었다. 그리고 인공지능 의사 왓슨의 공부를 인간 의사의 공부와 비교해 보라고도 했다. 제아무리 천재적인 학습 능력을 가진 인간 의사라 한들 지금까지 왓슨이 공부한 1만 분의 1이라도 따라 갈 수 있을 까? 게다가 인간 의사와 달리 왓슨은 한 번 공부한 것은 절대로 잊어 버리지 않는다. 또 한 번 공부 한 의학 지식을 불러내는 데 0.1초도 걸리지 않는다. 한 마디로 ‘의학 공부’에 있어서 인간 의대생들과 인간 의사들은 이미 오래전에 인공지능에게 완패했다고 지적하기도 했다.
미국 종양학회에 따르면 인간 의사들의 암 진단 정확도는 80% 수준이라고 한다. 당시 인공지능 의사 왓슨은 어떨까? 방광암 91%, 췌장암 94%, 대장암 98%, 자궁경부암 100%다. 특히 폐암 진단의 경우 50%에 불과한 인간 의사들보다 무려 40%나 높은 90%의 정확도를 왓슨은 자랑 하고 있었다. 한마디로 의료기술의 정점인 암 진료에서 왓슨은 이미 오래전에 인간의사들, 그것도 세계 최고 수준의 의사들을 뛰어넘었다고 했다. 여기에 무서운 사실이 있다고 했다. 인공지능 의사는 잠시 한 눈을 팔지도, 커피를 마시거나 밥을 먹지도, 음악을 듣거나 영화를 보지도, 친구를 만나거나 가족과 시간을 보내 지 도, 멍하니 있거나, 쉬거나 휴가를 가지도, 잠을 자지도 않고서 인류에게 절대 불가능의 영역인 ‘의학과 의료의 완성’을 향해 나아가고 있다고 있다.
다시 더 무서운 사실이 있다고도 했다. 인간 환자들은 인공지능 의사를 인간 의사보다 더 편안하게 여기고, 더 좋아하고, 더 의지하고, 더 믿고, 더 따르고 있다고도 했다. 그 사례 중의 하나인 2016년 인공지능 의사 왓슨을 도입한 가천대학교 길병원이 그해 말 암환자 100명을 대상으로 “만일 인간 의사와 인공지능 의사가 서로 다른 처방을 내린다면 어떻게 할 것 인가?”라고 물었다. 그러자 100명 모두가 “인공지능 의사의 처방을 따르겠다”라고 대답했다. 실제로 암환자들은 인간 의사와 인공지능 의사 왓슨의 치료법이 다르게 나오면 왓슨의 처방을 따랐다는 것이다. 2016년 당시의 당시 암 환자들은 Big5 병원(서울대병원, 세브란스, 가톨릭대 성모병원, 삼성서울, 서울 아산 병원)에서 가천대 길병원으로 몰리고 있었다.
또 그 당시 앞으로 의료계에서 일어날 일에 대해서, 1) 명의라는 단어가 사라진다. (있다면 인공지능 의사) 2) 병원에서 의사 고유업무가 대부분 사라진다. 3) 의료사고가 0% 수준으로 떨어진다. 4) 모두가 인공지능 주치의를 갖는다. 그러나 2016년 이후 3년이 지난면서 모든 상황은 ‘명의 왓슨’을 외면하기 시작했다. 인공지능 “명의 왓슨”(Dr. Watson)은 인간 의사와의 의견 일치율의 벽을 넘지 못해 시장에서 사라질 위기에 처했다. 명의 “왓슨”(Dr. Watson)은 의사가 개인적 소견이나 추상적 표현을 적으면 이를 인식하지 못했다. 또 의사가 의학용어나 약어 등을 미리 입력하지 않으면 다른 진단을 하는 등의 문제점도 나타났다.
‘의사와의 의견 일치율’ 저조로 외면
이처럼 국내 의료계를 놀라게 했던 미국 IBM사의 인공지능(AI)의사 ‘왓슨’은 2018년이 지나면서 “그의 봄날은 지났다”는 평가가 나오기 시작했다. 애초 2016년 당시 국내 최초로 왓슨을 도입한 길병원 이후 2017년 대구가톨릭대병원, 건양대병원, 조선대 병원, 전남대병원 등이 가세했으며, 심지어 중앙보훈병원도 왓슨을 병원에 들여놓으면서 왓슨의 전성 시대는 계속될 것만 같았으나, 그것으로 끝이었다. 중앙보훈병원을 끝으로 2018년에는 왓슨에게 눈길을 준 병원이 한 곳도 없었고, 심지어 여기 저기서 왓슨의 ‘추락’을 점치는 뉴스들이 쏟아졌다. 애초 ‘왓슨’을 만든 미국IBM에서부터 균열이 시작됐다. 지난 2018년 5월 IBM은 왓슨을 실패한 사업으로 규정하고 사업팀을 구조 조정했다. 이후 약 700억원을 투입해 종양학 전문 지침 (Oncology Expert Advisor)을 개발 중이던 MD앤더슨암센터와도 이별했다.
자세한 내용은 알려지지 않았지만, 왓슨의 데이터에 불만을 가진 MD앤더슨암센터가 먼저 계약을 깬 것으로 알려 졌다. 전문가들은 IBM이 왓슨을 시장에 내놓았을 때 성급했다고 지적한다. 근거 기반의 의학적 치료 옵션을 제공하려면 인큐베이터 단계에 더 머물러 있었어야 했다는 것이다. 한편 왓슨을 바라보는 의사들의 시선도 곱지 않았다.
효능은 떨어지고, 보험 적용도 안 될 것 같고, 의사와의 의견 불일치도 많고, 우리나라 데이터와도 맞지 않는다는게 전반적인 평가였다. 특히 의사와의 의견 일치율이 떨어지는 점은 치명적인 듯 보였다. 성균관의대 양광모 교수(삼성서울 병원 건강의학본부)는 “기대했던 것보다 의사와의 의견 일치 율이 떨어진다는 점이 시장에서 외면받는 요인으로 보인다”며 “정확도가 떨어져 의사는 물론 병원에서도 관심이 덜한 것 같다”고 말했다. 사실 의사와의 의견 일치율은 왓슨의 태생적 한계였다. 애초 IBM은 미국의 암병원인 메모리얼 슬로언 케터링 암센터에서 왓슨과 의료진의 의견 일치율이 대장암 98%, 직장암 96%, 방광암 91%, 난소암 95%, 자궁경부암 100%라고 소개했다. 메모리얼 슬로언 케터링 암센터에서 놀라운 일치율 을 보였던 왓슨이 다른 나라에서는 실력을 발휘하지 못했다. 2015년 말 왓슨을 도입한 인도 마니팔병원은 3년간 진료 성적을 공개했다. 마니팔병원 다학제 진료팀이 제시한 치료법을 기준으로 왓슨이 제시한 치료법 중 ‘추천’과 일치하는 비율은 50%, ‘고려’와 일치하는 비율은 28%, ‘비추천’에 해당하는 비율은 17%였다. 직장암은 일치율이 85%였지만 폐암은 17%에 불과했다. 길병원에서의 의견 일치율도 흡족한 수준은 아니었다. 2017년 길병원이 왓슨 도입 1주년을 기념해 발표한 자료를 봐도 의견 일치율은 저조했다.
2016년 12월 센터 개소 이후부터 2017년 11월까지의 환자 총 557명을 대상으로 진행한 결과, 대장암(결장암) 환자 118명을 대상으로 한 의료진과 왓슨의 ‘강력 추천’ 분야 의견 일치율은 55.9% 였다. 병원 측은 후향적 연구 48.9%에 비해 7% 높아진 수치라고 밝힌 바 있다. 그런데 4기 위암 환자에 대한 의견 일치율은 40%에 그쳤다. 건양대병원도 지난 4월 왓슨 도입 1주년을 맞아 유방암 환자 100명에 대한 왓슨 적용 결과를 분석 한 결과, 의료진의 의견과 왓슨의 ‘강력 추천’이 일치한 비율은 48%였다. 결국 왓슨은 의사와의 의견 일치율의 벽을 넘지 못해 시장에서 사라질 위기에 처했다. 왓슨은 의사가 개인적 소견이나 추상적 표현을 적으면 이를 인식하지 못했다. 또 의사가 의학 용어나 약어 등을 미리 입력하지 않으면 다른 진단을 하는 등의 문제점도 있다. 이러한 것들이 의견 일 치율을 떨어뜨리는 요인인 것이다.
앤더슨암센터도 ‘왓슨’ 계약 파기
왓슨은 또 국가별 임상 양상이 차이나는 것을 고려하지 못한다는 점도 문제였다. 미국 데이터를 기반으로 한 왓슨의 진단이 우리나라 특성에 맞지 않았던 것이다. 이처럼 병원 몇 곳에서 운영되는 것에서 멈춰선 왓슨은 처음부터 확산성에 한계가 있었다는 목소리도 있다. 도입 초기 비의료기기로 분류되면서 시장에서 더 성장할 수 있는 기반을 잡지 못했다. 당시 식품의약품안전처는 왓슨을 처방·진료에 관한 문헌정보를 검색·정리하는 도구로 분류했다. 즉 기존에 나와 있는 논문을 빠르게 읽고 요약·제시하는 역할을 하므로 의료기기에 해당되지 않는 다는 것이었다. 또 왓슨에 입력하는 환자 정보 역시 이미 의사가 진단한 것이기 때문에 의료기기로 볼 수 없다고 해석했다. 물론 지난 2019년 말 법 개정으로 왓슨이 의료기기로 허가받을 수 있게 됐지만 이미 한발 늦었다는 평가를 받고 있다. 사용할 때 불편함과 고가였던 부분도 한 몫했다는 평가다.
양광모 교수는 “왓슨은 병원 EMR(전자의무기록)과 연동되지 않아 불편하다는 얘기가 있다”며 “게다가 치료 비용이 고가라 환자에게 권유하기 쉽지 않다”고 제한점을 말했다. 왓슨을 도입한 병원들이 왓슨이 안고 있는 여러 문제에 대해 손을 놓고 있던 것은 아니다. 2017년 길병원과 부산대병원 등이 컨소시엄을 만들어 수가 적용이나 병원 간 빅데이터 공유, 플랫폼 구축 등을 위해 노력했지만 이렇다 할 성적을 내놓지는 못했다. 병원들이 왓슨의 문제점을 알면서도 병원 홍보에 활용했다는 지적도 나온다. 왓슨을 도입한 병원들이 서울대병원 등 빅5병원에 환자를 빼앗기지 않기 위해 왓슨의 ‘끝’을 알면서도 의도적으로 이용했다는 얘기다. 한 대학병원 교수는 “왓슨을 도입한 병원이 언론에 엄청난 홍보를 했다. 그리고 실제 병원 고위 관계자가 환자를 모으는 데 성공했다고 말한 적이 있다”며 “병원들이 왓슨의 단점과 무관하게 활용했다는 것이 더 맞는 말일 것”이라고 주장했다.
또 “전 세계적으로 왓슨을 이렇게 많이 도입한 나라는 없다. IBM이 우리나라에서 과도한 마케팅을 했다는 점은 분명 하다”고 꼬집었다. 현재 의료용 AI를 개발하는 곳은 마이크로소프트, 올림푸스, 메드트로닉, 지멘스 등 외국계 기업이다.
한편 국내에서 왓슨의 시대를 마무리할 의료용 AI 개발도 한창이다. 과학기술정보통신부가 주도하고 국내 대형병원 25곳이 참여하는 ‘닥터 앤서(Dr. Answer)’가 대표적이다. 닥터 앤서란 AI 기반의 정밀의료 솔루션으로 다양한 의료 데이터를 연계하고 분석해 개인 특성에 맞는 질병을 예측하고 진단과 치료 방법 등을 지원하는 지능형 소프트웨어(SW)를 말한다. 닥터 앤서 개발의 주관기관은 정보통신산업진흥원, 총괄주관병원은 서울아산 병원이다.
사업단이 집중하는 질환은 3개 분야(심혈관, 암, 뇌) 8개 질환(심뇌혈관질환, 심장질환, 유방암, 대장암, 전립선암, 치매, 뇌전증, 소아희귀난치성유전질환)이다. 국가에서 비용이 많이 드는 질환 이나, SW를 개발했을 때 영향력이 큰 질환 중심으로 움직이고 있다. 기업들이 소프트웨어를 개발하고, 플랫폼은 카카오에서 제공한다. 인공지능이 인간을 대체할 수 없는 이유가 있다. 인간은 존재 그 자체로 서로를 비추고, 이해하고, 감정을 나눈다. AI는 감정을 분석하고 모방할 수 있지만, 이 본질적 공감 회로를 가질 수 없다. AI는 ‘감정 데이터’에 해당하는 비율은 17%였다. 직장암를 처리하지만, ‘감정을 살아낸다’에 해당하는 비율은 17%였다. 직장암는 존재적 경험을 하지 않는다.
<다음호에 계속>
