어려운 의학 용어를 쉬운 말로 바꾸는 것도 논리적 근거가 있어야


PHAX는 어려운 의학 용어를 쉬운 말로 바꿀 때도 단순히 바꾸기만 하는 것이 아니라, 왜 바꿨는지 이유를 명확히 제시한다. 예를 들어 '심근경색'을 '심장마비'로 바꿀 때는 다음과 같이 설명한다.

결정: '심근경색'을 '심장마비'로 바꾼다. 이유 1: '심장마비'가 일반 사람들이 더 많이 사용하는 말이다. 이유 2: 의미가 똑같다는 것을 확인했다. 반대 의견: 의사들 사이에서는 '심장마비'가 애매할 수 있다.

이처럼 PHAX는 단순히 "이 말이 더 쉬워서 바꿨다"고 하는 것이 아니라, 구체적인 근거와 함께 혹시 있을 수 있는 문제점까지 함께 알려준다. 또한 듣는 사람이 환자인지 의사인지에 따라 용어를 바꿀지 말지를 다르게 결정할 수도 있다.

4단계로 정보를 차근차근 처리해서 맞춤 설명 완성


PHAX는 4개 단계를 거쳐 정보를 처리한다. 첫 번째 단계에서는 병원 기록, 환자 정보, 질병 통계, 소셜미디어 글 등 다양한 자료를 모아서 정리한다. 두 번째 단계에서는 이런 자료들을 컴퓨터가 이해할 수 있도록 분석한다. 여기서는 중요한 단어 찾기, 문장 의미 파악, 글의 흐름 분석, 어려운 말을 쉬운 말로 바꾸기 등의 작업을 한다.

세 번째 단계가 PHAX의 핵심이다. 여기서는 AI의 결정을 논리적인 주장과 근거로 만든다. 마치 사람이 토론할 때 "이런 이유로 이렇게 생각한다"고 말하는 것처럼, 컴퓨터도 자신의 결정에 대한 논리적 근거를 제시한다. 마지막 네 번째 단계에서는 이런 설명을 화면, 챗봇, 요약문 등을 통해 사용자에게 전달하며, 듣는 사람에 따라 말투와 자세함 정도를 조절한다.

이런 4단계 시스템은 기존 기술들과 달리 개발할 때부터 배포할 때까지 계속해서 설명 기능을 유지한다. 각 단계가 AI 모델을 만드는 것과 실시간으로 설명을 만드는 것을 동시에 담당해서, 언제든지 AI의 결정 과정을 추적하고 사용자가 이해할 수 있도록 한다.

의학적 정확성과 이해하기 쉬운 설명 사이의 위험한 줄타기


하지만 PHAX와 같은 의료용어 간소화 기술에는 주의해야 할 점이 있다. 앞서 예시로 든 '심근경색'과 '심장마비'는 의학적으로 엄연히 다른 개념이다. 심근경색은 심장 근육에 혈액 공급이 차단되어 심장 조직이 죽는 구체적인 상태를 가리키는 반면, 심장마비는 심장이 갑자기 멈추는 더 넓은 개념으로 다양한 원인을 포함한다.

이처럼 정확한 의학 용어를 일반인이 이해하기 쉬운 말로 바꾸는 과정에서 의미가 왜곡되거나 중요한 정보가 사라질 위험이 있다. 환자가 자신의 정확한 병명을 모르게 되면 다른 의료진과 소통할 때 혼란이 생길 수 있고, 인터넷에서 잘못된 정보를 찾아볼 가능성도 높아진다.

따라서 PHAX 같은 기술을 실제 의료 현장에 적용할 때는 의학적 정확성을 해치지 않으면서도 환자가 이해할 수 있는 적절한 수준의 설명을 찾는 것이 가장 중요한 과제가 될 것이다. 아무리 좋은 의도라도 의학적 정확성을 희생해서는 안 되기 때문이다.



FAQ

Q: PHAX는 기존 의료 AI와 어떻게 다른가요?

A: 기존 의료 AI는 결과만 알려주고 이유는 제대로 설명하지 못했습니다. PHAX는 AI가 결정을 내리는 과정 자체에 설명 기능을 넣어서, 의사든 환자든 정책 담당자든 각자에게 맞는 방식으로 이유를 쉽게 설명해 줍니다.

Q: 어려운 의학 용어를 쉽게 바꾸는 기능은 어떻게 작동하나요?

A: 단순히 어려운 말을 쉬운 말로 바꾸는 것이 아니라, 일반인들이 얼마나 많이 쓰는지, 의미가 같은지, 상황에 맞는지 등을 종합적으로 따져서 결정합니다. 그리고 왜 그 단어를 선택했는지 구체적인 이유도 함께 알려줍니다.

Q: PHAX는 의료 현장에서 어떻게 활용될 수 있나요?

A: 백신 접종 순서 정하기, 환자 위험도 판단하기, 의학 용어 쉽게 설명하기, 진단 근거 제시하기, 정책 결정 이유 설명하기 등 다양한 의료 및 보건 분야에서 활용할 수 있습니다. 특히 정보가 부족하거나 의견이 엇갈리는 상황에서 투명한 결정을 내리는 데 도움이 됩니다.



해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문 명: PHAX: A Structured Argumentation Framework for User-Centered Explainable AI in Public Health and Biomedical Sciences

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.