박별리 교수팀, 염색 없이도 암 진단 가능한 AI 기반 고처리량 가상염색 기술 개발

- H&E 염색 과정을 AI가 대체… 빠르고 저렴한 차세대 디지털 병리 기술 제시

생명물리학과 박별리 교수 연구팀이 삼성서울병원 김형경 교수 연구팀과 함께, 조직을 실제로 염색하지 않아도 병리 진단에 필요한 H&E(hematoxylin & eosin) 등가 이미지를 자동 생성하고 암을 분류할 수 있는 고처리량 AI 가상염색 기술을 개발했다.

병리 진단에서 가장 기본이 되는 H&E 염색은 세포의 핵과 조직 구조를 선명하게 보여주는 표준 절차로, 투명한 조직을 관찰 가능한 상태로 만들어준다. 그러나 H&E 염색은 화학 처리와 숙련된 인력이 필요하며, 슬라이드 한 장을 준비하는 데 20~30분이 소요되는 등 시간·비용·작업 부담이 크다. 또한 여러 인접 절편을 반복 제작해야 해 대규모 임상 워크플로우에 효율적으로 적용하기 어렵다는 한계도 있었다.

연구팀은 이러한 문제를 해결하기 위해 최대 100장의 슬라이드를 동시에 스캔할 수 있는 고해상도 디지털 슬라이드 스캐너와 NEGCUT 딥러닝 모델을 결합한 플랫폼을 구축했다. 이 플랫폼은 염색되지 않은 명시야 영상에서 진단 수준의 가상 H&E 영상을 자동 생성해, 실제 염색 없이도 병리 분석이 가능한 ‘비(非)염색 디지털 병리학’을 실현했다.

AI가 생성한 가상염색 이미지는 해부학적 구조와 색 재현성에서 기존 CycleGAN·CUT·E-CUT 모델보다 우수한 성능을 보였다. 또한 무염색 영상과 가상 H&E 영상을 함께 활용하는 이중 브랜치 ResNet 기반 암 분류 모델에서는 95.9%의 진단 정확도를 기록하며 실제 H&E 기반 진단과 유사한 수준의 성능을 입증했다. 병리 전문의 3명이 참여한 블라인드 평가에서도 “실제 H&E와 구별하기 어렵다”는 판정이 나왔다.

해당 기술은 림프절·뇌·간·갑상선·뼈 등 다양한 조직에서 안정적으로 작동했으며, 화학 염색 생략을 통해 비용과 시간을 절감하고, 조직을 손상시키지 않아 IHC 및 분자 분석 등 추가 연구에도 원본 샘플을 그대로 활용할 수 있다는 점에서 높은 활용 가능성을 지닌다.

박별리 교수는 “이번 연구는 기존 가상염색 기술이 지녔던 저속 처리의 한계를 넘어, 병원에서 실제 사용하는 대량 디지털 스캔 환경에도 적용 가능한 자동화 기술을 구현했다는 점에서 의미가 크다”며 “향후 병리 진단 과정의 속도와 효율을 크게 높일 수 있을 것”이라고 말했다.

김형경 교수는 “가상염색 이미지가 실제 염색 이미지와 비슷한 수준의 품질을 보여 임상 적용 가능성을 크게 앞당긴 중요한 성과”라고 평가했다.

이 연구는 한국연구재단 뇌과학선도융합기술개발사업, 글로벌융합연구지원사업, 우수신진연구자지원사업, BK21FOUR 프로젝트의 지원으로 수행되었으며, 국제학술지 Medical Image Analysis에 2025년 11월 5일 게재가 확정되었다.

※ 논문명: Deep learning based label-free virtual staining and classification of human tissues using digital slide scanner

※ 학술지: Medical Image Analysis

※ 논문링크: https://doi.org/10.1016/j.media.2025.103865