의료 AI 규제 부재 속 민간 가이드라인 등장

미국 CHAI 연합, 180페이지 표준안 제시...한국 의료계도 주목

의료 분야에서 인공지능(AI) 활용이 급속도로 확산되고 있지만 이를 규제할 법적 프레임워크는 여전히 공백 상태다. 이런 가운데 미국의 민간 주도 연합체가 의료 AI 표준화에 나서며 글로벌 의료계의 이목을 집중시키고 있다.

미국 의회는 향후 10년간 각 주가 AI를 규제하는 것을 금지하는 법안을 검토했지만, 6월 6일 세법 개정안에서 이 조항을 삭제하고 대신 AI 규제 주에 대한 광대역 인터넷 자금 지원을 제한하는 새로운 제안으로 대체했다. 규제 공백이 지속되는 동안 의료 현장에서는 AI 도입이 가속화되고 있다.

델로이트 헬스 솔루션 센터에 따르면 주요 의료 기업의 75%가 생성형 AI를 실험하고 있으며, 의료 기관의 82%가 "생성형 AI에 대한 거버넌스 및 감독 구조 구현"을 계획하고 있다. 의료 기록 작성부터 환자 상담 에이전트까지 AI 활용 영역이 확대되면서 표준화 필요성이 대두되고 있다.

Private Coalition Steps Up as AI Healthcare Regulations Lag

US CHAI Alliance Releases 180-Page Standards Framework as Global Healthcare Industry Takes Note

Artificial intelligence adoption in healthcare is accelerating rapidly, but regulatory frameworks remain largely absent. Against this backdrop, a US private-sector coalition is leading standardization efforts for medical AI, drawing attention from healthcare systems worldwide.

Congress considered prohibiting states from regulating AI for the next decade, but this provision was scrapped from the June 6 tax bill and replaced with a new proposal restricting broadband funding to states that regulate AI. While regulatory gaps persist, AI deployment in healthcare settings continues to expand at an unprecedented pace.

According to the Deloitte Center for Health Solutions, 75% of top healthcare companies are experimenting with generative AI, while 82% of healthcare organizations plan to "implement governance and oversight structures for generative AI." AI applications now span from medical scribes to patient consultation agents, creating an urgent need for standardization.

3000개 기관 참여한 CHAI 연합 출범

이런 상황에서 공공-민간 연합체인 의료 AI 연합(Coalition for Health AI, CHAI)이 주목받고 있다. 2021년 12월 출범한 이 단체는 메이요 클리닉, 클리블랜드 클리닉, 마운트 시나이 등 세계적 의료기관을 포함해 3,000개의 의료 서비스 제공업체, 기술 기업, 기타 의료 기관이 참여하고 있다.

CHAI는 지난해 6월 의료 분야 책임감 있는 AI 사용을 위한 180페이지 분량의 포괄적 가이드를 발표했다. 이 가이드는 신뢰할 수 있는 AI 원칙, 시스템 설계, 모니터링 방법론을 포함해 기업들이 AI 모델 구축 시 참고할 수 있는 실용적 지침을 제공한다.

브라이언 앤더슨 CHAI CEO는 "민간 부문의 8명이 모여 최선의 실무 프레임워크를 구축하자고 합의하면서 시작됐다"며 "지불자부터 의료 서비스 제공자, 환자까지 전 영역에서 신뢰를 구축하는 가드레일과 가이드라인을 제공하고자 한다"고 설명했다.

3,000-Member CHAI Coalition Emerges

The public-private Coalition for Health AI (CHAI), launched in December 2021, has positioned itself at the forefront of this effort. The organization brings together 3,000 providers, tech companies, and healthcare organizations—including prestigious institutions like Mayo Clinic, Cleveland Clinic, and Mount Sinai—to collaborate on AI standards for healthcare.

CHAI released a comprehensive 180-page guide for responsible AI use in healthcare last June, providing practical guidance for companies building AI models. The framework covers principles of trustworthy AI, system design methodologies, and monitoring protocols.

"It started with a group of eight of us in the private sector coming together, agreeing that this is an effort building best practice frameworks," said Brian Anderson, CEO at CHAI. The organization aims to "provide the kind of guardrails and guidelines that build trust" across the entire healthcare spectrum, from payers to providers to patients.

'모델 카드'로 투명성 확보

CHAI 가이드라인의 핵심은 투명성 확보다. 이 단체가 운영하는 '모델 카드'는 식품의 영양성분표와 같은 역할을 한다. 측정 목표, 경고사항, 테스트 유형 등의 정보를 담아 의료 서비스 제공자와 의료 기업들이 다른 기관의 AI 활용 사례를 참고할 수 있도록 한다.

예를 들어 메이요 클리닉이 AI 의료기록 작성 도구를 사용한다면, 모델 카드에는 해당 시스템의 사용 방법, 안전성과 유용성 등의 성능 지표, 잠재적 위험과 편향성, 윤리적 고려사항이 상세히 명시된다.

공정성도 핵심 원칙이다. AI 훈련 모델이 시골 지역부터 도시 지역, 소외계층까지 전국 모든 인구집단에게 효과적으로 작동하도록 보장한다는 방침이다. 특히 인종이나 지역에 따른 AI 성능 편차를 줄이는 데 중점을 두고 있다.

Model Cards Ensure Transparency

Central to CHAI's guidelines is the principle that "transparency is critical." The organization operates what it calls model cards—described by Anderson as "nutrition labels" containing information like metric goals, warnings, and testing types. These cards enable providers and health companies to understand AI practices used by other organizations.

For instance, if Mayo Clinic implemented a new AI note-taking tool, the model card would outline usage methodology, performance metrics demonstrating safety and effectiveness, potential risks and biases, and ethical considerations that must be addressed.

Fairness represents another core tenet of CHAI's approach. The organization ensures training models are "highly effective on people" across diverse populations, from rural communities to urban areas to tribal nations. This focus specifically addresses concerns about AI performance disparities across racial and geographic lines.

Anderson emphasized that CHAI's focus remains on the technical side, without advocating for specific external regulations or federal policies. However, he noted that many members favor regulations that don't stifle innovation or create an "uncoordinated patchwork set of state regulations

조인트 커미션과 인증 프로그램 추진

6월 11일 CHAI는 의료 기준 설정 및 병원 인증 기관인 조인트 커미션과 전략적 파트너십을 발표했다. 두 기관은 공동으로 AI 규칙과 도구를 개발하고, 조인트 커미션의 증거 기반 표준과 CHAI의 합의 기반 모범 사례를 결합한 새로운 인증 프로그램을 만들 예정이다.

관련 지침은 올 가을 발표되며, 인증 프로그램은 그 이후 시행될 계획이다. 이는 의료 AI 분야에서 최초의 체계적인 인증 시스템이 될 것으로 예상된다.

CHAI는 또한 대형 학술병원 수준의 자원을 갖지 못한 지역사회 보건센터 등 소규모 의료기관을 위한 맞춤형 플레이북 개발에도 나서고 있다. 이를 위해 전국지역사회보건센터협회의 큐 리 회장을 이사회 멤버로 영입했다.

Joint Commission Partnership Launches Certification Program

On June 11, CHAI announced a strategic partnership with the Joint Commission, the nonprofit organization that sets healthcare standards and accredits hospitals. The Joint Commission awards Gold Seal of Approval to healthcare organizations meeting specific quality and safety benchmarks.

Together, the organizations plan to "accelerate the development and adoption of AI best practices and guidance across the US healthcare system" by creating AI rules and tools, plus a new certification program "rooted in the Joint Commission's platform for evidence-based standards and CHAI's consensus-based best practices for health AI."

The guidance framework is scheduled for release this fall, followed by the certification program implementation. This initiative represents the first systematic certification system for healthcare AI applications.

CHAI is also prioritizing outreach to smaller providers, particularly community health centers lacking the resources of major academic medical centers. "We want to make an intentional, significant effort to build playbooks for those community clinics," Anderson explained. As part of this effort, the organization appointed Kyu Rhee, president and CEO of the National Association of Community Health Centers, as a new board member in February.

다양성 고려한 AI 개발 강조

푸에르토리코 소재 소프트웨어 회사 BrainHi의 엠마누엘 오켄도 CEO는 CHAI 가입 이유로 다양성 고려를 꼽았다. "백인 커뮤니티에는 훌륭하게 작동하지만 라티노 같은 소수 집단에게는 그렇지 않을 수 있는 알고리즘들이 있다"며 "특정 커뮤니티 필요에 맞게 AI가 세밀하게 조정되도록 하는 CHAI의 원칙에 공감한다"고 말했다.

현재 의료 AI 챗봇 배포 가이드라인 개발 워킹그룹에 참여하고 있는 오켄도는 "커뮤니티 일원으로서 고객들과 공유할 수 있는 중요한 정보와 모범 사례를 얻을 수 있다"고 평가했다.

Diversity-Focused AI Development

Emmanuel Oquendo, CEO of software company BrainHi, joined CHAI in November, citing the organization's commitment to ensuring AI algorithms are "fine-tuned for specific communities' needs." His Puerto Rico-based company helps automate phone calls and administrative operations for medical practices.

"There are some algorithms that might work great for a Caucasian community but not necessarily for other minorities, like Latinos, for example," Oquendo observed. He also valued CHAI's opportunity to learn and network with healthcare experts about using AI "responsibly and securely."

Currently participating in a CHAI working group developing guidelines for healthcare AI chatbot deployment, Oquendo credits the organization with providing valuable guidance for his company's best practices. "I felt that I would get very important information by being part of the community that I could share with my customers," he said.

한국 의료계에 미치는 영향

CHAI의 움직임은 한국 의료계에도 적지 않은 시사점을 던진다. 국내에서도 AI 의료기기 허가가 늘어나고 있지만 포괄적인 가이드라인은 부족한 상황이다.

규제 프레임워크 구축 필요성이 대두되고 있다. 현재 한국은 식품의약품안전처가 AI 의료기기 허가 심사를 담당하고 있지만, CHAI와 같은 종합적 표준화 작업은 이뤄지지 않고 있다. 의료진, 기술업체, 학계가 참여하는 협의체 구성이 필요하다는 목소리가 높아지고 있다.

글로벌 표준과의 호환성 확보도 과제다. 한국 의료기관들이 해외 AI 솔루션을 도입하거나 국산 AI를 해외에 수출할 때 CHAI 가이드라인이 사실상 국제 표준 역할을 할 가능성이 높다. 국내 업체들은 이러한 표준에 맞춰 제품을 개발해야 경쟁력을 확보할 수 있을 것으로 보인다.

의료 데이터 다양성 측면에서도 시사점이 크다. CHAI가 강조하는 인종·지역별 공정성 원칙은 한국의 단일민족 중심 의료 데이터 환경에 새로운 관점을 제시한다. 국내 거주 외국인, 다문화가정 등을 고려한 AI 개발이 필요하다는 인식이 확산될 전망이다.

산학협력 모델 구축도 주목할 부분이다. CHAI의 성공 요인 중 하나는 대형 의료기관과 기술업체 간의 긴밀한 협력이다. 한국도 서울아산병원, 삼성서울병원 등 대형병원과 네이버, 카카오 등 기술기업 간 협력을 체계화할 필요가 있다.

중소 의료기관 지원 방안도 고려해야 할 요소다. CHAI가 지역사회 보건센터를 위한 별도 프로그램을 운영하는 것처럼, 한국도 중소병원과 의원급 의료기관이 AI를 안전하게 도입할 수 있는 지원 체계 마련이 시급하다.

의료계 전문가들은 "AI 기술 발전 속도를 고려할 때 한국도 조속히 민관 협력 기반의 표준화 작업에 착수해야 한다"며 "단순한 규제보다는 혁신을 촉진하면서도 안전성을 보장하는 CHAI 모델을 참고할 필요가 있다"고 조언하고 있다.

Implications for Global Healthcare Systems

CHAI's initiatives carry significant implications for healthcare systems worldwide, particularly in countries like South Korea where AI medical device approvals are increasing but comprehensive guidelines remain limited.

Regulatory Framework Development emerges as a critical need. While South Korea's Ministry of Food and Drug Safety handles AI medical device approvals, comprehensive standardization efforts similar to CHAI's approach have yet to materialize. Healthcare professionals, technology companies, and academic institutions are increasingly calling for collaborative framework development.

Global Standard Compatibility presents another key challenge. As Korean healthcare institutions adopt international AI solutions or export domestic AI technologies abroad, CHAI guidelines may effectively serve as de facto international standards. Domestic companies will likely need to align product development with these emerging standards to maintain competitiveness.

Medical Data Diversity considerations offer new perspectives for traditionally homogeneous healthcare data environments. CHAI's emphasis on racial and regional fairness principles introduces important considerations for countries developing AI systems that account for foreign residents, multicultural families, and diverse patient populations.

Industry-Academia Collaboration Models provide valuable blueprints for other nations. CHAI's success stems partly from close cooperation between major medical institutions and technology companies. Countries like South Korea could benefit from systematizing partnerships between major hospitals like Asan Medical Center and Samsung Medical Center with technology giants like Naver and Kakao.

Small Healthcare Institution Support represents another crucial consideration. Just as CHAI develops specialized programs for community health centers, other countries must create support systems enabling smaller hospitals and clinics to safely implement AI technologies.

Innovation-Safety Balance showcases CHAI's approach of promoting innovation while ensuring safety through industry self-regulation rather than restrictive government oversight. This model offers particular relevance for countries seeking to foster AI innovation while maintaining patient safety standards.

Healthcare experts suggest that "given the pace of AI technological advancement, countries worldwide should promptly initiate public-private standardization efforts" and "consider the CHAI model as a reference for promoting innovation while ensuring safety, rather than implementing restrictive regulations."

The emergence of CHAI as a significant force in healthcare AI standardization signals a shift toward industry-led governance in the absence of comprehensive government regulation. As AI continues transforming healthcare delivery globally, CHAI's framework may well become the foundation for international best practices, making engagement with these standards essential for healthcare systems seeking to remain competitive in an AI-driven future.