# 의료 진단용 AI 모델 개발의 근거와 비용, 환자 데이터 보호 장치

- 날짜: 2026-08-05
- 수록: 2026-09-04
- 관련자: Mr Yip Hon Weng · Mr Low Wu Yang Andre · Mr Ong Ye Kung
- 출처: https://sprs.parl.gov.sg/search/#/sprs3topic?reportid=oral-answer-4166
- sgai: https://sgai.md/ko/debates/oral-answer-4166/
- 라이선스: sgai가 작성한 내용(요약·번역·분석)은 CC BY 4.0(출처 표기 및 sgai.md 링크 조건). 원문 전문(의회 기록·연설·자막·정책 원문)은 원권리자에게 귀속되며 참고용으로만 게재. 조건: https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 왜 중요한가

SIMFONI는 2022년 설립된 TRUST의 비식별 데이터로 훈련되며, 보건부는 환자 개별 동의 취득을 명확히 거부하고 결과로 국민 신뢰를 얻겠다는 승부수를 던졌다

## 요약

인민행동당 입혼웽(Mr Yip Hon Weng) 의원과 노동자당 비선거구 의원 안드레 로우(Mr Low Wu Yang Andre)는 싱가포르 의료 기반 AI 모델(SIMFONI)에 대해 사회정책조정장관 겸 보건장관에게 구두 질의했다. 희귀질환이 아니라 일반 검사로 진단 가능한 질환을 대상으로 모델을 개발하는 이유와 비용, 임상의와 민간 개업의가 어떻게 접근하는지, 배포 전 개발자와 독립된 평가자가 프라이버시 시험을 하고 기준·결과·공개 절차를 공표할지를 물었다. 보건장관 옹예쿵(Mr Ong Ye Kung)은 SIMFONI가 만성질환 관리를 위한 임상 의사결정 지원을 제공하며, 국내 질병 부담이 크고 개발이 가능한 질환을 우선하여 먼저 공공의료의 몇몇 전문 분야에서 시작하고 성공하면 다른 전문 분야와 민간 개업의로 확대하겠다고 답했다. 모델은 국제 데이터로 훈련된 기존 모델을 기반으로 2022년 설립된 안전한 국가 플랫폼 TRUST에서 비식별화된 국내 환자 데이터로 조정하며, 배포 전 독립 안전평가 부서가 엄격히 시험한다. 보충 질의에서 입 의원이 '자동화 편향' 대책을 묻자 옹 장관은 보건부가 신중한 사용 사례 중심 접근을 취하며, AI는 임상 프로토콜에 따라 배포하고 임상의가 판단을 내린다고 하면서 AI를 '못을 찾아다니는 망치'로 취급해서는 안 된다고 말했다. 로우 의원은 훈련 데이터에 국가전자건강기록(NEHR)이 포함되는지, 환자의 명시적 동의를 구할지, 익명화가 실패하면 어떻게 할지를 물었다. 옹 장관은 시스템을 불신해 데이터를 줄이고 모두의 동의를 구한다면 '애초에 성립하지 않는다'며, TRUST 데이터는 국제 기준으로 비식별화되어 지금까지 사고 없이 사용되었다고 하고 결과가 말하게 하자고 답했다.

## 핵심 포인트

- SIMFONI는 만성질환 관리를 위한 임상 의사결정 지원을 제공하며, 질병 부담이 크고 개발 가능한 질환을 우선해 공공의료의 몇몇 전문 분야에서 시작하고 성공하면 민간 개업의로 확대한다
- 모델은 국제 데이터로 훈련된 기존 모델을 기반으로 2022년 설립된 국가 플랫폼 TRUST에서 비식별화된 국내 환자 데이터로 조정하며, 배포 전 독립 안전평가 부서가 시험한다
- 옹 장관은 보건부가 신중한 사용 사례 중심 접근을 취하며 AI는 임상 프로토콜에 따라 배포하고 임상의가 판단한다고 밝히고, AI를 '못을 찾아다니는 망치'로 취급해서는 안 된다고 했다
- 로우 의원이 NEHR 데이터 사용 여부와 명시적 동의 취득을 묻자, 옹 장관은 불신 때문에 데이터를 줄이고 모두의 동의를 구한다면 '애초에 성립하지 않는다'고 답했다
- TRUST 데이터는 국제 기준으로 비식별화되어 여러 맥락에서 사고 없이 사용되었으며, 정부는 개선되는 의료 서비스와 무사고 기록이 스스로 말하게 하겠다는 입장이다

## 전문

4 예한영 의원이 사회정책조정부 장관 겸 보건부(MOH) 장관에게 싱가포르 의학 재단 인공지능 모델(SIMFONI) 계획에 대해 질문함: (a) 진단하기 더 어려운 희귀병이 아닌 일반 검사로 진단할 수 있는 질병을 대상으로 인공지능 모델을 개발하는 이유와 비용; (b) 임상의가 SIMFONI에 어떻게 접근하는지, 민간 개업의가 포함되는지 여부; (c) 환자 신원 정보를 데이터 유출로부터 보호하는 보장 조치들이 무엇인지.

5 류우양안드레 의원이 사회정책조정부 장관 겸 보건부(MOH) 장관에게 다음을 질문함: (a) SIMFONI 배치 전에 보건부(MOH)가 개발자로부터 독립적인 평가자들로 하여금 모델에 대한 개인정보보호 테스트를 실시하게 하여 모델이 식별 가능한 환자 정보를 기억하거나 재현하지 않음을 확인할 것인지 여부; (b) 테스트 기준, 결과 및 어떤 데이터 유출 사건에 대한 대응 방안을 공개할 것인지 여부.

보건부(MOH) 장관 왕을강: 의장님, 4번과 5번 질문을 함께 답변해도 되겠습니까?

의장: 괜찮습니다, 계속하세요.

왕을강: 싱가포르 의학 재단 인공지능 모델(SIMFONI)은 만성질환 관리를 위한 임상 의사결정 지원을 제공하는 인공지능 도구를 개발하고 있으며, 싱가포르에서 질병 부담이 상대적으로 높으면서 개발 가능성이 있는 질병을 우선적으로 고려합니다. 우리는 공공 의료 부문의 여러 전문 분야와 시나리오에서 시작합니다. 성공한다면, 더 많은 전문 분야로 확대할 계획이며, 심지어 민간 개업의도 포함될 수 있습니다.

SIMFONI의 모델은 국제 데이터로 훈련한 기존 모델을 기반으로 하며, 현지 환자 데이터를 통해 조정되었고, 이 데이터는 모두 익명화되어 있고 완벽한 프로세스, 전문성 및 보장 조치를 갖춘 안전한 국가 플랫폼에 저장되어 있습니다. 이 플랫폼의 이름은 TRUST이며, 2022년에 설립되었으며 연구, 개발 및 혁신 업무를 위해 특별히 사용됩니다.

프로세스의 완전성을 더욱 보장하기 위해, 독립적인 보안 및 평가 부서가 실제 배치 전에 SIMFONI 모델에 대해 엄격한 테스트를 수행할 것입니다.

의장: 예 의원.

예한영(요조강 선거구): 감사합니다, 의장님. 장관님의 답변에 감사드립니다. 임상의가 최종적으로 의료 결정에 대해 책임이 있지만, 국제 경험에 따르면 의사들이 인공지능의 의사결정이나 제안에 점진적으로 의존할 수 있으며, 이를 자동화 편향이라고 부릅니다. 보건부(MOH)가 이러한 위험을 감지하고 완화하기 위한 구체적인 보장 조치를 공개할 것이며, 인공지능이 독립적인 임상 판단을 은근슬쩍 대체하지 않고 보조 역할만 하도록 보장할 것인가?

왕을강: 우리는 구체적인 보장 조치를 공개적으로 발표하지 않을 것입니다. 이는 주로 인공지능에 대한 우리의 태도, 배치 및 실행 방식에 반영됩니다.

저는 이 문제에 대해 여러 번 연설했습니다. 의료 분야를 포함한 인공지능에는 많은 과장이 존재합니다. 때때로 이런 제안이 왜 그토록 주목받는지 의문이 들 것입니다. 의료 업무에 종사하는 우리는 모두 알듯이, 이것은 간단하지 않으며, 특히 공공 기본 서비스의 경우 더욱 그렇습니다.

우리는 매우 신중한 유스케이스 접근 방식을 취해야 합니다. 즉, 우리가 어떤 문제에 직면하고 있으며, 인공지능이 그 문제를 해결할 수 있는가를 묻는 것입니다. 적절한 도구를 찾습니다. 절대로 인공지능을 못을 찾는 망치나 문제를 찾는 해결책으로 간주하지 않습니다. 우리는 이미 충분한 문제를 가지고 있으므로, 인공지능이 어떤 문제를 해결할 수 있는지 보겠습니다.

적절한 인공지능 도구를 찾았을 때, 보안, 익명화된 데이터 및 싱가포르 환자 데이터를 고려하여 현지 환경에서 훈련되도록 보장합니다.

모델이 준비된 후 배치할 때는 임상 프로토콜을 반드시 따라야 합니다. 우리는 특정한 운영 방식이 있고 이미 레거시 IT 시스템을 갖추고 있습니다. 인공지능은 전원을 연결하면 문제가 해결되는 물건이 아니며, 그런 식으로 작동하지 않습니다. 기존의 레거시 IT 시스템과 어떻게 연결할 것인가? 프로세스를 어떻게 설계할 것인가? 임상의는 여전히 판단을 내려야 합니다.

현재 초기 단계에 있지만, 우리는 많은 과장과 인공지능의 남용이 존재한다는 것을 매우 명확히 알고 있습니다. 이러한 과장은 결국 진정되고 더욱 현실적인 수준에 도달할 것이며, 사람들은 더욱 신중하고 깊이 있게, 심지어 냉정하게 인공지능을 사용할 것이라고 생각합니다. 우리는 자신에게 「왜 그 과정을 기다려야 하는가? 왜 처음부터 냉정하고 신중하지 않은가?」라고 말합니다. 이것이 바로 보건부(MOH)가 취하는 태도입니다.

의장: 류 의원.

류우양안드레(비선거구 의원): 감사합니다, 의장님. 장관님, 세 가지 추가 질문이 있습니다. 먼저, 해당 인공지능 모델을 훈련하기 위해 사용되는 데이터 범위에 대하여, 싱가포르의 모든 환자의 건강 데이터를 포함하는지, 국가 전자 건강 기록(NEHR) 데이터베이스의 데이터를 포함하는지 여부입니다.

둘째, 환자 데이터를 훈련에 사용하기 전에 구하는 동의의 성질과 관련하여, 보건부(MOH)가 환자 데이터를 훈련에 사용하기 전에 환자의 명확한 동의를 구하는 것을 검토 중인지 또는 앞으로 검토할 예정인지 여부입니다.

세 번째 추가 질문: 저는 장관님이 데이터를 훈련에 사용하기 전에 익명화 처리하고 개인 식별자를 제거할 것을 보장했다는 것을 이해했습니다. 그러나 오늘 우리가 보는 바와 같이, 저는 싱가포르 토지 관리청의 유사한 데이터 유출 사건에 관한 또 다른 의회 질문을 가지고 있으며, 이는 이러한 프로세스에 결함이 있음을 보여줍니다. 때때로 데이터 익명화가 진정으로 실현되지 않으며, 개인 식별 정보가 공개 데이터베이스로 유출될 가능성이 있습니다. 장관님이 대중에게 어떤 보장을 제공할 수 있어서 그들의 매우 민감한 건강 데이터의 안전을 보장할 수 있습니까?

왕을강: 우리 모두가 인공지능이 획기적인 기술임을 알고 있다고 생각합니다. 하지만 신중하고 깊이 있는 태도를 취해야 합니다. 따라서 우리는 이를 어떻게 사용할지 결정해야 합니다. 만약 처음부터 그 시스템을 완전히 신뢰하지 않아 훈련 모델에 사용되는 데이터 범위를 축소한다면 — 데이터가 의료 개선, 생명 구조, 운영 효율 향상, 인구 고령화와 환자 부담 증가 같은 심각한 도전에 대처하기 위해 매우 중요함에도 불구하고 — 동시에 시스템을 신뢰하지 않아 데이터를 진정으로 익명화하고 식별자를 제거할 수 없다고 생각하며 유출과 추적 가능한 위험이 있다고 여기고, 사용 전에 모든 사람의 동의를 요구한다면, 이는 시작할 수 없을 것입니다.

균형 잡힌 태도를 취해야 한다고 생각합니다: 이것이 거대한 이점을 가져올 수 있는 획기적인 기술임을 인식하되, 이를 위해 기존 데이터를 사용하고 필요한 예방 조치를 취해야 합니다. 데이터가 국제 표준에 따라 익명화되고 식별자가 제거되도록 보장합니다. 우리는 몇 년 전부터 이 과정을 시작했습니다. TRUST 플랫폼의 데이터는 이미 여러 시나리오에서 사용되었으며, 지금까지 사건이 발생하지 않았습니다.

우리는 이를 바탕으로 계속 진행해야 한다고 생각합니다. 우리는 반드시 보장 조치를 가져야 하며, 저는 동의합니다. 하지만 기술 활용과 보장 설정 사이에서 균형을 이루어야 합니다. 우리는 이를 바탕으로 계속 나아갈 수 있습니다.

결국 싱가포르인들은 의료 서비스가 개선되고 사고율이 낮을 때 신뢰와 보장을 얻게 될 것입니다. 행동과 결과가 스스로 말하도록 하는 것이 최선이라고 생각합니다.

## Hansard (original, English)

© Parliament of Singapore — reproduced for reference only.

4 Mr Yip Hon Weng asked the Coordinating Minister for Social Policies and Minister for Health regarding the Singapore Medical Foundation AI Model (SIMFONI) initiative (a) what are the rationale and cost of developing AI models for conditions that can be diagnosed by routine tests, instead of targeting rare diseases that are harder to diagnose; (b) how will clinicians access SIMFONI and whether private practitioners will be included; and (c) what safeguards protect patient identifiers from data leaks.

5 Mr Low Wu Yang Andre asked the Coordinating Minister for Social Policies and Minister for Health (a) before the deployment of Singapore Medical Foundation AI Model (SIMFONI), whether the Ministry will subject its models to privacy testing by assessors independent of the developers to determine if they can memorise or reproduce identifiable patient information; and (b) whether test standards, findings and response protocol for any disclosure will be published.

The Minister for Health (Mr Ong Ye Kung) : Mr Speaker, may I have your permission to answer Question Nos 4 and 5 together?

Mr Speaker : Yes, please proceed.

Mr Ong Ye Kung : The Singapore Medical Foundation AI Model (SIMFONI) develops artificial intelligence (AI) tools to provide clinical decision support for managing chronic conditions, prioritising conditions with high disease burden in Singapore and feasibility of development. We are starting with a couple of specialty areas and settings in the public healthcare sector. If successful, we will expand its coverage to more specialities and also possibly, to the private practitioners.

SIMFONI's models are built on existing models trained using international data. They are adapted using local patient data, they are de-identified, in a secure national platform with well-established processes, expertise and safeguards. This platform is called TRUST, which was established in 2022 precisely for research, development and innovation efforts.

To further ensure the integrity of this process, an independent safety and evaluation unit will carry out rigorous testing of SIMFONI's models before actual deployment.

Mr Speaker : Mr Yip.

Mr Yip Hon Weng (Yio Chu Kang) : Thank you, Mr Speaker. I thank the Minister for his response. While clinicians will ultimately retain responsibility for medical decisions, international experience has shown that doctors may gradually defer to AI decisions or recommendations – something known as automation bias. Will the Ministry announce specific safeguards to detect and mitigate this risk and how we ensure that AI compliments rather than subtly replaces independent clinical judgement?

Mr Ong Ye Kung : We do not really announce what we are going to do to safeguard against this. This is very much in the way we approach AI, how we deploy and how we implement them.

I have given a few speeches on this matter. There is a lot of hype about AI, including in healthcare. And sometimes, you really wonder why are these proposals like that. Because those of us who work in healthcare, you know it is not simple, especially a public essential service.

We have to take a very careful use-case approach. That means, what problems are we facing, can AI solve those problems? Find the right tools. Never treat AI as a hammer going around looking for nails or a solution looking for a problem. We have enough problems. Let us see what AI can do to solve some of these problems.

And when you can find the right AI tool, make sure it is trained in the local context, taking into account security, de-identified data, patient data that is in Singapore.

When the model is ready, when you deploy it, you have to deploy in accordance with clinical protocols. There is a certain way we do things. There are existing legacy IT systems. AI is not something you plug into the socket and suddenly, it solves your problems. It does not work that way. And then, how do you interface with existing legacy IT systems? How the processes are thought through, with the clinicians still making the judgement?

It is early days, but I think we are very conscious that there is a lot of hype, a lot of use or misuse of AI. I think all this hype at some point will subside to a more realistic level, where people are more judicious, thoughtful and even, sober about using AI. And we tell ourselves, "Why wait for that process? Why do we not start off being sober and judicious?" And that is the approach that the Ministry of Health is taking.

Mr Speaker : Mr Low.

Mr Low Wu Yang Andre (Non-Constituency Member) : Thank you, Speaker. Minister, I have three supplementary questions. Firstly, it is about the scope of the data that is being envisaged to be used to train this AI model. Would it encompass all health data in Singapore of all patients, including data in the National Electronic Health Record (NEHR) database?

Secondly, it is about the nature of the consent that will be sought before patient's data will be used for training. Has the Ministry considered, or will the Ministry consider, asking patients for explicit consent before their data can be used for training purposes?

And third supplementary question: I understand the Minister has given assurances that the data will be anonymised and have personal identifiers removed before they are used for training. However, as we can see, I have another Parliamentary Question today for a similar data leak incident with the Singapore Land Authority, where a lot of these processes are fallible. And sometimes, anonymisation of data does not actually pan out and personal identifiable data can leak into publicly available databases. What assurances can the Minister give to the public that their very sensitive health data will remain safe?

Mr Ong Ye Kung : I think we all know AI is a breakthrough technology, but we must take a thoughtful and judicious approach. So, we have to decide what we want to do with it. If we start off thinking that we distrust this system entirely and therefore, let us scope down the data to be used to train models – even though we know the data is essential to train models that can improve healthcare, save lives, operate everything better and maybe help us address some of our very stark challenges of an ageing population with rising patient load – and if we accept that, but yet at the same time distrust the system and say, "Let's scope down the data, let's not believe that they can really be anonymised and de-dentified because there can be leaks and traceability", and "Let's seek everyone's consent before we can use", then it is a non-starter. It becomes a non-starter.

I think just take a balanced approach: recognise that this is a breakthrough technology that can do a lot of good, but to do so, we will need to use the data that we have and take the necessary precautions. Make sure that it is anonymised and de-identified. And we started this process some years ago. So, TRUST data has been used in various contexts already – so far, incident-free. I think we make sure it is anonymised and de-identified by international standards.

I think let us proceed on that basis. We must have safeguards, I agree. But we must strike a balance between leveraging that technology, but putting in place the safeguards. And we can proceed on that basis.

And at some point, Singaporeans will see that healthcare services are improving, yet quite incident-free. That is when they have confidence and assurance. I think let the action and the results speak for themselves.