WHO, 건강을 위한 안전하고 윤리적인 AI 요구

WHO, 건강을 위한 안전하고 윤리적인 AI 요구

WHO 2023.05.16

세계보건기구(WHO)는 인간의 복지, 인간의 안전, 자율성을 보호 및 증진하고 공중 보건을 보존하기 위해 인공지능(AI)으로 생성된 대규모 언어 모델 도구(LLM)를 사용할 때 주의를 기울일 것을 당부하고 있습니다.

LLM에는 인간의 의사소통을 이해하고, 처리하고, 생성하는 것을 모방하여 가장 빠르게 확장되고 있는 ChatGPT, Bard, Bert 등 여러 플랫폼이 포함됩니다. 이러한 플랫폼의 대중적 확산과 건강 관련 목적의 실험적 사용이 증가함에 따라 사람들의 건강 요구를 지원할 수 있는 잠재력에 대한 기대가 커지고 있습니다.

사람들의 건강을 보호하고 불평등을 줄이기 위해 건강 정보에 대한 접근성을 개선하거나 의사결정 지원 도구로, 또는 자원이 부족한 환경에서 진단 역량을 강화하기 위해 LLM을 사용할 때는 그 위험성을 신중하게 검토하는 것이 필수적입니다.

WHO는 의료 전문가, 환자, 연구자, 과학자를 지원하기 위해 LLM을 포함한 기술을 적절히 사용하는 것에 열광하고 있지만, 일반적으로 신기술에 적용하는 주의가 LLM에 대해서는 일관되게 적용되지 않고 있다는 우려가 있습니다. 여기에는 투명성, 포용성, 대중의 참여, 전문가 감독, 엄격한 평가라는 핵심 가치를 광범위하게 준수하는 것이 포함됩니다.

검증되지 않은 시스템의 성급한 도입은 의료진의 실수를 초래하고, 환자에게 해를 끼치며, AI에 대한 신뢰를 약화시켜 전 세계적으로 이러한 기술의 잠재적인 장기적 혜택과 사용을 저해(또는 지연)할 수 있습니다.

기술이 안전하고 효과적이며 윤리적인 방식으로 사용되기 위해서는 엄격한 감독이 필요하다는 우려에는 다음이 포함됩니다:

  • AI를 학습시키는 데 사용되는 데이터가 편향되어 건강, 형평성, 포용성에 위험을 초래할 수 있는 오해의 소지가 있거나 부정확한 정보를 생성할 수 있습니다;
  • LLM은 최종 사용자에게 권위 있고 그럴듯하게 보일 수 있는 답변을 생성하지만, 특히 건강 관련 답변의 경우 완전히 부정확하거나 심각한 오류가 포함될 수 있습니다;
  • LLM은 이전에 그러한 사용에 대한 동의를 제공하지 않은 데이터에 대해 학습될 수 있으며, LLM은 사용자가 응답을 생성하기 위해 애플리케이션에 제공하는 민감한 데이터(건강 데이터 포함)를 보호하지 못할 수 있습니다;
  • LLM은 대중이 신뢰할 수 있는 건강 콘텐츠와 구별하기 어려운 텍스트, 오디오 또는 비디오 콘텐츠의 형태로 매우 설득력 있는 허위 정보를 생성하고 유포하는 데 오용될 수 있습니다.
  • 인류의 건강을 개선하기 위해 AI와 디지털 헬스 등 신기술을 활용하기 위해 노력하는 한편, 정책 입안자들은 기술 기업이 LLM을 상용화하기 위해 노력하는 동안 환자의 안전과 보호를 보장할 것을 권고합니다.

WHO는 개인, 의료 서비스 제공자, 의료 시스템 관리자 및 정책 입안자 등 일상적인 의료 및 의학 분야에서 널리 사용되기 전에 이러한 우려를 해결하고 혜택에 대한 명확한 증거를 측정할 것을 제안합니다.

WHO는 보건용 AI를 설계, 개발, 배포할 때 헬스 AI의 윤리 및 거버넌스에 관한 WHO 지침에 열거된 대로 윤리적 원칙과 적절한 거버넌스를 적용하는 것이 중요하다는 점을 다시 한 번 강조합니다. WHO가 규정한 6가지 핵심 원칙은 다음과 같습니다: (1) 자율성 보호, (2) 인간 복지, 인간 안전 및 공익 증진, (3) 투명성, 설명 가능성 및 명료성 보장, (4) 책임과 책임감 조성, (5) 포용성 및 형평성 보장, (6) 반응성 있고 지속 가능한 AI 촉진입니다.

의료용 인공 지능의 윤리 및 거버넌스

개요

보건용 인공지능의 윤리 및 거버넌스에 관한 WHO 지침은 윤리, 디지털 기술, 법률, 인권 분야의 주요 전문가와 각국 보건부 전문가들이 18개월에 걸쳐 숙고한 결과물입니다. 보고서에 따르면 인공지능을 사용하는 신기술은 진단, 치료, 보건 연구 및 신약 개발을 개선하고 감시 및 발병 대응을 포함한 공중 보건 기능을 수행하는 정부를 지원할 수 있는 큰 가능성을 가지고 있지만, 이러한 기술은 설계, 배포 및 사용의 중심에 윤리와 인권을 두어야 합니다.

이 보고서는 보건 인공지능 사용의 윤리적 도전과 위험, 인공지능이 모든 국가의 공공의 이익을 위해 작동하도록 보장하기 위한 6가지 합의 원칙을 식별합니다. 또한 보건용 인공지능의 거버넌스가 기술의 잠재력을 극대화하고 공공 및 민간 부문의 모든 이해관계자가 이러한 기술에 의존하게 될 의료 종사자, 인공지능 사용으로 인해 건강에 영향을 받게 될 지역사회 및 개인에 대해 책임감을 갖고 대응할 수 있도록 보장하는 일련의 권장 사항도 포함되어 있습니다.

이 블로그의 인기 게시물

대규모 언어 모델(LLM : Large Language Models) 연구 동향

이미지
대규모 언어 모델에 대한 조사 A Survey of Large Language Models https://arxiv.org/abs/2303.18223 요약 1950년대에 튜링 테스트(Turing Test)가 제안된 이래로 인간은 기계가 언어 지능을 마스터하는 방법을 탐구해 왔습니다. 언어는 본질적으로 문법 규칙에 의해 지배되는 복잡하고 정교한 인간 표현 체계입니다. 이는 유능한 인공지능을 개발하는 데 언어를 이해하고 파악할 수 있는 유능한 인공 지능(AI) 알고리즘을 개발하는 것은 중요한 과제입니다. 언어 모델링은 지난 20년 동안 언어 이해와 생성을 위해 널리 연구되어 왔으며, 통계적 언어 모델(statistical language models)에서 신경망 언어 모델(neural language models)로 발전해 왔습니다. 최근에는 대규모 말뭉치(large-scale corpora)를 대상으로 Transformer 모델을 사전 학습시켜 다양한 자연어 처리(NLP) 작업을 해결하는 데 강력한 성능을 보이는 사전 학습 언어 모델(PLM: pre-trained language models)이 제안되고 있습니다. 연구진은 모델 스케일링이 모델 용량 향상으로 이어질 수 있다는 사실을 발견한 후, 파라미터 스케일을 더 큰 크기로 늘려 스케일링 효과를 추가로 조사했습니다. 흥미롭게도 매개변수 규모가 일정 수준을 초과하면 이렇게 확대된 언어 모델은 성능이 크게 향상될 뿐만 아니라 소규모 언어 모델(예: BERT)에는 없는 몇 가지 특별한 능력(예: 비문맥 학습 incontext learning)도 발휘합니다. 다양한 매개변수 규모에서 언어 모델을 구별하기 위해 연구 커뮤니티에서는 상당한 규모(예: 수백억 또는 수천억 개의 매개변수를 포함하는)의 PLM에 대해 대규모 언어 모델(LLM)이라는 용어를 만들어냈습니다. 최근 학계와 산업계에서 LLM에 대한 연구가 크게 진전되고 있으며, 괄목할 만한 진전으로 LLM을 기반으로 개발된 강력한 AI 챗봇인 ChatGPT가 ...
Read more »

장애인 접근성 향상을 지원하는 AI

이미지
장애와 인공지능의 융합: 새로운 접근성 혁신의 가능성 세계보건기구(WHO)에 따르면 현재 전세계에서 10억 명 이상의 인구가 심각한 장애를 가지고 생활하고 있는 실정입니다. 이는 장애를 가진 개인들이 일상 생활에서 직면하는 도전과 어려움을 강조하는 중요한 사실입니다. 그러나 동시에, AI 시장은 앞으로 7년 동안 더욱 지속적으로 성장할 것으로 예측되며, 이러한 성장은 2조 달러 이상의 누적 가치를 창출할 것으로 전망됩니다. 이러한 상황에서 장애와 인공지능의 융합은 혁신적인 가능성을 열고 있습니다. 이는 장애를 가진 개인들이 기술적 혁신을 통해 보다 더 나은 생활 환경과 기회를 얻을 수 있도록 지원할 수 있는 가능성을 시사하고 있습니다. 그러한 가능성은 몇 가지 측면에서 강조할 수 있습니다. 음성 인식 및 음성 명령 기술을 비롯한 자연어 처리 기술은 시각적 또는 운동 능력에 제약이 있는 개인들에게 컴퓨터 및 기기와 보다 쉽게 상호 작용할 수 있는 기회를 제공합니다. 이러한 기술은 스마트 홈, 스마트 시티, 자동차 및 기타 분야에서 개인화된 지원을 제공할 수 있어, 장애를 가진 개인들의 독립 생활을 촉진하는 역할을 합니다. AI 기반 의료 진단 및 치료 도구는 질병 및 장애에 대한 조기 진단과 개별화된 치료 계획을 제공할 수 있습니다. 이는 더 나은 의료 접근성과 개인화된 치료를 통해 장애를 가진 개인들의 건강을 개선하는 데 도움이 됩니다. 교육 분야에서 AI는 학습 어려움을 겪는 학생들을 위한 개별화된 교육 방법을 개발하는 데 활용될 수 있습니다. 학습 장애를 가진 학생들은 AI를 통해 개별 수업 계획 및 학습 지원을 받아 더욱 효과적으로 학습할 수 있게 될 것입니다. 혁신적인 모바일 애플리케이션과 웨어러블 디바이스는 장애를 가진 개인들이 일상 생활에서 더욱 독립적으로 활동할 수 있도록 돕는 역할을 합니다. 이러한 기술은 장애를 극복하고 사회 참여를 촉진하는 데 중요한 역할을 합니다. AI 기술을 활용한 웹 및 컴퓨터 접근성 도구는 웹 콘텐츠, 애플리케이션 및...
Read more »

메타, 2023년 트렌드 보고서 - 새롭게 떠오르는 문화

메타, 2023년 트렌드 보고서 - 떠오르는 문화 1. 정체성 탐험, 나를 알아가는 새로운 여정 1.1 내 몸은 나의 신전 전 세계적으로, 사람들은 긍정적인 마인드, 아름다움, 자율성 등을 기준으로 삼아 자신의 몸을 새롭게 바라보고 있습니다. 많은 사람이 자율성과 신체적 완전성에 관한 문제를 점점 더 고민하고 있습니다. 한국의 설문조사 대상 약 4명 중 1명이 #내몸사랑하기운동(#BodyPositivityMovement)에 참여하고 있다고 답했습니다. 또한 접근성, #신경다양성(#neurodivergence)과 같은 대화 주제가 계속해서 인기를 얻음에 따라, 장애를 가진 사람들에 대한 인식이 높아지고 있으며 이들의 다양한 스토리가 늘어나고 있습니다. 아름다움에 대한 개념도 계속해서 변하고 있습니다. 특히 몸에 난 털이 뜨거운 주제로 주목받고 있습니다. 사람들은 제모할 것인지(화학적 제모제, 제모기) 아니면 털을 그대로 둘 것인지(겨드랑이털)에 관한 논의를 벌이며 성별에 따른 사회적 규범에 도전장을 내밀고 있습니다. 신체 개조에 관한 대화도 증가하고 있습니다. 아마도 가장 본능적인 자기 표현 방식이기 때문이겠죠. 신체 자율성에 관한 매우 실질적인 문제가 전 세계적으로 제기되고 있는 상황에서도 아바타 등의 주제에 관한 대화가 증가하는 것을 보면 미래가 어떨지 짐작할 수 있습니다. 미래에는 신체적 존재감이 물리적 세계를 뛰어넘어 가상 세계까지 확장될 것입니다. 이미 전 세계 응답자의 51%가 가상 상품(브랜드의 가상 제품)을 구매하는 데 관심이 있다고 답했습니다. 또한 사람들이 진정성에 더 큰 관심을 가짐에 따라 앞으로 물리적 세계와 메타버스에서 포용적인 대표성을 반드시 전략의 중심에 두어야 할 것입니다. 1.2 중요한 중년기 중년을 새로운 변화의 시기로 여기는 사람들이 늘고 있습니다. 공식적인 합의가 이루어진 것은 아니지만, 일반적으로 40세~60세를 중년이라고 하며 이 생애 단계의 중간에 X세대(그리고 이후 밀레니얼 세대)가 자리하고 있습니다. 베이비붐...
Read more »

유럽 최고의 여름 여행지 추천

이미지
유럽은 탐험을 기다리는 여름 여행지의 보고입니다. 햇살이 내리쬐는 해변에서의 휴가를 갈망하시든, 풍성한 문화 체험을 원하시든, 맛있는 요리를 즐기고 싶으시든, 유럽은 모두를 위한 여행지를 갖추고 있습니다. 지중해의 매력적인 마을부터 북유럽의 번화한 대도시까지, 유럽은 기억에 남는 여름 휴가를 보낼 수 있는 다양한 가능성을 자랑합니다. 선택의 폭을 좁히고 잊지 못할 여행을 계획할 수 있도록 유럽 최고의 여름 여행지 목록을 종합적으로 정리했습니다. 이 목록에는 해변 지역과 도시가 포함되어 있어 다양한 취향에 맞는 다양한 옵션을 제공합니다. 따라서 해변을 좋아하시든, 문화를 즐기시든, 도시를 좋아하시든, 취향에 맞는 여행지를 찾으실 수 있을 거예요. 유럽 전역을 샅샅이 뒤져 가장 아름답고 흥미진진하며 매력적인 여름 여행지를 추천해 드립니다. 여름에 유럽에서 방문하기 가장 좋은 곳은? 선택할 수 있는 국가와 도시가 너무 많기 때문에 어디로 갈지 결정하기가 부담스러울 수 있습니다. 여기에서는 날씨, 관광객 수, 독특한 경험 등을 고려하여 여름에 유럽에서 방문하기 가장 좋은 여행지를 소개합니다. 1. 오스트리아 오스트리아는 역사, 문화, 자연의 아름다움, 아웃도어 액티비티가 독특하게 어우러진 특별한 여름 여행지 입니다. 오스트리아는 아름다운 알프스 풍경 외에도 매력적인 도시, 그림 같은 마을, 활기찬 도시가 많이 있습니다. 또한 다른 인기 유럽 여행지보다 덜 붐비기 때문에 사회적 거리두기를 원하는 여행객에게 완벽한 여행지입니다. 유럽의 중심부에 편리하게 위치한 오스트리아는 잘 정비된 도로망과 경치 좋은 루트 덕분에 자동차로 여행할 때 스트레스 없이 유연한 경험을 할 수 있습니다. 도로 여행의 편리함 덕분에 오스트리아의 다양한 지역과 명소를 나만의 속도에 맞춰 탐험할 수 있습니다. 오스트리아의 도로 여행은 방문객들에게 기억에 남는 경험을 선사하며, 매력적인 도시, 그림 같은 마을, 번화한 도시를 지나면서 오스트리아의 멋진 풍경과 자연의 아름다움을 만끽할 수 있...
Read more »

딜로이트, 2023 글로벌 그린수소 시장 전망

이미지
그린수소(Green Hydrogen): 넷제로 실현 가속화 동인 Green Hydrogen: Energizing the path to net zero (Deloitte’s 2023 global green hydrogen outlook) 2023년 6월 발표 한국 딜로이트 그룹은 2050년 청정수소 생산규모는 약 6억메트릭t(MtH2eq)에 이를 것으로 전망 * 출처 : 2023 글로벌 그린수소 전망 리포트 넷제로 실현과 청정수소의 역할 정부와 기업 그리고 연구소 등 전 세계 각계 각층에서 탄소중립 달성을 위한 노력으로 에너지 전환 속도를 높이고 있다. 지구 평균 기온 상승폭을 산업화 이전 대비 2.0℃ 보다 낮은 수준으로 유지하고, 1.5℃까지 제한하기로 한 파리협정의 이행과 점검의 시간이 다가오면서, 화석 연료에 의존한 기존 발전 시스템을 재생에너지와 같은 저탄소 에너지원으로 전환하는 것이 필수적인 상황이다. 저탄소 에너지원으로 재생에너지를 활용한 전 산업의 ' 전기화(Electrification) 가 근본적인 대안일수 있다. 하지만 고온가열 공정이 요구되는 중공업과 제품 원료 조달을 담당하는 교통 및 중대형 화물 운송 분야까지 도입하기에는 실질적으로 많은 장애물이 상존한다. 더욱이 완벽한 탄소감축 수단으로 태양광, 풍력 등 활용한 전기화가 발전 단가 하락으로 확장세를 보인다 하더라도, 에너지원의 가변성(variability)과 송배전 네트워크 안정성(Network Stabilization) 등의 문제를 해소해야 한다. 청정수소(Clean Hydrogen)는 이 모든 장애와 문제를 해소하는 대안기술로서 그 혁신성과 잠재력을 인정받고 있다. 수소는 연료전지의 연료로 산소와 화학반응을 일으켜 전기 에너지 생산에 직접적으로 기여하는 다용도 분자(versatile molecule)이기도 하지만, 간접적으로 에너지 유도체로 활용되어 수소에 질소(N) 또는 탄소(C)를 첨가해 암모니아(NH3), 메탄올(CH3OH) 및 지속가능항공연료(SAF) 등...
Read more »