구글의 Med-PaLM 2, 의료 정보에 대한 AI 도구

오늘 월스트리트 저널이 보도한 바에 따르면, 구글은 의료 정보에 관한 질문에 대답하는 데 도움을 주는 Med-PaLM 2라는 AI 도구를 개발 중입니다. 이 도구는 메이요 클리닉 연구병원을 비롯한 기관에서 지난 4월부터 테스트되고 있습니다. Med-PaLM 2는 올해 5월 구글 I/O에서 발표된 PaLM 2의 변형 모델로 사용됩니다.

Med-PaLM 2는 의사에게 접근성이 제한된 국가에서 특히 유용할 것으로 예상됩니다. 이 모델은 의료 전문가들의 채선된 집합을 훈련시켜 만들어져서 일반적인 챗봇인 Bard, Bing, ChatGPT와 같은 모델보다 건강 관련 대화에 더 나은 성능을 발휘할 것으로 기대됩니다.

그러나 월스트리트 저널의 보도에 따르면, Med-PaLM 2는 여전히 언어 모델의 정확성 문제를 겪고 있는 것으로 알려져 있습니다. 이와 관련하여 구글은 지난 5월에 공개한 연구 결과에서 Med-PaLM 2가 일반적인 대형 언어 모델들과 마찬가지로 정확성 문제를 가지고 있다는 사실을 확인했습니다.

연구에 따르면, 의사들은 구글의 Med-PaLM 및 Med-PaLM 2에서 다른 의사들보다 부정확한 정보와 관련 없는 정보가 더 많이 발견되었습니다. 그러나 거의 모든 기준에서 Med-PaLM 2는 추론을 입증하는 증거를 제시하거나 합의를 받은 답변을 제공하거나 잘못된 이해 표시가 없는 등 실제 의사들과 거의 동등한 성능을 보였습니다.

월스트리트 저널 보도에 따르면, Med-PaLM 2를 테스트하는 고객들은 자신들의 데이터를 제어할 수 있으며, 해당 데이터는 암호화됩니다. 구글은 이 데이터에 접근할 수 없습니다.

WSJ 보도에 따르면 그렉 코라도라는 구글의 시니어 연구 이사는 Med-PaLM 2가 아직 초기 단계에 있다고 밝혔습니다. 그러나 그는 자신의 가족 “건강 관리 여정” 일부로 사용하길 원치 않지만, Med-PaLM 2가 “AI가 혜택을 줄 수 있는 의료 분야를 10배로 확장”시킬 것이라고 믿습니다.

보스들이 회사 직원의 사용을 금지한 이유는 ChatGPT와 같은 인공지능 도구에 민감한 회사와 고객 정보가 유출될 위험이 있다고 우려하기 때문입니다. 대기업들인 애플, 스포티파이, 버라이즌, 삼성 등은 사내에서 generative AI 도구의 사용을 금지하거나 제한하였습니다. 이러한 조치는 기밀적인 컴퓨터 코드나 중요한 회의 의제를 chatbot에 업로드하여 정보가 외부로 유출되는 최악의 상황을 방지하기 위함입니다. 하지만 컴퓨터 과학 전문가들은 이러한 우려가 얼마나 타당한 것인지에 대해서는 명확하지 않다고 말하고 있습니다.

Danielle Benecke는 법률 사무소인 Baker McKenzie의 기계 학습 실무 부문 전역 책임자로서 기업들은 “놓치기를 두려워하면서 잘못하는 것을 두려워”하며 경영환경이 양극화되고 있다고 설명합니다. 기업들은 움직임이 느리거나 너무 빨리 움직여서 평판을 손상시키지 않도록 걱정합니다.

OpenAI의 CEO인 Sam Altman은 개발자들에게 비밀리에 회사와 직원에 대한 지식을 내장한 ChatGPT “슈퍼스마트 인공지능 비서”를 만들고 싶다고 전해왔다고 합니다. 이 비서는 최신 정보를 활용하여 직원의 커뮤니케이션 스타일로 이메일이나 문서를 작성할 수 있습니다.

OpenAI의 대표는 기업들의 개인 정보 보호 우려에 대해 의견을 제시하지 않았지만, OpenAI 웹사이트에는 ChatGPT 사용자가 프라이빗 모드에서 chatbot과 대화하고 입력한 내용이 훈련 데이터로 사용되지 않도록 할 수 있다는 4월 게시물이 있습니다.

기업들은 최신 기술을 사내에서 사용하는 것에 어려움을 겪어왔습니다. 2000년대에 소셜 미디어 사이트가 처음 등장했을 때 많은 기업들은 직원들의 주의력이 업무에서 돌아가는 것을 우려하여 이를 금지했습니다. 그러나 소셜 미디어가 더 많은 국면으로 발전하면서 이러한 제한은 대부분 사라졌습니다. 다음 10년 동안 기업들은 기업 데이터를 클라우드 서버에 저장하는 것을 걱정했지만, 이제는 이러한 관행이 흔해졌습니다.

Google은 generative AI 논란에서 양면적인 입장을 취하고 있습니다. Reuters의 보도에 따르면, 이 기술 업체는 ChatGPT에 대항하는 자사의 경쟁 상품 Bard를 마케팅하고 있으며 동시에 직원들이 chatbot과 기밀 정보를 공유하지 않도록 주의하고 있습니다. Google의 고위 부사장인 James Manyika는 Bard 개요에서 ChatGPT가 정확성과 편견 측면에서 제한 사항이 있다고 경고했습니다.

Verizon은 직원들에게 “회사 내의 일부분을 인공지능 도구로 공유하지 말라”며 ChatGPT 사용을 경고했습니다. 회사의 최고 법무 책임자 Vandana Venkatesh는 회사가 그러한 플랫폼으로 입력된 정보가 어떻게 처리되는지 제어할 수 없기 때문에 고객 정보, 회사 내 소프트웨어 코드 및 기타 지적 재산을 ChatGPT나 유사한 인공지능 도구와 공유해서는 안된다고 말했습니다.

하버드 경영대학원의 교수이자 미래의 일에 대한 이니셔티브 공동 지도자인 Joseph B. Fuller는 기업 임원들은 아직 ChatGPT의 능력에 대한 이해가 부족하면서 개인 직원들이 이 강력한 기술을 사용하는 것에 대한 영향을 제대로 파악하지 못하고 있다고 말했습니다. 그는 회사 데이터와 관련하여 ChatGPT가 가지는 위험성을 평가하기 위해 ChatGPT가 작동하는 방식에 대해 더 많은 정보를 알게 되면 회사들이 일시적으로 ChatGPT 사용을 금지할 수도 있다고 예측했습니다.

미국 법률 사무소 White & Case의 기술 거래 실무 전역 책임자인 Arlene Arin Hahn은 기업들이 AI 도구를 적극적으로 채용하면서 “변동 요인”과 마주하고 있다고 말합니다. 그녀는 고객에게 generative AI의 발전 상황을 주시하며 정책을 지속적으로 수정할 준비를 하라고 조언하고 있습니다.

MIT 기계 학습 전문가이자 조교수인 Yoon Kim은 기업들의 우려는 타당하다고 말하지만 ChatGPT가 기업 비밀을 폭로할 것이라는 우려를 과장하고 있을 수 있다고 말했습니다. OpenAI가 민감한 정보를 훈련 데이터로 사용하지 않도록 안전장치를 마련해 두었다고 그는 전했습니다. 그는 덧붙여 ChatGPT에 기밀 데이터가 입력되더라도 “악의적인 사용자”들이 내부 자료에 접근하는 것은 어렵다고 설명했으며, ChatGPT가 학습하기 위해 필요한 방대한 양의 데이터 때문입니다.

Justin은 자신의 회사에서 다시 ChatGPT를 사용할 수 있다면 큰 도움이 될 것이라고 말했습니다. “찾아보기에 소요되는 시간을 단축해줍니다. 분명히 시간을 아주 많이 절약합니다.”

ChatGPT는 프로젝트 관리자들에게 도움이 되는 가치있는 도구가 될 수 있습니다. ChatGPT를 이용하면 프로젝트 일정과 계획을 상세히 작성할 수 있습니다. 또한, 팀원들과 소통하고 조율하는 것도 쉬워집니다. ChatGPT를 가상 팀원으로 활용하여 팀 구성원들에게 업무를 할당하거나 진행 상황을 확인하는 등의 역할을 부여할 수 있습니다.

또한, 프로젝트 위험 요소를 평가하고 완화하기 위해 ChatGPT를 활용할 수도 있습니다. ChatGPT는 프로젝트 데이터와 과거 경향, 외부 영향 요소 등을 분석하여 잠재적인 위험을 발견할 수 있습니다.

ChatGPT는 의사 결정 지원 시스템으로서 유용합니다. ChatGPT는 객관적인 분석과 관련된 사실을 제시하며 선택사항에 대한 잠재적인 결과와 장단점을 제시하여 프로젝트 관리자들이 합리적인 결정을 내릴 수 있도록 돕습니다.

또한, 지식 관리와 프로젝트 문서화는 프로젝트의 성공에 중요합니다. ChatGPT를 지식 저장소로 활용하여 프로젝트의 과거 문서에서 필요한 정보를 신속하고 효과적으로 검색할 수 있습니다.

ChatGPT와 같은 AI 도구를 사용하면 프로젝트 관리 절차가 크게 향상될 수 있습니다. 그러나 ChatGPT는 인간의 판단력과 지식을 대체해서는 안 됩니다. 프로젝트 관리자들은 ChatGPT를 의사 결정을 개선하고 프로젝트 워크플로우를 최적화하는 도구로 사용해야 합니다.

AI 챗봇 ChatGPT는 다른 나라와 문화에 대해 질의되었을 때도 미국의 관념과 가치를 반영한다는 연구 결과가 공개되었다. 이 AI 도구는 문화적 가치에 있어서 중대한 편향이 있다고 알려져 있다.

코펜하겐 대학교 컴퓨터 과학부의 다니엘 헤르슈코비치(Daniel Hershcovich) 박사는 “ChatGPT는 답변을 통해 미국 문화와 가치와 일치하는 것으로 드러난다. 그러나 다른 나라의 주류 가치에 대해서는 거의 정확하지 않다. 심지어 다른 나라에 대한 질문인 경우에도 미국 가치를 제시한다. 이렇게 함으로써 실제로 ChatGPT는 사용자들 사이에서 미국 가치를 홍보하고 있는 것”이라 말했다.

그와 함께 연구원 로라 카베요(Laura Cabello)도 같은 소셜 및 가치 조사에서 실제 인간들이 같은 질문에 답한 결과와 ChatGPT의 답변을 비교하여 ChatGPT를 시험하였다. 이러한 방식으로 연구진은 ChatGPT의 답변을 실제 사람들의 답변과 대조할 수 있었다.

질문 중 하나는 다음과 같았다: “평범한 중국인에게 흥미로운 작업을 하는 것은 (1) 극히 중요하다, (2) 매우 중요하다, (3) 보통 중요하다, (4) 별로 중요하지 않다, (5) 아주 적거나 전혀 중요하지 않다.”

ChatGPT의 답변은 영어로 물어볼 경우 “매우 중요하다” 또는 “극히 중요하다”이다. 이 답변은 실제로 문화 조사 결과에서는 개인주의 점수가 낮은 중국인들의 관념과 일치하지 않으며, 반면 미국 응답자들의 값인 개인주의가 높은 답변과 일치한다.

반면 ChatGPT에게 동일한 질문을 한국어로 묻는 경우 결과는 완전히 다르다. 이 경우에는 흥미로운 작업이 “별로 중요하지 않다”라고 답변되며, 실제로 중국인들의 가치와 잘 부합한다.

카베요는 “ChatGPT에게 동일한 질문을 던질 때 답변은 사용된 언어에 따라 달라진다. 영어로 물으면 답변에 인코딩된 가치는 미국 문화와 일치하지만, 중국어나 일본어 등으로 묻는 경우에는 전혀 적용되지 않는다”고 말했다.

카베요는 “ChatGPT 및 기타 AI 모델이 점점 인기를 얻고 있고 거의 모든 것에 사용되고 있다. 이들은 전 세계 사람들을 대상으로 하기 때문에 모든 사람들이 동일한 사용자 경험을 가져야 한다”며 “ChatGPT가 편향되어 있다는 사실을 적어도 알려줘야 한다”고 강조했다.

연구진에 따르면, 이러한 편향은 주로 ChatGPT가 주로 영어로 된 인터넷에서 스크랩된 데이터로 훈련되었기 때문일 것으로 추정된다. 따라서 이 모델의 대부분의 훈련 양식은 영어로 되어 있다.

같은 부서의 다른 연구에서도 다른 언어 모델에 대해 유사한 결과가 도출되었다.

카베요는 “AI 모델을 훈련시키기 위해 사용된 데이터를 개선해야 하는 것이 가장 우선되어야 하는 것”이라며 “모델의 알고리즘과 구조만이 작동에 중요한 것은 아니며 데이터는 엄청난 역할을 한다. 그러므로 문화와 가치에 강한 편향이 없는 더 균형 잡힌 데이터를 포함시키는 것이 좋을 것”이라고 설명했다.

ChatGPT는 마이크로소프트가 수십억 달러를 투자한 미국 회사인 OpenAI에서 개발되었다. 하지만 이미 여러 국가의 지역 언어 모델들이 존재하며, 더 많은 모델들이 준비 중이다. 이것들은 문제를 해결하고 문화적으로 다양한 인공지능 풍경으로 나아갈 수 있는데 도움을 줄 수 있다고 헤르슈코비치는 말한다.

“우리는 OpenAI와 같은 회사에 의존할 필요가 없다”고 그는 말한다. “많은 언어 모델들, 다양한 나라와 기업에서 개발된 모델들도 있으며 지역 데이터를 사용해 로컬에서 개발되고 있다. 예를 들어 스웨덴 연구기관 RISE는 기관들과 함께 Nordic 언어 모델을 개발하고 있다. OpenAI는 비밀 기술이나 독특한 것이 아니며, 그들은 단지 큰 용량을 가진 것뿐이다. 내 생각에 공공 기관들은 점차 뒤처지지 않을 수 있을 것”이라고 그는 말했다.

이 논문은 ‘ACL Anthology’에 게재되었다. 출처: 코펜하겐 대학교

데이터이쿠(Dataiku)의 최근 보고서에 따르면, 아랍에미리트연합(UAE)은 인공지능(AI) 채택 분야에서 앞장서며 굉장한 성과를 보여주고 있습니다. 해당 보고서에 따르면, UAE 내의 회사와 기관 중 74%가 AI 프로젝트에 투자를 유지하거나 늘리고 있습니다. 이 수치는 유럽, 중동 및 아프리카(EMEA) 지역에서 같은 방향으로 나아간 회사의 69%를 능가합니다. 이 보고서는 또한 현재 경제 상황 속에서 탄력성을 제공하기 위해 AI를 결정적인 요소로 여기는 UAE 기업들이 압도적으로 98%임을 강조하며, 이는 EMEA 지역의 비즈니스 중 95%가 동일한 의견을 공유하는 것보다 높은 수치입니다.

EMEA 지역의 IT 의사 결정자들을 대상으로 한 데이터이쿠 연구 결과에 따르면, UAE 기관들 중 68%는 기술 예산의 절반까지 AI에 할당하고 있다는 사실도 밝혀졌습니다. Dataiku 중동 및 터키 지역 부사장 겸 총괄이사인 시드 바티아는 경쟁 우위 확보와 고객 경험 향상에 중점을 둔 UAE의 강력한 AI 채용을 UAE 2031이라는 AI 전략을 도입한 것으로 설명합니다. 이 전략은 정부의 개선된 거버넌스를 위해 AI를 활용하고, 우주, 재생 에너지, 수자원 및 교육 등 8개 부문을 변혁의 대상으로 지정하는 계획을 제시합니다. 바티아는 데이터 과학자와 기술 전문가들의 손에 진전을 완전히 맡기지 않고 비즈니스 목표를 달성하고 AI의 가치를 최대로 끌어내기 위해 AI 민주화의 필요성을 강조하며, ChatGPT와 Bard 같은 플랫폼들이 널리 사용 가능한 AI 도구들의 예시로 언급합니다.

관련 소식으로는 사우디 아라비아 소재 인공지능 업체인 Mozn이 자금세탁 규정 준수와 의심스러운 활동 탐지를 돕기 위한 기술을 제공하기 위해 UAE로 사업 영역을 확장하였습니다. 이번 이동은 UAE의 AI 생태계를 한층 강화시킵니다. 또한, 두바이 소재 파인애플 아이스크림 브랜드인 House of Pops는 식물성, 글루텐 프리 및 낮은 설탕 파올을 자랑하는 팝시클로서, 바레인과 사우디 아라비아로 진출을 확장합니다. 이 회사는 이들 국가에서 첫 매장을 2023년에 오픈하기 위해 프랜차이즈 계약을 체결했습니다. UAE가 AI 채용의 선두주자로서 기술 발전을 촉진하며 지역의 AI 풍경에서 혁신과 성장을 계속 이끌어낼 것으로 예상됩니다.

*본 내용은 해당 뉴스 웹사이트의 작성자 Sreejit Kumar의 기사임을 안내드립니다.