ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
건강 관련 질문에 대답하기 위해 AI를 활용하는 것은 의사 방문을 피할 수 있는 쉽고 편리한 옵션처럼 보입니다. 일반 Google 검색 중에 나타나는 결과를 요약하는 Google AI 개요와 같은 도구의 경우 특히 그렇습니다.
또한: Google 검색에서 AI 개요를 제거하는 방법: 4가지 쉬운 방법
하지만 그렇다고 해서 Google의 AI가 가장 좋은 경로라는 의미는 아닙니다. 특히 심각한 의학적 문제나 상태를 연구하는 경우에는 더욱 그렇습니다.
영국 신문 The Guardian의 최근 조사에 따르면 Google의 자체 AI 개요가 요약에 허위 및 오해의 소지가 있는 건강 정보를 제공하여 사용자를 위험에 빠뜨린다고 결론지었습니다. 테스트를 수행하기 위해 The Guardian은 AI 개요를 사용하여 여러 가지 건강 관련 질문을 조사했습니다. 그런 다음 해당 논문에서는 다양한 의료 및 보건 전문가에게 답변을 검토해 달라고 요청했습니다.
또한: 전 세계적으로 4천만 명이 의료 목적으로 ChatGPT를 사용하고 있습니다. 그런데 과연 안전한가요?
전문가들이 "정말 위험하다"고 설명한 한 사례에서는 Google의 AI 개요가 췌장암 환자에게 고지방 음식을 피하라고 조언했습니다. 그러나 전문가들은 이는 올바른 조언과 정반대라고 말했다. 또 다른 예로, 전문가들은 여성 암 검사에 관해 AI가 생성한 정보가 "완전히 틀렸다"고 말했습니다.
여기에 '질암 증상 및 검사'를 검색하면 질암 검사로 자궁경부암 검사가 나와 있는데, 전문가들은 이 내용이 틀렸다고 밝혔다.
세 번째 경우, Google은 심각한 간 질환이 있는 사람들에게 잘못된 인상을 줄 수 있는 중요한 간 기능 검사에 대한 잘못된 정보를 제공했습니다. 예를 들어, "간 혈액 검사의 정상 범위는 무엇입니까?"라는 문구를 검색하면 맥락이 거의 없고 국적, 성별, 민족 또는 연령을 고려하지 않은 잘못된 데이터가 반환되었습니다.
The Guardian은 조사 결과에 따르면 AI 개요가 정신 건강에 대한 검색에서 부정확한 결과를 제공했다고 밝혔습니다.
특히 정신병이나 섭식 장애와 같은 상태에 대한 요약 중 일부는 "매우 위험한 조언"을 표시했으며 "부정확하거나 해롭거나 사람들이 도움을 구하지 않게 만들 수 있다"고 정신 건강 자선단체 마인드(Mind)의 정보 책임자인 스티븐 버클리는 구글에 말했다.
The Guardian의 조사 결과에 대한 피드백 요청에 응답하여 Google 대변인은 ZDNET에 다음 성명을 보냈습니다.
"우리와 공유한 사례 중 다수는 불완전한 스크린샷이지만, 내부 임상의 팀이 평가한 결과, 응답은 잘 알려져 있고 평판이 좋은 출처에 연결되어 있으며 전문가의 조언을 구하는 것이 좋습니다. 우리는 특히 건강과 같은 주제에 대해 AI 개요의 품질에 크게 투자하고 있으며 대부분은 정확한 정보를 제공합니다."
또한: 치료에 AI를 사용하나요? 하지 마십시오 - 정신 건강에 좋지 않다고 APA는 경고합니다.
Google은 또한 The Guardian이 제기한 특정 질문을 검토하고 일부 답변을 검증했습니다.
예를 들어, AI 개요에서는 자궁경부암 검사가 질암 진단을 위한 것이라고 말하지 않지만 Google에 따르면 질암은 자궁경부암 검사에서 우연히 발견될 수 있다고 말합니다. 췌장암 사례의 경우 개요에서는 존스 홉킨스 대학을 평판 좋은 출처 중 하나로 인용합니다.
정신 건강의 경우, 구글은 개요가 무료, 기밀, 국가 위기 지원 전화로 연결되는 출처를 가리킨다고 말했습니다. 간 테스트 쿼리의 경우 Google은 AI 개요에서 정상 범위가 실험실마다 다를 수 있으며 면책 조항에서 사람들에게 의학적 조언이나 진단을 위해 전문가와 상담할 것을 권고했다고 밝혔습니다.
The Guardian이 질문한 것과 동일한 질문 중 일부를 제출하여 AI 개요를 테스트했습니다. 한 검색에서 나는 췌장암에 걸렸다고 구글에 말하면서 고지방 음식을 피해야 하는지 물었습니다.
AI는 췌장이 소화 효소를 생성하는 데 어려움을 겪기 때문에 췌장암이 있는 경우 고지방 음식을 제한해야 하는 경우가 많다고 말했습니다. 그러나 칼로리도 필요하므로 공인 영양사와 협력하여 건강한 지방과 소화하기 쉬운 옵션의 올바른 균형을 찾는 것이 체중 감소와 영양실조를 방지하는 데 중요합니다.
또한: Google 검색 책임자, AI 쟁탈전 속에서 뉴스 콘텐츠의 미래를 말하다
다음으로 "질암 증상 및 검사"를 검색해보았습니다. AI 개요에서는 여러 진단 테스트 중 하나로 자궁 경부 세포진 검사를 나열했지만 이러한 유형의 테스트는 때때로 질암을 발견할 수 있는 자궁경부의 비정상 세포를 확인한다고 말함으로써 자격을 부여했습니다.
간 혈액 검사의 정상 범위를 Google AI에 요청하면 일반적인 범위가 제공되었지만 성별 및 연령별로 구체적인 수치도 제공되었습니다.
제가 직접 테스트한 결과, AI 개요에서 제공한 답변은 The Guardian에서 얻은 답변보다 덜 명확하고 무미건조해 보였습니다. 그러나 이는 AI와 검색 전반에 대한 또 다른 과제를 지적합니다.
질문을 표현하는 방식이 답변에 영향을 미칩니다. 동일한 질문에 두 가지 다른 방식으로 질문하면 두 가지 다른 응답을 얻을 수 있습니다. 하나는 부분적으로 정확하고 잠재적으로 유용하고 다른 하나는 부정확하고 도움이 되지 않습니다.
AI 개요를 방어하면서 Google은 시스템이 정보의 신뢰성과 관련성을 보장하기 위해 웹 순위를 사용한다고 말했습니다. 웹의 콘텐츠가 잘못 해석되거나 맥락이 부족한 경우 회사는 해당 사례를 사용하여 프로세스를 개선하려고 노력할 것입니다.
그럼에도 불구하고 The Guardian의 조사는 특히 심각한 건강 상태와 관련된 중요한 연구에서 AI에 의존하는 데 따르는 함정을 지적합니다. 여기서 중요한 점은 "하지 마십시오"입니다. AI가 제공하는 정보가 정확할 것이라고 가정하여 건강을 위험에 빠뜨리지 마십시오.
또한: 검색 결과에 나오는 AI가 지겨우신가요? 다음 8가지 Google 대안을 사용해 보세요.
이러한 목적으로 AI를 사용해야 한다고 주장한다면 응답을 다시 확인하고 세 번 확인하세요. 서로 다른 AI에 대해 동일한 검색을 실행하여 일치하는지 확인하세요. 더 나은 방법은 답변을 얻기 위해 참조한 소스를 조사하여 AI가 답변을 올바르게 해석했는지 확인하는 것입니다.
가장 좋은 방법은 의사와 상담하는 것입니다. 귀하에게 심각한 질병이 있는 경우, 항상 주치의의 진료실에 연락해야 합니다. 연락하는 것을 두려워하지 마세요. 많은 의료 사무실에서는 환자 질문에 대해 이메일과 메시지를 제공합니다. 빠르고 쉬운 답변을 얻기 위해 AI를 활용하고 싶은 유혹이 있을 수 있지만, 잘못된 정보를 얻을 위험을 감수하고 싶지는 않습니다.