지난 일요일 Google은 Guardian 조사에서 사람들이 허위 및 오해의 소지가 있는 정보로 인해 위험에 처해 있다는 사실을 발견한 후 AI 개요 건강 요약 중 일부를 삭제했습니다. 이러한 삭제는 Google의 생성 AI 기능이 검색 결과 상단에 부정확한 건강 정보를 제공하여 잠재적으로 중병 환자가 건강 상태가 양호하다고 잘못 결론을 내릴 수 있다는 사실을 발견한 이후에 이루어졌습니다.
The Guardian이 접촉한 전문가들이 결과를 위험하다고 표시한 후 Google은 "간 혈액 검사의 정상 범위는 무엇입니까?"와 같은 특정 쿼리를 비활성화했습니다. 보고서는 또한 췌장암과 관련된 중대한 오류를 강조했습니다. AI는 환자에게 고지방 음식을 피하라고 제안했습니다. 이는 체중 유지를 위한 표준 의료 지침과 모순되며 환자의 건강을 위태롭게 할 수 있는 권장 사항입니다. 이러한 결과에도 불구하고 Google은 간 테스트 쿼리에 대한 요약만 비활성화하여 잠재적으로 유해한 다른 답변에 액세스할 수 있도록 했습니다.
조사 결과, 간 검사 기준을 검색하면 필수적인 맥락이 부족한 원시 데이터 테이블(ALT, AST 및 알칼리성 인산분해효소와 같은 특정 효소 목록)이 생성된 것으로 나타났습니다. 또한 AI 기능은 연령, 성별, 인종과 같은 환자 인구통계에 맞게 이러한 수치를 조정하지 못했습니다. 전문가들은 AI 모델의 '정상' 정의가 실제 의학적 기준과 다른 경우가 많기 때문에 심각한 간 질환을 앓고 있는 환자는 자신이 건강하다고 잘못 믿고 필요한 후속 관리를 생략할 수 있다고 경고했습니다.
British Liver Trust의 커뮤니케이션 및 정책 이사인 Vanessa Hebditch는 The Guardian과의 인터뷰에서 간 기능 검사는 다양한 혈액 검사의 모음이며 결과를 이해하는 것은 "복잡하며 일련의 숫자를 비교하는 것보다 훨씬 더 많은 것을 포함합니다"라고 말했습니다. 그녀는 AI 개요가 심각한 간 질환이 있고 추가 치료가 필요할 때 이러한 테스트에 대한 정상적인 결과를 얻을 수 있다는 경고를 하지 않는다고 덧붙였습니다. “이러한 잘못된 확신은 매우 해로울 수 있습니다.”라고 그녀는 말했습니다.
Google은 The Guardian의 특정 삭제에 대해 언급을 거부했습니다. 회사 대변인은 The Verge에 Google이 특히 건강 주제에 대한 AI 개요의 품질에 투자하고 있으며 "대다수는 정확한 정보를 제공"한다고 말했습니다. 대변인은 회사 내부 임상의 팀이 공유된 내용을 검토한 결과 "많은 경우 정보가 부정확하지 않았으며 고품질 웹사이트에서도 지원된다는 사실을 발견했습니다"라고 덧붙였습니다.