약품군별 최초 250개 갱신은 실제 의사가 검토하지만 이후에는 AI 챗봇이 자율적으로 운영된다. Doctronic의 공동 창립자이자 샌프란시스코 캘리포니아 대학의 교수인 Adam Oskowitz는 AI 챗봇이 안전 측면에서 실수를 하고 불확실한 사례를 실제 의사에게 에스컬레이션하도록 설계되었다고 Politico에 말했습니다.
유타주 상무부 전무이사인 Margaret Woolley Busse는 성명을 통해 “규제 완화에 대한 유타주의 접근 방식은 혁신 촉진과 소비자 안전 보장 사이에서 중요한 균형을 이루고 있습니다.”라고 말했습니다.
현재로서는 식품의약국(FDA)이 AI 처방을 규제하기 위해 개입할지는 불분명합니다. 한편, 처방전 갱신은 국가 관리에 속하는 의료 행위의 문제입니다. 그러나 Politico는 FDA가 질병을 진단, 치료 또는 예방하는 데 사용되는 의료 기기를 규제할 권한이 있다고 밝혔습니다.
감시 단체인 Public Citizen의 건강 연구 그룹 이사인 Robert Steinbrook은 성명을 통해 Doctronic의 프로그램과 감독 부족을 비난했습니다. Steinbrook은 “AI가 자동으로 처방전을 리필하거나 자신을 'AI 의사'로 식별해서는 안 됩니다."라고 말했습니다.
그는 "AI의 사려 깊은 적용이 의료 측면을 개선하는 데 도움이 될 수 있지만 유타 파일럿 프로그램은 보다 자율적인 의료 행위를 향한 위험한 첫 번째 단계입니다"라고 말했습니다. "AI 응용 프로그램이 약물을 처방하고 갱신하는 데 필수적인 인간 임상의 역할을 훼손하는 경우 FDA와 기타 연방 규제 기관은 다른 길을 볼 수 없습니다."