폴리티코(Politico)는 CISA(사이버보안 및 인프라 보안국) 국장 대행인 마두 고투무칼라(Madhu Gottumukkala)가 실수로 ChatGPT의 공개 버전에 민감한 정보를 업로드했다는 놀라운 비판을 보도했습니다.
"사건에 대해 알고 있는 4명의 국토안보부 공무원"에 따르면 Gottumukkala가 민감한 CISA 계약 문서를 업로드하면 "연방 네트워크에서 정부 자료의 도난 또는 의도하지 않은 공개를 중지"하기 위해 고안된 여러 내부 사이버 보안 경고가 촉발되었습니다.
Gottumukkala의 업로드는 그가 기관에 합류하고 대부분의 DHS 직원의 액세스가 차단된 OpenAI의 인기 있는 챗봇을 사용하기 위한 특별 허가를 구한 직후에 이루어졌다고 DHS는 Ars에 확인했습니다. 대신 DHS 직원은 해당 기관의 DHChat과 같은 승인된 AI 기반 도구를 사용합니다. 이 도구는 "자신에게 입력된 쿼리나 문서가 연방 네트워크를 벗어나는 것을 방지하도록 구성되어 있습니다"라고 Politico는 보고했습니다.
Gottumukkala가 ChatGPT를 사용해야 했던 이유는 여전히 불분명합니다. 한 관계자는 Politico에 직원들에게 Gottumukkala가 "CISA에게 ChatGPT를 제공하도록 강요한 다음 이를 악용한 것"처럼 보였다고 말했습니다.
Gottumukkala가 유출한 것으로 알려진 정보는 기밀이 아니지만 "공식 용도로만 사용"이라고 표시되어 있습니다. DHS 문서에 따르면 이러한 지정은 "민감한 성격의 분류되지 않은 정보를 식별하기 위해 DHS 내에서 사용"되며, 승인 없이 공유될 경우 "개인의 개인 정보 보호 또는 복지에 부정적인 영향을 미칠 수" 있거나 "국익에 필수적인" 연방 및 기타 프로그램의 운영 방식을 방해할 수 있습니다.
이제 민감한 정보가 ChatGPT의 7억 활성 사용자의 메시지에 응답하는 데 사용될 수 있다는 우려가 있습니다.
OpenAI는 Ars의 논평 요청에 응답하지 않았지만 Cyber News는 전문가들이 "업로드된 데이터가 유지되거나 침해되거나 다른 사용자에게 응답을 알리는 데 사용될 수 있기 때문에 공개 AI 도구를 사용하면 실질적인 위험을 초래할 수 있다"고 경고했다고 보도했습니다.
소식통은 Politico에 DHS가 잠재적으로 정부 보안에 해를 끼칠 수 있는 사건을 조사했으며 이로 인해 행정적 또는 징계 조치가 취해질 수 있다고 DHS 관계자가 Politico에 말했습니다. 가능한 결과는 공식적인 경고나 의무적인 재교육에서부터 "보안 허가의 정지 또는 취소"에 이르기까지 다양할 수 있다고 관계자는 말했습니다.