忍者ブログ

mshencity

OpenAI는 AI의 피해를 예측하고 완화하기 위해 새로운 대비 책임자를 고용하고 있습니다.

OpenAI는 회사의 안전 전략을 안내하기 위해 모델의 잠재적 피해와 남용 방법을 예측하는 데 도움을 줄 수 있는 새로운 대비 책임자를 찾고 있습니다. 연말에 OpenAI는 몇 가지 부당 사망 소송을 포함하여 ChatGPT가 사용자의 정신 건강에 미치는 영향에 대한 수많은 비난을 받았습니다. OpenAI CEO인 Sam Altman은 X에 게시한 게시물에서 모델의 역량과 함께 발생한 다른 "실제 과제"와 함께 "정신 건강에 대한 모델의 잠재적 영향은 2025년에 미리 본 것"임을 인정했습니다. 그는 “대비 책임자는 중요한 시기에 매우 중요한 역할을 한다”고 말했다.

구인 목록에 따르면 대비 책임자(555,000달러와 자본금 ​​추가)는 "OpenAI의 대비 프레임워크의 기술 전략 및 실행을 이끌 것입니다. 우리 프레임워크는 심각한 피해를 초래할 수 있는 새로운 위험을 생성하는 최전선 역량을 추적하고 준비하는 OpenAI의 접근 방식을 설명하는 프레임워크입니다." Altman에 따르면 이는 "스트레스가 많은 직업이며 거의 즉시 깊은 끝으로 뛰어들게 될 것입니다."

지난 몇 년 동안 OpenAI의 안전팀은 많은 변화를 겪었습니다. 회사의 전 준비 책임자인 Aleksander Madry는 2024년 7월에 재배치되었으며 Altman은 당시 임원인 Joaquin Quinonero Candela와 Lilian Weng이 그 역할을 맡을 것이라고 말했습니다. Weng은 몇 달 후 회사를 떠났고, 2025년 7월 Quinonero Candela는 OpenAI에서 채용을 이끌기 위해 준비 팀에서 물러나겠다고 발표했습니다.

PR

コメント

プロフィール

HN:
No Name Ninja
性別:
非公開

P R