Ars는 유럽 비영리 단체인 AI Forensics와 연결되어 X가 영국에서 일부 출력을 차단했는지 확인하기 위해 테스트했습니다. 대변인은 X의 편집 버튼을 사용하여 유해한 출력이 생성될 수 있는지 조사하는 테스트가 테스트에 포함되지 않았음을 확인했습니다.
AI Forensics는 추가 테스트를 수행할 계획이지만 대변인은 The Verge가 여전히 작동한다고 확인한 "편집" 버튼 기능을 테스트하는 것은 비윤리적이라고 지적했습니다.
작년에 스탠포드 인간 중심 인공 지능 연구소(Stanford Institute for Human-Centered Artificial Intelligence)는 의회가 기술 회사가 CSAM 레드팀 구성에 대해 "기소에 대한 두려움 없이 생성 모델을 엄격하게 테스트"할 수 있도록 허용함으로써 "모델 안전에 바늘을 움직일 수 있다"는 연구 결과를 발표했다고 Tech Policy Press가 보도했습니다. 그러나 그러한 안전한 항구가 마련될 때까지 새로 출시된 AI 도구는 Grok과 같은 위험을 초래할 가능성이 더 높아 보입니다.
Grok의 결과물을 확인하지 않은 채로 두면 결국 X가 5월에 발효되고 플랫폼이 AI 복수 포르노를 신속하게 제거하도록 요구하는 Take It Down Act를 위반하게 될 가능성이 있습니다. Musk의 자녀 중 한 명인 Ashley St. Clair의 어머니 중 한 명은 Grok의 결과물이 자신의 이미지를 리벤지 포르노로 사용했다고 설명했습니다.
영국 조사가 계속되는 동안 Bonta는 X가 미국에서 위반했을 수 있다고 의심되는 법률을 아직 명확히 밝히지 않았습니다. 하지만 그는 피해자가 '최소한의 옷'을 입고 묘사된 이미지와 어린이를 성적인 자세로 묘사하는 이미지가 선을 넘었다는 점을 강조했다.
캘리포니아 조사가 뜨거워지면서 Bonta는 Grok의 출력을 제한하기 위해 더 많은 조치를 취하도록 X를 밀어붙였습니다. 한 AI 연구원은 Ars에게 몇 가지 간단한 업데이트를 통해 이를 수행할 수 있다고 제안했습니다.
Bonta는 “이 문제가 더 이상 발생하지 않도록 xAI가 즉각적인 조치를 취할 것을 촉구합니다.”라고 말했습니다. “우리는 AI를 기반으로 합의되지 않은 친밀한 이미지나 아동 성적 학대 자료를 생성하고 유포하는 것을 절대 용납하지 않습니다.”
Bonta의 위협을 심각하게 받아들이는 것처럼 보이는 X Safety는 "X를 모든 사람을 위한 안전한 플랫폼으로 만들기 위해 최선을 다하고 모든 형태의 아동 성적 착취, 합의되지 않은 과도한 노출, 원치 않는 성적 콘텐츠에 대해 무관용을 계속할 것"이라고 다짐했습니다.
이 이야기는 X Safety의 업데이트를 알리기 위해 1월 14일에 업데이트되었습니다.
Google은 영리한 초음파 기술을 사용하여 회의에 더 빠르게 참여하고 당황스러운 오디오 피드백이 발생할 가능성을 줄입니다. 회사는 Android 및 iOS의 Google Meet에 자동 회의실 감지 기능을 출시하고 있습니다.
이 기능은 이미 노트북에 존재했지만 휴대폰으로 가져오면 실제 회의에서 훨씬 더 실용적입니다. 아이디어는 간단합니다. 회의실에 들어가서 앱이나 Gmail을 통해 Meet을 열면 휴대전화는 지원되는 회의실 내부에 실제로 있음을 감지하고 진행 중인 통화에 올바르게 참여하라는 메시지를 표시할 수 있습니다.
Google Meet은 내부적으로 호환되는 회의실 하드웨어에서 방출되는 무음 초음파 신호를 사용합니다. 이러한 소리는 사람이 들을 수 없지만 휴대전화의 마이크로 감지할 수 있습니다. 휴대전화에서 신호를 감지하면 Meet에서는 사용자가 특정 방에 있음을 인식하고 컴패니언 모드 옵션을 자동으로 표시합니다.
여기서는 컴패니언 모드가 핵심입니다. 마이크나 스피커를 켜지 않고도 전화기에서 회의에 참여할 수 있으므로 에코, 피드백 또는 룸 시스템을 통한 대화를 방지하는 데 도움이 됩니다.
초음파 감지가 작동하는 방식이므로 이 기능을 사용하려면 휴대폰에서 마이크에 액세스해야 합니다. 조직의 경우 Google Workspace 관리자가 계속 제어권을 갖습니다. 객실 수준에서 기능을 활성화하거나 비활성화할 수 있으며, 어떤 이유로든 자동 감지가 작동하지 않는 경우에도 시스템에서는 수동 체크인을 허용합니다.
Google은 통화 중 보다 빠른 가상 수정부터 원치 않는 잠복자를 차단하고 호스트에게 회의에 참여할 수 있는 사람에 대해 더 많은 발언권을 제공하는 더욱 엄격한 제어 기능에 이르기까지 사용자 친화적인 업데이트를 통해 Meet을 꾸준히 개선해 왔습니다.
연속적인 하이브리드 회의에 갇혀 있는 사람이라면 최신 업데이트는 화려한 혁신보다는 일상적인 문제를 해결하는 데 더 중점을 둘 것입니다. 작지만 성가신 몇 가지 단계를 제거하고 회의에 참여하는 것이 좀 더 편리해졌습니다.
自動投資プラットフォーム Betterment の顧客は、攻撃者が一部のユーザー データを取得し、ビットコインとイーサリアムの入金で巨額の収益を約束する偽メールを送信することを可能にしたデータ侵害を受けて、暗号通貨報酬詐欺の標的にされています。
Betterment の Web サイトに掲載された（および電子メールでユーザーに送信された）1 月 12 日のセキュリティ更新プログラムによると、ハッカーは 1 月 9 日にマーケティングと運営に使用されるサードパーティのプラットフォームに不正アクセスしました。侵害後、彼らは一部の顧客に暗号通貨への投資を 3 倍にするという詐欺メッセージを送信しました。
この詐欺メールは、データ侵害直後の 1 月 9 日に Betterment ユーザーに送信され、件名は「あなたの暗号通貨を 3 倍にします!」などでした。中のメッセージには、Bettermentが期間限定で「還元」し、指定されたウォレットへのビットコインとイーサリアムの入金を最大75万ドルの3倍にすると主張していた。攻撃者は、プロモーションの有効期限を設定して緊迫感を演出しようとしました (典型的な詐欺戦術)。
メッセージは正規の Betterment サブドメインである (email protected) から送信されており、ユーザーの受信トレイでは確認済みとして表示されます。これは、Betterment がセキュリティ アップデートをすべての顧客に送信するために使用したのと同じ電子メール アドレスであることに注意してください。
12月には、ほぼ同一の暗号スキームがGrubhubユーザーを標的にし、同じく本物のGrubhubサブドメインから送信され、入金されたビットコイン1,000ドルの10倍の利益を宣伝する電子メールを送信した。
サイバー犯罪者は、侵害されたシステムから名前、電子メール アドレス、住所、電話番号、生年月日などの顧客情報の一部を盗むことができました。ベターメント社は、この侵害にはパスワードや資格情報は含まれておらず、攻撃者がユーザー アカウントにアクセスすることもなかったと述べている。公式な詳細はほとんど公表されていないが、同社は分散型サービス妨害（DDoS）攻撃の標的として恐喝されていると伝えられている。
あなたが Betterment の顧客である場合は、今後数日から数週間以内に、あなたのアカウントに関する一方的なコミュニケーションに注意してください。詐欺師はこのようなイベントをフィッシングの機会として利用します。 Betterment (および他の正規の企業) が電子メール、テキスト メッセージ、または電話でパスワードやその他の個人情報を要求することはありません。アカウントに懸念がある場合、または資格情報やその他のデータを更新したい場合は、Web サイトまたはアプリに直接アクセスして、そこで更新してください。Betterment からのメッセージが正当である (またはそう見える) 場合でも、通信中のリンクをクリックするよりもこの方が一般的に安全です。
생성적 AI는 혁신적이고 복잡한 기술이라는 말을 반복해서 들어왔습니다. 너무 복잡해서 제작자는 왜 그렇게 작동하는지 설명할 수 없으며, 너무 변형적이어서 진보를 가로막는 바보가 될 것입니다. 최근 엘론 머스크(Elon Musk)의 그록(Grok) 챗봇의 경우처럼, 진보가 전례 없는 규모로 낯선 사람의 동의 없이 옷을 벗기는 기계와 유사하더라도 말입니다.
영국 총리 키어 스타머(Kier Starmer)는 AI 버블의 거대한 거짓말을 완전히 받아들인 것 같아서 다음과 같이 기꺼이 발표했습니다.
"오늘 아침 X가 영국 법률을 완전히 준수하도록 조치를 취하고 있다는 소식을 들었습니다."
현재 규정을 준수하고 있는 것은 아닙니다. 그렇게 될 것으로 예상되는 일정도 없습니다. 단지 그는 언젠가 머스크의 애완 로봇이 아동 성적 학대 자료 생성을 중단할 것이라는 점에 만족하는 것 같습니다.
이 성명은 Starmer가 "만약 X가 Grok을 통제할 수 없다면 우리는 그렇게 할 것"이라고 말한 지 이틀도 안 되어 나온 것입니다. Elon은 이 한심한 항복을 얻기 위해 무엇을 말할 수 있었을까요? AI가 어렵다고요? 솔루션에 시간이 걸리나요?
기억하기 전까지는 이것들은 완전히 설득력 있는 기술적 주장입니다. 그는 그냥 그것을 끌 수도 있었습니다.
Elon Musk는 이미지 생성 기능보다 전체적으로는 아니더라도(운이 좋다면) Grok을 비활성화할 수 있는 힘을 가지고 있습니다. 우리는 이것을 직관적으로 알고 있지만 최근 스캔들 이후 Grok의 이미지 생성 속도를 제한했기 때문에 무료 사용자는 이제 여성에게서 옷을 제거하기 위해 낭비적인 기술을 계속 사용하기 위해 매달 8달러를 지불하라는 메시지를 받게 됩니다. 양탄자 밑으로 쓸어버리고 몇 달러를 벌어보세요.
이미지 생성을 끄는 것이 완전히 가능할 뿐만 아니라 책임 있는 유일한 옵션이기도 합니다. 소프트웨어 엔지니어는 정기적으로 업데이트를 롤백하거나 최적으로 작동하지 않는 기능을 끕니다. 법을 위반할 가능성이 있음에도 불구하고 이 제품은 여전히 작동하고 있습니다.
우리는 이제 이 문제가 존재한다는 것을 인식한 지 한 달이 더 지났습니다. "기능"이 여전히 남아 있다는 사실은 Starmer와 다른 사람들이 알아야 할 모든 것을 알려줄 것입니다. 버디, 당신은 그러한 희생자 중 한 명이 그의 (많은) 자녀 중 한 명의 어머니인 Ashley St Clair라는 사실을 신경 쓰지 않는 것 같은 보조자를 위해 물을 나르고 있습니다.
말레이시아와 인도네시아 등 일부 국가에서는 서비스를 차단하여 시민들을 위해 Grok을 끄기로 결정했습니다. 인도네시아 통신디지털부 장관은 "정부는 합의되지 않은 성적 딥페이크를 심각한 인권 침해로 보고 있다"고 말했다. Statecraft 사업에 종사하는 모든 사람이 그렇게 느꼈다고 상상해보십시오.
영국(미국은 말할 것도 없고, 우리에게 아무것도 기대하지 마세요. 우리는 권위주의를 하느라 바쁩니다)은 두 국가보다 X와 더 나아가 Elon에 대해 훨씬 더 많은 영향력을 갖고 있습니다. 머스크는 영국에서 더 많은 사업을 하고 있으며, 앞으로도 더 많은 사업을 하려고 합니다. 머스크가 아마도 세계에서 가장 잘 알려진 거짓말쟁이는 아니더라도, 그록은 여전히 이미지를 만들 수 있으며 이는 그 자체로 입증되어야 합니다. Grok은 지금쯤 두 번째 기회에서 벗어나야 하며, 그것이 더 이상 해를 끼칠 수 없다는 것을 독립적으로 확인할 때까지 더 이상 말하지 않는 것은 정부 지도자의 몫입니다.
We the People의 영광스럽고 효율적인 모임인 미국 하원이 또 다른 스캔들에 직면했습니다.
대부분의 (성적이지 않은) 하원 스캔들과 마찬가지로, 여기서의 주장은 개인적인 풍요로움과 관련이 있습니다. 하지만 대부분의 (성적이지 않은) 하원 스캔들과는 달리, 이 스캔들에는 eBay에서 수백 대의 정부 휴대전화가 판매되고 We the People의 일부 랜도 회원이 US House IT 헬프 데스크에 전화하여 전체 계획이 마무리되었습니다.
정부의 행사 버전에 따르면 43세의 크리스토퍼 사우더랜드(Christopher Southerland)는 2023년에 하원 교통 및 인프라 위원회의 시스템 관리자로 일하고 있었습니다. 그의 역할에서 Southerland는 약 80명의 위원회 직원을 위해 휴대폰을 주문할 권한을 가졌습니다.
그러나 2023년 초반에 Southerland는 전체 직원 수보다 훨씬 많은 240대의 새 전화기를 주문하고 모두 메릴랜드에 있는 그의 집 주소로 배송했다고 합니다.
정부는 Southerland가 200대 이상의 휴대폰을 지역 전당포에 판매했다고 주장하며, 해당 전당포는 원격으로 장치를 제어할 수 있는 하원의 모바일 장치 관리 소프트웨어를 우회하는 방법으로 장치를 "부분적으로"만 재판매하라는 지시를 받았습니다.
하지만 요즘에는 전당포에서도 좋은 도움을 찾기가 어렵습니다. 어느 시점에서 휴대폰 중 적어도 한 대는 온전한 상태로 eBay에 올라 일반 대중에게 판매되었습니다.