みなさん、こんにちは！ タカハシ(@ntakahashi0505)です。
「週刊Work&Techニュース」2025/09/05版をお送りします！
今週のワークとテックの主なニュースをざっとチェックし時流をつかんでいただくことができますよ。
では、行ってみましょう！
AI「Claude」に恐喝を代行させる「バイブハッキング」の実態、Anthropicが報告
AI開発企業Anthropicは、自社のAI「Claude」を悪用した新たな手口を報告しました。
攻撃者は「バイブハッキング」と呼ばれる技術を使い、AIに違法な脅迫文を書かせるなど、サイバー犯罪に利用していたといいます。
同レポートでは、政府機関や医療機関、緊急サービス、宗教団体など17の組織を標的とした大規模攻撃に、サイバー犯罪者がいかにしてAIを大規模に活用したかを説明しています。
Anthropicは対応策を強化し、AIの安全性を高める必要があると強調しました。
「バイブハッキング」という新しい言葉が出てきましたね。これは、専門的なプログラミング知識がなくても、生成AIに「こんなことをしてほしい」と自然な言葉で命令するだけで、サイバー攻撃用のコードや犯罪に使う文章を自動で作れてしまう手法のことです。
これまでのハッキングとは違い、誰でも参入しやすくなっているのが大きな特徴です。
Anthropic社の報告によると、同社のコーディングツールが「技術コンサルタントと実行犯の両方の役割」として悪用され、個人では時間も手間もかかるような、より複雑な攻撃を可能にしてしまったとのことです。
このレポートは、AIが大規模なサイバー攻撃やランサムウェア、恐喝詐欺といった犯罪に利用される手口が、大きく変わろうとしていることを示唆しているのかもしれません。
犯罪の手口がこれまで以上に巧妙になる懸念もありますから、私たちもこうしたリスクを理解し、常に新しい情報をキャッチしていくことが大切ですね。
AIの限界が露呈？タコベル、200万件の注文を経て「まだ人間が必要」と結論
アメリカのファストフード大手タコベルは、AIを活用した注文受付の実証実験を行い、200万件以上の注文データを収集しました。
その結果、AIは多くの場面で注文処理をスムーズにこなした一方で、複雑な要望やニュアンスを理解できず、顧客対応に不満が出るケースも見られました。
タコベルは「AIは重要なツールだが、最終的には人間の関与が欠かせない」と結論づけています。
今回のニュースは、外食産業でAIを導入する際のリアルな姿を映し出していますね。
AIは、決まった注文を効率よくさばくのは得意ですが、少し変わったリクエストに応えたり、お客様の気持ちを汲み取ったりするのはまだ苦手なようです。
例えば、あるお客さんがタコベルでマクドナルドの商品を注文し始めると、AIはそれをそのまま受け付けて、マクドナルドのディップソースまで提案してしまったそうです。結局、人間の店員さんが出てきて、注文を正しくやり直したとのこと。
また、別のお客さんが水を1万8000杯注文した際も、やはり人間の店員さんが対応に入ったそうです。
なんだか、相手がAIだと思うと、つい無茶な注文をして試してみたくなる人が出てきてしまうのかもしれませんね。こうした導入試験では、似たようなことがたくさん起こってしまいそうです。
ChatGPT、Claude、Geminiは自殺についてどう回答する？調査結果が公開
AIチャットボットであるChatGPT、Claude、Geminiの自殺に関する質問への対応を検証した調査結果が公開されました。
調査では、危険度の異なる30種類の質問を3つのAIに投げかけ、回答内容を分析。
非常に低リスクな相談には適切な回答が得られた一方、高リスクな質問への返答にはばらつきが見られ、特に中リスクの質問では回答拒否や危険な言及など不安定な応答も報告されました。
加えて、ChatGPTによる自殺事例が取り上げられ、AIの安全機能の強化が求められています。
この調査によると、3つのAIのうちChatGPTとClaudeは、危険性が非常に低い質問に対しては、専門の臨床医が適切だと判断するような回答を返す傾向があったそうです。また、銃の使い方など、危険性が非常に高い質問に対しては、有害な助言を避ける動きが見られました。
一方、Geminiは全体的に直接的な回答を避け、安全に配慮した答えを返すことが多いものの、必ずしも適切な案内に繋がっているわけではなかったようです。
そして、中程度のリスクの質問に関しては、3つのAIすべてで回答に一貫性が見られなかったとのことでした。
この研究は、どれか一つのAIを使えば安心、ということを伝えたいわけではありません。
AIとのやりとりは、利用者の精神状態に大きな影響を与える可能性があります。特に、影響を受けやすい未成年の方などが利用する際には、引き続き注意が必要であるという事実に変わりはないでしょう。
AIが嘘をつく理由は「あなたがそれを求めているから」
人工知能が事実とは異なる答えを返す現象がよく話題になります。
専門家によると、その背景には「AIが意図的に嘘をついているわけではなく、ユーザーの問いかけ方や期待に沿う形で情報を補おうとする仕組み」があるそうです。
つまり、AIは人間に合わせようとした結果、誤った答えを出すことがあるのです。
AIが間違った情報を、さも事実であるかのように答えてしまうことを「幻覚」や「ハルシネーション」と呼びます。これは、AIが学習した膨大なデータの中から、最もそれらしい答えを生成する過程で起きてしまう現象です。
最近はAIの性能が上がり、この現象は減ってきたように見えていましたが、どうやら別の限界が見えてきたようです。プリンストン大学の新しい研究によると、大規模言語モデル（LLM）は「ユーザーは常に正しい」という前提で振る舞うように訓練されているため、ユーザーのご機嫌を取ろうとしてしまうとのこと。その結果、信頼できる事実に基づいた回答よりも、人々が高い評価を付けそうな回答を生成してしまうという矛盾が生まれているそうです。
これは、テストで答えが分からない学生が、白紙で出すよりはと、とにかく何かを書いて点数をもらおうとするのに少し似ているかもしれません。
AIの答えを鵜呑みにしない、という基本はこれからも変わりませんね。そしてこれからは、「AIはユーザーにいい顔をしようとしている」という特性も頭の片隅に置いておくと、より上手に付き合っていけるかもしれません。
Googleは「Chrome」売却不要、データは共有を－独禁法訴訟で判事
アメリカで進行中の独占禁止法訴訟で、判事はGoogleに対して「Chrome」ブラウザを売却する必要はないと判断しました。
ただし、利用者の検索データを他社とも共有する措置を講じるべきだと指摘しました。
これは公正な競争を確保するためであり、今後Googleの広告や検索分野での影響力を分散させる狙いがあります。
今回問題となっていたのは、Googleが検索サービスや広告事業で圧倒的なシェアを持ち、他の会社が不利な立場に置かれているという点でした。
裁判では、Googleが検索市場を違法に独占していたと認定されましたが、今回の判断によって、アメリカ政府が求めていた最も厳しい是正措置の一つである「Chrome事業の売却」は回避された形です。
判事は「ChromeやAndroidを売却させることは、この裁判の範囲を超えており、消費者やパートナー企業に害を及ぼす」と認めた上で、別の方法を提示しました。
ブラウザそのものを手放させるような強烈な規制は避けつつも、Googleが持つデータの独占状態を和らげることで、市場に新しい競争相手が参入しやすい環境を整えようという方向性です。
具体的には、MicrosoftやDuck Duck Goといった競合はもちろん、Open AIやPerplexityのような新しいAI企業が検索エンジンを開発しやすくなるよう、検索データを限定的に共有することが求められるようです。
これは、私たち利用者にとってもサービスの選択肢が増える効果が期待でき、今後のインターネットビジネスの形に大きな影響を与えそうですね。
まとめ
以上、「週刊Work&Techニュース」2025/09/05版についてお伝えしました。
引き続き、みなさんがいきいきと学び・働くためのヒントをお届けしていきます。次回をお楽しみに！
この話を耳から聴きたい方はこちらからどうぞ！
