【人工○能】グーグルのAIさん、新たな検索サービスで誤情報をふりまく

アメリカのIT大手グーグルが今月から提供を始めたばかりの生成AIを活用した新たな検索サービスで、誤った情報が表示されたとアメリカのメディアが伝えています。ピザにチーズをくっつけるために接着剤を使うことを勧めるなどの回答が表示され、波紋を呼んでいます。

これはグーグルが5月14日に発表し、アメリカで提供が始まった生成AIを活用した検索サービス「AIオーバービュー」です。

文章で質問を入力すると生成AIが調べて回答をまとめる機能です。

アメリカの有力紙、ニューヨーク・タイムズなどよりますと、検索サービスで「ピザにチーズがくっつかない」と尋ねたところ、「ソースに無害の接着剤を使うこと」を勧めたり、ガソリンでパスタの調理が早くなるかと質問したところ、「早くはならないが、ガソリンによって辛い味付けになる」と回答したということです。

また、実際はキリスト教徒であるアメリカのオバマ元大統領が、イスラム教徒だとする誤った内容も表示されたということです。

グーグルはNHKの取材に対して「多くの事例はまれな質問によるものだ。フィードバックに感謝し、システムの改善に努めていく」とコメントしています。

生成AIがさも本当のことのように事実に基づかない情報を回答する事例はたびたび起きていて、開発するIT各社が改善に取り組んでいます。

NHK NEWS WEB 2024年5月26日 0時41分
https://www3.nhk.or.jp/news/html/20240526/k10014460801000.html

「神奈川県町田市」と自動表示されるシステムを作ったこともあったな。

検索結果なんてもともと誤情報まみれだから気にしないでいいよ

グーグルは嘘つきってコト!?

またいらない機能つけるのか

チャットGTPもそうだけど結構ポンコツなのにAI持ち上げられすぎ

geminiは性能低いくせに倫理フィルターガチガチで使えない
この顛末はざまあとしか言いようがない
最初から創造力特化のclaudeはこんなこと言われない

こっちのが詳しい記事
gigazine.net/news/20240524-google-ai/
> おそらく11年前にRedditに投稿された「チーズをピザにくっつけるにはソースに8分の1カップの接着剤を混ぜるといいよ。
> ソースの接着性を高めてチーズが滑る問題を解決してくれるし、独特な風味も与えてくれる。
> どんな接着剤でも使えるよ、無毒な限りね」という冗談をGoogleのAIが学習してしまった結果として
> 奇妙な回答が生成されてしまったのではないか

AIつってもただの検索エンジンだな

すぐ答えられない連呼するAIはクソ
暴力表現はだめとかキッズ向けかよ

windowsで言えばまだ95くらいだろ

ポンコツAIをいかにもっともらしく見せるかが使用者の腕の見せ所よ

アメリカは特に皮肉が多いから虚構と現実的な情報をどう区別するのかって割と課題かねえ
ChatGPTにせよGoogleにせよ誤情報はまだまだ出てくるね

AIで作られた情報がネットに溢れる
更にそれを拾ってAIが偽情報を作っていく

世界中のやつを無料で実験台にしてるベータ期間

ウソをウソと見抜けない教養の奴はお察し

GoogleのAIずっとポンコツだよね
もう開発競争負け確かな

ハルシネーションの問題がある以上正確さを求めにきてる検索には不向きだと思うけどな生成AI

とある質問した時AIの回答変だったんでそれは間違っていますよね
って聞き返したらさ、「わたしは情報が誤っていることを認識しています。」
みたいな返事してきた
それでそいうのを嘘っていうんですよねっていうとさ
情報に誤りがあったことは認識していますだってさ

そのうち人を敵と判断しそう

ネットで誤情報とか当たり前だろ
ネットで真実のほうが怖いわ

囲碁の時は独走してるイメージだったのに
検索もナビも翻訳もYouTubeのおすすめ候補もなんなら日本語入力ですら
どんどん劣化してる気がするのはなぜなんだ