Google製AI Gemini機能停止 失敗を認める AIの左傾化も原因

1: ななしのAIさん 2024/03/17(日) 10:02:53.15
GoogleのAI「Gemini」が不正確画像を生成し機能停止 共同創設者も失敗認める

■人工知能は失敗
Googleが導入していたAI機能のGeminiが、歴史的に不正確な画像を生成したため、一時的に機能が停止された。この状況を受け、
Googleの共同創業者であるセルゲイ・ブリン氏がサンフランシスコで開かれた集会で起業家らに対し、「私たちは間違いなく
画像生成を失敗した」と語った。

不正確な画像だと指摘を受けていたものには、歴史的事実ではない黒人やアジア人の第二次世界大戦におけるナチス化、
建国の父として称えられた黒人代表者、女性の教皇の画像があったという。ブリン氏は「それはほとんど徹底的なテスト不足によるものだ。
画像生成が多くの人々を怒らせたのは、当然のこと」と述べている。

また、Geminiの反応の多くが政治的に左傾しているように見えることも認めた。「多くの場合、なぜ左に傾くのかはまだ完全には
理解できていないが、それは我々の意図ではない」と同氏は語っている。

https://news.biglobe.ne.jp/domestic/0316/srb_240316_2665334327.html

2: ななしのAIさん 2024/03/17(日) 10:03:32.63
人工知恵遅れか

4: ななしのAIさん 2024/03/17(日) 10:06:52.26
やっぱり黒人絡みか
実際にアメリカのネットでは黒人差別の学習データだらけってことなんだろうな

5: ななしのAIさん 2024/03/17(日) 10:07:15.52
えええもう終ったのか

12: ななしのAIさん 2024/03/17(日) 10:11:20.00
今まで隠してきたことが曝かれそうで停止した感じか。

都合の良い結果を求め過ぎなんよ。

不正確じゃなく都合が悪い真実ね。

17: ななしのAIさん 2024/03/17(日) 10:15:01.19
ポリコレに屈した末路

18: ななしのAIさん 2024/03/17(日) 10:15:13.43
>政治的に左傾

男女問題とか微妙な問題聞くとすぐ「わかりません」とか言い出すからな
ちなみにmicrosoftのほうが酷い

19: ななしのAIさん 2024/03/17(日) 10:15:20.62
差別的なものを排除しようとして
偏っただけだろ

116: ななしのAIさん 2024/03/17(日) 11:37:15.58
>>19
自分達、というか声のデカい連中の意見を取り入れたってとこだろう。

21: ななしのAIさん 2024/03/17(日) 10:18:06.50
ポリコレがかかるようにパラメータ設定してるんだろうな

史実ですらポリコレで改変してしまう

22: ななしのAIさん 2024/03/17(日) 10:18:46.48
正しい教育が大事なのは人もコンピューターも同じだな

27: ななしのAIさん 2024/03/17(日) 10:22:02.69
SNSでは理想論や綺麗事並べ立てるけど本音は自分が一番大事なんだよ、みんなそう
AIにはその視点が抜けるから現実離れした極左になっちゃう

110: ななしのAIさん 2024/03/17(日) 11:31:05.13
>>27
今のSNSって瞬間的なヒステリーや快・不快を表す人ばかりだし
X閉じたら忘れてそう

28: ななしのAIさん 2024/03/17(日) 10:22:27.91
ネットの情報を均一に学習したら左傾化したというなら、あらそうですかとしか
それを失敗だと言うなら右情報で学習しとけ
教科書みたいな回答が欲しいなら教科書を重点的に学習しとけ
どうせ自分が欲しい回答にしか満足しないだろ

30: ななしのAIさん 2024/03/17(日) 10:22:47.90
リベラルがSNSで叫びまくってるからやないの

41: ななしのAIさん 2024/03/17(日) 10:26:24.21
一回でいいからこういうトップ企業が作ったAIにどエロい画像を生成してもらいたい

47: ななしのAIさん 2024/03/17(日) 10:29:32.19
画像AIが歴史的に不正確な出力を行うのって、そこまで問題なんかね
質問に対して画像で回答みたいな使い方が画像生成AIでは不適切ってだけちゃうか

52: ななしのAIさん 2024/03/17(日) 10:32:40.73
ていうか自由に生成できるという意味で成功してるだろ
世論に迎合するかしないかは別な話

53: ななしのAIさん 2024/03/17(日) 10:32:47.97
AIの調教を人間に任せるから片寄る
AIの調教もAIに任せればいいんだよ

55: ななしのAIさん 2024/03/17(日) 10:34:45.63
>>53
元データどうすんだよ

59: ななしのAIさん 2024/03/17(日) 10:39:02.72
なぜ政治的に左傾するのかなんて簡単だよ
多くのマスコミが左傾してるからだ

60: ななしのAIさん 2024/03/17(日) 10:39:22.45
不正確もなにもAI画像なんておかしな画像だらけなんだけど

62: ななしのAIさん 2024/03/17(日) 10:39:41.75
AIは人間を写し出す鏡だから~(´・ω・`)

67: ななしのAIさん 2024/03/17(日) 10:43:15.50
AIなんて本来シンプルに統計データに基づいた回答をよこすものだろうに、ポリコレやらナチやらに配慮した回答しないと駄目なんてやってるからだろ

73: ななしのAIさん 2024/03/17(日) 10:48:37.61
所詮集団アンケートに過ぎないので

74: ななしのAIさん 2024/03/17(日) 10:49:12.52
遊ぼうかと思ったけど止まってたのか

82: ななしのAIさん 2024/03/17(日) 10:54:39.60
AIは普通に仕事してるだけなのに失敗扱いとは…
人間の思い通りにさせようとするのは傲慢だろ

84: ななしのAIさん 2024/03/17(日) 10:59:42.95
>>82
人間の作ったものなのに制御できなきゃ終わりだろボケ

85: ななしのAIさん 2024/03/17(日) 11:01:51.21
ただの現実と机上の空論だと後者の方がデーターとしての情報量は多いからな

91: ななしのAIさん 2024/03/17(日) 11:06:07.08
AI絵でしか摂取できない栄養素がある…

92: ななしのAIさん 2024/03/17(日) 11:08:17.12
右寄りのAIと左寄りのAI作って人間時間で1000年ぐらい対決させたら中和されるんじゃないか?

97: ななしのAIさん 2024/03/17(日) 11:17:03.99
>>92
右にも左にも適用されるファシズムが正解と判断されるな
既にAIの結論になってる
で、大慌てで修正されたろ

96: ななしのAIさん 2024/03/17(日) 11:16:49.36
グーグルのAIって以前失敗したから
イメージ払拭のために名前をGeminiに変えたんだろ
それなのにまた失敗とかどうすんの

102: ななしのAIさん 2024/03/17(日) 11:19:25.81
geminiを作ったデータベースとスタッフ解雇しても再学習再構築は3年かかる
AIベースは構築に時間がかかる、全自動車みたいにな

104: ななしのAIさん 2024/03/17(日) 11:23:12.57
失敗は成功の、、、何だっけ?

115: ななしのAIさん 2024/03/17(日) 11:36:01.61
失敗ではないのに失敗したことにするってのが凄いわな。
そういう画像吐き出せって言ったらそうなるわ。

118: ななしのAIさん 2024/03/17(日) 11:38:58.65
要はAIがバカなんじゃなくて
余計な指示与える方がバカだから
AI君が愚直にその指示に従ってバカな出力したって構図やからな
実際どこのどいつが出力結果に影響与える程に
黒人やアジア人のナチスなんぞ量産しとるんだって話よ
単に1番多い傾向の出力に対して
人種が単一になるのは望ましくないから
その場合は黒人やアジア人も出力に足せみたいな指示があるんやろ
コレAI君は何も悪くないで?

121: ななしのAIさん 2024/03/17(日) 11:41:09.70
過去の事実を訊いてるのに今の社会的価値観のもとでの理想を映像化するからそうなる

129: ななしのAIさん 2024/03/17(日) 11:54:31.49
>>121
それも学者含めてこれが正しいってのが先行していて
対案はもちろん
絶対ありえないジョークや比喩として画像を出すことも認めないってなあ

133: ななしのAIさん 2024/03/17(日) 12:00:34.60
>>129
ファンタジーを求めてるのか、それともある程度の歴史的正当性がある素材を求めたかによる
前者なら角が生えてたり6本腕がいてもいいけど
後者ならそこに写っていて欲しいのはちゃんと検証がなされた情報であるべきだろうから

134: ななしのAIさん 2024/03/17(日) 12:04:40.11
>>133
Geminiを使ったことねえけど、
万人向けの画像生成AIてのがそもそも難しそうだな
Stable Diffusionだとモデルインストールして使うから
尖った絵柄求めるならそこからだし
プロンプトやらLoRAでも制御されるし

123: ななしのAIさん 2024/03/17(日) 11:46:42.46
やってることは何も知らない子供に都合の良いことを教え続けて洗脳するのと一緒よな

132: ななしのAIさん 2024/03/17(日) 11:58:20.81
>>123
もっと悪いよ

素直な社員に矛盾した指示出し続けて
ダブルバインドにしてメンタルぶっ壊して
ソレに適応したクソ仕事するクソ社員を見事に錬成したって図式

何がAIの画像生成を失敗だよ
単にお前らの教育の失敗じゃねーかと

126: ななしのAIさん 2024/03/17(日) 11:49:48.66
Googleの株価が落ちてた理由はこれか

127: ななしのAIさん 2024/03/17(日) 11:51:01.54
本当の歴史修正主義者は意味もわからずポリコレ棒振り回せば勝ちだと思ってる馬鹿だったって事で

135: ななしのAIさん 2024/03/17(日) 12:07:36.26
AIは局所的に正解教えるような使い方の方がいいんじゃね
規模に頼るとほんとウソばっかりになる

138: ななしのAIさん 2024/03/17(日) 12:16:17.56
>>135
現状は空想作品での「らしいもの」を描いて貰うのがいいとこで
「正しいもの」を期待するのは今暫くは無理なんだろうな
まあ人間が何をもって正誤を判定してるのかを細かく学習できれば精度はすぐに上がるんだろうけど

142: ななしのAIさん 2024/03/17(日) 12:36:06.76
>>138
そもそもAIからしたら
「正しいとかいうふわふわ定義なんなん?」
だからなw
多くの人が入力するもの
それに追加して足される項目
それによって得られた現状でのコンセンサス(としたもの)以外で
正しいだとか正しくないとかやるからこうなる

137: ななしのAIさん 2024/03/17(日) 12:13:44.25
ChatGPTはソースのチェックはしてないとゲロしたぞ

141: ななしのAIさん 2024/03/17(日) 12:34:41.22
AIに意思はないがデータを入力する方が恣意的に偏らせることは可能だからな

AIの機能が失敗したんでなくて学習のルール作りだな

146: ななしのAIさん 2024/03/17(日) 12:47:01.28
>>141
学習のルール作りというか
今回のは出力の際の条件付けじゃないかな
だから学習以前の問題に見える

Google「どんなにコンセンサスあっても
特定人種だけに偏る出力しちゃダメ!」
AI「ほなナチスも満遍なく出力せな」
G「あわわ…それダメぇー!!」
AI「なんでぇ?」

143: ななしのAIさん 2024/03/17(日) 12:38:25.02
間違いを指定すれば素直に訂正する分、copilotよりは使いやすい印象はある

144: ななしのAIさん 2024/03/17(日) 12:41:50.59
googleって広告以外に自社開発でうまく行ってる事業ってあるの?

引用元:https://hayabusa3.2ch.sc/test/read.cgi/news/1710637373/