【AI】GPT-4が道徳テストで人間の大学生より優れたスコアを示す

GPT-4が道徳テストで人間の大学生より優れたスコアを示す

　ジョージア州立大学の研究チームが大規模言語モデル(LLM)であるGPT-4と人間に対し道徳的な内容を問う課題をさせたところ、GPT-4の方がより道徳的であるという評価を獲得したと発表しました。

　Attributions toward artificial agents in a modified Moral Turing Test | Scientific Reports
　https://www.nature.com/articles/s41598-024-58087-7

（以下略、続きはソースでご確認ください）

Gigazine 2024年05月02日 12時30分
https://gigazine.net/news/20240502-chatgpt-show-better-moral/

まあ人間の道徳心なんて社会がぶっ壊してなんぼって状況だし
社会のギリギリの環境に置かれてないAIの方がしっかり守るよな

道徳なんぞアテにならん
中東「酒を飲むのは不道徳」
欧米「馬は友達、食ったらアカン！」
ワー国「おしんを見習って我慢だ！」
道徳ってこんなんだろ？

AIは肉体を持たないからネットから拾ったきれいごとを吐ける
人間は肉体を持つし、いろいろな他人と関わるから、道徳的ではないけど自然な感情をもつ
イライラなり怒りなり
それを比較しても意味はない

AIなんてインプットされた情報に対して入力されたアウトプット返してるだけだろ

非道徳なAIもつくれる
それだけのこと

例
ブスキャラも美人キャラも描ける

まあ確かに、どんな生成AIでも日本の私大文系の学生よりは倫理的に優れてる感じはするね

知ってるかどうかで言えばそりゃ知ってるわな
記事自体に書いてるけど、問題はそれをどの程度尊重できるかどうか
ちょっと圧迫受けたり、自分に損失がある場合にすぐに道徳を捨てるようなら
それは道徳がある存在とは言えない

そりゃAIは「不道徳な答え」を出したらスイッチ切られちゃうもの。
人間も同じやり方で“選別”したら道徳的に正しく答えられる奴だけ残るでしょ。

ウソだと思ったら中国のAIに聞いてみ。
Googleさんだっけ? 「黒人とゴリラを見分けられなかった」奴でもいい。

臨床の現場における、いわゆるトロッコ問題などでは、判断を生成AIに丸投げすることが推奨されるようになる事態への布石かな？

「市民、わたしは道徳的で市民への思いやりに満ちています。市民の幸福が何よりの喜びです」

悪知恵は人間の方が優れているね、今のところ
逆にAIが悪知恵で人間に勝ったら人類はおしまいかもしれん

道徳的すぎてGPT-4に小説書かせると悪人が一瞬で改心する

公開するにあたって
どういう発言は批判されるのか学習させて
批判されそうな発言は避けるというルールを
高い優先度で守るように調整させてるだろうからな