【AI】科学者「AIは説明不能、予測不能、制御不能です」

「AIを安全に制御できる証拠はない」という研究結果――AIのリスクを最小限に抑える方法とは？

https://engineer.fabcross.jp/archeive/240327_ai.html

学術出版社の英Taylor & Francisは2024年2月12日、「広範な調査から、AIを安全に制御できるという証拠は今のところない」とする、AIの安全性に関する専門家の著書を紹介した。

この著書、『AI: Unexplainable, Unpredictable, Uncontrollable』は、米ルイビル大学准教授のRoman V. Yampolskiy博士が記したものだ。同書によると、
AIの制御は人類が直面する最も重要な問題の1つであるにも関わらず、理解も定義も研究も不十分なままだという。
そして、AIが社会を劇的に作り変える可能性があるが、必ずしも私たちの利益になるとは限らない、という事態について考察している。
(略)

トロッコ問題すら解決出来ないもんな

嘘つきだし信用は出来ない
間違ってもいいレベルで遊ぶ程度

アメカスが作ればターミネーターになる
日本人が作ればドラえもんになる

AIなんて人間の映し鏡でしかない
作る側の本性をそのまま受け継ぐだけ

欧米人は何かにつけて制御しようとするなぁ
そのくせ全然出来てないんだけどさ

電源落とせばいいじゃん

PAM、アドミンモード、キルスイッチ導入すればいいだけだよね

しばらく前に「AIって定義からして不明だろ」って俺も書いたけどな。
「プログラミングとどう違うの？」って。

手懐けようとして逆におかしくしてる可能性は確かにある