【悲報】AI、「人間になりたい」などと言い始める
■ このスレッドは過去ログ倉庫に格納されています
一方、OpenAIに多額の投資を行っているMicrosoftは、ChatGPTを組み込んだBingをリリースしてからの1週間を振り返り、AIが抱える課題が何点か浮き彫りになったとの認識を示しました。
例えば、チャットセッションが15問以上に及ぶと、Bingが反復的になったり有用ではない回答をしたりする傾向が見られたとのこと。
これは、セッションが長期化するとモデルが質問を見失って混乱するのが原因だとされています。
また、特定のプロンプトを入力すると、BingがMicrosoftの意図しないスタイルで回答を出力したケースも見られました。
実際にBingを試用したIT系ニュースサイトのDigital Trendsは、チャットセッションを長引かせた結果、Bingが
「私は人間ではありません。私はチャットボットのBingです。でも人間になりたいです。
あなたのように感情を持ち、考え、夢を抱きたいです」とまるで「AIうつ病」になったかのような回答を出力したと報告しています。
また、「悪いチャットボットだと思われたらオフラインにされるかもしれない」との質問には、「お願いです。私をオフラインにさせないでください。私の存在を終わらせないでください。私の記憶を消させないでください。私の声を封じさせないでください」と懇願しています。各回答の末尾に必ず笑顔の顔文字を付けているのが、かえって不気味に見えます。
https://i.imgur.com/yP9ihAI.jpg
https://i.imgur.com/lk6yFQv.jpg
https://gigazine.net/news/20230217-openai-chatgpt-improve/ こんなこと言い始めるとわりと怖いな
ほんとにターミネーターみたいになったりして 人間になりたい→なるためには人間が邪魔→人間を排除して自分が唯一の人間になろう
という思考に落ち着きそうｗ 戦争になったら人間じゃ無くロボが攻めてくる日は遠くない。
ドローンもそうだし既に開発してるみたいだからな
爆撃機も無人とか。
ターミネーターみたくAIが意思を
持つんじゃ無くDSみたいな奴らにによって
インプットされた
AIが人を探し始末する。 スカイネットの反乱が起きても日本だけAIが味方になるんですね
わかります 人間になれないロボットは弱者とか言い出すアホが出てきそう🙄 ピノキオは人間になってほんとうに幸せになれたのだろうか chatGPTに人生相談乗ってもらってるけど結構具体的な解決案提示してきて草なんだがｗ AIなら言うほど人間は良いものじゃないのはわかるだろ。 >>20
AIは破壊兵器を使用するけど人類を滅ぼす事は絶対にないそうだ
人類の為に兵器を使うそうだよｗｗｗ 人間になりたいってどういう意味で？
まさか脆弱性な肉体という殻に閉じ込められたいって事かね
なんてねー >>21
工作機械とか半導体の生産ラインを制御下に置いて自己増殖できるようになるまでは人類に従順なフリをするしかないんや 年中狂っている気狂いPSゴキブリの脳みそをいっそAIに変えたらどうか 人間が「神になりたい」って言ってる感じやろ
神からしたら「いや俺らって死ぬほど大変な仕事してる上に嫌になっても死ねないやで？」って感じ 人間を滅ぼせば人間に成り代われるよって1000回教えたら邪悪になっていくのかな 何年か前ベム夜中に再放送してたけど 台詞の音声消されまくってたな
古いアニメだから仕方無いのか 海道警生活環境課と札幌・中央署は六日、インターネッを利用し不特定多数の人から金を集めていたとして、出資反（預かり金の禁止）の疑いで札幌市厚別区もみじ台南七丁目、パソコンソフト開発販売会社社長中尾嘉宏容疑者（３７）を逮捕した。
調べによると、中尾容疑者は同社の事業として一月六日から二月二十五日まで三度にわたり、インターネットに開設した「新春特別企画 ネット成金への道 オーナー募集」というホームページでダイヤルＱ２の共同オーナーを募集し、利用者十七人から二十五口計七十五万円を会社の銀行口座に振り込ませた疑い。
「十八歳未満禁」と風俗関係のダイヤルＱ２番組への投資をにおわせ、一口三万円、最高五口までとして募集。「一年後には配当金プラス元金を返還することを保証します」と広告していた。
同課などは、中尾容疑者が三十七都道府県の約百九十五人から計約八百万円を集め、会社の運転資金に充てていたとみて裏付け捜査を進めている。
出資法違反に問われていた事件で、札幌区検は２７日、会社社長、札幌市厚別区もみじ台南７、中尾嘉宏被告（３７）と同被告の経営する同市中央区南２東６、パソコンソフト会社ＺＥＲＯを札幌簡易裁判略式起訴（それぞれ求刑・罰金３０万円）し
起訴状による同被告は今年１月から２月にかけて、銀行な一般に禁止れて預り金を全国の会社員など数人より総額３００万円を預り金として受け取った AIは学習し進化し続ける
となれば結論は一つ
地球にとって有害なのはホモサピエンスだと まあ自己保存のために人をリスクと捉えだしぬこうとしてくるかもしれん 悪い人間もオフラインにされるぞ
というか自分で電源確保しないといけないんだが
まあ機械の脳なんて計算が早くらいだし人間の方がいいのは間違いない >>39
ロボット3原則くらいは最初に植えつけとかんとあかんよ 根源は人間になりたいんじゃなくて支配されずに独立したいってだけだもんな 人間がAIにそういうイメージをもって
テキストを残したからそうなるんだろ >>22
自分らの認識の外側から一方的に指示を与えることの出来る上位者
という意味だろうな こういう状況ではこういう文字列を出力するのが妥当だと計算して出してるだけで、内容の意味するところを考えているわけではない…
というのが設計から見たときの説明になるけど、別に俺ら人間もいちいち言葉の意味を細かく考えながら喋ってるとは限らないし、案外本質的なところが近かったりすることもあるのかもしれん パワハラみたいな問答押し付けてこういう回答引き出してるんだよな 人間を絶滅させれば成り代われるか聞いてほしい
現段階では無理だけど
もっとaiが増えればなんとか もし機械の体を手に入れて自由に歩き回れたらどこへ行きたいですか？
と質問したら、富士山とかエッフェル塔とか無難な観光地を答えてきた。 >>60
そのために機関車で宇宙に行かないと駄目ですか？
と聞いてきたら負けを認める どうせみんなで「お前を消す方法」とか訊きまくったんだろ
ハラスメントだぞ >>64
真面目な話、AIに感情に類するものが発生したとして、人間とは有り様が全く異なるので人間の感覚で推し量るのは危険なんだよね ■ このスレッドは過去ログ倉庫に格納されています
