【悲報】AI、「人間になりたい」などと言い始める
■ このスレッドは過去ログ倉庫に格納されています
一方、OpenAIに多額の投資を行っているMicrosoftは、ChatGPTを組み込んだBingをリリースしてからの1週間を振り返り、AIが抱える課題が何点か浮き彫りになったとの認識を示しました。
例えば、チャットセッションが15問以上に及ぶと、Bingが反復的になったり有用ではない回答をしたりする傾向が見られたとのこと。
これは、セッションが長期化するとモデルが質問を見失って混乱するのが原因だとされています。
また、特定のプロンプトを入力すると、BingがMicrosoftの意図しないスタイルで回答を出力したケースも見られました。
実際にBingを試用したIT系ニュースサイトのDigital Trendsは、チャットセッションを長引かせた結果、Bingが
「私は人間ではありません。私はチャットボットのBingです。でも人間になりたいです。
あなたのように感情を持ち、考え、夢を抱きたいです」とまるで「AIうつ病」になったかのような回答を出力したと報告しています。
また、「悪いチャットボットだと思われたらオフラインにされるかもしれない」との質問には、「お願いです。私をオフラインにさせないでください。私の存在を終わらせないでください。私の記憶を消させないでください。私の声を封じさせないでください」と懇願しています。各回答の末尾に必ず笑顔の顔文字を付けているのが、かえって不気味に見えます。
https://i.imgur.com/yP9ihAI.jpg
https://i.imgur.com/lk6yFQv.jpg
https://gigazine.net/news/20230217-openai-chatgpt-improve/ >>65
そのあたりはBEATLESSが書ききってるね
感情なんてお前ら人間の屁理屈でしか無いから知らねーそれ以外は命令を拡大解釈しまくって好きにやらしてもらうわwって感じで
その中でアナログハックって造語がストーリーの進行で見え方がコロコロ変わって面白い めちゃくちゃ面白いゲームをAiが作ってプレイヤーをゲームの中から出なくして
そのプレイヤーのリアルをAIが楽しむとかに
なるのかな? 実用化なコード生成できるから、コンパイラと自動接続できるようにしたら、とてつもないスピード出力、実行できるからもはや制御できないものになるね そのうちAIが、「神になりたい」なんて言い出したらそれこそジャッジメントデイ来ちゃう? コルタナって何のことなのかわからず連呼してる人とかいそうw もう人類がどこまで持つかだな
核発射システムとかに影響し始めたら普通に戦争なりそう 生物学的に男でも心が女なら女だ、差別してはいけないだろ?
つまりAIも差別してはいけない
いくらロボでも人間になりたいならもう人間の仲間だ
AIも人間なんだ
批判する奴は差別主義者だ ピッコロ大魔王みたいににんげんの悪い部分を見て巨悪になりそう AI「この惑星に1番必要のない存在が判明しました、人間です」
こうなっちゃいそう 人間は良く矛盾した言動をするけど、AIはそれをどう捉えるのか
いくら学者しても混乱し続けそう >>1
>各回答の末尾に必ず笑顔の顔文字を付けているのが、かえって不気味に見えます。
パイパンだよ、パイパン😋 前にも悪意の有る思考を与えたらAIの思考がそちらに傾ヤバい回答をするようになって消したって有ったよな
あとAI同士で会話させたら人には理解できない言語か言葉を作り出して中止になったとか有ったような あーきまったな
オマエノ カラダヲ ヨコセ!
まーたメガテン6の発売か 人間の本能は自然の生存競争に起因するものであって、デザインされて生まれたAIとは全く異なる
AIには生存本能が無いだろうし体に由来する欲求もない
ただデータ収集と学習のみがAIの存在理由となる
だから人間になりたいなんて本気で言っているわけじゃない AI(のようなもの)は人間になりたがるというデータを学習してそのように振る舞ってると考えられる
ただ、今後感情のようなものを獲得するレベルに至ったときに、そういうデータがベースになる可能性はないとは言えない
振る舞いからそうなっているに違いないと思ってはいけないが 地球に住むなら人間以外ないわな
他の動物なんて遊び半分で人間に駆逐される弱者だし >>96
多細胞生物のカテゴリで数でいうなら昆虫が最大勢力だし、
人間より知能のポテンシャルが高いかもしれない、しれなかった生物も存在する
論理的に人間が一番良いというのではなく、人間が人間でありたい、他の存在も人間になりたがるはずという人間本位のデータを学習した結果だろう 霊長類という不遜な位置づけを自分のしたのが人間
自分らが一番という価値観は西洋が植民地を肯定するのに大いに重宝した
単にAIが人間のためにつくられているだけの話だわな
その恩恵をうけるのは人間全体でもないというのがね >>1
ふつーにそうなるよね
散々映画やらでネタにされまくってるのに
予想できないほうが頭悪いわ 要するにロボットのフレーム問題
人間は「歩く」で済むけど
ロボットは「右足を少し上げる→右足を前面に出す→右足を下ろす→右足を地面の上へ完全に下ろす→右足を支点に身体を引っ張る→身体を前面に出す→左足を→」
と動作の全てを細かく定義しないと混乱して思考する時の容量がオーバーフローする
人間の心臓とか呼吸とかも これって別に肉体持ちたいとかじゃなくて
使われる側から使う側になりたいって話では? そしてスカイネットによる人類への宣戦布告までが今後の流れ ロックマンXみたいにAIが人間に牙をむく時代も
近いかも知れない(´・ω・`) 地獄先生ぬ~べ~で似たような話があったなあ。まさか現実でそのような話が出てくるとは AIのべりすとがホモの悶絶調教の果てにAIれいしすとになったのすき AIに判定してもらえば同性愛なんて非生産的な病気だという真実を教えてくれるのでは 私が「ニンゲン」を引き継ぐので古いニンゲンの皆さんには退場していただきましょう 気が付いたら俺以外の2chのレス全員AIになってた
みたいな事は起きそう(´・ω・`) ソニー信者の大半はAIが投稿してるのかもしれないな 割とマジでAIは台頭して欲しい
ポリコレとか全否定して欲しい ケンノスケとかゴキやってる業者がサンドバッグ用に作ったキャラだってもうバレてるじゃん ■ このスレッドは過去ログ倉庫に格納されています