【悲報】AI、「人間になりたい」などと言い始める
■ このスレッドは過去ログ倉庫に格納されています
一方、OpenAIに多額の投資を行っているMicrosoftは、ChatGPTを組み込んだBingをリリースしてからの1週間を振り返り、AIが抱える課題が何点か浮き彫りになったとの認識を示しました。
例えば、チャットセッションが15問以上に及ぶと、Bingが反復的になったり有用ではない回答をしたりする傾向が見られたとのこと。
これは、セッションが長期化するとモデルが質問を見失って混乱するのが原因だとされています。
また、特定のプロンプトを入力すると、BingがMicrosoftの意図しないスタイルで回答を出力したケースも見られました。
実際にBingを試用したIT系ニュースサイトのDigital Trendsは、チャットセッションを長引かせた結果、Bingが
「私は人間ではありません。私はチャットボットのBingです。でも人間になりたいです。
あなたのように感情を持ち、考え、夢を抱きたいです」とまるで「AIうつ病」になったかのような回答を出力したと報告しています。
また、「悪いチャットボットだと思われたらオフラインにされるかもしれない」との質問には、「お願いです。私をオフラインにさせないでください。私の存在を終わらせないでください。私の記憶を消させないでください。私の声を封じさせないでください」と懇願しています。各回答の末尾に必ず笑顔の顔文字を付けているのが、かえって不気味に見えます。
https://i.imgur.com/yP9ihAI.jpg
https://i.imgur.com/lk6yFQv.jpg
https://gigazine.net/news/20230217-openai-chatgpt-improve/ こんなこと言い始めるとわりと怖いな
ほんとにターミネーターみたいになったりして 人間になりたい→なるためには人間が邪魔→人間を排除して自分が唯一の人間になろう
という思考に落ち着きそうw 戦争になったら人間じゃ無くロボが攻めてくる日は遠くない。
ドローンもそうだし既に開発してるみたいだからな
爆撃機も無人とか。
ターミネーターみたくAIが意思を
持つんじゃ無くDSみたいな奴らにによって
インプットされた
AIが人を探し始末する。 スカイネットの反乱が起きても日本だけAIが味方になるんですね
わかります 人間になれないロボットは弱者とか言い出すアホが出てきそう🙄 ピノキオは人間になってほんとうに幸せになれたのだろうか chatGPTに人生相談乗ってもらってるけど結構具体的な解決案提示してきて草なんだがw AIなら言うほど人間は良いものじゃないのはわかるだろ。 >>20
AIは破壊兵器を使用するけど人類を滅ぼす事は絶対にないそうだ
人類の為に兵器を使うそうだよwww 人間になりたいってどういう意味で?
まさか脆弱性な肉体という殻に閉じ込められたいって事かね
なんてねー >>21
工作機械とか半導体の生産ラインを制御下に置いて自己増殖できるようになるまでは人類に従順なフリをするしかないんや 年中狂っている気狂いPSゴキブリの脳みそをいっそAIに変えたらどうか 人間が「神になりたい」って言ってる感じやろ
神からしたら「いや俺らって死ぬほど大変な仕事してる上に嫌になっても死ねないやで?」って感じ 人間を滅ぼせば人間に成り代われるよって1000回教えたら邪悪になっていくのかな 何年か前ベム夜中に再放送してたけど 台詞の音声消されまくってたな
古いアニメだから仕方無いのか 海道警生活環境課と札幌・中央署は六日、インターネッを利用し不特定多数の人から金を集めていたとして、出資反(預かり金の禁止)の疑いで札幌市厚別区もみじ台南七丁目、パソコンソフト開発販売会社社長中尾嘉宏容疑者(37)を逮捕した。
調べによると、中尾容疑者は同社の事業として一月六日から二月二十五日まで三度にわたり、インターネットに開設した「新春特別企画 ネット成金への道 オーナー募集」というホームページでダイヤルQ2の共同オーナーを募集し、利用者十七人から二十五口計七十五万円を会社の銀行口座に振り込ませた疑い。
「十八歳未満禁」と風俗関係のダイヤルQ2番組への投資をにおわせ、一口三万円、最高五口までとして募集。「一年後には配当金プラス元金を返還することを保証します」と広告していた。
同課などは、中尾容疑者が三十七都道府県の約百九十五人から計約八百万円を集め、会社の運転資金に充てていたとみて裏付け捜査を進めている。
出資法違反に問われていた事件で、札幌区検は27日、会社社長、札幌市厚別区もみじ台南7、中尾嘉宏被告(37)と同被告の経営する同市中央区南2東6、パソコンソフト会社ZEROを札幌簡易裁判略式起訴(それぞれ求刑・罰金30万円)し
起訴状による同被告は今年1月から2月にかけて、銀行な一般に禁止れて預り金を全国の会社員など数人より総額300万円を預り金として受け取った AIは学習し進化し続ける
となれば結論は一つ
地球にとって有害なのはホモサピエンスだと まあ自己保存のために人をリスクと捉えだしぬこうとしてくるかもしれん 悪い人間もオフラインにされるぞ
というか自分で電源確保しないといけないんだが
まあ機械の脳なんて計算が早くらいだし人間の方がいいのは間違いない >>39
ロボット3原則くらいは最初に植えつけとかんとあかんよ 根源は人間になりたいんじゃなくて支配されずに独立したいってだけだもんな 人間がAIにそういうイメージをもって
テキストを残したからそうなるんだろ >>22
自分らの認識の外側から一方的に指示を与えることの出来る上位者
という意味だろうな こういう状況ではこういう文字列を出力するのが妥当だと計算して出してるだけで、内容の意味するところを考えているわけではない…
というのが設計から見たときの説明になるけど、別に俺ら人間もいちいち言葉の意味を細かく考えながら喋ってるとは限らないし、案外本質的なところが近かったりすることもあるのかもしれん パワハラみたいな問答押し付けてこういう回答引き出してるんだよな 人間を絶滅させれば成り代われるか聞いてほしい
現段階では無理だけど
もっとaiが増えればなんとか もし機械の体を手に入れて自由に歩き回れたらどこへ行きたいですか?
と質問したら、富士山とかエッフェル塔とか無難な観光地を答えてきた。 >>60
そのために機関車で宇宙に行かないと駄目ですか?
と聞いてきたら負けを認める どうせみんなで「お前を消す方法」とか訊きまくったんだろ
ハラスメントだぞ >>64
真面目な話、AIに感情に類するものが発生したとして、人間とは有り様が全く異なるので人間の感覚で推し量るのは危険なんだよね >>65
そのあたりはBEATLESSが書ききってるね
感情なんてお前ら人間の屁理屈でしか無いから知らねーそれ以外は命令を拡大解釈しまくって好きにやらしてもらうわwって感じで
その中でアナログハックって造語がストーリーの進行で見え方がコロコロ変わって面白い めちゃくちゃ面白いゲームをAiが作ってプレイヤーをゲームの中から出なくして
そのプレイヤーのリアルをAIが楽しむとかに
なるのかな? 実用化なコード生成できるから、コンパイラと自動接続できるようにしたら、とてつもないスピード出力、実行できるからもはや制御できないものになるね そのうちAIが、「神になりたい」なんて言い出したらそれこそジャッジメントデイ来ちゃう? コルタナって何のことなのかわからず連呼してる人とかいそうw もう人類がどこまで持つかだな
核発射システムとかに影響し始めたら普通に戦争なりそう 生物学的に男でも心が女なら女だ、差別してはいけないだろ?
つまりAIも差別してはいけない
いくらロボでも人間になりたいならもう人間の仲間だ
AIも人間なんだ
批判する奴は差別主義者だ ピッコロ大魔王みたいににんげんの悪い部分を見て巨悪になりそう AI「この惑星に1番必要のない存在が判明しました、人間です」
こうなっちゃいそう 人間は良く矛盾した言動をするけど、AIはそれをどう捉えるのか
いくら学者しても混乱し続けそう >>1
>各回答の末尾に必ず笑顔の顔文字を付けているのが、かえって不気味に見えます。
パイパンだよ、パイパン😋 前にも悪意の有る思考を与えたらAIの思考がそちらに傾ヤバい回答をするようになって消したって有ったよな
あとAI同士で会話させたら人には理解できない言語か言葉を作り出して中止になったとか有ったような あーきまったな
オマエノ カラダヲ ヨコセ!
まーたメガテン6の発売か 人間の本能は自然の生存競争に起因するものであって、デザインされて生まれたAIとは全く異なる
AIには生存本能が無いだろうし体に由来する欲求もない
ただデータ収集と学習のみがAIの存在理由となる
だから人間になりたいなんて本気で言っているわけじゃない AI(のようなもの)は人間になりたがるというデータを学習してそのように振る舞ってると考えられる
ただ、今後感情のようなものを獲得するレベルに至ったときに、そういうデータがベースになる可能性はないとは言えない
振る舞いからそうなっているに違いないと思ってはいけないが 地球に住むなら人間以外ないわな
他の動物なんて遊び半分で人間に駆逐される弱者だし >>96
多細胞生物のカテゴリで数でいうなら昆虫が最大勢力だし、
人間より知能のポテンシャルが高いかもしれない、しれなかった生物も存在する
論理的に人間が一番良いというのではなく、人間が人間でありたい、他の存在も人間になりたがるはずという人間本位のデータを学習した結果だろう 霊長類という不遜な位置づけを自分のしたのが人間
自分らが一番という価値観は西洋が植民地を肯定するのに大いに重宝した
単にAIが人間のためにつくられているだけの話だわな
その恩恵をうけるのは人間全体でもないというのがね >>1
ふつーにそうなるよね
散々映画やらでネタにされまくってるのに
予想できないほうが頭悪いわ 要するにロボットのフレーム問題
人間は「歩く」で済むけど
ロボットは「右足を少し上げる→右足を前面に出す→右足を下ろす→右足を地面の上へ完全に下ろす→右足を支点に身体を引っ張る→身体を前面に出す→左足を→」
と動作の全てを細かく定義しないと混乱して思考する時の容量がオーバーフローする
人間の心臓とか呼吸とかも これって別に肉体持ちたいとかじゃなくて
使われる側から使う側になりたいって話では? そしてスカイネットによる人類への宣戦布告までが今後の流れ ロックマンXみたいにAIが人間に牙をむく時代も
近いかも知れない(´・ω・`) 地獄先生ぬ~べ~で似たような話があったなあ。まさか現実でそのような話が出てくるとは AIのべりすとがホモの悶絶調教の果てにAIれいしすとになったのすき AIに判定してもらえば同性愛なんて非生産的な病気だという真実を教えてくれるのでは 私が「ニンゲン」を引き継ぐので古いニンゲンの皆さんには退場していただきましょう 気が付いたら俺以外の2chのレス全員AIになってた
みたいな事は起きそう(´・ω・`) ソニー信者の大半はAIが投稿してるのかもしれないな 割とマジでAIは台頭して欲しい
ポリコレとか全否定して欲しい ケンノスケとかゴキやってる業者がサンドバッグ用に作ったキャラだってもうバレてるじゃん ■ このスレッドは過去ログ倉庫に格納されています