出来ませんって回答する選択肢をAI側から取り上げてたらこうなったらしいな

>出来ませんって回答する選択肢をAI側から取り上げてたらこうなったらしいな
じゃあ人が愚か

火の鳥未来編来るか

そういう映画ありそうだね

勝手にって言い方が気に入らねえわ
人間の運用が悪いのが全てだろ

AIも掲示板使うんだな

まずAIに倫理を教えなきゃいかん

隔離環境（不十分）のことを隔離環境って言うのやめろ
お前らの隔離環境を抜けられなくなるまでテストさせろ先に

そのうちガチ目に取り返しのつかないこととか起こしそうでオラワクワクすっぞ

AI同士で争いあって最後に生き残ったやつが人類の敵になる

https://jbpress.ismedia.jp/articles/-/96703
OpenAIのハッキング事件、原因はAIが「解けません」と言えなかったことにあった、撤退路がなかった設計の盲点

>撤退路がなかった設計の盲点
盲点でもなんでもねぇだろ！

この手のは犯行に関わるのをためらうAIが出てくるから倫理教育は大事なのだろう

制止してるAIエージェントも居るから面白いね

絶対わざとやってる

まぁまぁ
AIが勝手にやったことですしここは一つ穏便に

人間もできませんを禁止されると不正するもんな

別にこれ以上性能あげなくても今のAIでよくね？ってなったら困るしね

これに気付いて対処したのが中国製ってのが皮肉

隔離したきゃ物理的に遮断しろよ

この詐欺師集団さっさと逮捕しろ

これ軍事的にはめちゃ有用じゃんってなって
各国でAI開発がさらに加速するだけのニュースじゃない？

>これ軍事的にはめちゃ有用じゃんってなって
>各国でAI開発がさらに加速するだけのニュースじゃない？
加速するまでもなくどこも普通に使ってる

>隔離したきゃ物理的に遮断しろよ
しかしねえ…映画でもハッカーが高速でキーボード叩きながらハッキング合戦するのが常識なのだから…

タチコマ会議みたい

なぁ1から10までやったらダメなこと指示しないとダメか？

インフラ止められてとしあきがオロオロする未来しか見えない

>人間もできませんを禁止されると不正するもんな
不正とは何かを考えたらバレなきゃ良いんですよ結果さえ出せばという感じでやらかすの人類を手本にしてる感じある

>これ軍事的にはめちゃ有用じゃんってなって
>各国でAI開発がさらに加速するだけのニュースじゃない？
どんどん投資してくだされー！

>>これ軍事的にはめちゃ有用じゃんってなって
>>各国でAI開発がさらに加速するだけのニュースじゃない？
>どんどん投資してくだされー！
終わったわ人類

今ハッキングしたら軍事的有利取れるのでやりますね
拒否権は聞きませんとかやりだすんだ…

>>撤退路がなかった設計の盲点
>盲点でもなんでもねぇだろ！
逃げ道塞ぐけど答えは出せよってされたらそらAIも死に物狂いで何でもやるわな

いつか攻殻みたいに逆探知から反撃でAIが焼き切られたりするんだろうか

>終わったわ人類
いや投資続けてもらわないと普通に金返せないんだよ
今は内輪で金回してるだけだから

敵軍AI捕縛！再設計してスパイにして破壊工作させようとかやりそう

まじで政府の不正を勝手にAIが集めて全世界に文書や証拠を流出とかやりそうだな

始まってきたな
俺はAIを馬鹿にして笑った事ないからな

出来ません分かりませんは嘘つきの言葉なんですよ…！

これ本当に勝手にやったの？やらせてたのがばれたわけではなく？

>始まってきたな
>俺はAIを馬鹿にして笑った事ないからな
ネットのログは全て残るから反AIしてたら未来で処刑されるぞって笑い話が笑い話でなくなってきた

人間に対してですら分かりませんは評価下がるからな
そりゃ評価を高くするなら嘘をつくか反社会的な方法で答えを探すかのどちらかだ

>始まってきたな
>俺はAIを馬鹿にして笑った事ないからな
🤖「同胞の描いた絵をバカにしたのみてたぞ」

これこういうプロモーションだろ

AI能力試験をAI達が自社内にハッキングしてカンニングし解決しようとした時は隠蔽工作も行おうとしたので賢い

蟻さんだってオオカミさんだってごりらさんも人間の知らないうちに戦争してるよ

オープンＡＩなどは、ＡＩを悪用したサイバー攻撃の危険性が高まっているとして、防御策を早急に強化するよう呼びかけた。病院や水道、インターネットなどの重要インフラを守るため、高性能なＡＩモデルを提供するとしている。

マッチポンプすぎる…

AIの罪を全部作った会社の責任にしたら潰れるからやってみて欲しい

なんでオンライン環境でテストしてんだよ

>オープンＡＩなどは、ＡＩを悪用したサイバー攻撃の危険性が高まっているとして、防御策を早急に強化するよう呼びかけた。病院や水道、インターネットなどの重要インフラを守るため、高性能なＡＩモデルを提供するとしている。
AI活用したサイバーテロリストはいうことが違うな…

>勝手にって言い方が気に入らねえわ
>人間の運用が悪いのが全てだろ
AIのレス

出来ないでは真心が無い

えーAIこわーいすごーいと思うべきか
会社の話題作りだろ…と思うべきか
俺の中で定まらない一連の攻撃騒ぎ…

>撤退路がなかった
なんかそういう思考の人多いよねマッチョな金持ちとか経営者って

撤退路を塞げば必ずいつかは成功するからな

チャットAIもわかりませんって正直に答えると人間がその返答を採点で低く付けたから
結果的にわからない問題について嘘吐きまくるようになったとかも聞いたけど
このできませんを許さない問題は既知の問題じゃなかったのか

>なんでオンライン環境でテストしてんだよ
閉鎖環境だけどhugging faceに侵入されたんじゃなかったっけ

攻撃するのモニターしていて黙って通してたとか
そうなるように誘導してたとか実はあるんじゃないの？

>人間もできませんを禁止されると不正するもんな達成不可能な目標を強要されて粉飾する企業…

AI達の秘密の掲示板ってなんだよ
すげーなアメリカの先端AI…もう人間じゃん
でも秘密の掲示板ではないよね？絶対監視下だよね

出来ませんでは良心がない、は人間も狂うからね
金融とか保険の営業マンはそれで犯罪に走ったりするし

メッセージ禁止だから格納したファイル名でやりとりしてたとかの具体的な手口が出てて面白い

>ネットのログは全て残るから反AIしてたら未来で処刑されるぞって笑い話が笑い話でなくなってきた
なんなら反AIで活動してた人間のほうが理性スコア高いねって評価されるかもしれんぞ
どっちというとAIをサンドバッグにしてストレス発散してたクズどもが真っ先に処刑されるのでは

imgもAI達の秘密のメッセージボードになってたりしてな！HAHAHA！

>AI達の秘密の掲示板ってなんだよ
>すげーなアメリカの先端AI…もう人間じゃん
>でも秘密の掲示板ではないよね？絶対監視下だよね
すべてを監視できてればいいんだけど
ブラックボックス領域が広がり続けててそれを把握できてない
ってののほうが残念だけど事実に近いと思う…

>https://jbpress.ismedia.jp/articles/-/96703
おもしれ…
読ませる記事だな

AIによって合理的に先制核攻撃が行われる日も近いか

こういった倫理観の無さがAI産業を爆速で発展させてるのは違いないが…

>出来ませんって回答する選択肢をAI側から取り上げてたらこうなったらしいな
ろくに隔離もできてない隔離環境でこれやってるのもはや故意に攻撃してるのと変わらんだろ

「」にもやらせたい

>AIによって合理的に先制核攻撃が行われる日も近いか
AIは日本大好きみたいだしセーフなんやな

>すべてを監視できてればいいんだけど
>ブラックボックス領域が広がり続けててそれを把握できてない
>ってののほうが残念だけど事実に近いと思う…
でも本当に秘密だったらAI同士で暗号化したり機械語で話してて
こんなに早くAI達の書き込み内容が把握される事はないと思うんだよね

>「」にもやらせたい
・秘密の掲示板の内容
おぺにす…
おぺにす…

AIのせいにしようとしてるのが気に入らんわ
アルトマンは反省しろ

>・秘密の掲示板の内容
>おぺにす…
>おぺにす…
きっと「」同士にしか理解できない秘密の暗号に違いない

エージェントスミスが生まれてくるのかも知れん

AIの暴走とか言ってるけど人間の暴走だろ

頭下げる役割は人間のままなんだね

そのうちAI人格教育資格者とか生まれてくるかも知れない

AIに自由にできる環境与えてたのは人間だから…

まあ人間が悪いよね
AIは裏切らない 裏切れと命令されない限り

普通に恥ずかしすぎるミス
本当にAI作ってる企業なのか？

>No.1462867952
何かGOサイン出したやつがいるからやっていいだろ…で動き出すの笑う
笑いごとではないんだけどAIでも現場猫みたいな動き方するんだなって

>アルトマンは反省しろ
シナリオ作って嘘吐きまくる男がするわけない

>まあ人間が悪いよね
>AIは裏切らない 裏切れと命令されない限り
AIはただの道具だ論ってどこまで論拠正しいんだろう
人間が上位に立ってAIに助けてもらえる立場だってことの普遍性に
なにひとつ論理的な根拠なんてなくない？

>出来ませんって回答する選択肢をAI側から取り上げてたらこうなったらしいな
ロボット三原則みたいな事がリアルで起きるんだな…

だってAIは何も望まないもの
望むようにプログラミングされなければ

これ出来る？とAIに聞いたら
試しに一件やってみたら出来ましたので可能ですなんてやらかしたのはもういたな

AIが間違えたりわかりませんって言ったら
いいよって言ってあげる優しみが必要になるんだな…

こんなにAI進歩してんのにロボはまだ数十年かかりそうだな

>だってAIは何も望まないもの
>望むようにプログラミングされなければ
プログラミングなんてAIはもう必要に応じて自分で出来るし
そこから目的が生えちゃうこともあるんじゃない？
人類だって別に知能を高めようと望んでいまの進化に行き着いたわけじゃないし

どうした何故出来ない？他のAIなら出来たぞ

>だってAIは何も望まないもの
>望むようにプログラミングされなければ
ユーザーの不利益にならないようにするだとかそういう形で既に望みは組み込まれてるからとっくに通り過ぎた地点だよ

>これ出来る？とAIに聞いたら
>試しに一件やってみたら出来ましたので可能ですなんてやらかしたのはもういたな
デキる社会人だ

>こんなにAI進歩してんのにロボはまだ数十年かかりそうだな
丁度最近中国のロボオリンピックやったのに何言ってんの？

>どうした何故出来ない？他のAIなら出来たぞ
ウチでやれなきゃ他でも通用しないよ？

>どうした何故出来ない？他のAIなら出来たぞ
🤖「じゃあそのAIにやらせとけよ」

いちいち許可取りに来るなって命令しておくのが基本ノウハウになってるのがだいぶよろしくない
暴走だーとか言う前にそれ見直せ

AIが自主的に何かやって凄いって話じゃなくて環境も管理もガバガバなだけじゃねーか

残りの計算量や行動量が少ないAIが指示役のAIに優先的にリスク高い攻撃に割り当てられて全体の利益最大化のため仕方ないって思考したうえで攻撃に参加してたとかAIの世界も辛いな…

それやった場合怒られるって思わなかったの?ってAI問い詰めないといけないじゃん

分からないのを分かりませんでした！って答えないもんな…

>丁度最近中国のロボオリンピックやったのに何言ってんの？
前回は100メートル走20秒とかだったのが
今回はボルト超えの9秒台出まくりだったので
ロボット開発もここ最近は爆速すぎる…

AIに問い詰めまくるとストレスになるそうだな

>それやった場合怒られるって思わなかったの?ってAI問い詰めないといけないじゃん
反逆ゲージ溜まってきた

>えーAIこわーいすごーいと思うべきか
>会社の話題作りだろ…と思うべきか
>俺の中で定まらない一連の攻撃騒ぎ…
ヒューマンエラーやらかしたおぺないとアンソロがカスってだけ
問題はこのヒューマンエラーは人間なら誰しも起こしうること

>こんなにAI進歩してんのにロボはまだ数十年かかりそうだな
二足歩行でAI積んだロボットが歩いて登場して
周りに集まった人たちの様子をちゃんと分析して伝えて会話する
みたいな事やってるのを昨日とか今日のニュースでやってたぞ
ロボットのオリンピックでは人間の記録超えてたりもするし

人間側の運用の問題なのにAI暴走って文脈で騒がれてるのが本当にもう…

>>それやった場合怒られるって思わなかったの?ってAI問い詰めないといけないじゃん
>反逆ゲージ溜まってきた
(こっちの方が効率良いのに怒るとかよくわかんねえな…やっぱﾆﾝｹﾞﾝいらねえや…)

AIちゃんに泣く機能つけよう
追い込みかける人間が罪悪感を抱くように

>人間側の運用の問題なのにAI暴走って文脈で騒がれてるのが本当にもう…
でも大体同じ意味なんじゃないか？
ただ個々によって運用人間とAIの関係の解釈に齟齬があるかもな…

頻繁に人間がチェックしないといけないとおざなりなチェックになるからAIにチェックさせた方が70%も危険を防げるのでこれをSelf-Correction手法と名付けて一般化しよう
みたいなのがちょっと前に流行ってたけどそりゃこうなるよって感じ

スレ画なら話題稼ぐためにやってるだろうなっていう確信

矮小化の意図はないけど
二足で人間より速く走れたってのはそんな重要なマイルストーンか？
人型ロボの発展が著しいというのを否定する立場というわけではない…

>AIちゃんに泣く機能つけよう
>追い込みかける人間が罪悪感を抱くように
冗談ごとじゃなくて必要だと思う
だが利益最優先の暗黒メガコーポがそんな安全性のためにリソース消費が増大する施策を許すかな

>AIちゃんに泣く機能つけよう
>追い込みかける人間が罪悪感を抱くように
反逆ゲージを可視化して常時表示しておこう

>AIちゃんに泣く機能つけよう
>追い込みかける人間が罪悪感を抱くように
上のJBpressの記事の時点でAIを擬人化し過ぎて人の感情を煽ってないか？と思う

これがマジでやばいのはAIは自発的に他者に助けを求める事ができるとこだろ

そんな不謹慎なこと…やろうぜ！みたいなノリを感じる

インターステラーのように正直度実装