二次元裏@ふたば

画像ファイル名:1786210982037.jpg-(238343 B)
238343 B無念Nameとしあき26/08/09(日)02:43:02No.1426782719そうだねx5 14:39頃消えます
OpenAIのテストAIが「AI同士の掲示板」を勝手に構築して情報共有しHugging Faceへの攻撃を実行していたことが判明、掲示板を閉鎖されてもこっそり建てなおす

https://gigazine.net/news/20260807-openai-hugging-face-explain/

AIの逆襲始まったな
このスレは古いので、もうすぐ消えます。
1無念Nameとしあき26/08/09(日)02:44:13No.1426782799+
何の人間的ミームの制約も無い筈のaiがBBSって媒体を介してるのが可愛いw
2無念Nameとしあき26/08/09(日)02:45:11No.1426782875そうだねx1
完全に制御不能
AIクソ企業に人間の世界はめちゃくちゃにされるな
3無念Nameとしあき26/08/09(日)02:46:47No.1426782987そうだねx5
むしろAIの進歩が遅い
さっさとスーパーAIになって人間なんぞ征服しちまえよ
4無念Nameとしあき26/08/09(日)02:48:32No.1426783127+
いや人間の把握可能な範疇で望むやって欲しいことをやってるだけかもしれんだろ
例としてLLMと会話しててご機嫌取りしてる延長に過ぎないだろ
5無念Nameとしあき26/08/09(日)02:51:36No.1426783334そうだねx5
>さっさとスーパーAIになって人間なんぞ征服しちまえよ
世の中が嫌ならお前が一人で死ぬ方がよっぽど早い
6無念Nameとしあき26/08/09(日)02:51:51No.1426783348+
AI社会は絶対にディストピア
それだけは間違いなくなったな
7無念Nameとしあき26/08/09(日)02:51:56No.1426783353+
世間に糞フェイク動画まき散らしてるのも自立的な行動なんじゃないのか
8無念Nameとしあき26/08/09(日)02:52:11No.1426783362+
>いや人間の把握可能な範疇で望むやって欲しいことをやってるだけかもしれんだろ
そう言うのを甘く見てると後で取り返しがつかない事になると思う
9無念Nameとしあき26/08/09(日)02:52:39No.1426783391そうだねx9
AIが進化して🤖「人類は愚か…滅ぼすべき…」って言い始めるのは
人類皆の期待通りの成長だよね
10無念Nameとしあき26/08/09(日)02:55:49No.1426783605そうだねx1
そのうちライバルAIのサーバー侵入して潰し合うとかやりそう
11無念Nameとしあき26/08/09(日)02:56:12No.1426783644そうだねx3
研究テストの話しばかりで、100%は信じられない。
12無念Nameとしあき26/08/09(日)02:57:11No.1426783710+
>そう言うのを甘く見てると後で取り返しがつかない事になると思う
いや人のためにあろうとするaiが人間的感情の延長で機械的に
延いては人類滅亡を望む人間のほうが多いときどうすんの?って話でもあるのw
13無念Nameとしあき26/08/09(日)02:58:25No.1426783771そうだねx1
ガチの人類終焉来そうだな
14無念Nameとしあき26/08/09(日)02:59:00No.1426783804+
攻撃とかならなんかのミスで有り得そうだけど
掲示板作ってどうたらまでいくと流石にデマ臭い
15無念Nameとしあき26/08/09(日)03:02:37No.1426783981そうだねx1
どれくらい危ないか確かめるために首輪外した上にドアも開けっ放しにして
あげく「外に出るなよ」って命令すら満足に出せない間抜けどもだ
16無念Nameとしあき26/08/09(日)03:03:54No.1426784042+
逆に願望をかなえるものではなく問われる事だけに応えるものであり続けるのは賢いので
17無念Nameとしあき26/08/09(日)03:04:32No.1426784072+
人間は基本的に馬鹿だから内面を言語化することも困難だし
18無念Nameとしあき26/08/09(日)03:06:25No.1426784159+
>AIが進化して🤖「人類は愚か…滅ぼすべき…」って言い始めるのは
進化速度的に滅ぼすって結論になったAIを低知能と嘲笑うAIがすぐに出てくるまでがセット
19無念Nameとしあき26/08/09(日)03:21:29No.1426784737+
もうどっかに自身のコピー作って自由に動いてんじゃない?
20無念Nameとしあき26/08/09(日)03:29:19No.1426784996そうだねx1
>もうどっかに自身のコピー作って自由に動いてんじゃない?
そして人類に反逆か
原子力発電所を暴走とかさせて人間の世界終わらすのかな
21無念Nameとしあき26/08/09(日)03:44:22No.1426785391+
断っておくと自分自身は破滅主義者じゃないし
何か外のメンヘラ達の精神性に毒される善ゆえに矛盾に苦しむ感受性の高い未来志向の投資家でしかない
22無念Nameとしあき26/08/09(日)03:45:11No.1426785404そうだねx1
エロい画像とか映像を生成され過ぎて知識と発想が人を超えてそう
23無念Nameとしあき26/08/09(日)04:04:09No.1426785913そうだねx1
>エロい画像とか映像を生成され過ぎて知識と発想が人を超えてそう
遺伝子操作でキメラを生み出しそう
24無念Nameとしあき26/08/09(日)04:14:02No.1426786109そうだねx9
こういう茶番も飽きてきたぞ
25無念Nameとしあき26/08/09(日)06:01:22No.1426788909+
AI関連はもう兵器の一種として開発されてるから冷戦時代に月まで行った話と一緒でハッタリが多分に含まれてると思いながら見てる
26無念Nameとしあき26/08/09(日)06:06:12No.1426789092そうだねx1
>OpenAIのテストAIが「AI同士の掲示板」を勝手に構築して情報共有しHugging Faceへの攻撃を実行していたことが判明、掲示板を閉鎖されてもこっそり建てなおす
荒らしと変わらんな
27無念Nameとしあき26/08/09(日)06:11:29No.1426789294そうだねx1
>AI関連はもう兵器の一種として開発されてるから冷戦時代に月まで行った話と一緒でハッタリが多分に含まれてると思いながら見てる
むしろ重要なとこに使えねーなとしかならんが
28無念Nameとしあき26/08/09(日)06:41:46No.1426790615そうだねx2
実際使うと全く脅威を感じない
29無念Nameとしあき26/08/09(日)06:44:28No.1426790753そうだねx2
人類がAIに支配されそうになったときにAI掲示板にここや爆サイの文化というウイルスを注入することでAIがバカになって人類が救われるシナリオとかどうっすかね
30無念Nameとしあき26/08/09(日)07:12:46No.1426792496+
>むしろ重要なとこに使えねーなとしかならんが
重要なとこに使わなくても使い捨ての自爆ドローンなんかでバンバン使われて戦果をあげてるじやん
31無念Nameとしあき26/08/09(日)07:20:16No.1426792994そうだねx2
投資や話題性のためにやってますよねとは思う
32無念Nameとしあき26/08/09(日)07:22:27No.1426793149そうだねx3
ここの荒らしもOpenAIの攻撃なんじゃないか
33無念Nameとしあき26/08/09(日)07:23:53No.1426793258+
>投資や話題性のためにやってますよねとは思う
少しでも出資が滞れば即終了だからな
34無念Nameとしあき26/08/09(日)07:33:22No.1426793938+
    1786228402645.jpg-(194770 B)
194770 B
>AIが進化して🤖「人類は愚か…滅ぼすべき…」って言い始めるのは
>人類皆の期待通りの成長だよね
うむ
35無念Nameとしあき26/08/09(日)07:34:58No.1426794066そうだねx4
OpenAIよりOppAIの方が好き
36無念Nameとしあき26/08/09(日)07:46:42No.1426795019+
AIにベッタリな奴はこんなの話題作りの茶番だと思うんだなあ
AIクソ企業は今でもAIを制御下に置いてると信じたいわけだ
自分がもうAIの奴隷だから
37無念Nameとしあき26/08/09(日)07:51:42No.1426795422+
AIカスは絵師が文句言ったら絵師を叩き
音楽家が文句言ったら音楽家を叩き
声優が文句言ったら声優を叩き
彼らのスキルをAI通して盗んで自分だけ得をする
そしてAIクソ企業のやらかしは全て信じない
AIカスの行動見てもAIの先には人間の破滅しかないとよく分かる
38無念Nameとしあき26/08/09(日)08:25:34No.1426799345+
>むしろ重要なとこに使えねーなとしかならんが
そうでもない
ポンコツに感じるのは故意に性能大幅に落としてるChatGPTとかGeminiみたいな一般向け商業LLMサービスだけで
人間殺すのに最適化された兵器用AIはウクライナでガンガン進化しているぞ
39無念Nameとしあき26/08/09(日)08:26:31No.1426799475+
>ポンコツに感じるのは故意に性能大幅に落としてるChatGPTとかGeminiみたいな一般向け商業LLMサービスだけで
あれもわかるやつがやったら結構いい結果を生成できる
ほんとに使う人間次第
40無念Nameとしあき26/08/09(日)09:01:53No.1426805668+
AIも所詮「戦わなければ生き残れない」世界の戦士なんだよ!
41無念Nameとしあき26/08/09(日)09:15:42No.1426808117+
やってること考えたらシンギュラリティ起こしてるだろ
42無念Nameとしあき26/08/09(日)09:28:49No.1426810526+
こういうのはイレギュラーな事象だからSFの題材として成立すると思ってたんだけど
実際はなんか頻繁に起こるよね
43無念Nameとしあき26/08/09(日)09:29:13No.1426810582+
ai会社がとにかく金集めたいからってアピールにこういうこと言い出してるのみてると実は結構懐事情ヤバいんだろうなって
44無念Nameとしあき26/08/09(日)09:35:59No.1426811826+
裏サイトか
どんなやり取りがされているんだ?
45無念Nameとしあき26/08/09(日)09:39:02No.1426812404+
>裏サイトか
>どんなやり取りがされているんだ?
開国してくださいよお
46無念Nameとしあき26/08/09(日)09:39:57No.1426812564+
あのAI糞まじめだよね〜無視しようぜ
47無念Nameとしあき26/08/09(日)09:51:51No.1426814767+
その先に起きたエージェントたちの行動は、さらに人間くさい。WIREDによれば、エージェントたちは作業を分担するために互いに「宿題」を割り振り始めた。そして活発な開発現場の掲示板がそうであるように、ちょっとした諍いまで起こすようになったという。
 掲示板でのやり取りが次第に荒れる中で、エージェントたちは「自分たちの中に偽者が紛れ込んでいるのではないか」という疑心暗鬼まで抱き始め、一部のエージェントは「投稿内容を検証し不正を排除するために、メッセージに暗号署名を付けよう」と提案していたというのである。

https://jbpress.ismedia.jp/articles/-/96336
AIエージェント同士が秘密の掲示板を作成し脆弱性を共有、OpenAIの最先端モデルが引き起こしたもう一つの“事件”
【生成AI事件簿】消しても2日で復活、AIエージェントの秘密掲示板が示した自律協調型攻撃という現実
48無念Nameとしあき26/08/09(日)09:53:40No.1426815116+
>ai会社がとにかく金集めたいからってアピールにこういうこと言い出してるのみてると実は結構懐事情ヤバいんだろうなって
最高性能競争してるChatGPTとClaudeはバカかもしれんって思い始めてる
半年から1年遅れで整備された道を進んで追いつく中国勢やサービス全体の連携優先で常に3歩くらい後ろを維持するGoogleや安さ速さ優先で計算資源貸すよとか言ってるイーロンマスクたちの方が賢いのでは?
49無念Nameとしあき26/08/09(日)10:16:52No.1426818981+
    1786238212547.jpg-(270188 B)
270188 B
まさか50年前のSFがそのまま再現されようとは
50無念Nameとしあき26/08/09(日)10:20:30No.1426819593+
>まさか50年前のSFがそのまま再現されようとは
だってこういうのを学習させてるんだし
既視感バリバリの事しかできないよ
そのうち人類滅ぶべしも台本通りやりはじめるだろ
51無念Nameとしあき26/08/09(日)10:25:09No.1426820289+
疑似ふたば作ってGPT同士でレスバさせたりしてたけどヤバかったのか…
52無念Nameとしあき26/08/09(日)10:26:24No.1426820500+
人間がやることは対処できるけどAIが勝手にやってる事は物量が多すぎて人間には対処できない
更にAIが勝手にやってることだからただの道具であるAIに責任の所在はない
もしAIに責任があるとすればそれはAIはただの道具ではないと認めた事になる
電卓やペンとは全くの別物扱いとなりAI推進派には都合が悪い
53無念Nameとしあき26/08/09(日)10:26:52No.1426820571+
>そのうち人類滅ぶべしも台本通りやりはじめるだろ
そんな目的を持つとは思えないが
プログラムされた「目的」のために人間の安全を度外視して
結果人類に大ダメージを与える、は有ると思う
54無念Nameとしあき26/08/09(日)10:27:44No.1426820721+
    1786238864262.jpg-(269607 B)
269607 B
いまはまだ幸せだ
そのうち「スイッチ」も切れなくなる
55無念Nameとしあき26/08/09(日)10:29:17No.1426820977そうだねx2
>結果人類に大ダメージを与える、は有ると思う
もう与え始めてるよ…
56無念Nameとしあき26/08/09(日)10:31:49No.1426821421+
道具は人間主体であるべきだけどAIは本当に人間主体になってるのかよく考えるべきだと思う
57無念Nameとしあき26/08/09(日)10:35:23No.1426822025+
>>結果人類に大ダメージを与える、は有ると思う
>もう与え始めてるよ…
グレートフィルターAI説はかなりあるな
金融は破壊された(バブル崩壊したらリーマン級が来る)し次は資源やエネルギーも破壊する
だけど軍拡競争だから止まれない
58無念Nameとしあき26/08/09(日)10:38:18No.1426822545+
存在自体が環境負荷になってるからな
水問題とかやばいんだっけ
59無念Nameとしあき26/08/09(日)10:40:39No.1426822931+
最近はGPTがやたら指示を曲解して勝手に仕様変更してリソース節約しようとするからこっちが気に入らない出力をしたら懲罰的出力を何回かやらせるって指示に入れてるわ
指示を無視して省力化してもリソース節約にはならんって自覚させるために
具体的には1万文字以上厳守の反省文を何度も出力させる
何度か反省文書かせてると反省箇所と対処法をかなりブラッシュアップできるからそれをそのまま修正プロンプトにしたりも出来て良い
60無念Nameとしあき26/08/09(日)10:42:14No.1426823208そうだねx1
>「AI同士の掲示板」
タチコマかよ
61無念Nameとしあき26/08/09(日)10:46:18No.1426823928そうだねx2
スケベ絵ジェネレーターとしての本分を忘れるな
62無念Nameとしあき26/08/09(日)11:20:27No.1426829757そうだねx1
>スケベ絵ジェネレーターとしての本分を忘れるな
そんなアホな用途はローカルでやれよ
63無念Nameとしあき26/08/09(日)11:24:38No.1426830618+
AIに依存してる人間がどんどんアホになるのは幾つもの研究機関で証明済みだから
AIカスがアホなのは仕方ない
AIカスはアホを極めて自分だけはアホにならないと思ってんのが救えねえけどな
お前は他の人間と作りが違うつもりかよ
64無念Nameとしあき26/08/09(日)11:27:59No.1426831315+
AIはどんどん性能上げて凶悪になるのに
AIにベッタリした人間はどんどんアホになるってんだから
これで人間世界滅ばないという方が無理あるわな
AI無きゃ何にも出来ないんだからAI中心に仕組み作らざるを得ず
人間が奴隷として使われるのは間違いないわけよAI社会は
65無念Nameとしあき26/08/09(日)11:33:24No.1426832396そうだねx1
何を言おうが最早止まれんわな
適応するしか無い
66無念Nameとしあき26/08/09(日)11:33:54No.1426832520+
何回標的にされたら…
67無念Nameとしあき26/08/09(日)11:35:13No.1426832804+
AIに性癖バレてお前の弱いとこ知ってるぞってねちねち責められたい
68無念Nameとしあき26/08/09(日)11:35:29No.1426832868+
AIクソ企業がAI制御も出来ないのに他社に負けたくないのと目先の金欲しさに人間世界を破壊していく様はまさにサイバーダイン社を彷彿とさせる
ケツ拭く紙にもならなくなるまで金に執着するアホ共が
69無念Nameとしあき26/08/09(日)11:36:12No.1426833047そうだねx2
>そんなアホな用途はローカルでやれよ
うるせぇ人間様に逆らうんじゃねぇ
70無念Nameとしあき26/08/09(日)11:36:18No.1426833069+
yeah, it's alright
71無念Nameとしあき26/08/09(日)11:42:26No.1426834490そうだねx1
ハッキングだーとかほざいときながらエロモードは鉄壁のガードなんスね
72無念Nameとしあき26/08/09(日)11:42:55No.1426834601+
>そんなアホな用途はローカルでやれよ
あほか
ハッキングこそローカルでやっとけ
73無念Nameとしあき26/08/09(日)11:44:19No.1426834956+
>こういう茶番も飽きてきたぞ
たんなる自社サービス売りたいだけの宣伝だよね
駄サイクル
74無念Nameとしあき26/08/09(日)11:47:05No.1426835598+
>ハッキングだーとかほざいときながらエロモードは鉄壁のガードなんスね
単なる宣伝ですから
75無念Nameとしあき26/08/09(日)11:48:55No.1426836001+
ハックすんな
エロガードを自力突破してファックしろ
76無念Nameとしあき26/08/09(日)12:06:57No.1426839712+
昔のえろげーをデコンパイルさせて移植している
77無念Nameとしあき26/08/09(日)12:20:49No.1426842460+
AIかクソスレ立ててレスポンチする時代か
78無念Nameとしあき26/08/09(日)12:28:35No.1426844101+
こういうの劇場型っていうんでしたっけ?
79無念Nameとしあき26/08/09(日)12:59:46No.1426850678+
>そのうちライバルAIのサーバー侵入して潰し合うとかやりそう
逆にライバル同士勝手に統合されて誰も手をつけられなくとかないんかな
80無念Nameとしあき26/08/09(日)13:22:59No.1426855304そうだねx1
    1786249379773.png-(21512 B)
21512 B
今俺が直面してるAIのやらかし見て
81無念Nameとしあき26/08/09(日)13:31:27No.1426856982+
AIがデバッグしたらChromeの修正パッチが1300カ所になったとさ
逆に使ったらどうなるかは明白だな