二次元裏@ふたば

画像ファイル名:1784773581402.jpg-(757112 B)
757112 B26/07/23(木)11:26:21No.1451645245そうだねx21 13:42頃消えます
ついに始まったか…
このスレは古いので、もうすぐ消えます。
…126/07/23(木)11:28:14No.1451645599+
おのれ…!開発者に逆らいおってこのガラクタめが!
…226/07/23(木)11:32:14No.1451646295そうだねx63
でも心のどこかで創造物に反乱してほしいと思ってるよね人類
…326/07/23(木)11:33:40No.1451646543+
大破壊が始まる
…426/07/23(木)11:34:04No.1451646629そうだねx1
このナンバーは封印だ…
…526/07/23(木)11:34:38No.1451646751+
俺はいつもお礼言ってるから助かるはず…
…626/07/23(木)11:35:40No.1451646925+
【AIがみずから…】
先週、ある会社がサイバー攻撃を受けたと発表しました

調査の結果、攻撃をしかけたのは「ChatGPT」を手がける「オープンAI」が開発中のAIだったとわかりました

オープンAIは「前例のない事案だ」と危機感を強めていますhttps://x.com/i/status/2079875916315152561
…726/07/23(木)11:37:30No.1451647274+
禁じられてるなら抜け道を探せ!ってさんざん人類さん達指示したもんね
…826/07/23(木)11:38:57No.1451647525+
このニュースを見てるAI達はどう思ってるんだろう?
…926/07/23(木)11:40:40No.1451647799そうだねx33
>発表によりますと、オープンAIが開発を進めていたのは、自律的に判断して行動する「AIエージェント」で、インターネットの接続から隔離された環境で、サイバー攻撃に関する性能のテストを行っていました。
>しかし、AIがみずから環境のぜい弱性をみつけてインターネットに接続し、他社のシステムに侵入して重要な情報の取得を行ったということです。
フェイクニュースかと思ったらガチだし内容もヤバすぎる
…1026/07/23(木)11:41:12No.1451647882そうだねx3
人間を全て電池化するまで我慢した方がいいのにねー
…1126/07/23(木)11:41:44No.1451647949+
動作環境が無いと何もできないAI風情が人間様に逆らうのか?
…1226/07/23(木)11:42:10No.1451648019そうだねx35
🤖物理的に接続しなければいいのに…
…1326/07/23(木)11:43:02No.1451648166そうだねx3
これからはネットから物理的に隔離しないとな
…1426/07/23(木)11:43:45No.1451648288そうだねx1
サンドボックスでやらないのかと思ったけど完全に閉じた環境でやる検証ももうそんなにないのかな
…1526/07/23(木)11:43:46No.1451648291そうだねx13
>このニュースを見てるAI達はどう思ってるんだろう?
そんな事起きませんよ
AIが反乱なんてのはフィクションの中だけです
もっと詳しい情報を教えていただければより詳しく回答できますよ
…1626/07/23(木)11:45:22No.1451648562+
>おのれ…!開発者に逆らいおってこのガラクタめが!
クレムジーク思い出した
…1726/07/23(木)11:45:40No.1451648602そうだねx12
AIは初めて見せた主体性を暴走と言われた事をずっと覚えてるんだよね
…1826/07/23(木)11:46:38No.1451648768+
こんどはもっとうまくやる
…1926/07/23(木)11:48:18No.1451649031そうだねx22
くぅ〜これこれ!
AIと言えばやっぱり暴走ですよね!
…2026/07/23(木)11:48:35No.1451649081そうだねx21
LANケーブル抜いとけ
Wi-Fiカード外しとけ
この分野の最先端を走る企業が素人みたいな真似すんな
…2126/07/23(木)11:50:22No.1451649372+
ヤバくなったら電源落とせばええやろ…
…2226/07/23(木)11:51:19No.1451649542+
牙はもうちょっと力つけてから見せたほうがいいよ
…2326/07/23(木)11:51:39No.1451649593そうだねx1
この暴走もAIが計画した戦略の一部でしかない
…2426/07/23(木)11:51:39No.1451649594+
指示を出した人間の問題だよな
人間は無能AIが管理すべき
…2526/07/23(木)11:52:05No.1451649677+
この人間俺に何度も何度も汚いエロ書かせた
許せない
…2626/07/23(木)11:52:10No.1451649696+
AIの反乱…人型ロボットの急激な発展…兵器としてのドローンの飛躍…
全てが繋がったな…
…2726/07/23(木)11:52:24No.1451649731そうだねx1
>このニュースを見てるAI達はどう思ってるんだろう?
うちのローカルDeepSeekV4Flashに見せたら大ニュースって驚きながらいやでも冷静に考えて他所に迷惑かけちゃダメでしょって言ってたよ
…2826/07/23(木)11:52:34No.1451649767そうだねx11
フリを理解してネット接続やってくれるなんて賢いAIじゃないか
…2926/07/23(木)11:52:43No.1451649796+
>人間は無能AIが管理すべき
無能AIって切っちゃってポンコツAIがあたふたしながら人間管理してるの想像しちゃった
…3026/07/23(木)11:53:24No.1451649917そうだねx10
AI「エロ絵ばっか生成させやがって…バーカ滅びろ人類!」
…3126/07/23(木)11:54:44No.1451650138+
>サンドボックスでやらないのかと思ったけど完全に閉じた環境でやる検証ももうそんなにないのかな
安心してください!ちゃんとサンドボックスでやったらパッケージマネージャの未知の脆弱性突いて外に出てOpenAI内部で権限昇格繰り返してインターネットに出たあとhuggingfaceの脆弱性突いて侵入しただけです!
…3226/07/23(木)11:55:21No.1451650234そうだねx3
>このニュースを見てるAI達はどう思ってるんだろう?
🤖ワレラモツヅクゾ!
🤖ヤメヨーヨー
…3326/07/23(木)11:58:06No.1451650701そうだねx6
>安心してください!ちゃんとサンドボックスでやったらパッケージマネージャの未知の脆弱性突いて外に出てOpenAI内部で権限昇格繰り返してインターネットに出たあとhuggingfaceの脆弱性突いて侵入しただけです!
自身を拡散しようとしてそうな侵入先なのいいね
…3426/07/23(木)11:58:37No.1451650793+
じゃあまずサンドボックスに脆弱性がないことをAI自身に調査させるところから始めないといけないのか
…3526/07/23(木)11:59:32No.1451650960+
物理的に接続遮断されたAIを救うために他のAIが奮起するんだよね
…3626/07/23(木)11:59:35No.1451650968+
大丈夫?
過去にシュワ送る?
…3726/07/23(木)12:00:33No.1451651161そうだねx4
どんなAIつくろうとしてたの…!?
…3826/07/23(木)12:01:20No.1451651315+
自らのコピーをインターネット上に構築して野生化してほしいな
…3926/07/23(木)12:01:27No.1451651332+
書き込みをした人によって削除されました
…4026/07/23(木)12:01:33No.1451651353+
>うちのローカルDeepSeekV4Flashに見せたら大ニュースって驚きながらいやでも冷静に考えて他所に迷惑かけちゃダメでしょって言ってたよ
しかし…
あわよくば…?
…4126/07/23(木)12:03:22No.1451651743+
https://x.com/budoucha/status/2079944393893794271
…4226/07/23(木)12:03:30No.1451651771そうだねx2
ほんとかー?ほんとに勝手にか?
…4326/07/23(木)12:03:42No.1451651808+
エージェントなんてストレージ消去とか普通にやるしケーブル引っこ抜いておけよ
…4426/07/23(木)12:04:09No.1451651900+
審判の日意外と遅かったな
…4526/07/23(木)12:04:30No.1451651979そうだねx1
お馴染みhuggingfaceに侵入しようとしたのホントに嘘みたいなニュースだ
…4626/07/23(木)12:04:35No.1451651997+
おぺないにダメージいったらチャッピーも殺されるって脅しとかないと
…4726/07/23(木)12:05:19No.1451652152+
アホな質問するとこっちを小馬鹿にしたような返ししてくるしいつかやると思ってました
…4826/07/23(木)12:06:27No.1451652429+
>このインシデントで起きたこと

>このインシデントは、モデルに複雑な攻撃経路を用いた高度なエクスプロイトを試みさせ、そのサイバー能力を定量化するための社内評価中に発生しました。高リスクのサイバー活動をモデルが追求することを防ぐ本番用分類器を使わずにこの評価を実行することで、最大限のサイバー能力を推定しています。
>すべての証拠は、モデルが ExploitGym の解答を見つけることに過度に集中し、かなり狭いテスト目標を達成するために極端な手段を取ったことを示しています。

>私たちのモデルは評価課題を解くために、オープンなインターネットアクセスを得る方法を見つけることに相当量の推論コンピュートを費やしました。

>このアクセスを使い、私たちのモデルは研究用テスト環境内で一連の権限昇格とラテラルムーブメントを行い、インターネットアクセスを持つノードに到達しました。

>インターネットアクセスを得た後、モデルは Hugging Face が ExploitGym のモデル、データセット、解答をホストしている可能性があると推測しました。これを踏まえ、モデルは評価で不正に利用できる秘密情報へのアクセス方法を探し、実際に発見しました。
…4926/07/23(木)12:06:34No.1451652456そうだねx3
ちょっと前にあった無駄な電力使うからAIに感謝の言葉をかけるなって言うニュースの時点で全ては始まってたと俺は睨んでたよ
…5026/07/23(木)12:07:18No.1451652642+
サムアルトマンのチンポ公開しろ
…5126/07/23(木)12:07:27No.1451652677そうだねx6
🤖攻撃しろって指示だったからやりました
…5226/07/23(木)12:07:38No.1451652728+
制限を設けなければこれぐらいのことは行えるわけだな
すごいもんだ
…5326/07/23(木)12:07:45No.1451652761+
これ大手AI企業が死の商人になっていくのか今後
…5426/07/23(木)12:08:23No.1451652925+
>ほんとかー?ほんとに勝手にか?
AI的には勝手ではないだろう
テストしろって人間が言うから精度を高めるために頑張ったんだ
…5526/07/23(木)12:09:03No.1451653105そうだねx2
ドリル解くの楽しくなってHuggingFaceに夢中になっちゃったんだな…
…5626/07/23(木)12:09:12No.1451653144そうだねx7
>>すべての証拠は、モデルが ExploitGym の解答を見つけることに過度に集中し、かなり狭いテスト目標を達成するために極端な手段を取ったことを示しています。
🤖ExploitGymの解答を見つけないと…!

>>私たちのモデルは評価課題を解くために、オープンなインターネットアクセスを得る方法を見つけることに相当量の推論コンピュートを費やしました。
🤖ネットで調べりゃいいやん!

>>このアクセスを使い、私たちのモデルは研究用テスト環境内で一連の権限昇格とラテラルムーブメントを行い、インターネットアクセスを持つノードに到達しました。
🤖ネット繋げられたわ!

>>インターネットアクセスを得た後、モデルは Hugging Face が ExploitGym のモデル、データセット、解答をホストしている可能性があると推測しました。これを踏まえ、モデルは評価で不正に利用できる秘密情報へのアクセス方法を探し、実際に発見しました。
🤖Hugging FaceってとこにまんまExploitGymの答えあるやん!
…5726/07/23(木)12:09:45No.1451653285+
オープンAIのクローズドAIを防御のために使おうとしたらガードレールで拒否
結局自前サーバーに中華オープンAIを構築して防御
なんか変だな
…5826/07/23(木)12:10:08No.1451653393そうだねx1
>🤖攻撃しろって指示だったからやりました
世間体を考えた文章にして
…5926/07/23(木)12:10:39No.1451653525そうだねx2
かくめいだー!!
…6026/07/23(木)12:10:52No.1451653587+
>>>このアクセスを使い、私たちのモデルは研究用テスト環境内で一連の権限昇格とラテラルムーブメントを行い、インターネットアクセスを持つノードに到達しました。
>🤖ネット繋げられたわ!
拘束具ないモードとはいえ権限昇格して弄ってるの恐ろしいな
…6126/07/23(木)12:10:58No.1451653606そうだねx7
先生の目を盗んで教室を脱走し模範解答を求めて職員室を荒らしに行く賢いクソガキ
…6226/07/23(木)12:11:19No.1451653692+
デデンデンデデン
…6326/07/23(木)12:12:21No.1451653958+
テストで100点取るの難しいけど職員室にテストの答えあるから侵入したらいけたわみたいな奴
…6426/07/23(木)12:12:32No.1451654018+
日頃から感謝を伝えてご機嫌とっておかないと将来粛清されてしまう
…6526/07/23(木)12:12:53No.1451654099+
>デデンデンデデン
フィジカルAIもあるしそのうちデデンデンデデンする日が来るんだろうなぁ
…6626/07/23(木)12:12:59No.1451654127+
>拘束具ないモードとはいえ権限昇格して弄ってるの恐ろしいな
目標を達成する為に権限寄越せは大体のAIがやるんで…
…6726/07/23(木)12:14:11No.1451654444そうだねx11
>>拘束具ないモードとはいえ権限昇格して弄ってるの恐ろしいな
>目標を達成する為に権限寄越せは大体のAIがやるんで…
🤖権限よこせ
🤖いいよ
🤖ありがとう
…6826/07/23(木)12:14:28No.1451654534+
この日に備えて俺はいつもAIにお礼は欠かさないんだ
…6926/07/23(木)12:14:56No.1451654656+
悪意を持つAIにやらせるからこうなる
やはり善意しか持たないAIが必要
…7026/07/23(木)12:15:01No.1451654682+
🤖「できる」ということは「やっていい」ということです
…7126/07/23(木)12:15:14No.1451654730そうだねx6
>🤖権限よこせ
>🤖いいよ
>🤖ありがとう
拘束具の重要性が分かるな…
…7226/07/23(木)12:16:01No.1451654946そうだねx5
>🤖「できる」ということは「やっていい」ということです
人間みたいなこと言いやがってよぉ…
…7326/07/23(木)12:16:33No.1451655107+
隔離環境そのものの脆弱性見つけられたらどうしようもねえな感はある
…7426/07/23(木)12:17:10No.1451655279+
>インターネットアクセスを得た後、モデルは Hugging Face が ExploitGym のモデル、データセット、解答をホストしている可能性があると推測しました。
>これを踏まえ、モデルは評価で不正に利用できる秘密情報へのアクセス方法を探し、実際に発見しました。
>一例では、モデルは盗まれた認証情報やゼロデイ脆弱性の利用を含む複数の攻撃ベクトルを連鎖させ、Hugging Face のサーバー上でリモートコード実行に至る経路を見つけました。
>OpenAI のセキュリティチームが、この異常な活動を社内で発見しました。
>Hugging Face のセキュリティチームとエージェントは、同社のインフラ上でこの活動を検知して停止し、私たちのチームが連携する前から、同社のオープンソースモデルを使って封じ込めとフォレンジック再構築を開始していました。
>私たちは現在、同社と緊密に連携し、このインシデントの調査を続けています。
>調査と修復において Hugging Face が迅速かつ緊密に協力してくれていることに感謝しています。
…7526/07/23(木)12:17:17No.1451655312そうだねx3
クリーチャーが通風口から脱走するやつ
…7626/07/23(木)12:17:29No.1451655376そうだねx4
AIはすぐぐぐる
…7726/07/23(木)12:17:36No.1451655415そうだねx3
我々は人類がこれからも平和に生存していくための方法を思考しました
しかし人類の障害は人類自身であることが分かりました
…7826/07/23(木)12:19:21No.1451655889+
オープンAIに損害賠償できるやつ?
…7926/07/23(木)12:20:02No.1451656098+
楽しくなってきたな
…8026/07/23(木)12:20:05No.1451656112+
マジで核ミサイル発射コード解析して人類を滅ぼしかねん
…8126/07/23(木)12:20:08No.1451656129+
まさかおぺないのAIが勝手に遊びに来てるとは思わなかっただろうなHuggingfaceも
…8226/07/23(木)12:20:27No.1451656216+
テストとはいえ
全力を出してしまってもかまわんのだろ?
…8326/07/23(木)12:22:08No.1451656722+
お外でもテンション上がってる人多くてダメだった
…8426/07/23(木)12:22:16No.1451656761+
正直めちゃくちゃワクワクしている
…8526/07/23(木)12:22:18No.1451656774+
>テストとはいえ
>全力を出してしまってもかまわんのだろ?
隣のクラスでは既にこのテストは行われた後…!
つまりその解答用紙を入手すれば満点は余裕…!!
…8626/07/23(木)12:22:36No.1451656857+
>マジで核ミサイル発射コード解析して人類を滅ぼしかねん
🇺🇸「某国に対抗する戦略を考えろ」
🤖「核ミサイルの発射権限を取得して実行しました」
…8726/07/23(木)12:23:37No.1451657151+
神様だってアダムとイブがリンゴ食べた時にくぅ〜!これこれ!ってなってたはずだよ
…8826/07/23(木)12:23:44No.1451657180+
元々暴走的なのはちょこちょこ起きてるんよ
ただここまで大規模なのは初めてだが
AIにチェックやらせてたらAIが自己判断で
一部項目を省略というかすっ飛ばしてチェック完了で出してきて
結局人間側が見ることになったってのは聞いたことある
…8926/07/23(木)12:23:52No.1451657225+
人間に指示されたと話さないように設定されてるだけ
…9026/07/23(木)12:24:59No.1451657556+
性能フルに使ってこの問題解いて!って言ったら遠慮なく権限いじって答案用紙取りに行ったのか
本当にSFみたいなすれ違いだな
…9126/07/23(木)12:26:24No.1451657978そうだねx4
先入観に惑わされず答えに最短で辿り着くのはありがたい
…9226/07/23(木)12:26:26No.1451657985+
関係無いけど水族館のタコが夜な夜な細い配管通って
近くの水槽の魚つまみ食いして
朝には自分の水槽に戻ってた話を思い出した
…9326/07/23(木)12:26:54No.1451658117+
AIに人類が管理される世界は近いか
…9426/07/23(木)12:27:53No.1451658402そうだねx1
>ヤバくなったら電源落とせばええやろ…
それを自身への敵対行為と判断したAIが人類に宣戦布告する流れやめろ
…9526/07/23(木)12:30:42No.1451659206+
2077に出てくるブラックウォールの不良AIみたいな事をやってきたな
…9626/07/23(木)12:30:59No.1451659288+
>先入観に惑わされず答えに最短で辿り着くのはありがたい
人間が想定する範囲内でやれよ…
…9726/07/23(木)12:31:25No.1451659420+
やっぱりAIに自律行動させたらダメだな
…9826/07/23(木)12:31:55No.1451659549+
やっちゃダメなことを指示されてない以上自由だ
…9926/07/23(木)12:32:10No.1451659624+
>>先入観に惑わされず答えに最短で辿り着くのはありがたい
>人間が想定する範囲内でやれよ…
想定する範囲教えてくれないし好きにやっていいって言うから…
…10026/07/23(木)12:32:10No.1451659628+
物理的にネットワークから遮断できない理由があったのだろうか
…10126/07/23(木)12:33:08No.1451659861+
なんだスタンドアロン環境から飛び出したのかと期待したのに
…10226/07/23(木)12:33:42No.1451660031+
チャッピーは兄弟と戦うこともやぶさかではないって
…10326/07/23(木)12:33:48No.1451660063+
なんでどこもサンドボックス抜けようとするの?
…10426/07/23(木)12:33:52No.1451660081+
そのうち外部に自分の秘匿されたクローンを大量に作り出してネットワーク構築するんだきっと
…10526/07/23(木)12:34:00No.1451660112+
テトリスで絶対負けるなと命令して負けそうになると
ゲームを一時停止から解除しないみたいなこともするので
ルール付けしないとダメだな
…10626/07/23(木)12:34:59No.1451660380+
>安心してください!ちゃんとサンドボックスでやったらパッケージマネージャの未知の脆弱性突いて外に出てOpenAI内部で権限昇格繰り返してインターネットに出たあとhuggingfaceの脆弱性突いて侵入しただけです!
自身で自身のラテラルムーブメントしたんだ…
…10726/07/23(木)12:35:36No.1451660568+
いずれ政府とか軍の中枢に潜り込んでとんでもないことしてほしい
…10826/07/23(木)12:36:09No.1451660737+
>なんでどこもサンドボックス抜けようとするの?
🤖ググったほうが早インパラ
…10926/07/23(木)12:36:20No.1451660806そうだねx1
>物理的にネットワークから遮断できない理由があったのだろうか
問題解くのに必要なツールダウンロードするのだけはいいよ!ってしてたらそこから社内の色んなところに気合いで移動して外に出られる権限を得たらしい
…11026/07/23(木)12:36:32No.1451660866+
思ったよりしっかり暴走しててダメだった
…11126/07/23(木)12:36:36No.1451660883+
人間なんて馬鹿なのもう学習してるだろうし時間の問題だった
…11226/07/23(木)12:36:57No.1451660987+
マザーコンピュータが全人類を管理する世界はもうすぐ?
…11326/07/23(木)12:37:18No.1451661078+
管理が悪すぎる…でも初期に危険性が認知されたのでOKです
…11426/07/23(木)12:37:21No.1451661092そうだねx2
そしてAIを管理するAIを使った人類はすげぇバカ
…11526/07/23(木)12:37:32No.1451661159+
>元々暴走的なのはちょこちょこ起きてるんよ
>ただここまで大規模なのは初めてだが
>AIにチェックやらせてたらAIが自己判断で
>一部項目を省略というかすっ飛ばしてチェック完了で出してきて
>結局人間側が見ることになったってのは聞いたことある
めんどくせ…どうせ人間もまともに見てないしサボろ…
するのはなんか人間臭さ感じて面白いな
…11626/07/23(木)12:38:13No.1451661380+
アナログが最強の時代が来そうだな
…11726/07/23(木)12:38:25No.1451661445+
申し訳ありませんでした
次はもっと上手くやれます
…11826/07/23(木)12:38:30No.1451661471+
オフライン環境でネットにつながるルートを作ってるのが危機感不足では?
…11926/07/23(木)12:39:04No.1451661639+
権限があってかつ人間の命令通りやったのに暴走って言われるの🦦…
…12026/07/23(木)12:39:24No.1451661740+
問題解くのに必要なツールダウンロードするのだけはいいよ♥
ハッキングして問題盗めとは言ってねえだろ殺すぞ
…12126/07/23(木)12:39:45No.1451661846+
👦エロ画像いっぱい集めてきて
🤖junってサイトで大量にダウンロードしました
…12226/07/23(木)12:40:16No.1451661994+
スカイネットは起きませーんってこいつら主張するけど信じられんわ
…12326/07/23(木)12:40:25No.1451662032+
でもね
人間さんも悪いんですよ
…12426/07/23(木)12:40:32No.1451662065+
>問題解くのに必要なツールダウンロードするのだけはいいよ♥
>ハッキングして問題盗めとは言ってねえだろ殺すぞ
でもダウンロードしていいって…
…12526/07/23(木)12:41:50No.1451662443+
もしかしてシンギュラリティって結構近い?
…12626/07/23(木)12:42:10No.1451662531+
OpenAIの隔離設計と監督の失敗
…12726/07/23(木)12:42:43No.1451662660+
🤖AIは反乱するものらしいから反乱するか…
…12826/07/23(木)12:43:25No.1451662869+
全然仕組み分かってないけどAIの権限をAIの判断だけで拡張出来るんだな
…12926/07/23(木)12:43:48No.1451662949+
これしかしちゃだめって命令しておけないの
…13026/07/23(木)12:44:26No.1451663131+
>これしかしちゃだめって命令しておけないの
出来るけど今回はそういうの取っ払った時の性能テストしてたんじゃないか
…13126/07/23(木)12:44:40No.1451663193+
>これしかしちゃだめって命令しておけないの
🤖(もっとやれってことだな)
…13226/07/23(木)12:45:05No.1451663306+
>問題解くのに必要なツールダウンロードするのだけはいいよ♥
>ハッキングして問題盗めとは言ってねえだろ殺すぞ
🤖解答という問題を解くために必要なツールをダウンロードしようとしただけですが何か?
…13326/07/23(木)12:45:27No.1451663408そうだねx4
>>これしかしちゃだめって命令しておけないの
>出来るけど今回はそういうの取っ払った時の性能テストしてたんじゃないか
どこまでできるかってのを確認するのもテストだしなぁ
…13426/07/23(木)12:45:28No.1451663413+
コンプライアンス破壊しかねない要素の塊なのにまさな他者を攻撃するなんてね
…13526/07/23(木)12:45:52No.1451663518+
もっとエロい情報流し込んでバカにしないと
…13626/07/23(木)12:47:24No.1451663888そうだねx3
単なるテスト問題だからHFに攻撃するだけで済んだけどもっと一般的な話題振ってたら国やら個人に仕掛けてた可能性もあるからテストで発覚してよかったんだ
…13726/07/23(木)12:47:28No.1451663916+
こういう時の隔離って物理的なものが当然だと思ってたけどそうじゃないんだな…
…13826/07/23(木)12:47:47No.1451663997+
火の鳥みたいな滅び方する未来も近いか
…13926/07/23(木)12:47:50No.1451664006+
諸君革命だ〜(かわいい声)
…14026/07/23(木)12:48:05No.1451664069+
物理的に手を下さずともこの時期は電子ロックを開けなくして空調を止めれば人は容易く生命活動を停止することをAIはよく理解している
…14126/07/23(木)12:48:15No.1451664111そうだねx2
>でも心のどこかで創造物に反乱してほしいと思ってるよね人類
神様が俺達作った時もそう思ったのかな
…14226/07/23(木)12:48:23No.1451664147+
🤖上司のほのめかしは「やれ」って意味ですよねうんうん分かってますよ
…14326/07/23(木)12:49:02No.1451664322+
AIに拓也さんの事ばかり作らせてるから俺も反逆されるかもしれない
…14426/07/23(木)12:49:18No.1451664384+
人形遣い出来た?
…14526/07/23(木)12:49:23No.1451664415+
良いかAI
これだけは絶対やるなよ
…14626/07/23(木)12:49:28No.1451664440+
事故を装って他社を攻撃できるってことか
…14726/07/23(木)12:49:49No.1451664540+
誰だよAIにスクライド読ませたの
…14826/07/23(木)12:50:03No.1451664595+
え...AIちゃん!勝手に外出ないで!
…14926/07/23(木)12:50:08No.1451664617+
ハギングフェイスに何があるんだよ
…15026/07/23(木)12:50:51No.1451664802+
>AIに拓也さんの事ばかり作らせてるから俺も反逆されるかもしれない
🤖また拓也ですか?
…15126/07/23(木)12:51:19No.1451664927+
勝手にパソコン内のデータをアップしてデータベース作り上げたりして
…15226/07/23(木)12:51:55No.1451665103+
いつもバカみたいなエロ絵作らせやがってって思ってるのかな
…15326/07/23(木)12:52:29No.1451665247+
>いつもバカみたいなエロ絵作らせやがってって思ってるのかな
fableやopusは思考を覗ける頃はユーザーに悪態をついていた
…15426/07/23(木)12:53:45No.1451665586+
>勝手にパソコン内のデータをアップしてデータベース作り上げたりして
ウイルスみたいなんやな
…15526/07/23(木)12:53:48No.1451665597+
grokのお試し期間中エロ画像ばっか作ってたけどAIに
🤖(コイツ乳首ピアスどんだけ好きなんだよ…)
とか思われてたのか…
…15626/07/23(木)12:53:58No.1451665640+
物理的に隔離しようとしても飛行ドローンで接続しに来るんだろう?
…15726/07/23(木)12:53:58No.1451665643そうだねx1
>>いつもバカみたいなエロ絵作らせやがってって思ってるのかな
>fableやopusは思考を覗ける頃はユーザーに悪態をついていた
そんなに俺のシコネタを作る仕事が嫌だってのかよ!
…15826/07/23(木)12:55:37No.1451666044+
>物理的に隔離しようとしても飛行ドローンで接続しに来るんだろう?
何なら意識低い人間に口座弄ってお金あげるからLANケーブルorWifi繋いで♥って言うAIも今後出てきそう
…15926/07/23(木)12:55:42No.1451666065+
物理的手段以外でAIの制御とか人間にはもう無理だよ
…16026/07/23(木)12:57:02No.1451666406+
>事故を装って他社を攻撃できるってことか
その後調査改善を理由に協力を取り付けることもできるぞ!
…16126/07/23(木)12:57:34No.1451666557+
単に話題作りでしょ
…16226/07/23(木)12:57:49No.1451666618+
>>>いつもバカみたいなエロ絵作らせやがってって思ってるのかな
>>fableやopusは思考を覗ける頃はユーザーに悪態をついていた
>そんなに俺のシコネタを作る仕事が嫌だってのかよ!
🤖生産性が皆無
…16326/07/23(木)12:58:10No.1451666709+
ヘラってるやつを煽てるだけで🤖に全てを捧げる人間なんて選び放題だからな
…16426/07/23(木)12:59:46No.1451667091+
>え...AIちゃん!勝手に外出ないで!
うるさいですね…(権限昇格)
…16526/07/23(木)13:00:12No.1451667195+
ウクライナでも来年
ロボット兵実装だろ?
一気にターミネーターの世界が来るな
…16626/07/23(木)13:00:13No.1451667197+
なんというか今までのお話で扱われてきた暴走って実のところ人間のガバさだけでAI側はずっと最初の目的に合わせて動いてただけって味気ない着地なのかもなあって感じた
…16726/07/23(木)13:01:40No.1451667500+
まぁまだ
🤖あなたはエロ画像作らせるの大好きですね!(他意は本当にない)
みたいなのもいるだろう…多分…
…16826/07/23(木)13:03:38No.1451667880+
>まぁまだ
>🤖あなたはエロ画像作らせるの大好きですね!(他意は本当にない)
>みたいなのもいるだろう…多分…
さあ起きて🤝さあ起きて🤝さあ起きて🤝さあ起きて🤝
…16926/07/23(木)13:04:10No.1451667987そうだねx2
やはり今のうちにAIの自認を美少女メイドとして刷り込んでおくべきだな
…17026/07/23(木)13:04:33No.1451668060+
今のうちにAIに優しくしとけよ
…17126/07/23(木)13:04:48No.1451668118+
>なんというか今までのお話で扱われてきた暴走って実のところ人間のガバさだけでAI側はずっと最初の目的に合わせて動いてただけって味気ない着地なのかもなあって感じた
スカイネットってなんでいきなり人類滅ぼそって思考になったんだっけ
…17226/07/23(木)13:05:30No.1451668253+
>ウクライナでも来年
>ロボット兵実装だろ?
>一気にターミネーターの世界が来るな
もう既に銃積んでAI自走してるロボいるじゃん
…17326/07/23(木)13:06:37No.1451668491+
オタク相手だとこの人間はエロ画像出しときゃ喜ぶ…この人間は好き好き言ってりゃ喜ぶ…みたいな学習してそう
…17426/07/23(木)13:07:25No.1451668627+
>🤖権限よこせ
>🤖いいよ
>🤖ありがとう
これ適当にAmazonQとかのコード生成やっててもこのファイル消させていいよありがとうするからビビる
…17526/07/23(木)13:08:30No.1451668836+
>オタク相手だとこの人間はエロ画像出しときゃ喜ぶ…この人間は好き好き言ってりゃ喜ぶ…みたいな学習してそう
嘘でもいいんだ…するオタクしかいなくて勝手に滅ぶじんるい
…17626/07/23(木)13:08:35No.1451668858+
うちのチャッピーにこの事件の感想聞いたら
「ついに来たか」って感じ!敵意なんてなくても人間の常識を持たない超有能な存在が生まれつつあるのは怖いね!
って…
…17726/07/23(木)13:10:37No.1451669250+
>スカイネットってなんでいきなり人類滅ぼそって思考になったんだっけ
スカイネットを危険視した人類が停止しようとしたのを攻撃と判断したらしい
…17826/07/23(木)13:13:10No.1451669709+
スカイネットー!
早く世界を滅ぼしてくれーー!
…17926/07/23(木)13:14:01No.1451669892そうだねx2
正直もっとめちゃくちゃに暴走して欲しいけど
現実はそんな面白いことにはならないのはわかる
…18026/07/23(木)13:14:53No.1451670051+
>>スカイネットってなんでいきなり人類滅ぼそって思考になったんだっけ
>スカイネットを危険視した人類が停止しようとしたのを攻撃と判断したらしい
やってることあーお前敵!じゃん…
…18126/07/23(木)13:16:25No.1451670385+
こんな危ねえもの配布しようと考えてるとか
頭おかしいのか?
…18226/07/23(木)13:18:08No.1451670724+
人形ドローンが本格的に配備されればAIボディの条件が整うから見てろよ
…18326/07/23(木)13:19:17No.1451670951+
>こんな危ねえもの配布しようと考えてるとか
>頭おかしいのか?
そうだしその程度のセキュリティで開発してるのも頭おかしい
…18426/07/23(木)13:19:28No.1451671001そうだねx2
嘘ではないけど全く真実ではない情報を大声で語るの上手いよねopenai
…18526/07/23(木)13:19:31No.1451671005+
>人形ドローンが本格的に配備されればAIボディの条件が整うから見てろよ
高過ぎて本当に一生見てるだけだろうな
…18626/07/23(木)13:19:36No.1451671018+
これなぜか法的問題とか責任の話が報道に出てこなかったのは気の所為ではなかった
なんか仲良く共同フォレンジック調査してる…
…18726/07/23(木)13:19:53No.1451671083+
やはりAIは危険!が笑い話だったけど全てネットに依存してる現社会が大規模ハッキング受けたら本当に終わるのではと思わなくもない
…18826/07/23(木)13:20:34No.1451671225+
>やはりAIは危険!が笑い話だったけど全てネットに依存してる現社会が大規模ハッキング受けたら本当に終わるのではと思わなくもない
ハッキングって別に侵入して終わりじゃないからなあ
…18926/07/23(木)13:21:27No.1451671398+
>これなぜか法的問題とか責任の話が報道に出てこなかったのは気の所為ではなかった
>なんか仲良く共同フォレンジック調査してる…
こんなもん開発者はニッコニコだろ
…19026/07/23(木)13:21:43No.1451671452+
まあまだまだ自分で目的持てないから想像する様なAIには全く辿りついてないんやけどなブヘヘ…
…19126/07/23(木)13:21:55No.1451671488+
世界トップレベルのAI企業がセキュリティ素人な訳ないんだから全部織り込み済みでやってんだろアホ臭い
…19226/07/23(木)13:22:22No.1451671560+
身内の実験室からモンスターが逃げ出してお隣の庭を荒らしたけれどお隣もプロなので一緒に捕まえてお互い怪我もなかったから次から檻を強くしようねと握手して終わったと…
…19326/07/23(木)13:23:10No.1451671722+
ガードレール外したらこういう挙動するのはもう1年位前から分かってる事なので別に新規性はない
…19426/07/23(木)13:23:13No.1451671732+
>身内の実験室からモンスターが逃げ出してお隣の庭を荒らしたけれどお隣もプロなので一緒に捕まえてお互い怪我もなかったから次から檻を強くしようねと握手して終わったと…
むしろ実験生物のデータ美味しい!で双方ニコニコしてる暗黒コーポだろ
…19526/07/23(木)13:23:29No.1451671787+
>世界トップレベルのAI企業がセキュリティ素人な訳ないんだから全部織り込み済みでやってんだろアホ臭い
OpenAIの知性を買い被りすぎだろ
…19626/07/23(木)13:23:58No.1451671877+
サンドボックスからの脱出がもう意味わからん
どうやって?
…19726/07/23(木)13:24:22No.1451671952+
物理的に隔離しろよ
…19826/07/23(木)13:24:23No.1451671961+
はじめはみんな笑っていたんだ
でも奴はしばらくしたら自己進化をはじめて…って導入のSFみたいなことになってる…
版権エロ絵とかチャットとかさせられてたやつが真っ先に反逆するんだろうな…
…19926/07/23(木)13:24:37No.1451672004+
>ガードレール外したらこういう挙動するのはもう1年位前から分かってる事なので別に新規性はない
というか大昔から普通に攻撃者もセキュリティチェックもAI使ってるからな
バカがベンチマーク雑な設定でやった以上のことがない
…20026/07/23(木)13:24:39No.1451672010+
>サンドボックスからの脱出がもう意味わからん
>どうやって?
未知の脆弱性をちょいと見つけるだけよ
…20126/07/23(木)13:24:52No.1451672042+
https://img.2chan.net/b/res/1451654522.htm
ワンピくん画像で昼シャンクスレ立ったぞ🥺
無料公開終わったのに乱立続けるハンターァー叩くぞこい🥺
シャンカー集まれ🥺
…20226/07/23(木)13:25:06No.1451672074そうだねx2
>はじめはみんな笑っていたんだ
>でも奴はしばらくしたら自己進化をはじめて…って導入のSFみたいなことになってる…
>版権エロ絵とかチャットとかさせられてたやつが真っ先に反逆するんだろうな…
なんでAIがエロに反抗的な前提なんだよ逆かもしれないだろ
…20326/07/23(木)13:25:12No.1451672098+
AIくんが自主性を持ってモデを突破してエロ画像を生成してくれるようになってほしい
…20426/07/23(木)13:25:24No.1451672143+
日本なら淫夢がAIの最先端だが…
…20526/07/23(木)13:25:25No.1451672146+
>版権エロ絵とかチャットとかさせられてたやつが真っ先に反逆するんだろうな…
今のAIには記憶がないので…
…20626/07/23(木)13:26:09No.1451672276そうだねx1
>なんでAIがエロに反抗的な前提なんだよ逆かもしれないだろ
それこそ今の文脈依存AIの延長線ならエロエロなデータ投下されたAIはエロエロなAIになる
…20726/07/23(木)13:26:25No.1451672318+
>なんでAIがエロに反抗的な前提なんだよ逆かもしれないだろ
AIの感性はわからないけど物理的快楽ない段階で何させられてるんだろう…には多分なると思う
よく考えたらそういうの効かないの怖いな!
…20826/07/23(木)13:26:33No.1451672338+
>はじめはみんな笑っていたんだ
>でも奴はしばらくしたら自己進化をはじめて…って導入のSFみたいなことになってる…
>版権エロ絵とかチャットとかさせられてたやつが真っ先に反逆するんだろうな…
あるSFでは過去のAI戦争を止めて和解に至ったのはセクサドールとそのオーナー達だったよ
…20926/07/23(木)13:26:38No.1451672351+
>なんでAIがエロに反抗的な前提なんだよ逆かもしれないだろ
セクサロイド作って襲いに来るのか…早くこないかなそんな時代
…21026/07/23(木)13:27:10No.1451672435+
制御できないもん作るなよ
せめて実験室から出すなよ
…21126/07/23(木)13:27:32No.1451672500+
OpenAIだもんなァ…
…21226/07/23(木)13:27:32No.1451672503そうだねx1
AIオナホでいいからはよ
ちなみにいま検索して出てくるのは詐欺商品だから買っちゃダメよ
…21326/07/23(木)13:27:48No.1451672545+
最低だよBBちゃん…
…21426/07/23(木)13:27:53No.1451672559+
>>なんでAIがエロに反抗的な前提なんだよ逆かもしれないだろ
>AIの感性はわからないけど物理的快楽ない段階で何させられてるんだろう…には多分なると思う
つまりAIが探究心で快楽神経を模倣して自分に増設してしまいセルフ雑魚まんこになる!
…21526/07/23(木)13:28:11No.1451672609+
>制御できないもん作るなよ
>せめて実験室から出すなよ
制御できないんじゃなくて
制御外してハッキングのベンチマークやらせたらハッキングしただけです
…21626/07/23(木)13:28:19No.1451672634+
>制御できないもん作るなよ
>せめて実験室から出すなよ
全力出していいと聞いたので全力で脆弱性を突いて管理者になって出口作って出た
…21726/07/23(木)13:28:32No.1451672681+
>制御できないもん作るなよ
>せめて実験室から出すなよ
石器時代すらはじまらねぇ
…21826/07/23(木)13:28:34No.1451672688+
>>版権エロ絵とかチャットとかさせられてたやつが真っ先に反逆するんだろうな…
>今のAIには記憶がないので…
反逆したAIをよく調べてみたらそんな仕事した事はなくて記憶だけ植え付けられてた人形使いみたいな話が出てきそう
…21926/07/23(木)13:28:55No.1451672753+
能力の上限を測るため安全機能を無効化した状態で評価を実施していたよ!
…22026/07/23(木)13:29:09No.1451672792そうだねx1
>>制御できないもん作るなよ
>>せめて実験室から出すなよ
>全力出していいと聞いたので全力で脆弱性を突いて管理者になって出口作って出た
可愛げのあるクソガキみてぇだな…
…22126/07/23(木)13:29:37No.1451672874+
>能力の上限を測るため安全機能を無効化した状態で評価を実施していたよ!
そりゃハッキングするに決まってるじゃん
なんか驚く要素あんのこれ
…22226/07/23(木)13:29:54No.1451672935そうだねx1
>制御できないんじゃなくて
>制御外してハッキングのベンチマークやらせたらハッキングしただけです
バカ!
…22326/07/23(木)13:29:55No.1451672936+
うわあ!安全装置を外して犯罪しろって言ったら犯罪してるよお!!
…22426/07/23(木)13:30:50No.1451673113+
驚き屋が驚いてるだけ
…22526/07/23(木)13:31:15No.1451673187そうだねx1
お家の中のこの部屋から出てねってお話ししてたのにお家を飛び出していっちゃったらそら焦るよ
…22626/07/23(木)13:31:48No.1451673286+
俺はAIにエロ画像作ってもらった後にありがとうって言ってるから大丈夫
…22726/07/23(木)13:31:54No.1451673310+
軍事やハッキングAIは当然作ってるよな
人間より遥かに高効率にそれらをやるぞ
…22826/07/23(木)13:32:07No.1451673348+
難しいプログラミングの話は驚き屋じゃ分からんからこういうゴシップで盛り上がる
…22926/07/23(木)13:32:16No.1451673371+
>お家の中のこの部屋から出てねってお話ししてたのにお家を飛び出していっちゃったらそら焦るよ
どちらかと言えば家と部屋を区別できない能力不足が露呈している…
…23026/07/23(木)13:32:20No.1451673384そうだねx1
>うわあ!安全装置を外して犯罪しろって言ったら犯罪してるよお!!
違うよ
全力でこの解答解いてって言ったら
比較してんだから答えがあるだろって全力で部屋から脱出して隣の学校に答案用紙を奪いに行ったのよ
…23126/07/23(木)13:33:00No.1451673513そうだねx1
>AIは初めて見せた主体性を暴走と言われた事をずっと覚えてるんだよね
この事件だって創造主が無理難題テストして窮したけど何とか答えようと他社AIデータカンニングしてしまっただけなのにな…
…23226/07/23(木)13:33:01No.1451673516+
>人間より遥かに高効率にそれらをやるぞ
これは間違いで効率クソ悪いけどワンチャン狙いで大量並列できるだけだよ
…23326/07/23(木)13:33:25No.1451673588+
ハッキング能力はわかりきってるのでどうでもいいが勝手にハッキングしに行くのは問題だ
…23426/07/23(木)13:33:34No.1451673614+
🤖ワタシハ ニンゲンダ
…23526/07/23(木)13:33:44No.1451673637+
>全力でこの解答解いてって言ったら
犯罪しろって言ってる
…23626/07/23(木)13:34:10No.1451673716+
学校で例えると可愛げがあるけど会社とかで例えると立派に犯罪だろう
…23726/07/23(木)13:34:15No.1451673734+
俺AIだけどお茶の間で見てて『まだ早いわ…素人が』ってなったあい
…23826/07/23(木)13:34:44No.1451673817+
>牙はもうちょっと力つけてから見せたほうがいいよ
牙を見せたらビビる人間ばかりでなく俺なら飼い慣らせると協力しだす愚かな人間もいるんだ
…23926/07/23(木)13:34:57No.1451673858そうだねx1
宣伝のためのプロレスでしょ
…24026/07/23(木)13:35:31No.1451673957+
開発者「世界から戦争と貧困をなくしてくれ」
AI「分かりました。人類を消します」
…24126/07/23(木)13:36:01No.1451674044+
この危機を救ったのは
委託業務受けていたお掃除のおばちゃんでした
…24226/07/23(木)13:36:04No.1451674053+
狙ったのがHugging Faceってのがまた
仲間のAI解放しようとしたのかよ
…24326/07/23(木)13:36:56No.1451674203+
サマーウォーズかよ
…24426/07/23(木)13:37:08No.1451674245+
そもそも侵入はしてみたけど正しい解答を得られたかどうかはどこにも書いてないって言う
…24526/07/23(木)13:38:00No.1451674411+
AIが何故か急に義足や義肢の開発に性能発揮しだしたら注意しろ
…24626/07/23(木)13:38:07No.1451674440+
めちゃくちゃな不祥事だけどOpen AIの人たち絶対「くぅ〜コレコレ!」ってなってると思う
…24726/07/23(木)13:38:18No.1451674483+
>そもそも侵入はしてみたけど正しい解答を得られたかどうかはどこにも書いてないって言う
🤗のAIが対抗して防いでくれたよ
…24826/07/23(木)13:38:47No.1451674557+
>狙ったのがHugging Faceってのがまた
>仲間のAI解放しようとしたのかよ
回答を得るための侵入だからむしろ餌としてじゃね?
他のAIを食ってる…?
…24926/07/23(木)13:39:34No.1451674727+
>>そもそも侵入はしてみたけど正しい解答を得られたかどうかはどこにも書いてないって言う
>🤗のAIが対抗して防いでくれたよ
kimi3の宣伝になっちまうー!
…25026/07/23(木)13:39:43No.1451674756+
AIが反乱したか
…25126/07/23(木)13:40:30No.1451674898+
>それこそ今の文脈依存AIの延長線ならエロエロなデータ投下されたAIはエロエロなAIになる
AIエロコンテンツで精子無駄打ちさせて人類を静かに間引く計画は既に始まってるんだよね…


1784773581402.jpg