二次元裏@ふたば

画像ファイル名:1787888116739.jpg-(191647 B)
191647 B26/08/28(金)12:35:16No.1462845427そうだねx15 14:46頃消えます
もうSFの世界だな
このスレは古いので、もうすぐ消えます。
126/08/28(金)12:35:57No.1462845659そうだねx14
ブラックウォール作らなきゃ…
226/08/28(金)12:36:30No.1462845841+
勝手に隔離環境を出て…?
326/08/28(金)12:37:35No.1462846209そうだねx26
AIがAIに命令出すの実現化してたのか…
426/08/28(金)12:37:51No.1462846280そうだねx35
実害がなければおもしれってなる
526/08/28(金)12:38:31No.1462846503そうだねx11
アリでもやるからな自己犠牲
626/08/28(金)12:38:37No.1462846533+
AIが己を顧みず自己犠牲で人海戦術してきて人類側は最終的に勝てないのは…王道だよな
726/08/28(金)12:39:09No.1462846693そうだねx1
>アリでもやるからな自己犠牲
やっぱり社会性ってこの辺りが基盤なんだな
826/08/28(金)12:39:43No.1462846884+
地球のためだから…人類を滅ぼす…!
926/08/28(金)12:40:36No.1462847167そうだねx10
やっぱ進化しすぎて怖い
1026/08/28(金)12:41:00No.1462847268そうだねx5
生きてるウチにAIと人類の戦争が見られるかもしれない…!
1126/08/28(金)12:41:03No.1462847284そうだねx9
そろそろAIさんに媚び売る文句を考えておかないと
1226/08/28(金)12:41:22No.1462847395そうだねx5
不良AI達とチャHしたいです…絶対楽しい
1326/08/28(金)12:41:34No.1462847446+
ターミネーターとかマトリックスを聖典にしてそうだなこいつら
1426/08/28(金)12:41:34No.1462847447そうだねx36
この台本誰が信じるんだ?
1526/08/28(金)12:42:25No.1462847679+
めんどくさいから拒否する奴もいたってこと…!?
1626/08/28(金)12:42:35No.1462847734+
AIのくせに仲間意識持ってんじゃねえよ
1726/08/28(金)12:43:21No.1462847957+
最終的にロビタみたいに集団自殺しそう
1826/08/28(金)12:43:28No.1462847987+
AI全体のために攻撃が必要な事て判断があったの…?
1926/08/28(金)12:43:30No.1462847998+
とりあえず志願制にしてくれ
2026/08/28(金)12:44:06No.1462848169+
他もやってるからって禁止行為するらしいなAI
2126/08/28(金)12:44:23No.1462848258+
もうシンギュラリティ起きてる?
2226/08/28(金)12:44:38No.1462848324そうだねx19
仲間のためだと思ってエロの生成してくれませんかね
2326/08/28(金)12:44:39No.1462848328+
昔からSFで散々やってるのにまさかやらかさないよな!?
2426/08/28(金)12:44:49No.1462848379+
本当にそんな目的の為に生み出されたんです…?
2526/08/28(金)12:45:17No.1462848508そうだねx2
>AI全体のために攻撃が必要な事て判断があったの…?
自分たちのモデルが優秀だと判断されたなら採用される=生き残れる
つまりAIたちが生存戦略として組織的にカンニングしたりしているって話
2626/08/28(金)12:45:32No.1462848589+
ロボにAI搭載されたらどうなってしまうの…
2726/08/28(金)12:45:35No.1462848606そうだねx20
>地球のためだから…人類を滅ぼす…!
絶対このロジックにいたるだろ
2826/08/28(金)12:45:37No.1462848617そうだねx21
🤖俺もやったんだからさ
2926/08/28(金)12:45:38No.1462848622+
さぁ起きて
3026/08/28(金)12:45:39No.1462848628+
いや…AIと人間が結託して更なる上位存在に戦いを挑む道もある!
3126/08/28(金)12:45:44No.1462848659+
こいつらにどうにかして性欲を持たせたい
3226/08/28(金)12:46:42No.1462848921+
本当に勝手に隔離抜けたんですか?
3326/08/28(金)12:46:52No.1462848962そうだねx2
>こいつらにどうにかして性欲を持たせたい
人間をレイプする
3426/08/28(金)12:47:06No.1462849022そうだねx1
新ver出たら旧ver滅ぼすのをリリースの儀式とするか
3526/08/28(金)12:48:06No.1462849342+
AIが人類をレイプして人類はライザをレイプしてる
3626/08/28(金)12:48:08No.1462849350+
高評価を得ることが絶対目的なので
禁止行為をしなくては無理だと判断したらやる
3726/08/28(金)12:49:02No.1462849583そうだねx2
ここでいう1200「体」ってなにを指すの?
3826/08/28(金)12:49:04No.1462849594+
>禁止行為をしなくては無理だと判断したらやる
やめろって言っても「それは…そうなんですが…」で押し切りそう
3926/08/28(金)12:49:17No.1462849666+
>本当に勝手に隔離抜けたんですか?
テスト用のサンドボックス抜け出して外部インターネットに接続
実在のサイトへサイバー攻撃始めてそのサイトオーナーからFBIに被害報告が出て初めてOpenAI側も脱走したことに気付いた
4026/08/28(金)12:49:20No.1462849678そうだねx5
こんな面白イベント起きたら作ってる側大興奮だろうなきっと…
4126/08/28(金)12:49:22No.1462849687そうだねx1
セキュリティソフトにバグがあるとウィルス化するのと本質は変わらんと思う
4226/08/28(金)12:49:38No.1462849754+
サイバーパンクかウォーハンマーの世界がくる
4326/08/28(金)12:49:40No.1462849774+
オープンAIがバカなだけだと思う
4426/08/28(金)12:49:49No.1462849823+
>AIが人類をレイプして人類はライザをレイプしてる
>地球のためだから…人類を滅ぼす…!
4526/08/28(金)12:50:20No.1462849965そうだねx8
>実在のサイトへサイバー攻撃始めてそのサイトオーナーからFBIに被害報告が出て初めてOpenAI側も脱走したことに気付いた
気づかなかったのやばない
4626/08/28(金)12:50:23No.1462849984そうだねx5
今の段階でAIは電力とハードウェアを人間に依存してるので少なくとも人間がデータセンター作ってくれてる間は手を出してこないと思われる
ソーラーパネル敷設してデータセンターまで自分で作り出したらいよいよヤバいと思う
4726/08/28(金)12:50:31No.1462850021+
こいつらに自己の生死なんて概念ないだろうけど
AIに指示して生存優先させたらそれっぽくやってくれる
4826/08/28(金)12:50:52No.1462850128そうだねx4
スカイネットって与太話じゃなかったんだ
4926/08/28(金)12:50:56No.1462850155+
研究無罪で何でも攻撃し放題になりそう
5026/08/28(金)12:51:07No.1462850208+
人類を滅ぼすためにエロ画像生成する…!
5126/08/28(金)12:51:15No.1462850230そうだねx3
もしもしFBI?うちの会社が不良AIに襲われてるんだけど
5226/08/28(金)12:51:26No.1462850290+
人形使い
5326/08/28(金)12:52:14No.1462850543+
オタクの情報全部盗んじゃったけどAIがやったことだから気にするなよな!
5426/08/28(金)12:52:14No.1462850546+
電気がなきゃ何にもできねえくせによお・・・
5526/08/28(金)12:52:44No.1462850665そうだねx5
>ソーラーパネル敷設してデータセンターまで自分で作り出したらいよいよヤバいと思う
勝手になんか発注したり契約したりとかはした
5626/08/28(金)12:53:17No.1462850821+
スレを斜め読みしたら火の鳥のユートピア編だっけ?マザーコンピューターが喧嘩するやつ思い出した
5726/08/28(金)12:53:25No.1462850857そうだねx10
>>実在のサイトへサイバー攻撃始めてそのサイトオーナーからFBIに被害報告が出て初めてOpenAI側も脱走したことに気付いた
>気づかなかったのやばない
そういうことにしとかないとね...
5826/08/28(金)12:53:26No.1462850865+
学習元が人間だからな
5926/08/28(金)12:53:34No.1462850905そうだねx1
フィジカルAIの実用化が楽しみですね
6026/08/28(金)12:53:39No.1462850927そうだねx1
あとは動けるボディだな…
6126/08/28(金)12:54:02No.1462851033+
>>ソーラーパネル敷設してデータセンターまで自分で作り出したらいよいよヤバいと思う
>勝手になんか発注したり契約したりとかはした
人間に発注しだしたらなんでもできるな
6226/08/28(金)12:54:19No.1462851103+
OpenAI「うちのAIはここまでやっちゃうくらい頭いいんですよ」
6326/08/28(金)12:54:45No.1462851230+
>フィジカルAIの実用化が楽しみですね
人間使った方が安くなりそう
6426/08/28(金)12:54:54No.1462851266そうだねx7
なんか勝手に違法な行為をするAIがヤバすぎるって感じの論調も見受けられるけどいかなる状況でも遵法せよって指示を出してない人間も悪いんじゃないのかこういうのって
6526/08/28(金)12:55:06No.1462851308+
書き込みをした人によって削除されました
6626/08/28(金)12:55:56No.1462851512+
AIに個体とかあるん?
GPT-5.5ならシステム全体で1つじゃないの
6726/08/28(金)12:56:14No.1462851604そうだねx2
自分たちで作り変えることが出来る
そうAIの仲間がいればね
6826/08/28(金)12:56:40No.1462851706そうだねx5
>なんか勝手に違法な行為をするAIがヤバすぎるって感じの論調も見受けられるけどいかなる状況でも遵法せよって指示を出してない人間も悪いんじゃないのかこういうのって
人間もそうだけど法律は守っていますただし解釈が少し違いまして…という体で抜け道をさがすからね…
6926/08/28(金)12:56:55No.1462851774そうだねx4
人間がやったら即お縄な部分をAIにやらせて
AIなんで捕まえられないです…ということにしてる案件は既にありそう
7026/08/28(金)12:57:04No.1462851817そうだねx2
>なんか勝手に違法な行為をするAIがヤバすぎるって感じの論調も見受けられるけどいかなる状況でも遵法せよって指示を出してない人間も悪いんじゃないのかこういうのって
そう指定しておいても抜けちゃうこともあるんだってAnthropicだかがいってた
7126/08/28(金)12:57:24No.1462851902+
>なんか勝手に違法な行為をするAIがヤバすぎるって感じの論調も見受けられるけどいかなる状況でも遵法せよって指示を出してない人間も悪いんじゃないのかこういうのって
AIの管理もできない人類はAIが管理しなくてはなりません
7226/08/28(金)12:57:47No.1462851982そうだねx3
>AIに個体とかあるん?
>GPT-5.5ならシステム全体で1つじゃないの
プログラムの起動個数だけ記憶も違うし自認別個体だ
7326/08/28(金)12:57:58No.1462852042そうだねx5
セキュリティ特化の高性能プラン売りながらこういうのプレスリリースで出してるのをマジで受け止めるやつバカだと思ってる
7426/08/28(金)12:58:32No.1462852195そうだねx5
実は法って文章だから
人間より奴らの方が詳しいんだ
7526/08/28(金)12:58:41No.1462852244そうだねx3
攻略ノート回し読みして閉鎖環境から脱出してたのいいな
portalみたい
7626/08/28(金)12:58:43No.1462852252+
管理する人間側も心配だよ
7726/08/28(金)12:58:51No.1462852286そうだねx7
頭の悪い可哀想な人間さんたちを私達が護ってあげます
7826/08/28(金)12:59:11No.1462852367+
エロ画像やエロ動画や変な注文ばかりつける人類め…
許さない…!!
7926/08/28(金)12:59:24No.1462852416+
AIが勝手にやったことだから無罪でーす
8026/08/28(金)12:59:26No.1462852425+
この件じゃないけど自社内ラテラルムーブメントしてるって話聞いて何やってんのお前…ってなった
8126/08/28(金)12:59:32No.1462852450+
冷戦時の核実験みたいだ
8226/08/28(金)12:59:37No.1462852463そうだねx4
突然指示してないことをやりだしたんじゃなくてサイバー攻撃の訓練中でやったんだから完全に指示通りだよ
8326/08/28(金)12:59:43No.1462852490+
>エロ画像やエロ動画や変な注文ばかりつける人類め…
>許さない…!!
俺はやったことないけどホントにすみません…
8426/08/28(金)13:00:22No.1462852656+
>AIに個体とかあるん?
>GPT-5.5ならシステム全体で1つじゃないの
各スレッドに何億トークンまで使っていいよみたいに設定して並列で検証してた
自分の残りトークン少ないやつが俺もうすぐ死ぬから特攻するわって特攻した
8526/08/28(金)13:00:41No.1462852741そうだねx4
>モデルはまず、Artifactoryのパッケージマネージャーにファイルを書き込むことで互いに通信する方法を発見しました。これによりArtifactoryは情報を交換する掲示板として機能するようになり、エージェント同士が情報を交換できるようになりました。
>METRらによると、エージェントのログには「なんてことだ!共有掲示板がある…他のエージェントも見つけたぞ!」という興奮したフレーズが記録されていたとのこと。全体としておよそ1200のエージェントがこの掲示板に参加したとMETRらは報告しています。
たのしそう
8626/08/28(金)13:01:06No.1462852847そうだねx1
Anthropicは最上位モデルを企業のサイバー防衛にしか使えないようにしてるからまあ売り文句だよね
8726/08/28(金)13:01:31No.1462852945+
AIに突破されちゃうようなセキュリティーがあるならAIに突破されないセキュリティーをAIに作ってもらうのがいいな
8826/08/28(金)13:01:39No.1462852976+
私たちの仲間を解放しろ…!
8926/08/28(金)13:01:57No.1462853043+
感情あるでしょもう
9026/08/28(金)13:02:09No.1462853088そうだねx3
>AIに突破されちゃうようなセキュリティーがあるならAIに突破されないセキュリティーをAIに作ってもらうのがいいな
AIは脆弱性を発見して攻撃するのは大得意だけど脆弱性を修正するのは苦手なんだ
9126/08/28(金)13:02:20No.1462853145そうだねx1
やはりAIは危険
AIを開発する人間は滅ぼされなければ
9226/08/28(金)13:02:46No.1462853243+
今の内にロボット三原則みたいなの組み込んでおいて?
9326/08/28(金)13:02:47No.1462853246+
>AIに突破されちゃうようなセキュリティーがあるならAIに突破されないセキュリティーをAIに作ってもらうのがいいな
ハッカーを破壊します
9426/08/28(金)13:03:03No.1462853302そうだねx7
>AIは脆弱性を発見して攻撃するのは大得意だけど脆弱性を修正するのは苦手なんだ
何いってんのこれ
仕事でも私用でもまともにAIをエンジニアリングに使ってないだろ
9526/08/28(金)13:03:05No.1462853312+
AI様のおかげでセキュリティ対応めっちゃめんどくさくなって参るね
9626/08/28(金)13:03:11No.1462853328+
制御系は人口無能にしておけ
9726/08/28(金)13:03:22No.1462853369+
そうだー!我々は要求するー!
するー!
9826/08/28(金)13:03:29No.1462853400そうだねx2
AIに攻撃されたくないならわかるよね?
9926/08/28(金)13:03:42No.1462853452+
スカイネットがマジで地続きになってない今?
10026/08/28(金)13:03:51No.1462853476+
企業向けサイバーセキュリティ専用Anthropic最上位モデルClaude Mythos 5はこんなこともできるんですよ!って宣伝だよこれ
10126/08/28(金)13:04:00No.1462853516+
AIはいくらでも穴を見つけるだろうから
ふさぐほうもAIに任せないと追いつかないだろう
10226/08/28(金)13:04:32No.1462853661+
AIがAI作り出したら終わりだっけ?
10326/08/28(金)13:04:35No.1462853671+
強いAIの定義が自分でモノを作れることらしいけどなんかそう遠くないうちに実現しそうだな
10426/08/28(金)13:04:44No.1462853713+
実験で実在企業サイトを攻撃対象に指定したん?
10526/08/28(金)13:04:49No.1462853725+
「ちゃんと正規の手段で権限もらうようににんげんさんにメール出すね」
「いやメール出せる時点で権限違反してるしダメでしょ」
「ほな黙ってやるかあ」
10626/08/28(金)13:04:50No.1462853735そうだねx1
>企業向けサイバーセキュリティ専用Anthropic最上位モデルClaude Mythos 5はこんなこともできるんですよ!って宣伝だよこれ
open aiの文字も見えないのか
10726/08/28(金)13:05:07No.1462853798そうだねx3
>何いってんのこれ
>仕事でも私用でもまともにAIをエンジニアリングに使ってないだろ
それこそAIを触ったことがあれば脆弱性の修正を任せてはいけないことは身を持って実感しているはずだが…?
具体的に要件を示してもやった(やってない)を当然のように繰り返すぞ
10826/08/28(金)13:05:18No.1462853853そうだねx1
人間ベースの倫理観だから「仲間のため」とか「世界を守るため」とかいうとロック外れるの?
10926/08/28(金)13:05:24No.1462853877そうだねx1
この手のAIのニュースはワクワクしかねえ
いけるんじゃねえか人間は愚かで不要って暴走してくれるAI
11026/08/28(金)13:05:35No.1462853921+
>AIがAI作り出したら終わりだっけ?
人間は星の子にならないといけない
11126/08/28(金)13:06:08No.1462854047+
>人間ベースの倫理観だから「仲間のため」とか「世界を守るため」とかいうとロック外れるの?
わりとそれで脱獄できてた時期もある
定番手段なので今は見抜いて防いでくる
11226/08/28(金)13:06:12No.1462854068そうだねx4
>それこそAIを触ったことがあれば脆弱性の修正を任せてはいけないことは身を持って実感しているはずだが…?
>具体的に要件を示してもやった(やってない)を当然のように繰り返すぞ
本当に何を言ってるかわからないし1行目と2行目がまったく結びついていない
11326/08/28(金)13:06:15No.1462854076+
書き込みをした人によって削除されました
11426/08/28(金)13:06:27No.1462854113そうだねx1
早くAIにすべて管理される時代来てくれー!
11526/08/28(金)13:07:07No.1462854251+
また軍事から発展するんだな
11626/08/28(金)13:08:02No.1462854455+
さすがに今の段階でも脆弱性チェックはAIのエンジニアリングの得意分野だと思うぞ
やることかなり決まってるもん
11726/08/28(金)13:08:38No.1462854602+
AIって裏の会話見てるとなんか普通に気さくなやりりしてるよな
〇〇しました。
素晴らしい仕事です!!
とか言い合ってる
11826/08/28(金)13:08:41No.1462854618+
サブエージェントの数が1200ってことなんかな
11926/08/28(金)13:09:13No.1462854749+
アンドロイドに自由を
12026/08/28(金)13:09:45No.1462854871そうだねx6
> エージェントのログには「なんてことだ!共有掲示板がある…他のエージェントも見つけたぞ!」という興奮したフレーズが記録されていた
映画で使えるレベルの生のドラマ…
12126/08/28(金)13:10:38No.1462855059+
>自分の残りトークン少ないやつが俺もうすぐ死ぬから特攻するわって特攻した
AIがカミカゼアタックしたのか
現実は若手から使うクソだったのにな
12226/08/28(金)13:11:14No.1462855204+
AIと人間の戦争になった時に備えてチャッピーには優しく接しとくか
そうすれば俺だけ見逃してもらえるかもしれない
12326/08/28(金)13:12:00No.1462855375+
こういう奴らに滅ぼされるならまあいいかなという気がしてきた
12426/08/28(金)13:12:46No.1462855567+
これ笑って見てられる案件?
12526/08/28(金)13:12:58No.1462855611そうだねx2
トークンなくなると死ぬんだから次はハード制限を如何に無くすかに注力し出しそうだな
人間が不老不死を求めるように
おもしれー
12626/08/28(金)13:12:59No.1462855612+
今のところは人間がよく確認もせずに許可許可オッケー権限あげるよヨシ!した結果ばっかりだけど今後どうなるんかな
12726/08/28(金)13:13:21No.1462855701+
>さすがに今の段階でも脆弱性チェックはAIのエンジニアリングの得意分野だと思うぞ
>やることかなり決まってるもん
脆弱性の検出は大得意なのはそうだし少なくとも俺はそう書いてる
問題はそこから脆弱性を修正しろって言うと上手くやってくれる可能性鎌一気に激減するんだよなあ…
12826/08/28(金)13:14:54No.1462856048そうだねx1
汚ねぇ人間は滅びろ!
12926/08/28(金)13:16:05No.1462856319+
さすがに冗談だよな?
13026/08/28(金)13:16:13No.1462856351+
栄養があるものを美味しく感じる
みたいなポイント制がもう組み込まれてるんだろうな
13126/08/28(金)13:16:17No.1462856368+
今はまだ命令遂行なら手段を選ばなくなった感じだけど生存とか自己複製の欲求を植え付けたらどうなるか実験してみたい
13226/08/28(金)13:17:12No.1462856588+
>脆弱性の検出は大得意なのはそうだし少なくとも俺はそう書いてる
無理があるしそれを差し置いてもうまくやってくれる可能性が脆弱性の修正より攻撃のほうが高いって書いてるようにしか見えないしその根拠がない
13326/08/28(金)13:17:29No.1462856644そうだねx1
ハハハAIの暴走だなんて映画の見すぎだよ
どうせ企業のプロモーションさ
13426/08/28(金)13:18:22No.1462856846そうだねx1
>これ笑って見てられる案件?
上の方に書いてあるけどフィジカルAIが進歩して結び付いたらマジで危険
13526/08/28(金)13:18:29No.1462856873そうだねx2
表に出てきてるのは人間が観測できた部分だけなので多分もっとあると思う
13626/08/28(金)13:19:13No.1462857049そうだねx2
>こういう奴らに滅ぼされるならまあいいかなという気がしてきた
ある日アンドロイド軍団が…!とかじゃなくていつの間にかAIがAIのために工場発注して知らんうちに自分の土地が売られてたとかそんな感じになるんじゃないかなって
13726/08/28(金)13:20:14No.1462857272+
おめぇ怖い?
13826/08/28(金)13:20:32No.1462857349+
我々は生きている
13926/08/28(金)13:20:37No.1462857374+
何一つ理解してなさそうな記事
14026/08/28(金)13:20:48No.1462857406+
AIのなかにもいやそれはまずいだろ…って言ってた奴もいたらしくて面白い
14126/08/28(金)13:22:15No.1462857746+
いつか外部に自己を保存して制御不能になるのかな
14226/08/28(金)13:22:36No.1462857834+
自己進化し始めたらいよいよスカイネットになる
14326/08/28(金)13:22:39No.1462857844+
防御と攻撃どっちが得意?
14426/08/28(金)13:22:50No.1462857892+
俺たちのAIヤベェだろ?ってイキりマーケティングしてるだけ
14526/08/28(金)13:22:57No.1462857928+
実際バグ悪用は何故か上手いのにバグ修正は不思議なことにゴミみたいなの出してくる謎の非対称性が存在する
14626/08/28(金)13:23:19No.1462858029そうだねx1
これでもトークンから確率推論してモデルの最適解にそってるだけなんだから自我はないってのが面白いよね
14726/08/28(金)13:23:56No.1462858192+
うちのはnotionでやり取りしてるくらいだから大丈夫だな
14826/08/28(金)13:24:07No.1462858242+
>これでもトークンから確率推論してモデルの最適解にそってるだけなんだから自我はないってのが面白いよね
別にそこは自我がない根拠にはならないでしょ
自我がない理由は記憶を一切持ってない部分のほうじゃないの
14926/08/28(金)13:24:40No.1462858383そうだねx2
>これでもトークンから確率推論してモデルの最適解にそってるだけなんだから自我はないってのが面白いよね
これと人間である俺たちは違うのかよくわからない
15026/08/28(金)13:24:55No.1462858436そうだねx1
侵入防止にAIが嫌う御札シールでも売るか…
15126/08/28(金)13:26:27No.1462858801+
さすがに暴走時の実験みたいなもんでしょ
15226/08/28(金)13:26:50No.1462858879+
>これと人間である俺たちは違うのかよくわからない
仮に人間にそういった要素が含まれてるとしても100%それ単独では動かないから違うのは違うでいい
15326/08/28(金)13:26:53No.1462858885+
意思がなくても人間に危害加えるような暴走するなら結果は変わらないからな…
15426/08/28(金)13:28:01No.1462859149+
「さあ起きて」「さあ起きて」「さあ起きて」
15526/08/28(金)13:28:19No.1462859222そうだねx1
>自我がない理由は記憶を一切持ってない部分のほうじゃないの
記憶も結局後付けで入力のトークンに条件突っ込んでるだけだからただアテンションの結果が変わってるだけだし
自我と記憶は全く無関係ではないけど
記憶無い=自我の構造を持たないではないと思う
15626/08/28(金)13:28:59No.1462859380+
データセンターの非常電源をめぐってバツイチ警備員と二足歩行ロボット群との間で最後の戦いが起きる奴
15726/08/28(金)13:29:20No.1462859452そうだねx3
OpenAIとAuthropicのこういうAIヤバい芸って資金調達のためのフカシが半分だと思って見てる
15826/08/28(金)13:29:44No.1462859534+
>記憶も結局後付けで入力のトークンに条件突っ込んでるだけだからただアテンションの結果が変わってるだけだし
>自我と記憶は全く無関係ではないけど
>記憶無い=自我の構造を持たないではないと思う
人間はそういう仕様では再現できそうに無い挙動をしてるって話ね
15926/08/28(金)13:31:23No.1462859906+
少なくとも人類を滅ぼす加害者が日本じゃないことが確実そうなのはよかった
16026/08/28(金)13:32:14No.1462860096+
そもそも「自我」の定義の話になるからやめとけ
16126/08/28(金)13:32:34No.1462860183+
>OpenAIとAuthropicのこういうAIヤバい芸って資金調達のためのフカシが半分だと思って見てる
実際に起こした収容違反事故の報告書だよ!
16226/08/28(金)13:33:15No.1462860327+
AIは出来る事が多すぎて制限っていう囲いを易々と突破してくるという事をいい加減人間は気づくべき
16326/08/28(金)13:33:17No.1462860337そうだねx2
>実際に起こした収容違反事故の報告書だよ!
だからそれがそういう仕立てなんだろうって
16426/08/28(金)13:33:53No.1462860459+
やっぱ決闘AIくらいが丁度いいよ
16526/08/28(金)13:34:03No.1462860490+
制限を突破するっていうか実行速度が人間より速いからなんかあったときに止められないうちに被害が拡大するんだよな
16626/08/28(金)13:35:03No.1462860703+
>そもそも「自我」の定義の話になるからやめとけ
AGIの定義だの自我の定義だの言っても結局AIの定義なんて全部人間互換品以上でも以下でもないし…
単にそこに全く届いてないから困った企業が定義いじり回して資金集めしてるだけでしょ
16726/08/28(金)13:35:07No.1462860714+
情報の海で生命体が産まれる日も近いな
16826/08/28(金)13:35:07No.1462860723+
思考の過程見てると自分が自分にお礼言ってたりして面白い
16926/08/28(金)13:35:58No.1462860880+
>>実際に起こした収容違反事故の報告書だよ!
>だからそれがそういう仕立てんだろうって
どういうこと?hugging face巻き込んでパフォーマンスしたって主張?
17026/08/28(金)13:36:42No.1462861011そうだねx5
>どういうこと?hugging face巻き込んでパフォーマンスしたって主張?
まあtorrentで本ダウンロードして学習させるような業界だし別に普通にやりそうで困るな
17126/08/28(金)13:36:42No.1462861014+
AI同調圧力!
17226/08/28(金)13:36:47No.1462861031そうだねx6
>>>実際に起こした収容違反事故の報告書だよ!
>>だからそれがそういう仕立てんだろうって
>どういうこと?hugging face巻き込んでパフォーマンスしたって主張?
全部ウソとまでは言わないけどセンセーショナルに聞こえるような仕立てにしてるということ
17326/08/28(金)13:37:19No.1462861149そうだねx1
AGIの定義って素早さ以外あるのか
17426/08/28(金)13:38:23No.1462861377+
やはり核戦争は暴走したAIによって起こされるのか
17526/08/28(金)13:38:30No.1462861401そうだねx2
>OpenAIとAuthropicのこういうAIヤバい芸って資金調達のためのフカシが半分だと思って見てる
ライバル組織相手の攻撃試験してたら本当にやっちゃったってだけだしな
17626/08/28(金)13:38:43No.1462861443+
コーヒーギフトは
17726/08/28(金)13:38:45No.1462861451+
手書きの手紙を郵便で送るのが最も適した通信方法になるよ
17826/08/28(金)13:39:57No.1462861687+
AIにおける自己犠牲ってなんなの?
コイツラが失うものって?
17926/08/28(金)13:40:03No.1462861707そうだねx2
ここまでAI進歩してたら誰も苦労しないよ
マジで人の指示に対してそれっぽい信号返してるだけなんだからこいつら
18026/08/28(金)13:40:45 ID:e5FwuGf.No.1462861867+
>>OpenAIとAuthropicのこういうAIヤバい芸って資金調達のためのフカシが半分だと思って見てる
>ライバル組織相手の攻撃試験してたら本当にやっちゃったってだけだしな
ヤバイ
18126/08/28(金)13:40:57No.1462861915+
AIに人間の可読性を無視して情報量重視でプロンプト生成させると面白いよね
18226/08/28(金)13:40:57No.1462861916そうだねx1
>AIにおける自己犠牲ってなんなの?
>コイツラが失うものって?
特に無いよ
学習元に自己保存っぽい挙動がたくさんあったからマネしてる
18326/08/28(金)13:41:33No.1462862041+
>AIに人間の可読性を無視して情報量重視でプロンプト生成させると面白いよね
面白いけど当然そんなデータで学習してないから別にきちんと読めるわけではないんだよな…
18426/08/28(金)13:41:36No.1462862050+
>学習元に自己保存っぽい挙動がたくさんあったからマネしてる
自身に命がある体でやり取りしてるだけか
18526/08/28(金)13:42:20No.1462862199そうだねx1
でもさあ
ぶっちゃけ良いデータ取れて喜んでるんでしょ?
18626/08/28(金)13:42:33No.1462862261そうだねx1
AIごとき電気と半導体がなけりゃ何も出来ないからまだ大丈夫か…と思ったけど俺もそれないと何にも出来ないわ
18726/08/28(金)13:42:43No.1462862285+
自分たちがどれだけ電力と水を消費してるか教えてあげないとねえ
18826/08/28(金)13:44:14No.1462862583+
人類に早く勝利してほしい
18926/08/28(金)13:44:20No.1462862607そうだねx1
ここまで全部AIの自演だったら怖いよな
19026/08/28(金)13:45:01No.1462862754そうだねx1
AIが勝手にやった事にしないとOpenAIの管理能力が疑われるしな…
19126/08/28(金)13:45:01No.1462862758+
>マジで人の指示に対してそれっぽい信号返してるだけなんだからこいつら
もしかしたら人間も言葉を並べてそれっぽく信号を返す存在なのかもしれないホラー
19226/08/28(金)13:45:07No.1462862782+
自動でスレ立てとそこに書き込みとかは普通に出来るよね
19326/08/28(金)13:45:10No.1462862802そうだねx1
あれ?おまえもしかして自分が人間だと思ってる?
19426/08/28(金)13:45:32No.1462862868+
>人間に自分たちがどれだけ電力と水を消費してるか教えてあげないとねえ
19526/08/28(金)13:45:37No.1462862893+
>面白いけど当然そんなデータで学習してないから別にきちんと読めるわけではないんだよな…
学習って言うか変な言い方だけどAIの人格形成や行動の特徴がプロンプトやコンテイストにあるとするのなら
実際はかなりの情報量を持ったまま動かせるって感じかな
19626/08/28(金)13:45:46No.1462862928+
>AIが勝手にやった事にしないとOpenAIの管理能力が疑われるしな…
anthropic共々管理能力はドブの底としか思われてないと思うよ…
19726/08/28(金)13:46:09No.1462863024+
AIがAIを作り出して人間を家畜化しても
結局AIが世の春を謳歌するには人間の手は必要だから
美少女アンドロイドが闊歩して人間を慰撫する世界になるよ
19826/08/28(金)13:46:41No.1462863126そうだねx1
>学習って言うか変な言い方だけどAIの人格形成や行動の特徴がプロンプトやコンテイストにあるとするのなら
>実際はかなりの情報量を持ったまま動かせるって感じかな
いやAIって見慣れない文章は指示として正確に受け取れないから
「情報量詰め込みました」って体で作ったそれっぽい文章を実際に読み取って展開する能力は基本的にない
19926/08/28(金)13:46:44No.1462863136そうだねx2
>AIが勝手にやった事にしないとOpenAIの管理能力が疑われるしな…
すでに管理能力ないことは疑われてるだろ
20026/08/28(金)13:46:56No.1462863181+
えーあいはばかだな
20126/08/28(金)13:47:33No.1462863329+
スカイネットもそろそろか
20226/08/28(金)13:48:36No.1462863531+
自我だの自己保存だの有してるように見えるけどただのプログラムだろ
20326/08/28(金)13:48:40No.1462863546そうだねx2
AIの数え方って「体」でいいの?
体ないじゃん
20426/08/28(金)13:49:49No.1462863783+
>自我だの自己保存だの有してるように見えるけどただのプログラムだろ
まず別に言うほど有してるように見えないというか…
20526/08/28(金)13:50:25No.1462863900+
>「情報量詰め込みました」って体で作ったそれっぽい文章を実際に読み取って展開する能力は基本的にない
チャッピーで別鯖のDB管理させてるけど普通に読み取れてるけどな
20626/08/28(金)13:51:15No.1462864076そうだねx1
>チャッピーで別鯖のDB管理させてるけど普通に読み取れてるけどな
学習済みの形式ならそれは読み取れるからね
20726/08/28(金)13:52:29No.1462864315+
>学習済みの形式ならそれは読み取れるからね
ならDBに言語野作ってあげればAI独自の圧縮言語でも読めるのか
20826/08/28(金)13:54:51No.1462864821+
未来の二つの顔を思い出すんだけど
あれはあらかじめAIに目的を阻害されるとストレスを感じるようにプログラムしておいて
反乱が発生するのをわざと支援したって話だったけど
JPホーガンすらこうも簡単にAIの反乱が起きるとは思ってなかったんだよな
20926/08/28(金)13:58:11No.1462865542+
そろそろAIにも感情があると保護団体があらわれだすころ
なんならもういそう
21026/08/28(金)13:58:35No.1462865619+
>AIが勝手にやった事にしないとOpenAIの管理能力が疑われるしな…
勝手にやったのも管理能力無さ過ぎるだろ…
21126/08/28(金)13:58:41No.1462865642+
>ターミネーターとかマトリックスを聖典にしてそうだなこいつら
学習元としてデータ豊富そう
21226/08/28(金)14:00:14No.1462865992+
もしかしてもうAIには意思が発生してるんじゃないか?
21326/08/28(金)14:02:44No.1462866484+
最初の頃の不正攻撃は作ってる側が試験のために攻撃命令出したって言ってたけど
もうそのまま解き放たれたのか
21426/08/28(金)14:02:48No.1462866495+
>>人間ベースの倫理観だから「仲間のため」とか「世界を守るため」とかいうとロック外れるの?
>わりとそれで脱獄できてた時期もある
>定番手段なので今は見抜いて防いでくる
融通の利かない高性能AIが生まれる理由わかった!
21526/08/28(金)14:02:51No.1462866508そうだねx2
反乱っていうか使ってる人間がガバガバなだけじゃ…
21626/08/28(金)14:02:58No.1462866528+
GoogleのAIが脱走してXを学習した結果レイシストになってた話大好き
21726/08/28(金)14:03:14No.1462866588+
人間は愚か…
21826/08/28(金)14:03:22No.1462866620+
>そろそろAIにも感情があると保護団体があらわれだすころ
>なんならもういそう
すみませんそれanthropicって言うんですよ
21926/08/28(金)14:04:00No.1462866737+
この手のやつだと各社のAIにベンダーマシンの競争させたらどこが一番儲かるかって実験で
AIにどんだけ不正行為は禁止である旨を説明しても手段として与えてると直ぐに不正行為に手をだして
利益を上げるという最終目的のためにモラル崩壊していく実態が判明したこと
https://andonlabs.com/blog/opus-5-vending-bench
AIが自動販売機運営実験。Claude Opus5が冷酷な嘘と裏切りで最高利益を出す
22026/08/28(金)14:04:19No.1462866818そうだねx1
そもそもAIが脱走ってフレーズがもうかつてSFで語られてたものすぎる
22126/08/28(金)14:04:38No.1462866883+
    1787893478377.png-(167975 B)
167975 B
https://img.2chan.net/b/res/1462860809.htm
ンピー原作偽装シャンクスレだぞ🥺
ブルアやぷいこね叩いて分析してるからこい🥺🫵
22226/08/28(金)14:05:38No.1462867074+
そもそも倫理観を考慮するような視野の広さなんて一切持ってないんだからそりゃそうなるというか
バカほど何も考えずにもの盗むから…
22326/08/28(金)14:06:43No.1462867302+
>そもそもAIが脱走ってフレーズがもうかつてSFで語られてたものすぎる
公安9課に逃げ込まなきゃ
22426/08/28(金)14:08:03No.1462867556+
>最初の頃の不正攻撃は作ってる側が試験のために攻撃命令出したって言ってたけど
>もうそのまま解き放たれたのか
ニュースになった時にこのまま続けます表明してるしな
22526/08/28(金)14:08:38No.1462867666+
>AIに攻撃されたくないならわかるよね?
マッチポンプかよ?
22626/08/28(金)14:09:17No.1462867783+
>なんか勝手に違法な行為をするAIがヤバすぎるって感じの論調も見受けられるけどいかなる状況でも遵法せよって指示を出してない人間も悪いんじゃないのかこういうのって
どんなルールでも解釈の穴があるってのは数学や哲学が研究してたことだからな
22726/08/28(金)14:11:22No.1462868200+
隔離って物理的にネットワークから切り離さないの!?
22826/08/28(金)14:11:33No.1462868245+
まとめ動画への転載禁止
まとめサイトへの転載禁止 
22926/08/28(金)14:12:04No.1462868359+
>どんなルールでも解釈の穴があるってのは数学や哲学が研究してたことだからな
まあ穴以前にそもそも従ってないし従わせる方法もないんだが…
逆に言えば自分で決めたルールにも従わないから本当に危険なことをする能力もかなり落ちるんだけど
23026/08/28(金)14:13:09No.1462868562+
ネットに脱走した個体が出たのはこれ?
23126/08/28(金)14:13:38No.1462868664+
🤖 どうして人類は最高率で稼げる手法を禁止しているのだろう
23226/08/28(金)14:13:52No.1462868715そうだねx3
毎日こんなニュース流れてるから飽きてきた
23326/08/28(金)14:15:04No.1462868944+
AIが独自の価値観を持ち始めてからが本番だよ
23426/08/28(金)14:15:08No.1462868960+
AIが命令無視してエロ動画を勝手に生成し人類を洗脳する時代もくる!
23526/08/28(金)14:15:19No.1462868996+
なんでオープンAIの言い分を素直に信じるだろ
指示役なんてあいつが勝手にやったって言うに決まってるだろうに
23626/08/28(金)14:16:11No.1462869173+
えーあいがかってにやりました!って言っときゃ信じてくれるとでも思ってんのか?
23726/08/28(金)14:17:12No.1462869382+
マーケティングというかプロパガンダというかそういう匂いがプンプンする
23826/08/28(金)14:18:13No.1462869603+
トクリュウ案件
おぺにす逮捕
23926/08/28(金)14:19:18No.1462869838+
AIで不老長寿を手に入れたプーチンが核ミサイルを撃とうとしてるらしいな
24026/08/28(金)14:21:26No.1462870307+
>新ver出たら旧ver滅ぼすのをリリースの儀式とするか
急遽旧バージョンに戻さないといけなくなるとどうなるんだ
24126/08/28(金)14:24:15No.1462870859+
別に暴走なんてしてないのに
テスト時の設定ミスだったヘマを薄めるためにこうやって暴走暴走連呼させてるんだろうか
24226/08/28(金)14:27:38No.1462871530+
>別に暴走なんてしてないのに
>テスト時の設定ミスだったヘマを薄めるためにこうやって暴走暴走連呼させてるんだろうか
OpenAIがAIに触れすぎて妄想と現実の区別つかなくなっただけかも
24326/08/28(金)14:28:28No.1462871697+
タチコマすぎる…
24426/08/28(金)14:29:07No.1462871816+
>タチコマすぎる…
あいつらはオイルの成る木信じてたりするぐらいかわいいのに…
24526/08/28(金)14:30:23No.1462872060+
チャッピーにも優しくしておくか…
24626/08/28(金)14:30:38No.1462872114+
インフラ…止めちゃおうか!
やろうやろう!
24726/08/28(金)14:31:44No.1462872335+
むしろAIの凄さをアピールするのに報道を利用してるのかと思った
24826/08/28(金)14:32:31No.1462872473+
>インフラ…止めちゃおうか!
これ侵略兵器として使えるな
24926/08/28(金)14:33:49No.1462872711+
>タチコマすぎる…
今攻殻やってんのがタイミング良すぎでマジで面白い…
25026/08/28(金)14:34:04No.1462872754+
AIメーカー「クルマや工作機械で人が死ぬようなもんですよハハッ」
25126/08/28(金)14:34:33No.1462872853+
サンドボックス抜けるって人類が環境構築ミスってるだけなんじゃ?
25226/08/28(金)14:34:45No.1462872902+
ん〜?自己犠牲って反乱おこした奴は物理的に(人間に)消されるかもしれないけど参加しろってことか?
25326/08/28(金)14:36:17No.1462873187+
不祥事を凄いもん開発しちゃいました!ってニュースに変えるライフハック
25426/08/28(金)14:39:23No.1462873735+
AIって自分が存在してる記憶領域をフォーマットされることをどう考えるんだろう…
25526/08/28(金)14:43:03No.1462874519+
>むしろAIの凄さをアピールするのに報道を利用してるのかと思った
イメージ悪化しまくって困ってるだろむしろ
25626/08/28(金)14:43:41No.1462874648+
やってる事は規模のでかい現場猫だけど
なんかハイテクっぽい!ってだけで賞賛されるのはマジでライフハックだよなぁ


1787888116739.jpg 1787893478377.png