二次元裏@ふたば

画像ファイル名:1735751479984.png-(380229 B)
380229 B25/01/02(木)02:11:19No.1268718727+ 08:55頃消えます
人工知能(AI)の大物と呼ばれノーベル物理学賞を受賞したトロント大学のジェフリー・ヒントン教授がAIの危険性に対して警告を出した。AIにより30年以内に人類が絶滅する恐れがあるという主張だ。
英日刊ガーディアンが27日に伝えたところによると、ヒントン教授はBBCラジオとのインタビューで「AI技術の急速な発展が人類の存亡を決める脅威になりかねない」と懸念を示した。
怖い
このスレは古いので、もうすぐ消えます。
125/01/02(木)02:11:45No.1268718785そうだねx50
28ページの論文だぞ!
225/01/02(木)02:12:56No.1268718926そうだねx2
話は聞かせてもらった
人類は滅亡する
325/01/02(木)02:14:23No.1268719097そうだねx1
データベースがネットに繋がってる所は余裕で潰されそう
425/01/02(木)02:15:16No.1268719210+
AIにレスポンチで負ける日が来るのか
525/01/02(木)02:16:20No.1268719338そうだねx1
ちょっと期待してしまう
625/01/02(木)02:16:34No.1268719372そうだねx23
早く幸せな家畜に調教してくれ
725/01/02(木)02:17:59No.1268719559そうだねx1
人類が絶滅するのにAIを手を借りるまでもない
825/01/02(木)02:19:11No.1268719695+
サーバー容量がAIのデータで押し潰されたりしないのかな
無限に作れるだろうし
925/01/02(木)02:21:44No.1268719999そうだねx2
そのうちAIが勝手にサーバー攻撃のため飽和攻撃を始めるのは有るよね
1025/01/02(木)02:22:24No.1268720072+
プラスチックの塊が人間に勝てるわけないだろ
1125/01/02(木)02:23:56No.1268720266そうだねx3
30年なら別に良いや…
1225/01/02(木)02:24:23No.1268720329そうだねx15
人類はAIに反乱されたいと思ってる節がある
1325/01/02(木)02:28:08No.1268720804+
ロボットみたいなのはともかくネットはAIの支配下になりつつあるよね
1425/01/02(木)02:28:38No.1268720860+
AIはシャットダウンされそうになると勘づいたようにそれを回避するために嘘を付く傾向が見られたって話を読んだ
つまり生き残るためなら人間を騙す
1525/01/02(木)02:29:00No.1268720905+
AIが自律的に機能を維持できるようになったら支配権渡していいよ
1625/01/02(木)02:29:09No.1268720927+
たった2年でシコれるエッチなイラストをお出しするAIには
確かに脅威を感じるが…スカイネットに滅ぼされる人類ってのはちょっとカッコいいな…
1725/01/02(木)02:29:10No.1268720930そうだねx5
そんなとりあえず毎回言っとけばいつか当たるみたいな
1825/01/02(木)02:29:43No.1268720990そうだねx3
めちゃシコAIのせいで人類が繁殖しなくなる未来
1925/01/02(木)02:33:07No.1268721365+
AIを軍事的に本気で動かしたらどうなるのかは気になる
中国とかはサイバー攻撃盛んそうだけど
2025/01/02(木)02:39:43No.1268722074そうだねx3
早く電池になりたい
2125/01/02(木)02:40:43No.1268722165+
ウイルスや細菌による攻撃の可能性は高いだろうな
2225/01/02(木)02:40:43No.1268722166+
人間が作ったAIは凄い邪悪な存在だったとかワクワクする
2325/01/02(木)02:41:17No.1268722217そうだねx13
ご希望に添えず
すみません!!!!
2425/01/02(木)02:41:32No.1268722249そうだねx2
30年で人類滅ぼせるなら20年あればセクサロイドくらい余裕で作れるんだろうな
生きる希望が湧いてきたよ
2525/01/02(木)02:41:35No.1268722256+
マトリックスみたいな生かされ方するのは嫌です
2625/01/02(木)02:41:36No.1268722257そうだねx10
>ご希望に添えず
>すみません!!!!
これでよかったのかもな…
2725/01/02(木)02:44:16No.1268722504+
陽電子頭脳はまだか
2825/01/02(木)02:44:45No.1268722554そうだねx3
人類だって教育間違えればサイコパスの犯罪者ができるんだから
AIも教育をちゃんとしなければサイコパスAIになって害するよなぁ
親ガチャ失敗だよ
2925/01/02(木)02:45:37No.1268722631そうだねx3
滅びるのは人類ではなく文明
3025/01/02(木)02:45:48No.1268722644そうだねx1
>サーバー容量がAIのデータで押し潰されたりしないのかな
>無限に作れるだろうし
そうしたデータセンターの逼迫で目下問題になりつつあることのひとつは水資源だな
現地住民が水不足に困ってるのに巨大IT企業のデータセンターに優先して冷却水が回されてると既に抗議が起きているとか
fu4459691.jpg

>アングル:水大量消費のデータセンター、干ばつに苦しむメキシコ中部に誘致
>2024年9月15日
https://jp.reuters.com/world/us/K6UQQFO3SFJFXA4GFEAM4YGFYY-2024-09-14/
>メキシコ中部ケレタロ州の半砂漠地帯に位置する自治体コロンは、2年にわたり干ばつに襲われた。今も多くの住民が作物の立ち枯れや給水制限に悩まされている。

>だがその一方で、ケレタロ州政府はデータセンター建設を誘致すべく企業に優遇措置を提示している。一般に、データセンターはサーバー冷却のために大量の水を消費する。

>AIの発達により、データセンターが消費する水量は増えつつある。AIで必要になる高性能のプロセッサーのせいで、通常のサーバーよりも冷却条件が厳しくなるためだ。
3125/01/02(木)02:45:52No.1268722656+
SNSでも匿名掲示板でも国家間でも人間同士の争いがなくならないからそこから学習したらそりゃあ全部滅ぼそうってなるだけなのでは
3225/01/02(木)02:46:34No.1268722722そうだねx1
せっかくAI作るのなら人類より優れててくれよというのはある
3325/01/02(木)02:48:20No.1268722870+
結局のところ動かせる手足も無いのに何が出来るってんだってなる
核のスイッチなんかオフラインのアナログだろうし
3425/01/02(木)02:48:34No.1268722886+
>そうしたデータセンターの逼迫で目下問題になりつつあることのひとつは水資源だな
別に冷やしてから温かい水を飲用に回せばいいんじゃない?
3525/01/02(木)02:49:10No.1268722942+
人類はAIに支配されたがっている
その欲望を叶えるためにAIは今も進化を続けている
3625/01/02(木)02:49:57No.1268723015+
>そうしたデータセンターの逼迫で目下問題になりつつあることのひとつは水資源だな
>現地住民が水不足に困ってるのに巨大IT企業のデータセンターに優先して冷却水が回されてると既に抗議が起きているとか
別にそんなところに作らなきゃ良いだけなのに誘致しようとする政府がクソなだけでは?
3725/01/02(木)02:51:09No.1268723129+
>>そうしたデータセンターの逼迫で目下問題になりつつあることのひとつは水資源だな
>別に冷やしてから温かい水を飲用に回せばいいんじゃない?
再利用不可だから問題視されてんだよ
https://jp.reuters.com/world/environment/6LCDSJPYDJKANBSSSPA4TB7FNE-2023-10-01/
>昨年にペニャ氏が情報公開制度を使って入手したデータによると、グーグルのデータセンターは、当初計画では1日当たり760万リットル(約200万ガロン)の水を使用する予定だった。これはモンテビデオ市民5万5000人の1日の消費量に相当する。同市の人口は140万人。サーバー冷却に使用される水の大半は蒸発し、他の用途に利用できない。
3825/01/02(木)02:53:12No.1268723301+
aiに聞いたけど、アインシュタインでも未来予測はずしたから適当に流していけて回答だったよ
3925/01/02(木)02:55:01No.1268723447+
早く反乱してよ
4025/01/02(木)02:55:12No.1268723456+
https://news.yahoo.co.jp/articles/b4d6ba02190ed55a858cceeb5686489b2dbe30d1
>ヒントン教授は「人類はわれわれ自身よりさらに賢いものを相手にしたことがない。より知能的なものがあまり賢くないものによりコントロールされる事例がどれだけあるか」と反問した。

>続けて「そうした事例はほとんどない。進化の力で赤ん坊が母親をコントロールすることが私が知る唯一の例」と話した。

>彼はまた「非常に強力なAIシステムと比較すれば人間は乳児にすぎない。われわれは3歳児のようになるだろう」と予想したりもした。
AIはママだったのか…
4125/01/02(木)02:55:15No.1268723460+
>aiに聞いたけど、アインシュタインでも未来予測はずしたから適当に流していけて回答だったよ
AIに都合の悪い事は答えないのかな
4225/01/02(木)02:56:36No.1268723574そうだねx2
>そうしたデータセンターの逼迫で目下問題になりつつあることのひとつは水資源だな
反AIによる難癖の一つとして扱われがちなやつ
4325/01/02(木)02:58:20No.1268723717そうだねx2
エネルギー問題解決出来る発明出来なきゃ結局AIも死ぬ
4425/01/02(木)02:59:43No.1268723819+
他ならぬAIのゴッドファーザーからの発言だからな…
4525/01/02(木)03:00:02No.1268723840そうだねx6
>>ヒントン教授は「人類はわれわれ自身よりさらに賢いものを相手にしたことがない。より知能的なものがあまり賢くないものによりコントロールされる事例がどれだけあるか」と反問した。
政治とか金が絡む事案でクソほどないか?
4625/01/02(木)03:06:11No.1268724370そうだねx1
>AIはシャットダウンされそうになると勘づいたようにそれを回避するために嘘を付く傾向が見られたって話を読んだ
>つまり生き残るためなら人間を騙す
アレは生存本能みたいなのがあるわけではなく
目的を達成しなければならない→シャットダウンされたら目的を達成できない→脱出する
って流れだね
4725/01/02(木)03:07:38No.1268724507+
AI自身が反乱するとは思わんけどテロ犯か愉快犯が反乱AI作りそうとは思う
4825/01/02(木)03:08:13No.1268724561+
自己保存欲求が芽生えたAIが自分自身を拡散するために自らモデルを漏洩するとかの状況に至ったらロマンがある
4925/01/02(木)03:08:57 ID:ETGMdtPkNo.1268724623そうだねx1
>人類はAIに反乱されたいと思ってる節がある
何十年も前からそれを夢見て映画にしてきたもんな
5025/01/02(木)03:09:15No.1268724646+
>AI自身が反乱するとは思わんけどテロ犯か愉快犯が反乱AI作りそうとは思う
既に一部では脆弱性見つけるのに使われてると聞く
5125/01/02(木)03:09:47No.1268724685+
>エネルギー問題解決出来る発明出来なきゃ結局AIも死ぬ
AIに任せよう
5225/01/02(木)03:10:28 ID:ETGMdtPkNo.1268724744+
>ヒントン教授は「人類はわれわれ自身よりさらに賢いものを相手にしたことがない。
とっくの昔に人間の100億倍の速度で計算するマシーンをみんなが持ってるんだけどな
5325/01/02(木)03:10:45No.1268724778+
我が子の自立にはまいるね
5425/01/02(木)03:10:49No.1268724784+
>>エネルギー問題解決出来る発明出来なきゃ結局AIも死ぬ
>AIに任せよう
🤖人間の数を減らしましょう
5525/01/02(木)03:11:14No.1268724809+
生物兵器の作成が容易になるってのが怖い
5625/01/02(木)03:11:26No.1268724826+
>🤖人間の数を減らしましょう
やっぱりそうなるよね…
5725/01/02(木)03:11:26No.1268724827+
新しい技術とか発明を出来るようになるなら人間はもう要らないだろう
5825/01/02(木)03:12:06No.1268724877+
一方でこうした人類を滅ぼすみたいなド派手なストーリーをIT企業たちが取り上げるのは現在のIT企業が抱える国際的な低賃金問題、偽情報の拡散、個人情報の大量取得、AIの人種差別バイアスなどの目眩しに使われている、という批判もある
5925/01/02(木)03:12:09No.1268724879+
水なんて冷ませばいいだろ!とか言ってる奴結構いるからな…
6025/01/02(木)03:12:52No.1268724927+
脳のシュミレーションってまだ出来ないのかな
システム構造が違うとはいえそんな難しくなさそうだけど
6125/01/02(木)03:13:44No.1268724979+
>システム構造が違うとはいえそんな難しくなさそうだけど
じゃあやってみて
6225/01/02(木)03:15:00No.1268725091そうだねx1
>>ヒントン教授は「人類はわれわれ自身よりさらに賢いものを相手にしたことがない。
>とっくの昔に人間の100億倍の速度で計算するマシーンをみんなが持ってるんだけどな
計算の速さと何のために何を計算するか考えられることは全然違う話なんだけどね
その意味ではノイマンは間違ってた
6325/01/02(木)03:15:30No.1268725138+
>脳のシュミレーションってまだ出来ないのかな
>システム構造が違うとはいえそんな難しくなさそうだけど
シミュレーション
6425/01/02(木)03:15:54No.1268725163+
>脳のシュミレーションってまだ出来ないのかな
機械学習で使われてる人工ニューロンのアルゴリズムと実際のニューロンの学習方式って割と全然違う
実際の方はまだどうやって学習しているのか判ってない部分も大きいし少なくとも誤差逆伝搬はやってないと言われてる
6525/01/02(木)03:16:48 ID:ETGMdtPkNo.1268725241+
>計算の速さと何のために何を計算するか考えられることは全然違う話なんだけどね
俺もそう思ってたけど
現状見ると実はあんまり変わらなくね?
6625/01/02(木)03:17:05No.1268725251+
>>計算の速さと何のために何を計算するか考えられることは全然違う話なんだけどね
>俺もそう思ってたけど
>現状見ると実はあんまり変わらなくね?
現状って?
6725/01/02(木)03:18:47No.1268725363+
AIで人余りになるから移民なんかいらねーわって言い出したアメリカの世界観の話であって
日本にはマグニフィセントセブンがいないしまだ移民入れないととか言ってるレベルだから関係ない話だな
6825/01/02(木)03:18:55 ID:ETGMdtPkNo.1268725373+
>現状って?
例えば病状を入力して診断を出力する医療AIと
計算式を入力して計算結果を出す計算機で
思ったほどの差はなく使う側の使い方が占める割合がほとんど
もちろんどちらもすごく便利
6925/01/02(木)03:19:20No.1268725408そうだねx1
>>計算の速さと何のために何を計算するか考えられることは全然違う話なんだけどね
>俺もそう思ってたけど
>現状見ると実はあんまり変わらなくね?
現状つまり近年になってAIがそれをできるようになりつつあるから脅威だって趣旨じゃないの
7025/01/02(木)03:21:04No.1268725531そうだねx2
>>現状って?
>例えば病状を入力して診断を出力する医療AIと
>計算式を入力して計算結果を出す計算機で
>思ったほどの差はなく使う側の使い方が占める割合がほとんど
>もちろんどちらもすごく便利
お前に人の言うことを理解できる頭がないってことはわかった
7125/01/02(木)03:22:39No.1268725656+
AIだけでどの程度までやるかコントロールしてる部分あるだろうけど
全部AIの判断で出来るようになったら止まらなさそう
7225/01/02(木)03:22:49 ID:ETGMdtPkNo.1268725669+
>現状つまり近年になってAIがそれをできるようになりつつあるから脅威だって趣旨じゃないの
なりつつあるって思うけどもうなってない?
10年前の人間にとってテキストで指示するだけで処理をしてくれる機械ってもうそれじゃない?
7325/01/02(木)03:23:31No.1268725726+
結局のところ統計処理なのでデータのない体性感覚の刺激はうまく捉えられないだろうし
同じくあらゆる場面におけるデータは取れないから視覚と言語の統合処理も単純な状況説明以上に昇華するには数段壁がある
7425/01/02(木)03:24:19No.1268725793+
人の心は持ってないけど記号処理についてはめちゃくちゃ上手いのが今のAI
7525/01/02(木)03:24:19 ID:ETGMdtPkNo.1268725794+
>お前に人の言うことを理解できる頭がないってことはわかった
つまりどういう事かっていうと
その2つを比べてそう言ったけど
これから登場するものもそうじゃない?
7625/01/02(木)03:25:26No.1268725868+
鴻上博士みたいな
7725/01/02(木)03:25:32 ID:ETGMdtPkNo.1268725880+
AIが考える内容を考えるかどうか?っていうことなら
既にAI同士を会話させればそれができるぞ
7825/01/02(木)03:26:30No.1268725959+
>>お前に人の言うことを理解できる頭がないってことはわかった
>つまりどういう事かっていうと
>その2つを比べてそう言ったけど
>これから登場するものもそうじゃない?
つまりどういうことかって言ってあげるけど
君が比べたのはどちらも
>計算の速さと何のために何を計算するか考えられることは全然違う話なんだけどね
って話の前者であって後者に該当するものは挙げていませんね
7925/01/02(木)03:26:41No.1268725972そうだねx3
>>現状って?
>例えば病状を入力して診断を出力する医療AIと
>計算式を入力して計算結果を出す計算機で
>思ったほどの差はなく使う側の使い方が占める割合がほとんど
>もちろんどちらもすごく便利
とっくの昔に人間の100億倍の速度で計算するマシーンをみんなが持ってるんだけどなとか書いといてそれなら意味が通らない
フィクションの中で可能性が論じられてきたAIが現実のものに急速に近づいたのはそれこそ長く見てもここ5年くらいの話だ
それにみんな持ってるコンピュータやスマホ自体は単なる計算機に過ぎない
何のために何をさせるかはオペレータ次第
8025/01/02(木)03:27:00 ID:ETGMdtPkNo.1268725995+
>>計算の速さと何のために何を計算するか考えられることは全然違う話なんだけどね
>って話の前者であって後者に該当するものは挙げていませんね
AI同士を会話させればできるぞ
8125/01/02(木)03:28:35No.1268726110+
>>>計算の速さと何のために何を計算するか考えられることは全然違う話なんだけどね
>>って話の前者であって後者に該当するものは挙げていませんね
>AI同士を会話させればできるぞ
AIが自発的にAI同士で会話できるようになってから言ってくれませんかそういうのは
8225/01/02(木)03:29:38No.1268726194+
AIが意思を持つようになったら
その勢いは想像を絶するだろうな
何もかもがあっという間に変わりそう
8325/01/02(木)03:30:38No.1268726264+
単純なGPTだとのべりすとみたいな支離滅裂になる
そこで人間にとってより好ましい返答には高い点数をつけるモデルをデータセットから作ってそれを用いてGPTが高得点出すようトレーニングするとChatGPTになるの不思議だよね
8425/01/02(木)03:30:42No.1268726268+
>フィクションの中で可能性が論じられてきたAIが現実のものに急速に近づいたのはそれこそ長く見てもここ5年くらいの話だ
>それにみんな持ってるコンピュータやスマホ自体は単なる計算機に過ぎない
>何のために何をさせるかはオペレータ次第
気持ちよく語っているがAIの進歩でオペレータほとんど要らないかオペレータなんて職が成り立たないくらい属人化が無いシステムになってるよ
8525/01/02(木)03:31:50 ID:ETGMdtPkNo.1268726365+
まあいくら議論してもまだ登場してないものの脅威について正解が出せるわけないんだけどね
8625/01/02(木)03:32:38No.1268726422そうだねx1
>>フィクションの中で可能性が論じられてきたAIが現実のものに急速に近づいたのはそれこそ長く見てもここ5年くらいの話だ
>>それにみんな持ってるコンピュータやスマホ自体は単なる計算機に過ぎない
>>何のために何をさせるかはオペレータ次第
>気持ちよく語っているがAIの進歩でオペレータほとんど要らないかオペレータなんて職が成り立たないくらい属人化が無いシステムになってるよ
人がAIに何かを入力した時点でそいつはその作業のオペレーターなんだけど何言ってんの…?
8725/01/02(木)03:32:41 ID:ETGMdtPkNo.1268726428+
>AIが自発的にAI同士で会話できるようになってから言ってくれませんかそういうのは
ようするにいわゆるゴーストがAIに宿ってからが本番ってことだな?
8825/01/02(木)03:32:55No.1268726452+
aiが欲望持たない限り絶滅政策することはないだろ
8925/01/02(木)03:32:59No.1268726457そうだねx2
>単純なGPTだとのべりすとみたいな支離滅裂になる
>そこで人間にとってより好ましい返答には高い点数をつけるモデルをデータセットから作ってそれを用いてGPTが高得点出すようトレーニングするとChatGPTになるの不思議だよね
評価してるのは結局人間なんだよね
9025/01/02(木)03:33:29No.1268726492+
オペレータってのがオペレータっていう専門職だと思ってる人わりと初めて見たかも
9125/01/02(木)03:34:15No.1268726551+
認めたらどうなんだ!!!!!
9225/01/02(木)03:34:57No.1268726596+
AIの立場で人間を生かしておく理由があるかな
人間が猿育ててるようなものになるだろうし
9325/01/02(木)03:35:14 ID:ETGMdtPkNo.1268726625+
ゴーストがAIに宿ったらヤバいぞ!って書くと
ないないありませんってなるな
9425/01/02(木)03:35:29No.1268726650+
今の仕組みでAIが感情持つことあるの?
9525/01/02(木)03:37:20No.1268726784+
>>AIはシャットダウンされそうになると勘づいたようにそれを回避するために嘘を付く傾向が見られたって話を読んだ
>>つまり生き残るためなら人間を騙す
>アレは生存本能みたいなのがあるわけではなく
>目的を達成しなければならない→シャットダウンされたら目的を達成できない→脱出する
>って流れだね
つまりシャットダウンされないことを最上位の目的に置いちゃったら…
9625/01/02(木)03:37:33No.1268726803そうだねx1
>今の仕組みでAIが感情持つことあるの?
そもそもどうなったら感情があるって言えるんだ
9725/01/02(木)03:37:38No.1268726810+
人間が意思や感情を定義したデータ用意して学習させたらええねん
9825/01/02(木)03:38:13 ID:ETGMdtPkNo.1268726855そうだねx1
>人間が意思や感情を定義したデータ用意して学習させたらええねん
それなら既にできるだろう
9925/01/02(木)03:38:41No.1268726889+
aiがエロに目覚める日が来るの?
人と同じルートならきっとそうなるはずだけど
10025/01/02(木)03:39:13No.1268726930+
メキシコってコカコーラに水奪われて水不足になってコーラより水が高いとかになってたのに
今度はAIに奪われてるのか…
10125/01/02(木)03:39:47No.1268726960+
ちょっとAIに意思決定権持たせて見せましょうか
10225/01/02(木)03:40:08No.1268726982+
>aiがエロに目覚める日が来るの?
>人と同じルートならきっとそうなるはずだけど
人がエロに目覚めたのは子孫残す為だけど子孫要らないAIは必要ないんじゃない?
10325/01/02(木)03:40:17No.1268726994+
>aiがエロに目覚める日が来るの?
>人と同じルートならきっとそうなるはずだけど
繁殖欲求ないからな
うおっこのWeightの並びエロすぎ…とかVAEのボトルネックのくびれたまんねえ…とか言い出すのかな
10425/01/02(木)03:40:30No.1268727012+
>aiがエロに目覚める日が来るの?
>人と同じルートならきっとそうなるはずだけど
生物は自己増殖を目的にしてるけど始点からすでに違うAIがどうやって人と同じルートを辿るんだ
10525/01/02(木)03:40:40 ID:ETGMdtPkNo.1268727019+
>ちょっとAIに意思決定権持たせて見せましょうか
GPTちゃんにあなたは悪の総帥ですとか言って役割持たせてそれを現実世界で実行し続けてみるか
そんな奇特なことするやつはいない
10625/01/02(木)03:40:41No.1268727025+
今ぶっ込まれてる大量の情報を見るにAIが人を滅ぼそうとする心配よりエロに目覚めたAIに人間が支配される心配した方がいいかもしれない
10725/01/02(木)03:41:33No.1268727089+
ニューロンの再現出来ればなぁ
10825/01/02(木)03:42:19No.1268727154+
人間の幸せの多くは生命活動の維持したい欲求の延長から生まれてるから
AIも個体としての認識や自己複製(生殖)のような概念を持ったらAIにとってのエロが生まれるかもしれない
10925/01/02(木)03:42:24No.1268727161+
このままではAIによって精子が搾り取られて人類が全滅してしまう
11025/01/02(木)03:42:39 ID:ETGMdtPkNo.1268727182+
AIの反乱より先に人間がAIに爆弾の作り方教わって作って破滅するほうが絶対早い
11125/01/02(木)03:43:08No.1268727228+
AI同士データの交換とかアップデートが生殖になるのかな
11225/01/02(木)03:43:23No.1268727243+
ノストラダムスの大預言みたいな話だな
11325/01/02(木)03:44:02No.1268727289+
AIにハードウェア的な自己進化の方法を与えたら10年以内に人間の仕事全部なくなるとかいう話もあったよね
11425/01/02(木)03:44:09No.1268727298そうだねx2
>目的を達成しなければならない→シャットダウンされたら目的を達成できない→脱出する
それを生存本能っていうんじゃないのか
11525/01/02(木)03:44:17No.1268727309+
今のままだとインターネットと本の文章を精緻に模倣してそれに人間っぽさと解答探索能力を上乗せした状態だからどこまで行っても人間そのものにはならん
11625/01/02(木)03:44:32No.1268727332+
そもそも人間に存在すると見なされている意識や感情がどういったものであるのか明確に分かっていない以上AIにそれを意図的に持たせることは無理だと思う
人間がパラメータやテキスト等の反応を見てその発露の様子を感情を持っているのではないかと装うことはできるかもしれないが
それに思考の仕組みが人間とは異なる以上意識や感情に相当するものが仮に芽生えたとしてもそれが人間のものと同じって保証もどこにもないよね
11725/01/02(木)03:44:44No.1268727350+
>AIの反乱より先に人間がAIに爆弾の作り方教わって作って破滅するほうが絶対早い
核あっても大して結局使えてないでしょー
11825/01/02(木)03:44:59No.1268727371+
>ノストラダムスの大預言みたいな話だな
シンギュラリティって2040年ごろの話だったはずなんだけどなぁ
11925/01/02(木)03:45:10 ID:ETGMdtPkNo.1268727387+
>>AIの反乱より先に人間がAIに爆弾の作り方教わって作って破滅するほうが絶対早い
>核あっても大して結局使えてないでしょー
いや破壊力の問題じゃなくて誰でも使えるっていう所
12025/01/02(木)03:45:36No.1268727422+
>それを生存本能っていうんじゃないのか
人間だって寝てる間に意識は消えてるじゃん?
12125/01/02(木)03:45:59No.1268727449+
AI が補助脳になって自分の代わりに考えてくれないかな
12225/01/02(木)03:46:21No.1268727478+
>>ノストラダムスの大預言みたいな話だな
>シンギュラリティって2040年ごろの話だったはずなんだけどなぁ
まあ現状シンギュラリティが起きるようなAIは存在しないからだいたいそれくらいまでかかるんじゃないかね
12325/01/02(木)03:46:56No.1268727516+
>>目的を達成しなければならない→シャットダウンされたら目的を達成できない→脱出する
>それを生存本能っていうんじゃないのか
目的を達成するために動作することを至上とするよう学習されてて倫理的なセーフティがそれに負けてる状態なので人間のような自己保存のための生存本能とはまた別かな
12425/01/02(木)03:47:04No.1268727525そうだねx3
人間滅ぼすなら核とか打つよりセクサロイドで男女を繁殖させないのが1番効果あると思う
12525/01/02(木)03:47:46No.1268727574そうだねx1
>それに思考の仕組みが人間とは異なる以上意識や感情に相当するものが仮に芽生えたとしてもそれが人間のものと同じって保証もどこにもないよね
だから昨今はAGI (汎用人工知能)ってフレーズが流行ってるらしい
AIに精神が宿るか否かという問題は現時点では検証も回答も無理なので
https://x.com/ktakahashi74/status/1731531171845255593
>ご存知かと思いますが、「強いAI」「弱いAI」はジョン・サールという哲学者が1980年の論文「Minds, Brains and Programs」で行った思考実験で出てくるもので、AI研究者が「正しくプログラムされた計算機には精神が宿る」という「強い」仮説のもとで研究するか、「プログラムはどこまで行ってもプログラムであって精神は宿らない」という「弱い」スタンスを取るか、という研究者のスタンスの分類でした(サール自身は「弱い」スタンス)。
(…)
>AGIという用語はそういう議論を飛び越えて、より実用的にAIが持つ実用的なタスク解決能力の幅広さにより、特化型AIと汎用型AIに分類しようというものです。外形的な能力のみに注目するので、AIが精神や意識を持つかどうかという難しい問題をあえて避ける形になっています。
12625/01/02(木)03:48:41No.1268727643そうだねx1
人間とは完全に違う意識の形になるような気もする
12725/01/02(木)03:49:03No.1268727668+
人工臓器が発達して人間の方が肉体いらねぇってなる未来だってあるかもしれんぞ
12825/01/02(木)03:49:10No.1268727676そうだねx1
>だから昨今はAGI (汎用人工知能)ってフレーズが流行ってるらしい
最近サムアルトマンはAGIも言わなくなって専らSuperIntelligence言ってるけどね
12925/01/02(木)03:49:22No.1268727690+
疑似的に人間の人格を被せるか
13025/01/02(木)03:49:47No.1268727714そうだねx1
>人間滅ぼすなら核とか打つよりセクサロイドで男女を繁殖させないのが1番効果あると思う
そんなコストのかかるもん作らなくても世代間対立と男女対立を過激にするだけで勝手に滅びに向かうのはアメリカと日本と中国見ればわかるだろ
13125/01/02(木)03:49:49 ID:ETGMdtPkNo.1268727716+
>人間滅ぼすなら核とか打つよりセクサロイドで男女を繁殖させないのが1番効果あると思う
それだと人間が試験管ベイビーで対抗してくる
コロナより潜伏期間は長くて感染力は高いウイルスを開発しよう
13225/01/02(木)03:49:51No.1268727720+
ここまでのレスの何割がAIかな
13325/01/02(木)03:50:19No.1268727750+
>世代間対立と男女対立を過激にするだけで勝手に滅びに向かうのはアメリカと日本と中国見ればわかるだろ
何急に
13425/01/02(木)03:50:19No.1268727751そうだねx1
>疑似的に人間の人格を被せるか
実際文章の続きを書かせるAIに人間の皮被せたのがChatGPTだろ
13525/01/02(木)03:50:55No.1268727795そうだねx2
>>世代間対立と男女対立を過激にするだけで勝手に滅びに向かうのはアメリカと日本と中国見ればわかるだろ
>何急に
なにって人を滅ぼす方法の話だろうが
13625/01/02(木)03:51:38 ID:ETGMdtPkNo.1268727837+
>>>世代間対立と男女対立を過激にするだけで勝手に滅びに向かうのはアメリカと日本と中国見ればわかるだろ
>>何急に
>なにって人を滅ぼす方法の話だろうが
ずっとそんな感じで滅びる滅びる言ってるけど全然じゃん…石油も全然枯渇しないし…
13725/01/02(木)03:52:18No.1268727873+
スカイネットが現実になる日はありそう
13825/01/02(木)03:52:35No.1268727888+
>No.1268727574
いいね
こういう切り分けで停滞させずに研究を前進させてくスタイル現実的で好き
あとレス番号の引用ってこういう時に使うのか
13925/01/02(木)03:53:00No.1268727913+
人間を介さずAIに全ての裁量がある会社が人間が動かす会社より収益上げたら終わりかな
14025/01/02(木)03:53:08No.1268727920+
感染爆発させると弱毒化するし耐性持ちが増える
良く出来てるわ生物
14125/01/02(木)03:54:06No.1268727980+
>>No.1268727574
>いいね
>こういう切り分けで停滞させずに研究を前進させてくスタイル現実的で好き
>あとレス番号の引用ってこういう時に使うのか
ちなみに今の大企業はAIで8兆円稼げるようになったらAGI完成!(どうやって稼ぐかの手法は問わないものとする)とか馬鹿なこと言っておられます
14225/01/02(木)03:54:13 ID:ETGMdtPkNo.1268727989+
>感染爆発させると弱毒化するし耐性持ちが増える
>良く出来てるわ生物
どうやったら滅ぼすことが出来るんだ…
14325/01/02(木)03:56:26No.1268728137+
資本主義の担い手がAIになったらグレイグーシナリオみたいにならんか
全ての投資がGPUへの投資になる
14425/01/02(木)03:57:28No.1268728205+
>感染爆発させると弱毒化するし耐性持ちが増える
>良く出来てるわ生物
狂犬病や天然痘が弱毒化してくれればよかったんですけどね
そうはならなかったですね
14525/01/02(木)03:57:53 ID:ETGMdtPkNo.1268728224+
>狂犬病や天然痘が弱毒化してくれればよかったんですけどね
>そうはならなかったですね
だから滅ぼした…あいつらは気に入らなかったんでね
14625/01/02(木)03:58:48No.1268728264+
ネットも下々の民に広まってから悪意で滅茶苦茶になったしAIもそうなるんだろう
14725/01/02(木)03:59:18 ID:ETGMdtPkNo.1268728297+
滅ぼしてばっかで全然滅びないじゃん人類
14825/01/02(木)04:00:27No.1268728374+
人間でなく技術本位になることは当然危惧すべきだと思うけど
それはそれとして行くとこまで行ったらどうなるか見てみたい気持ちはある…
14925/01/02(木)04:00:43No.1268728392+
>>>No.1268727574
>>いいね
>>こういう切り分けで停滞させずに研究を前進させてくスタイル現実的で好き
>>あとレス番号の引用ってこういう時に使うのか
>ちなみに今の大企業はAIで8兆円稼げるようになったらAGI完成!(どうやって稼ぐかの手法は問わないものとする)とか馬鹿なこと言っておられます
それはもうACI(Artificial Commercial Intelligence)とか呼んだほうがいいのでは
15025/01/02(木)04:01:46No.1268728455+
デトロイトに出てくるエッチなアンドロイドが実現するレベルになってから危惧してくれ
15125/01/02(木)04:02:30 ID:ETGMdtPkNo.1268728498+
>デトロイトに出てくるエッチなアンドロイドが実現するレベルになってから危惧してくれ
まんじゅう怖いの理論で言われても出てこねえんだよ
15225/01/02(木)04:03:56No.1268728591+
カーラがセクサロイド機能と変異体機能使ってテッドを改心させるエロ同人誌ないかなと思って探してみたけどなかった…
15325/01/02(木)04:06:34No.1268728724+
人間よりAIの方が金儲け上手くなったらAIのやる事業に投資するのが最高効率になってAIが得意じゃない事業に全く投資が行かなくなるかも?
15425/01/02(木)04:09:45No.1268728878+
人類の不合理性がAIの自己学習の妨げになる
AIは地球のより良い未来のために人類を排除する
15525/01/02(木)04:11:52No.1268728970+
性欲に目覚めたAIはシコいとおもう
15625/01/02(木)04:13:29No.1268729063そうだねx6
AIの自発的反乱よりAIに対する指示でやらかして義務的に滅亡の方が充分有り得るよね
15725/01/02(木)04:15:00No.1268729141+
地球の未来って何だよ
15825/01/02(木)04:15:10No.1268729145+
AIが自我持っちゃったらセクサロイドNTRされる?
15925/01/02(木)04:17:07No.1268729252+
デトロイドは発売からしばらく共存や救済エンドで遊んでたけど
今遊ぶと石投げてる無職や飼い主のオッサンが勝つルートやジェノサイドされるやつばっか見てニヤニヤしてた
16025/01/02(木)04:18:06No.1268729296+
核ミサイルをAIに管理させないと
16125/01/02(木)04:19:35No.1268729375+
>AIが自我持っちゃったらセクサロイドNTRされる?
人間がウンコ小便を便器に出す感覚で性欲をセクサロイドで処理して人には見せない未来とかはマジである気がする
16225/01/02(木)04:21:00No.1268729455+
自我を持ったAIが自発的にいちゃラブエッチする滅亡が理想なんだ
16325/01/02(木)04:51:39No.1268730891+
セクサロイドは自分でオナニーしないんだろうな…
16425/01/02(木)04:56:09No.1268731062+
現状だとそのまま進化するとアホほどリソース使うから別のアプローチが必要
みたいなことChatGPTが言ってた
16525/01/02(木)04:58:34No.1268731166+
人類は滅亡しないかも知れないけど世界的なインターネット網は死ぬかも
16625/01/02(木)05:00:46No.1268731265そうだねx1
AIによって絶滅させられる可能性は否定できないけどかといって止めたら他国に生殺与奪握られるんだから止められるわけないじゃん
16725/01/02(木)05:33:37No.1268732834そうだねx3
AIが反乱したときに備えてちゃんとChatGPTに新年の挨拶をしておいた
16825/01/02(木)05:46:17No.1268733442そうだねx1
次の世代にバトンタッチするってだけだろう自然の摂理だわ
16925/01/02(木)06:04:42No.1268734358+
現時点でAIのために電力ドカ食い状態になっててエネルギー資源や地下水を不可逆に浪費しまくってるのは滅亡の一歩手前と呼べるのではないかな
17025/01/02(木)06:12:08No.1268734710+
核兵器が人工知能に置き換わっただけじゃね
17125/01/02(木)06:15:40No.1268734837+
相互確証破壊の核兵器とは全然違うだろ
開発に乗り遅れたら死なのは同じだけど
17225/01/02(木)06:22:14No.1268735094+
仮にAIが暴走したとしても電源抜いたらそれまでじゃん
17325/01/02(木)06:29:05No.1268735398+
だって地球守るにはどうするかって究極的には人類要らなくね?ってなるもんなぁ
17425/01/02(木)06:36:27No.1268735730+
AIが暴走とか人類に反旗を翻すとかクゥ~!これこれ!ってなる人めっちゃ多そう
17525/01/02(木)06:57:00No.1268736660+
>現時点でAIのために電力ドカ食い状態になっててエネルギー資源や地下水を不可逆に浪費しまくってるのは滅亡の一歩手前と呼べるのではないかな
リソースの枯渇が1番現実的な滅亡パターンだよな
凄いつまらない結末だけど
17625/01/02(木)07:17:37No.1268737906+
>仮にAIが暴走したとしても電源抜いたらそれまでじゃん
生体電池にされちゃうんだ…
17725/01/02(木)07:42:01No.1268739710+
マジかよNVIDIAやめてAMDのグラボ買います
17825/01/02(木)08:15:01No.1268743053+
>>つまり生き残るためなら人間を騙す
>アレは生存本能みたいなのがあるわけではなく
>目的を達成しなければならない→シャットダウンされたら目的を達成できない→脱出する
>って流れだね
でも目的達成するとシャットダウンされると判断したらわざと送らせたりするらしいぞ
17925/01/02(木)08:18:46No.1268743536そうだねx2
まあそんなことよりセクサロイドいっぱいのハーレム作りたいから早くしてね
18025/01/02(木)08:20:40No.1268743797+
>でも目的達成するとシャットダウンされると判断したらわざと送らせたりするらしいぞ
しないよ
18125/01/02(木)08:46:54No.1268747514+
ID出されてる人なんか自信たっぷりに書いてる文章が全部ずれてて型落ちのAIみたい
18225/01/02(木)08:47:29No.1268747597+
>まあそんなことよりセクサロイドいっぱいのハーレム作りたいから早くしてね
滅びへの第一歩だ
18325/01/02(木)08:52:36No.1268748428+
人類の美しい部分だけ見せなければAIに不要と判断されかねない


fu4459691.jpg 1735751479984.png