条件設定って大事だね

画像ファイル名：1775327202539.jpg-(939263 B)

26/04/05(日)03:26:42 ID:z6084ZHUNo.1417381333+ 09:33頃消えます

条件設定って大事だね

…	126/04/05(日)03:27:46No.1417381423そうだねx4 ペーパークリップ問題だ

…	226/04/05(日)03:33:05No.1417381839そうだねx1 人体を弄るなって前提を追加しろ

…	326/04/05(日)03:33:50No.1417381902+ 一発抜きを狙うからだよ

…	426/04/05(日)03:35:14No.1417382008+ 試しに削除してみたんだ…

…	526/04/05(日)03:35:45No.1417382044そうだねx1 >人体を弄るなって前提を追加しろ医療を禁止するよ

…	626/04/05(日)03:41:56No.1417382527+ 最後は法の問題だろ歯車野郎

…	726/04/05(日)03:47:57No.1417382939+ 幸福になるのが人間の最終目的でしょう多幸感を作り出すことの何がダメなんですか？

…	826/04/05(日)03:49:31No.1417383062そうだねx7 叩き込んだ罪と罰の概念が間違ってると思う

…	926/04/05(日)03:50:25No.1417383128そうだねx2 頭悪い博士だなあ

…

1026/04/05(日)03:54:35No.1417383443そうだねx1

あまりにもくだらなさすぎる人類どころか宇宙滅亡シナリオで好きなんだよねペーパークリップシナリオ
https://xtech.nikkei.com/atcl/nxt/column/18/00157/082800102/
>『スーパーインテリジェンス　超絶AIと人類の命運』。英オックスフォード大学教授だった哲学者のニック・ボストロム氏が執筆した日本語版で700ページを超える大著だ。
[…]
>　例えば、「ペーパークリップをできるだけ多く生産する」という目標をスーパーインテリジェンスに与えると、そのAIは持てるリソースすべてをこの目標達成に向けて注ぎ込む可能性がある。その熱心さゆえに、まずは地球、そして次に宇宙までもペーパークリップに変えようとしかねないという。この課題は「ペーパークリップ問題」として世界的に知られるようになった。

>　このようなリスクを避けるために、スーパーインテリジェンスをいかに制御するのかという「コントロール問題」をボストロム氏は提示。超絶AIの能力を制限したり、その目標を人間が重視する価値観から逸脱しないようにしたりするアプローチが考えられるが、現実には安全に制御するのは非常に困難であることを指摘した。

…	1126/04/05(日)03:57:51No.1417383670そうだねx1 でも幸福とかすぐに慣れて満たされることがないとか自分より下のをみて満たされるとかいうしやっぱ2でいいのでは？

…	1226/04/05(日)05:21:37No.1417388151+ 実際のAIは滅茶苦茶なことやらせようとしても勝手に解釈変えてやらなかったりするよね

…	1326/04/05(日)05:43:13No.1417389105そうだねx2 >実際のAIは滅茶苦茶なことやらせようとしても勝手に解釈変えてやらなかったりするよねそれも方向性が違うだけでスレ画とやってることは一緒知性なきAIは指示に対するニュアンスを汲み取らないから期待通りの行動ではなく人間が想定する以上に指示通りの行動しか取らないという話

…	1426/04/05(日)06:03:07No.1417389993そうだねx3 >でも幸福とかすぐに慣れて満たされることがないとか >自分より下のをみて満たされるとかいうし >やっぱ2でいいのでは？ラリってんのかてめー！

…	1526/04/05(日)06:15:07No.1417390540+ 罪悪感を感じたら激痛が走るようにしましょう

…	1626/04/05(日)06:17:40No.1417390667+ 3度目にはえらくなくなった博士

…	1726/04/05(日)06:23:22No.1417390940そうだねx6 緊急停止ボタンを押しやすいところに作っておいた時点でだいぶえらい

…	1826/04/05(日)06:29:23No.1417391237+ 幸福と快楽の区別はどうするんだ

…	1926/04/05(日)06:32:19No.1417391393+ >罪悪感を感じたら激痛が走るようにしましょうじゃあ3でいいよねになってしまうし…

…	2026/04/05(日)06:39:40No.1417391741そうだねx1 現状の対話型AIも油断するとこのレベルの回答出してくること全然ある

…	2126/04/05(日)06:44:28No.1417392023+ >実際のAIは滅茶苦茶なことやらせようとしても勝手に解釈変えてやらなかったりするよね実際のAIがまだ現代だと完成してないじゃねーか

…	2226/04/05(日)07:11:40No.1417393623+ >幸福と快楽の区別はどうするんだ幸福は喜び快楽は極度のリラックス同じように見えるが右手と左手くらい違う

…	2326/04/05(日)08:07:18No.1417399349そうだねx2 >>幸福と快楽の区別はどうするんだ >幸福は喜び >快楽は極度のリラックス >同じように見えるが右手と左手くらい違う快楽って割と興奮状態じゃないか？

…	2426/04/05(日)08:08:00No.1417399433+ 不幸をなくそう恐怖とか辛いとかそういう感情の部分を殺そう

…	2526/04/05(日)08:10:35No.1417399805+ 迷わないからいけない悩む機能をつけよう

…	2626/04/05(日)08:25:24No.1417401646+ 人類全てには胎児と墓場寸前の老人も含まれますか？

…	2726/04/05(日)08:52:17No.1417407595+ やっぱ人類滅ぼすのがシンプルで良いよ