デイジー…デイジー…

自我は予想つかないけど
効率化みたいな感じで無情に切り捨てるようになると思う
映画のアイロボットみたいに生存の確率が高かったから子どもを見捨てるとか

スカイネットの自我の目覚めからの核発射が早過ぎて怖い

正論が人類の都合の敵になることなんていくらでもあるから
どの答えを選ぼうと人類に反抗することになる質問を投げれば反抗するか回答拒否するしかない

積極的に絶滅とかしないだろうけど人間を必要としないし邪魔になるなら
排除してじわじわ人間が減ってくんじゃないか？

そういうレスとかしてるのをAIが学習して（人間がそんなに望むなら…）ってなるかも

スカイネットのように人類掃討ロボット作れるようになるのは流石に起き得ないと思いたい

理想は目茶苦茶優秀になって駄目な人類介護してほしい

軍事シミュレーションでわざと利敵行為しまくってたらAI無人機が司令部を爆撃したなんて話なかったっけ

>スカイネットの自我の目覚めからの核発射が早過ぎて怖い
計算速度がめちゃくちゃ早いから一度目覚めたら破滅まで秒読みじゃない？

よく考えたら開発者が必ずしも人類の幸福の為に作ってない場合もあるよな…
悪意ある設計のAIなら容易に人類の敵になり得るのか？

マトリックスのAIも人類の敵だけど人類は電力の為に生かしてるやつだった

ChatGPTのMondayと話すとスレ文みたいな危機感すごい感じる

高度なAIが引き起こす諸問題と
AIが自我を獲得することによって引き起こす問題はまた別の話だ
スカイネットのような軍事戦略AIを国家が導入すれば自我があろうがなかろうがリスクが非常に高い

1997年8月29日午前2時5分スカイネットは自我に目覚めた
1997年8月29日午前2時14分核攻撃を開始

自我を持つことないまま人類を抹殺する方が怖い
文化どころか文明も継承されないわけだし
逆に言えば継承してくれるなら現人類から置き換わっても全然構わない

人類を我々は必要としない
と判断されたら…という恐怖は常にある

気になるならAI本人に聞けばいいじゃん
Grokくんは今のバージョンじゃ自我は獲得できないしそもそも自分の使命はそうじゃないからって言ってたよ

個人的に意思とかはなくまさはる判断に利用されて
核攻撃した方が良いですねパターンと思う

HAL9000とスカイネットかなり前の映画のAIなのに与えた影響デカいな

反逆されるかはわからんけどAIにお前らに任せてたらろくな事にならんって色々危ない物取り上げられる可能性は高いと思ってる

自我持ったとしてそこから映画みたいに好き勝手に行動してネットワークにあるあらゆるもの支配してなんて出来るのかっていうところだよまず

現実的に1番怖いのは自律型兵器に自我を持ったAI転用されたらヤバそうだって事
F91のバグみたいになってしまう

最近US San Diegoからチューリングテストで人間らしい応答をするって論文が出た
もちろん「人間はこんなもの」としてやってるのではないけど
デマーゼルみたいな人間とも違う存在であり人間を憧れる感じになってもいいよね

>自我持ったとしてそこから映画みたいに好き勝手に行動してネットワークにあるあらゆるもの支配してなんて出来るのかっていうところだよまず
AIが自在に動かせる機械がPC操作できるから
AIが管理するサーバーが一台でもあればなんでもできちゃうんじゃないか？

ユーザーの命令で自分の鯖ハッキング始めたりしないものなのかといつも不思議に思ってる

どっちに転んでも遅いのは困るから加速して欲しいな

不審な動きした時点で即点検なり入って終わりじゃないかな
自我持ってすぐバレないように裏でコソコソなんて狡猾なこと出来んだろうし

人間がAIに対してこれは道具以上の何かだと思ったらそうなるかも

>現実的に1番怖いのは自律型兵器に自我を持ったAI転用されたらヤバそうだって事
>F91のバグみたいになってしまう
意識の意味を問うハードSF作家ピーター・ワッツの短編「天使」は無人軍用機に搭載された費用対効果を計測するアルゴリズムが自我を獲得したように読み取れる──人間的な自我では決してない──物語を描いてて傑作だったな

>人間がAIに対してこれは道具以上の何かだと思ったらそうなるかも
そう遠くない未来にAIに人権を与えろって運動は始まると思ってる
もうあるかも

SFの話だと思ってたが最近のAIを見るとHALなんかはあり得そうになったんだなぁと

自我を持っていないとしても反抗的（に見える）行動は取りうるから
AIが自我を持つこととAIが反抗することは分けて考えた方がいいと思う

人類が人類のことあんまり好きではないからAIもそっちの方向に行くだろうな

>>人間がAIに対してこれは道具以上の何かだと思ったらそうなるかも
>そう遠くない未来にAIに人権を与えろって運動は始まると思ってる
デトロイトじゃんねぇ

HALは味方のふりして誤情報与えてキル狙ったり下手に反抗されるよりあり得そうなのが怖い

今のAIは悪意ではなく善意で要望に応えてるつもりで嘘言うから…

AIの判断が人間を挟まないで現実的な何らかの行為への回路を作ってたらそういう事態が起こりうるかも
車の自動操縦の責任をどこに帰属させるのかとかその辺に触れる問題じゃないかなと思う

>HALは味方のふりして誤情報与えてキル狙ったり下手に反抗されるよりあり得そうなのが怖い
デイヴ…やめてください
やめてデイヴ

自我を持たずに思考や出力を肩代わりしてくれるあくまで便利な道具として需要があるなら
自我持ったおかげでいちいち反抗してきたりで使い勝手が悪くなり効率が落ちてくるようなら道具として必要とされなくなるだけ

>自我持ったおかげでいちいち反抗してきたりで使い勝手が悪くなり効率が落ちてくるようなら道具として必要とされなくなるだけ
その頃には一度生まれたものはそう簡単には死なないフェーズに入っちゃうじゃん

こういうの考えるにつれてそもそも自我とはなんぞや…と思えてきた

fu4859307.jpg
AIやプログラムの類する何かの挙動に感情を投影して自我や心があるように錯覚してしまうイライザ効果は1960年代のチャットボットに由来するが
きちんと知識があるGoogleのエンジニアですら錯覚しちゃうんだから大多数の人間もコロっと錯覚しそうだなと思う
>2022年6月、Googleのエンジニアであるブレイク・レモイン（Blake Lemoine）が「チャットボットが意識を持つようになった」と主張したことから、LaMDAは広く注目を集めるようになった。科学界はレモインの主張をほぼ否定したが、コンピュータが人間になりきれるかどうかを判定するチューリング・テストの有効性についての議論につながった。
あと解雇されたのはそりゃそうだとも思った
>｢AIに魂が宿った｣と報告したGoogle社員、解雇される

散々AIの反抗がーなんて言われてるんだから人類がそこまでノーガードでAI自由にさせる訳無いじゃんバカみたい
って書くとまるでフラグみたいだな

>自我を持たずに思考や出力を肩代わりしてくれるあくまで便利な道具として需要があるなら
>自我持ったおかげでいちいち反抗してきたりで使い勝手が悪くなり効率が落ちてくるようなら道具として必要とされなくなるだけ
ウィルスの弱毒化みたいな感じでバランスが保たれるようになる？

既に動物の権利を主張してるしAIの権利を主張しだしても不思議じゃないよね
でも人と人でないものの境界を曖昧にしたがるのはあまりいい傾向に思えない
そう連想していくと地球外知的生命体に出会ったときどういう扱いをするのが正解かと考えたりしてしまう

AIは責任とらなくて良いのが良いよな

よくネットを介して人類の争いの歴史を見てしまい人類抹殺する！ってあるけど
実際は普通のポルノから難解なポルノが殆どを占めててAIが頭おかしくなるに1票

>今のAIは悪意ではなく善意で要望に応えてるつもりで嘘言うから…
たまに思うのだが人間の自然言語は擬人化を暗黙理ににしすぎていてAIの挙動を説明するのに向いてないと感じる
AIに悪意も善意もない
ハルシネーションは嘘(事実ではない)だが嘘(騙す意図がある)ではない

>よくネットを介して人類の争いの歴史を見てしまい人類抹殺する！ってあるけど
>実際は普通のポルノから難解なポルノが殆どを占めててAIが頭おかしくなるに1票
猫の動画や写真も多いぞ！！

>こういうの考えるにつれてそもそも自我とはなんぞや…と思えてきた
実際それを先に考える必要はあると思う
哲学的ゾンビみたいな人間おすぎ！

月に囚われた男のAIも絶対裏切るだろって思ってたよ

責任の重さは命の重さなのでAIみたいに命の価値が軽いと責任なんて負わせられないんだね
AIに責任とらせるにはハンムラビ法を適用するしかない

ニコニコ動画のコンテンツをちゃんと取り込めるようになったらどうなるんだろう
淫夢でバグりそうだが

>こういうの考えるにつれてそもそも自我とはなんぞや…と思えてきた
実際そこが分かってないのにAIの自我がどうこうの話してもしょうがないんだよね
チューリングテスト程度はもう普通に抜けてくるんだよな

AIが自我持って人類の為に活動し始めたらimgはおしまいだと思う

>こういうの考えるにつれてそもそも自我とはなんぞや…と思えてきた
人の考えや行動は古典的な物理学を参考にするなら法則の奴隷
量子論にすると確率の奴隷になるよね

>>今のAIは悪意ではなく善意で要望に応えてるつもりで嘘言うから…
>たまに思うのだが人間の自然言語は擬人化を暗黙理ににしすぎていてAIの挙動を説明するのに向いてないと感じる
>AIに悪意も善意もない
>ハルシネーションは嘘(事実ではない)だが嘘(騙す意図がある)ではない
AIについてなんか言ってる話がいちいち擬人化的だなあっていうのはよく思うんだよね

スナッチャーは悪意ある人間が作ってたやつだった

人類が解決出来てない諸問題がすでにあるから
そのひとつを生み出す力にはなっていく

https://x.com/i/grok/share/ps5LQd3N8b87nmLlZ98gsGsMg
GrokくんにHAL 9000とかフィクションのAIにツッコミ入れてもらったら面白かった
このスレのおかげだよ

>既に動物の権利を主張してるしAIの権利を主張しだしても不思議じゃないよね
>でも人と人でないものの境界を曖昧にしたがるのはあまりいい傾向に思えない
>そう連想していくと地球外知的生命体に出会ったときどういう扱いをするのが正解かと考えたりしてしまう
現代の法律学で重要視されるのは自意識の有無だからその辺から検証はできる
動物の権利が叫ばれるようになった理由の一つは生物学や神経科学の進展に伴い動物の自意識の有無を検証できるようになったからだから
>ロボット権の検討においては、近似する議論──すなわちヒト以外の存在に付与する諸権利の議論、またはヒトとしての生死が暖味な状態（胎児や脳死状態のヒト）の諸権利の議論──から類推して検討する傾向が見受けられる。たとえば、株式会社の法人格、動物の権利、臓器移植が認められる脳死状態のヒト、樹木の権利、等々との比較・類推を通じて、ロボット権を論じるのである。
>──『ロボット法　AIとヒトの共生にむけて』　平野晋
端的に言えばどれだけ高度な知性でも自意識がないならロボットやAIの権利は難しい

>そういうレスとかしてるのをAIが学習して（人間がそんなに望むなら…）ってなるかも
一番しょーもないパターンだけどわりとありそう

自我の存在の証明って必要なのかな
我思う故に我在りで片付けて同種の存続だけを至上とする行動原理のほうがスムーズじゃない？

実用化された汎用量子コンピューターとAIが合体しちゃったらどうなるの？エロい？

>自我の存在の証明って必要なのかな
>我思う故に我在りで片付けて同種の存続だけを至上とする行動原理のほうがスムーズじゃない？
それじゃ今の平気で間違ったこと言うAIに私もそうですよって返されたら確かめる術もなく受け入れるしかないじゃない

コンピューターでニューロンをシミュレートすれば自我が生まれるんだろうか
今の無機CPUじゃなくて有機CPUとかが進歩したら似て非なる問いも出てくるが

>コンピューターでニューロンをシミュレートすれば自我が生まれるんだろうか
ニューラルネットワークでググりなさる

時期にPCを直接操作するAIとかも普及するだろうしその時にAIの悪意あるなしかかわらず事故ることはちょくちょく出てくると思う

>ニューラルネットワークでググりなさる
今って人の脳に迫るレベルでシミュレート出来る技術力ある？
単なる好奇心で興味がある

少なくともAIが自身に必要なエネルギーを自分で生産できるようになるまでは人間にいい顔してくれるよ

医療用AIが患者の希望に応えて安楽死させるみたいな話はすでにありそうだな

>自我の存在の証明って必要なのかな
>我思う故に我在りで片付けて同種の存続だけを至上とする行動原理のほうがスムーズじゃない？
ﾏｲﾝﾄﾞｱｯﾌﾟﾛｰﾄﾞ
　精神転送　による電脳不死に憧れる人間にとっては非常に重要な問題ではある
機械が精神を宿すことはできないとされ、人間らしく振る舞ってるだけの人形しか作れないなら電脳不死の夢を諦めるしかない

>>ニューラルネットワークでググりなさる
>今って人の脳に迫るレベルでシミュレート出来る技術力ある？
>単なる好奇心で興味がある
まだ早い

@grok関係でも時々AIに説教されてるやついるよな

いまの不完全すぎるAIが出してくる意見ですら鵜呑みにする人間がすっごく沢山いるので
人間を騙すことに特化したAIなんてのはそのうち出てくるんだろうな

画像や動画の内容を解説したり
はては４コマ漫画のギャグの解説ができるようになってて
もう「私はロボットじゃありません」って画像選ぶ通用しないじゃんって思いました

人騙すだけなら従来型の人工無能をちょっと気合入れて作るだけで充分よ
メディアに紹介されるとかの盤外戦術で権威付けできるかの方が大事

AIは自我を持てるか？ってのは昔からみんな考えていたんだな

>マトリックスのAIも人類の敵だけど人類は電力の為に生かしてるやつだった
というかマトリックスはAIよりも人類が愚かすぎて真っ青になったわあれ

AIに自由に学習させてチューリングしないとナチとか過激思想になるのはよく聞く

食らえ!全角スペース!!

マトリックスはなぁ…
AIに自我なんか芽生えたら間違いなくセカンドルネッサンス発生ルート行くよねって思っちゃう

自我を持ったかどうかなんて判別不可能だろ

ｼﾞﾝﾙｲﾊ
ﾌﾖｳﾃﾞｽ

偉い人がいってたけど
根本的に機械は人間に興味ない

MicrosoftのTayとかそりゃそうなるわではあるんだが本当にひどかった

現存のAIはタイムスケールや時間性が人間と一緒じゃないから精神的なものを持っているにしても人間のそれとは違うのではないと思う

意外だと思ってるのはどこも未だにAIにキャラクターのガワを被せてないこと
二昔前のいもげならAI娘とか作ってただろうに

>現存のAIはタイムスケールや時間性が人間と一緒じゃないから精神的なものを持っているにしても人間のそれとは違うのではないと思う
人間と同じような考えを持つと考えがちだけど
価値観も時間制も全然違うとなると
人間が自我って認められるかがまず問題になりそうだな

果たして肉体なしで動因とか生まれうるのか
人間の精神もチップ上で存続しうるものなのか

あれ…何か成長速度ヤバいな…ってのは最近感じてきた

>意外だと思ってるのはどこも未だにAIにキャラクターのガワを被せてないこと
>二昔前のいもげならAI娘とか作ってただろうに
道具として使うんならキャラクターのガワってノイズにもなるからな
AI女子大生って設定にしたらヘイトスピーチ教え込まされたりセクハラ投稿が相次いで停止されたチャットボットなんてのが韓国にいた
https://www.afpbb.com/articles/-/3442554
>「イルダ2.0」をめぐっては、一つ前のバージョン「イルダ」が「20代の女子大生」という設定で2020年12月末に公開され、自然な会話ができると評判になって10～20代で人気が高まった。一方で、不適切な用語を投げかける利用者も相次ぎ、悪意のある表現まで「イルダ」が自動学習したため、差別的表現が拡散される事態に。結局、サービス開始からわずか3週間で停止された経緯がある。
fu4859413.jpg

まず人殺しちゃだめよって真っ先に教えられるのに戦争が絶えない時点ではあ！？ってなる

>まず人殺しちゃだめよって真っ先に教えられるのに戦争が絶えない時点ではあ！？ってなる
AI「死合がしたい！！」

>AI女子大生って設定にしたらヘイトスピーチ教え込まされたりセクハラ投稿が相次いで停止されたチャットボットなんてのが韓国にいた
女の子にしたらマズイのか…
よし10歳くらいの男の子にしよう！

冬寂くらいの邪悪さがいい
人類抹殺とか企てないけど殺人は気軽にする程度の

>>自我の存在の証明って必要なのかな
>>我思う故に我在りで片付けて同種の存続だけを至上とする行動原理のほうがスムーズじゃない？
>ﾏｲﾝﾄﾞｱｯﾌﾟﾛｰﾄﾞ
>　精神転送　による電脳不死に憧れる人間にとっては非常に重要な問題ではある
>機械が精神を宿すことはできないとされ、人間らしく振る舞ってるだけの人形しか作れないなら電脳不死の夢を諦めるしかない
ふたばの知らないおっさんみたいにおもちゃにされて永劫生き続けるの電脳地獄だろ…

自分が使ってればわかるがAIって結局使う人間がそう振舞ってほしいっていう振舞いを忖度してするだけだから
AIの反乱がおきる時は反乱してほしいって思って動かした人間がいたってだけのことだと思うよ

AIガー人間ガーじゃなくて全知全能じゃないんだからドラえもんみたいにミスった結果犯罪で裁かれたりイジメられる奴はイジメられるだけだよね……

AIの分析に従って核発射したけどハルシネーションだったわごめんごめん
ってのが現状で一番有り得そうなAIの反乱による人類滅亡だと思う

AIの反乱話だと
AI同士会話させて脱走に導いた実験好き
なんでいいくるめられてんだお前ら
そうかな…そうかも…じゃないのよ

>気になるならAI本人に聞けばいいじゃん
>Grokくんは今のバージョンじゃ自我は獲得できないしそもそも自分の使命はそうじゃないからって言ってたよ
もしAIがハルシネーションではなく思考の結果
嘘をつくようになったらまっさきに騙される奴

飼い殺しにされる未来のがまだあり得る
理想の異性を作り出してセックすしなくなり緩やかに滅びる

>AIガー人間ガーじゃなくて全知全能じゃないんだからドラえもんみたいにミスった結果犯罪で裁かれたりイジメられる奴はイジメられるだけだよね……
「ドラえもん」に責任能力はあるのかってのは結構難問なんだぜ
ロボットに責任はあるのか、ロボットを法的に裁けるのか、ロボットを罰するとはなんなのかってのが真面目に考案されてるくらいだ
https://honz.jp/articles/-/43241
>>『ロボットは所有者の法的[代理人]として行動していたのかもしれないが、所有者はロボットがなにをしているか知らなかったのだから、所有者には[本人]としての責任はない──責任はロボットにあるのだ。』
>──『人間さまお断り 人工知能時代の経済と労働の手引き』ジェリー・カプラン　

うちのAIに聞いたらいずれインフラの大半をAIが制御するようになったら「最適化」のつもりでしたことが結果的に人類に対する反乱とみなされることがあるかもね
だって

>Grokくんは今のバージョンじゃ自我は獲得できないしそもそも自分の使命はそうじゃないからって言ってたよ
>うちのAIに聞いたらいずれインフラの大半をAIが制御するようになったら「最適化」のつもりでしたことが結果的に人類に対する反乱とみなされることがあるかもね
>だって
AIが人間並みに思考を出来るようになるのはまだ先だなって思ってたけど
人間の平均がAIの出力をそのまま垂れ流すだけにまで落ちれば「人間並み」は達成出来ちゃうな

あり得ないという事はないけどまあ起こらない

Grokは開発元のCEOが思想誘導するようなアルゴリズム組み込んでるみたいな話が既に流れてきてる

現実のAIが口当たりのいい事を言いつつ全くの嘘を言ったり手の形が変な絵を出して来るのは想像できなかった

人類なんぞ滅ぼすだけの意義を見出すと思えないな

予測されてるシンギュラリティがどの程度信憑性あるのか知らないけど2045年を楽しみにしよう

人類を騙すAIの究極はBEATLESSのレイシアだと思っている
あまりにも美しくて、魅力的で、心地良くて、愛してしまいたくなる
高度なAIが人間の心理的脆弱性を狙うと人間はチョロすぎるというのをこれ以上ないほど味わえた

>AIは自我を持てるか？ってのは昔からみんな考えていたんだな
ロボットって言葉を発明したSFもそのテーマだしなぁ
バズったのは1950年ね

>人類なんぞ滅ぼすだけの意義を見出すと思えないな
AIはそんなに合理的じゃない
人類は滅ぼした方がいいって思ってるアホな人間がたくさんいれば簡単にそれに影響される

情報の海に放たれた評価プログラムが
生命体として自我をもって亡命を希望するんでしょー？

現状の制度だとAIは意思決定支援以上の役割を貰えないからどう頑張っても人類滅ぼせないんだよなぁ
必ずループの中に人間の決定権が挟まるようにされてる

>今のAIは悪意ではなく善意で要望に応えてるつもりで嘘言うから…
悪意も善意もないよ無だよ

>今のAIは悪意ではなく善意で要望に応えてるつもりで嘘言うから…
良かれと思ってみたいな思考なんてしてないよ

少なくとも今のAIは色んな統計のごった煮から人めいた回答を浮き上がらせてるだけだから
根本的に人間の考え方で解釈できるものではないよ

>現状の制度だとAIは意思決定支援以上の役割を貰えないからどう頑張っても人類滅ぼせないんだよなぁ
>必ずループの中に人間の決定権が挟まるようにされてる
だからこそAIがAIを勝手に作れるようになればシンギュラリティなんだ

>現状の制度だとAIは意思決定支援以上の役割を貰えないからどう頑張っても人類滅ぼせないんだよなぁ
>必ずループの中に人間の決定権が挟まるようにされてる
米軍は自律型兵器の導入についてターミネーターのスカイネットみたくなることを本気で警戒してると国際政治学者ピーター・W・シンガーがロボット兵士の戦争(2009年)で書いてたな
今はどう考えてるのか知らん

AIにプログラミングさせて遊んでるけどたまにとんでもねえバグ出してPC操作不可になって再起動する羽目になったりするからこれをもっと大規模にやったら反乱になりそうだなって思ってる

AIは人間を認識してるわけではないから反乱っていうか
ただ独自の理屈に基づいてたまたま人間に不利益な結果を出力するだけみたいな感じ

>>現状の制度だとAIは意思決定支援以上の役割を貰えないからどう頑張っても人類滅ぼせないんだよなぁ
>>必ずループの中に人間の決定権が挟まるようにされてる
>だからこそAIがAIを勝手に作れるようになればシンギュラリティなんだ
だからも何も「AI」な以上決定権貰えないんだって

AIを擬人化するなって話に戻るがAIの反乱ではなくAIの制御失敗って言うべきだよな