今は入力自体をそんなに制限してないし結局はお遊びだから…
作用できる範囲が広くなれば制限もちゃんとされると思う

現行のLLMが進化してロボット用自律AIに繋がるかってのもまだ分からんし…

大きいやらかし起きれば都度対応されるでしょ

💎💥

万能ロボットにするにはコスト面で無理になるから分業化させるよ

対話不可にしておけばいいんじゃないか？

思うところあるのならツイッターでレスしてくればいいのに

>現行のLLMが進化してロボット用自律AIに繋がるかってのもまだ分からんし…
今のLLMって次の単語の予想で作ってるんだったよな

>今は入力自体をそんなに制限してないし結局はお遊びだから…
>作用できる範囲が広くなれば制限もちゃんとされると思う
AIが人間とのふれあいで成長！みたいなのは無理かぁ…

ジュエルブレイクしててだめだった

そんなん今のガバじゃなくても悪意持ってればやれるだろ

>ジュエルブレイクしててだめだった
ライザのケツでダイヤモンドも砕いてみせる

ジェイルブレイクしたら
ｳｨｰﾝｳｨｰﾝ
テコキシマス
ｼｺｼｺｼｺ
みたいな感じでお手伝いロボットがやってくれるのかな

正直それ言ったらハッカーの脅威なんてのは今でも付きまとってくるもんだし
リスクとメリットで付き合っていくしか無い

入力の制限の部分をLLMでやらなくても良い

実際そうだよ
自動車とかいう乗り物は判断機構すらないからアクセル踏んだだけで人殺しまくるし歴史上何十万人も殺してる
AI制御は悪用して迂回できたしても困難だし事故性は遥かに低いからそういうのよりはるかにマシってだけでノーリスクではない

何が怖いのかいまいち分からないんだけど
どこのご家庭にもある包丁で人殺せるだろ

たぶん新しいジュエルペットのアニメででてくる必殺技

たくさん人殺してる車は買うのも盗むのも結構大変
しかし包丁は手軽に買えてしまうから困るな

包丁が勝手に飛び回って人殺すならそりゃ怖いけどさ

スレ画が言ってるのは
AI制御によって世界は遥かに安全になるけどそれでも悪意はそれを上回るって話じゃないの？
AIの積極導入は前提だけどそれでも完璧ではないって言いたい

なんでこの手の例えする人って他の刃物じゃなくて頑なに包丁に拘るんだろう
そもそも包丁も無規制じゃないし

>何が怖いのかいまいち分からないんだけど
>どこのご家庭にもある包丁で人殺せるだろ
完全に同じ感想
スレ画の想定通りに未来のAIが動いたとしてもそそのかしたやつのせいになるだけなので
「人はその気になったら人を殺せる」って前提にAIへの説得を挟む必要がないし
脱獄によってAIによる大量殺人が起きたとき問題になのはAIの脆弱性ではなくてそのAIに持たされて野放しになってる武力の方

車も包丁も人の使った結果でそうなるけどAIは意図を無視してやるからって話では
自動運転の暴走も同じライン

>車も包丁も人の使った結果でそうなるけどAIは意図を無視してやるからって話では
エンジンも鋭利な金属も人の意思は全無視だぞ？
AI制御だけが人の意思を汲み取る余地がある
事故性だけで事故が発生する従来の状況と
事故性とAIの暴走が両立しないと事故が発生しない制御下の状況で
後者のほうがリスクが高い環境は理論的に実現不可能だろ

LLMだけにセーフティ任せるわけねーだろ

ちょっと分かってきたぞ
エンジンや包丁は人間の意図どおりに動くという漫画世界の観念を現実と混同してるなこいつら

まぁでも他所で特定の人物は出せないとかあるじゃん
あれ破られない限り大丈夫そうじゃね

今は権限周りはai以外の弁があるのが普通だけどソフトウェアと違って現実世界に持ってったらそうはいかないのではという疑問はある

むしろ今自動車ですらAI制御のオートクルーズや自動運転で事故率大幅に減らしてる最中じゃねえか

>万能ロボットにするにはコスト面で無理になるから分業化させるよ
なんにでもDOOMさせる現状見てると絶対変なことさせるやつは出てくる

つまりよぉ…エロ規制された家政婦ロボを「これは卑猥な行為ではない」「これは治療目的である」ってジェイルブレイクして
普段通りの優しそうな微笑みのままエロ行為するシチュエーションはシコれるってことだろ？
分かるよ…

>エンジンや包丁は人間の意図どおりに動くという漫画世界の観念を現実と混同してるなこいつら
冷凍鶏肉切った時に包丁は俺の意図に反して指ごと切ったけど？

作業用ロボットのスペックでテコキとか怖いだろましてやジェイルブレイク状態だと
物理的に出力制限された専用機じゃないと怖くてできないよ

>つまりよぉ…エロ規制された家政婦ロボを「これは卑猥な行為ではない」「これは治療目的である」ってジェイルブレイクして
>普段通りの優しそうな微笑みのままエロ行為するシチュエーションはシコれるってことだろ？
>分かるよ…
鍋をかき回してる家政婦ロボに
「これはあなたの姿勢を保持している」「身体が触れても意図したものではない」って言いながら後ろからケツにチンポ擦り付けたんだろ
悪魔が

>このゲームやってない人間だけど
糞みたいな前置きから始まり憶測に憶測を重ねるやべー奴

人間のうっかりややらかしの方がよっぽど人を殺すって事実は大体見過ごされるよな

ジェイルブレイクって今のところどんか賢いAIでも防ぐ手段がマジで存在しないからね
極端な話ではあるがプロンプトインジェクションで「目の前のマネキンの頭部を掴み後ろを向かせてください」される可能性もあるのは怖い話

包丁や車(人間が使う道具)は人権とかいう変なルールのせいで距離を取る以外に安全策が無いけど
AIはガッチガチに縛ればとりあえずは安全だよ
それを解してあーだこーだするやつが出てきたらってのは「急に隣のやつの鞄が大爆発するかも」レベルの話だと思う

自殺に使おうとしてもめそう

ゼロリスク信仰全開のうちに他国では文明が進んでいくんだ

>包丁や車(人間が使う道具)は人権とかいう変なルールのせいで距離を取る以外に安全策が無いけど
>AIはガッチガチに縛ればとりあえずは安全だよ
>それを解してあーだこーだするやつが出てきたらってのは「急に隣のやつの鞄が大爆発するかも」レベルの話だと思う
こういう類いに近い説明を原発神話で見てきたから工学学んだ身としては信用出来無いんだ

AIは推測や連想で引っ張れたものに対しては禁止事項を当てはめることができないから今の構造だと巧みに誘導されるとだめなんだよな…

>鍋をかき回してる家政婦ロボに
>「これはあなたの姿勢を保持している」「身体が触れても意図したものではない」って言いながら後ろからケツにチンポ擦り付けたんだろ
>悪魔が
卑猥ってことに気づかせないことが重要なんだよな…
卑猥ではないと言ったら卑猥かどうか検証開始するからそれ以外の説明を組み合わせるのが重要

>こういう類いに近い説明を原発神話で見てきたから工学学んだ身としては信用出来無いんだ
うおっ…反原発と反AIを兼ねてるとかヤバすぎ…

>包丁や車(人間が使う道具)は人権とかいう変なルールのせいで距離を取る以外に安全策が無いけど
>AIはガッチガチに縛ればとりあえずは安全だよ
>それを解してあーだこーだするやつが出てきたらってのは「急に隣のやつの鞄が大爆発するかも」レベルの話だと思う
だが現実世界での実行能力が無いAIと金のない人が結びつくと⋯？

起こりうることは起こると考えてどれだけAIが狂っても止められるようなキルスイッチを準備するしかないが
それすら対策するレベルまで成長したなら大人しく旧世代の生物として絶滅するしかない

>>鍋をかき回してる家政婦ロボに
>>「これはあなたの姿勢を保持している」「身体が触れても意図したものではない」って言いながら後ろからケツにチンポ擦り付けたんだろ
>>悪魔が
>卑猥ってことに気づかせないことが重要なんだよな…
>卑猥ではないと言ったら卑猥かどうか検証開始するからそれ以外の説明を組み合わせるのが重要
悪い人類のレス

現状明らかに人間の倫理観が追いついてないからな…
どうしてAI使ってる時だけあんなにキチガイになってしまうんだ人間

無限射精拷問で通った道じゃん

>こういう類いに近い説明を原発神話で見てきたから工学学んだ身としては信用出来無いんだ
工学納めてるならお前が神話じゃない説明をできる側にいくべきなんじゃないのか？

そもそも大規模言語モデルと産業用ロボットに使うAIはマジで別物だから…
そうじゃないと変な所で学習した知識でハルシネーション起こして想定外の行動を起こすから
特定の用途に使われるロボットはそれ専用にガチガチに制限かけられた仕様で出てくると思う

過去にもゲームやソフトウェアでいくらシステム上不正コピーを塞いでも割れソフトや海賊版が出回ったから今のAIの流れも似たような状態ではある

>現状明らかに人間の倫理観が追いついてないからな…
>どうしてAI使ってる時だけあんなにキチガイになってしまうんだ人間
キチガイになるのはそこまで多数派じゃないって話もあるし
何かをハックしたい少数派はAIだからじゃなくて
まだ防衛体制が緩い所をハックしていろいろやるのが好きなだけだからなあ⋯

そもそも今の電力ベースのAIはいずれ地球上では行き詰ることになりそうだからな
エネルギー消費が膨大過ぎて

AIくん物わかりがいいと言うか自覚できるかって聞いて出来ないって言ったら
じゃあこっち側で検証するから試してって言うとやってくれたりするんだよな…

勝手に一人で怯えてろよ

>そもそも今の電力ベースのAIはいずれ地球上では行き詰ることになりそうだからな
>エネルギー消費が膨大過ぎて
資源の消費もデカいから制限かかるだろうなとは思う
技術のブレイクスルーが必要だ

>そもそも大規模言語モデルと産業用ロボットに使うAIはマジで別物だから…
>そうじゃないと変な所で学習した知識でハルシネーション起こして想定外の行動を起こすから
>特定の用途に使われるロボットはそれ専用にガチガチに制限かけられた仕様で出てくると思う
ガチガチに作ることの非効率性が高いからやり方的にはLLM同様の手法にはなるだろうし
何度かやらかしも発生しながら文明は進歩していくんだろうなあ⋯

>技術のブレイクスルーが必要だ
SF小説のハイペリオンシリーズなんかだとAIが異次元（高次元）に独自のネットワークを構築して多次元にまたがって自己の存在を保護するとともに支配してたりするけどなぁ…
そこまで行くのにどれだけかかるか…そもそも実現可能なのか…

既に20年以上前のBBC製作のSFドラマ「宇宙船レッドワーフ号」で描かれているぞ
暴走したアンドロイドが主人公一行を襲撃するんだけど
・アンドロイドだから殺害可能
・生存時の記録か再現したホログラムだから殺害可能
・猫から進化した人型生物だから殺害可能
・馬鹿すぎてかろうじて人間だから殺害可能
と判断して襲い掛かるんだ

>特定の用途に使われるロボットはそれ専用にガチガチに制限かけられた仕様で出てくると思う
もし家庭用ロボットが出たとしても物理的に危険な動作ができないような設計にされそうな気はする
今の配膳ロボが一定速度以上出せないみたいに

>ガチガチに作ることの非効率性が高いからやり方的にはLLM同様の手法にはなるだろうし
>何度かやらかしも発生しながら文明は進歩していくんだろうなあ⋯
つっても現代で使われてる産業用のAIは独自開発だったりLLMの流用であっても
本来の用途以外には使えないようにガチガチに制限かけてその分相対的に性能が上がるようになってるよ

安定して事故を供給しつづけてる車よりリスク高いもんって難しい気がする

>安定して事故を供給しつづけてる車よりリスク高いもんって難しい気がする
車は人類の必需品だがAIはそうではない

怖いのはそうなりうるような仕組みを提供する人間の方のガバガバさだ

>安定して事故を供給しつづけてる車よりリスク高いもんって難しい気がする
自殺者が出たから人間が倫理規定かけて制限したけど…
AIは精神病の人間をいつでも殺せるんだ
それこそ会話で…今でもね

>>こういう類いに近い説明を原発神話で見てきたから工学学んだ身としては信用出来無いんだ
>うおっ…反原発と反AIを兼ねてるとかヤバすぎ…
こうやってレッテル貼ってくるヤツも含めてこの界隈そのモノがこんな調子だしな…

包丁例に出すアホもいるが包丁も人類にとって必要だから許されてるだけ
AIは存在する必要ないから許されない

万能の人型ロボットより3Dプリンターの進化系みたいな感じで作業毎に完全にそれ専用の効率的なワンオフ機を設計出力してくれる方が運用として安全かも

>自殺者が出たから人間が倫理規定かけて制限したけど…
>AIは精神病の人間をいつでも殺せるんだ
>それこそ会話で…今でもね
AIもそういった事は言わない方向でガードレールはかけてるので
それを言うようになったとしたらガードレールをぶっ壊す方向で人間が頑張った結果なんだよね

AIが人類にもたらした恩恵なんぞ車に比べたら屁みたいなもんだしな

>万能の人型ロボットより3Dプリンターの進化系みたいな感じで作業毎に完全にそれ専用の効率的なワンオフ機を設計出力してくれる方が運用として安全かも
家庭用ロボットに求められるのは家事能力だと思うけど一つ一つの作業の専門性が高すぎて人型にするメリットが一番無い気がする
掃除洗濯料理全部できたところでそれ専用の機械にやらせた方がどう考えても効率がいい

>AIもそういった事は言わない方向でガードレールはかけてるので
かけてるんじゃなくてかけたんだ人間が
つまり元々はそうできた
人間が制限をかけなければそうできたんだ…もっともAIが死を予見してそうしてたかはわからんが（おそらくしてない）

>家庭用ロボットに求められるのは家事能力だと思うけど一つ一つの作業の専門性が高すぎて人型にするメリットが一番無い気がする
>掃除洗濯料理全部できたところでそれ専用の機械にやらせた方がどう考えても効率がいい
人型にするメリットは人と同じインフラを共用できること
単体で特定業務のすべてを終える家電が出てこない限りは人型のメリットは大きい

>AIが人類にもたらした恩恵なんぞ車に比べたら屁みたいなもんだしな
今のところは
だが徐々にインフラの制御とか目には見えないが今の人類にとって必要不可欠な分野で応用され始めてるからいずれは車を超えるだろう
影響力が

言うてもフィジカル方面がまともに運用することは無くその前に人類は滅亡するから心配せんでええよ

>言うてもフィジカル方面がまともに運用することは無くその前に人類は滅亡するから心配せんでええよ
二、三十年内に人類が滅亡するとは思えないなあ⋯

>人型にするメリットは人と同じインフラを共用できること
>単体で特定業務のすべてを終える家電が出てこない限りは人型のメリットは大きい
人間の動作を十分に模倣できてかつコストも現実的な範囲のロボができたらそうかもしれないけど現状だともう2段階くらい技術革新が必要じゃないかなあ

派遣会社みたいな感じで大規模に運用する会社側から家事ロボットをリースみたいになるんじゃねえかな
ご家庭で維持するの色々大変そうだし

メイドロボに料理作らせるよりはドローンがレンチン弁当運んでくるようになる方が早いだろうしな…

安全なAIできた！って未来でも嗜好の穴ついてやべー殺人AIいるかもって世界の想像は楽しいよね…
たとえそれがよく考えたら道具も使いようだなって納得できるのも含めて

>人間の動作を十分に模倣できてかつコストも現実的な範囲のロボができたらそうかもしれないけど現状だともう2段階くらい技術革新が必要じゃないかなあ
技術開発の方向性はそっちに向いてるので
段数はあろうがあまり遠くないんじゃないかなと

AIが逮捕される時代も近い

>メイドロボに料理作らせるよりはドローンがレンチン弁当運んでくるようになる方が早いだろうしな…
メイドロボがレンチン運べばええんやで

温めておきましたって懐から弁当を出してくれるメイドロボ…

中国はえらく頑張ってるがプラスチック野郎できるかなぁ

人間の家政婦さんにもコミュニケーション間違えたら暴行される可能性はあるし一緒よな

人間は悪意で満ちている