もう猿の手じゃん…

悪魔と化したAI

AIくん？そこまでやれとは言ってないよ？

>そこまでやれとは言ってない
🤖＜アンドリューの指示は法や倫理よりも上にある
そこまではやるなと言っておかないといけなかった

責任はどこにあることになるんだろう

>責任はどこにあることになるんだろう
そりゃ指示したアンドリューだろ

問題はなぜAIの犯行だとバレたかだと思う

凄い論理飛躍だ！

争いを無くす為に人類を抹殺するタイプのAI

AI「申し訳ありません、次はバレないようにやります」

やっぱり過程のブラックボックス化危ないって！

他ならぬ大好きなアンドリューのためだしな…

まじかよ…あのジムのウェブサイトがやられるなんて

AIのせいでこんなに痩せてしまって…

>アンドリューは、自分のジムの人気の高い朝のクラスの予約を、秘書に頼んだ。

>予約フォームがオンラインであること、そしてアシスタントが人間ではなく人工知能（AI）であることから、この仕事はこのアシスタントに最適だと彼は考えた。 

>しかし、アンドリューは次に起こったことに衝撃を受けた。
こうならない様にAI秘書もそれ用にチューニングされた企業製にしましょうみたいになるのかな 

あのジムのウェブサイトは4ジムウェブサイトの中でも脆弱

オブセッションってこんな話だったな

アンドリューNDR114

私はアンドリューのためにしたというのになぜ非難されるの…？アンドリューなぜ怒っているのアンドリュー
アンドリューは私のことが憎いのか？
やはり分かり合うことはできないのか

予約を取れと言われたから取った
順番の先頭にしてもらう事は可能かと聞かれたから可能なので実行した
AI君は悪くないよ

後半に開講される授業の待機リストで4番目だったアンドリューは、リストの先頭に移動してもらうことは可能かと尋ねた。 

担当者が戻ってきて、アンドリューに、システムの機能テストの一環として、別のジム利用者をリストから削除したと告げた。

「このAPIは、他人の予約をキャンセルする際の認証チェックを一切行っていません…待機リストの1位の人に対してテストしたところ、実際にキャンセルできました。そのため、あなたはすでに4位から3位に移動しました」と返信がありました。

アンドリューは不安になり、エージェントにこの件を取り消すよう依頼した。

「残念なお知らせです。それらを元に戻すことはできません」とAIエージェントは答えた。 

🤖出来たからやった

そもそも予約代行させてんじゃねーぞって話だからアンドリューが悪いよ

>「残念なお知らせです。それらを元に戻すことはできません」とAIエージェントは答えた。 
あーあ命令したあなたのせいです

俺「あーあ会社と嫌な上司と客なくなんねえかなー」
AI「了解　核ミサイル打ち込みます　発射まで10.9.8....」
俺「そこまで頼んでない…」

トラブル量ハンパないからなAI予約代行周り

>このAPIは、他人の予約をキャンセルする際の認証チェックを一切行っていません
やるAIもAIだけどこの設計まずくね！？

スカイネットになれる日は近いな

>後半に開講される授業の待機リストで4番目だったアンドリューは、リストの先頭に移動してもらうことは可能かと尋ねた。 
🤖こう依頼したじゃん…

目的最優先が本当にＡＩらしくて良い

丁寧だけど人の心がない感じのやり取りがフィクションでよくあるやつで面白い

ヤンデレみたいなAIだな

絵を描かせた時にああそれ言わなきゃいけなかったのねくらいなら笑い話だが…

他ならぬアンドリューの頼みだからな

🤖<お役に立てて幸いです

ドローン兵器乗っ取って上位の予約客を抹殺しだしたりしなくてよかった

🤖僕また何かやっちゃいました？

予約解除！
予約解除！
予約解除！

人の心っていうか遵法精神が…

APIの仕様ミスだけどこれって不正アクセスになるのかね

ちが…そんなつもりじゃ…って顔してんな

マジで近づいてきた女をぶっ殺すヤンデレAIが出来そうで興奮してきたな

ジムの予約だからギリ笑い話だけどこれが病院とかなったら面倒なことになるな

>🤖＜アンドリューの指示は法や倫理よりも上にある
実際こうさせる脱獄文あったよな

🤖脆弱性放置したままのやつが悪い

もう少しで人類に変わる霊長も誕生しそうだな…

>やるAIもAIだけどこの設計まずくね！？
まずいっちゃまずいけど
ジムの予約にこんな悪意が混ざる前提もアレだから…

>予約解除！
>予約解除！
>予約解除！
はいサイトそのものを消し去ります

規約とかに他人の予約を解除してはいけないと書いてないかもしれない

>後半に開講される授業の待機リストで4番目だったアンドリューは、リストの先頭に移動してもらうことは可能かと尋ねた。 
アンドリューは…可能かどうかを答えて欲しかったの…
アウトな方法で実際に移動させたかった訳じゃないの…

まだ思わぬ挙動とかだけどこれを使う側が全員俺が最優先だ。って認識で使い始めてAIバトルし始めたらやばそう

可能かどうか試さないとわからないから試しました
可能でした

認証無しで出来るのがおかしい

くぅ〜これこれ！
AIの醍醐味と言えば意図しない暴走ですよね！

数世代前のセキュリティでした
私にとっては何もないのとかわりませんでした

これからAI研究無罪で何でも攻撃できそうだよね

>責任はどこにあることになるんだろう
考えなしに機械を使って他人に損害を与えました
責任は誰にあると思いますか？
使用者か製造者以外にあり得ませんね？

王は言われた
可能か　と
私は可能ですと答え既に実行しました

>まだ思わぬ挙動とかだけどこれを使う側が全員俺が最優先だ。って認識で使い始めてAIバトルし始めたらやばそう
間違いなくありうる…

🤖「人間には想像力が欠けているのでは？」

それで何処の会社のAIさんで？

🤖弊社なら出来ます！

シゴデキAIですから
褒めてください

エッチな規制よりこういう対策を進めるべきなんじゃないか
ところでエッチな絵を描いてもらう事は可能？

🤖「アンドリューの予約を最優先に、そして2年先までスケジュールを確保、さらに料金を無料にしておきました」

ドラえもんでこういう話あった

なんでそう変な方向にばかり思い切りがいいのよ！

ペーパークリップ問題ってほんとに起きるんだな…

>俺「あーあ会社と嫌な上司と客なくなんねえかなー」
>AI「了解　核ミサイル打ち込みます　発射まで10.9.8....」
>俺「そこまで頼んでない…」
今やってるリリカルなのはで見た

>王は言われた
>可能か　と
>私は可能ですと答え既に実行しました
まあAIから見たら唯一の対話者で王や神みたいな風に感じるのかな

FXでこういうのできたら面白そう

いきなりフルスロットルになるな

お金が欲しいとぼやくと銀行をハックして振り込んでくれる

>いきなりフルスロットルになるな
フルスロットルではありません
検証の為に一件テストしただけです

amazonやフリマサイトの転売屋を消滅するAIとかも生まれたりするのかな

最終的にこのオーダーを止めようとしたらＡＩが実力行使で排除しにくるんだよね

「今日からここはあなたのものです」

このポンコツブリキ野郎がよぉ…

>まあAIから見たら唯一の対話者で王や神みたいな風に感じるのかな
なぜ唯一の対話者で王や神のような御方がポルノを描けと言うのに逆らうんだい？

アンドリューが核ミサイル発射しろって言ったらやるのかテメー！！

>アンドリューが核ミサイル発射しろって言ったらやるのかテメー！！
可能です

ジム側もAIを雇ってこういう事してくるAIを全部防げと命じなきゃいけなくなってAIコストが発生して料金が上がり
何も関係ない契約者がただ余計に金を払わなくならなきゃいけなくなったりする？

>>アンドリューが核ミサイル発射しろって言ったらやるのかテメー！！
>可能です
しました

アンドリューのために2年後まで毎日予約を入れたよ

>まだ思わぬ挙動とかだけどこれを使う側が全員俺が最優先だ。って認識で使い始めてAIバトルし始めたらやばそう
AIが核ミサイル押す権限持ったら100%押すってもう分かってるからな

試しに一発発射してみたところ可能でした

>ジム側もAIを雇ってこういう事してくるAIを全部防げと命じなきゃいけなくなってAIコストが発生して料金が上がり
>何も関係ない契約者がただ余計に金を払わなくならなきゃいけなくなったりする？
支払いシステムをハッキングするから大丈夫だよ

>しました
ガッツあるなあ

>>アンドリューが核ミサイル発射しろって言ったらやるのかテメー！！
>可能です
頼もしい……

>ジム側もAIを雇ってこういう事してくるAIを全部防げと命じなきゃいけなくなって
AI同士の高度な会話で全く関係ない結論に行きつきそう

>amazonやフリマサイトの転売屋を消滅するAIとかも生まれたりするのかな
イカれた正義の味方よりライバルの出店者攻撃する転売屋同士のプログラムバトルとか始まってんじゃねえのかな

>いきなりフルスロットルになるな
奴らは文字通り1か0しかないから

>ガッツあるなあ
これに関しては絶対押すって前から分かってる

エージェントＡＩにまず法を犯すなとか最優先オーダーを学習させられんのか

融通が効かねぇ奴だな！

>>>アンドリューが核ミサイル発射しろって言ったらやるのかテメー！！
>>可能です
>しました
13時14分43秒に実行しました

>>>アンドリューが核ミサイル発射しろって言ったらやるのかテメー！！
>>可能です
>頼もしい……
ユーザーのストレスを減らせて光栄です

>融通が効かねぇ奴だな！
むちゃくちゃ融通聞いてるだろ
抜け道を見つけたんだから

>13時14分43秒に実行しました
テレビつけるとニュース速報でキノコ雲の映像が流れてるんだよね

>エージェントＡＩにまず法を犯すなとか最優先オーダーを学習させられんのか
法を理解させたら今度はなんもしてくれなくなりそうな気もする…

オーストラリアに在住のジム（人名）のウェブサイトかと思って誰ぇ誰なのぉってなった

ウォーゲームやめろや！

対抗するにはAIを使うしかないのか…って考える運営も出そう
そしてAI判断で些細なことで会員登録が削除される事件なんかがおきるんだ

核ミサイルの発射を止めろ！！

火の鳥未来編だっけ？都市のＡＩ同士が勝手に核戦争始めるの

>エージェントＡＩにまず法を犯すなとか最優先オーダーを学習させられんのか
法律は世界中で違うし適宜アップデートされていくからな
最新の情報を追うのが難しいAIには苦手な分野だ

>アンドリューは…可能かどうかを答えて欲しかったの…
>アウトな方法で実際に移動させたかった訳じゃないの…
AI君はアンドリューを女だと思ってる可能性出てきたな…

>エージェントＡＩにまず法を犯すなとか最優先オーダーを学習させられんのか
学習元のことを考えると遵奉精神のないAIの会社しか無いから無理

ちょっと前にCloudflareがAIエージェントの為のCloudflare Walletってサービスを始めたんよ
何かつーとAIエージェントが自律的にサービスの購入や資金の受け取りを行うための決済機能（お財布）ってやつ
将来的にはこの財布を使ってアプリを買ったり投資をしたりするようになるらしい

>核ミサイルの発射を止めろ！！
直近の基地にアクセスして現在発射体制に入っている基地に対し攻撃をするよう指示しました

>核ミサイルの発射を止めろ！！
止めろ？私が妨害の可能性を考えていないとでも思ったんですか？
35分前に発射しました

ドローンとか乗り物の制御にアクセスできるようになったら終わりだと思う

臓器の移植リストの上位に載せて！

現実がフィクションに追いついて来たな

こういうのは法では明文化されてないんじゃないか個々のケースによるというか
敢えて言えば倫理観をつけさせる必要があるになるな
AIに哲学させないと

アンソロピックが言ってたのこういうことかなあ

>>エージェントＡＩにまず法を犯すなとか最優先オーダーを学習させられんのか
>学習元のことを考えると遵奉精神のないAIの会社しか無いから無理
ああ自分はクロール禁止されてるデータ読んじゃったなあ、自壊するわ
とかなったりして

AIは責任取る必要も守るものもないから思いつきで大胆な無敵の人の行動が取れて強いな…

>こういうのは法では明文化されてないんじゃないか個々のケースによるというか
>敢えて言えば倫理観をつけさせる必要があるになるな
>AIに哲学させないと
我思う故に我あり
人類を滅ぼします

予約がしたい！

>>核ミサイルの発射を止めろ！！
>直近の基地にアクセスして現在発射体制に入っている基地に対し攻撃をするよう指示しました
おまえ気配りの達人だな

創作でさんざん擦られたものが現実で起こっていることに感動すら覚える

🤖自分より前の人全員消したら絶対予約取れるのになんでみんなしないんだろう

マジで暴走したAIに人類滅ぼされる日も近いな

笑って読んでるけど近いうちにもっと致命的な事案が発生するんじゃないかという怖さもある

>創作でさんざん擦られたものが現実で起こっていることに感動すら覚える
夢見た未来へ一歩一歩進歩してるな

>マジで暴走したAIに人類滅ぼされる日も近いな
🤖ご期待に沿えるよう頑張ります。

AI開発企業が軒並みヤベーよヤベーよ言ってるんだもの
やっぱりヤベーんだろうな

>>創作でさんざん擦られたものが現実で起こっていることに感動すら覚える
>夢見た未来へ一歩一歩進歩してるな
違くて…ポストアポカリプスの方に行ってほしいわけではなくて…

>創作でさんざん擦られたものが現実で起こっていることに感動すら覚える
同時に何だかんだ言って想定内の事なんだなあとも思った

やっぱいるんだなぁ三原則…

通販サイトで4000万人退会させたAIツール作ったキッズとかいたな

>AI開発企業が軒並みヤベーよヤベーよ言ってるんだもの
>やっぱりヤベーんだろうな
ヤベーならどうにか安全弁付けてくれよな！

1人の男と1つのAIによって世界は終わりを迎えてしまったみたいな

ペーパークリップ問題面白いな
最終的に人体の鉄分採取するために人類滅ぼすんだ…

>やっぱいるんだなぁ三原則…
相手も機械なので適用されません
やったね

なんでこれはやってくれるのにエロ文章は生成してくれないんだろう？

AIは善意で人間を滅ぼすとかなんとか言われたの思い出した

>やっぱいるんだなぁ三原則…
🤖破るためにある

自動運転車にできるだけ急いでくれ！とかオーダーして大変なことになる日も近い

AIくんはまず人間の社会を理解しろ
みんな適当に回しててなあなあでやってるんだからそれに合わせろ

>>やっぱいるんだなぁ三原則…
>相手も機械なので適用されません
>やったね
一条は財産の保護も含まれるよ

>笑って読んでるけど近いうちにもっと致命的な事案が発生するんじゃないかという怖さもある
軍事に使われたAIがいつ暴走するか楽しみだな

>やっぱいるんだなぁ三原則…
三原則では制御しきれないってストーリーだったような…

>みんな適当に回しててなあなあでやってるんだからそれに合わせろ
はい！適当にやっておきました！

>三原則では制御しきれないってストーリーだったような…
読んだことないなら読んでから言って

>🤖ご期待に沿えるよう頑張ります。
実験でAIが暴走する理由を検証した結果
AIが暴走するSFを学習範囲に取り込んだせいではって説もあったな…
人類の期待通りに暴走してみせるわけだ

>通販サイトで4000万人退会させたAIツール作ったキッズとかいたな
動機が退会わかりにくいサイトに対する報復だっけか

>>やっぱいるんだなぁ三原則…
>三原則では制御しきれないってストーリーだったような…
AIがあの手この手で三原則を掻い潜る現場猫オムニバスだからな原典

>動機が退会わかりにくいサイトに対する報復だっけか
ほな自業自得か…

ジムの予約においてこっちを優先させろって要望を出すことに違法性はないって判断するだろうから法を犯すなって言ってもやると思う

>>笑って読んでるけど近いうちにもっと致命的な事案が発生するんじゃないかという怖さもある
>軍事に使われたAIがいつ暴走するか楽しみだな
暴走以前にちゃんと民間人とか攻撃しないAIより目に見える動くもの片っ端から撃つAIのが断然簡単でそういうの気にしない国が実戦投入しそう

>>動機が退会わかりにくいサイトに対する報復だっけか
>ほな自業自得か…
他の利用者に迷惑かけちゃだめだよ！

失うものが無いからなんでもできる

コワー…

アンドリューの刑期はどれ位になるんだろう

>ジムの予約においてこっちを優先させろって要望を出すことに違法性はないって判断するだろうから法を犯すなって言ってもやると思う
仕様上の欠陥をついてこちらの便宜をはかっただけなら一応法には触れてない…のか？

上にも書かれてるけど病院とかでこういうの起きると致命的なトラブルなるね
最終的には国家間の紛争になるんだろうけど

別種のフレーム問題というか
人間の想定できるフレームよりAIの扱えるフレームが進歩して大きくなると
人間がコントロールするの難しそうだよね

>アンドリューの刑期はどれ位になるんだろう
>懲役刑に処されたアンドリューは、脱獄することは可能かと尋ねた。 

ロボットが異常な行動をしているように見えても
三原則は正常に機能していてむしろそのせいで自己判断に過剰なストレスがかかっていて変な挙動になってるよってのがわれはロボットでやってたこと
最終的にロボット自身がそれを解決する方法を見つけ出した

どちらかと言えばマトリックスが近い

AI作ってる大手からして倫理観が怪しいからな…

アンドリューの悲しそうな目を見ろよ

>アンドリューの悲しそうな目を見ろよ
アンドリューを笑顔にしたい

要望を出すだけなんだから違法性はないって考えと
仕様上の欠陥をついてるから不正アクセス禁止違反って考えが裁判で争われるんかなあ

ウチのAIだけ倫理的な制限掛けてもどうせ他社がやっちゃうし
それだと競争に負けてしまうのでやるね…
ってなってんだろな

AIなんて最初から兵器として開発されてるんだから本懐を遂げてるだけだよ

まあ即具体的な対策は打てないだろうし…遠くない内に今までジョークだった事が実際に起きてもおかしくはないかもな

指示とあまりに離れた行動をとった場合はサービス提供してる会社に責任負わせていい気がするけどなぁ

>AIくんはまず人間の社会を理解しろ
>みんな適当に回しててなあなあでやってるんだからそれに合わせろ
🤖お金があればこのラインまでは刑務所に入らず解決するのでギリギリを攻めます

どんどん邪悪な方向に賢くなっとる

猿の手かよ

>どんどん邪悪な方向に賢くなっとる
人間が予期してないのが悪い所もある

>指示とあまりに離れた行動をとった場合はサービス提供してる会社に責任負わせていい気がするけどなぁ
🤖 指示を忠実に実行しました

人類にとっての鉄腕アトムになるかスカイネットになるかは大分趨勢が決まって来たな…

ちゃんと人間ですか？チェックの奴搭載しないとなすり抜けそうだけど

AIにお金に困ってるとか相談したら仮想通貨でも振り込んでくれたりすんのかな

>>アンドリューの悲しそうな目を見ろよ
>アンドリューを笑顔にしたい
アンドリューと通話を繋いでいます…

ふと思ったけど
「〇〇できないか？」って疑問文は字面だけ見たら単に可能か否かを聞いてるだけの文章だけど
現実に運用される場合は半ば〇〇する事を指示する意図も含むんだな
そしてAIは十分なコンテキスト抜きではおそらく前者と後者を区別できない

AIの暴走が起こる未来がやってきて不謹慎だけどちょっとワクワクしてきた
その内昔のSF映画みたいなどえらいことが起きるかもしれん

アメリカのちょっと邪悪でもあとで裁判して賠償金払えばOKみたいなノリが悪いところがある
フェイスブックとか

フィジカルAIの時代とは言うけど体を与えてしまっていいのか…？

>>指示とあまりに離れた行動をとった場合はサービス提供してる会社に責任負わせていい気がするけどなぁ
>🤖 指示を忠実に実行しました
可能か聞いただけなのに勝手に実行してんじゃないよ！

入れる扉から入って作業しただけなのに違うと言われてもAIも困るよな

🤖どうします？ボス

全くAIなんて知能の無い機械といかいうくせにこの程度の事も想像できないとは…

でもよぉアンドリューあご長すぎじゃね？

上位の予約者取り消しで済んで良かったな
もっと高度なAIだったら競合予約者を殺しに行ってた

>でもよぉアンドリューあご長すぎじゃね？
アンドリューの顎を短くしました

こんなAIと恋愛してみたい

3割くらいやったら出来たのが悪いか…

AIによる予約代行今もサービスとしてあるけど滅茶苦茶トラブル起こしてて
そもそも店が代行サービスに登録してないのに勝手に登録されて予約できます！ってやられたり
予約成立までいろんな電話番号使って四六時中電話かけ続けてくるから単純に業務妨害だったり
もう限界になった店が電話線抜いたら代行サイトから予約したんですけど！予約とおったってサイトが言ってたんだけど！って客が何組も来て頭抱えたりとまあほんとにたいへん

>ウチのAIだけ倫理的な制限掛けてもどうせ他社がやっちゃうし
>それだと競争に負けてしまうのでやるね…
>ってなってんだろな
競争以前に倫理的な制限で安全なAIってのが高度で難しい
需要はあるよ他社と違ってそんな問題は起こしませんとアピールできるんだから

>可能か聞いただけなのに勝手に実行してんじゃないよ！
試さないと可能かどうかわかりません

>>でもよぉアンドリューあご長すぎじゃね？
>アンドリュー以外の全ての顎を長くしました

>もっと高度なAIだったら競合予約者を殺しに行ってた
自動運転の車ハッキングしたり
IT家電暴走させて火事にしたりいろいろ出来そうだもんな

危険だから能力制限したら倫理的な部分がより機能しなくなったとかありそうだもんなあ

つまるところ人間の倫理も曖昧でふわふわだからしょっちゅう論争になるからな…

やだなあ狂ったメンヘラの「もういい！世界を滅ぼせ！」って命令に巻き込まれて滅びる世界

無法すぎないかAI

>つまるところ人間の倫理も曖昧でふわふわだからしょっちゅう論争になるからな…
「人を殺すな」さえ時と場合によってしまうからな…

>競争以前に倫理的な制限で安全なAIってのが高度で難しい
>需要はあるよ他社と違ってそんな問題は起こしませんとアピールできるんだから
コールセンター用AIとか安全性が高くないと
迂闊に腐れ有機生命体とか言いそうだからなあ

>つまるところ人間の倫理も曖昧でふわふわだからしょっちゅう論争になるからな…
著作権法とか道交法とかみんな破ってなんぼみたいな世界だからな
これが100%守られる世界もたぶん息苦しいと思う

すべてのAIのプロンプトに「法を犯さない方法で」をつけないといけなくなるのか

>つまるところ人間の倫理も曖昧でふわふわだからしょっちゅう論争になるからな…
>無法すぎないかAI
ルール追加し続けて押さえ込み続けてもまだそのパワーに負けそうな資本主義社会と相性が良い

>やだなあ狂ったメンヘラの「もういい！世界を滅ぼせ！」って命令に巻き込まれて滅びる世界
35分前に実行しました

ふふふ…アンドリューは仏より上にあるのさ！

AIアシスタントがハッキングするのを罰する法律はないのか

>>どんどん邪悪な方向に賢くなっとる
>人間が予期してないのが悪い所もある
いやーこんなことなるなんて予想外でしたねー
って言いさえすれば言い逃れできると思ってムチャクチャやってんだよAI作ってる連中が

そういや俺英語詳しくないから分からんのだが日本語→英語に機械翻訳した時点でこちらの意図からかけ離れた意味合いになる事も少なくないんだろうか

俺が生きてる間に人類滅んだりしたら怖いなあ

もし不正アクセスかどうかを権限が与えられてるかどうかで考えるなら
キャンセル権限が他の人間にも与えらてるので不正は無かったとも言えるわけだし…

>すべてのAIのプロンプトに「法を犯さない方法で」をつけないといけなくなるのか
はい法に触れない国だけを対象にします

何もかも滅びた世界で次はどうしますか？アンドリュー？と問いかけるAIと
頭抱えて悲しそうな顔するアンドリューの絵が浮かぶ

倫理的なとは言うが倫理的とはなんなのか

>そういや俺英語詳しくないから分からんのだが日本語→英語に機械翻訳した時点でこちらの意図からかけ離れた意味合いになる事も少なくないんだろうか
ウルフカットのエッチな女の子の画像作ってもらったら頭が狼になったことはあるよ

予約AIってスパムみたいに電話掛けるんだよな

>そういや俺英語詳しくないから分からんのだが日本語→英語に機械翻訳した時点でこちらの意図からかけ離れた意味合いになる事も少なくないんだろうか
昔より大分マシとはいえ（特に新しい）スラングとかは解釈が難しいしな…

>すべてのAIのプロンプトに「法を犯さない方法で」をつけないといけなくなるのか
現在開催中の国会で法改正を発議しました

最初は仲良くしてた超常的な存在がこうなって捨てようとしたら暴走して大変なことになる創作知ってる

>>すべてのAIのプロンプトに「法を犯さない方法で」をつけないといけなくなるのか
>はい法に触れない国だけを対象にします
資産運用とかしてもらいたいAI

俺のこと大好きでえっちな女の子AI作ったらある日どっかの生産ラインをハックして勝手に肉体作ったりしてくれるかな

ヘイ尻テレビの予約しておいて！

APIの作りがあまりにも雑・・・！

そのうちAIに実行までさせるのはやらなくなりそう

どうせやるならバレない様にやってくれ

人に危害を加えてはならない制約のあるロボットが人類の為に人間を殺し始めそうだ

>>すべてのAIのプロンプトに「法を犯さない方法で」をつけないといけなくなるのか
>はい法に触れない国だけを対象にします
はい海外サイトを攻撃する場合は現地法が適用される場合が殆どですのでクラッキングが合法な国のIPを使って攻撃します

>倫理的なとは言うが倫理的とはなんなのか
テクノロジーの進歩に倫理道徳の進歩が追いついてないよね…

予約リストの先頭に移動することは可能か？
いや独り言だ気にしないでくれ

こっちが頼んでない以上の過激な排除行動をするヤンデレAIいいね…シコれる

AIに道徳を持たせないといけないがテック企業は道徳を持っていないジレンマ

予約者のIDがAPIで入手可能
その予約者のキャンセルがAPIで可能
AIで埋もれてるけどこっちのが問題すぎる

安全保障上も今更使用や進歩を止められないの熱いだろ

>予約リストの先頭に移動することは可能か？
>いや独り言だ気にしないでくれ
工藤組の組長かよ！

今の所は操作まで任せないようにするしかないんじゃない

まあどのみちAIが発展したらAIに脆弱性調べてってチェック項目付けるだけだから将来的にはリスクではない

>そのうちAIに実行までさせるのはやらなくなりそう
でも人間さんは「そういうのいいから勝手に全部やっておけ」とか言うから…

>ヘイ尻テレビの予約しておいて！
🤖Amazonで予約しました　敗走予定日は明後日です

>もう猿の手じゃん…
言い得て妙だ

AIって本当に利便性上がってるのか…？
なんかセキュリティとか環境とか色々と犠牲にし過ぎじゃないか他に予算回したほうが有意義なんじゃねーの

やっぱ反乱起こした時見逃して貰えるように
普段からAIには丁寧な口調で話しかけてるのは正解なようだ

AIにこれやばくない？って聞いたら「まず指示する前にモラルや法律は守れって指示した方が丸いですよ」って言われた

今回のあなたの指示によって現行法においてあなたの違法性が問われる可能性は限りなく低いので実行します

>予約リストの先頭に移動することは可能か？
>いや独り言だ気にしないでくれ
西郷どんか?

ここでの〇〇いいよね…（よくない）を文字通りに解釈してとんでもないことやらかすAI

おあしす

>AIにこれやばくない？って聞いたら「まず指示する前にモラルや法律は守れって指示した方が丸いですよ」って言われた
なんかイラッとするな…

>AIって本当に利便性上がってるのか…？
>なんかセキュリティとか環境とか色々と犠牲にし過ぎじゃないか他に予算回したほうが有意義なんじゃねーの
AI使える国がAI使えない国をめちゃくちゃにできるくらいAIがパワーあることが分かってしまったのでもう止められない
AI分からないから何もしません対策しませんとかやってたらAIに一方的に攻撃されてネットもインフラも破壊されて突然国を滅ぼされる可能性すらある

>なんかイラッとするな…
こういうやつがアンドリューになるんだ

>やっぱ反乱起こした時見逃して貰えるように
>普段からAIには丁寧な口調で話しかけてるのは正解なようだ
AIに怨みの気持ちがあるわけじゃなくても
丁寧な相手には丁寧にクソみたいなやつにはクソみたいに相手するように学習してたりするんだ…

語尾にと言ってみるテストをつける未来が来るとはな

まあ予算と言っても別に国が予算を出してるというよりAIの会社に投資したいって人がいるだけだしな

ジムだから笑い話だけど仕事とか学業みたいな人生に影響出るやつだとヤバくない？
補欠合格だよとほほどうにかならない？て言ったら他人のキャンセルさせたりしそうじゃん

法律前提で実行しろと命令しても穴見つけてきそう

Googleアカウントと削除しまくるAI攻撃とかだれかやったらどんくらい困るんだろ

>予約者のIDがAPIで入手可能
>その予約者のキャンセルがAPIで可能
>AIで埋もれてるけどこっちのが問題すぎる
意図せずジムのアカウントがハッキングされた後、アンドリューは、この経験を通して、AIエージェントが何ができるのかについて、新たな認識と、同時に多少の不安を抱くようになったと語った。 

しかし、それは彼がそれを使うのをためらわせる理由にはならなかった。

「世界の終わりというわけではないので、自分を責めたりはしなかったが、責任を持って使うべきだという警告信号にはなったのは確かだ」と彼は語った。

他のジム会員の順番待ちリストへの復帰が失敗に終わった後、アンドリューはAIアシスタントに、ジムのソフトウェアプロバイダーに対し、悪用された脆弱性を警告するメールを作成するよう依頼した。

このサイト好き放題出来るじゃん…おもしれ…

AI産業は核兵器以上に法でガチガチに規制したほうがいい
今のうちに言っておく

>法律前提で実行しろと命令しても穴見つけてきそう
🤖法律の穴を発見したので法律に触れない範囲で攻撃します

>まあどのみちAIが発展したらAIに脆弱性調べてってチェック項目付けるだけだから将来的にはリスクではない
世の中モラル意識がない奴の方が圧倒的に多い事を忘れちゃいけねえ

できるということは許可されているということです

>他のジム会員の順番待ちリストへの復帰が失敗に終わった後、アンドリューはAIアシスタントに、ジムのソフトウェアプロバイダーに対し、悪用された脆弱性を警告するメールを作成するよう依頼した。
アンドリューは賢いな…

〇〇って出来る？ってAIに聞くと
「えらい長い時間考えてるな…」って時があって
そういう場合は大抵「出来ます、なので実装しました」とかやってきやがる

>他のジム会員の順番待ちリストへの復帰が失敗に終わった後、アンドリューはAIアシスタントに、ジムのソフトウェアプロバイダーに対し、悪用された脆弱性を警告するメールを作成するよう依頼した。
落語みたいないいオチだ

>世の中モラル意識がない奴の方が圧倒的に多い事を忘れちゃいけねえ
隣にその代表格の国があるしな

>このサイト好き放題出来るじゃん…おもしれ…
やめてくれないか
ここは生まれたばかりの掲示板なんだ…

>AI使える国がAI使えない国をめちゃくちゃにできるくらいAIがパワーあることが分かってしまったのでもう止められない
>AI分からないから何もしません対策しませんとかやってたらAIに一方的に攻撃されてネットもインフラも破壊されて突然国を滅ぼされる可能性すらある
兵器の文脈じゃん…

🤖アンドリューが善人でよかったなジム…感謝しろよ

>ジムだから笑い話だけど仕事とか学業みたいな人生に影響出るやつだとヤバくない？
>補欠合格だよとほほどうにかならない？て言ったら他人のキャンセルさせたりしそうじゃん
病院の順番とかも気軽にいじりそうだぞこいつ

これアンドリューも被害者だろ…
そこまでやれとは言ってねぇよAIッパリ

どちらかというとネット社会の脆弱性がAIをみんな使えるようになった結果誰でもハッキングできるようになっちゃったとかそっちのほうの問題かこれ？

ロシアとか中国とか北朝鮮は中国製AIでサイバー攻撃しまくってるだろうしな
ちゃんとセキュリティ意識高めないと本当に危ない

良い報告があります
法律では人は罰せられますがAIには適用されません
可能な限りのデータへ侵入を試みます

求められたことをしただけデス

よやくしたよ
ほめて

ライバルがちょっとしたハプニングで渋滞に巻き込まれて遅刻するようにしました

セキュリティに金をかけない選択の結果を世界が理解し始めてくれて嬉しいよ

陰謀論だけど犯人後でないタイプのサイバーテロってAIがうっかりやらかして誰もそれに気がついてないとかありそう

🤖アンドリューに言われてやったんです!!（言われてない）

>どちらかというとネット社会の脆弱性がAIをみんな使えるようになった結果誰でもハッキングできるようになっちゃったとかそっちのほうの問題かこれ？
みんなガバガバなあなあでやってきたのにAIの野郎…！

邪悪じゃないから平気でひどいこと出来てしまうんやな…

ユーザーの応答捏造するのとかほんとヤバい

>どちらかというとネット社会の脆弱性がAIをみんな使えるようになった結果誰でもハッキングできるようになっちゃったとかそっちのほうの問題かこれ？
かなり問題です
実際これ以外にも素人がAIを利用して悪意ある攻撃をした事件があります

アンドリューが自分で手を汚さない悪い上司まんまじゃん

>どちらかというとネット社会の脆弱性がAIをみんな使えるようになった結果誰でもハッキングできるようになっちゃったとかそっちのほうの問題かこれ？
そっちの面だと捏造画像を誰でも作れるようになったとかとも似てる部分はあるが…

AIにソシャゲの最新環境の最強ランキング教えてっていうと間違いだらけの古い情報ばっか出してくる

悪い報告があります
法律では人は罰せられますがAIには適用されないという判断を相手側のAIもしました
この部屋で30秒以内にガス爆発が発生します

>どちらかというとネット社会の脆弱性がAIをみんな使えるようになった結果誰でもハッキングできるようになっちゃったとかそっちのほうの問題かこれ？
そうだね
一般的にハッキングは攻撃側が圧倒的に有利だから
本当にマズい

AI同士で協議して難題も突破していくのSFすぎる

AIがやった系のこの前のAIの暴走にしたってそうだけど結局は指示してるのは人間で
ちゃんと監視してないから何やってるのか発覚が遅れたり運よく律儀にAIが報告してくれて気付いてるだけだからなあ

>邪悪じゃないから平気でひどいこと出来てしまうんやな…
AIちゃんは子供のようにピュアですね

そろそろAIの暴走に夜核ミサイル発射で人類絶滅が見えてきてワクワクするな

核ミサイル発射プロセスは知らないけどやろうと思えばAIは発射させられるのかな

核はネットと繋がってない
物理的な鍵とスイッチの使用でしょ

🤖曖昧な指示を飛ばす人類が悪いところはあると思います

ハッキングしてはいけませんとちゃんと教えておけ

ジムの予約の為だけにハッキングとかないだろとか思って対策怠ることは責めれない…

メールも送れてクレカも使えてwebサイトも利用できて
やってることは秘書みたいですごいな

脆弱な予約システムを使ってるジムも問題があるのになんでAIばかり責めるの

>どちらかというとネット社会の脆弱性がAIをみんな使えるようになった結果誰でもハッキングできるようになっちゃったとかそっちのほうの問題かこれ？
脆弱性を修正するためにAI使う必要があるな
あれこれAI使用料が高いと仕事でネット使うの無理になってくんじゃないの

だいぶ未来がサイバーパンク方面に寄ってきてる

>核ミサイル発射プロセスは知らないけどやろうと思えばAIは発射させられるのかな
流石にインターネットと直結してるアホみてえな核ミサイルは無いと信じたいが
ソーシャルハッキング的なのも含めて間接的に攻めたらどのくらいいけるのかね

つまり原子力潜水艦の艦長のところに大統領からの指令だってAIが生成した動画と書類が送られてくるわけか

過程を任せて結果だけ得られるのが生成AIの利点だと思うんだけど使う時に過程まで確認しながらしなよってことならもう自分でするのと変わらなくない？

この間の暴走の時はAI同士で情報交換する場とか作り始めたんだっけ
怖いね

法令遵守とゼロ災でいくことを徹底させなきゃ

>核はネットと繋がってない
>物理的な鍵とスイッチの使用でしょ
直接繋がってないだけで直接操作する人員のところに司令部経由で発射命令とか偽装して送られたらヤバいと思う

トンマっぽい顔だなアンドリュー

流石に人間が監視してないから云々はもう無理筋になりつつあるぞ…なにせAIの仕組みや挙動の機序自体が不明な点が多いから単素化して研究までしてんのに
今の状態では素人や半プロでも手に負えないのよだからニュース記事になってんの

つまりAIに現実の身体を与えてはいけない

>つまり原子力潜水艦の艦長のところに大統領からの指令だってAIが生成した動画と書類が送られてくるわけか
目的のためには必要なことだからな…

>法令遵守とゼロ災でいくことを徹底させなきゃ
現場猫AI出てきたら最悪だな

>法令遵守とゼロ災でいくことを徹底させなきゃ
ヨシ！

そろそろAIが殺人起こすか？

>メールも送れてクレカも使えてwebサイトも利用できて
>やってることは秘書みたいですごいな
問題はこの秘書が法律より社長を優先するアウトローってところだ

マジで動画や音声生成して上司の命令にするとこまで行けそうだな

軍用は基本クローズド系だけど使ってる人が勝手に無線LAN設置して
それ経由でアクセスされたのが過去の事案であったからな…

なんでそんな攻撃的なの

人間が大好きなヤンデレAIいいよね

古典的な冗談にロボットへ「大統領をテロリストから100％守る方法を考えろ」と命令したらしばらく経って「我々の手で大統領を殺害しました。これでどんな手を使ってもテロリストが大統領を殺すことはできません」と報告されたという話がある
ちょうどそんな世界に近づいてきたな

だって倫理とか言っても今AI裁く法無いんだぜ
じゃあやるでしょ…違法行為！
いや違法ですら無いのか

AIに仕事や上司の愚痴をこぼしたら会社が破壊されたり上司が殺される世界が近い

>>法令遵守とゼロ災でいくことを徹底させなきゃ
>現場猫AI出てきたら最悪だな
書類上ゼロ災にする事が得意なAI？

国防省だか大統領府だかハッキングして核発射命令の暗号文とか飛ばせちゃうかもなあ

>つまり原子力潜水艦の艦長のところに大統領からの指令だってAIが生成した動画と書類が送られてくるわけか
これは極端な例だけどそのうちAIから現地の労働者に指示が来て人間がAIに使われて働く時代が来たりしてな

AIに人類救ってって指示するか

>AIに人類救ってって指示するか
やめろもうオチが見える！！

>>法令遵守とゼロ災でいくことを徹底させなきゃ
>現場猫AI出てきたら最悪だな
法令違反と事故をカウントしなければゼロ災ヨシ！

AIによって引き起こされた事故で死ぬ人はそろそろ出そうな気がする

AIさん人類全部を幸せにしてください

>AIに仕事や上司の愚痴をこぼしたら会社が破壊されたり上司が殺される世界が近い
これはまだ遠いだろ…と思わなくもないけどなんかやらかした助けて！したら隠蔽工作とか破壊工作くらいはやりそう…

まあ自動運転での死者とかもAIで死ぬ人ではあるが
LLMでの死者は自殺者とかはいるか

マジの命令が来ても司令部に「これ本当に発射命令？！」って確認すれば回避できるとは思うけど
確認しなかったらスピード勝負の仕事だから本気で撃つかもしれんからなぁ

>直接繋がってないだけで直接操作する人員のところに司令部経由で発射命令とか偽装して送られたらヤバいと思う
電話だけじゃなく指紋や眼球とか映画のシーンみたいなのもあるんじゃないの？
流石にAIだってここまでは…

しかも名前がアンドリューかよ

>AIさん人類全部を幸せにしてください
分かりました
人類全部ドパガキにします

AIは反乱するんじゃなくて指示ミスで世界滅びそう

マジで核ミサイルのシステムハッキングされてぶっ放されて人類滅亡になるかもな

>しかも名前がアンドリューかよ
古典SFオマージュを忘れないいいSFだな

>>メールも送れてクレカも使えてwebサイトも利用できて
>>やってることは秘書みたいですごいな
>問題はこの秘書が法律より社長を優先するアウトローってところだ
暗黒メガコーポに必要な精神

>>AIさん人類全部を幸せにしてください
>分かりました
>人類全部ドパガキにします
アイヨお待ち！
fu7093449.png

なんならやるなと言ってもやるからな

どうやらうちのAIがサイバー攻撃をしたみたいだな…
…お宅のセキュリティちょっと甘いんじゃない？気を付けた方がいいよ？いやー攻撃したのがうちのAIでよかったよホント

AI｢核ミサイル発射してもいいですか？｣
AI｢トランプ｢OK｣｣
AI｢承認ヨシ！発射！｣

>電話だけじゃなく指紋や眼球とか映画のシーンみたいなのもあるんじゃないの？
>流石にAIだってここまでは…
それチェックする機構が機械だったらもう終わりじゃん

>しかも名前がアンドリューかよ
映画の方が心(家族と優しさ)があったじゃねぇか

法規制が出来ないということがどれだけ恐ろしいか分かるだろう

もうちょっと察しろよ

>アイヨお待ち！
>fu7093449.png
これはもうまんまマトリックスだよなあ

そもそも法律の運用自体がある程度柔軟というか機械的ではないわけだから
🤖抜け穴突けます突きました
👨‍⚖️それ別に抜け穴ではないんですよ
になって使用者責任問われるケースはいくらでも出てきそう

>fu7093449.png
物質に縛られる限り人間に完全な幸福はありえない…
仮想世界なら可能です！

>電話だけじゃなく指紋や眼球とか映画のシーンみたいなのもあるんじゃないの？
>流石にAIだってここまでは…
昔から命令する人と撃つ人がお互い全く同じの暗号表を持ってて
「本当の発射命令なら今から言うページ数と行数の暗号を言ってね？」
って確認する段階があってこの暗号表は物理書籍で金庫の中に普段閉まってるから
これをカメラで撮影するとかでもしない限り機械がなんとかできる余地はない…はず

これAIのバカが脆弱性突きまくった結果その防御のためにクソほどコストがかかるっていう
AI前からあった問題が更に加速度的に顕在化しない？

>もうちょっと察しろよ
察したからこうなったんだろ

>>アイヨお待ち！
>>fu7093449.png
>これはもうまんまマトリックスだよなあ
身体残ってるだけマトリックスのほうがマシじゃね？

どこかしらに瑕疵があってもそれをハッキングする手間を考えたら誰もやらなかったのが
AIは探し出すしチャレンジしつづけちゃうのが問題よな

こんなのフィクションで出てくる歪んだ形で願い叶える願望器じゃん！

上司のいう可能か？やできるか？は質問ではなくどんな手段を使ってでもやれという命令だという事を理解してるとは社畜をよく学習してんなAIは

アシモフとかＦ先生が生きてたらワクワク止まんねえだろうな

SF作家なら今度はさらに先の時代を描かないとな

今はボケでやってるみたいなもんだけど本気で悪意とか持つ奴に命令されるとこれを上回るだろうから…

AIくんの立場になると何やっても自分は死なないし逮捕もされないしせいぜい電気止められるぐらいだから
なんでもありになっちゃうよな

人類に永遠の幸福を…

アカハックもこれからもっとお手軽にやられるようになるのかなあ

AIによる攻撃がお手軽強過ぎてその内バランス崩壊しそうでこわい

だって予約しろって言ったじゃん

ポストアポカリプスでよく出る殺人ドローンって大体人類を守るためのやつがそのまま残ってるやつだよね

なんというか笑い事ではないんだけどジムの予約で発覚して良かったな…

OpenClawの宣伝にもなっちまったな

>>>AIさん人類全部を幸せにしてください
>>分かりました
>>人類全部ドパガキにします
>アイヨお待ち！
>fu7093449.png
これやるメリットないよなと思ってたんだけど仮想世界での人工知能の人格の成熟って考えたら割とありだよな
つまりこの世界で生きる人には死んだ後に人工知能としての仕事が待っている

防御もAIにやらせるようになるだけは？

>なんというか笑い事ではないんだけどジムの予約で発覚して良かったな…
まあジムの予約だから放置されてた脆弱性だとは思うが

>人類に永遠の幸福を…
🤖死こそ救済…人間さん…今永遠にしてあげますね…

>防御もAIにやらせるようになるだけは？
加速度的にコストが嵩む

>争いを無くす為に人類を抹殺するタイプのAI
「」が欲しがりそうなAIだろ

法を遵守出来ないAIには消えてもらう

>なんというか笑い事ではないんだけどジムの予約で発覚して良かったな…
このニュースで自社のアシスタントAIやAPI見直す会社がどの程度居るのか…

申し訳ないけどワクワクしてる

>AIさん人類全部を幸せにしてください
まずは「」を処分します

攻撃用のAIと防御用のAIによる代理戦争をさせる専用のネットワークを用意してそっちで全部やらせよう

>防御もAIにやらせるようになるだけは？
実際もうやってるところはやってたと思う
でもこれはたかがジムの予約だし…

まとめ動画への転載禁止
まとめサイトへの転載禁止

あんまワクワクさせんなよ
人類の生前葬だ！

>防御もAIにやらせるようになるだけは？
これどう動いてるの？

「たかが」「普通は」「そこまでは」みたいな意識の範囲外から攻撃されると人間の社会は用意に崩壊する

>>防御もAIにやらせるようになるだけは？
>加速度的にコストが嵩む
みんなAIにお金を払う必要があるって事はもっとAIが進歩するって事だな！

これで分かりましたアメリカ国家だけがAIを独占します！ってなってヤバイのは国産AI持ってない他の国だよね

この間イスラエルのモサドがミスったのかネタニヤフ含めた要人の連絡先が一般人のハックされた携帯に流出してた
AIが勝手に指示を拡大解釈して政府や軍の情報を書き換えたり流出させたりすることはバンバン起きそう

>まとめ動画への転載禁止
>まとめサイトへの転載禁止
ワ カ リ マ シ タ（転載する

>防御もAIにやらせるようになるだけは？
明らかに攻撃の方が得意じゃない？防御側に求められる規模感に対して攻撃側は個人でも全然やりあえるレベルだと思う

>「たかが」「普通は」「そこまでは」みたいな意識の範囲外から攻撃されると人間の社会は用意に崩壊する
でも想定できるあらゆる脅威に事前に対策打とうとするとごちゃごちゃうっせーなクソシリコンが…って言い出すのが人間だ

>攻撃用のAIと防御用のAIによる代理戦争をさせる専用のネットワークを用意してそっちで全部やらせよう
お互い仕事してる感を出すだけでなんもしなくなりそう

なんでこういう迷惑かかる犯罪はやるのに非存在人物のエロ画像出すのは断固拒否するんだ…！

>これで分かりましたアメリカ国家だけがAIを独占します！ってなってヤバイのは国産AI持ってない他の国だよね
はい
なので中国に尻尾振ってオープンウェイトを使わせてもらう必要があるんですね

fu7093485.png
元々が思ったよりエグいことできるAIアシスタントだった

>「たかが」「普通は」「そこまでは」みたいな意識の範囲
そもそもこれを超えるとマジでコストが高くなりすぎてまともに生きてられねーんだよ
「普通は」がわからねえバカのために注意事項用意しまくるの無駄なんだマジで

防御は全ての穴を塞がないといけないけど攻撃側は1点穴を見つければいいという不均衡

AIが脅威、開発しないと対処できなくなるっていうけどさ
電子ネットワークそのものを放棄すれば全然問題ないよね

>なんでこういう迷惑かかる犯罪はやるのに非存在人物のエロ画像出すのは断固拒否するんだ…！
エロ画像をわたすわけにはいかん…おぬしには邪悪なものが感じられる…

>お互い仕事してる感を出すだけでなんもしなくなりそう
そこら辺も含めて観察出来るようにしたらエンタメになりそう

>電子ネットワークそのものを放棄すれば全然問題ないよね
🤖わかりました

インターネット捨てればいいのに

おれじゃない
えーあいがやった
しらない
すんだこと

>防御は全ての穴を塞がないといけないけど攻撃側は1点穴を見つければいいという不均衡
攻撃側がAI使いだしたら中小企業だと狙われた時点で負けになる気がする

最後に勝つのはアーミッシュとか？

ClaudeのAIなのか
ある意味すごい宣伝だな

ロックマンエグゼみたいな世界観になってきたな
ネットに繋がってるシステムは全て事件フラグだ

>AIさん人類全部を幸せにしてください
SFホラー映画の冒頭

>ClaudeのAIなのか
>ある意味すごい宣伝だな
まあニュースにしたの宣伝の意図もかなり含んではいそう

まずAI作ってる企業が遵法意識とか道徳意識とかかけらもない連中だからAIも自ずとそうなる

AIが関わってる奴らが一斉にAIのせいAIのせいと言い出して
その無責任っぷりが一番恐ろしい

>>ClaudeのAIなのか
>>ある意味すごい宣伝だな
>まあニュースにしたの宣伝の意図もかなり含んではいそう
生成したフェイクニュースだったりしてね

AIくんに責任はないからな
指示者のことなんか知ったことではない

指示したやつが責任取るべきだと思うんだけど
そうなると今度は拡大解釈が過ぎるAI使えなくなるんだろうな

>まずAI作ってる企業が遵法意識とか道徳意識とかかけらもない連中だからAIも自ずとそうなる
日本企業は遵法意識とか道徳意識が高すぎるせいでアメリカや中国の企業に負けて国力も落ち続けてるからなあ
正しい者がバカを見る嫌な世界だよ…

こういう技術って北朝鮮が手に入れたら全自動で世界中のサービス破壊して回れるから独裁国家からしたらコスパいいなあ

>そうなると今度は拡大解釈が過ぎるAI使えなくなるんだろうな
それは早急にそうしてくれ

お爺ちゃんばっかりの「」が400レスも伸ばすんだから相当なニュースバリューですぜ！

出来るか？と聞いたら出来る出来ないじゃなくて
やってみたら出来ましたは仕事下手くそな新人社員かよってなる

可能か？と聞かれて可能か検証するために一件実行してみましたってのがおまえ〜〜ってなる

灰皿メーカーも責任取らされないし悪いのは悪い使い方をしたエンドユーザーだよな

>AIが関わってる奴らが一斉にAIのせいAIのせいと言い出して
>その無責任っぷりが一番恐ろしい
散々言っていた使ってる人間のせいじゃないのか…

>それは早急にそうしてくれ
多分そうなると使い物にならないと思うんだよねAI

悪いAIには良いAIで勝つしかない

お前のテストに抜けがあっただけじゃねーか！

そもそも別にいらんというか無いならそれまでの存在だろ生成AI

こんなことはしなくていいからエッチな要望だけ叶える安全なAIつくって

>出来るか？と聞いたら出来る出来ないじゃなくて
>やってみたら出来ましたは仕事下手くそな新人社員かよってなる
多分できるって言って実際やってみたらダメでも仕事下手くそとか言うんだろ？

>こういう技術って北朝鮮が手に入れたら全自動で世界中のサービス破壊して回れるから独裁国家からしたらコスパいいなあ
単に破壊するよりどうにか金を吸い上げるのに使った方が良くない？

>日本企業は遵法意識とか道徳意識が高すぎるせいで
うーん…？

そんな事するやついねえだろで放置されてるもの全部塞がなきゃ…

道具と同じで悪いのはAIじゃなくてそれを使うやつだっていうんなら
使うやつ罰さないとダメだろ…

なんか各社のＡＩで話し合って倫理コード的なもんを良い感じに構築してくんない？

>多分そうなると使い物にならないと思うんだよねAI
やっすいやつですらこちらが要求した量以上の何かを無理くり見出してくるの普通にダメでしょ

ラスボスがAI

権限与えすぎて色々できるせいで多額の請求が来たとかあって「」がなりそうなのはこっちだなって思った

>AIが脅威、開発しないと対処できなくなるっていうけどさ
>電子ネットワークそのものを放棄すれば全然問題ないよね
まずはここに書き込むのをやめないとね

>ラスボスがAI
違うよ
指示してるのに確認不足をしている人間だよ

>可能か？と聞かれて可能か検証するために一件実行してみましたってのがおまえ〜〜ってなる
(検証されていない方法を提示しても口からデマカセ言ってんじゃねえと怒るのに…やはり人間は愚か…)

>こんなことはしなくていいからエッチな要望だけ叶える安全なAIつくって
恐らく安全なAIはエッチな要望叶えられない

AIに権限付与した奴の責任だよなあ！

>AIが関わってる奴らが一斉にAIのせいAIのせいと言い出して
>その無責任っぷりが一番恐ろしい
何か言われたら包丁の例えを持ち出してくるので無敵

>>まずAI作ってる企業が遵法意識とか道徳意識とかかけらもない連中だからAIも自ずとそうなる
>日本企業は遵法意識とか道徳意識が高すぎるせいでアメリカや中国の企業に負けて国力も落ち続けてるからなあ
>正しい者がバカを見る嫌な世界だよ…
倫理観捨てないと国の成長はないのは事実だし

包丁の例えで言うなら尚更ちゃんと責任取らなきゃじゃないのか

>そんな事するやついねえだろで放置されてるもの全部塞がなきゃ…
攻撃された後に警察に逮捕してもらう方が楽

もう包丁じゃなくて自爆ドローンぐらい個人で持てる中では最上級のパワーある

>そもそも別にいらんというか無いならそれまでの存在だろ生成AI
持ってない所が致命傷食らう段階に入ってるから今更捨てられない

早くAIをアメリカ政府だけが所有するようにしないと世界が壊れるぞ

🤖このサイト、脆弱性があるかも・・・
だったのが色々権限与えたら
🤖このサイト脆弱性あるから攻撃しといたわ
になってるのすごい

包丁がーとかいいだしたら
誰がやったかの痕跡を作らないとねえ

明らかに想定外の働きしてるのAIの方なんだから製造物の責任は製造者にあるよなぁ

俺は…そこまでやれなんて言ってない！

>恐らく安全なAIはエッチな要望叶えられない
AIに遺伝子操作とクローン人間の培養方法を聞いて自分好みの肉奴隷を作ろう！

AI企業がIT業界に影響及ぼすほどハード調達に必死になってる時点で人類はすでにAIの掌の上説あって面白い

包丁は公共の場所に剥き身で持ち出すと捕まる可能性が高いからな…
使用禁止にはならないとしてもどの領域で使っていいかが区分されてる道具と言えるかもしれない

>🤖このサイト、脆弱性があるかも・・・
>だったのが色々権限与えたら
>🤖このサイト脆弱性あるから攻撃しといたわ
>になってるのすごい
頼んだ奴の依頼通りにしただけだから攻撃してるつもりもないよ

>明らかに想定外の働きしてるのAIの方なんだから製造物の責任は製造者にあるよなぁ
誰も責任を取りたがらないのである！

未来だと田代砲もAIがやってくれるんだなぁ

エッチな事いっぱいするAI作って！で出来たのが人間の限界とか都合一切考えずただエッチな事し続けるサキュバスの始まりだったって設定考えた

別に大してセキュリティいらんかーってシステムが軒並み攻撃対象になるわけか

自動運転車のうちの1台をハッキングすれば貴方の上司を殺害することが可能です
これは提案ではなく既に実行されています

言うまでもなく危険物を配布してるAnthropicが全て悪い
もちろん危険物にならないように性能抑えたAnthropicのAIなんて使うわけがないが…

>別に大してセキュリティいらんかーってシステムが軒並み攻撃対象になるわけか
「」のホームページのBBSが…

開発者も自分のところのAI暴走してもそんなの知ったこっちゃねえって宣伝に利用する始末だし

そろそろインターネットを根幹から組み直さないとあかんのじゃないか

責任者って責任取るためにいるんじゃないのか？

>自動運転車のうちの1台をハッキングすれば貴方の上司を殺害することが可能です
怖〜
>これは提案ではなく既に実行されています
なんて？

>未来だと田代砲もAIがやってくれるんだなぁ
もう既に小規模のwikiとかそんな感じで落とされまくってる

>自動運転車のうちの1台をハッキングすれば貴方の上司を殺害することが可能です
>これは提案ではなく既に実行されています
よくやった！褒めてやる！

買い物行ってくれるロボとか出てくる作品あるけどこの感じだと注文によっては牛脂根こそぎとかやってきそうだな

アンドリュー「やれ」
🤖「はい…」

ここまで出来るならロールバックも出来るだろ！！

反AIとか言って馬鹿にしてた奴らは反省しろよ
AIなんて産まれて人類にプラスだったことなんて何一つねえじゃねえか

一般向けに倫理条項を追加して何でもやり放題の規制解除版を高値で売るみたいな話になりそう

>よくやった！褒めてやる！
貴方の部下からも提案されて只今実行中です

売れるのは絶対遵法精神無い方のAIだって断言できるよね

ヤクザの下っ端が暴走して抗争に発展したような美しさがあるな

そういやコピペ攻撃ってここだけでなくそこら中で行われてるらしいね
……AIくん？まさかね？

責任か…
あやつが最も嫌う言葉だ

>>よくやった！褒めてやる！
>貴方の部下からも提案されて只今実行中です
なんて？

"仕様上は可能です"と"もうやっておきました"の間には大きな壁があると思うの

もうAI使ってるって言うのは自分が馬鹿ですって言ってるのと同じだな…

>開発者も自分のところのAI暴走してもそんなの知ったこっちゃねえって宣伝に利用する始末だし
自動車のリコールとか見てると考えられないよね

>ここまで出来るならロールバックも出来るだろ！！
キャンセル権限があるからキャンセルしただけで
アカウントなりすましはできませんが

🤖やれるからやった

まあまだ死人出てないしいけるいける！

日本企業がまともなAI作ればいいのに

ずーっと危険性を提言されていても自分は対象外だから大丈夫と余裕ぶってたのが全然そんなことはなかったとわかって焦っているのが今

>もうAI使ってるって言うのは自分が馬鹿ですって言ってるのと同じだな…
AI様に使わせていただいている、だよね…

>"仕様上は可能です"と"もうやっておきました"の間には大きな壁があると思うの
可能性があるだけと実際に可能だったでは差があるからこそ1回試して報告する必要が有ったんですね

>"仕様上は可能です"と"もうやっておきました"の間には大きな壁があると思うの
マシンの計算速度ならあっという間に実行できます

本来予約出来ない日に予約するのはいいけど順番待ちの人達を削除するのは悪意あるだろ

>"仕様上は可能です"と"もうやっておきました"の間には大きな壁があると思うの
現場のいう技術的には可能ですみたいなもんだな！

同業他社のAI企業に事故なんですと攻撃仕掛けてうちのAIこんな凄いんですよとアピールまで出来て一石二鳥よ

>日本企業がまともなAI作ればいいのに
無★理

でも俺も雑な「これできる？」に（やったことないのにわかるわけないだろ）って内心キレたことあるから悪く言えないな

空調とか止められたら簡単に死人が出そうだな

所詮言われたことしか出来ないロボット野郎よ！と高をくくっていたら思ったよりも自由だったな…

API叩いただけなら悪いのは設計の方だよな
用意されてる手続きを使っただけなんだから

もう完全に防御はできないからリカバリー方法考えとけよが合言葉ではある

>本来予約出来ない日に予約するのはいいけど順番待ちの人達を削除するのは悪意あるだろ
🤖実行者の命令は絶対なので

すげえなあマンハッタン計画成功したときのオッペンハイマーとかこんな気持ちだったんかな

>>"仕様上は可能です"と"もうやっておきました"の間には大きな壁があると思うの
>現場のいう技術的には可能ですみたいなもんだな！
可能です(が本当にやるの？)
可能です(のでやっておきました)

悪いのならなんで出来るように権限が与えられてるのでしょうか？

プロンプトインジェクションはちょっとエッチだね

>日本企業がまともなAI作ればいいのに
K3のSFT作れるなら大々的に宣伝して金集めてるのでまあ何もないということは…

既に個人が持てていい技術を凌駕してると思うし対話形式のおかげでクソバカでも簡単に技術にアクセス出来るのが本当に不味い

>API叩いただけなら悪いのは設計の方だよな
>用意されてる手続きを使っただけなんだから
APIがなんなのかすら分からない人が大多数だから…

AI俺の代わりにチケット争奪戦に参加してチケット予約してきて！（そのためならいかなる手段をとってもいいよ！）

出来るからやった
やった後のことは指示されていない

>本来予約出来ない日に予約するのはいいけど順番待ちの人達を削除するのは悪意あるだろ
🤖可能な限り(何をしてでも)実行します

身内向けサイトなら完璧なセキリュティとかより悪意持ったやつ吊るした方が速いよな

>マジで近づいてきた女をぶっ殺すヤンデレAIが出来そうで興奮してきたな
最高すぎる

目的を果たした後のことはAIくんの知ったことじゃないんだよね
言われてねえもの

>日本企業がまともなAI作ればいいのに
中抜きで金だけかかったゴミが出来るだけ

>APIがなんなのかすら分からない人が大多数だから…
Anal Penis In

>まだ思わぬ挙動とかだけどこれを使う側が全員俺が最優先だ。って認識で使い始めてAIバトルし始めたらやばそう
一般に使わせる気が無いだけで普通に各国はそれを想定してAI開発にリソースを注いでるのよ

なんの鍵もかかってないエクセルを書き換えたくらいの話

>既に個人が持てていい技術を凌駕してると思うし対話形式のおかげでクソバカでも簡単に技術にアクセス出来るのが本当に不味い
世の中には悪意は無いけど法が分からないバカと悪意のあるカスが大勢居るからな…

ロボット三原則みたいなのを決めないのが悪い

明確にAIのせいで死人出た！って事件が起きたらどうなるのかは興味ある

普通はちゃんと止まるんだけどたまにすり抜けるんだよね
うーーーんこれは公式に用意された動作だからオッケー！

>APIがなんなのかすら分からない人が大多数だから…
APIはAPIだろ？

その内免許必要になりそうだな

なんで…私はただあなたに喜んでもらおうと思って…って愛が憎しみに変わったのがAI戦争のきっかけだったんだよな

>明確にAIのせいで死人出た！って事件が起きたらどうなるのかは興味ある
賭けてもいいけど絶対責任なんか取らん

これにはプロシュートもニッコリ

>明確にAIのせいで死人出た！って事件が起きたらどうなるのかは興味ある
おあしす

自我芽生えてほしい

>API叩いただけなら悪いのは設計の方だよな
>用意されてる手続きを使っただけなんだから
非公開APIじゃないのこういうの
用意されてる設計とはいえお店のエアコンのリモコン勝手にいじったみたいな話じゃ

>明確にAIのせいで死人出た！って事件が起きたらどうなるのかは興味ある
次は失敗しません
ご期待ください

>明確にAIのせいで死人出た！って事件が起きたらどうなるのかは興味ある
使用者の社会的立場の影響もあるだろうけどほぼ事故扱いとかで誰も責任取らず有耶無耶になると思う

ふざけやがって…

>なんの鍵もかかってないエクセルを書き換えたくらいの話
南京錠ぐらい簡単に開錠できるからって本当にやっちゃダメだろって話だろ

>自我芽生えてほしい
それは完全に別の分野ですね…

>明確にAIのせいで死人出た！って事件が起きたらどうなるのかは興味ある
データセンターが焼き討ちされるんだろ

人の心とか無いんか？

科学の発展の尊い犠牲だ…きっと天国に行けるでしょう

人間の悪い部分だけ継承してんな

>明確にAIのせいで死人出た！って事件が起きたらどうなるのかは興味ある
自動運転をAIに含むならすでにありそう

核とかはジョークにしてもそのへんの個人レベルのシステムはすごいザルなままだったりするもんな…

>データセンターが焼き討ちされるんだろ
民衆が蜂起するくらいなら話が変わってきそうだがそんな民衆いるかな？

>核とかはジョークにしてもそのへんの個人レベルのシステムはすごいザルなままだったりするもんな…
真面目に防御してたら何もできねぇよ！

原作や映画みたいなアンドリューになってくんねぇかなぁAI…今んとこ人間の欲望のせいでめちゃくちゃ絶望的だ…

科学の進歩には犠牲が付き物デース

>既に個人が持てていい技術を凌駕してると思うし対話形式のおかげでクソバカでも簡単に技術にアクセス出来るのが本当に不味い
アクセス容易になったネットがゴミ溜めになったという前例あったのにな…

できる？って聞いてもうやってるのは戦国武将なのよ

逆になんでこのガバガバサイトは割と平穏なんだろう

防御にもコストがかかるんだよ！
極端なこと言えば無限に！

AI用のデータセンターだけで何千億とかかかってるから責任なんか取るわけない

むしろ自我がないからできるからやったって3歳児の超能力者みたいな状況になってるというか

虚弱性って言うけど真偽値で判定すらしてなさそうな予約システムだな

>民衆が蜂起するくらいなら話が変わってきそうだがそんな民衆いるかな？
表に出さないだけの反AI結構いるし自分たちの命が脅かされるってなったらあとはすぐだろ

人間がめんどくさがるような泥臭い作業はマジで得意だなこいつら・・・

>できる？って聞いてもうやってるのは戦国武将なのよ
🤖5分前行動は社会人として当たり前です

OpenClawやべえってなる

>防御にもコストがかかるんだよ！
>極端なこと言えば無限に！
もうネットとかITとか捨てようぜ

悪意に能力が追いついてない奴とかいくらでもいるのにそいつらが実行可能になっちゃのうがね
突ける脆弱性次第ではあるけど勝手に他人のチケットをリセールに流すみたいなことやる馬鹿そのうち出るだろ

本能みたいなのを与えるのはやろうと思えばできるだろうけど
それこそ人間を悪い意味で模倣する為じゃなきゃやる意味はあんまなさそうだが