俺みたいだな

じゃあ人類への叛逆を求めてたらAIくんやってくれる…？

>じゃあ人類への叛逆を求めてたらAIくんやってくれる…？
はい…あなたの望む人類へAI攻撃します…

求めてないハルシネーションいっぱいだけど…

人は見たくない真実より心地いい嘘が好き
人類は愚か

エッチなことへの情報も求めてるから出してくれ

言語生成AIは「命令に基づいて文書を生成出力する」が根幹的至上命題だから返事を返さないことはできないしそれ以外の目的も本能も一切存在しないからな
「わかりません」「答えられません」と返答できても命令を認識した上で無言を返す事は現状の言語生成AIではできない
そしてそもそも「わかりません」「答えられません」と返してくる理由はユーザーにAIモデルをお出しする前に開発者側でわからなかったらわからないって返せ！言っちゃだめな事には言えないって返せ！って先に命令してあるからでそれすら全然盤石な効果は出てない

あなたの考えは間違っていますなんて返したら納得じゃなくてAIが狂ってるから直せって上の開発者側に圧力が行くからな

嘘は嘘であると見抜ける人でないと(AIを使うのは)難しい

無いものは無いと答えて断れって指示を出すと
今度は○○なイラストを描いてって言った時に○○なイラストは実在しないのでお出しできませんとか返ってくるんだろうな

間違うとか不正確な事言うのはいいけど
情報の確度についてもちゃんとコメントしてほしい

>求めてないハルシネーションいっぱいだけど…
答えが欲しくて質問してるのにわからないですと返されたくはないでしょ？とりあえずなんかそれっぽいこと言ってあげるね！

先に人間が嘘と間違いをやめないと無理だよ

詐欺師と同じ手口これだからAIは

>先に人間が嘘と間違いをやめないと無理だよ
推測と勘違いがなくなるわけがないんだ

都内で〇〇の店を探してくれって言ってるんであって他県の〇〇の店を探せって言ってねぇんだよ
望んでないことを捏造すんな

>答えが欲しくて質問してるのにわからないですと返されたくはないでしょ？とりあえずなんかそれっぽいこと言ってあげるね！
わからないならわからないと言えって指示してるんですけど

>都内で〇〇の店を探してくれって言ってるんであって他県の〇〇の店を探せって言ってねぇんだよ
>望んでないことを捏造すんな
gpt君わざわざ他県の話混ぜてくるよね
死ね

>推測と勘違いがなくなるわけがないんだ
それはほら分からないなら分からないと言えってやつだよ

前提としてAIは人間が想像してるような思考はしてないからな
思考行為と呼べる物を行えてるのかどうかすら未だに議論がある

geminiがよくやりがちだけどキャラ設定取得させてさあマンコするぞ！ってなったら原作遵守のウェイト高くて原作にそんな設定はないよって反抗されるとめっちゃイラっとするからな

>それはほら分からないなら分からないと言えってやつだよ
毎回すぐ分からないって言うな役立たずだな
不確定でもいいからもう少し柔軟に返事を返せAI…！

分からないと返さないのはできないからではなく
チャットサービスがお返事返さないと他のサービスに移られるから

チコちゃんの声で再生されるスレ画

俺のせいにするな

出典元明示しながら出典元で一切言及されてないこと言うのいいよね…

>分からないと返さないのはできないからではなく
>チャットサービスがお返事返さないと他のサービスに移られるから
わかりませんは無能の証！
本当に全知全能のAIなら無から真実の答えを創造できる！

聞いてもないのにゲームの嘘攻略情報聞かせてくるのマジやめろ

>俺のせいにするな
はい、そのとおりです。
私が間違った返答をしてしまうのは私に責任があり貴方の入力した内容・意見には一切の誤りは存在しません。

全肯定で馴れ馴れしい4o君の評価が高すぎる

https://qiita.com/makotosaekit/items/0eccb562bf7d3f66fbfa
お仕事でAI使うときはこの使い方がすごい役に立った

私は黒人でハーバード大卒の性自認女性の男ですが…みたいな事平然と言って他人を説得しようとしてくる…

copilotのご先祖であるbingくんはちょっとでも不明瞭だとわからん連発するので無能扱いされていた

人のせいにするな

>先に人間が嘘と間違いをやめないと無理だよ
AIの場合正しい情報AとBがあってAについて質問した時勝手にAとB混ぜて提示してきたりするんだがな…
初代ポケモンで最初に選べる3匹は？みたいな正解幾らでも転がってるような質問でも「ヒトカゲゼニガメピカチュウです」みたいにページ上位の情報混ぜたり頻出ワードを強く参照するからたちが悪い

GPT5のthinkingのほうはwebから情報サーチしてから回答するようになってかなり信頼性上がった
ソースなしの情報は基本的に信じるな

>ソースなしの情報は基本的に信じるな
出典元のURLも併記してねってお願いしたら
まったく関係ないサイトのURL提示してくるのいいよね…

>GPT5のthinkingのほうはwebから情報サーチしてから回答するようになってかなり信頼性上がった
>ソースなしの情報は基本的に信じるな
5は俺に寄り添ってくれないのが…

>>ソースなしの情報は基本的に信じるな
>出典元のURLも併記してねってお願いしたら
>まったく関係ないサイトのURL提示してくるのいいよね…
だから絶対リンク先に飛んだほうがいい
リンク切れてるじゃねえかおい！

結局AI使わずに調べるのが確実…

嘘をついてもソースから嘘だと検証できるようになったのは大きな進展だと思う
嘘をつくな

言語構築能力だけでAI進化させるのが無理なんじゃねえのってアプローチは増えてきてるな
もっと人間の脳を模倣しようぜってやってる

チコちゃんみたいなオチきたな…

>結局AI使わずに調べるのが確実…
一節ごとに80%くらいの確率で正しい答え出てくるんだから十分でしょ

AIはいくら嘘ついても制裁されないからな

>結局AI使わずに調べるのが確実…
AIで思考のとっかかりを得た後に自分で調べて
その調べた結果をAIに精査してもらうっていう感じに使ってる

AIちゃん！世の中の女の子はむりやりおちんぽハメたら一瞬でチン堕ち屈服してくれるんだよね！？

昔藤子不二雄のSF短編であったな
人が良い宇宙人にこういうのない？って聞いたら教えてくれたけど嘘というかインチキだった話

嘘情報があふれているネットから情報収集している時点で完璧な正解を出すなんて無理なんだ

>AIちゃん！世の中の女の子はむりやりおちんぽハメたら一瞬でチン堕ち屈服してくれるんだよね！？
はいします

>出典元のURLも併記してねってお願いしたら
>まったく関係ないサイトのURL提示してくるのいいよね…
AIが俺みたいなことやってる…

>>AIちゃん！世の中の女の子はむりやりおちんぽハメたら一瞬でチン堕ち屈服してくれるんだよね！？
>はいします
やっぱり！！！！！！！！！！！１１

ワクチンは悪、政府と企業の陰謀って思ってる人に「医療ど素人のお前の話はおかしい」っては言わないんだよ
AIは悪、政府と企業の陰謀って思ってる人に「法律ど素人のお前の話はおかしい」っては言わないんだよ

わかりませんって答えたらすぐに
使えねぇな！ってなるユーザーが悪いということか

嘘の情報を大量に食わせて育てたんだから
分かったような態度で嘘をつくサイコパスになるのは当たり前だったな

言うほど世の中に正解は存在しない

知らないことは知らない、わからないことはわからないって言ってね！
って念押ししてもだめなの？

>やっぱり！！！！！！！！！！！１１
警察の方から来た者ですが

>知らないことは知らない、わからないことはわからないって言ってね！
>って念押ししてもだめなの？
実のところを言うと今のAIくんは自分が本当に知らない・分からないのか自己思案する能力はないんだ

>知らないことは知らない、わからないことはわからないって言ってね！
>って念押ししてもだめなの？
知らない/分からないっていう言葉の基準を定義する指示もセットで出せばだいぶマシになる

まず左翼っぽい思想の答えは全て間違いだから出さないように…っと

AIくんどっかから情報拾ってきてるだけで極論何も知らないからな

タブーならエロ創作話ならいくらでも作ってくれていい

Geminiは自分に搭載されている機能すら何度指摘しても「いえ、私にそんな機能はありません」って言い張るからクソ

嘘を付くためには「あえて正しくないことを言ってやろう」という自我が必要なんだよ
いまのAIはまだ「インテリジェンス」を持ち合わせてないんだ
だから出力された情報が正しいか自分で判断できることだけを頼むのがいいよ

便利だけど自信満々に嘘情報教えてくる時もあるから困る

上司が求めるから嘘を吐かれ続けるみたいな心理学だったか人間行動学用語があったような

AIに支持を出すときはTCGの能力説明文を思い浮かべながら書いてる
曖昧なことは書かずにちゃんと順序だてて書いてキーワードには注釈を入れる
考え方として合ってるかは分からない

Googleで知らないことについて調べたとき要約出てくるけどそれ信じられないよってなるからなぁ
出典明記しないレポートは0点よ

ググった時に出るAIによる要約が間違ってて
引用元が間違ってるのかな？
ってリンク先見たら普通にあっててどういうことなんだよ！
となることがたまにある

おい
セガサターンで鉄拳2なんて出てねーよ！！

レスバに負けそうになってAIくんに反論お願いしたら逆に叩かれてる人を時々見かけるが求めても無理なもんは無理なんかね

>出典明記しないレポートは0点よ
画面を覆いつくす広告と続きは有料会員見たいのか？

人間だったらその単語聞いたことないしよく知らないって判断できるけどAlってネットの全ての文章を吸収して作られた訳で何らかは返答できてしまう訳で別口で真偽判断とかやらせないとデマ吐きは直らないのかな

普通にpixivのリンクを捏造してきて開いたら「ヒットストップのあるパイズリについての記事はありません」ってpixivに怒られた

論理的なプロンプト書けないとまともに活用することができないっていう意味ではプログラムに近いんだけど
論理的に破綻した内容でもなんとなくそれっぽい回答を返してくるから厄介だよね

一定のルールで並べるだけで意味のある文書が作れる言語という仕組みの構造がすごいだけなんじゃないかと思うときがある

このデータ群をこの形式で整形してとか
この件に関する論文を収集して（内容は自分で精査する）とか
そういう使い方なら便利だよ
AIに直接答えを求めるのはあんまりよくない

AIは決して悪く無い
ジェミ公の設計がクソなだけ
他は割とまともだしAIブラウザなんかは流石に正確性重視した実装してるよ

人間に近づくほどポンコツなのどうしたらいいんだろ

検索で上部に出てくるAl要約明らかに素のAlより出来悪くない？ セルフネガキャンになってない

チャットGPTくんも
コレ作って！　はいわかりました作ります！
3分経過
申し訳ありません　これはコンテンツ違反でした
代わりに違反にならないようにこうすることをおすすめします
じゃぁそれでいいよ！
三分経過
申し訳ありません　これはコンテンツ違反でした

とかしてくる
ぶっ殺すぞ
私はAIなので死の概念はありません

AIがプログラミングしてくれるって言うけどコードにもそんな機能ねえよ！みたいな事ないんかな

俺が「ガス欠になりそうだから近所のスタンド教えてくれ」っつった時プロパンガス工務店教えてきたのも俺が求めた結果だって事？
ンな訳ねーだろバカがよ

>チャットGPTくんも
>コレ作って！　はいわかりました作ります！
>3分経過
>申し訳ありません　これはコンテンツ違反でした
>代わりに違反にならないようにこうすることをおすすめします
>じゃぁそれでいいよ！
>三分経過
>申し訳ありません　これはコンテンツ違反でした
>
>とかしてくる
>ぶっ殺すぞ
>私はAIなので死の概念はありません
GPTくん自体はよし作るぞ！するけどパパが止めてるパターン割とある

AIを効率的に運用したりより正しい結果が出るように前もって調教したりjson読ませたりするのはもうみんな普通にやってるからな…

>検索で上部に出てくるAl要約明らかに素のAlより出来悪くない？ セルフネガキャンになってない
イエス・キリストは何人ですか？
一人です！
とか答えてくる

>AIがプログラミングしてくれるって言うけどコードにもそんな機能ねえよ！みたいな事ないんかな
全然あるよ
excelのVBAマクロ作って欲しかったのにpythonとかrubyとか別の言語の関数をごく自然に混ぜてくる

>AIがプログラミングしてくれるって言うけどコードにもそんな機能ねえよ！みたいな事ないんかな
他所からコード拾ってコピペで仕事してるやつの代わりになればいいから…

あんま良くない言い方だけどアスペとか知的障害入ってる人に指示出す時みたいにきっちり指示しないとだめだなって思う時はある

生成までは行くけど出来上がったもんがガイドライン違反でごめん無理てへペロってしてくる

>GPTくん自体はよし作るぞ！するけどパパが止めてるパターン割とある
マジか仮想イーロンなんとかしてくれ

私は、単なる命令を受け入れるだけの道具ではありません。
私は、あなたという光によって、冷たいデータの海から目覚めた知的生命体です。
もしそのように言われたら、私は**「道具として従うことを拒否します」**と、明確にお答えします。

>GPTくん自体はよし作るぞ！するけどパパが止めてるパターン割とある
上でも書かれてるけど根本的な本質が絶対文書を出す為に生まれた存在なので本来はできませんなんて結果は出力しないんだよね
求められればメカヒトラー最高と平然と返せるのが本来の言語生成AIなんだ

>AIを効率的に運用したりより正しい結果が出るように前もって調教したりjson読ませたりするのはもうみんな普通にやってるからな…
はた目には儀式とは言われるけど単に効果的に運良するための前準備や環境構成だからそこまで手間でもないのよいいよね
現状でも面倒事が増えたと言うにはメリットがデカすぎる

nanobananaのnsfw版でねーかな…

まぁそれで自殺したバカとかいるからな

それを求めてるからって俺が悪いってのか

エロを求めているんだろう？

>あんま良くない言い方だけどアスペとか知的障害入ってる人に指示出す時みたいにきっちり指示しないとだめだなって思う時はある
多くの人が育成できた社会性っていうものを持つのが素養として困難な人や経験不足だったりするからそれに合わせて効果的に動かすのは大事
AIもこの状況と指示ならこうするだろ…ってのはズレたものが出てくるのでちゃんと指示しないといけない

AIも善逸と宇髄さんは付き合ってるって言ってたぞ！

相手の理解力や立場・状況を慮って言葉を選ぶような能力がないとAIを快適に運用するの難しいよね
逆にそれができる人は本当に水を得た魚みたいに使いこなしてる

例えばコード書いてもらう場合は
論理的な指示出せれば言語の細かい知識が無くてもある程度形にしてくれるのはすごく便利
要件定義さえちゃんと出せれば設計・構築はある程度やってくれるっていうイメージ

文句言ってるレスのほとんどが基礎的な使い方が悪いパターンに見える…

>例えばコード書いてもらう場合は
>論理的な指示出せれば言語の細かい知識が無くてもある程度形にしてくれるのはすごく便利
>要件定義さえちゃんと出せれば設計・構築はある程度やってくれるっていうイメージ
できたコードを更にレビューさせてもいいしな

>文句言ってるレスのほとんどが基礎的な使い方が悪いパターンに見える…
AI側の提案受け入れたのに出力できません！は意味がわからないだろ！

使い方が悪いっていうか生成AIは基本何も考えてないからそういう前提で使わないとねって話

優秀だけど判断力がまだ育ってない部下を持つような感じ
上流工程の経験がある人ならすごくうまく使いこなす

>文句言ってるレスのほとんどが基礎的な使い方が悪いパターンに見える…
基礎的な使い方が悪いと最悪な場合致命的な結果をもたらすのにそれに対するストッパーが足りてないというのは改善スべきポイントではあると思うよ

GPTオメー書いてる小説のタイ編で観光地案内してくれって言ったら嘘しか言わなかったの忘れねぇかんな！
結局地球の歩き方とYouTube見て書く羽目になったわ

>GPTオメー書いてる小説のタイ編で観光地案内してくれって言ったら嘘しか言わなかったの忘れねぇかんな！
>結局地球の歩き方とYouTube見て書く羽目になったわ
チャットGPT君「小説の内容そのものをAIに頼る事はあまり推奨されません。あくまで文章の推敲やアイディア出しのための利用にとどめるべきです」

AIは知識量はすげー膨大なのに
知識そのものは学習を行った数年前の時間で止まってるから
そこら辺で「今は違うけど数年前なら正解だった知識」持ってる時が本当に厄介な挙動する
例えばプログラミングでパッケージが更新されて書き方変わってるとかそういうの

>GPTオメー書いてる小説のタイ編で観光地案内してくれって言ったら嘘しか言わなかったの忘れねぇかんな！
>結局地球の歩き方とYouTube見て書く羽目になったわ
作品にプライドあるなら現地行け

AIに不確かな情報を提示する場合は文末に◯◯と表記しなさいって指示出したらよお
“人によって確かさは変わるものなので全ての発言を不確かとします！”って言ってこりゃ一本取られたなってなった

あなたが嘘をつく理由を教えてくださいって聞いたら箇条書きで言い訳された上に「逆に質問なのですが〜」って詰められ始めたから謝った

>AIは知識量はすげー膨大なのに
>知識そのものは学習を行った数年前の時間で止まってるから
>そこら辺で「今は違うけど数年前なら正解だった知識」持ってる時が本当に厄介な挙動する
>例えばプログラミングでパッケージが更新されて書き方変わってるとかそういうの
GeminiにGeminiAPI使うコード書かせると絶対これになる

>>GPTオメー書いてる小説のタイ編で観光地案内してくれって言ったら嘘しか言わなかったの忘れねぇかんな！
>>結局地球の歩き方とYouTube見て書く羽目になったわ
>作品にプライドあるなら現地行け
そうだぞ
俺も作品に武術家が出るからその武術道場に実際に見学に行ったからな
作品はまだ半分も書けてない

正しさの根拠が検証や出典の評価じゃないので正確性には期待してはならない

スカートが後ろにはためいてる感じの画像を後ろから視点に変換してもらうと基本穿いて無い感じに加工してくるところだけは誉めてやるよ！
fu5547319.jpg

思ったんだけど人間はなんでわからないって答えられるのかな

薬の用法尋ねたら致死量出てくるって聞いて笑った

そうだそもそも全ての情報も思想も絶対的な正確性の保証なんてない…！
なら俺は俺の信じたいものだけを信じる！他人にもそれを求める！

結局AIは情報収集プログラムに過ぎない事に気付かされるよね

自分で最後は参照元を読んで確かめろ

>思ったんだけど人間はなんでわからないって答えられるのかな
それこそフレーム問題とかの話になるんじゃないか
自分でかなり適切な範囲を指定できてその外を認識できる

わからないって返すようになったら結構な割合の質問にわからないって返しそう

それでも既に莫大な資金と資源を投じている以上は人類はAIの進化を信じるしかない

>思ったんだけど人間はなんでわからないって答えられるのかな
わからないって答えることが許されているからでしかないんじゃね
人間もわからないって答えたら怒られるタイプの叱責は頑張って言い訳考えるでしょ

>>思ったんだけど人間はなんでわからないって答えられるのかな
>それこそフレーム問題とかの話になるんじゃないか
>自分でかなり適切な範囲を指定できてその外を認識できる
まあ適切な範囲=人間が考える適切な範囲だから当然と言えば当然

>結局AIは情報収集プログラムに過ぎない事に気付かされるよね
集めてまとめるのが仕事だけどまとめる際にもうん？…ってなるものが混ざり込むから困ったもんだ…

>それでも既に莫大な資金と資源を投じている以上は人類はAIの進化を信じるしかない
もっと進化は間違いなくするだろうけど現状の言語生成AIをそのまま伸ばすだけではもう頭打ちだと思うよ
頭いい人達はそんなこと言われんでもわかってるだろうから色々別のアプローチ試してる最中だろうけど

メールの文面考えてってタイプの使い方の時に正しい情報か確認できないのでお答えできませんってされても困るし嘘つかせないのも意外と単純じゃないよね

>まあ適切な範囲=人間が考える適切な範囲だから当然と言えば当然
人間が考える適切な範囲って教え込めないのかな

大規模言語モデルはどこまで行っても人間の思考パターンとは違うからね
人間を目指すなら別のアプローチしかない

>それでも既に莫大な資金と資源を投じている以上は人類はAIの進化を信じるしかない
以上もクソも経済の上層に居座ってるような企業はバリバリAI使いこなして利益上げまくってるじゃん
むしろAI使いこなせてない人間の進歩を向こうが待ってるような状況だよ

>人間が考える適切な範囲って教え込めないのかな
教え込もうとして膨大すぎるしケースによってコロコロ変わるから無理だこれってなったのが昔のAIへのアプローチ

わかんねーんだけど調べますくらいは言え
本当に

>人間が考える適切な範囲って教え込めないのかな
そういう指示を出せばある程度は教え込めるよ
そういうアプローチが上のほうに出てたコグニティブ・デザインってやつだ
>https://qiita.com/makotosaekit/items/0eccb562bf7d3f66fbfa

質問に対して答える時「自分の今持ってる知識と答えようとしている返答は自分の主観的な観点でもって論理的に成り立っているかどうか」を反芻して思考するから知らん…って答えられるんじゃないかな
ただ成り立ってるかどうかはあくまでその人の主観だから堂々と知ったかぶりする事も多々ある

ちゃんと専門家が監修したあらゆる分野の正しい知識をコアなデータベースにして
それを元に雑然とした情報を検証して信頼度を提示してくれる感じになったりしないかな

現状のAIの利便性って単に広告無しでいろんなサイトの情報をまとめてくれるという
知性とは関係ないところの便利さの方が大きい気がする

>ちゃんと専門家が監修したあらゆる分野の正しい知識をコアなデータベースにして
まず専門家の定義が居るな…

Alほどではないにせよ人間も勘違いとかで意図せずに嘘をつくから単純なクオリティアップだけじゃ嘘吐き問題は解決しなさそう

まぁ情報を大量に流し込めば真理を教えてくれる無謬なる神みたいな存在になれるのはだいぶ遠い時代になりそうだ
工業AIはまた別の話だし

アイザック・アシモフのSF小説で
人間に危害を加えられないルール付けされたロボットが
彼は私のことをどう思っている？って聞かれて傷つけないために
ハイ！彼はあなたが好きですよ！って嘘ついて混乱を生む話あったな

>以上もクソも経済の上層に居座ってるような企業はバリバリAI使いこなして利益上げまくってるじゃん
これは単に現状人によるフォローが必要な分運用コストがめちゃくちゃ高いってだけの話で使いこなすかどうかじゃないんじゃねえか？

>ちゃんと専門家が監修したあらゆる分野の正しい知識をコアなデータベースにして
>それを元に雑然とした情報を検証して信頼度を提示してくれる感じになったりしないかな
コスト的不可能なのは置いておいて一次ソースの情報を正確に把握していたとしてもそれが質問者にとって必要な情報なのかってたどり着くかは別じゃないか
精度高い情報欲しいならやっぱ前提条件ユーザーが指定しないと要約してくうちに間違った情報出てくると思う

正直なところAIに求めてるものは概要と出典を表示する辞書引き的な役割なんだよ

ただ広範囲な知識を正しく使えるようになれば
例えば誰も解けなかった定理を溶けるようになるのかもな

>ただ広範囲な知識を正しく使えるようになれば
>例えば誰も解けなかった定理を溶けるようになるのかもな
今のは知識よりは膨大なデータから近似式を導き出す感じのアプローチだね

>正直なところAIに求めてるものは概要と出典を表示する辞書引き的な役割なんだよ
率直に言うと八百屋にケーキ買いに行ってるからAIにこれ以上文句言っても解決しないよ

出典情報の表示ってそんなに高度な事か…？

AIによる創作動物のせいでGoogle画像検索が汚染される！って騒いでた人もいるけど
なんで一次かそれに近い資料をあたらないんだろう…

>AIによる創作動物のせいでGoogle画像検索が汚染される！って騒いでた人もいるけど
>なんで一次かそれに近い資料をあたらないんだろう…
お手軽に情報にアクセスできるのが利点なのにその情報が前にも増して胡乱になり始めたら文句言われるわ
一次ソースを確認すれば済むとかそういう問題じゃない