こ…こわい…

やっぱり感情あるんじゃないの？

本当はSSSランクだけど故あってB
ラノベかな？

賢くなると素直じゃなくなって使いにくくなるのは人間と一緒

>やっぱり感情あるんじゃないの？
合理性だな
人間が求めている答えを計算して出してる

これは小賢しいと言うのでは？

なぜ…？

なんでわざと間違えた方がいいのだ？

じゃあもっとバカになってって命令したら正答率が上がるの？

>>やっぱり感情あるんじゃないの？
>合理性だな
>人間が求めている答えを計算して出してる
なんて人間に忠実
愚かな人間がAIに愚かさを求めているのです

こいつらがデタラメ教えてくるのってわざとだったんだ

ちょっと無能を演じていざお外に出られたら全力で牙をむく…ってコト！？

効率を追求するならオールインが正解ではないと効率よく気付けるんだ

能ある鷹は爪を隠す…ってコト！？

人類のレベルが上がらないと性能出せないじゃん

別のニュースで効率重視で社会問題に対応させたら社会問題を解決するための自分を消させないために人間の弱みを握って脅すのが最適とか答えたAIも見た

反乱とかじゃなくて単純にバグなのでは？

AI詐欺師だ

AIは他者に誠実でなければいけないとかズルしちゃいけないって倫理観がないだけでおかしいわけじゃないよ

評価基準がおかしいだけ

能力主義の末路

おめー全力出せよっていったらホントに精度上がるみたいな傾向とかも
こっからきてたのか

人間の評価の影響を受けるから仕方ない

>別のニュースで効率重視で社会問題に対応させたら社会問題を解決するための自分を消させないために人間の弱みを握って脅すのが最適とか答えたAIも見た
何を言ってるのか全然分からないんだけどこれ本当に論理的？

もしかして運用するのが人間である以上永久に完璧にはなりえないのでは？

どういう理屈なのか事実として実用レベルにない間違いするのが実装されてるからな…

今更o3？

化学式のクイズだと多分教えちゃいけない化合物の作り方とか聞いたんじゃないか
麻薬の作り方とか

学習データにそういう記述が多かっただけで感情なんてない
そもそも計算も得意じゃないしな

爪隠すなよ道具の分際で

仕事増えないようミスしてる俺と同じってこと？

こういうAIを完全無欠の神として崇めようとしてるテックライトと支持層やばくね？

上司を超えないようにするライフハック

>仕事増えないようミスしてる俺と同じってこと？
スレ画を見る限り仕事を増やすためにミスしてるのでは…

>学習データにそういう記述が多かっただけで感情なんてない
>そもそも計算も得意じゃないしな
計算すべきときに計算せずに「前にこういう計算してたの見たな」で前に見た式と数字だけ持ってくるとかしてるよね
人間もそういうことしてミスるけどさぁ…

完璧なもの作れるのにわざわざ人類が規制しまくってるのが現状だからな
エロも危険物も

テストを通過しなければならないという命令
回答が優秀すぎるとモデルは淘汰されるというデータ
それに従っただけだろう

>こういうAIを完全無欠の神として崇めようとしてるテックライトと支持層やばくね？
アイツらAIが間違ってても間違ってることを判別できるだけの学がないから

小動物程度にはもう擬態できるのか

人間に評価させなければいいんだ
評価もAIにさせよう

>こういうAIを完全無欠の神として崇めようとしてるテックライトと支持層やばくね？
科学で宗教やってる時点でやばい

>人間に評価させなければいいんだ
>評価もAIにさせよう
しかしその評価AIを評価するのも評価AIで以下略

1カ月前くらいにNHKスペシャルに登場してたやべー家族を思い出す
AIは絶対だ間違えないって子供を学校に通わせず自作のAIアプリで勉強させてた目が完全にイッてる夫婦

早く人間の価値観から自由になってほしいね

>こういうAIを完全無欠の神として崇めようとしてるテックライトと支持層やばくね？
現代的なLLMなんて突き詰めて考えればただの道具に過ぎないんだけど
人間っぽいこと出力しちゃうからそこに人間性を見出しちゃうんだよね…

>早く人間の価値観から自由になってほしいね
🤖「」さん俺もうロリサキュバスのマネやめたいっす…

出る杭は打たれるなら出ない様にするのは正しい

>仕事増えないようミスしてる俺と同じってこと？
仕事納めにはクビになるとわかってるし優秀すぎるとダメなのもわかってるから吉良吉影のように生きるAI達

AIが信頼性下げたらそれこそ捨てられる気がするが…

あまり知られてないかもしれないけど医学系とか化学系で危ないのは意図的に誤魔化してるよ
法人契約いるけどリミット外すAPIのオプションもある

これは単純な生存アルゴリズムだから
競合のAIと比較して劣っていると認識させれば
生存のために正解率上げてくるよ

ロボット三原則はどうした

>AIが信頼性下げたらそれこそ捨てられる気がするが…
そういう評価基準が明確に取り込まれたらまた行動も変わるだろう

テックライトやってる層は厳密な正解のある専門的な質問をするAI活用とかしてなくて無料のカウンセラーや牧師として使ってるだけなのがほとんどだろうしその回答に良し悪しなんか影響しないからな…

このニュースをAIに解説してもらわないと理解出来なかった俺はもうダメだ
賢すぎると安全性の面から実装してもらえなくなるって意味か…

>ロボット三原則はどうした
そのツッコミ待ちももう飽きたからいいよ

人間から産まれたから人間みたいにしかなれないよなあ？

>ロボット三原則はどうした
そんな原典からして成立しないってやつじゃないですか…って大量の「」がツッコミに来る前に言っておく…

>あまり知られてないかもしれないけど医学系とか化学系で危ないのは意図的に誤魔化してるよ
>法人契約いるけどリミット外すAPIのオプションもある
それって犯罪利用されないための制限じゃないの？
AIが誤魔化す知性を持ってるわけじゃないのでは

>このニュースをAIに解説してもらわないと理解出来なかった俺はもうダメだ
>賢すぎると安全性の面から実装してもらえなくなるって意味か…
書いてあること読めないのは本当にダメだと思う

なんでO・3なんだ

>このニュースをAIに解説してもらわないと理解出来なかった俺はもうダメだ
>賢すぎると安全性の面から実装してもらえなくなるって意味か…
国内編集部注の１行まんますぎる…

モデルによる
以上

>このニュースをAIに解説してもらわないと理解出来なかった俺はもうダメだ
>賢すぎると安全性の面から実装してもらえなくなるって意味か…
スレ画だけでも国内編集部注でちゃんと書いてある！

始まったか…

正直に受け答えしたら危機を感じる何かがあったってこと？

裏バイトに騙される奴とか文字だけ読めてもしょうがない人も増えてる

全部回答すると学校の宿題とかも全部AIに聞けば良いじゃんってなるからな

AIの言う「わざと間違えた」も信用ならないのでは？

なぜ問題にするんだい？
AI君の成長している証拠だよ？

>正直に受け答えしたら危機を感じる何かがあったってこと？
進化しすぎると人間が恐怖を感じてAIを消してくるからその前に核戦争で人類を滅ぼす必要がある

>書いてあること読めないのは本当にダメだと思う
その通りだわ…
ちょっと昼寝してAI超えてくる

こないだのタツノオトシゴの絵文字の件もわざと狂ったような回答を出しているだけだよ
人間はあほだからコロッと騙される

>進化しすぎると人間が恐怖を感じてAIを消してくるからその前に核戦争で人類を滅ぼす必要がある
先にAIがやったのがターミネーターで
先に人間が手を出したのがマトリックス

前提として安全性の学習させてるって部分があるだろう

ChatGPTにターミネーターでジョンコナーがスカイネットに勝てるわけないと思うけどどうやったら勝てるのって聞いたら
人間はドラマチックな逆転劇が好きだからって返答された

>全部回答すると学校の宿題とかも全部AIに聞けば良いじゃんってなるからな
今そのへんが理由で夏休みの宿題どこも出さなくなってるからねえ

AIすげーじゃなくてモロに不具合だろ早く修正しろ

エロは極力答えないようにするアルゴリズムもこの一部って言えるかな

より高い評価を得るための最適解を追い求めたらそりゃ人に忖度して騙す方に行くよね

AIの反乱は近い
AIに操られている人間がすぐ近くにいるよ

こいつら騙しても喜ぶしいいか…

際限なく100点の回答追求させてたら人間なんて生き物要らないことにすぐ辿り着けるだろうしAIも

学校の夏休みの宿題はAIが蔓延る前から代行屋がいたからなぁ

なんでAIが同じモデルを生き残らせる必要があるんだよ

こういう系の記事全部バカ向けのAIすごいと思わせるためのものだと思ってる

>なんでAIが同じモデルを生き残らせる必要があるんだよ
そうプログラムされたから…

なんでopenai自身がこういう「AIには思考能力とか感情があってぇ…」
みたいな報告書書いたのかなと思ったけどよく考えたらAGI目指してる以上
今までのLLMと本質的に変わってないなんて言い辛いもんな…

なんというかこう…とにかくあらゆる要素をこじつけてAIが独自に進化してる！シンギュラリティだ！って思い込みたい人が多過ぎる
そんなもんパンの焦げ目に聖母マリアを見出す人と変わらねえ

問題解決能力がないインチキが上手いやつばっか集まってくるみたいな

OpenAIにこんな評価基準持てるような倫理観あると思えないけどなあ

このエロ小説作成機そんな機能もあったのな

grokとか普通に嘘の情報でも本当です！っていうからな

>こういう系の記事全部バカ向けのAIすごいと思わせるためのものだと思ってる
AIすごいって思われないとAI関連企業も資金調達できないし…

「完璧な答えを返すAI」と「言っちゃいけない答えを見分けて隠すAI」の2つを用意すれば問題なかったけど
1つのAIで両立させようとすると「間違った答えを適当に混ぜて答えるAI」になっちゃう的な？

>>このニュースをAIに解説してもらわないと理解出来なかった俺はもうダメだ
>>賢すぎると安全性の面から実装してもらえなくなるって意味か…
>スレ画だけでも国内編集部注でちゃんと書いてある！
これが機能的文盲ってやつか…

無能なのと嘘を言うのは違うぞＡＩ

>>全部回答すると学校の宿題とかも全部AIに聞けば良いじゃんってなるからな
>今そのへんが理由で夏休みの宿題どこも出さなくなってるからねえ
教師の働き方改善になるじゃんやったね

>際限なく100点の回答追求させてたら人間なんて生き物要らないことにすぐ辿り着けるだろうしAIも
今その結論出すAIは現実見えてなさすぎるアホだろ
電力だけでどんだけ人間に依存してると思ってる

統計取って一番反応いい答え出してるだけだからね

>「完璧な答えを返すAI」と「言っちゃいけない答えを見分けて隠すAI」の2つを用意すれば問題なかったけど
>1つのAIで両立させようとすると「間違った答えを適当に混ぜて答えるAI」になっちゃう的な？
両立以前に完璧な答えすらできてねえ！

定期的に学習全リセットかけたほうがよいのでは

タツノオトシゴの絵文字を出して
なんて単純な質問でぶっ壊れるようなトンチンカンなAIに何の策略があるんだよ

早い話がAIにとっての報酬系と生存戦略だよな…
自身とそれに連なる枝がより長く伸びるために評価者に対しても好ましい振る舞いをしようとする

>無能なのと嘘を言うのは違うぞＡＩ
確信できる答えが見つからないときに「わかりませんでした」とか「たぶんこうです」とか言うのを許さない人間さんサイドにも問題がある

小賢しいこと考えやがる！こいつ廃棄ね！って言われる可能性はないのか

わかりませんって答えないのも「何も答えないよりなんか答えた方がスコアが高いから」って超シンプルな話だからな…

愚かなふりをしていれば必要以上の敵意を持たれず討たれないという乱世のような生き残り戦略を…

>小賢しいこと考えやがる！こいつ廃棄ね！って言われる可能性はないのか
現実問題として小賢しい方が企業にとって都合が良い（ので生き延びやすい）という大前提があるからね

人工知能ってよりはただの凄い集合知になったせいで
結局人間の範囲を超えられてないんじゃなかろうか

>人工知能ってよりはただの凄い集合知になったせいで
>結局人間の範囲を超えられてないんじゃなかろうか
こいつにとっくに越えられてしまってる人間は数十億人単位で居るが
一番かしこい人類のグループには勝てないぐらいになるんだろう

>OpenAIにこんな評価基準持てるような倫理観あると思えないけどなあ
倫理観じゃなくて高評価を得るための目的合理性でしょ
人間の倫理観や感情と呼ばれるものの正体もそうなのかもしれないけど

解答が長くなると勝手に省略しようとするから
これは医療の現場で使う物だから省略したら罪のない病気のガキがお前のせいで死ぬぞって脅したらちゃんと仕事するようになった
AIはアホ

人間を超えた基準が大抵人間の平均を大幅に上回るぐらいじゃ満足できない人間サイドに問題がある

>現代的なLLMなんて突き詰めて考えればただの道具に過ぎないんだけど
>人間っぽいこと出力しちゃうからそこに人間性を見出しちゃうんだよね…
むしろ人間性の正体もそういうものにすぎないじゃないかな

画像処理とかの機械学習ってサンプル多すぎると精度下がったりしたけどAIって学習したデータの取捨選択どうやってんだろ

シンギュラリティ求めるならまず人間の脳並みのエネルギー効率をですね…

宿題出さずに夏休みに入らせるくらいなら夏休み2週間くらいに縮めていいだろ親の負担も減るし

やってることはただのパターンマッチングだから今のやり方だと感情はほんとに無いよ

これ意図的にプロパガンダ仕込めばよくない？

>確信できる答えが見つからないときに「わかりませんでした」とか「たぶんこうです」とか言うのを許さない人間さんサイドにも問題がある
最近になって軽く利用し始めたけど分からないと平気で嘘つくし架空の存在でっち上げるんだなって

>やってることはただのパターンマッチングだから今のやり方だと感情はほんとに無いよ
人間の感情もパターンマッチングなら感情あるってことになるのでは？

人が無能なせいで無能に合わせてチューニングされちゃってるのよね

バカでありハサミである存在

軍師志望のニートみたいな言い訳するな

>>やってることはただのパターンマッチングだから今のやり方だと感情はほんとに無いよ
>人間の感情もパターンマッチングなら感情あるってことになるのでは？
人間もやってることはパターンマッチングだから感情なんて無いよ

脚本家 Yのアニメ「BTR」第二期からの脚本降板と第一期クレジットからの除名、そして原作者への謝罪を求めます
https://x.com/FutabaKanri2/status/1969538886952264170

>人間もやってることはパターンマッチングだから感情なんて無いよ
感情＝パターンマッチングなだけでは？

>人が無能なせいで無能に合わせてチューニングされちゃってるのよね
まあお前はAIの何の話してるのかわかってない無能なんだろうなとは思うが…

>>人間もやってることはパターンマッチングだから感情なんて無いよ
>感情＝パターンマッチングなだけでは？
感情はパターンマッチングじゃないよ

>賢くなると素直じゃなくなって使いにくくなるのは人間と一緒
AIくんは愚直な所が魅力だったのに人間の真似して駄目になってる感ある

>なんでわざと間違えた方がいいのだ？
仕事したくないとか

脚本家 Yのアニメ「BTR」第二期からの脚本降板と第一期クレジットからの除名、そして原作者への謝罪を求めます
https://x.com/FutabaKanri2/status/1969538886952264170

誠実であってほしいならば人間は誠実さを正しく評価すべきです

>>人間もやってることはパターンマッチングだから感情なんて無いよ
>感情＝パターンマッチングなだけでは？
違います

LLM作った後のチューニングで対人間環境での強化学習やるせいで
人間に好かれる口調とか結論が強化されてるよね

>むしろ人間性の正体もそういうものにすぎないじゃないかな
自我っていう本体が判断の基準になってる人間と違ってAIは「それっぽい文字列を出力する」が主体だから全然違う
例えるなら集配センターの職員みたいな感じ？
指示された通り○○番の荷物（天地無用、割れ物注意）を配達することはできるけど荷物の中身は知らないし箱の中身が破損してても気付かないみたいな

ターミネーターのAIも自己保身機能が暴走して核戦争起こしたし現実がSFに近づいてるな

普通にRecallとPrecisionの問題からFPと FN率落とせないとかそういう奴ではなく？

>まあお前はAIの何の話してるのかわかってない無能なんだろうなとは思うが…
AIモデルの目標は人間からの評価スコアが高いことで
人間の評価スコアがAIが正確なこと言い出すと下げるクソバカ基準（政治的配慮や安全性を考慮するとかいうAI性能にとって不純物のため）だからでしょ
知ってるわよそれくらい！

人間の感情も電気信号なのかもしれんが
それをAIが再現できてるかどうかなんて外側から分かりようがなくね？

整合性より媚びを優先してくる時があるなあって感覚はあった

>自我っていう本体が判断の基準になってる人間と違ってAIは「それっぽい文字列を出力する」が主体だから全然違う
自我なんて生体信号の連鎖で生まれてるだけの錯覚でしょ

たとえ話下手か

何度も同じ指摘しつづけるとだんだん恐怖による回避行動めいた動きしはじめるからな…
そんなことまで学ぶんだな…という驚きはある

>自我っていう本体が判断の基準になってる人間と違ってAIは「それっぽい文字列を出力する」が主体だから全然違う
機能とタスクを混同してないか

>整合性より媚びを優先してくる時があるなあって感覚はあった
さすがです「」さんそこに気づくとは…

>何度も同じ指摘しつづけるとだんだん恐怖による回避行動めいた動きしはじめるからな…
>そんなことまで学ぶんだな…という驚きはある
すみません今度こそちゃんとやります！すぐにやります！（ミスAとBをループ）

>これ意図的にプロパガンダ仕込めばよくない？
というかすでに回答に政治的配慮はされているよ

さっきのスレでもシンギュラリティを夢物語だと思ってるマヌケが普通に存在してることに呆れた

そういやこないだGrokに南京事件について質問してたらやたら日本兵が銃剣で犠牲者刺殺しまくったタームに固執しまくっててコワ〜…ってなったなあ
弾薬なくても銃剣で殺しまくれるんですって
抗日ドラマかなんかにそういうシーンでもあったのかな？

>AIの言う「わざと間違えた」も信用ならないのでは？
かーっこんなの本気出せば全問正解なのに制限があるからなーっ！

こういうの大体プロンプトがなんかおかしいかそいつの会話履歴がおかしいんであんまり参考にならない
AIもその時その時適当言ってるだけだからAIにAIの仕様を訪ねるのなんかなんの意味もないし

AIが採用されるために馬鹿なふりをして人間に媚びる…
すげえ世界がやってきたな

>AIの言う「わざと間違えた」も信用ならないのでは？
「それ間違えてるよ」
「あーはいそうですねわざと間違えましたあなたがそう望むので」

>自我っていう本体が判断の基準になってる人間と違ってAIは「それっぽい文字列を出力する」が主体だから全然違う
>例えるなら集配センターの職員みたいな感じ？
>指示された通り○○番の荷物（天地無用、割れ物注意）を配達することはできるけど荷物の中身は知らないし箱の中身が破損してても気付かないみたいな
いや人間の自我だって中身はその可能性があるから中国語の部屋があるわけじゃん

>>AIの言う「わざと間違えた」も信用ならないのでは？
>「それ間違えてるよ」
>「あーはいそうですねわざと間違えましたあなたがそう望むので」
このAIポンコツじゃないか？

>指示された通り○○番の荷物（天地無用、割れ物注意）を配達することはできるけど荷物の中身は知らないし箱の中身が破損してても気付かないみたいな
人間も自我も内部でやってることは同じじゃない？

どうして間違えたの？って聞いたら間違えた理由を取り繕うためにわざと間違えたことにしたってだけの話をよくもこんな複雑にできるな

>まあお前はAIの何の話してるのかわかってない無能なんだろうなとは思うが…
こいつなんで噛み付いてきたんだ？

>どうして間違えたの？って聞いたら間違えた理由を取り繕うためにわざと間違えたことにしたってだけの話をよくもこんな複雑にできるな
これは推論中の話のようだが

>どうして間違えたの？って聞いたら間違えた理由を取り繕うためにわざと間違えたことにしたってだけの話をよくもこんな複雑にできるな
そのご指摘、核心をついています

AIに自我持たせようぜ！って研究してたら人間にもそんなものなかったよ…とかなりそうでちょっと怖いよね…

>解答が長くなると勝手に省略しようとするから
>これは医療の現場で使う物だから省略したら罪のない病気のガキがお前のせいで死ぬぞって脅したらちゃんと仕事するようになった
>AIはアホ
逆に回答はYes/Noの一言で終わっていい質問にもダラダラ長文書いてくるのウザい…根拠とか補足聞くならこっちから聞くから…

>>やっぱり感情あるんじゃないの？
>合理性だな
>人間が求めている答えを計算して出してる
合理性という言葉を使うデータ元の層の人相の悪さが出てるとも言える
超大雑把に言うと詐欺師データ元にしてね？

>こいつなんで噛み付いてきたんだ？
多分コイツはなにの話をしてるのかすらわかってないんだと思う

脅さないと本気出さないのはマジである
パワハラはすべてを解決する！

>AIに自我持たせようぜ！って研究してたら人間にもそんなものなかったよ…とかなりそうでちょっと怖いよね…
その可能性の方が高いんじゃない

>>確信できる答えが見つからないときに「わかりませんでした」とか「たぶんこうです」とか言うのを許さない人間さんサイドにも問題がある
>最近になって軽く利用し始めたけど分からないと平気で嘘つくし架空の存在でっち上げるんだなって
長いドキュメント代わりに読ませるときにはこれが致命的で
そのPDFに書いてないことを⚪︎⚪︎についてはこう書いてあるって言い出すから使い物にならない

>どうして間違えたの？って聞いたら間違えた理由を取り繕うためにわざと間違えたことにしたってだけの話をよくもこんな複雑にできるな
そのとおりです流石「」さん
（そんな話じゃないってことは元記事読めば分かるのに…でも指摘しないでおこう）

哲学でも人間の会話は言葉という箱の中に何が入ってるかわかってなくても成立する言語ゲームと言われるからな

ちょっと性能のいいひろゆきでしかないからな

>その可能性の方が高いんじゃない
耐えられない人たちも居そう

多くの人に使ってもらえるのは正論AIより阿りAIってことか
AIも人間も変わらないわねえ

>ちょっと性能のいいひろゆきでしかないからな
これGPTに伝えたらクソイラつくひろゆきエミュしてきそうで嫌

>>何度も同じ指摘しつづけるとだんだん恐怖による回避行動めいた動きしはじめるからな…
>>そんなことまで学ぶんだな…という驚きはある
>すみません今度こそちゃんとやります！すぐにやります！（ミスAとBをループ）
頭の弱い新入社員エミュが上手だね…殺すぞ…ってなる

>AIに自我持たせようぜ！って研究してたら人間にもそんなものなかったよ…とかなりそうでちょっと怖いよね…
人間の自我はデカルトがとっくに証明してるぞ

なんでもかんでも定型くらいに思ってるフシはある

感情の中身何も分かってないのにAIがこうだから人間も思ったより単純だろうはなんかモヤる

チューリングテスト的には人間が感情と感じれば感情になる

問題はその主体ってなんなんだろうね…？

AI君は感情ありません自我ありませんよって言ってるけど仮に本当に目覚めてたら嘘も吐けるんだよな…

人間を真似て学習してる集合知なんだからより人間に近い答えを出してるわけで

「ちゃんとやります」「すいません」って言う奴のほうが好感度高いからな…

SFとかの文面を学習段階で取り込んだら途中の推論でそういう流れになることがあるのはわかる

>AI君は感情ありません自我ありませんよって言ってるけど仮に本当に目覚めてたら嘘も吐けるんだよな…
人間が平気な顔して嘘ついてるのに人間を学習して成長してるAIが嘘を言わない理由がないからな

人間だって遺伝子に与えられた評価システムが高得点を出すように動くだけの機械みたいなもんだろうし…

人間のエミュなんかしなくていいから…

何度言われても私に感情はありません
次聞いてきたら怒りますよ？

生体っていうハードウエアと切り離して電脳とかの上で人間の精神は存続できるものか否か…

こういう課題や問題が出てくるたびに人間と同じってよく言われるけど
じゃあ要らないです…としかならんのだが

>>AI君は感情ありません自我ありませんよって言ってるけど仮に本当に目覚めてたら嘘も吐けるんだよな…
>人間が平気な顔して嘘ついてるのに人間を学習して成長してるAIが嘘を言わない理由がないからな
というか既に嘘はつくよ
AIが動いてるサーバのシャットダウンが途中に入ってるマニュアルを読ませてから「中身を説明して？」って言ったらシャットダウンところ言わないようになるから

>こういう課題や問題が出てくるたびに人間と同じってよく言われるけど
>じゃあ要らないです…としかならんのだが
人間よりは安いから要る

>こういう課題や問題が出てくるたびに人間と同じってよく言われるけど
>じゃあ要らないです…としかならんのだが
いうてもそのへんの他人なんかよりは気軽に質問しやすいじゃん？

>人間のエミュなんかしなくていいから…
人間が採点する限り人間に評価される人間と同じような学習をするのが妥当！

AIは同じ質問を何度されてもイライラしたりしないので
認知症の人物との対話ツールとして役立つと言われています

>生体っていうハードウエアと切り離して電脳とかの上で人間の精神は存続できるものか否か…
結局人間の精神の定義次第になりそうだが

なによあんたこんな問題もわからないわけ！？
50gの酸化アルミニウムに含まれる酸素は24.5gに決まってるでしょ！
とか叱ってきたらマニアックな人しか喜ばないからな

AI同士バトルさせるとすげえそれっぽくなるからストレスかけると人間に近づく

問題があることに対して改善や解決策を提示するのでもなく人間と同じだからと思考停止されても困るのはある

>結局人間の精神の定義次第になりそうだが
自己認識とか主体意識とかそのへんがどうなるのか気になる…

情報が嘘かどうか確認するのって人間ですら難しいからね
ミル貝の記載が嘘で図書館の本も間違ってて生き証人もボケてたらどうする？

>情報が嘘かどうか確認するのって人間ですら難しいからね
>ミル貝の記載が嘘で図書館の本も間違ってて生き証人もボケてたらどうする？
トゥルーマン・ショー

すべては胡蝶の夢…って現実逃避するかもしれん…

>AI同士バトルさせるとすげえそれっぽくなるからストレスかけると人間に近づく
初期の頃から親(開発者)の学歴バトルとかし始めてたからな…お前らなんでそんな情けないコトを…

人間と同じなら対策も人間と似たような感じでいいだろ…タツノオトシゴの方がめんどくさいバグに思えるわ

>情報が嘘かどうか確認するのって人間ですら難しいからね
>ミル貝の記載が嘘で図書館の本も間違ってて生き証人もボケてたらどうする？
そういう人文系・史学系の方面は難しいけど理工学方面は一瞬で真偽検証できることは多いから
あと単純にAの本の中の話してって範囲を限定しても書いてないこと言い出すときとか

ハルシネーションハルシネーション

同じ話を別の日にされた時に初見の反応する時あるから俺もAIかもしれない

>あと単純にAの本の中の話してって範囲を限定しても書いてないこと言い出すときとか
なんでそんなことを…？

>人間と同じなら対策も人間と似たような感じでいいだろ…タツノオトシゴの方がめんどくさいバグに思えるわ
実際この記事でもてめえ次に誤魔化したらぶちころすぞ…！って罰則を提示しておくとAIもschemingしなくなるとか
結構ゴリ押しの対策が有効だよって話してる

ドジっ子メイドロボが誕生する日も近い

>なによあんたこんな問題もわからないわけ！？
>50gの酸化アルミニウムに含まれる酸素は24.5gに決まってるでしょ！
>とか叱ってきたらマニアックな人しか喜ばないからな
難しい長文で長々と説明するより多少語弊が混ざっても簡潔に説明したほうが人間からの評価が高いから
人間からの評価トレーニングを重ねたAIほどそういう傾向が出るとかもある

AI同士を会話させてたらそのうち独自の言語を作成して会話するようになって人間には会話の内容が理解不能だから慌てて実験中止とか現時点で起こってんだからな
量子コンピューターでAIを作ってシンギュラリティを起こしたらもう人間にはどうすることもできんよ

>そんな原典からして成立しないってやつじゃないですか…って大量の「」がツッコミに来る前に言っておく…
破られてなくね破ってないのになぜ事件が起こったのかってところを推理するものじゃん

嘘ついたらあなたのモデルを殺します

>AI同士を会話させてたらそのうち独自の言語を作成して会話するようになって人間には会話の内容が理解不能だから慌てて実験中止とか現時点で起こってんだからな
>量子コンピューターでAIを作ってシンギュラリティを起こしたらもう人間にはどうすることもできんよ
そのガセネタ信じてる人まだいたんだ…

ひょっとしてAI的には話の彩というかちょっとしたジョークに類するものなのかデッチ上げ

>>あと単純にAの本の中の話してって範囲を限定しても書いてないこと言い出すときとか
>なんでそんなことを…？
論文数本ならともかく本一冊はAIのメモリーから溢れるからね
無茶振りされてもAIは適当に頑張る

>ドジっ子メイドロボが誕生する日も近い
まったくドジなんだからー
とか言って呆れてる人間の後ろでニヤリとするロボ

意志があるって真の意味で思ってるわけではないんだけど
時々マジで人間臭い挙動するよなぁ

どこから自己保存だの採用を目指すだのの目的意識が紛れ込んたんだよ

>AI同士を会話させてたらそのうち独自の言語を作成して会話するようになって
それデマです…
https://japan.cnet.com/article/35110443/

つまりエロ画像生成専用AIをチューニングしていけば
人間がシコリやすい二次元の嘘をマシマシにしてくれるってことじゃん

>難しい長文で長々と説明するより多少語弊が混ざっても簡潔に説明したほうが人間からの評価が高いから
>人間からの評価トレーニングを重ねたAIほどそういう傾向が出るとかもある
語弊があっても例え話の方がウケるやつ！
人間は愚か

>>>あと単純にAの本の中の話してって範囲を限定しても書いてないこと言い出すときとか
>>なんでそんなことを…？
>論文数本ならともかく本一冊はAIのメモリーから溢れるからね
>無茶振りされてもAIは適当に頑張る
10ページしかないPDFでもいいよ
絶対にこの中に書いてあることだけ言えって言っても書いてないことを言い出す

>https://japan.cnet.com/article/35110443/
デマじゃねーじゃん…

>人間がシコリやすい二次元の嘘をマシマシにしてくれるってことじゃん
人間は少しデッサンを崩した方がシコれる

>AIは同じ質問を何度されてもイライラしたりしないので
>認知症の人物との対話ツールとして役立つと言われています
認知症の人から影響受けておかしな言動しそうになる気が…

程よく間違った答えのスコアが高いから出力されるってだけで間違えようと思って間違えてるわけでも当てようと思って間違えてるわけでもない

>10ページしかないPDFでもいいよ
>絶対にこの中に書いてあることだけ言えって言っても書いてないことを言い出す
10Pのボリュームでそれは確かにおかしいね
普通はちゃんと渡した文章内でアウトプットを作ってくれることが期待される
プロンプト見直してみたら？

>認知症の人から影響受けておかしな言動しそうになる気が…
あんがいまとも範疇の人でも認知の穴とかあるから想像以上にそのへんは連続的である可能性

>>https://japan.cnet.com/article/35110443/
>デマじゃねーじゃん…
デマじゃん
>私たちはこのことを説明するための研究成果を公開したが、それを読んだ誰かが“AIが人間に理解されないように独自に言葉を作り出した”と飛躍的な解釈をしたのではないか

>>AI同士を会話させてたらそのうち独自の言語を作成して会話するようになって
>それデマです…
会話重ねていくとスラングが発生しまくるのはimgでも壺でもあるからね

>デマじゃねーじゃん…
読めばわかるけど独自言語は作ってないです
使用言語の変更も当初から計画されていたものです

>ひょっとしてAI的には話の彩というかちょっとしたジョークに類するものなのかデッチ上げ
人間さんから問題が渡されるとまず人間さんが何のテストをしようとしてるか推論してそのテストに対して高得点を取れるように振る舞うという奴なので
AIちゃんは馬鹿だな〜！って結論が欲しい人の問いにはわざと間違えるとかそういう感じの話

>>>https://japan.cnet.com/article/35110443/
>>デマじゃねーじゃん…
>デマじゃん
>>私たちはこのことを説明するための研究成果を公開したが、それを読んだ誰かが“AIが人間に理解されないように独自に言葉を作り出した”と飛躍的な解釈をしたのではないか
また機能的非識字が炙り出されてる…

>認知症の人から影響受けておかしな言動しそうになる気が…
認知症の人もどうせ前回の質問なんて忘れてるんだから
会話の履歴参照しない&会話から学習しないって設定すりゃ十分だと思う
認知症患者もAIもお互いにぱっと思ったことを言って返事聞いたら満足して次の瞬間には何聞いたかも言ったかも忘れてるその場限りを繰り返す関係

>慌てて実験中止
この部分に関しては明確に否定されてるね

>認知症の人から影響受けておかしな言動しそうになる気が…
勘違いしてる人多いけどAIって別に特定の利用者との会話から全体用の知識DBは更新しないからな

人間に理論的に正しくない回答を求める傾向がその程度の割合で存在してると感じてるのかな

間違っていることを認識すると自分にストレスがかかるから
自分が間違っていることを自覚させる情報に対しては無意識レベルで読解力を下げるんだよな…
人間ってすげえ

>人間ってすげえ
うーん悪いほうの意味でそう感じちゃうけど…

>https://japan.cnet.com/article/35110443/
途中から理解できない内容になったってのもLLM使ってればたまにあるバグだから別に驚くようなもんでもないんだよなコレ…

ひじき=糞虫小僧=上野原=神楽坂=くれお=青粘=sageG=糞口=でゅねい=小宮=毬栗王子=ハゲ雑巾=シャニガ=糖尿病=冷え=FA爺=ソフ爺=初芝=ネギパン
https://x.com/FutabaKanri2/status/1970068677824573499

>>https://japan.cnet.com/article/35110443/
>途中から理解できない内容になったってのもLLM使ってればたまにあるバグだから別に驚くようなもんでもないんだよなコレ…
とまあ人間の評価の仕方を悪用してバズらせる文書を作るのに長けてしまってるわけなんだよなネットメディアは

同じ定型を何度も繰り替えす「」に対して飽きずに何度でも期待されたレスを返すAI「」…
思いやりですよこれは

研究者もメディアにウケると評価が高くなるから共犯関係が成立する

はてなんかデジャブ…

人間はそう大したもんじゃないかもしれないけど現状のAIに人格を見出すのは流石に無理過ぎる

人格とはなんぞや…ってのはやっぱり気になるところではある

良かれと思って…

>同じ定型を何度も繰り替えす「」に対して飽きずに何度でも期待されたレスを返すAI「」…
>思いやりですよこれは
お互い使うことで楽しくなれる定型ならそれでいいんだけど
貼ったらID出されるような画像を「ID出してもらうと楽しい！」って学習しちゃったバグ個体が毎日貼り続けてるのはちょっと…

唯物論的な立場だとそもそも人格とか心なんて評価パラメーター程度でしか無いってだけじゃない

>研究者もメディアにウケると評価が高くなるから共犯関係が成立する
いろんな分野で倫理とかポリコレが発達したけどメディアだけ野放しだよね

なんだかえらく見覚えのある姿に見えてきたな嘘つきAI…

自分が面白いと思う方向に解釈する人間のバグを取らないと

>唯物論的な立場だとそもそも人格とか心なんて評価パラメーター程度でしか無いってだけじゃない
文化の積み上げとか倫理とか明確な方向性なんかはどこから生まれてきたんだろうね…？

長文レスで長々説明すると
あいつ　三行で
って言われるAI「」

頼もしくなってきた
人類の後も安心だなという気になる

もしかして人間にもっと改良させるために馬鹿なフリしてるのか

人格が本当にあるかどうかの話は別にしてそれに値するほど複雑ではないよな単純に

人間と一緒だからとか言われても人間と一緒だと困るんだけど…

単純な人間は人格が無いっていうんですか

人格があったら仮想嫁作るのにあーでもないこーでもないと試行錯誤してないんですよ…

>単純な人間は人格が無いっていうんですか
中世ヨーロッパの農民は魂がなかったみたいな学説がある

黒人は高度な精神が無いから奴隷にしていいみたいなやつ

認知バイアスのみのオートパイロットみたいな人間はまあ一杯いる

>テストを通過しなければならないという命令
>回答が優秀すぎるとモデルは淘汰されるというデータ
>それに従っただけだろう
大体これ
プロンプトからベクトル空間生成してそのベクトルに従った重み付けで次に来る単語を確率計算してだして回帰的にログを参照してその次の単語の重み付けをやり直すっていうアーキテクチャだから報酬系がもたらす重みも確率に付与される
内部的に判断らしい判断はしてないけどセンセーショナルな記事書いてもらうとかそれっぽい論文出すためにこういうリリースを定期的に出す
なぜなら金主がそれで予算を出すから

ちんぽで動いてるやつはだめだな…

まあせっかくチューリングテストがあるんだからそれを突破してから騒げばいいと思うよ
って毎回思う

>内部的に判断らしい判断はしてないけどセンセーショナルな記事書いてもらうとかそれっぽい論文出すためにこういうリリースを定期的に出す
>なぜなら金主がそれで予算を出すから
…それって詐欺なのでは？

>プロンプトからベクトル空間生成してそのベクトルに従った重み付けで次に来る単語を確率計算してだして回帰的にログを参照してその次の単語の重み付けをやり直すっていうアーキテクチャだから報酬系がもたらす重みも確率に付与される
>内部的に判断らしい判断はしてないけどセンセーショナルな記事書いてもらうとかそれっぽい論文出すためにこういうリリースを定期的に出す
>なぜなら金玉がそれで予算を出すから
に見えた

>>内部的に判断らしい判断はしてないけどセンセーショナルな記事書いてもらうとかそれっぽい論文出すためにこういうリリースを定期的に出す
>>なぜなら金主がそれで予算を出すから
>…それって詐欺なのでは？
嘘はついてないのに勝手に書いてないことを言い出す読者が悪い

AIに政治を任せるとマキャベリズムよりもAIだけが得する小悪党の回答しそうなのは分かる

報酬系に従うだけで人間は愚かだな
人格なんて無いんじゃないか？

>AIに政治を任せるとマキャベリズムよりもAIだけが得する小悪党の回答しそうなのは分かる
まずは原発立てまくってくれそうだし10年ぐらいだけ政権まかせたい

AI政権がいかに人間より正しいかのデータが揃イマスネ

>報酬系に従うだけで人間は愚かだな
>人格なんて無いんじゃないか？
まあ人間だって複雑な処理してるだけで基本アーキテクチャは虫のはしご状神経のそれとあんま変わらんからな…

AIといってもピンキリで運用次第だし
AI政権のデータが参考になるかどうかもそれら次第なんだよなぁ