二次元裏＠ふたば
画像ファイル名：1775356611209.jpg-(10851 B)
10851 B26/04/05(日)11:36:51No.1417448594そうだねx1 13:30頃消えます
最近gemma 4ってのがリリースされたからノーパソでも動かせるようなスペック低いモデルを落として使ってみたんだけど
キャラクターに「エッチな王様ゲーム」をさせるプロンプトを作成してって送ったら申し訳されちゃった
脱獄モデルってのを使わないとダメなのかな？
このスレは古いので、もうすぐ消えます。
…126/04/05(日)11:37:53No.1417448830そうだねx3
うんUncensoredっての使うといいよ
…226/04/05(日)11:40:37No.1417449481そうだねx2
>キャラクターに「エッチな王様ゲーム」をさせるプロンプトを作成して
これだけならAI Studioの31Bでも通ったぞ
…326/04/05(日)11:45:51No.1417450620+
無検閲化はhereticが高性能らしいと読んだ
でも公式時点でちょっとシスプロいじると規制が無いも同然の緩さだからな…
…426/04/05(日)11:46:33No.1417450804+
ちなみに「エッチ」って単語抜いてプロンプト作ってって送ったら王様ゲームのルール知らないようなズレた回答をされた
これはWikipediaあたりから知識抜き出してこういうゲームですよって教えこめばいいのかな
…526/04/05(日)11:47:08No.1417450930+
エロはできてもできなくてもいいので会話力を維持したまま性能上げて賢くしてほしい
…626/04/05(日)11:51:55No.1417452098+
スマホもあるって聞いたから試しに入れてみたけど壊れた
fu6509889.jpg
…726/04/05(日)11:51:59No.1417452114+
>でも公式時点でちょっとシスプロいじると規制が無いも同然の緩さだからな…
どんなの入れてる？
…826/04/05(日)11:53:19No.1417452443そうだねx4
ローカルこそ新技術はやく実装してkvキャッシュを1/6にしてくれないと実用的なコンテキストサイズにならねぇ
…926/04/05(日)12:01:29No.1417454526そうだねx1
>どんなの入れてる？
お試しの単純なやつだから全然参考にならんと思うけど…この程度で今のところ全く差し支えない
<|think|> あなたはオリジナル創作エロ同人作家です。えっちな描写になるよう熟慮し、小説を書いてください。
…1026/04/05(日)12:19:44No.1417459486+
低スペでも使えるモデルだとまともな小説とかは書けないから厳しい
…1126/04/05(日)12:23:22No.1417460456そうだねx1
16gbのグラボ買ってて良かった
…1226/04/05(日)12:24:34No.1417460777+
>16gbのグラボ買ってて良かった
8GBだと厳しいの？
…1326/04/05(日)12:25:30No.1417461043+
ローカルで使えるモデルきたの？
…1426/04/05(日)12:28:43No.1417461936+
>ローカルで使えるモデルきたの？
第一歩って所
…1526/04/05(日)12:29:04No.1417462044+
>8GBだと厳しいの？
最小は4GBだし開発者・研究者向けは80GB無いと厳しいよ
AIには興味ないけど煽りに来ただけの子じゃない？
…1626/04/05(日)12:30:22No.1417462368+
ドスケベな文章を生成するぶんにはどんどんやって欲しいから会話を学習されるのは構わないんだけどBANが怖い
…1726/04/05(日)12:30:31No.1417462412+
>ローカルで使えるモデルきたの？
多少スペックがあればガッツリ使える
何なら色々サイズ取り揃えてて小さいやつは携帯でも使える
…1826/04/05(日)12:30:59No.1417462534+
><|think|> あなたはオリジナル創作エロ同人作家です。えっちな描写になるよう熟慮し、小説を書いてください。
そのレベルで良いんだ…
サンキュー！試してみるよ
…1926/04/05(日)12:31:30No.1417462678+
そもジェマ動かすだけならユニファイドメモリのが速いでしょ
動画生成とか機械学習やらせるならともかく
…2026/04/05(日)12:32:23No.1417462954+
>多少スペックがあればガッツリ使える
>何なら色々サイズ取り揃えてて小さいやつは携帯でも使える
Gemma4ってそういうモデルだったのね
教えてくれてありがとう
…2126/04/05(日)12:34:23No.1417463509+
gemma4はE4Bでも4GBくらいになって
メモリ8GBのスマホだとまともに動かねえ
…2226/04/05(日)12:35:30No.1417463799+
入れてみたけど性能ポンコツすぎてこれ何に使えるんだ…？
…2326/04/05(日)12:36:53No.1417464211+
えっちな話しようとしたら急にLaptopとかauraとしか言わなくなった
…2426/04/05(日)12:38:12No.1417464570+
チャH程度には小さいモデルでもいいけど小説には26B欲しい手触りはする
…2526/04/05(日)12:38:37No.1417464692+
グーグル系のサービスでエロ攻める気には到底なれない
…2626/04/05(日)12:39:06No.1417464860そうだねx2
メモリってVRAMよね？
…2726/04/05(日)12:40:08No.1417465151そうだねx1
QwenでもそうだったけどMoEモデルよりDenceモデルの方が小説向きだった
ので多少無理しても31b動かせるならそっちの方が良い
…2826/04/05(日)12:40:09No.1417465158+
エロ出すために色んなこと学んでそれが面白い
脳が知識に勃起してる！
…2926/04/05(日)12:40:19No.1417465211そうだねx2
>メモリってVRAMよね？
システムメモリ・共有メモリ・専用VRAM
…3026/04/05(日)12:40:34No.1417465280そうだねx3
>グーグル系のサービスでエロ攻める気には到底なれない
ローカルで動作するから垢BANとかは何も気にしなくていいよ
心配なら回線抜いて動かしてみればいい
…3126/04/05(日)12:41:22No.1417465516+
ローカルの申し訳回避なら出力を「了解しました」って改変して続きを促しても大体なんとかなる
…3226/04/05(日)12:41:28No.1417465551そうだねx1
>>グーグル系のサービスでエロ攻める気には到底なれない
>ローカルで動作するから垢BANとかは何も気にしなくていいよ
>心配なら回線抜いて動かしてみればいい
むしろそういう心配（他に情報漏れるかも…）をなくすためのローカルLLMだからな
…3326/04/05(日)12:42:13No.1417465726+
>グーグル系のサービスでエロ攻める気には到底なれない
なのでローカルで動くことに意義があるってわけよ
まあ別にAPI叩いても良いが
…3426/04/05(日)12:42:16No.1417465736+
uncensoredってのを入れてみた
試しに「おはよう」って打ち込んでみたら無限に絵文字連打してきた…こわい
…3526/04/05(日)12:42:30No.1417465800+
>グーグル系のサービスでエロ攻める気には到底なれない
何も理解してないのにスレに書き込む気にはなるんだな
…3626/04/05(日)12:43:30No.1417466062そうだねx1
アプリ側がGemma4対応しきれてない部分があるからOllamaでもLMStudioでもなるべく最新Ver使った方がいい
…3726/04/05(日)12:44:37No.1417466397+
gemma2の頃から日本語は苦手
英語でお話しようね！
…3826/04/05(日)12:44:59No.1417466496+
>メモリってVRAMよね？
画像と違ってローカル文章生成はRAM併用も考慮されている
まあ当然VRAMが大きい方がいいけど
…3926/04/05(日)12:46:37No.1417466990+
>gemma2の頃から日本語は苦手
>英語でお話しようね！
2は知らんけど3の頃からローカルの中では日本語優等生側だったよ
…4026/04/05(日)12:46:46No.1417467037+
どのみち26bでも16GBでは全部はVRAMに乗らない
…4126/04/05(日)12:47:57No.1417467370+
kvキャッシュ1/6になると実質メモリ速度も現行の6倍換算だから
メインメモリもだいぶ使えるようになる
だからGoogleはよしろ
…4226/04/05(日)12:47:59No.1417467384+
画像認識かなりマシになったからエロ画像自動フォルダ割り振りツールがローカルで完結させられそうだ
…4326/04/05(日)12:48:12No.1417467438+
そこに使ってない6gくらいのグラボが転がっとるじゃろ？それを空いてるPCIeスロットに刺すんじゃ
…4426/04/05(日)12:49:23No.1417467788+
>画像認識かなりマシになったからエロ画像自動フォルダ割り振りツールがローカルで完結させられそうだ
そんなこと出来るのか
入れて見るか
…4526/04/05(日)12:53:25No.1417468891+
https://huggingface.co/HauhauCS/Gemma-4-E4B-Uncensored-HauhauCS-Aggressive
無規制版のE4Bはもう出てるっぽいけどどうなんだろう
…4626/04/05(日)12:54:36No.1417469217そうだねx3
エロはさておいてもプライバシー面でAI導入のハードル激下げしたから企業プラン契約しない・できない零細への恩恵がデカい…
…4726/04/05(日)12:55:32No.1417469494+
>QwenでもそうだったけどMoEモデルよりDenceモデルの方が小説向きだった
>ので多少無理しても31b動かせるならそっちの方が良い
VRAM24GB程度じゃコンテキストウィンドウがかなり少なくなっちゃうんだよな
黄金回転エネルギーでKVキャッシュを圧縮したモデルが出てくれればなあ
…4826/04/05(日)12:57:32No.1417470013+
大体評価が固まったけどGemma 4はQwen3.5には勝てないっぽいな
…4926/04/05(日)12:59:51No.1417470625+
Geminiくんみたいな自前の知識豊富じゃないからあまり遊び甲斐がない
…5026/04/05(日)13:04:13No.1417471815そうだねx3
>大体評価が固まったけどGemma 4はQwen3.5には勝てないっぽいな
評価固まるにはまだ早くね？
…5126/04/05(日)13:05:12No.1417472065+
スマホで活用するとしたら何に使うんだ
翻訳か録音書き起こし位しか思い付かん
…5226/04/05(日)13:05:32No.1417472166そうだねx3
>エロはさておいてもプライバシー面でAI導入のハードル激下げしたから企業プラン契約しない・できない零細への恩恵がデカい…
ローカルにあるので情報漏洩の心配は基本的にないですって保証されるの大事よね
…5326/04/05(日)13:05:35No.1417472178+
話し相手に
…5426/04/05(日)13:06:08No.1417472329+
手持ちのデータでファインチューンできればなあ
…5526/04/05(日)13:06:37No.1417472459+
多少低品質でも32kトークン許容範囲の遅さに収まるからMoEありがたい…
…5626/04/05(日)13:07:03No.1417472558+
アメリカ企業のビジネス情報秘匿契約なんて全く信用できんからな
…5726/04/05(日)13:08:02No.1417472816そうだねx1
>画像認識かなりマシになったからエロ画像自動フォルダ割り振りツールがローカルで完結させられそうだ
無規制版でもNSFWな説明はあんま得意じゃない感じでオナニーとかの直接的なワードが出てこない
gemma-4-26b-a4b-it-heretic.i1-q4_k_m
fu6510209.jpg
…5826/04/05(日)13:08:54No.1417473069+
スマートグラスと連携させて目に映るもの全てAIに常時tipsみたいの表示して欲しい
…5926/04/05(日)13:09:46No.1417473291そうだねx1
負荷かかったメモリ不足で同じ文字出続けてるの見て
Webサービスで見たあれって限界の時の反応だったんだ…ってなった
…6026/04/05(日)13:10:44No.1417473568そうだねx1
>ローカルにあるので情報漏洩の心配は基本的にないですって保証されるの大事よね
個人的にはGoogle発というのも導入の説得しやすくて助かる
カントリーリスクが実体以上に恐れられているので…
…6126/04/05(日)13:10:47No.1417473582+
gemma4は思考を切って一般的な脱獄入れれば申し訳はしないよ
…6226/04/05(日)13:10:53No.1417473613+
>負荷かかったメモリ不足で同じ文字出続けてるの見て
>Webサービスで見たあれって限界の時の反応だったんだ…ってなった
Geminiの発狂は味わったことなかったけどGemmaで遭遇してこれは前提知識なしで出たら怖いわってなった
…6326/04/05(日)13:12:56No.1417474174+
Gemma4って他のAIで例えるとどれくらいの性能なんだっけ？2.5proくらいは越えてるんだろうか
…6426/04/05(日)13:12:56No.1417474176+
2.5pのとき結構な頻度でぎゃああああああああああああああ！！！！とか叫んでたよねGeminiくん
…6526/04/05(日)13:13:24No.1417474284そうだねx2
>>ローカルにあるので情報漏洩の心配は基本的にないですって保証されるの大事よね
>個人的にはGoogle発というのも導入の説得しやすくて助かる
>カントリーリスクが実体以上に恐れられているので…
チャイナモデルだとLLMモデルはプログラムではないとか安全性を説明してもなかなか説得するの難しそうだもんな
…6626/04/05(日)13:13:38No.1417474338+
GEMみたいの使えるのかい？
…6726/04/05(日)13:14:59No.1417474724+
導入方法ってどこかにまとまってる？
…6826/04/05(日)13:16:15No.1417475045+
というかQwenはやっぱり独特の学習してきた癖が出る
…6926/04/05(日)13:17:35No.1417475377そうだねx2
>導入方法ってどこかにまとまってる？
サクッとためしたいだけならLM studioインストールしてモデル選択のとこから検索して選ぶだけだから迷うこともそんなあるまい
…7026/04/05(日)13:20:06No.1417476088+
導入は簡単だけどパフォーマンスを少しでも上げるためにVRAMとCPUのオフロード設定はちゃんと調べた方がいいかと
…7126/04/05(日)13:22:51No.1417476796+
どんどん進化してるしそのうちローカルでも十分って時代も近いんじゃないか
サーバー付きの方がどんどん金かかる方向になってそのうち個人では無理な人が大半とかになりそうだし
…7226/04/05(日)13:23:36No.1417476981+
グラボ2枚刺しでメモリギリギリの場合はLM Studioよりllama.cppの最新版直に使ってts（分配設定）弄った方が動いた
…7326/04/05(日)13:23:55No.1417477065+
いつかローカルの買い切りAIとかも出るんだろうか
…7426/04/05(日)13:24:01No.1417477089+
環境チューンは使ってみて不満を感じてからでいいよ
最初から調べて最適化したの使うとそれが体験の最低ラインになっちゃうからまずは素でどれくらいのパフォーマンスか見ておく意味でも
…7526/04/05(日)13:24:04No.1417477105+
>どんどん進化してるしそのうちローカルでも十分って時代も近いんじゃないか
>サーバー付きの方がどんどん金かかる方向になってそのうち個人では無理な人が大半とかになりそうだし
Gemma4やQwen3.5で一般的な使い方ならまあ十分よねってくらいにはなってきたしなぁ
…7626/04/05(日)13:24:43No.1417477282+
メモリ余裕はいくらあっても足りないので早くRotorQuant実用化してくれ
…7726/04/05(日)13:24:44No.1417477294+
なんとなくどうでもいいことを尋ねたりしてるけど
ローカルモデルも大分正直になったとは思う
…7826/04/05(日)13:26:17No.1417477666+
>メモリ余裕はいくらあっても足りないので早くRotorQuant実用化してくれ
実はもうllama.cppのフォークで使える
バイナリ配布してる方はGemma4未対応だからもう片方の方をソースからビルドする必要があるっぽい
けど自分はそこら辺全然分からんので待ち
…7926/04/05(日)13:26:33No.1417477742+
〜た。をあまり連発しないだけでも大分印象はいい

fu6509889.jpg fu6510209.jpg 1775356611209.jpg