二次元裏＠ふたば
画像ファイル名：1792253137094.jpg-(37073 B)
37073 B26/10/18(日)01:05:37No.1478850440そうだねx4 06:42頃消えます
ローカルでAIを動かしたくて初めてPC自作したんぬ！
Geminiに聞きながら進めて紆余曲折ありながらもOS起動したんぬ！
メインPCからリモート接続で運用できるところまで持っていきたいんぬ
このスレは古いので、もうすぐ消えます。
…126/10/18(日)01:47:11No.1478859340そうだねx19
すごいんぬ！
…226/10/18(日)01:54:12No.1478860635+
>すごいんぬ！
ありがとうなんぬ
ケースからマザボへの配線が一番面倒だったんぬ
…326/10/18(日)01:55:36No.1478860891+
グラボはナンにしたんぬ？
…426/10/18(日)01:59:18No.1478861517+
>グラボはナンにしたんぬ？
Arc Pro B70なんぬ
VRAM32GB積んでるのと勉強にちょうどいいと思って選んだんぬ
…526/10/18(日)02:00:54No.1478861808+
おおB70とは入門にしては本格的なんぬ！
…626/10/18(日)02:01:04No.1478861835そうだねx12
エッチなイラスト生成するんだろ
悪魔が
…726/10/18(日)02:03:49No.1478862286+
画像も興味あるんぬが一番はLLMなんぬ
えっちなのは否定しないんぬ
組んだPCでQwen3.8 27B Q8_0を動かすところまでは進んだんぬ
…826/10/18(日)02:04:55No.1478862497+
deepseek最新版とかMOSSイメージとか新しいモデルたくさん出たぞ
…926/10/18(日)02:06:02No.1478862681そうだねx1
リモートは今ならブラウザでも出来てしまう
…1026/10/18(日)02:08:22No.1478863103+
ローカルLLM動かした感想聞きたいんぬ
昔の大手モデルくらいの回答はしてくれるんぬ？
…1126/10/18(日)02:09:32No.1478863429+
>deepseek最新版とかMOSSイメージとか新しいモデルたくさん出たぞ
進歩が早すぎて追いつけないんぬ
VRAM32GBに乗り切る非検閲モデルを動かすことが今の指針なんぬ
>リモートは今ならブラウザでも出来てしまう
とりあえずメインPCのブラウザからWebUI経由でアクセスできるようにしたいんぬ
…1226/10/18(日)02:10:22No.1478863584+
5090のお値段でB70やR9700が4枚買える恐ろしい時代なんぬ
…1326/10/18(日)02:11:00No.1478863685+
>画像も興味あるんぬが一番はLLMなんぬ
>えっちなのは否定しないんぬ
>組んだPCでQwen3.8 27B Q8_0を動かすところまでは進んだんぬ
RAM次第だけど今ならstrata系とかもいいんぬなぁ
linuxなんぬ？
…1426/10/18(日)02:11:01No.1478863686+
>ローカルLLM動かした感想聞きたいんぬ
>昔の大手モデルくらいの回答はしてくれるんぬ？
まだ動いたくらいの段階なんで精度はわからないんぬ
ぬがこの手のプロンプト指定に慣れていないのもあるのでそこも含めて勉強が必要なんぬ
…1526/10/18(日)02:12:38No.1478863932+
>RAM次第だけど今ならstrata系とかもいいんぬなぁ
>linuxなんぬ？
今はWindowsでOllama使って動かしてて今後必要ならWSL2も使う感じぬ
…1626/10/18(日)02:14:32No.1478864234+
>ローカルLLM動かした感想聞きたいんぬ
>昔の大手モデルくらいの回答はしてくれるんぬ？
横からなんぬけど一般人が動かせる最高クラスのQwen3.8FlashNextだとGPT5.2クラスは体感あるんぬ
…1726/10/18(日)02:15:28No.1478864352+
ぬああ…ローカルLLMって何が良いんぬ？
dolphinくん試したけどクソ文だったので萎えちゃったんぬ
…1826/10/18(日)02:17:41No.1478864633+
そう言えばRTX spark発売したんぬね128GBモデルとか聞いたぬ
…1926/10/18(日)02:19:37No.1478864904そうだねx2
>そう言えばRTX spark発売したんぬね128GBモデルとか聞いたぬ
100万超えが当たり前の世界になって恐ろしいんぬ…
…2026/10/18(日)02:24:08No.1478865575+
>>RAM次第だけど今ならstrata系とかもいいんぬなぁ
>>linuxなんぬ？
>今はWindowsでOllama使って動かしてて今後必要ならWSL2も使う感じぬ
これはそこそこ触ってる地元LLM界隈のほぼ総意と言っても過言じゃないんぬけど
ollmaだけは止めるんぬ
楽なこと以外の全てがダメなんぬ
せめてLMstudioなんぬ
最近はllama.cppすら置いていかれ始めててモデル専用推論エンジンが流行なんぬ
…2126/10/18(日)02:25:46No.1478865815+
オフロードモデルも日進月歩ってイメージなんぬ
…2226/10/18(日)02:28:05No.1478866108+
>これはそこそこ触ってる地元LLM界隈のほぼ総意と言っても過言じゃないんぬけど
>ollmaだけは止めるんぬ
>楽なこと以外の全てがダメなんぬ
>せめてLMstudioなんぬ
>最近はllama.cppすら置いていかれ始めててモデル専用推論エンジンが流行なんぬ
マジなんぬ！？Arcで動かす分にちょうどいいと思って使ってたんぬが…
…2326/10/18(日)02:34:05No.1478866779+
>5090のお値段でB70やR9700が4枚買える恐ろしい時代なんぬ
4枚つなぐんぬ
環境構築は課金してクラウドのAIにやらせればいいんぬ！
なにかおかしいんぬな？
…2426/10/18(日)02:36:42No.1478867066+
エロ小説書かせようぜ
…2526/10/18(日)02:37:48No.1478867167+
赤色界隈はRAM容量をVRAMに計上させるやつで盛り上がってるらしいな
…2626/10/18(日)02:39:07No.1478867271+
>マジなんぬ！？Arcで動かす分にちょうどいいと思って使ってたんぬが…
マジなんぬ…
大きく分けて
対応遅い
自由度低い
の2つが致命的なんぬ
後ollama pullでモデル拾ってくると独自管理されてるからllama.cppとかで使い回すのがめんどくさいんぬ
…2726/10/18(日)02:44:16No.1478867720+
PS5でAI動かしたりしてるとな見るしもう何でもありだな
…2826/10/18(日)02:44:46No.1478867770+
>大きく分けて
>対応遅い
>自由度低い
>の2つが致命的なんぬ
ぬああ…調べたら推論エンジンいっぱいあるんぬね…
Arc対応のやつ調べてみるんぬ
>後ollama pullでモデル拾ってくると独自管理されてるからllama.cppとかで使い回すのがめんどくさいんぬ
それは何となく分かるんぬ
QwenのモデルはHugging Faceから貰ってきたんぬ
…2926/10/18(日)02:46:05No.1478867885+
>PS5でAI動かしたりしてるとな見るしもう何でもありだな
あれマジで動いてるだけなんぬ…
prefill遅すぎて発狂ものなんぬ
まああそこまで遅いのはおかしいから直せるような気はするんぬけど
…3026/10/18(日)02:49:37No.1478868244+
https://note.com/npaka/n/n4a1185074686
…3126/10/18(日)03:01:24No.1478869188+
書いていなかったんぬがCPUはCore Ultra 7 270K Plusでメモリは128GB搭載なんぬ
リンク助かるんぬStrataもWindowsとArcで使えそうなんぬね
…3226/10/18(日)03:29:01No.1478871033+
comfyuiが主流ってうそなんゆ？
…3326/10/18(日)03:31:48No.1478871237+
一枚絵出すならSDXL
それ以外の動画や3DはComfy
LLMはLMstudioじゃない？
…3426/10/18(日)03:33:53No.1478871380+
このスレ画をAIに作らせてみて欲しいんぬ
…3526/10/18(日)03:46:55No.1478872135+
>書いていなかったんぬがCPUはCore Ultra 7 270K Plusでメモリは128GB搭載なんぬ
>リンク助かるんぬStrataもWindowsとArcで使えそうなんぬね
それなら今はstrata一択レベルなんぬ
27Bよりめっちゃ早くてめっちゃ賢いんぬ
…3626/10/18(日)04:11:57No.1478873340+
ちなみにおいくらかかったんぬ？
…3726/10/18(日)04:15:28No.1478873498+
だいぶ金かかってるんぬね
…3826/10/18(日)04:18:35No.1478873636+
>このスレ画をAIに作らせてみて欲しいんぬ
今は文章主体だから後回しだけど画像もそのうちやってみたいぬ
>それなら今はstrata一択レベルなんぬ
>27Bよりめっちゃ早くてめっちゃ賢いんぬ
ArcはLinux版のみ実験的サポート？みたいだからWSL2で試してみるんぬ
>ちなみにおいくらかかったんぬ？
新規で買ったCPU・CPUファン・マザボ・グラボ・ケース・ケースファンの分で40万弱かぬ
それ以外も含めると70万超えるはずなんぬ
…3926/10/18(日)04:20:11No.1478873705+
ガチ
本気で取り組んでるんぬな…
…4026/10/18(日)04:24:58No.1478873997+
今のPCの構成をまとめたメモがあるんぬ
fu7417156.jpg
それとは別のものもあるんぬ
まさか注文通るとは思わなかったぬ…
fu7417157.png
…4126/10/18(日)04:30:43No.1478874294+
>fu7417156.jpg
書いてないけど他にGen4 SSD 4TBx1と2TBx1
SATA SSD 4TBx2と2TBx2を積んでいるんぬ
手元にあったものを適当に積んだんぬ
…4226/10/18(日)04:34:44No.1478874480+
DDR5のしかもメーカー違いちゃんぽん大丈夫？ちゃんと速度出てる？
…4326/10/18(日)04:36:31No.1478874566+
>DDR5のしかもメーカー違いちゃんぽん大丈夫？ちゃんと速度出てる？
5600MT/sで安定動作なんぬ
Micron様々なんぬー
…4426/10/18(日)05:24:32No.1478876739+
LLMですけべ小説なんぬ！
…4526/10/18(日)05:35:52No.1478877260+
>ArcはLinux版のみ実験的サポート？みたいだからWSL2で試してみるんぬ
もう寝てるかもしれないけどXeStrataで幸せになれるかもしれないんぬ
…4626/10/18(日)05:40:19No.1478877427+
>オフロードモデルも日進月歩ってイメージなんぬ
バイクのモデルなんぬ？
…4726/10/18(日)05:54:32No.1478877929+
LM studioで一発なんぬ
…4826/10/18(日)06:38:49No.1478879677+
>ぬああ…ローカルLLMって何が良いんぬ？
>dolphinくん試したけどクソ文だったので萎えちゃったんぬ
うちではQwen3.5のMoEのやつでVRAM12GBで動かしてるんぬ
EasyNovelAssistantで無限に同じプロンプトからエロ生成できるんぬ
オンラインだと怒られる内容も余裕なんぬ

1792253137094.jpg fu7417157.png fu7417156.jpg