二次元裏＠ふたば
画像ファイル名：1785165310895.png-(51922 B)
51922 B26/07/28(火)00:15:10No.1453127813+ 04:50頃消えます
Kimi K3（2.8T）がオープンウェイトでリリース！みんなローカルで動かそう！
…126/07/28(火)00:18:04No.1453128632そうだねx1
君という光
…226/07/28(火)00:52:27No.1453136047そうだねx1
では将軍様ご家庭にデータセンターを屏風から出してください
…326/07/28(火)00:52:59No.1453136134そうだねx13
>Kimi K3（2.8T）がオープンウェイトでリリース！
おお
>みんなローカルで動かそう！
え！？
…426/07/28(火)00:53:55No.1453136295+
だいたい3億円あれば動くよ
…526/07/28(火)01:00:08No.1453137362+
なんて読むのコレ
キミキス？
…626/07/28(火)01:01:24No.1453137566そうだねx2
フロンティアモデルにプレッシャーをかける君
…726/07/28(火)01:13:12No.1453139491+
気軽にご家庭でフロンティアモデルレベルのAIを動かせる！
…826/07/28(火)01:16:06No.1453139958そうだねx1
GGUFですら500GBあってふいた
2Qですら300GB
…926/07/28(火)01:19:41No.1453140613+
>GGUFですら500GBあってふいた
>2Qですら300GB
1Qなら動かせるか…
…1026/07/28(火)01:20:19No.1453140720+
>気軽にご家庭でフロンティアモデルレベルのAIを動かせる！
時間かかってもいいから4090程度でも動かせないだろうか
…1126/07/28(火)01:24:28No.1453141397+
>GGUFですら500GBあってふいた
>2Qですら300GB
1Qじゃん！300GB！
まあそりゃそうか
…1226/07/28(火)01:27:29No.1453141831+
並の鯖借りて動かせる程度なら触ってみたいけど
VRAMで言うとどんくらい必要なんです
…1326/07/28(火)01:27:40No.1453141863+
「」の中にも一人ぐらいメモリ5.6TBのPC使ってる人いるだろ
…1426/07/28(火)01:29:19No.1453142081+
メモリ5.6TBならimgの全スレッド開いてレスしまくってもサクサクだろうか
…1526/07/28(火)01:30:10No.1453142208+
思ったよりアクティブパラメータがでかい
…1626/07/28(火)01:30:11No.1453142217+
>VRAMで言うとどんくらい必要なんです
1.4TBぐらい！
…1726/07/28(火)01:30:20No.1453142237+
フロンティア級モデルの中身がどうなってるのかっていう研究用途としてはめっちゃありがたかったりすんのかな
…1826/07/28(火)01:30:53No.1453142313そうだねx1
>>VRAMで言うとどんくらい必要なんです
>1.4TBぐらい！
なそ
…1926/07/28(火)01:31:36No.1453142394+
ご家庭用のWindowsで動かせるので…？
…2026/07/28(火)01:33:39No.1453142668そうだねx5
最悪この瞬間に米国が外国人にはうちのAI使わせないとか締め出して中国がそれに対抗してもKimi k3クラスのモデルが何処かがホスティングして提供してくれるってだけでも価値はある
…2126/07/28(火)01:44:45No.1453144183+
proなら2TBまでのメモリに対応してるから個人ユーズも可能…！
…2226/07/28(火)01:47:36No.1453144558+
150万円の6000B24枚買ってね〜
…2326/07/28(火)01:48:54No.1453144733+
A100×8をawsか何かで2ノード借りれば…一時間いくらするかな
…2426/07/28(火)01:54:32No.1453145419+
ちょっと金持ってる企業がAI使ったビジネス始めるのに向いてる感じか
…2526/07/28(火)01:58:59No.1453145950+
>A100×8をawsか何かで2ノード借りれば…一時間いくらするかな
runpodなら3900円
AWSならオンデマンドで8980だね
まあ使えなくは無いが
…2626/07/28(火)02:01:28No.1453146209+
>runpodなら3900円
>AWSならオンデマンドで8980だね
>まあ使えなくは無いが
問題は提供されていても空きがあるとは限らないことだ
ってか今の時期A100x8はめちゃくちゃ運が良く無いと空いてない
…2726/07/28(火)02:24:15No.1453148235+
ストレージにスワップさせれば何日に1回かは返答返ってくるかもしれない…
…2826/07/28(火)02:29:16No.1453148590そうだねx1
>ストレージにスワップさせれば何日に1回かは返答返ってくるかもしれない…
もう神託じゃん
…2926/07/28(火)02:30:14No.1453148658+
えちえち版作って良いの？
…3026/07/28(火)02:35:53No.1453149000+
Mac Studioなら1bit乗るのか夢があるな
…3126/07/28(火)02:37:09No.1453149077+
乗ったところで推論時の帯域によっては現実的な速度で動くんか？
…3226/07/28(火)02:38:06No.1453149138+
データセンターがないと動かんだろ
…3326/07/28(火)02:38:46No.1453149175+
>乗ったところで推論時の帯域によっては現実的な速度で動くんか？
実用的な速さじゃないのは今のDGXやMacもそうなので…
…3426/07/28(火)03:50:45No.1453151908そうだねx1
やっぱ性能いいモデルって結局パラメータの暴力になるんだな…
…3526/07/28(火)03:53:26No.1453151974+
中国様々ですなぁ
…3626/07/28(火)04:32:09No.1453152891+
うにファイドメモリ盛り盛りMac studioはメモリ高騰で死んでしまった…

1785165310895.png