なんJLLM部 ★15

!extend:default:vvvvv:1000:512:donguri=0/3:
!extend:default:vvvvv:1000:512:donguri=0/3:
スレ立てのときは↑の!extend:default:vvvvv:1000:512:donguri=0/3:を3行ぐらいに増やしてな

AIに色々なことをしゃべってもらうんやで
そこそこのデスクトップPC（できれば＋3060 12GB以上）でもなんぼか楽しめるで

まとめ　https://seesaawiki.jp/nai_ch/d/%a4%ca%a4%f3JLLM%c9%f4%a5%c6%a5%f3%a5%d7%a5%ec
避難所　https://jbbs.shitaraba.net/bbs/read.cgi/internet/26557/1772886873/
前スレ　https://fate.5ch.io/test/read.cgi/liveuranus/1780023353/

---

VIPQ2_EXTDAT: default:vvvvv:1000:512:donguri=0/3: EXT was configured

そういやGemini3.5 Pro今月中って言ってた気がするが
まだ来てないな

延期とか言ってるメディアもあるけど、公式は何も言ってないんだよなあ
公式で6月中と言った以上は延期するなら公式に延期を発表すべきだと思うが…

なんやかんやでGemini3.5Proはめちゃくちゃ楽しみやから、公式発表なしは焦れるわ

LLM単体性能よりもハーネスを含めた性能で評価されてるようになってるからgeminiはモデル性能自体は過小評価されすぎだと思うわ
よく比較対象に挙げられるchatGPTやClaudeとかだとwebui上でもlinux仮想環境を扱うから実質的にCCやcodexで特に検索やファイルの読み取りとかのツールコールを求められる用途だと圧倒的な差が出る　逆に言えばGemini 3.5 Proがどんだけ性能良くても今のgeminiのUIならゴミ　

よく言われるGeminiはハルシが多いからゴミという言説もモデル性能というよりGeminiアプリのハーネスの問題が大きい
とは言われるantigravityで使った限りは、sonetと比べても複数回の検索→思考ループのような自律駆動は苦手なのは間違いないからそこがどれだけ改善されるかだな

>>156
>>157
性能云々以前にCodexのようにローカルファイル直接編集してコーディングしてくれるアプリが出ない限り論外であり続けるだけだと思うよ

antigravity君を忘れないで上げて...

とっくにあるし157が名前まで出しとるのに何言うてんねん
gemini自体コーディングに向かないからエンジニアはあまり使ってないけど、ある理由である界隈では大人気やで

antigravityで3.5 flashよりコーディングが下手なのはハーネスが悪いせいなんだ！は無理では...

Googleはアカウントの価値が高すぎて、BANされる可能性のある利用法取れないんよね

それはそのまま向こうもバンしにくいってことやし、純粋にgemini利用で全体アカウントごと逝った例なんてほぼ無いで(疑わしい例はある)
openaiとかはめっちゃ気軽にバンしてくるけどな、ワイももう数回されとるし

googleアカウントはメインとは別にGemini用に二つサブアカ作って運用してる

geminiのコーディング性能は
gemini3.5flashのなってから良くなったよ。
他よりも単価が安いからよく使う！
codexも併用してるが3.5flashだけでもそこそこできるんじゃないかな？

AIエージェントやIDEが一般に普及するとしたらcodexでもCCでもなくてAntiGravityな気がする
みんなコーディング性能なんてそこまで求めないし
気軽に会話してPC内のいろんなことやってくれるエージェントが欲しいだけならAGが抜群にいい

antigravity無料枠で、やってると４〜５回くらいのやり取りで一週間の上限に行くんだけどこんなもん？
有料にすると全然違うんかね
もちろんプランによるだろうけども

anthorpicが計算資源が足りなくて困ってる話は有名だけど、googleも同じくらい足りてなくて絞ってまわってる
いまお金払っても冗談みたいな使用量しかもらえないですよ

>>167
どんだけ重い作業許してるか or やらせてるかにもよるでしょ

俺はglm勢だからnano-gptで毎週6千万トークン使い倒してる

nano-gptは安いし、お試しとしてもちょうどええね

>>152
評価は31BのDENSEがDLできるようになってからだな

31Bは気絶するレベルで遅いからなあ
ローカルの人たちは慣れたもんなんだろうけど、クラウドのMoEの爆速に慣れてるとキツい

自分でDLして試せばいいのに何でいちいち人を使おうとするんやろな

エロチャしてると4tok/sぐらいのねっとりした生成がクセになるよね
本当に会話してるみたいな間になる

分かる
逆に100t/sとかで一気にぶわーって出てくると怠くて斜め読みしちゃう

チャットは結構再生成かけて気に入った返答を選んで話の方向性を変えていく派なので4t/sは流石にキツすぎるな
5090使いでも速さの兼ね合いで結局31B QAT Q4でコンテキスト長16Kに落ち着いた
12Kにして入力時間をさらに短縮してもいいくらい

定期実行で垂れ流しにしたりする用途だと生成速度の遅さはあんま気にならない

チャッピーに聞いたらベンチ用に蒸留特化してるバターンあるから結局は自分で試すか
数週間後に人気モデルになってるかで判定するしかないだと

>>168,169
なるほど…
pythonの自作アプリ作らせてるんだけど結局有料にしてもそんな変わらなさそうかね

OpenCode GoとかClinePassとかOllama Cloudとかで課金してAPI使えるようにして
VSCode+Clineとか使ったほうが安く済むかね