Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile
Q*Satoshi⏩

@aixsatoshi

Physics好き。ハイスペAIモデルの探求。大規模言語モデル、ローカルLLM研究。LLMロボット。AIバブル:NVIDIA研究。AI用自作PCワークステーション、自宅推論クラスター作成日記。超大型LLMの自宅運用の探求。自作強化学習🤖、自作投資判断AI、LLM投資戦略運用

ID: 1323809983851425793

calendar_today04-11-2020 02:11:57

4,4K Tweet

1,1K Followers

933 Following

Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile Photo

テクノロジー活用して社会課題解決したい人まだ伸びそう。ポスターとか技術なくても参加だけで満足度高い仕組みも秀逸 youtu.be/yBVR_IvDWBQ

Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile Photo

最近使ってないGPUを売ってMac Studioに買い換えようか検討中🤔 ここ数年、GPUの価格が下がらないから、ほぼ買った時の値段で売れそうなのが大きい。サム・アルトマンの言う「コンピュートは未来の通貨」って本当

Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile Photo

最近のMoE LLMのExpert数スケーリングはまだインフレしそう。おそらく人間の理解できる論理の言語化は1-30B程度で十分であとは生成速度の問題。

Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile Photo

来年は1T-2TパラメータのLLMがたくさん出てきそう。その頃にはMacも1Tメモリ、帯域幅1200GB/sぐらいかな

文化庁メディア芸術クリエイター育成支援事業 (@mediaarts_c) 's Twitter Profile Photo

【受賞情報】 令和6年度 創作支援プログラム採択企画、 藤堂高行さんの『鎖に繋がれた犬のダイナミクス』が「Prix Ars Electronica Festival 2025 Artificial Life & Intelligence」にてHonorary Mentionsに選出されました。 詳しくはこちら calls.ars.electronica.art/2025/prix/winn…

【受賞情報】
令和6年度 創作支援プログラム採択企画、 藤堂高行さんの『鎖に繋がれた犬のダイナミクス』が「Prix Ars Electronica Festival 2025 Artificial Life & Intelligence」にてHonorary Mentionsに選出されました。

詳しくはこちら calls.ars.electronica.art/2025/prix/winn…
Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile Photo

複数LLMをbrain stormingや推論レバレッジに活用したい。人間と同じぐらい多様であってほしいけど、似たような出力になりがちなのが気になる

Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile Photo

非常に強力なマルチモーダルLLMが、7/31にオープンソース化されるらしい。総パラメータは321B、38B activeのMoE。中国製AI Chipに最適化されている。

Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile Photo

科学技術分野に特化したOSSマルチモーダルモデル「Intern-S1」が登場 ✅学習データの50%以上が科学データ ✅分子式・タンパク質配列・地震波などを直接理解 ✅科学タスクで主要商用モデルに匹敵する性能 最近流行りのMoEで総パラメータ235B Visionencoder 6Bと大型。大変ユニークな特化型

Q*Satoshi⏩ (@aixsatoshi) 's Twitter Profile Photo

Qwen3 の性能を支える新しい強化学習アルゴリズム、「GSPO」 ✅ ポイント * 従来の単語ごとではなく、文章全体で評価 * 学習の安定性と効率が劇的に向上 * これまで難しかったMoEモデルの訓練も安定化