1社目 株式会社EqualFrontiers　 ( equalfrontiers.com ) CEO　小野 克樹 氏 早稲田大学アジア太平洋研究科修了。総務省認定の異能β。寝たきりの障害者でもあり、受託開発やLLM活用支援などを行っている。 ▼サービス紹介 Inclusive LLM翻訳

少し関わっていた障害者向けLLMキーボードのOSS版がリリースされたので、シェアします。 OSSなので、是非試してみてください。 github.com/google/project…

8月中LLMコンペで30人ほどの開発チームのリーダーをしており、半徹が続く日々でしたが、一旦納得いくモデルを作成、提出出来て一安心です。 上手く勝てれば、もっとノードを使って開発出来るので、勝てたらいいなと思っています。 weblab.t.u-tokyo.ac.jp/lm-compe-2025/

松尾研 LLM開発コンペ2025 予選1位モデルの学習方法について書いたので、是非ご覧ください！ qiita.com/katsuki_ono/it…

Qwen3-235B-A22B-Thinking-2507にHARIする方法について書いたので、是非ご覧ください！ 最難関ベンチマーク・HLEに対して、2.31%のスコア向上を達成した新しいチューニング手法です。 qiita.com/katsuki_ono/it…

巨大なLLMだとアダプタマージもなかなか難しいのですが、このアダプタマージだとCPUのみで可能、尚且つ、早いのでおすすめです！ qiita.com/katsuki_ono/it…

マルチノードでAxolotl を使ってQwen3-235B-A22B-Thinking-2507にGSPO/GRPOする方法について書きました！ マルチノードでこの規模のモデルのGSPO/GRPO成功させたのは日本初かもしれないです。 qiita.com/katsuki_ono/it…

マルチノードでAxolotl を使ってQwen3-235B-A22B-Thinking-2507にHARIする方法について書きました！ 日本だとあまりマルチノード扱える人材がいないので、一読の価値があると思います。 qiita.com/katsuki_ono/it…

マルチノードでDeepSeek-R1-0528 にHARIする方法について書きました！ qiita.com/katsuki_ono/it…

Gated Cross-Attentionで“別アーキ統合”をした結果、説明タスクが改善しました。 ※異なるアーキテクチャのモデルの統合は難しいのですが、それを簡単な実装で行えて、効果も見えるという点がこの検証の面白さです。 qiita.com/katsuki_ono/it…

LLMの内部表現のコンセンサスで性能上がるか試してみました。そこそこ変わるとわかったので、極めたら実用的だと思います。 qiita.com/katsuki_ono/it…

異なるアーキテクチャのモデルでもマージ出来るやり方を見つけました。 qiita.com/katsuki_ono/it…

こちらご都合合えば見てください！ 2か月ほど取り組んでいた開発プロジェクトです。 ・HARIという新しい学習手法を開発して、HLEのスコアでベース比2.31%のスコア向上を達成 ・70人規模のチームとなり、皆で一丸となって決勝に挑戦。 matsuolab-community.connpass.com/event/374136/

昨日のプレゼンのアーカイブです！ ▼チームoNo.1の発表資料 drive.google.com/file/d/1hBzkR1… ▼アーカイブ動画 youtube.com/watch?v=WnhfTP…

良い感じのインタビュー記事を書いて頂きました。 weblab.t.u-tokyo.ac.jp/news/2025-12-0…

This year, I spent 142 hours training 117 models on Weights & Biases! My #longestrun - qwen94x128_openrouter_qwen3-235b-judge_v2 - trained for 51,338 hours.

colabにH100がいた

年始なので、今関わっているプロジェクトに少しだけ繋がる検証をしてみました！ qiita.com/katsuki_ono/it…

実際に試せる版 qiita.com/katsuki_ono/it…

今日、claudeで作ってみていたllmの推論と学習のフレームワーク。 こういうcを使ったツールまで簡単に作れてしまうとライブラリの枠を超えた開発が可能になる。 またフェーズが変わったんだなと感じる。 github.com/Ono-Katsuki/ll…