ALIGN webinar 第12回が開催されます！ 2025年1月15日（水） 10:00 - 11:00 JST Zoom開催（lu.ma からの事前参加登録が必要です） lu.ma/1sab3fq3?tk=4e… 大規模言語モデル（LLM）の思考を人間にとって解釈可能なものにする研究分野 mechanistic interpretability に

In the twelfth episode of the ALIGN webinar series, we are pleased to invite Jesse Hoogland, a prominent researcher in the field of Singular Learning Theory (SLT) and its applications to AI alignment. lu.ma/1sab3fq3

Join us for ALIGN Webinar #13 with Vanessa Kosoy on “Infra-Bayesian Physicalism”! Vanessa will present a groundbreaking approach that redefines AI hypotheses beyond agent-centric biases, addressing key challenges in decision theory and AI alignment. lu.ma/l550vqtm

ALIGN webinar 第13回が開催されます！ 2025年1月27日（月） 21:00 - 22:00 JST Zoom開催（lu.ma からの事前参加登録が必要です） lu.ma/l550vqtm In the thirteenth episode of the ALIGN webinar series, we are delighted to host Vanessa Kosoy, a leading

AIアライメントネットワークの活動を共に推進していただける事務スタッフを募集しています。社会的意義のある取り組みに関わりながら，主体的に組織運営を担っていただくポストへのご応募をお待ちしております。 aialign.net/s-director

AGIに関するブログ記事をポストしました。３回シリーズの１回目です。 近年の理論研究で、Transformerの学習がソロモノフ帰納に漸近することが明らかになりました。つまり、現代のAIがAGIと連続しているということです。 第一回はこのことの意味を解説します。 aialign.net/blog/transform… #AGI

AGIに関するブログ記事の第二回をポストしました。 aialign.net/blog/transform… AGI技術の局在リスクについて解説しています。 最終回となるパート３は来週火曜日の投稿を予定しています。 #AGI #AIAlignment #AIアライメント #ScalingLaw #ALIGN

AGIに関するブログ記事の第３回をポストしました。最終回です。 aialign.net/blog/transform… 日本がAGI時代に担える役割を論じています。 #AGI #AIAlignment #AIアライメント #ScalingLaw #ALIGN #SMR

先日のブログ記事とともに、AI アライメントネットワークでは下記の提言を公表しました。　　また、これに合わせた具体的な政策提案も作成しています。こちらについては後日公開します。 提言:

AIアライメントネットワークは、academist Prize受賞の「AI時間構造学」プロジェクトを受け入れ機関としてホストすることになりました。 「AIは時間をどう感じるか」という問いは、長期的な安全性確保に不可欠な視点です。本研究の発展を全面的にバックアップします。 aialign.net/blog/time-perc…

AIアライメントネットワークは，academist Prizeを受賞した「AI時間構造学」プロジェクトを受け入れ機関としてホストし，応援しています！！🚀 「人間とAIの「時間の感じ方」は同じか？AI時間構造学の提案」Ryota Takatsuki Shosuke Nishimoto aialign.net/blog/time-perc…

フィジカルAIの性能の理論上限に関する論文を公開しました。 解説記事: aialign.net/blog/thermodyn… 論文: arxiv.org/abs/2602.05463

フィジカルインテリジェンス(実世界知能)全てに適用される根本的な知能効率の上限に関して論じています。 ここでのフィジカルインテリジェンスには、AIだけでなく生き物の脳のような自然知能も含みます(仮想的には宇宙人の知能も含む)。 ここから、知能爆発論

【コワーキングスペース設立に向けたご協力のお願い】 AI安全性，AIアライメントの技術的な研究チームを東京で組成しよう，という話が進んでいます。そのコワーキングスペースの設立に向けて，ぜひ皆様にEOI（関心表明）のご提出をお願いしたいです。10分程度で終わる簡単なフォームです。

AI安全性に興味ある方はぜひこのフォームに入力をお願いします。日本でAI安全性や未来志向の議論空間を作れるチャンスです！

＼開催決定！／ メタサイエンス・ミートアップ ～科学・研究について考える人たちの集い～ 📅 2026/3/14(土)・15(日) 📍 日本科学未来館 無料・要登録 【テーマ例】 メタサイエンス国際動向 / Science of Science / AI for Science / オープンサイエンス 詳細👉 sites.google.com/view/metascien…

x.com/i/article/2021…

高橋恒一先生 高橋恒一 との共著論文（arxiv.org/abs/2602.05463）の解説記事を公開しました。物理現象と情報処理の間にある「隠れた会計学」を考慮しよう，という提案です。 x.com/ktakahashi74/s…

「無料に見えるときは，エントロピーの請求書を境界の外に隠しているだけだ」 会計境界（Accounting Boundary）」って面白いな。