This feels somewhat overstated - it's obviously true that chain of thought isn't necessarily accurate, but there's no such thing as a perfectly accurate interpretability technique. CoT gives valuable info, and it's good that papers use it, so long as they don't blindly trust it

理化学研究所 革新知能統合研究センター 説明可能AIチーム（XAIチーム）ですが、東大谷中研メンバーと合わせて少しずつメンバーが増えてきています。現在、自然言語処理、理論言語学、哲学、認知科学分野の研究員・特別研究員を募集しています。ご応募お待ちしています！riken.jp/research/labs/…

New stuff alert: Improved task controls and other 💅 UI delight - Pause, resume, and delete tasks—without losing your sense of place. Available from sidebar and repo view. - You can even quickly copy task urls! - Non-urgent task icons are now more recessive - Certain hover

*cracked interns at Apple

Daniel Gross, the former CEO and co-founder of AI startup Safe Superintelligence, is joining Meta’s new superintelligence lab focused on AI bloomberg.com/news/articles/…

Daniel gross退社しイリヤがSSIのCEOへ。以前からDaniel grossはMETAの超知能チームに抜擢と言われていた。 x.com/ilyasut/status…

OpenAI's new Deep Research API costs up to ~$30 per API call! These new Deep Research API endpoints might just be the new fastest way to spend money Across our 10 deep research test queries, we spent $100 on o3 and $9.18 on o4-mini. How do the costs get so big? High prices and

少なくとも、我々は「just for fun」で作られた（少なくともその初期においては）多数のソフトウェアの恩恵に預かっている以上、戒める場面を超えて「ただの手段に過ぎない」と吐き捨てることは倫理的に駄目なことだと思う。

世の中の実験データのレポートを言語モデルにぶち込んだら、パッと見で直感的な仮説が出せる優秀なデータエンジニアになるのかな。

context engineering

アメリカの若者「チャッティー(Chatty)」 イギリスの若者「チャッピー(Chappie)」 日本の若者「チャッピー(Chappie)」

AI安野24時間質疑応答生配信やってるから観てみてるが、生成・読み上げともにAI臭さゼロでマジですごすぎる。正しいテキスト生成するRAGの設計もプロンプトエンジニアリングも、正しい発話をする日本語読み上げチューニングでも、こんな高精度のもの見たことないんだけど… youtube.com/watch?v=ypWvp9…

言語モデルから有料の新聞記事を抽出して購読料を節約してるという主張について。 訓練で覚えた新聞記事の表現がかなり保たれて再現される可能性はあるけど、再現できない可能性、幻覚が混ざる可能性を考えると、高品質の新聞記事として役に立たないと思うけど、そういう議論は法廷であったのかなあ。

"ChatGPTは、医師が10年間見逃していた隠れた遺伝子欠陥を警告しました。"

If an llm can use web search/browse during evals, and the evals are on the internet… cant they just search up the test set and find the answer? Lol

いきなり話しかけられて、頭の中で整理させる時間も貰えず、すぐに回答させられ、考えが浅いと責められる。かわいそうなnon-thinking系言語モデル。

A list explaining key ML concepts and papers: github.com/dair-ai/ML-Pap… v/elvis

チ。