State of AI in 2026: LLMs, Coding, Scaling Laws, China, Agents, GPUs, AGI | Lex Fridman Podcast #490 - YouTube
- RLVR(Reinforcement Learning with Verifiable Rewards)ではScaling Laws の限界がまだ見えていない
- if you learn more, you forget more (No Free Lunch): LLMも新しいことを学習すればするほど、以前に学習したことを忘れてしまう傾向がある
- Is the dream of AGI dying?: 単一モデルでAGIを実現するという夢は死につつあり、むしろ複数の専門特化したエージェントが協力し合う形でAGIを実現する方向に進んでいる
- rasbt/LLMs-from-scratch: Implement a ChatGPT-like LLM in PyTorch from scratch, step by step