Посилання, які я надсилаю людям
Бібліотека
Сторінки, які я відкриваю сам і надсилаю іншим: інтерактивні пояснення того, як працюють моделі, плейграунди, дорожні карти, посібники з агентів і оцінювання, найкращі матеріали з трекінгу й оцінювання стану. Біля кожної один рядок про те, що ви там побачите чи дізнаєтеся.
Всередині LLM
Що відбувається всередині трансформера, від токенів до ймовірності наступного токена.
- LLM Visualization (відкривається в новій вкладці)bbycroft.net
Пролетіть крізь nano-GPT, GPT-2 і GPT-3 у 3D і простежте, як один токен проходить кожен шар і кожне множення матриць.
- Transformer Explainer (відкривається в новій вкладці)poloclub.github.io
Введіть промпт у живу GPT-2, що працює в браузері, і дивіться, як змінюються ембединги, голови уваги та розподіл на виході з урахуванням температури.
- Attention in transformers, step by step (3Blue1Brown) (відкривається в новій вкладці)3blue1brown.com
Анімований урок, який показує запити, ключі й значення як геометрію, тож формула уваги перестає бути набором символів.
- The Illustrated Transformer (відкривається в новій вкладці)jalammar.github.io
Розбір оригінального трансформера з енкодером і декодером діаграма за діаграмою, з формою кожного тензора.
- The Tokenizer Playground (відкривається в новій вкладці)huggingface.co
Вставте текст і порівняйте, як його ділять токенізатори GPT, Llama та інших моделей, з кількістю токенів поруч.
- The Annotated Transformer (відкривається в новій вкладці)nlp.seas.harvard.edu
Стаття «Attention Is All You Need», рядок за рядком перемежована робочим кодом на PyTorch.
- How To Scale Your Model (відкривається в новій вкладці)jax-ml.github.io
Покрокова арифметика того, як трансформери лягають на прискорювачі: пам’ять, FLOPs і який паралелізм обрати в якому випадку.
- On the Biology of a Large Language Model (відкривається в новій вкладці)transformer-circuits.pub
Графи атрибуції, що показують, які внутрішні ознаки робоча модель використовує для багатокрокових міркувань, планування рими й арифметики.
Ембединги й пошук
Як текст стає векторами, як на ці вектори дивитися і як на них будується пошук.
- Embedding Projector (відкривається в новій вкладці)projector.tensorflow.org
Завантажте ембединги word2vec або MNIST і обертайте їх у PCA, t-SNE чи UMAP, щоб побачити, які точки стають сусідами.
- Understanding UMAP (відкривається в новій вкладці)pair-code.github.io
Рухайте n_neighbors і min_dist на іграшкових наборах даних і 3D-мамонті, щоб побачити, що UMAP зберігає, а що спотворює.
- Sentence Transformers documentation (відкривається в новій вкладці)sbert.net
Документація бібліотеки для обчислення, донавчання й оцінювання текстових ембедингів і реранкерів, з прикладами семантичного пошуку.
- MTEB Leaderboard (відкривається в новій вкладці)huggingface.co
Порівняйте моделі ембедингів за типом задачі, мовою, розміром і пам’яттю, перш ніж обрати одну для пошуку.
- Contextual Retrieval (відкривається в новій вкладці)anthropic.com
Виміряна частка невдалих пошуків для простого розбиття на фрагменти проти фрагментів із контекстом, гібридного пошуку з BM25 і реранкінгу.
Агенти й інструменти
Патерни, протоколи й типові збої LLM-систем, які викликають інструменти й працюють у циклі.
- Building Effective Agents (відкривається в новій вкладці)anthropic.com
Воркфлоу проти агентів, п’ять патернів, які можна комбінувати, і коли краще обійтися без фреймворків і тримати цикл простим.
- LLM Powered Autonomous Agents (відкривається в новій вкладці)lilianweng.github.io
Структурований огляд планування, пам’яті й використання інструментів в LLM-агентах, зі статтями за кожною ідеєю.
- Model Context Protocol specification (відкривається в новій вкладці)modelcontextprotocol.io
Чинна специфікація MCP: як клієнт і сервер домовляються про інструменти, ресурси, промпти, автентифікацію та транспорт.
- Writing effective tools for agents (відкривається в новій вкладці)anthropic.com
Як проєктувати, прототипувати й оцінювати описи інструментів, щоб модель правильно їх обирала й викликала.
- Effective context engineering for AI agents (відкривається в новій вкладці)anthropic.com
Що класти в обмежене вікно контексту під час довгої роботи: стискання, нотатки, субагенти й пошук саме тоді, коли він потрібен.
- How we built our multi-agent research system (відкривається в новій вкладці)anthropic.com
Звіт із продакшену про оркестратор із паралельними субагентами: вартість у токенах, уроки промптингу і як систему оцінювали.
- 12-Factor Agents (відкривається в новій вкладці)github.com
Дванадцять інженерних принципів для LLM-софту, який має надійно працювати в продакшені: власні промпти, власний потік керування тощо.
Евали й бенчмарки
Як виміряти, чи LLM-продукт справді працює, і що показують публічні бенчмарки.
- Your AI Product Needs Evals (відкривається в новій вкладці)hamel.dev
Кейс побудови юніт-тестів, людського перегляду й LLM-as-judge для реального продукту, і чому саме цей цикл рухає кожне покращення.
- AI Evals FAQ (відкривається в новій вкладці)hamel.dev
Прямі відповіді на типові питання: спершу аналіз помилок, бінарні оцінки замість шкал, скільки потрібно прикладів, коли можна довіряти судді.
- Evaluating the Effectiveness of LLM-Evaluators (відкривається в новій вкладці)eugeneyan.com
Огляд досліджень LLM-as-judge: які налаштування узгоджуються з людьми, відомі упередження і як виміряти самого суддю.
- Demystifying evals for AI agents (відкривається в новій вкладці)anthropic.com
Як оцінювати багатокрокові запуски агентів: задачі, спроби, оцінювачі й транскрипти, і коли оцінювати кодом, моделлю чи людиною.
- Inspect (відкривається в новій вкладці)inspect.aisi.org.uk
Відкритий фреймворк Інституту безпеки ШІ Великої Британії для написання евалів із датасетами, солверами, скорерами, інструментами й пісочницями.
- Berkeley Function Calling Leaderboard (відкривається в новій вкладці)gorilla.cs.berkeley.edu
Порівняння моделей у виклику інструментів за категоріями: одиночні, паралельні, багатоходові й агентні виклики.
Інтуїція ML
Невеликі моделі в браузері, щоб відчути, як працюють навчання, згортка й генерація.
- A Neural Network Playground (відкривається в новій вкладці)playground.tensorflow.org
Натренуйте крихітну мережу в браузері й дивіться, як формується межа рішень, коли ви змінюєте шари, ознаки та регуляризацію.
- CNN Explainer (відкривається в новій вкладці)poloclub.github.io
Клацніть будь-який нейрон невеликого класифікатора зображень, щоб побачити ядро, скалярні добутки й карту активацій, яку він дає.
- Diffusion Explainer (відкривається в новій вкладці)poloclub.github.io
Пройдіть шлях Stable Diffusion від промпту до зображення і подивіться, як guidance scale і seed змінюють кожен крок знешумлення.
- MLU-Explain (відкривається в новій вкладці)mlu-explain.github.io
Візуальні есеї від Amazon про precision і recall, ROC-криві, крос-валідацію, компроміс зміщення й дисперсії та подвійний спуск.
- Why Momentum Really Works (відкривається в новій вкладці)distill.pub
Рухайте повзунки кроку й моментуму і дивіться, як градієнтний спуск на квадратичній функції збігається, коливається чи розбігається.
- Understanding Deep Learning (відкривається в новій вкладці)udlbook.github.io
Безкоштовний підручник Саймона Прінса з глибокого навчання: 68 ноутбуків, де треба дописати код, і набір інтерактивних рисунків.
Інтерактивні пояснення
Есеї з живими рисунками, де експеримент запускає сам читач.
- Bartosz Ciechanowski (відкривається в новій вкладці)ciechanow.ski
Довгі есеї про GPS, камери, механічні годинники й крило літака, де кожен рисунок є 3D-моделлю, яку можна крутити.
- AI Explorables (Google PAIR) (відкривається в новій вкладці)pair.withgoogle.com
Короткі інтерактивні матеріали про запам’ятовування проти узагальнення, калібрування, розріджені автоенкодери й метрики справедливості.
- Seeing Theory (відкривається в новій вкладці)seeing-theory.brown.edu
Імовірність і статистика через симуляцію: кидайте кубики, беріть вибірки й дивіться, як працюють закон великих чисел і правило Баєса.
- Explained Visually (відкривається в новій вкладці)setosa.io
Інтерактивні пояснення PCA, власних векторів, ланцюгів Маркова, умовної ймовірності та ядер зображень.
- Distill (відкривається в новій вкладці)distill.pub
Архів журналу з машинного навчання, де статті були інтерактивними есеями про візуалізацію ознак, увагу й оптимізацію.
Комп’ютерний зір
Основи зору й детекції, а також інструменти, якими користуються на практиці.
- Hugging Face Community Computer Vision Course (відкривається в новій вкладці)huggingface.co
Безкоштовний курс від основ CNN до візуальних трансформерів, детекції, сегментації та мультимодальних моделей.
- CS231n: Deep Learning for Computer Vision (відкривається в новій вкладці)cs231n.github.io
Нотатки Стенфорда про класифікацію зображень, зворотне поширення помилки, CNN і практику навчання, які можна читати без лекцій.
- Computer Vision: Algorithms and Applications (відкривається в новій вкладці)szeliski.org
Безкоштовне друге видання підручника: формування зображення, ознаки, оцінка руху, стерео й розпізнавання.
- Ultralytics YOLO tracking mode (відкривається в новій вкладці)docs.ultralytics.com
Як запустити BoT-SORT або ByteTrack поверх детектора YOLO, з поясненням параметрів конфігурації трекера.
- supervision (відкривається в новій вкладці)github.com
Python-бібліотека з готовими частинами для пайплайнів детекції: анотатори рамок і масок, підрахунок у зонах, ByteTrack і конвертація датасетів.
Трекінг і оцінювання стану
Фільтри Калмана, трекінг багатьох цілей і те, як оцінюють трекери.
- Kalman Filter Explained Through Examples (відкривається в новій вкладці)kalmanfilter.net
Числові приклади, від зважування золотого злитка до стеження за автомобілем, які виводять кожне рівняння фільтра Калмана, перш ніж його записати.
- How a Kalman filter works, in pictures (відкривається в новій вкладці)bzarg.com
Перемножені гаусові розподіли на рисунках показують, чому з кроків передбачення й оновлення виходять рівняння Калмана.
- Kalman and Bayesian Filters in Python (відкривається в новій вкладці)github.com
Безкоштовна книга з ноутбуків, що будує g-h-фільтр, фільтр Калмана, EKF, UKF і фільтри частинок від інтуїції, із симуляціями, які можна запустити.
- Stone Soup tutorials (відкривається в новій вкладці)stonesoup.readthedocs.io
Туторіали відкритого фреймворку для трекінгу: фільтри Калмана й частинок, асоціація даних, JPDA, GM-PHD і метрики треків, із графіками.
- TrackEval (відкривається в новій вкладці)github.com
Еталонна реалізація HOTA, CLEAR MOT і метрик ідентичності, якими користуються основні бенчмарки трекінгу.
- HOTA: A Higher Order Metric for Evaluating Multi-Object Tracking (відкривається в новій вкладці)arxiv.org
Чому MOTA переважує детекцію, а IDF1 асоціацію, і як HOTA розкладає оцінку на ці дві частини.
- MOTChallenge MOT17 (archive) (відкривається в новій вкладці)motchallenge.net
Архівна таблиця лідерів MOT17: 219 методів, результати для кожної послідовності та CSV з усіма метриками.
- ByteTrack (відкривається в новій вкладці)github.com
Код трекера, який асоціює також детекції з низькою впевненістю і так повертає перекриті об’єкти, які відкинув би поріг за оцінкою.
Дорожні карти й курси
Структуровані шляхи, від першої карти галузі до побудови моделі з нуля.
- AI Engineer Roadmap (відкривається в новій вкладці)roadmap.sh
Клікабельна карта того, що має знати AI-інженер, від API моделей і ембедингів до RAG та агентів.
- AI Agents Roadmap (відкривається в новій вкладці)roadmap.sh
Клікабельна карта тем про агентів: цикл агента, інструменти, пам’ять, протоколи, оцінювання й безпека.
- Neural Networks: Zero to Hero (відкривається в новій вкладці)karpathy.ai
Карпаті з порожнього файлу будує backprop, символьну модель, токенізатор і GPT, на відео й у коді.
- Build a Large Language Model (From Scratch) (відкривається в новій вкладці)github.com
Ноутбуки, що реалізують модель у стилі GPT на PyTorch, а потім попередньо навчають її, донавчають для класифікації та на інструкціях.
- Stanford CS336: Language Modeling from Scratch (відкривається в новій вкладці)cs336.stanford.edu
Лекції й завдання, де ви самі будуєте токенізатор, трансформер, навчання, закони масштабування, дані та вирівнювання.
Кого варто читати
Люди, які публікують ретельні нотатки з перших рук про роботу з ML і LLM.
- Simon Willison's Weblog (відкривається в новій вкладці)simonwillison.net
Щоденні практичні нотатки про нові моделі, prompt injection, інструменти й те, що автор справді з ними зробив.
- Lil'Log (відкривається в новій вкладці)lilianweng.github.io
Довгі огляди літератури про агентів, галюцинації, дифузію, RL і промптинг, кожен із повним списком джерел.
- Chip Huyen (відкривається в новій вкладці)huyenchip.com
Есеї про ML-системи в продакшені, AI-інженерію та LLM-застосунки від авторки книги «AI Engineering».
- Eugene Yan (відкривається в новій вкладці)eugeneyan.com
Прикладні нотатки з досвіду в індустрії про рекомендаційні системи, евали, патерни LLM і роботу ML-команд.
- What We Learned From A Year of Building with LLMs (відкривається в новій вкладці)applied-llms.org
Тактичні, операційні й стратегічні уроки шести практиків, які випустили LLM-продукти.
Кожне посилання відкрито 2026-09-26.