@jdata_blog
Data Blog
Telegram-канал @jdata_blog: 2,5 тыс. подписчиков, 1,2 тыс. просмотров на пост, оценка 63
- 2,5 тыс.
- Подписчики
- 1,2 тыс.
- Медиана просмотров за 30 дней
- 45,9%
- Просмотры / подписчики за 30 дней
- 8
- Постов за 30 дней
Данные на 18 ноября 2026 г.
описание каталога О канале от автора
Обзор
Составлен автоматически по данным канала, обновлён 9 сентября 2026. Числа в тексте — на эту дату; свежие стоят плитками выше.
Data Blog — личный канал о работе на стыке ML-исследований и повседневной рефлексии: авторка делится ходом своих статей по интерпретируемости моделей, разбирает дедупликацию датасетов, объясняет PDP, ICE, ALE и рассказывает о свежих препринтах вроде Mechanist. Рядом — посты про лето, отказы, школу и обычную жизнь: тон живой, без дистанции, с самоиронией.
За 30 дней вышло 17 постов — заметно реже медианы категории в 22 поста. Медиана просмотров поста — 1 031, а ER держится на 46,0% — почти вдвое выше медианы категории (26,3%): аудитория смотрит почти всё, что публикуется. За 13 дней наблюдений подписчиков прибавилось на 9, а средние просмотры просели на 129.
Канал подойдёт тем, кто хочет читать про интерпретируемость и NLP не в сухом академическом формате, а вперемешку с личными заметками автора. Аудитория у канала пока меньше медианы категории — 2 243 подписчика против 14 145, но вовлечённость держится заметно выше среднего по нише. Place Score канала — 74.
Частые вопросы
- О чём канал @jdata_blog?
- Канал ведёт личный блог о ML-исследованиях: авторка рассказывает про интерпретируемость моделей, дедупликацию датасетов, методы PDP, ICE и ALE, вперемешку с постами о повседневной жизни.
- Можно ли купить рекламу в @jdata_blog?
- Владелец пока не открыл прайс на размещение. Связаться по поводу рекламы можно напрямую в Telegram.
- Сколько подписчиков?
- Подписчиков — 2,5 тыс. Медиана просмотров поста — 1,2 тыс. Просмотров на подписчика — 45,9%. Данные на 18 ноября 2026 г.
- Как часто выходят посты?
- За 30 дней вышло постов: 8 — это несколько раз в неделю. Данные на 18 ноября 2026 г.
- Есть ли у канала галочка Telegram?
- Галочки Telegram нет.
- Кто ведёт страницу канала в каталоге?
- Пока никто. Если это ваш канал — заберите страницу: сможете отвечать на отзывы и видеть её статистику.
Это ваш канал?
Подтвердите владение — точные метрики и что улучшить, ответы на отзывы от лица канала и бейдж владельца на странице.
Подтвердить владениеЗаймёт минуту: пост с кодом или бот в администраторах
Ваша страница в tg.place
Знаете владельца?
Перешлите ему это сообщение — он подтвердит права и заберёт накопленное: статистику страницы и ответы на отзывы.
Наведите на график или проведите пальцем — покажем день.
| Из чего складывается | |
|---|---|
| Вовлечённость | 17,2 из 30 |
| Качество роста | 16,6 из 20 |
| Реакции и пересылки | 10,5 из 15 |
| Регулярность | 4,8 из 12 |
| Доверие | 4,7 из 8 |
| Отзывы | недостаточно данныхотзывов пока нет |
Оценка 63 — по 5 показателям из 6: остальные пока не измерены. Методология
Последние посты
- Про руководство и подаванство. В пятницу у меня всё же были мемы — первые коллеги, которых я вела как научрук до статьи на конференции, прошли на EACL 2027 Findings, то есть на конференцию уровня CORE A. Но сесть и написать о них меня хватило вот только сейчас (препринт: arxiv.org/abs/2609.24662 ) Афины, Греция, сыр и оливки. А для меня это безумно большой и приятный опыт другой стороны, где ты не член команды (активно сейчас я indepent researcher в команде University of Virginia и там есть свой руководитель и была ещё в команде Technical University of Munich), а руководитель. Ощущается странно: 25 тысяч правок, из которых только тыщи 2 делаешь ты, просто потому что не твоими руками писан код и видился нарратив. Но также много итераций вычитки, сверки чисел и слов поддержки — сказанных (и найденных) — с надежой, что они помогут (мы с ребятами прошли прежде через реджект). Оказалось, это отнимает не меньше ресурса, чем когда ты сам душевно трясешься над своим первоавторным ребенком и тебя тыкает твой профессор. И я искренне удивляюсь тому, как людям удается иметь на руководстве много работ. Но дарит это не меньше радости, когда видишь этот успех! Мне очень нравится думать и хочется наивно верить в то, что наука, даже в AI с сумашедшим потоком AI-статей про AI, останется чем-то красивым. А ещё, каждый реджект и каждое ревью, даже от ревьюера номер 2 (тот самый, который душненький по умолчанию) — это урок про то, что мог не увидеть человек его агент и как можно сделать свою работу ещё лучше. С таким мысленным щитом лично мне легче ждать и бить каждый rebuttal. Вот такое саммари хочется оставить тут и поднять чашку хорошего кофе за ребят! ☕️ А ещё мы активно готовимся к запуску школы. Я плохой продажник и блогер — тут мог бы быть прогрев, но мне греть нечем — горящая жопа делает всё, что нужно делать (не только школой мы живы). Но! Я завела канал школы. Как только напишу в него хотя бы первый пост — обязательно поделюсь))
- Пятница должна быть днем мемов, но она завтра, а мы томно продолжаем сбор XAI-Lib, в этот раз mech interp в vision-language моделях. Напоминание: VLM (vision-language model) — модель, которая работает и с картинками, и с текстом. Spectra и статья про генеративные VLM: на вход картинка (или несколько, или видео) и текст, на выходе текст. Такая модель часто собрана из трёх частей: vision-энкодер режет картинку на патчи, адаптер превращает их в токены, дальше работает обычная языковая модель. Проблема, под которую позиционируются авторы: каждая модель раскладывает картинку по-своему. Qwen2.5-VL кладёт патчи подряд между токенами начала и конца картинки, а SmolVLM вставляет токены-разделители строк, и патчи идут уже не сплошным куском. Код «где тут картинка» приходится переписывать под каждую модель, и вот нужна Spectra — она берёт это на себя. Что внутри: — HookedVLM: обёртка над HuggingFace, обычные forward и generate остаются; — run_with_cache и run_with_hooks с именами хуков как в TransformerLens (lm.blocks.12.hook_resid_post); — утилиты, которые знают раскладку: где лежат токены картинки, какой патч какой области соответствует, пересчёт боксов и масок; — logit lens, который возвращает предсказания визуальных токенов обратно на картинку, и веб-приложение с logit lens, картами внимания и DLA; — модели: Qwen2.5-VL, Qwen3-VL, LLaVA 1.5 и SmolVLM. Для них реализован более красивый и удобный activation patching. В статье библиотека продемонстрирована на том, как Qwen3-VL-8B считает предметы (использованы logit lens плюс интервенции (обнуление позиций, блокировка внимания, патчинг)). Прочитать можно тут:Тезис на забрать: logit lens показывает, где число видно, а интервенции — что именно эти позиции модели не нужны. Видно — не значит
aclanthology.org/…
https://aclanthology.org/2026.acl-demo.78/стыдно(не я же одна знаю такую фразу...) используется. Это результат из демо-статьи как раз. Нюансы молодости либы: — хуки пока только в языковой части, vision-энкодер в планах; — только адаптерные архитектуры: cross-attention в духе Flamingo потребует нового адаптера; — статистики времени по кэшу и интервенциям (плюс X% — значит, на столько процентов дольше идёт прогон 300 картинок через LLaVA-1.5-7B по сравнению с обычным forward без хуков): кэш residual +2.1%, кэш паттернов внимания +28.4% (у чистого HF +11.1%), патчинг голов +72.3%; — 4 звезды, версия 0.1.0, на PyPI нет (ставится из git), коммитов в main с 28 февраля нет. README отстал от кода (в нём только UI-TARS-1.5-7B, а адаптеры есть для четырёх семейств: Qwen2.5-VL (3B, 7B, 72B и UI-TARS-1.5-7B на его основе), Qwen3-VL-8B, LLaVA 1.5 (7B, 13B) и SmolVLM (256M, 500M и SmolVLM-Instruct)); Учебно-сценарийный плюс: самая маленькая поддерживаемая модель — SmolVLM-256M. Код: github.com/clemneo/vlm-spectra Внесена и в табличку: xai-table.streamlit.app А ещё Logit lens для картинок мы уже трогали на ViT:Всем завтра хороших мемов и доброй ночи.github.com/…
https://github.com/SadSabrina/XAI-open_materials/tree/main/Logit%20Lens%20ViT - Реклама
- Вообще, я прям в восторгах от этой работы. Она — очень (ОЧЕНЬ) хорошая точка входа на посидеть подокапываться до микро-архитектур и следствий в их постановках. И то, что результаты достигнуты агентно, показывает классный возможный потенциал для коллабораций с агентами для изучения моделей, как объекта, изнутри. Я чувствую себя недостаточно прошаренной всё чаще, но мне нравится, куда мы идём!
- Мы снова попали в сингулярность — модель поправила модель! Ссылки: статья, логи I Think, что почти все видели новость про то, что Astra поменяла модели веса и улучшила качество модели на задаче по математике. У этой новости, на самом деле, интересный (!) теоретический аппарат (почему это работает) и простой (!) метод, примененный моделью (как это она так поменяла). Как говорят, «без пива не разберешь», но давайте попробуем! Что было: Восемь экспериментов. Про математику был только последний, а так было ещё 7 задачек. Их можно разложить на три группы: — прочитать: авторы обучали сеть на одной задаче, отдавали Astra только веса текстом и спрашивали, чему сеть научилась. Игру она назвала верно в 4 случаях из 4. Какую фигуру рисует диффузионная модель — в 3 из 3. На каком языке учили маленький трансформер (Python, английский или японский латиницей), по одним средним слоям — в 3 из 3. А вот в задаче «какая из двух Gemma сикофант» (то есть поддакивает пользователю даже в неверном ответе) по одним весам Astra ответить не смогла; — починить: в физическом симуляторе машинка должна сдать назад, разогнаться и перепрыгнуть красную полосу. Сеть, обученная PPO, вместо этого въезжает на рампу и глохнет. Astra дописала в веса «подпрограмму»: сдай назад, дай газ, потом отдай руль старой сети. Изменено 3.5% весов, успех в 1024 эпизодах из 1024; — написать: слепить сети для игр без единого шага обучения. В Breakout такая сеть набирает 517 очков против 25 у PPO на 500M шагах. Ну, и математика на Qwen3.5-0.8B: MATH-500 с 7.9% до 48.1%, GSM8K с 13.8% до 67.1%, и IFEval с 21% до 62.3%. Что сделала Astra для задачи математики: Решила проблему. Qwen в thinking-режиме зицикливается (об этом предупреждает model card): 93% ответов на MATH-500 упираются в лимит 32k токенов. Astra сравнила активации на «продуктивных» и «зацикленных» кусках текста и нашла направление повтора u (своё для каждого слоя) в residual stream после слоёв 15 и 19. Дальше для 64 нейронов down_proj в каждом из двух слоёв: w ← w − 6·u(uᵀw) Компонента вдоль u меняет знак и растёт, остальное не трогается. Это steering, но на уровне весов. Правка меняет 131 072 веса, 0.016% модели. Почему это сработало? Свойство «я повторяюсь» было закодировано направлением, и его видно разностью средних. Почему бы не применить! Отличие от обычного стиринга такое — сдвиг пропорционален активации этих 64 нейронов, то есть срабатывает, только когда модель начинает зацикливаться. Почему это не сработало на Gemma? Авторы объясняют это так: Gemma 3 270M почти не зацикливается — на MATH-500 в лимит 8 192 токена упираются только 8.5% её ответов против 93% у Qwen. Её ошибки — арифметика и неверные шаги в алгебре, и одного компонента, который можно выключить, у них нет. А что по другим задачам? Как можно читать веса? Как мне кажется, сработали три идеи: — у входа и выхода известно, какой номер что значит («клетка (8,1)», «влево»), поэтому первый слой читается как картинка. По ней Astra и узнала игры. В Breakout веса «агента» собраны в нижней строке (ракетка), а «наград» — в верхних (кирпичи). В Pong ракетка — вертикальный столбец слева, и выход различает только «вверх» и «вниз». В Pac-Man веса агента рисуют коридоры лабиринта, и в ход идут все четыре направления. Во Freeway награда — верхняя строка, а движущиеся объекты разложены по горизонтальным полосам, как машины на дороге — у найденных индукционных голов есть структура, для которой не нужны эмбеддинги. Её видно по весам самих голов, точнее по тому, как две головы стыкуются друг с другом. — компиляция: нейрон с большими весами — это if, слой — шаг программы. Astra пишет эвристику по правилам игры и переводит её в веса. PPO учится по только награде (и может застрять в локальном минимуме), а модели дали правила и исходный код игры. Что ещё важно: — «Без градиентов» не значит «без обратной связи»! Было 50 прогонов до 512 генераций каждый и около 20 часов работы агента. — Нет бейзлайнов вроде repetition penalty или того же diff-of-means скриптом, без LLM.
Медиа
- У меня тут сегодня в звонке прозвучала фраза дня: пока у чего-то нет теории или упорядочивания — я не понимаю. Фразу я вам, конечно, переврала, потому что забыла дословно, но смысл был такой. И это просто моя проблема/способ восприятия/другое словосочетение. Поэтому я люблю упорядочивать и смотреть на упорядоченное, так что собрала всякого, что у меня накидано в закладках в один пост, надеюсь, вы найдете для себя полезную штуку или, как минимум, вдохновитесь. Всё (почти) по XAI. В чем история. Область (вся) бежит безумно и наши словарные способности тоже — сколько новых терминов, описывающих старое, нагаллюициировано (много). Но если сильно замедлиться и посмотреть, как раньше было, то раньше все нудно пытались выделить категории и таксономии, свети их в одно и предложить лучшее. В таком подходе есть понятные характеристики и, по сути, дерево решений, сводящее в лист по вашей проблеме и её вводным. 📌️️️️️️Так вот таких было (и есть) много и по XAI: TEA Techniques — техники под проектированые "responsible data-driven technologies". Что бы ни значило тут слово "отвественный", здесь собраны методы по категориям из ответа на вопрос "Какой метод может сделать мою систему более интерпретируемой/безопасной в смысле safety/безопасной в смысле security/прозрачной/справедливой?" и так далее. Методы интерпретирумости в ней собраны достаточно хаотично, но с примерами, отсюда можно смотреть, как како-либо метод поможет вам в обеспечении fairness. Which LIME should I trust? — ресурс по методу LIME. Все варианты суррогатных моделей. Они собраны так, что отвечают на вопрос "На каком этапе реализации LIME я могу изменить что-либо, чтобы испрвить [название проблемы] базового LIME?". Методы в том числе разложены по применимости суррогатов на разные модальности домен и по наличию кода. What's in the Bottle? — аналогичный ресурс по Concept Bottleneck Models — моделям, у которых прогноз идёт через промежуточный слой человеко-понятных концептов, и общий вид модели — вход → концепты → ответ. Здесь, как я вижу, агрегация отвечает на вопрос: "Кто какой вариант CBM уже пробовал?" И старое, но сейчас уже таким не пользуются: XNLP — агрегированные статьи по методам XAI для NLP. В нем за 2013-2019 всего лишь 52 работы (может в том числе потому что их размечали люди). Единицы деления работ: тип объяснения, операции, которыми оно получено, визуализация и метрики оценки. Interactive-XAI — агрегированные статьи по методам XAI для CNN в задаче классификации изображений. Единицы деления работ: scope, usage, aim, applicability, methodology, modality, type. Methodology делится на backpropagation, perturbation, prototype, rule-based и прочее. xai-papers — просто XAI по типу данных, проблемы, объясняемой модели, задачи, объяснения, методу объяснения и венью конфы. HERMES — аналогично, с разделением на характеристики модель, задача, домен, тип пользователей, модальность объяснения, техника XAI. В этих нет явного вопроса, но есть задача — дать сводный взгляд на подобласть. Таким сейчас почти не пользуются (и сами эти ресурсы мертвы, как видите). Но я храню их как способ понять, по каким категориям мне может быть нужна сводка, если (когда) агент идет искать мне работы. 📌️️️️️️Такие есть и начинают появлятся по сейфти: здесь-могла-быть-моя-реклама-но я про свою карту писала, а тут ещё один красивый view — область AI Control/Alignment/ карты Лены (MrsWallbreaker). В картах литература собрана так, что она позволяет видеть открытые Research Questions. Помимо карт, есть словарь и генеалогия сейфти. AI Safety Research Tracker — скринер с LLM разметкой — какие статьи относятся к сейфти на все опубликованные в период. Вот, конец поста я не придумала, всем пятницы. В комментах, если у вас что-то есть подобное в карманах — призываю накидывать.
- Вообще, сейчас сильно медленнее делаю все свои наполеоновские планы по туториалам и материалам, потому что в начале октября переболела какой-то болезненной болезнью, потеряла весь свой погресс на тренировках, расстроилась и основное количество времени сплю, тренируюсь обратно и ем = ) Но я даже что-то пишу! Вот обзор этот с недельку пекся. И меня вообще невероятным образом поддерживают люди и работа (особенно то, что у меня конь не валялся на очередной статье, работу надо двигать, школу бы тоже допилить до лучшего state) — иначе я бы куда-то уронилась. Кажется, эта мысль тут уже проскальзывала много тысяч раз, но да — красота и люди спасают мир, как минимум внутренний. Всем к отличному вторнику здоровья и лучистых пирожков ещё! 🦄️️️️️️
- Я со свеженьким, J++ Lens — апдейт к посту про J-Lens Несколько месяцев назад писала про J-Lens — вышел он весьма громко. После по нему тоже выходили работы, в основном с применением и анализом границ метода. Но! Теперь из вкусного на потрогать вышла интерактивная демка J++Lens от Kola Ayonrinde (Anthropic Fellows) и Jack Lindsey (Anthropic, один из основных авторов статьи про J-Lens). Теперь содержательное. Что было не так с J-Lens? Напомню: J-Lens — это усреднённый якобиан. Для каждого слоя считаем, как малое изменение активации сдвигает финальный слой, усредняем по куче текстов и переводим результат в словарь. Проблемы: • осмысленные readouts (то, что мы можем читать и понимать) появлялись в основном во второй половине слоёв. • многие промежуточные концепты, которые модель использует, линза не видела. Это проверяли на задачах, где для ответа нужен промежуточный шаг, которого нет ни в промпте, ни в ответе. Например: «Число ног у животного, которое плетёт паутину, равно…» — чтобы ответить «8», модель должна сначала прийти к «паук». Что такой шаг модель действительно использует, проверяли вмешательствами (например подмена вектора «паук» на «муравей» меняла ответ с 8 на 6), а наличие нужного концепта смотрели в топе по readout по слоям. • в топе было много пунктуации и мусора. От чего проблемы (тут не от нервов 🙂 ) Авторы выдвинули гипотезу, что проблема в усреднении (все якобианы входят в среднее с одинаковым весом). По теории выборочное среднее несмещённое и состоятельное (то есть с ростом выборки оно сходится к истинному среднему). Нюанс — к среднему чего. В базовой постановке к среднему по всем позициям сразу, включая те, где якобиан плохо описывает модель. Случайный шум с нулевым средним при этом гасится. А систематический — когда целая группа активаций (часто — пунктуация) стабильно даёт «грязненькие» якобианы — остаётся. Плюс к ранним слоям обычный градиент сильно раздувается. Якобиан от раннего слоя до выхода по цепному правилу — это произведение якобианов всех блоков между ними. Чем раньше слой, тем больше множителей и тем больше накопленной ошибки. Отсюда идея: что делает J++ 1. Jacobian Filtering. Активации слоя делят на 8 кластеров обычным k-means по геометрии (центрируют, нормируют и проецируют на 64 главные компоненты и кластеры подбирают на текстах из WikiText-103). На каждом кластере считают свой усреднённый якобиан — «эксперта». Потом на небольшом размеченном наборе задач учат веса, с которыми экспертов смешать. И ещё прикольная для меня заметка, что когда миксовали экспертов, попробовали кусочно-линейную карту — свой якобиан на каждый кластер (то есть ИЛИ по экспертам). И такой подход работает хуже, поэтому именно нужно сделать линейную смесь экспертов. 2. LRP вместо обычного backward. LRP — классический метод атрибуции из XAI: вклад раздают от выхода назад по активациям по правилам, которые сохраняют суммарную «релевантность». Здесь от него берут правила обратного прохода. Через attention идёт обычный градиент (хотя, кстати, есть AttnLrp вариант). 3. Из readout убирают токены без букв и цифр. Тут примечательно, что это было и так, на уровне фильтра для визуализаций J-Lens, но в J++ его сделали частью метода. Вот таким методом везде получили приросты. Потрогать, потыкать, посмотреть тут: Пост J++: LessWrong Демо J-Lens vs J++: Neuronpedia Код: GitHub Линзы: HuggingFace Пара мыслей вдогонку: Мне очень приятно было увидеть тут классический метод интерпретабилити, если честно. Для меня это просто самое красивое, когда классика снова где-то возникает, а тут ещё и k-means, и ряд Тейлора, и эксперты! Ну восторг. И опять чертова линейность! Она тоже шикарная (но на ранних слоях эксперты расходятся сильнее, и там связь заметно менее линейна, это тоже важно). Ещё узнала для себя новую фразу, "эффект белого медведя". Это когда запрещаешь себе думать о чём-то, а мысль возвращается чаще. Формулировка от Достоевского, оказывается. И всем отличного вторника.
- Так, самолайк — несу ещё красивое на позалипать! Добавила визуализаций и в свою карту — карту математических структур в модельках! Теперь в ней тоже можно залипать! 🦄️️️️️️ Что за карта — писала тут: t.me/jdata_blog/551 Карта выросла до 788 наблюдений за это время, я много чего не доделала, но делаю и продолжаю красивую статистику собирать. Анизотропия почему-то гриб, но мы ей это простим. Залипать отсюда:
ai-math-map.vercel.app/…
https://ai-math-map.vercel.app/lab#genealogy - Гипотеза в эссе подкреплена разными экспериментами. В эссе они описаны достаточно подробно, но можно поделить их на три класса: 1. Демонстрация того, что смена инструмента способна почистить ответ. 2. Демонстрация того, как нейрон постепенно во время обучения обобщается до какого-то знания. Плюс анализ нейронов в моделях разного масштаба. 3. Проверка предсказания суперпозиции: сжали слой с 480 до 10 нейронов — упаковки не случилось, нейроны просто стали шире. Эксперименты до безумия красивые! Советую хотя бы посмотреть визуализации автора. И что случилось-то? Ложно можно подхватить, что тезис автора — «полисемантичность — дно». Более того, как принцип обучения гипотеза суперпозиции (та самая, что должна была полисемантичность объяснять) тоже не подтвердилась в его моделях. Но это не сделало что-либо дном! Автор скорее очень красиво показал bitter lesson для интерпретируемости: масштабировать обычное исследование сети может быть выгоднее, чем изобретать всё более хитрые декомпозиции. И показал, что superposition плохо работает как объяснение конкретного нейрона, ибо мы много опираемся на «не понимаю», и так же выглядят ошибки (а заметьте, что из постановки ошибок буквально нужно извертеться очень сильно, чтобы не допустить ни одну). И всё! Гипотезы остаются, методы — тоже! Надеюсь, после этого поста, вы уже разглядываете нейроны, потому что я — да.
О канале в цифрах
- Создан
- 28 июля 2022 г.
- Фото
- 152
- Видео
- 7
- Файлы
- 5
- Ссылки
- 258
По данным Telegram на 18 ноября 2026 г.
Контакты
- Реклама
- @sabrina_sadiekh
Из описания канала
Отзывы
Оставить отзыв
Отзывов пока нет. Ваш будет первым.