Джерело
Data Science Talks | Поки світ охоплений лихоманкою агентів та AI-оптимізацією-автоматизаці...
102 Охват/переглядів
2026-09-22 10:41
Повідомлення №141
Поки світ охоплений лихоманкою агентів та AI-оптимізацією-автоматизацією, класичний Data Science якось непомітно відійшов на другий план. Але всі ті задачі, заради яких бізнес роками будував ML-системи, нікуди не поділися: fraud detection, кредитний скоринг, churn, оцінка ризиків, прогнозування попиту, marketing response тощо. Як пише Google Research, табличні дані досі залишаються основою корпоративної інфраструктури даних. І це логічно: поки ми обговорюємо агентів, які самостійно пишуть код і ось-ось народять AGI, банку все одно треба вирішити, кому дати кредит, рітейлу — скільки товару закупити, а маркетингу — хто з найбільшою ймовірністю купить продукт.
Тому, попри стрімкий розвиток AI-технологій, напрямок класичного ML і досі залишається актуальним. Ба більше, його підходи також продовжують розвиватися й ускладнюватися. Фактично зараз тут відбувається власна «LLM-перебудова» — з появою Tabular Foundation Models: TabPFN, TabICL, TabFM та інших моделей, які переносять ідею foundation models у світ структурованих даних.
Принцип тут доволі цікавий і багато в чому нагадує те, що свого часу відбулося з мовними моделями. Tabular Foundation Models — це вже попередньо навчені моделі. Тільки замість великих корпусів тексту їх тренують на мільйонах синтетично згенерованих таблиць і задач прогнозування: з різними розподілами, нелінійними залежностями, пропусками, шумом і взаємодіями між ознаками.
Тобто модель вчиться не конкретній залежності між ознаками та target, а значно ширшому принципу — як улаштовані табличні дані і як шукати в них закономірності. Архітектурно в основі лежить Transformer, адаптований під таблиці: attention дозволяє моделі враховувати одночасно зв’язки між ознаками та між окремими спостереженнями. Для імпліментації такої моделі її навіть не обов'язково файнтьюнити (власне як і передтреновані NLP-трансформери). Ми передаємо їй частину даних із відомим target як контекст, а вона вже на їх основі будує прогноз для нових рядків. Фактично навчання окремої моделі частково замінюється здатністю великої переднавченої моделі зрозуміти нову ML-задачу з контексту.
На невеликих і середніх наборах даних — приблизно до 10 тисяч рядків і сотень ознак — такі моделі вже показують дуже сильні результати і в частині тестів випереджають добре налаштовані алгоритми градієнтного бустингу. Але старий добрий XGBoost поки ще не здає позицій. На великих табличних датасетах він усе ще дуже часто залишається одним із найкращих варіантів: швидким, дешевим та зрозумілим у продакшені.
Та найважливіша зміна навіть не в тому, хто виграв кілька десятих ROC-AUC на черговому бенчмарку. Змінюється сам підхід до роботи Data Scientist-а.
Те, що раніше вимагало окремої обробки — пропуски, категоріальні ознаки, масштабування, перетворення змінних, налаштування параметрів — дедалі більше бере на себе сама модель.
Умовний класичний pipeline:
preprocessing → feature engineering → model selection → tuning → cross-validation → ensemble
поступово рухається в бік:
table → foundation model → prediction
Дуже знайома історія, якщо згадати, що свого часу сталося з NLP після появи великих мовних моделей.
Тож класичний ML у 2026 році точно не помер. Він просто трохи випав із зони основного хайпу — і паралельно переживає власну технологічну перебудову.
І тут важливо не впасти в іншу крайність. Не кожна задача потребує LLM. Не кожна таблиця потребує трансформера. І точно не кожен XGBoost у продакшені варто терміново міняти лише тому, що новий підхід дає умовні +3% accuracy.
Хороший Data Scientist сьогодні — це не людина, яка просто «вміє в AI». Бо дуже часто це перетворюється у забивання цвяхів мікроскопом. Це передусім людина, яка може тверезо оцінити задачу, дані, інфраструктуру, вартість рішення та бізнес-вимоги — і обрати інструмент, який справді доречний у конкретному випадку.
Тому, попри стрімкий розвиток AI-технологій, напрямок класичного ML і досі залишається актуальним. Ба більше, його підходи також продовжують розвиватися й ускладнюватися. Фактично зараз тут відбувається власна «LLM-перебудова» — з появою Tabular Foundation Models: TabPFN, TabICL, TabFM та інших моделей, які переносять ідею foundation models у світ структурованих даних.
Принцип тут доволі цікавий і багато в чому нагадує те, що свого часу відбулося з мовними моделями. Tabular Foundation Models — це вже попередньо навчені моделі. Тільки замість великих корпусів тексту їх тренують на мільйонах синтетично згенерованих таблиць і задач прогнозування: з різними розподілами, нелінійними залежностями, пропусками, шумом і взаємодіями між ознаками.
Тобто модель вчиться не конкретній залежності між ознаками та target, а значно ширшому принципу — як улаштовані табличні дані і як шукати в них закономірності. Архітектурно в основі лежить Transformer, адаптований під таблиці: attention дозволяє моделі враховувати одночасно зв’язки між ознаками та між окремими спостереженнями. Для імпліментації такої моделі її навіть не обов'язково файнтьюнити (власне як і передтреновані NLP-трансформери). Ми передаємо їй частину даних із відомим target як контекст, а вона вже на їх основі будує прогноз для нових рядків. Фактично навчання окремої моделі частково замінюється здатністю великої переднавченої моделі зрозуміти нову ML-задачу з контексту.
На невеликих і середніх наборах даних — приблизно до 10 тисяч рядків і сотень ознак — такі моделі вже показують дуже сильні результати і в частині тестів випереджають добре налаштовані алгоритми градієнтного бустингу. Але старий добрий XGBoost поки ще не здає позицій. На великих табличних датасетах він усе ще дуже часто залишається одним із найкращих варіантів: швидким, дешевим та зрозумілим у продакшені.
Та найважливіша зміна навіть не в тому, хто виграв кілька десятих ROC-AUC на черговому бенчмарку. Змінюється сам підхід до роботи Data Scientist-а.
Те, що раніше вимагало окремої обробки — пропуски, категоріальні ознаки, масштабування, перетворення змінних, налаштування параметрів — дедалі більше бере на себе сама модель.
Умовний класичний pipeline:
preprocessing → feature engineering → model selection → tuning → cross-validation → ensemble
поступово рухається в бік:
table → foundation model → prediction
Дуже знайома історія, якщо згадати, що свого часу сталося з NLP після появи великих мовних моделей.
Тож класичний ML у 2026 році точно не помер. Він просто трохи випав із зони основного хайпу — і паралельно переживає власну технологічну перебудову.
І тут важливо не впасти в іншу крайність. Не кожна задача потребує LLM. Не кожна таблиця потребує трансформера. І точно не кожен XGBoost у продакшені варто терміново міняти лише тому, що новий підхід дає умовні +3% accuracy.
Хороший Data Scientist сьогодні — це не людина, яка просто «вміє в AI». Бо дуже часто це перетворюється у забивання цвяхів мікроскопом. Це передусім людина, яка може тверезо оцінити задачу, дані, інфраструктуру, вартість рішення та бізнес-вимоги — і обрати інструмент, який справді доречний у конкретному випадку.