Ділюся посиланнями. Контент не генерую. Тематика: ML/AI/LLM, висєри на мера Києва, петиції, навколо наукова/освітня сфера Зв'язок: пишіть в коменти Шітпост: @mockingbird_shitposts Твітор (вмер): @007morf Тепер вже офіційні коменти: @mockingbird_chat
https://stackoverflow.blog/2026/01/02/a-new-worst-coder-has-entered-the-chat-vibe-coding-without-code-knowledge/Прикольний експеримент від людини не з індустрії. Про security issues можна думати одразу, хех. Про unit tests і структуру я не задумувалась, бо ніколи не аутсорсила цілий проєкт на AI (і поки що не хочу - всеодно там усе переробляти, то краще хай займається простими рутинами).Найцікавіше, насправді, ось тут:https://github.com/bunnywapen/dont-go-in-there/issues/1Це код рев'ю від людини з індустрії на згенерований LLMкою проєкт, доволі цікаве чтиво.Мій особистий висновок розходиться з фінальними тезами авторки статті: можна навчитися кодити за допомогою LLM, але цього недостатньо для того, аби бути навіть гарним джуном. Потрібне розуміння структуризації проєкту, певні архітектурні паттерни і абстрактні концепти, які зазвичай таки викладають на CS degree. Тому класичне навчання з книжкою теорії і пет проєктом чи задачками на практиці ще ніхто не відмінив.P.S. ідея заміняти джунів на AI - кепська. звідки тоді в середній і довгій перспективі візьмуться досвідчені мідли і сіньйори? з магістерських/PhD програм? а що вони будуть їсти і на чому вчитися за 6-9 років навчання в університеті?
Що робити, якщо росія пошкодила вам житло у Києві (оновлена інформація) 1️⃣ Зафіксуйте пошкодження та подайте заявку в «Дію»Зробіть фото ушкодженого житла та заповніть заявку у розділі «єВідновлення» в додатку або на порталі «Дія». Там же натискаєте «Подати заяву про виплату».Заявку подає власник або співвласник. Якщо орендуєте – зверніться до власника.Після розгляду заявки ви отримаєте компенсацію на будівельні матеріали. Подробиці – за посиланням: http://surl.li/ddxeya2️⃣ Очікуйте поліцію – це стандартна процедураПоліцейські фіксують ушкодження – це частина процесу документування злочинів рф.3️⃣Також, протягом найближчих днів помешкання обстежить і районна комісія, яка ще раз зафіксує пошкодження та складе відповідний акт для подальшого розгляду заявки на виплату компенсації містом.4️⃣ Отримайте 10 000 грн одноразової допомоги від міста.Зверніться до управління соціального захисту району (наприклад, для Солом'янського району - Повітрофлотський, 40). Контакти: https://surl.li/essphpЗаявку подає власник. Часто соцпрацівники самі обходять будинки. Якщо ні – зверніться самостійно. 5️⃣ Матеріальна допомога в депутатських приймальнях.Можна отримати від 3 700 до 10 000 грн. Якщо сума більша за 3 700 – треба мати акт про пошкодження.Не обов’язково бути власником, але треба бути зареєстрованим у Києві або мати статус ВПО.6️⃣ Допомога від Червоного Хреста.Можуть замінити вікна пенсіонерам, багатодітним сім’ям тощо. Але це займе трохи часу.📌 Поділіться цією інформацією із сусідами та в чатах будинку — це допоможе тим, хто постраждав, оперативно подати заяви та отримати компенсацію.Номер моєї приймальні +380 63 294 98 34 (в робочі години)@semenovatut
4 дні, щоб зберегти історичний вигляд дворику з круками👉 Підписати петиціюПамʼятаєте, ми писали, що забудовник подав проєкт перебудови двоповерхової будівлі, яка є однією з найстаріших споруд на Рейтарській? Саме тієї, де сталася невелика пожежа і яка раптово стала «аварійною», а ремонт перетворився на дворівневу надбудову 🥲І все це — заради збагачення нинішнього орендаря землі — компанії, яку повʼязують з Вагіфом Алієвим, колишнім консулом рф. Нині його компанії спотворюють ще одну памʼятку — неймовірну модерністську «Тарілку» Флоріана Юрʼєва на Либідській💔Будівля у Дворику з круками і досі не має охоронного статусу, адже Департамент культспадщини так і не підписав відповідний наказ. Тож зараз єдиний реальний спосіб зупинити надбудову цього одоробла на історичній будівлі — публічний тиск, розголос та увага громадськостіДавайте поширимо цей заклик, адже майже половину голосів уже зібрано! Залишилося трохи більше 3 тисяч підписів, і найстаріший будинок на Рейтарській збереже свій первісний вигляд!
Популяції LLM можуть поводитися як штучні суспільства, у яких спонтанно формуються соціальні норми ✨ Дослідники прогнали сотні LLM-агентів у “naming game” – без централізації, без ролей, просто попарні взаємодії. Учасники експериментів були змодельовані на базі різних сучасних моделей: Llama-2, Llama-3, Claude-3І навіть у таких умовах агенти самостійно виробили спільну норму → одне “правильне” слово стало глобальним стандартом для всіх.Чому про це говорять?🧠 Колективний bias виникає з нуля, навіть якщо поодинокий агент неупереджений. Тобто сама динаміка взаємодії генерує перекоси.🧠 Маленька, але вперта меншість → здатна перевернути все. Коли у сформовану норму додавали невелику групу агентів (у деяких моделях достатньо ~2 % таких агентів, а в інших – майже 67 %), які наполягали на іншій опції, при досягненні “критичної маси” вони могли переконати більшість і повністю змінити норму.Зазвичай ми говоримо про безпеку/алайнмент LLM на рівні однієї моделі, але це дослідження показує: у багатoагентних системах важливо тестувати динаміку популяції, бо взаємодія між моделями породжує нові закономірності, яких не видно при аналізі окремого LLM 👀Із повним пейпером можна ознайомитися тут 👈🏻
🎓 Безкоштовні курси від Google Cloud, щоб зробити твою осінь ще більш продуктивноюЗнайомся з переліком👇🟢Beginner: Foundations of GenAIНа курсі дізнаєшся:• що таке GenAI і чим він відрізняється від класичного ML;• як писати ефективні промпти;• як застосовувати принципи Responsible AI у роботі.🟡Intermediate: Use Gemini in your day-to-dayПро що цей курс – і так зрозуміло, але корисним він буде для:• Developers – детальніше про автогенерацію та пояснення коду;• Architects – як будувати інфраструктуру за допомогою простих промптів;• Data pros – використання BigQuery + Gemini для запитів і прогнозів;• Security & DevOps – виявлення проблем, підвищення безпеки систем і керування кластерами.🟣Advanced: Build GenAI apps end to endХочеш глибше зануритися у розробку GenAI-застосунків? Тоді цей курс саме для тебе 👇🏻• створення застосунків з Gemini + Streamlit;• робота з RAG, vector search і мультимодальними промптами;• методологія MLOps для GenAI-проєктів;• моделі під капотом: Transformers, BERT, diffusion.Обирай курс, прокачуй знання й отримуй цифрові skill-badges від Google Cloud – чудове поповнення до твого професійного профілю 😉
Attention Sinks: Allowing Attention Not To Pay Attention🙅♂️Нещодавно читав гарний пост про архітектуру GPT-OSS. Більшість змін порівняно з GPT2 були вже знайомі з таких відкритих архітектур як LLaMa, Qwen, або Gemma, але є одна цікава ідея, про яку раніше не чув — attention sinks.Recap: Attention Patterns✍️Пригадаємо, що у механізмі уваги для кожного токену формується так званий attention pattern — ваги, з якими він “зверне увагу” на попередні токени з контексту (включно з ним самим).Для кожної голови цей pattern буде різним: іноді увага звертається на попередній токен, іноді — на останнє згадане імʼя, іноді — на надані few-shot examples, тощо.What’s the problem?🤔Через те, що attention pattern формується через softmax, сума його коефіцієнтів завжди дорівнює одиниці. Тобто кожний токен в будь-якому разі “змушений” звернути на щось увагу. Але справа в тому, що не існує текстів, для яких кожна з attention heads має зробити щось корисне — зазвичай більшість з них не є активними.Тому часто голови уваги вивчають наступну поведінку: якщо жодна з ознак, яку вони очікують, не зустрічається у контексті, то вся увага просто йде на перші кілька токенів (саме вони й називаються attention sinks у оригінальній роботі, де це було виявлено). Тобто перші токени стають таким собі буфером, який не несе в собі корисного сенсу, і в який заглядають просто якщо в тексті не відбувається нічого надзвичайного.Цей “хак” призводить до таких проблем як ускладнена інтерпретованість моделі, або погіршення якості при роботі з великими послідовностями, коли ці самі перші токени випадають з KV cache.What’s the solution?✅Для уникнення цього є кілька способів (тик, тик), але реалізація від OpenAI здається найбільш елегантною.Для кожної голови створюється додатковий параметр (sink), який конкатенується до рядків QK scores, і … це все 🙂 Ми отримуємо новий ”фейковий” елемент у softmax, який може перейняти увагу на себе, якщо жодного патерну не було виявлено. Так як голов зазвичай не багато, це не створює великого overhead, а зазначені раніше проблеми зникають.Висновок: Цікавий приклад того, як інтерпретація дозволяє виявляти і вирішувати реальні проблеми в моделях, які важко було б ідентифікувати, сприймаючи їх як чорний ящик.
Чи справді ШІ підвищує ефективність?Iнтерес та ажіотаж навколо ШІ, особливо генеративному, в останні місяці знаходиться на своєму піку. Багато компаній починають його використовувати для "підвищення продуктивності" та "скоротити витрати", а в деяких випадках навіть звільняти молодших співробітників і замінювати їх на генеративний ШІ. Для них ШІ — це інструмент який дозволяє номінально виконувати більше завдань ніж співробітник. Навіть окремі уряди (привіт Стармеру і лейбористам, а також Албанії з їх ШІ міністром) переймають цю практику.Але дослідження Harvard Business Review у співпраці з Stanford Social Media Lab доводить рівно протилежне: заміна співробітників на генеративний ШI і навіть їх активне використання як допоміжний інструмент знижує продуктивність та підвищує витрати підприємств. Дослідники підрахували, що інциденти на робочому місці якi викликані згенерованим ШІ контентом (погано написаний емеiл, неправдива інформація та час для її перепровірки тощо) обходяться в невидимий "workslop податок" 186 доларів в місяць.Також це погіршує відносини між працівниками, що впливає і на співпрацю на роботі. Ті, хто не використовують ШІ, починають ставитися до тих, хто використовує, з великою недовірою і викликає більше сумнівів у професійних навичках. Наприклад, iх вважають менш креативними, здатними або надійними. Це впливає і на довіру: 34% тих, хто не використовує ШІ, звітують перед керівництвом, підриваючи довіру між співробітниками.Автор посту (@kn0wn_err0r)https://hbr.org/2025/09/ai-generated-workslop-is-destroying-productivity
GEPA: новий "еволюційний" оптимізатор підказок, який обходить RL у власній грі🫣Дослідники з Berkeley, Stanford, MIT та Databricks представили GEPA – алгоритм Reflective Prompt Evolution, який оптимізує LLM-системи не через важкі тисячі rollouts у стилі Reinforcement Learning, а за допомогою “мовних роздумів” і генетичної еволюції підказок.🔍 Як це працює:GEPA дивиться на роботу всієї системи (chain-of-thought, виклики інструментів, помилки), викликає цю ж LLM та за допомогою неї описує, що пішло не так, звичайною людською мовою.Потім пропонує нову версію промпту, комбінує кращі рішення з різних спроб та при цьому всьому зберігає межу Pareto - набір промптів, які найкраще підходять принаймні для одного навчального прикладу.І як результат – швидке навчання з мінімумом запусків.👉🏻 З цікавого те, що на чотирьох бенчмарках (HotpotQA, IFBench, HoVer, PUPA) GEPA обійшов GRPO до +10.1% точності, використавши до 35× менше повних проходів системи.👉🏻 Проти MIPROv2 – +14% у середньому, і ще й промпти у 9 разів коротші.👉🏻 Показав потенціал і в генерації високопродуктивного коду для GPU та NPU.GEPA виглядає як must-have для оптимізації агентів, коли рахунок іде на сотні ітерацій виконання, а не сотні тисяч. Якщо так піде далі – RL може залишитися “олдскулом” для дуже специфічних кейсів 👀
Історія про те, як шпак став носієм PNG-зображення качки на 176 кілобайтів 😲Блогер і музикант Бенн Джордан вирішив перевірити, наскільки реально використати птаха як фізичне сховище даних. Так-так, буквально 👀📍Що відбулося:Джордан записав звук, створений на основі спектрального зображення PNG-файлу качки (176 КБ), і кілька разів відтворив його шпаку, який вихований людьми з дитинства.Птах не намагався скопіювати звук одразу, зате згодом, вдома, аналізуючи гігабайти запису птаха, на спектрограмі автор помітив: шпак відтворив фрагмент звуку, підтвердженням цього є малюнок качки на частотній шкалі.З технічної точки зору:1️⃣ Птах проспівав сигнал у тому самому частотному діапазоні, ефективно "передавши" 176 КБ сирих даних.2️⃣ Якщо використати стиснення 10:1 – отримаємо до 2 МБ/с передачі.3️⃣ Щоб "передивитися" всі 8 фільмів про Гаррі Поттера таким способом – шпак мусив би співати 33 години без перерви 😅Юзери в Reddit та YouTube вже жартують про новий "природний" протокол передачі даних і потенційний бекап на випадок цифрового апокаліпсису. А дехто порівнює це з голосовими сигналами переспівниць в «Голодних іграх» 🌝Що ви думаєте з цього приводу?P.S. Ти ж пам'ятаєш, що ми тебе чекаємо 30 липня о 19:00 на нашому онлайн-мітапі "How AI is reshaping product innovation in big enterprises"Залишилося 10 квитків, тому встигни вхопити свій!
Книжку дочитала, ставлю 10/10 за теоретизацію сучасних тенденцій політики у Європі та США. Для мене, як, гадаю, і загалом української аудиторії, твір більше виглядає як збірка очевидних фактів, підкріплених насиченою вижимкою історичних і політичних процесів в рф, Україні, ЄС та США.Але от чого я точно не очікувала, так це розгляд становлення і засад рашистської ідеології (важлива тема для розуміння, насправді), з дуже класним переходом на експорт роснявих наративів у закордонний far right. В тему також гарно вписуються проблеми ЄС і як вони призвели до нинішньої політичної кризи, яка (як виявилося для мене неосвіченої) почалася ще років з десять тому.Окрема частина присвячена пісочінню Трампа з його російськими зв'язками і політикою часів першої каденції. Мій особистий висновок з тієї глави - до штатів жити ні ногою.Основні концепції, які треба винести з усієї книги - politics of inevitability та politics of eternity. Вони, власне, і є тим теор узагальненням, на векторному базисі якого досить легко аналізувати події сьогодення. На згадку залишаю сторінку епілогу, ну і пост вище - щоб дофіга розумні українці не розгубили свою клепку із часом
We and selected third parties use cookies or similar technologies for technical purposes and, with your consent, for other purposes (“basic interactions & functionalities” and “measurement”) as specified in the Cookie policy.
You can freely give, deny, or withdraw your consent at any time.
You can consent to the use of such technologies by using the “Accept” button. By closing this notice, you continue without accepting.