#чтиво_вихідного_дня Комунікація із ШІ. Сьогодні нагадую про важливість контролю не тільки за вихідною інформацією (достовірність, відсутність галюцинацій тощо), а й за вхідною. Наші промпти та додаткові матеріали, які ми надаємо для аналізу ШІ, не повинні містити персональних даних, інформації з обмеженим доступом... Також не забуваємо про якість даних, які ви надаєте ШІ. Так, ваші ШІ-помічники просканують запити і на виході: як запитали, що накидали, такі відповіді й отримали. Отже опановуємо промптінжиніринг (багато порад щодо цього є у Рекомендаціях з відповідального використання ШІ для правників) й спілкуємось із ШІ відповідально. А про те, як низькоякісний контент може вплинути на ШІ під час його навчання читаємо ⬇️💠 Штучний інтелект може «тупішати», якщо навчати його на мемах і клікбейті

Американські науковці з’ясували, що великі мовні моделі ШІ (LLM) можуть зазнавати когнітивного занепаду, якщо їх навчати на низькоякісному контенті — зокрема, мемах, клікбейті та поверхневих публікаціях із соцмереж. Дослідники протестували чотири моделі — Llama3 і три версії Qwen, «підживлюючи» їх дописами з платформи Х (колишній Twitter). Набір даних містив популярний, але інформаційно бідний контент — клікбейт, повтори мемів, провокативні коментарі й згенеровані списки.

😮 Після такого донавчання моделі показали помітне зниження здатності до логічного міркування, погіршення розуміння складних контекстів, ослаблення етичних принципів і навіть прояви «небажаних соціальних рис» — нарцисизму чи психопатії. Основною проблемою дослідники назвали «пропуск мисленнєвих кроків», коли ШІ перестає будувати послідовні ланцюги логіки.Хоча подальше «очищене» донавчання частково відновлювало здібності моделей, повністю повернути попередній рівень когнітивної складності не вдалося 🤔

Докладніше у дописі Новий Формат та DTF Magazine