🤖 Прочитав свіжу статтю Карла Вігерса — «Take Chatbot Responses with a Big Grain of Salt»Карл ділиться досвідом і робить простий, але болісно точний висновок:«Більшість із цього — правда. Проблема в тому, що ми не знаємо, яка саме частина — ні.» 🫠

Карл перевірив чатботи (ChatGPT, Gemini, Copilot, Grok) на прикладах, де він точно знав правильну відповідь. Результат — цікава статистика помилок і вигадок:📚 приписані книги, яких він не писав🧩 техніки, які він ніколи не рекомендував🎬 сцени з серіалів, яких не існує👨‍🎤 актори, що ніколи не знімалися у зазначених роляхЙого спостереження боляче резонує з тим, що я сам бачу:AI-моделі часто звучать впевнено навіть тоді, коли помиляються. І якщо ми, як аналітики, не перевіряємо факти, — ці помилки потрапляють у документи, презентації, продукти. А потім знову потрапляють у тренувальні дані.

🧨♻️ Garbage in — reinforced garbage out. Отже, висновок такий: в цілому можна довіряти «більшості» відповідей, але не варто забувати перевіряти критичні. Особливо коли на кону — рішення, гроші чи довіра клієнта. Але які вимог є критичними — варто знати нам.

🧠 P.s.: закиньте отцю лайк на статтю 👍 #mood #AIforBA