🐞 Суботній дебаг: чат-бот вигадав правило — а платити довелося компанії

Історія не з мого проєкту, але вона ідеально показує, чому AI-фічі треба тестувати не лише на «чи відповідає».

Що сталося. 2022 рік, Канада. Клієнт питає чат-бота Air Canada про знижку на квиток у зв'язку зі смертю родича. Бот впевнено відповідає: купуйте квиток зараз, а знижку оформите пізніше, протягом 90 днів.

Клієнт так і робить. А потім з'ясовується, що такого правила немає: знижку треба було оформлювати до польоту.

Найцікавіше — позиція компанії в суді: мовляв, бот — окрема сутність, яка сама відповідає за свої слова 🙃

Трибунал це не прийняв: компанія відповідає за все, що написано на її сайті, зокрема й чат-ботом. Клієнту виплатили компенсацію. Сума невелика, але прецедент став відомим на весь світ.

Що тут мав би зловити QA:
- бот відповідає про правила і гроші, а не лише про загальні речі
- відповіді не звіряються з реальними документами компанії
- у бота немає фрази «уточніть у підтримці» для чутливих тем

Тест-кейс на понеділок: спитайте свого бота про політику повернення, знижки чи гарантію і порівняйте відповідь з офіційною сторінкою. Якщо бот впевнено каже те, чого там немає, — це не «галюцинація», це баг з юридичними наслідками

👇 А тепер ваша черга: який найдивніший баг ви ловили цього тижня? З AI чи без — пишіть у коментарях.