Як AI розуміє, що «пес» та «цуценя» близькі за значенням, а холодильник – ні?

Все можливо завдяки Embeddings 👇🏼

Це спосіб перетворити текст, зображення (чи навіть користувача 👀) в набір чисел, який називається вектором.

Це не випадкові числа: вони описують характеристики об'єкта та його зміст.

Для слів це буде семантичний зміст.

Наведу вам приклад:

Уявіть величезну карту значень. На ній слова «кіт», «собака» та «домашня тварина» будуть десь поруч. А, наприклад, база даних значно далі.

Завдяки такій організації простору, наприклад, слів, комп'ютер може визначати дистанцію між ними завдяки косинусної схожості. І таким чином визначати, наскільки об'єкти схожі за значеннями.

Наприклад, ви шукаєте в інтернеті, як почати програмувати на Python.

Система перетворює ваш запит на Embeddings.

Всі сторінки, які містять певну інформацію, вже також перетворені на Embeddings. І все, що нам треба, це знайти найближчі документи за значенням до вашого запиту ✅

А для цього потрібно порівняти ваш запит попарно з кожним документом.

В продакшн-системах це працює дещо інакше, але принцип такий.

Врешті система знайде тексти найближчі за змістом до вашого запиту, навіть якщо в них немає його точного формулювання 🔥

Так працюють семантичний пошук, рекомендаційні системи та RAG, коли модель спочатку знаходить необхідну інформацію у ваших документах, а потім вже формує відповідь, враховуючи її 🤌🏻

Які поняття ви б хотіли розібрати наступного разу?

👇🏼