ШІ згенерував 24 нові ідеї в теорії чисел. 23 з них уже були в літературі.Мій знайомий, інженер з математичною освітою, зібрав установку, про яку я думав ще з часів дисертації. Машина, яка сама шукає нові математичні твердження.Всередині граф приблизно зі 160 машинно перевірених об'єктів. Система бере пари, схрещує їх, породжує гіпотезу і сама ж її мучить: кожну ганяє щонайменше на 10 000 випадків. Те, що вижило, іде до валідатора новизни, який шукає це твердження в arXiv, OEIS і літературі.Оце останнє і є найцікавіше. Бо машинно правильно і машинно ново це різні речі.Із 24 гіпотез, які пройшли обчислювальну перевірку, 23 валідатор знайшов у вже опублікованому. Модель не помилялася. Вона переказувала.Лишилася одна. Її позначили G63. Статус: відкрита гіпотеза, доведення попереду.Але цікаво не це. Цікаво, звідки вона взялася.Не з «розумних ідей» моделі. Вона виросла з аномалії в підрахунку, яку до того закрили як помилку. Цифри не сходилися, це списали на баг і пішли далі. Потім повернулися.1964 рік, Нью-Джерсі. Двоє інженерів Bell Labs налаштовують рупорну антену і чують шум, який не зникає. Однаковий у всі боки, у будь-яку пору доби. Вони шукають несправність. Знаходять голубів, що загніздилися всередині, вичищають антену, шум залишається.Пензіас і Вільсон близько року воювали з тим, що вважали дефектом обладнання. Це виявилося реліктовим випромінюванням, залишковим світлом раннього Всесвіту. Нобелівська премія 1978 року.Відкриття майже рік пролежало в графі «помилка».У рекламі я живу з цим щодня. На одному акаунті з бюджетом $200 000 на місяць 17 пошукових запитів із 12 000 давали 64% виручки. Така цифра виглядає як помилка вибірки, поки не перевіриш її рахунком. На акаунтах від $50 000 на місяць картина повторюється: 0,1-0,3% запитів несуть від половини до сімдесяти відсотків прибутку. Класичне 80/20 тут навіть близько не описує реальність.Коли ти питаєш модель «як мені вирости», вона віддає найкраще з описаного. А описане вже прочитали твої конкуренти. На виході ти маєш чужу середню стратегію, сформульовану дуже впевнено.Твоя перевага лежить там, куди модель дотягтися не може. У твоїх власних числах, які не сходяться. Клієнт, що купив не за сценарієм. Канал, який дав заявки, хоча не мав. Товар, який беруть геть не ті люди. Це і є ті самі голуби в антені.І друга половина, без якої перша не працює. Суддею має бути обчислення. У тій установці модель вільна вигадувати що завгодно, але кожну гіпотезу ріже перевірка на 10 000 випадків і зовнішня база публікацій.Свої AI-системи я будую так само. Генерацію віддаю моделям, право сказати «це правда» лишаю за перевіркою. Модель звучить однаково впевнено і коли має рацію, і коли ні. Її впевненість не є доказом, і це та річ, яку в компаніях зараз плутають найчастіше.Тому «ми впровадили AI» і «ми питаємо в нейромережі» це два різні речення.Найдорожче, що зараз лежить у твоїй компанії, це список того, що ви пояснили як помилку і не пішли перевіряти.Джерело