Ви ж напевно бачили, що по всьому інтернету розповсюджується страшна новина - OpenAI витрачає мільйони, а то і десятки мільйонів доларів на те, що ми дякуємо ChatGPT. Вся канітєль почалась з цього твіту. На що Сем відповів: "tens of millions of dollars well spent--you never know"; І погнали: New York Post, FOX News, Futurism і так далі. Саме смішне, що тепер ще й користувачі почали задумуватись, чи буде ввічливим - добре для планети, і best practices коли бути ввічливим, щоб моделі краще працювали. І тут пару думок:1. Я думаю то є фігня :) Насправді, промпти перед тим як висилатись моделям проходять pre-processing, і можуть оптимізуватись / відчищатись від всього. До прикладу як працюють промпти, коли ми просимо чогось намалювати? Те що написав користувач, спочатку відсилається одній моделі, яка розширює опис того, що написали користувач, тому що для моделі яка генерує картинку опис: "а то намалюй людину павука, яка їсть муху з обличчям ющенка" - малувато, тому одна модель доповнює ваш промпт, і потім відсилають вже великій моделі. Як ви розумієте, очищення промпту в даному випадку від слів паразитів - можна робити супер маленькими моделями, або тупим регекспом :) І повірте, якщо OpenAI може зберегти десятки мільйонів доларів на таких штуках - вони то зроблять, бо це бонуси шкіряних мішків :)2. З іншої сторони це породжує класні дискусії на тему - а чи оптимально використовувати людську мову, для спілкування з AI? Бо якщо вже хто і рахує гроші - так це люди, які користуються моделями OpenAI, чи іншими через API - а значить токени на вхід і на вихід оплачуються окремо, і може вийти кругленька сума. :) Чудовий стартап для майбутнього - оптимізатор промптів, який буде зменішьшувати оригінальний промпт або навпаки покращувати його, щоб лімітувати кількість output токенів, які мав би видати AI.