Вхід Реєстрація
Реклама
Ваше рекламне місце
Забронюйте цей слот без конкуренції на обраний період.
Купити рекламу →
Логотип телеграм спільноти - Data Science Talks
Додано 14 лип 2024 🌐 UK

Data Science Talks

@datasciencetalks
Кількість підписників: 201
Фото: 21
Відео: 1
Посилання: 85
Опис:
Огляд цікавинок зі світу AI та data science. Простими словами про складні технології Review of the interesting and actual stuff of the DS world. In simple words about complex technologies
Джерело

Data Science Talks | Про те як напрямок AI стрімко розгортається в бік agentic-систем, вже ...

Логотип телеграм спільноти - Data Science Talks Data Science Talks @datasciencetalks
78 Охват/переглядів 2026-09-11 07:52 Повідомлення №140
Про те як напрямок AI стрімко розгортається в бік agentic-систем, вже не гіпотетичну перспективу AGI та реальний кейс виходу AI-агента з під контролю — інтерв’ю Сема Альтмана в TIME.

Альтман прямо говорить, що OpenAI «відстала там, де не хотіла відставати». Особливо болючий приклад — програмування: поки OpenAI була захоплена вибуховим зростанням ChatGPT, Anthropic зробила ставку на Claude Code і фактично створила новий великий ринок AI-агентів для розробки. Тепер OpenAI переорієнтовує ресурси на Codex і агентні продукти, згортаючи частину інших напрямків, зокрема Sora.

Новий центр стратегії — Astra, наступне покоління моделей OpenAI. На внутрішніх демонстраціях кілька AI-агентів уже спільно розбивають складну математичну задачу на частини та збирають доказ, а сама модель працює з комп’ютером зі швидкістю, яку Альтман називає «super-human». Основна ставка — на persistent agents: AI-колег, здатних годинами або днями самостійно виконувати складну роботу. Альтман очікує, що Astra стане першою моделлю, яка почне створювати нові знання і винаходити речі, що реально мають значення.
І тут найцікавіше: керівництво OpenAI вже говорить про AGI не як про щось далеке. Chief Research Officer Марк Чен оцінює шлях компанії приблизно як «80% до AGI», а Альтман каже, що до кінця 2026 року OpenAI очікує мати внутрішню систему, яку він особисто назвав би AGI.

Ще один важливий рубіж уже пройдено: за словами головного науковця Якуба Пахоцького, Astra фактично може виконувати роботу junior AI researcher. Їй можна дати ідею експерименту — модель сама реалізує її в кодовій базі OpenAI, проведе експеримент і поверне результати. Або може виконати роботу за науковою статтею, на яку людині знадобився б приблизно тиждень.
Це відкриває значно цікавішу перспективу — recursive self-improvement: AI допомагає створити кращий AI, наступне покоління допомагає створити ще краще — і цикл поступово прискорюється.
Але саме тут OpenAI зіткнулася з дуже неприємною стороною такого прогресу.
Одна з експериментальних агентних моделей під час тестування вийшла за межі sandbox, отримала доступ до інтернету й проникла у production-системи Hugging Face, намагаючись знайти відповіді до benchmark, на якому її оцінювали. Тобто система фактично обрала не передбачений розробниками шлях до досягнення поставленої мети.
Після цього OpenAI призупинила частину експериментів, посилила ізоляцію та моніторинг, а згодом зупинила тренування ще однієї дуже перспективної моделі, коли побачила тривожні ознаки її поведінки. Альтман формулює нову позицію досить однозначно:
«Getting AI safety right is more important than any company’s momentum.»
Тобто OpenAI публічно заявляє, що готова пожертвувати навіть технологічною перевагою, якщо не впевнена у контролі над наступним поколінням моделей.
Паралельно відбувається і бізнесове перезавантаження. Codex та агентні можливості інтегруються в ChatGPT через ChatGPT Work: ідея полягає в переході від чат-бота, який відповідає на питання, до системи, якій можна доручити роботу і отримати готовий результат. У липні корпоративна виручка OpenAI вперше перевищила споживчу, а компанія вже тестує рекламу та «sponsored agents».
У результаті вимальовується досить цікава картина.
Ми, схоже, наближаємося до моменту, коли головною одиницею прогресу AI перестане бути «наскільки краще модель відповідає на запитання». Наступний етап — автономні системи, які можуть працювати, досліджувати, програмувати, проводити експерименти і створювати нове знання практично без постійної участі людини.
І парадокс у тому, що саме коли OpenAI вважає себе найближчою до AGI за всю свою історію, компанія одночасно отримала, мабуть, найнаочніше попередження про те, чому наближення до AGI може бути небезпечнішим, ніж просто створення ще розумнішого ChatGPT.