Це досить абсурдно, наскільки зараз потрібно бути гнучким зі своїм AI-агентським стеком. Те, над чим ти вдосконалював 12 місяців тому, ймовірно, вже застаріло, і краще зробити скидання, ніж намагатися відродити архітектурно. І цікаво, що з кожним стрибком у процесі, який виключає одну частину стеку, зазвичай з'являється нова можливість, для якої потрібно будувати нові риштування. Наприклад, ймовірно, багато RAG-конвеєрів довелося коригувати через те, що контекстні вікна значно покращилися, і тепер можна просто використовувати агентний пошук завдяки покращенню використання інструментів. Але це ж покращене використання інструментів означає, що вам, ймовірно, доведеться підтримувати виконання коду за допомогою пісочниць, щоб агент міг виконувати складнішу роботу. Тож одна можливість стає менш помітною, і відкривається зовсім нова. Це цикл, у якому ми будемо жити ще багато років. Якщо у вас немає швидкості та спритності, щоб з цим впоратися, то, ймовірно, буде складно.

Не вдаючись у конкретні цифри, ця основна концепція та тенденція будуть дуже реальними. Для будь-якого працівника, який ефективно керує агентами ШІ в організації, його обчислювальні бюджети з часом просто монотонно зростатимуть. Звісно, це почнеться з інженерії, де ми вже знаємо, що розробники можуть запускати кілька агентів паралельно або запускати проєкти за одну ніч. Але це зрештою вплинуло і на решту роботи з знаннями. Юристи, які можуть створювати та переглядати більше чернеток, рекламувати, які можуть створювати більше кампаній і паралельно тестувати нові ідеали, торгові представники, які можуть залучати більше клієнтів і обробляти більше лідів. Багато з цих дій фактично залежать від токенів від того, скільки роботи може виконати одна людина. Це не робочі процеси чат-ботів, які відповідають на просте питання, а агенти, які запускають і обробляють величезні обсяги даних у великому масштабі та генерують нові форми інформації. Компаніям доведеться вирішити, як вони планують бюджет, і це, ймовірно, не буде пунктом ІТ-бюджету з часом, а в кінцевому підсумку належить і розподіляється бізнесом. Можливо, фінансовий директор — це врешті-решт керівник AI :-).

Сьогодні мав зустрічі та вечерю з 20+ керівниками корпоративного ШІ та ІТ. Багато цікавих розмов про стан ШІ у великих підприємствах, особливо в регульованих компаніях. Ось деякі загальні тенденції: * Агенти — це явно головне. Підприємства переходять від розмов про чат-ботів до агентів, хоча ми ще дуже рано. Кодування досі залишається домінуючим агентним кейсом використання, який наразі застосовується, і починають з'являтися інші категорії роботи з різними знаннями. Багато агентської роботи, переходячи від пілотів і PoC до виробництва, а деякі підприємства мали багато активних реальних випадків використання. * Агентські сценарії охоплюють усі аспекти бізнесу — від бек-офісних операцій до досвіду роботи з клієнтами — від продажів і процесів адаптації клієнтів. Загальна думка полягає в тому, що агентні робочі процеси охоплюють усі аспекти організації, часто з найбільшим акцентом на кращу доставку послуг клієнтам, отримання кращої інформації та інтелекту з даних і документів, прискорення високої віддачі від інвестицій у агентів тощо. Дуже обмежене обговорення чистого скорочення витрат. * Управління даними та ШІ залишаються основними викликами. Доставка даних і контенту до місця, де агенти можуть безпечно та легко працювати, залишається величезним завданням для більшої кількості організацій. Роки фрагментації управління даними, які не були проблемою, тепер стали проблемою для підприємств, які прагнуть впровадити агентів. І регулювання того, що агенти можуть робити з даними у робочому процесі, залишається важливою темою. * Ідентичність стає великою темою. Чи може агент мати доступ до всього, що у вас є? У світі десятків агентів, які працюють від імені, потенційно надто багато доступу до даних і можливостей для агентів. Як ми керуємо агентами з розділеним рівнем доступу до вашої інформації? * Виникає багато нових питань щодо того, як ми будемо планувати бюджет на токени у різних сферах використання та командах. Компанії не хочуть обмежувати варіанти використання, але також мають враховувати остаточні бюджети на токени. З часом це стане більшою частиною операційних витрат і, ймовірно, вже не матиме сенсу вважатися ІТ-бюджетом. Ймовірно, це потрібно враховувати у решті операційних витрат. * Інтероперабельність — ключове. Кожне підприємство зараз впроваджує кілька систем ШІ, і малоймовірно, що існує одна платформа, яка керуватиме всіма ними. Клієнти стають більш обізнаними у тому, як керувати взаємодією агентів, і це стане одним із головних рушіїв стеку штучного інтелекту в майбутньому. Є ще багато висновків, ніж просто це, але, звісно, імпульс зростає, хоча підприємства також гостро усвідомлюють управління змінами та працюють наперед. Зараз багато можливостей.