“Give me a second, please..” | Harness Engineering: Agentic Memory | Thinking, Fast and Slow | CoALA

Знайома ситуація? Ви задаєте питання співрозмовнику, а він задумується: "секунду будь ласка".
Так от що саме може відбуватися з агентами чи моделями, коли вони "задумалися".
Ця історія про те, як я знайшов 1000000 зайвих операцій, що привносили "некомфортну" секунду під час спілкування з голосовою моделлю реального часу, на прикладі
реалізації двох-системної моделі мислення чудово продемонстрованої професором Daniel Kahneman та CoALA архітектури для мовних агентів.

Memory runtime може бути застосований для різних агентських кейсів.
На прикладі впроваджень:

1. event-aware infra - використовують SRE, platform, observability команди. Система процесить івенти інфраструктури (було на відео - обробили вже більше 3М подій і сотні інцидентів). Агент знає патерни, аномалії та може передбачати вигідність наступних інцидентів.

2. Бізнес: рітейл агенти, що консультують споживачів різних категорій товарів та стають персональними консультантами. Кожен агент має свою специфіку, знання та пам'ять по кожному клієнту.

3. Веб-сайт - саме так, контент з пам'яті можна рендерити як завгодно. А наповнювати можна просто спілкуючись з агентом. Агент знає все про проект та його відвідувачів.

4. Кодовий IDE агент може використовувати пам'ять для навігації по коду проекту. Підтримується cross-repo семантичний пошук по коду (tree-sitter) і документації. Використовую для своїх проектів. Зберігає токени сильно.

5. Персональний асистент - по суті з підключенням будь-яких skills (навіть claude code sdk) отримуєш інтерактивного співбесідника з пам'яттю про події.

Приєднуйся до DeadOpsClub