Агент — это всё, что имеет цикл OODA и постоянную память.
Nick Swanson
Nick Swanson8 авг., 15:00
Отличный заголовок. Я могу придумать около 10 других терминов в политике, которым нужно такое же внимание.
@aleksil79 Краткая версия: это способы, с помощью которых агент может изменять себя, и которые ему на практике не нужно использовать для выполнения других задач.
@aleksil79 Например, "угол сгиба в вашем колене" — это своего рода память, но вам нужно двигать коленом по инструментальным причинам, чтобы оно не действовало как память.
Существует важная связанная версия памяти, которая называется стигмергия, где агент изменяет окружающую среду, а не себя. Если агент является единственным агентом во вселенной, то это эквивалентно памяти. Но поскольку агенты делят свои окружения, это не так, потому что другие записывают в состояния. Состояние должно принадлежать агенту, потому что это обеспечивает доступ на запись для агента.
Немного более точная и нюансированная перефразировка будет следующей: "агент — это всё, что имеет цикл OODA на протяжении времени сохранения своей памяти"
@joshu Что ты имеешь в виду? Вызовы внутри LLM имеют очень мощные возможности обучения в контексте. И они обязательно решают, какие токены выводить, что влияет на мир. Хотя они не очень долговечны...
Emmett Shear
Emmett Shear6 мар. 2024 г.
An LLM, properly understood, is a physics simulator in the domain of words (tokens). It learns the hidden structures that predict, as a physics simulator trained on video footage learns momentum and rigidity.
31,36K