Мой ИИ запомнил все важное. Он забыл, что я сделал прошлой ночью.
My AI Remembered Everything Important. It Forgot What I Did Last Night.
Я создал систему памяти ИИ, вдохновленную одной вещью, которую мозг, кажется, делает хорошо: укрепляет ассоциации с помощью использования. Большая часть памяти ИИ — это файл заметок с поиском. Он хранит документы и извлекает их на основе текстового сходства. Я хотел что-то, что вело себя как настоящая память. Я хотел, чтобы пути укреплялись, когда вы их используете, и исчезали, когда вы этого не делаете. Таким образом, мицелий сохраняет воспоминания как узлы с соединениями. Это не просто база данных. Это активная система. Когда вы вспоминаете несколько вещей вместе достаточно раз, связь между ними становится сильнее. Это геббианский подход к хранению. Если два понятия появляются в одном и том же контексте неоднократно, система предполагает, что они принадлежат друг другу. Игнорируйте память достаточно долго, и она разлагается. Этот распад преднамеренный. Забвение - это функция, а не ошибка. Это...
Я создал систему памяти ИИ, вдохновленную одной вещью, которую мозг, кажется, делает хорошо: укрепляет ассоциации с помощью использования. Большая часть памяти ИИ — это файл заметок с поиском. Он хранит документы и извлекает их на основе текстового сходства. Я хотел что-то, что вело себя как настоящая память. Я хотел, чтобы пути укреплялись, когда вы их используете, и исчезали, когда вы этого не делаете. Таким образом, мицелий сохраняет воспоминания как узлы с соединениями. Это не просто база данных. Это активная система. Когда вы вспоминаете несколько вещей вместе достаточно раз, связь между ними становится сильнее. Это геббианский подход к хранению. Если два понятия появляются в одном и том же контексте неоднократно, система предполагает, что они принадлежат друг другу. Игнорируйте память достаточно долго, и она разлагается. Этот распад преднамеренный. Забвение - это функция, а не ошибка. Это не позволяет системе стать статическим архивом всего, что вы когда-либо печатали. Основной механизм основан на SQLite с FTS5 для сопоставления ключевых слов. График связи живет поверх этого. Вы можете услышать, как люди говорят о векторах для всего. Векторы существуют как вторичный сигнал в мицелии. Они не являются основным механизмом отзыва. Основным драйвером является этот график подключения и частота доступа. Воспоминание - это завершение шаблона. Запрос не просто сопоставляет текст с документом. Он запускает соответствующие воспоминания и распространяет активацию через их соединения. Частичный сигнал оттягивает весь кластер, который имеет тенденцию светиться вместе с ним. Воспоминания, которые выигрывают, — это те, которые тесно связаны и часто доступны. Я называю их хабами. Контекст загрузки в начале сеанса намеренно возвращает хабы. В среднем, хабы - это знания о несущих нагрузках. Это те понятия, на которые вы чаще всего ссылаетесь. Если вы создаете агента, который должен знать, кто вы, над чем вы работали в течение нескольких недель или каковы ваши общие предпочтения, центры являются правильным ответом. Это особенность. Это тоже баг. Я столкнулся с этой проблемой во время обычных циклов развития. Я бы открыл новую сессию и спросил, над чем я сейчас работаю. Я бы вставил фрагмент кода или описал проблему, которую я решил несколько минут назад. Я ожидал, что система всплывет в этом непосредственном контексте. Вместо этого я получил свои лучшие хиты. Система вернула архитектуру всего проекта. Это вернуло три факта, которые я постоянно просматриваю. Он вернул вещи, с которыми все связано несколько месяцев назад. То, что я бы не получил, было настоящей работой прошлой ночи. Это было то, что мне буквально нужно было возобновить. Это было неприятно, потому что система не была нарушена. Он работал именно так, как задумано. Рейтинг был правильным. Это был просто ответ на неправильный вопрос. Причина не является багом в обычном смысле. Каждая работа работала по назначению. Рейтинг является центральным: время доступа соединения. Память, которую я написал час назад, близка к нулю. У него еще нет соединений, потому что ничто не было отозвано рядом с ним, и нет счета доступа, потому что я не поднял его. Таким образом, он находится внизу, структурно под каждым концентратором, который был усилен в течение нескольких месяцев. С поиском ничего не случилось. Новая память присутствовала. Он просто проигрывал честно. Это неправильный ответ на вопрос, что именно произошло. Это то же самое, что делает ваша собственная память. Вы можете подробно описать дом, в котором выросли. Вы не можете найти ключи. Устойчивость и стойкость не являются одной и той же осью. Когда в яркости преобладает подкрепление, новые воспоминания оказываются в невыгодном положении. Я восстановил эту торговлю программным обеспечением, не замечая этого. Я создал систему, которая была превосходна в том, чтобы сказать мне, кто я, но ужасна в том, чтобы сказать мне, что я делаю. Очевидное решение заключается в том, чтобы рассматривать это как проблему взвешивания. Добавьте рекенсионное повышение, подтолкните последние пункты вверх по списку, настройте его, пока баланс не почувствует себя правильно. Это была неверная абстракция. Тюнинг не устраняет конфликт. Он просто скользит по границе отказа. Поверни λ достаточно, чтобы всплыть прошлой ночью