HarmonyFidelisHarmonyFidelis
Войти
К содержанию
AURA
Изучить ИИНастроить ИИПубличные программы
Изучить ИИ

Первые понятия

ОбучениеИнференс

Механизмы

ПредставленияКонтекст и памятьАрхитектурыДиффузия

Передовые исследования

Рассуждение и агентыМодели мираAGI и ASIОценка

Каждый раздел можно изучать независимо. Подробности доступны в любой момент.

Главная Aura
AuraПонять ИИПредставления

От текста к представлениям

Понимайте векторы, не приравнивая их к человеческому смыслу.

ГлавноеЭкспериментПодробнее
Научные источники
Определение

Таблица эмбеддингов сопоставляет идентификаторам токенов векторы. Следующие слои преобразуют их с учётом контекста. Представление слова может зависеть от окружающих слов и цели обучения.

Формула

xᵢ = E[tokenᵢ]; hᵢ = fθ(x₁, …, xₙ)ᵢ

E — таблица эмбеддингов; fθ создаёт контекстные представления h. До сравнения векторов укажите слой и метрику.

Допущения и обозначения

E — таблица эмбеддингов; fθ создаёт контекстные представления h. До сравнения векторов укажите слой и метрику.

Ограничения интерпретации

Близость зависит от представления и метрики. Она может помогать поиску документов, не доказывая равенство смысла или человеческое понимание.

На этой странице

ОпределениеФормулаДопущения и обозначенияОграничения интерпретацииНаучные источники
Главное
От понятия к практикеПрименить на практике

Научные источники

  • Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023
    Первичная публикация

Учебное изложение указанных источников. Результаты публикаций ограничены их задачами, протоколами и ресурсами.

Изучить такжеКонтекст и памятьИнференс

Поиск Aura

18 результатов

Изучить ИИОбучить модель, затем использовать еёОтделяйте выученные параметры от информации текущего запроса.
Изучить ИИОт контекста к следующему токенуРазличайте вероятности модели и правило выбора результата.
Изучить ИИОт текста к представлениямПонимайте векторы, не приравнивая их к человеческому смыслу.
Изучить ИИО какой памяти идёт речь?Разделяйте контекст, рекуррентное состояние, параметры и постоянное хранилище.
Изучить ИИTransformers: механизм вниманияСравнивайте архитектуры, методы и полные системы на подходящем уровне.
Изучить ИИГенерация удалением шумаРазличайте зашумление при обучении и пошаговую генерацию.
Изучить ИИОт модели к действующей системеПоймите исполнительную среду вокруг модели и инструментов.
Изучить ИИПредсказывать, чтобы выбирать действиеИсследуйте длинный горизонт и риск неверного прогноза.
Изучить ИИОпределения вместо единого вердиктаИзучите общность, результативность и адаптацию до применения ярлыка.
Изучить ИИЧто позволяет заключить результатПереходите от убедительного впечатления к воспроизводимому сравнению.
Настроить ИИПодготовить проект ChatGPTЧёткая цель, нужный контекст и инструкции для практического использования.
Настроить ИИВыбрать под вашу задачуНачните с потребностей. Сравните доступ и результаты без универсального рейтинга моделей.
Настроить ИИСделать запрос проверяемымПреобразуйте намерение в цель, контекст и критерии успеха.
Настроить ИИРазместить информацию правильноРазличайте правила работы, материалы задачи и память, которой управляет продукт.
Настроить ИИПодготовить среду разработкиОпределите роль модели, возможности среды и необходимые права доступа.
Настроить ИИСоставить процесс разработкиОрганизуйте подготовку, изменения, проверку и отчёт. Повторно используйте полезные шаги.
Настроить ИИПодготовить задачу и проверить результатВоспроизводимый пример, список проверок и запись наблюдений.
Публичные программыTentacularПублично представленные задачи, функции и материалы.