HarmonyFidelisHarmonyFidelis
ログイン
本文へ移動
AURA
AIを学ぶAIを設定公開プログラム
AIを学ぶ

基礎知識

学習推論

仕組み

表現コンテキストと記憶アーキテクチャ拡散

高度な研究

推論能力とエージェント世界モデルAGIとASI評価

各分野を自由に探索できます。詳細にもいつでも進めます。

Auraのホーム
AuraAIを理解する表現

テキストから表現へ

ベクトルを人間の意味そのものと同一視せずに理解します。

要点実験する詳しく学ぶ
科学的な出典

要点

仕組み

埋め込み表はトークンIDをベクトルに対応付けます。後続の層がコンテキストと組み合わせて変換します。同じ語でも、周囲の語や学習した目的によって内部表現が変わりえます。

覚えておきたいこと

近さは表現と距離尺度に依存します。文書検索に役立つ近さでも、意味の一致や人間と同じ理解を証明するわけではありません。

実験する
概念から実践へ実践する

科学的な出典

  • Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023
    原著論文

引用した公開資料の学習用要約です。各論文の結果は、その課題、手順、計算資源の条件に依存します。

次に学ぶコンテキストと記憶推論

検索 Aura

18 件の結果

AIを学ぶモデルを学習させてから使う学習済みパラメータと、依頼時に渡す情報を区別します。
AIを学ぶコンテキストから次のトークンへモデルの確率と、出力を選ぶ規則を区別します。
AIを学ぶテキストから表現へベクトルを人間の意味そのものと同一視せずに理解します。
AIを学ぶどの記憶のこと？コンテキスト、再帰状態、パラメータ、永続ストレージを区別します。
AIを学ぶTransformer：注意の仕組みアーキテクチャ、学習方法、システム全体を同じ階層で比較します。
AIを学ぶノイズを除いて生成する学習時の劣化過程と段階的な生成を区別します。
AIを学ぶモデルから行動するシステムへモデルとツールを取り巻く実行ハーネスを理解します。
AIを学ぶ行動を選ぶために予測する長い見通しと、不正確な予測のリスクを調べます。
AIを学ぶ単一の判定ではなく定義を比べるラベルを使う前に、汎用性、性能、適応を調べます。
AIを学ぶ結果から何が言えるか説得力のある印象から、再現可能な比較へ進みます。
AIを設定ChatGPTプロジェクトを準備する明確な目的、必要な文脈、実際に使える指示を用意します。
AIを設定タスクに合うツールを選ぶ必要な作業から考えます。万能な順位付けではなく、アクセス範囲と結果を比較します。
AIを設定検証できる依頼にするやりたいことを目的、文脈、成功の基準に整理します。
AIを設定必要な情報を適切な場所へ作業のルール、タスクの資料、製品が管理するメモリを区別します。
AIを設定開発環境を準備するモデルの役割、実行環境の機能、必要なアクセスを定義します。
AIを設定開発の手順を組み立てる準備、変更、検証、報告を整理し、有用な手順を再利用します。
AIを設定ミッションを準備し結果を検証する再現できる例、チェックリスト、観察結果の記録を作ります。
公開プログラムTentacular公開されている用途、機能、資料を紹介。