HarmonyFidelisHarmonyFidelis
ログイン
本文へ移動
AURA
AIを学ぶAIを設定公開プログラム
AIを学ぶ

基礎知識

学習推論

仕組み

表現コンテキストと記憶アーキテクチャ拡散

高度な研究

推論能力とエージェント世界モデルAGIとASI評価

各分野を自由に探索できます。詳細にもいつでも進めます。

Auraのホーム
AuraAIを理解する推論

コンテキストから次のトークンへ

モデルの確率と、出力を選ぶ規則を区別します。

要点実験する詳しく学ぶ
科学的な出典

学習用シミュレーション・架空の数値

温度を変えると何が変わる？

空は…

基準 · T = 1

青い60 %
灰色30 %
澄んだ10 %
0 %25 %50 %75 %100 %

変更後 · T = 1

青い60 %
灰色30 %
澄んだ10 %
0 %25 %50 %75 %100 %
1
T = 1：基準の分布と同じです。

候補は3つだけです。実際のモデルには接続せず、1回の抽出では回答品質を測れません。

理解を確かめる

答える前に、自分の言葉で説明してみてください。

温度を上げると、元はまれだったトークンが選ばれやすくなることがある。

覚えておきたいこと

確率はその文脈でのモデルの選好を表し、真実の確率ではありません。温度は知識を追加せず抽出を変えます。この例の候補は架空の3つだけです。

詳しく学ぶ
概念から実践へ実践する · ChatGPT

科学的な出典

  • Vaswani et al. · 2017Attention Is All You NeedarXiv v7 · 2023
    原著論文

引用した公開資料の学習用要約です。各論文の結果は、その課題、手順、計算資源の条件に依存します。

次に学ぶ表現評価

検索 Aura

18 件の結果

AIを学ぶモデルを学習させてから使う学習済みパラメータと、依頼時に渡す情報を区別します。
AIを学ぶコンテキストから次のトークンへモデルの確率と、出力を選ぶ規則を区別します。
AIを学ぶテキストから表現へベクトルを人間の意味そのものと同一視せずに理解します。
AIを学ぶどの記憶のこと？コンテキスト、再帰状態、パラメータ、永続ストレージを区別します。
AIを学ぶTransformer：注意の仕組みアーキテクチャ、学習方法、システム全体を同じ階層で比較します。
AIを学ぶノイズを除いて生成する学習時の劣化過程と段階的な生成を区別します。
AIを学ぶモデルから行動するシステムへモデルとツールを取り巻く実行ハーネスを理解します。
AIを学ぶ行動を選ぶために予測する長い見通しと、不正確な予測のリスクを調べます。
AIを学ぶ単一の判定ではなく定義を比べるラベルを使う前に、汎用性、性能、適応を調べます。
AIを学ぶ結果から何が言えるか説得力のある印象から、再現可能な比較へ進みます。
AIを設定ChatGPTプロジェクトを準備する明確な目的、必要な文脈、実際に使える指示を用意します。
AIを設定タスクに合うツールを選ぶ必要な作業から考えます。万能な順位付けではなく、アクセス範囲と結果を比較します。
AIを設定検証できる依頼にするやりたいことを目的、文脈、成功の基準に整理します。
AIを設定必要な情報を適切な場所へ作業のルール、タスクの資料、製品が管理するメモリを区別します。
AIを設定開発環境を準備するモデルの役割、実行環境の機能、必要なアクセスを定義します。
AIを設定開発の手順を組み立てる準備、変更、検証、報告を整理し、有用な手順を再利用します。
AIを設定ミッションを準備し結果を検証する再現できる例、チェックリスト、観察結果の記録を作ります。
公開プログラムTentacular公開されている用途、機能、資料を紹介。