AI News

～AI関連記事を3行にまとめて紹介～

「Mistral-7B」は7.3BパラメータのオープンソースなLLMで、テキスト要約や分類、テキスト補完、コード補完などの機能を持つ
「Mistral-7B」のモデルは現在2つ提供されている
「Mistral-7B」をベースとした追加学習モデルが多数登場している

LLaVA-1.5は、V&Lモデルの中で初めてキャラの順位を正しく答えることができました。
Vision-Languageコネクターの改善やスケーリングの影響の調査を行い、LLaVAの性能を向上させました。
LLaVA-1.5は、他の手法と比較して最高の性能を達成し、将来の研究のためのベースラインとなることが期待されます。

Colab AIは、Google Colab上でのコーディング支援を行うAIツールです。
AIによるオートコンプリートや自然言語によるコード生成、エラーの説明などの機能があります。
「ツール→設定→Colab AI」でColab AIの有効・無効を設定できます。

ノア・スミスは「ふつう・平均・中流」のよさを重要視し、平等主義的な社会が必要だと考えていた
生成AIの登場により、技能の落差が縮まる可能性があると楽観的に考えている
AIの支援により、経験の浅い従業員が迅速に成績を向上させ、格差が縮小される可能性がある

EBR（埋め込みベースの検索）は、求職者と企業の間の効率的かつ効果的なマッチングを実現する主要な技術です。
EBRは、求人情報やフィード、通知などの機能で使用され、個別のアイテムの埋め込みとリクエスト側の埋め込みの類似性に基づいて、関連するアイテムを検索します。
EBRの実装により、パーソナライズされたコンテンツの提供能力が大幅に向上し、情報の検索と推薦のプロセスが効率化され、より効果的になりました。

Chain of Density（CoD）は、生成される要約の情報密度を制御し、適切なバランスを保つためのテクニックです。
CoDは、AIモデルに必要なポイントを含めながら不要な詳細を避けるための特別なプロンプトを使用します。
CoDのプロンプトエンジニアリングプロセスは、要約するテキストを特定し、初期の要約プロンプトを作成し、情報が不足しているか過剰であるかを判断し、要約の詳細レベルを調整するための追加のプロンプトを作成するというステップから成り立っています。

新画像生成AIのDALL-E 3は、複雑なプロンプトにも忠実で正確な画像を生成可能
ChatGPTとの対話を踏まえて画像を生成することもできる
テキストの意味を把握する能力が高く、情報の損失が少ない

ディズニープラスのロキのプロモーションポスターが生成AIを使用したとの主張で論争になっています。
AI画像生成器が人間のアーティストを置き換える可能性にクリエイティブコミュニティが懸念を抱いています。
AI生成のストックイメージの使用がクリエイティブプロフェッショナルの間で実際の問題となっています。

オープンソースソフトウェアと機械学習の交差点と将来の展望について解説
機械学習コミュニティがオープンソースソフトウェアをどのように使用しているかを詳述
両分野の類似点と機械学習がオープンソースソフトウェアから学べること、学べないことに焦点を当てる

FF学習アルゴリズムはバックプロパゲーションを必要とせず、2つの対照的なフォワードパスを使用して重みを調整します
FFはRBM、GAN、SimCLR/BYOLなどの異なる概念を参照し、小規模なネットワークやデータセットに効果的です
アナログハードウェアの訓練にはバックプロパゲーションを必要とせず、蒸留という効果的な方法がありますが、寿命があり、ソフトウェアとハードウェアが切り離せません

マイクロソフトリサーチと他の共同研究所がLLMの評価に関する新しい研究を発表
新しい評価プロトコルDyValを紹介し、LLMの動的評価を行う
DyValで生成されたサンプルは、LLMのパフォーマンスを改善するための有益なデータとなる

ソフトウェアの購入者の85%がオンラインのレビューを個人の推薦と同じくらい信頼しているとガートナーが報告。
Amazon SageMaker Canvasを使用すると、ビジネスアナリストが製品レビューから洞察を得ることが可能に。
SageMaker Canvasは、ビジネスアナリストがコードを1行も書かずに正確なML予測を生成できるビジュアルなポイントアンドクリックサービス。

Amazon Personalizeは、ユーザーの過去の行動から好みを学習し、行動の変化に迅速に適応するマネージドサービスです。
Amazon Personalizeが学習する主なデータのタイプは、ユーザーID、アイテムID、タイムスタンプを含む表形式のデータセットです。
ユーザーは、モデルが行動トレンドを学習できるように、自分の顧客の相互作用を含むデータをアップロードする必要があります。

大規模言語モデル（LLM）の自己修正能力についての研究が行われ、推論タスクにおいては自己修正がしばしば失敗することが明らかになった
自己修正は、LLMが自身の出力の正確さを評価し、応答を洗練させることができるという考えに基づいている
自己修正が効果的に機能するのは、モデルが正解ラベルにアクセスできる場合で、正解へのアクセスが常に利用可能であるわけではない

Mistral 7Bの基礎モデルがAmazon SageMaker JumpStartで利用可能になりました。
7兆のパラメータを持つMistral 7Bは、テキスト要約、分類、テキスト補完、コード補完などをサポートしています。
Mistral 7Bは、グループ化されたクエリアテンションとスライディングウィンドウアテンションを使用して、低レイテンシで長いシーケンスを処理します。

DeepMindの最新研究で、プロンプトエンジニアリングの新手法『Promptbreeder』が発表
遺伝的アルゴリズムを用いてプロンプトを最適化し、従来の手作りプロンプト戦略を上回る性能を持つことが示された
この手法はプロンプトエンジニアリングの分野において新たな可能性を切り開くことが期待される

30年以上前のAIシステムChatGPTによってAIが急速に普及したが、ファミコン世代はもっと昔からAIに触れていた。
ドラクエⅣはAIシステムを初搭載し、社会現象となったが、AIの行動は時に不完全で、プレーヤーに苦い思い出を残した。
AIは敵のHPを元に行動を決め、学習もする。AIの学習は同じ敵との戦闘回数に応じて行われ、最適な攻撃方法を選択するようになる。

AIはソフトウェアの変革期を迎え、アイデアからソフトウェアへの移行を高速化する重要な要素となっています。
すべての開発者にAI機能を提供することが不可欠であり、コードの補完とコードの支援はデフォルトで有効になります。
AIがすべての機能を再定義し、ソフトウェアが編集や展開されるたびにAIが基本的な役割を果たすことが近い将来のロードマップです。

2023年10月10日

|

2023年10月08日

このサイトについて

/

ニュースレター

/

@AINewsDev