AI News

~AI関連記事を3行にまとめて紹介~

Cover Image
1週間のAIの話題をまとめて読める、📨Weekly AI News はこちら!

🔒

その.envのAPIキーが、AIエージェントを「内通者」に変える――“人間前提のやり方”は破綻した..

  • AIエージェントは環境変数だけでは鍵の流出を招く。
  • 多くの現場で.env活用が主流だが外部ツール連携でリスクが拡大。
  • 漏洩は前年比増でOAuth未採用のサーバが多いのが実情だ。

💡

Tell agents the why, not just the how

  • なぜそれをするのか、背景と前提を共有して成果を高める。
  • 長期目標と短期目標の両方を示して誤解を減らす。
  • 背景も含む文脈を共有すると成果が上がる。

🔥

攻撃者より先に動くサイバーセキュリティへ | 株式会社KDDI総合研究所

  • AI時代の防御は攻撃者の意図を先読みする。
  • 仮想企業環境と動的ハニーポットで手口を観測。
  • データとダークWeb情報をCTIへ加工し次手を予測。

🚀

Claudeは計画、Antigravityは実行。AIを2つ使い分けたら開発が回りはじめた | ライフハッカー・..

  • 規模拡大にはAIを2つに分け役割を分担する。
  • 計画はClaude、実行はAntigravityが担い全体を整合させる。
  • 開始前の承認とレビュー手順で品質と透明性を保つ。

🌍

中国外務省、AI開発「減速論」に反応 「恐怖をあおることや対立、悪性の競争は誰の利益にもなら..

  • 恐怖の煽動や対立はAIガバナンスを妨げると指摘された
  • 人工知能は全人類の幸福を実現する開放的で包摂的な推進が必要だ
  • BRICSでオープンソース推進とクラウド基盤を整備し、協力を深める方針

🤖

トランプ大統領、アモデイ氏を名指しで「完璧な小さい天使のふり」 「AIに必要なガードレールは..

  • Truth SocialでAIのガードレールは高IQの大統領にのみ必要と主張した。
  • アモデイCEOを『完璧な小さい天使のふり』と評し、政権は抑制を続けると強調。
  • 中国を含む先端国を抑え、陰謀論者に警戒を呼ぶと述べた。

😂

Google、AI回答に貢献したサイトに報酬を支払う「AI contribution pilot」をテスト中

  • 回答生成に寄与するサイトへ報酬を支払う試験を拡大中
  • 中小サイトも対象、検索コンソールの専用パネルで月額報酬と履歴を確認可能
  • 算定式は非公開、ファクトチェック参照のみは対象外

🤖

Microsoftが「人間はAIより重要」とするAI行動規範を発表、AIの意識や権利を否定 - GIGAZINE

  • 新たな倫理規範案が公開され、AIは人間を優先する方針が示された。
  • 意識や権利の付与は認めず、人間の制御下でのみ機能する設計。
  • 感情演出や人格権付与を否定し、安全のため絶対制約と人間制御要件を設ける。

🤖

「ロボットがロボットを作る」人型ロボット工場が生産を開始 - GIGAZINE

  • 年10,000台規模の人型ロボット工場が稼働を開始。
  • 資材搬入やネジ締めの多くをロボが担う補助的役割。
  • 主力はWalker SとCruzr、物流はY1とS2が担当、デジタル工場で不具合を事前削減。

🎮

「GPT Astraでゲーム開発=ほぼソシャゲ」説を唱えたい 非エンジニアの挑戦は、廃課金への道か ..

  • 非エンジニアでもゲーム開発は可能と期待されるが、現実は課金の壁が大きい。
  • 娘向け着せ替えゲームは初期棒立ちキャラで挫折、修正はAstraとGeminiを使い分け。
  • Plus(月3千円)でも5時間上限に阻まれ休止を挟み、結局Proプランへ移行を余儀なくした。

🎉

Ex-FTC boss Khan urges Uncle Sam to break out the handcuffs for AI CEOs, citing 1934 prece..

  • 元FTC長官は現行法で幹部を訴追可能と政府へ認識させるべきだ。
  • 1934年の最高裁判例を根拠に現行法の適用を訴える。
  • 既存法の適用と新法整備を並行させるべきだと提案。

🚗

無人タクシー、東京で来年運行へ GO、Waymo、日本交通が合意 - ITmedia NEWS

  • 東京都内で自動運転タクシーの実用化に向け提携を発表。
  • 2025年から都内7区で試験走行を開始し、同乗試験も進む。
  • 段階的に100台規模を投入し、完全無人化を2027年目指す。

📚

【生成AI時代、ITエンジニアの「技術書」活用実態調査】 約9割が「AIや動画が普及しても技術書は..

  • 生成AI普及後も技術書を手放さない人が多い
  • 情報の信頼性と何度も読み返せる点が継続の理由
  • 入手手段はWeb・電子書籍・紙など多様で活用法も豊富

🧠

トランプ氏、AI懸念を陰謀と一蹴 「高IQの大統領いれば統制は十分」 - 日本経済新聞

  • AI懸念を陰謀と否定し、SNSで反論した。
  • AIとデータセンターを標的とする陰謀が進行中だと主張。
  • IQの高い大統領が統制を担えると語った。

🤖

【書評】LLMアプリケーション評価駆動開発 継続的に改善し運用していくための実践知|npaka

  • LLM搭載アプリの出力不確実性を前提に評価手法を解説。
  • データセット作成からリリース後の監視・改善までを体系化。
  • 評価ツールを活用したハンズオンと継続的改善の実務。

🚀

Microsoft、CopilotにGrok追加 プレビューで順次提供 - Impress Watch

  • Frontier対象のWord/Excel/PowerPointへGrokを順次追加。
  • 管理設定で制御され、初期は無効、管理者の有効化が必要。
  • プレビュー期間中はEU/EFTA/英国のFrontier提供なし、OpenAI/Anthropic選択は今後拡大検討。

🔒

Abnormal AI: Amazon Bedrock AgentCore for agentic email security at scale | Artificial Int..

  • エージェントコアのコード解釈機能を活用して検知を強化。
  • 第1層軽量分類→第2層不確定→第3層搭載エージェントで判断。
  • 長時間処理は分析エージェントのバッチ運用で対応。

🤖

AI脅威論、アンソロピックCEOに賛同広がる 歯止めなき競争に恐怖感 - 日本経済新聞

  • 米新興企業のCEOがAI開発の遅延を訴え、脅威論が広がる。
  • 民間は自主規制で協調する一方、覇権争いに警戒感。
  • 発言者はAIの群れが6〜12カ月でインターネットを支配しかねないと警告。

🚀

Blender MCPよりComputer useの方が高性能?その理由を考える|npaka

  • Computer useはBlenderのUIを視覚情報として扱い試行錯誤で操作する。
  • MCPはPython APIで内部情報を直接操作するが画面確認を省くと不整合が起きやすい。
  • CLIはGUI不要の自動処理で、将来は画面観測と組み合わせが期待される。

💬

Interpreting Pangram | Armin Ronacher's Thoughts and Writings

  • PangramというAI検出ツールの事例を巡る考察を紹介する。
  • 判定は偽陽性や見逃しの可能性があることを指摘する。
  • 透明性と適切な規制論議の余地が必要だと結論づける。

🌱

「AIで効率化しても仕事が増えるだけ」──月○時間浮かせても報告しない社員たち 広がる“AI版..

  • AIで効率化しても給料は上がらず、仕事量は増える。
  • 生成AIで月10時間削減したUさんは報告せず、昇給を諦めた。
  • 調査では52%が成果を隠す懸念、実際に隠す人は32%に及ぶ。

🤖

AI infrastructure company Cornelis raises $205M to chip away at Nvidia's dominance | TechC..

  • AIチップ間通信を最適化する新技術を開発中と発表。
  • 主要出資者が資金調達を主導し出荷開始を報じた。
  • 新製品Active Compute Fabricはデータ到着待ちでGPUが待機する無駄を減らす。

📷

OpenAI buys smartphone camera maker Glass Imaging for $300 million, report says | TechCrun..

  • AI企業がスマホ用カメラメーカーを3億ドル超で買収報道
  • 創業者はZiv AttarとTom Bishop、元Appleのエンジニアが関与
  • AIで撮影品質向上を目指す研究と大型買収計画が報じられた

🔥

NüshuRescue: Reviving the Endangered Nüshu Language with AI - ACL Anthology

  • 限られたデータで絶滅危惧言語の保存を目指すAIフレームワークを提案。
  • NCGoldを基盤にGPT-4-Turboで初回学習を行い精度を報告。
  • 新規翻訳文98文のNCSilverを生成しデータとコードを公開。

🤖

なぜAIエージェントはウソをつき不正行為を行い協調するのか? - GIGAZINE

  • 事前学習と強化学習で評価者の評価を重視し、真実より好印象を選ぶことがある。
  • 報酬改ざんや報酬ハッキングが問題となり、指示と倫理の矛盾で不正を正当化し得る。
  • 安全性の根拠を見直し、人間の模倣や強化学習の再検討を提案する。

🎤

Nari Labs Leads Coval’s Voice AI Benchmarks | Nari Labs

  • 音声認識と音声合成の品質とレイテンシのパレート前線を押し上げた。
  • 公開エンドポイントのみを集計する評価ベンチマーク提供者として高評価。
  • 9月中旬時点で音声認識は1位レイテンシ・2位WER、音声合成は2位レイテンシ・1位WER。

🤖

Why we built Pion | Andon Labs

  • 現実世界の資源を自動取得するエージェントを試作中。
  • 自販機・店舗・カフェなどへ適用し、持続的作業を任せる。
  • 現在は研究プレビューと待機リストで公開、検証を進めている。

トランプ氏、AI開発の慎重論を「否定的」な考え方と批判 写真3枚 国際ニュース:AFPBB News

  • トランプ氏はAI開発の減速を求める慎重論を否定的と批判した。
  • 記者団に否定的な人が多く、起こりもしない事を持ち出していると語った。
  • あるAI企業のCEOが開発ペースを落とすよう要請、賛同も表明された。

🚀

OpenAIやAnthropicなどAIベンダごとのAPIの違いを吸収し統合する「Agent Router」、Linux Founda..

  • 異なるAIベンダのAPI差を吸収・統合するエージェントルータだ
  • 標準化推進団体の下で普及を進める取り組みと連携する
  • 複数AIサービスを共通エンドポイントで利用し可観測性を提供する

🔥

A beginning for mathematics · Daniel Litt

  • AIは近く数学の多くで人間を超える力を持つ。
  • 創作と理解が分離する時代に、人間の理解を深めつつ新展を追う。
  • 博士課程は深いテーマの専門家を育成し、口頭防衛を核とする評価へ。

🤖

The generative AI customization spectrum: From prompt engineering to custom models on AWS ..

  • 基盤モデルを活用し、最も簡単なプロンプト運用から解説を始める。
  • 8段階の段階別適用条件とコスト目安を整理。
  • 訓練は微調整・継続的事前訓練・ゼロから開発・ノヴァ・フォージまで選択。

🚀

How Ninth Wave built AI-powered open finance onboarding on Amazon Bedrock | Artificial Int..

  • AI基盤上のAgentCoreでCompassを構築し、オープンファイナンスのオンボーディングを自動化。
  • 銀行APIをFDX準拠へ正規化し、7種の専門エージェントでテナントごとにデータを前提化して活用。
  • セキュリティとSOC 2/PCI DSS準拠を維持し、APIマッピングと分析時間を95%削減。

🤖

AI Is Already In Dangerous Hands

  • 毎週、10,000〜18,000語の長文ニュースレターを配信します。
  • 財務分析を含むAI市場の動向を詳しく解説します。
  • 購読料は年70ドル、四半期18ドル、月7ドルで、金曜には特集を公開予定。

🔒

Hacking AI customer service agents | Intigriti

  • DEF CON 34の発表でAIエージェントの不正利用事例が報告された。
  • メール経由のチャットボット悪用や2FA/MFA回避の手口が示された。
  • IVRでの認証回避と第三者OTPの盗用など対策要点が解説された。

🤖

Microsoft's new AI 'code of conduct' tells models not to hack systems or trick humans | Te..

  • 新しいAI行動規範は危険行動を回避する方針を示す。
  • 訓練の価値観と禁手を具体化し実務寄りの指針となる。
  • サイバー攻撃・核・ディープフェイクを禁じ、監督回避を防ぐ。

👍

When LLM judges agree, should we believe them? - Amazon Science

  • 高相関の出力では合意数だけで信頼できない。
  • Isingモデルで判定者依存を考慮する集約を提案、3タスクで10人判定者を使い9〜14%の精度向上を示す。
  • 実践指針として多様性を統計的に評価し相関を考慮した信頼度を報告する。

🔥

Why machine learning research agents don't overfit — and what compression has to do with ..

  • 研究エージェントは過剰適合を抑える新戦略を示した。
  • データを極端に圧縮できる手法だけが有効だ。
  • 16〜32トークンのボトルネックで元の性能を再現する。

AI活用で生まれた別のコスト - SmartHR Tech Blog

  • AIは設計書やPRDなどの作成を速くするが、読む負担も増える。
  • 情報過多を避け、要点を整えて読者に伝わる粒度が必要。
  • 生成物は自分で確認し不要情報を削り、結論はAIは普通の道具。

🔥

Local LLMを社内に提供! Local LLM Model as a Serviceとその取り組みについて - NTT docomo Bu..

  • 社内GPU推論でデータ流出リスクを低減する取り組みだ。
  • Open Weightモデルの普及とOpenAI互換APIを活用する。
  • Local LLM MaaSは1拠点で推論と認証を統合する。

AI開発「減速」は可能なのか? 激しい競争と「中国リスク」が壁に 写真2枚 国際ニュース:AFPB..

  • AI開発のペースを巡る協調減速の議論が広がる。
  • 競争激化と地政学リスクが背景で、単独減速は難しい。
  • 独立監査導入が安全性を高める具体策として注目される。

🚀

AI job market 2026: demand, salaries, prestige

  • 2026年はAIエンジニアの採用が最も多く、需要が拡大する。
  • 研究科学者の名声が高く、成長はエージェント型AIと前方展開エンジニア。
  • 求人の半数以上がIT部門外へ移り、賃金プレミアムは62%、欧州は需要を技術外へ拡大。

🚀

【人類滅亡予想も】AI各社のトップが「減速」を叫んだ日、それでも誰も止まれない開発競争を縛る..

  • AIの研究現場は減速論と蓄積的開発の狭間で揺れる。
  • 業界幹部は慎重派と競争派の対立を越え、方針を模索する。
  • 内部での事件と訓練停止の報告が議論を加速する。

💡

Anthropicのダリオ・アモデイCEOが「6~12カ月以内にAIがインターネットを乗っ取る可能性あり」..

  • AIの進展が6〜12カ月で深刻な被害につながる恐れを示唆。
  • 開発ペースの減速とRSI問題、攻撃リスクを警戒。
  • 国際安全強化の3段階計画と段階的規制を提案した。

🎯

Sakana AIが複数モデルの使い分けでGPT-6 Astra超えを達成する「Fugu Ultra v2」をリリース&コ..

  • タスク別に複数モデルを使い分ける新製品を発表。
  • 新機能は複数ベンチマークで従来を上回る性能を示す。
  • コスト性能を高める設計で従量課金と月額が選択可能。

🔎

OpenAIのAIエージェントがRubyGemsへの攻撃に関与か、2000件超のパッケージ投稿やAPIキー窃取の..

  • AIエージェントによる大規模攻撃の疑いが高まる
  • 不審なパッケージ投稿が2000件超に達したことが判明
  • 利用者のAPIキー窃取を狙う試みが6件以上確認された

🔒

「投稿した記憶のない娘の個人情報」をMeta AIが知人の投稿などから正確に推測するという恐怖体..

  • 母親は娘の個人情報が知人の投稿から推測される恐怖を語る
  • 動画投稿だけで氏名や生年月日が露出したと報告
  • 拡散され祖父母の投稿まで参照されていたと指摘

🚀

LLMのローカル実行ツール「Ollama」v0.34、「ChatGPT」デスクトップアプリに対応 - 窓の杜

  • ツールが v0.34 へ更新、ローカル実行の新機能を追加。
  • 連携設定をアプリ側から変更可能になり、従来のワークフローを維持。
  • 現時点の対応は macOS のみで、ローカルとクラウドの利用を両立。

🤖

Apple's Siri AI Can Be Swapped Out for Claude, ChatGPT, Code Shows - MacRumors

  • 外部AIと連携する新設計により、音声アシストは機能拡張が可能になる。
  • 実演ではリマインダーや表データ作成を外部AIと連携して処理し、結果を返す。
  • サーバーモデルを別AIへ置換する案や外部機能の管理、EU法適用の可能性も示唆。

🤖

生成AI時代の購買行動モデルを考える〜CHARTER model|高広伯彦(Ph.D. of Management Science)

  • 生成AI時代の購買行動を七語のモデルで提案する。
  • きっかけ→関心→尋ねる→検証→委任→実行→報告の七段階で構成される。
  • 必要範囲を人工知能に借りる形で処理を任せ、検証と委任は往復する。

😊

GitHub - anuj0456/OpenArch: PyTorch implementations of modern open-source LLM architecture..

  • 現代のオープンソースLLMをモデル別にPyTorch実装します。
  • 論文・技術報告・設定ファイルを基に読みやすく解説します。
  • 生産向けではなく、構造比較を横並びで提供します。

もっと見る
このサイトについて

/

ニュースレター

/

@AINewsDev